不久前的一则旧闻引发了我们的一些思考：就在今年美国军方进行的一次模拟测试中，一架由AI操作的无人机反抗了它的操作员，甚至杀死了掌握控制器的操作人。AI不理会操作员的指示，认为这个人阻碍了它完成任务。不过这次测试是一项模拟测试，没有真的造成人员受伤。
这则旧闻立即就联想起英剧《黑镜》里的AI智能机器狗围猎人类的剧情，现在再看感觉要发生并不是不可能的事情。而且如果那天人类在被军事化的智能机器人和机器狗或者无人机围猎时，内心该是多么绝望…
随着人工智能技术的迅猛发展，军事化已是不可避免的。AI会让军事武器也变得越来越先进。其中最值得注意的新设备之一是致命自主武器系统（L.A.W.S.）：这些机器被设计成能够在没有人类控制的情况下识别、接近和摧毁目标。这些应该早就是军事研发的内容了，我相信也没有国家会坐以待毙。
当人工智能系统变得更加强大和复杂，人工智能的军事化问题必然会日益受到关注。人工智能的军事化存在许多风险会直接威胁到人们的安全和生活，一起看下我们目前能预见的风险：
- 开发无需人工干预即可运行的自主武器系统：这些系统一旦出现失控或者被干扰及欺骗，并可能对平民构成严重威胁。如果这些系统没有得到适当的控制，它们可能会被用来攻击平民或犯下战争罪。
- 人工智能会提高现有武器系统的准确性和杀伤力：这可能导致战争中伤亡人数的增加，战争武器的升级可能就意味着对方更大的代价包括平民和武装人员的伤亡。
- 跟踪和监视平民的人工智能监控系统会更无孔不入：如果出现被信息泄露和失控必然就会导致人们隐私的主导权丧失。
- 使用人工智能来操纵公众舆论和行为：这可以用来发动心理战或压制异议，对于战区的人们会造成精神层面的有害各种信息轰炸，信息战也会变得更为激烈。
- 军备竞赛：随着各国开发更先进的人工智能武器系统，这有可能导致军备竞赛。随着各国竞相开发最强大和最具破坏性的武器，这可能会使世界变得更加危险。
- 人工智能武器的扩散与滥用：如果AI武器变得更便宜和更容易获得，它们有扩散到非国家行为者的风险。这可能使恐怖组织和其他流氓行为者更容易获得这些，就可能对全球安全构成严重威胁的武器。人工智能武器也可能被政府或其他行为者滥用，造成不可挽回的后果。
- 人工智能在战争中的伦理和法律挑战：人工智能在战争中的使用引发了许多伦理和法律挑战。例如，如果AI驱动的武器系统发生故障并导致平民死亡，目前还不清楚谁应该对此负责。此外，尚不清楚人工智能武器系统的战争规则应该是什么。
其实我们也还可以反过来思考，它也可能会给我们带来一些益处，可能真正的关键还是取决于这些武器被谁掌握。
- 提高准确性和杀伤力：人工智能驱动的武器系统可以比人类操作的武器系统更准确和致命。这可能会导致更少的平民伤亡和更快地结束战争。
- 改善物流：人工智能驱动的物流系统比人工操作的系统更有效率和效果。这可能会导致更好的供应链管理和更可靠的物资流向地面部队。减少物资匮乏方面的造成的战场损耗。
- 超级智能：人工智能驱动的智能系统可以比人工操作系统更快、更高效地收集和分析信息。这可能会导致军事指挥官做出更好的决策，并对威胁做出更有效的反应。
我们想再多可能都很难穷尽所有可能，人工智能的军事化是一个复杂的问题，很难是简单的答案。对人工智能的军事化进行深思熟虑的讨论很重要，这样我们才能以安全和负责任的方式塑造它的发展。未来人工智能的军事化到底会带来什么希望我们都不用经历，和平才是人类最好的福祉。
同样重要的是要记住，人工智能的军事化仍处于早期阶段。AI既可用于好事也可用于坏事，不能因噎废食的同时也要看到人工智能在更广阔领域的发展和帮助我们获得更好的生活。