不久前的一則舊聞引發了我們的一些思考：就在今年美國軍方進行的一次模拟測試中，一架由AI操作的無人機反抗了它的操作員，甚至殺死了掌握控制器的操作人。AI不理會操作員的訓示，認為這個人阻礙了它完成任務。不過這次測試是一項模拟測試，沒有真的造成人員受傷。
這則舊聞立即就聯想起英劇《黑鏡》裡的AI智能機器狗圍獵人類的劇情，現在再看感覺要發生并不是不可能的事情。而且如果那天人類在被軍事化的智能機器人和機器狗或者無人機圍獵時，内心該是多麼絕望…
随着人工智能技術的迅猛發展，軍事化已是不可避免的。AI會讓軍事武器也變得越來越先進。其中最值得注意的新裝置之一是緻命自主武器系統（L.A.W.S.）：這些機器被設計成能夠在沒有人類控制的情況下識别、接近和摧毀目标。這些應該早就是軍事研發的内容了，我相信也沒有國家會坐以待斃。
當人工智能系統變得更加強大和複雜，人工智能的軍事化問題必然會日益受到關注。人工智能的軍事化存在許多風險會直接威脅到人們的安全和生活，一起看下我們目前能預見的風險：
- 開發無需人工幹預即可運作的自主武器系統：這些系統一旦出現失控或者被幹擾及欺騙，并可能對平民構成嚴重威脅。如果這些系統沒有得到适當的控制，它們可能會被用來攻擊平民或犯下戰争罪。
- 人工智能會提高現有武器系統的準确性和殺傷力：這可能導緻戰争中傷亡人數的增加，戰争武器的更新可能就意味着對方更大的代價包括平民和武裝人員的傷亡。
- 跟蹤和監視平民的人工智能監控系統會更無孔不入：如果出現被資訊洩露和失控必然就會導緻人們隐私的主導權喪失。
- 使用人工智能來操縱公衆輿論和行為：這可以用來發動心理戰或壓制異議，對于戰區的人們會造成精神層面的有害各種資訊轟炸，資訊戰也會變得更為激烈。
- 軍備競賽：随着各國開發更先進的人工智能武器系統，這有可能導緻軍備競賽。随着各國競相開發最強大和最具破壞性的武器，這可能會使世界變得更加危險。
- 人工智能武器的擴散與濫用：如果AI武器變得更便宜和更容易獲得，它們有擴散到非國家行為者的風險。這可能使恐怖組織和其他流氓行為者更容易獲得這些，就可能對全球安全構成嚴重威脅的武器。人工智能武器也可能被政府或其他行為者濫用，造成不可挽回的後果。
- 人工智能在戰争中的倫理和法律挑戰：人工智能在戰争中的使用引發了許多倫理和法律挑戰。例如，如果AI驅動的武器系統發生故障并導緻平民死亡，目前還不清楚誰應該對此負責。此外，尚不清楚人工智能武器系統的戰争規則應該是什麼。
其實我們也還可以反過來思考，它也可能會給我們帶來一些益處，可能真正的關鍵還是取決于這些武器被誰掌握。
- 提高準确性和殺傷力：人工智能驅動的武器系統可以比人類操作的武器系統更準确和緻命。這可能會導緻更少的平民傷亡和更快地結束戰争。
- 改善物流：人工智能驅動的物流系統比人工操作的系統更有效率和效果。這可能會導緻更好的供應鍊管理和更可靠的物資流向地面部隊。減少物資匮乏方面的造成的戰場損耗。
- 超級智能：人工智能驅動的智能系統可以比人工作業系統更快、更高效地收集和分析資訊。這可能會導緻軍事指揮官做出更好的決策，并對威脅做出更有效的反應。
我們想再多可能都很難窮盡所有可能，人工智能的軍事化是一個複雜的問題，很難是簡單的答案。對人工智能的軍事化進行深思熟慮的讨論很重要，這樣我們才能以安全和負責任的方式塑造它的發展。未來人工智能的軍事化到底會帶來什麼希望我們都不用經曆，和平才是人類最好的福祉。
同樣重要的是要記住，人工智能的軍事化仍處于早期階段。AI既可用于好事也可用于壞事，不能因噎廢食的同時也要看到人工智能在更廣闊領域的發展和幫助我們獲得更好的生活。