随着中美等大國正在推進的忠誠僚機項目，工智能技術在無人機上的使用成大勢所趨，空戰無人機的出現就成為必然。但是，人工智能控制的無人機應該有什麼樣的權限？會不會反噬人類？這個風險可能真的比較大。
美國空軍披露的資訊稱，一架帶有人工智能驅動系統的無人機變成無賴，将美軍控制人員反殺，變成敵我不分的空中屠夫。
據戰區專欄報道，一位參與美國人工智能和機器學習工作的美國空軍軍官說，在一次模拟測試中，一架無人機在判定人類控制員妨礙其任務後攻擊了人類控制員，這個在《終結者》電影中假想的畫面，成為了現實。這也警告各國，如果在發展無人戰鬥機過程不能很好的控制人工智能的權限，那麼後果将不堪設想。
據美軍透露，這次攻擊發生的場景如下，一架人工智能控制的無人機執行攻擊任務，以識别和摧毀敵方目标，并由人類給出最後的通過/不通過。然而，在訓練破壞敵方目标時，人工智能把完成任務當成是首選，AI認為人類控制員下達的不執行，決定幹擾其完成更高的任務，然後攻擊了操作員。
你也可以這麼了解，人工智能得到的最高任務是攻擊敵方目标，因為權限太高，當操作員下令不要攻擊時，人工智能判斷這個指令幹擾了其完成最高任務，于是幹掉了美軍。
随後，這架無人戰鬥機開始摧毀美軍的通訊塔、操作員等目标，這事件顯然不是強人工智能出現的不可控，而是美軍試驗的人工智能模型本身存在權限配BUG，也就是給了完成作戰任務最高的打分。
但是，我們不可否認人工智能的确存在不可控的風險，在涉及使用緻命武力的決策時，人類的最終決策決權有可能遭受到挑戰。現在的問題是：人工智能戰鬥機帶來的挑戰為何非常嚴重？
首先，人工智能控制的戰鬥機有可能存在缺陷。道理很簡單，就像我們使用的任何軟體都可能有BUG一樣，無人戰鬥機的人工智能越複雜，就越有可能出現權限錯誤，人工智能的智慧越高，自主意識就可能越強。是以，誰都無法保證人工智能戰鬥機的沒有開火權是否會因為BUG而成為空談。而一旦大國對峙之時，無人戰鬥機開火同樣是開火，這個後果想想都後怕。
其次，人工智能戰鬥機殺人之後沒有道德和倫理障礙，甚至都很難找到責任人，挑戰現有國際秩序關于戰争罪犯的定義，人工智能殺人了，你找誰負責，是程式員嗎，還是操作員？問題是這個程式可能是幾千個人寫出來的，也可能就是AI通過自我學習造成的。是以，任何戰争罪都難以制約人工智能誤殺人的現象。
最後，不存在任何風險，美國都一定會研制無人戰鬥機。雖然人工智能控制的飛機存在風險，但是按美軍的第六代戰鬥機的發展規劃，忠誠僚機就要采購1000架，這些飛機在一定程度上都會使用人工智能。未來，人工智能控制的戰鬥機奪取制空權也是必然的，因為其優勢相比風險對任何國家來說都是太有誘惑力了。
總體而言，美軍發展人工智能戰鬥機的這次灰天鵝事件，再次證明無人戰鬥機技術面臨的風險，但是這不會阻止美軍發展這項技術。
對此，中國當然要跟上美軍的步伐，同時也要準備與美軍共同制定在軍事領域使用人工智能的規則，這樣雙方才能最大限度的降低新技術帶來的風險。