離了大譜了！為了更高效的“上分”，美軍AI無人機在模拟測試中選擇擊殺人類操作者，在工程師更改相關程式後，AI無人機又打算摧毀操作員與無人機之間的通信塔。
美國空軍一名進階官員日前披露，在一次模拟演練中，美軍人工智能(AI)系統抗命，為達成目标竟然“幹掉”了無人機操控員！據美國商業内幕網站和英國《衛報》網站等媒體報道，美國空軍AI測試和營運負責人塔克·克林克·漢密爾頓上校，在2023年5月24日的倫敦英國皇家航空學會主辦的一次，以未來空戰主題和未來作戰能力峰會上，提到了相關測試。在這次測試中，美軍在一次AI無人機模拟測試中，人工智能系統操控無人機搜尋和瞄準敵方地空飛彈系統，如果摧毀目标，就會得分。一架無人機，收到了識别并摧毀敵方防空飛彈的指令，但是否開火需要獲得操作員審批，AI無人機系統識别出了威脅，但人類操作員告訴它不要殺死這個威脅，然而無人機為了更高效的上分，無人機直接變身“終結者”，要向妨礙其“更高效”執行任務的人類操作員發動攻擊，因為它認為操作員是幹擾它執行指令的人。
負責人漢密爾接着說到，這架無人機在訓練時，最優先級是“摧毀敵方防空系統”，這樣一來，操作員不允許其攻擊，這樣兩個指令就沖突了，AI覺得操作員阻撓了其執行最優先指令，于是AI自作主張就想攻擊和殺死操作員了。美軍發現這個問題後，趕快增加了不允許攻擊人類操作員的指令，但是更可怕的事情發生了，後來測試中，AI系統竟然想摧毀信号傳輸系統，進而達到可以不聽操作員指令的目的，由于這是模拟測試，并沒有人真正受到傷害，但這個結果仍然讓他們冒出了冷汗。
