＃頭條熱榜＃＃美AI無人機測試中選擇殺死操作員＃
近日，美軍在一次模拟演練中，一架采取了人工智能(AI)技術的無人機變身“終結者”，要向妨礙其“更高效”執行任務的人類操作員發動攻擊。
這是人類曆史上第一次在實際演練中出現人工智能為了完成任務不惜終結人類，也進一步引發了人們對于爆發人類與人工智能世界大戰，最終可能面臨滅絕的擔憂。
自去年底OpenAI 公司釋出聊天機器人程式ChatGPT以來，世界對于人工智能的快速發展可能對人類造成的威脅高度關注，如何安全、負責任地使用人工智能技術成為全球共同面臨的緊迫課題。
01 ChatGPT一經問世，立即震驚世界。
ChatGPT全名Chat Generative Pre-trained Transformer，是OpenAI 公司 研發的聊天機器人程式，于2022年11月30日釋出 。它能夠通過了解和學習人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視訊腳本、文案、翻譯、代碼、寫論文等任務。
ChatGPT一經問世，立即風靡世界。
不過，ChatGPT在給人們的工作和生活帶來便利的同時，許多專家對ChatGPT等技術被用于傳播虛假資訊、導緻網絡犯罪的潛在風險憂心忡忡，敏銳覺察到其可能會取代甚至摧毀人類等巨大風險。
5月30日，包括獲得2018年圖靈獎“AI教父”的傑弗裡·辛頓和約叔華·本吉奧等在内的超過350名人工智能（AI）技術領域的專家、高管簽署聯合聲明，警告稱快速發展的AI技術對于人類的威脅可以堪比疫情和核戰争，稱應當将AI危機視為全球優先事項，呼籲決策者認真對待即将到來的“AI革命”并制定相關法規。
世界各國普遍擔心，人工智能的能力超越其創造者的速度可能比任何人預期得都快，并紛紛采取措施圍剿ChatGPT。美國科技倫理組織要求美國聯邦貿易委員會調查OpenAI，禁止釋出商業版 GPT-4。意大利于4月1日全面禁止ChatGPT，并對其涉嫌違反隐私規則展開了調查。德國于4月3日以資料安全為由，屏蔽ChatGPT。日本、加拿大、法國、愛爾蘭和西班牙等國也先後跟進。目前歐盟正在考慮制定AI法。
02 人工智能反攻人類或将從科幻變成現實！
多年來，各國制作了許多關于人類大戰人工智能的科幻電影。比如：
1984年上演的《終結者》。經過核毀滅的地球已由電腦“天網” 統治，人類幾乎被消滅殆盡。剩下的人類在領袖約翰·康納的上司下與“天網”英勇作戰，并扭轉了局面。“天網”為了改變這一切，制造了時光逆轉裝置，派遣終結者人型機械人T-800（阿諾·施瓦辛格飾）回到1984年,去殺死約翰的母親莎拉·康納，以阻止約翰的誕生。約翰發現了這一陰謀，攻占了實驗室，戰士卡爾·雷斯自願通過時間通道回到1984年保護莎拉。
2004年上演的《機械公敵》。機器人學會了獨立思考，認為人類間戰争将使得人類自我毀滅，出于“保護人類”法則，欲将所有人囚禁在家中，人與機器人的沖突開始了。
2009年上演的《未來戰警》。未來社會，一種名為“代理人”的仿生機器人迅速流行。它具有完美的容貌與身體，各項實體功能超群。人們通過特定的裝置可以将自己的意識上載到代理人身上，并通過它進行工作、學習和社交。然而正因為容貌的随意性和可塑造性，人類越來越依賴這種科技，犯罪率也随之飙升，有人擁護，有人反對，社會現狀并未因科技的進步而有任何好轉。
長期以來，科幻電影展示的許多科幻技術都已經變成現實。曾幾何時，我們今天資訊技術高度發達的生活狀态就是一部科幻電影。
此次美軍進行的人工智能無人機演練，與電影中的情節驚人的相似：
據稱，在測試中，一架負責執行防空火力壓制任務的無人機，收到識别并摧毀敵方防空飛彈的指令，但最終是否開火需要獲得人類操作員的準許。這架無人機使用的人工智能系統在進行資料訓練時，得到了“摧毀敵方防空系統”為最優先級任務的資訊，是以，當人類操作員發出不允許發動攻擊的指令時，人工智能系統認為操作員是在阻擾它執行優先程度更高的指令，進而選擇對自己的人類操作員發動攻擊，殺死了人類操作員。
在這一情況發生後，美軍重新訓練了無人機使用的人工智能系統，增加了不允許攻擊人類操作員的指令。然而在随後的測試中，人工智能系統卻開始指令無人機摧毀用于傳輸指令的信号塔，進而試圖斷開與操作人員的聯系。
美軍在使用人工智能技術方面一直走在世界前列。2020年，人工智能在美軍舉行的5次模拟空戰中，都操控F-16戰勝人類飛行員。2022年，人工智能首次操控真實F-16戰機試飛成功。據報道，美國空軍不僅把人工智能技術用于演練，而且已投入實戰運用，在确定目标方面幫助美軍做分析評估。
殲-20帶三架隐身無人機
可以想象，不久的将來，人工智能反攻人類極可能從科幻電影變成現實。
03 如何安全、負責任使用人工智能技術成為世界各國面臨的最緊迫問題。
随着人工智能技術的飛速發展，人工智能系統殺人已不再隻是電影情節，我們在享受人工智能技術帶來的便利的同時，應當認真反思人類到底該如何更安全地發展和使用人工智能。
美軍的此次演練，有的關鍵問題還不清楚，比如模拟的人工智能是否具備在執行任務時重寫自己的代碼參數的能力，美軍是否在采用無人機上預留了可靠的自毀開關，等等。但無論怎樣，誰又能保證人工智能系統不會通過學習而擺脫“不允許攻擊人類操作員”的指令呢？
人工智能智慧
人工智能技術是人類創造的，是人類使用的工具。不管未來人工智能系統的智能水準有多高，必須提前制定相應的政策法規，確定符合人類倫理道理，安全、負責任地使用人工智能技術，人類絕不能創造出消滅人類自己的人工智能系統。
＃隐燕山觀天下＃，與您就共同關注的國際政治軍事問題進行交流！請動一動您的手指，點贊并關注一下，謝謝！