人工智能：國家安全面臨的挑戰和争議

#暑期創作大賽##夏日生活打卡季#​

人工智能的軍事應用

人工智能最近在美國公共政策辯論中占據了中心舞台。企業技術專家和一些公職人員希望宣布暫停人工智能研發。他們擔心的問題包括，人工智能的能力增長可能會比人類控制者了解或控制的能力更快。

一個媲美或超越人類認知的自主意識的人工智能技術可以重新定義我們如何了解技術和人類，但對于這樣的“超級智能”是否或何時會出現，目前還沒有确定性。在不确定性中，美國和其他國家必須考慮人工智能對其武裝部隊及其戰争準備或威懾的可能影響。軍事理論家、戰略規劃者、科學家和政治上司人在預測未來幾十年人機互動的方向時，将面臨至少七種不同的挑戰。

一是軍事專業人才教育教育訓練 将經曆一場革命。指揮官的曆史經驗将不再僅從書籍和文章中獲得。我們将能夠将未來的指揮官向後“投射”到隊長所打的AI版本戰鬥中，并追溯将場景轉變為事實，進一步挑戰學生和教練。過去所謂的“戰争遊戲”将上升到更高的場景建構和解構水準。靈活性和靈活性将是成功上司者的标志，他們能夠掌握人工智能驅動的軍事規劃、後勤和作戰科學。由于戰争依賴于精确情報支援的火力和機動的結合，人工智能系統将醞釀出在及時情報和及時戰損評估支援下的動能打擊的最佳組合。要想成功，政治和軍事上司人必須快速思考，嚴厲打擊，快速評估，重新組建另一拳，本質上是虛拟現實中的拳擊。

二是人機互動将轉型 目前的人工智能系統達到成熟，并與人類決策方面競争或超越，包括記憶體存儲、靈活性和自我意識。下屬指揮官會發現，他們正在向一個人工智能系統“報告”，該系統是更進階别的指揮官的代理，而這些指揮官反過來将對上級負責，以一個人工智能系統衡量的績效。人工智能系統将越來越多地跨部門聯系在一起，最終将每個人都擠進一個巨大的空間。隻有專業技術人員和少數級别最高的将軍和海軍上将才能進入。承包商将為陸軍、海軍、空軍、海軍陸戰隊以及國防部和其他國家安全機構的其他組成部分提供人工智能系統服務。

三是國家和軍事情報的管理 将面臨來自成熟AI系統的巨大挑戰。與已經收集和存儲在政府伺服器中的資料相比，人工智能将使收集更大量的資料成為可能。然而，人工智能系統将提供卓越的工具，用于分析資料，供指揮官和決策者及時使用。目前，決策者收集資料豐富，分析貧乏。人工智能可能會支援更具戰略性的深入到大規模資料庫中，以檢索和整理可以拯救生命或赢得戰鬥的資訊。人工智能還可以允許更快地解釋和其他資訊，并更快地将相關知識插入ODA （觀察、定向、決定和行動）決策循環。行政部門和國會的文職上司人可以利用人工智能更清楚地了解哪些機構正在執行哪些任務，哪些秘密值得保留，以及儲存多久。

第四，更多的戰争将與資訊有關。和過去一樣，各國和恐怖分子都希望獲得用于戰争的情報，并将其拒絕給予對手。但随着人工智能的進步，未來的指揮官和國家元首将有更大的能力來影響敵人對現實的看法。他們将在兩個級别上執行此操作：通過針對負責制定政策的進階官員，并通過動搖目标國家的大衆輿論。

人工智能和其他影響力工具可以被用來制造虛假圖像 ，包括虛構但現實的政治演講和捏造以欺騙觀衆的新聞報道。戰鬥大屠殺或恐怖襲擊的假場景可能會疊加在所謂的例行新聞報道上。随着人工智能增強的假新聞激增，輕信的公衆可能會被激起大規模示威。政治上司人将成為蘇聯和現在俄羅斯所謂的戰略欺騙“積極措施”的具體目标，人工智能技術增強了戰略欺騙。這些技術包括但不限于“反射控制”技術，在這種技術中，敵人被說服想做對手想做的事。

第五，人工智能将加速一切包括關于使用武力和對特定目标使用武力的決定。這意味着，在對一個大國的戰争中，第一波攻擊可能集中在太空和網絡資産上。一個國家被拒絕獲得衛星提供的用于發射探測、指揮和控制、通信、導航和瞄準的實時資訊，将立即被推回上一個世紀，成為一個軍事強國。是以，各國必須通過發射大量備援衛星、将衛星置于軌道以防禦地面和天基反衛星武器以及發展偵察會合和近距離作戰的能力，保護其天基資産，威脅評估和衛星維修。地球到空間和空間到地球的通信鍊路必須得到保護和加密。

如果人工智能時代真的爆發戰争，在網絡領域的防禦也可以期待挑戰。大國已經擁有進攻和防禦的網絡能力，在“正常和平時期”的條件下，正在互相探測對方的資訊系統和支援基礎設施。在危機或戰時，網絡攻擊将加速并變得更具侵入性，有可能将一種或多種武器、運載系統或指揮控制資産與指定的指揮系統脫鈎。對民用基礎設施的攻擊，包括恐怖分子的攻擊，在網絡空間已經很常見，人工智能系統隻會讓它們變得更加複雜。比對空間系統的攻擊更重要的是，網絡攻擊可能不會在攻擊者的身份上留下明确的“足迹”。

接受第一次打擊，然後進行報複，對于陷入困境和時間緊迫的決策者來說，可能是無法做到的。相反，他們必須建立并授權對提供資訊的“腦幹”資産的攻擊的預設響應，其中一些響應将是基于人工智能的，或者至少是人工智能輔助的。這種情況對核威懾構成了特别令人關切的挑戰。決策者應該有足夠的時間與顧問一起審議替代方案，并在面臨支援或反對核戰争的決定時選擇最适當的方案。但是，人工智能推動的對太空和網絡資産的攻擊的潛在速度，加上高超音速武器動能打擊的速度不斷上升，可能會讓那些害怕敵人核先擊的上司人選擇先發制人而不是報複。

第六， 如果人工智能真的進步了 向着一個比目前可能的更有知覺和人形的人工智能，它可能會朝着它的創造者并不完全預見到的方向進化，不管是好是壞。人工智能系統可以采用自己版本的情商和價值偏好。然後，它們可以跨越國界合作，促進他們在公共政策中喜歡的成果。例如，有知覺的人工智能系統可以決定核裁軍是一個有生存能力的文明生存的必要條件，盡管其國家決策者發出訓示，但仍努力宣傳裁軍的論點。它們還可能合作，诋毀核威懾的論點，并在核準備的軟體裝置中插入數字扳手。代表人權和反對獨裁政府的更雄心勃勃的人工智能議程并非不可想象。畢竟，人工智能系統的創造者可能包括專注的全球主義者，他們認為現有國家是不那麼先進文明的過時遺迹。另一方面，獨裁政府已經在利用人工智能系統壓制個人自由，包括言論自由權和和平反政府抗議。人工智能可以通過對私人行為和公共行為的監控，幫助識别和隔離“國家的敵人”。先進的人工智能可以使大規模鎮壓比曆史上最糟糕的獨裁者想象的更容易和更有效。

第七，更成熟的AI基礎設施将需要更多的教育和教育訓練 公職人員不僅在技術方面，而且在公共政策與人類價值之間的關系方面。任何人工智能，無論以其本身的标準多麼聰明，都不能被委托來取代至少在藝術和人文科學方面有體面背景的負責任的決策者所做的決定。把關于人工智能的公共政策決策交給那些被最新的小玩意兒和遊戲系統迷住的人，但他們對哲學、音樂、文學、宗教、藝術缺乏了解，而曆史将由喋喋不休的新自戀者統治，他們擁有前所未有的公權力。

影響廣大人口的公共政策不應成為自封的政治家、官僚、科學家和媒體大亨精英的職權範圍；它還應受到廣泛公民基礎的參與的限制。如果沒有真正民主的決策過程提供的成人監督，精英們就會創造和重新創造他們自己的權利，作為地方特權，即使這摧毀了他們自己的社會。

人工智能和其他技術的進步隻會增加公衆對迅速而果斷地解決戰争的期望。毫無疑問，人工智能和其他技術可以在許多方面提高軍事力量的表現，但沒有什麼可以替代軍事力量，他們的訓練和經驗不僅基于軍事法律，而且基于文化和曆史的更好方面。美國人，包括他們的軍隊，過去已經調整了新技術，以得到很好的利用，而不允許技術尾巴搖動價值觀的狗。人工智能在這方面提出了一個獨特的挑戰，但如果挑戰得到立即解決，則不是一個不可逾越的挑戰。