人工智能：国家安全面临的挑战和争议

#暑期创作大赛##夏日生活打卡季#​

人工智能的军事应用

人工智能最近在美国公共政策辩论中占据了中心舞台。企业技术专家和一些公职人员希望宣布暂停人工智能研发。他们担心的问题包括，人工智能的能力增长可能会比人类控制者理解或控制的能力更快。

一个媲美或超越人类认知的自主意识的人工智能技术可以重新定义我们如何理解技术和人类，但对于这样的“超级智能”是否或何时会出现，目前还没有确定性。在不确定性中，美国和其他国家必须考虑人工智能对其武装部队及其战争准备或威慑的可能影响。军事理论家、战略规划者、科学家和政治领导人在预测未来几十年人机交互的方向时，将面临至少七种不同的挑战。

一是军事专业人才教育培训 将经历一场革命。指挥官的历史经验将不再仅从书籍和文章中获得。我们将能够将未来的指挥官向后“投射”到队长所打的AI版本战斗中，并追溯将场景转变为事实，进一步挑战学生和教练。过去所谓的“战争游戏”将上升到更高的场景构建和解构水平。灵活性和敏捷性将是成功领导者的标志，他们能够掌握人工智能驱动的军事规划、后勤和作战科学。由于战争依赖于精确情报支持的火力和机动的结合，人工智能系统将酝酿出在及时情报和及时战损评估支持下的动能打击的最佳组合。要想成功，政治和军事领导人必须快速思考，严厉打击，快速评估，重新组建另一拳，本质上是虚拟现实中的拳击。

二是人机交互将转型 当前的人工智能系统达到成熟，并与人类决策方面竞争或超越，包括内存存储、灵活性和自我意识。下属指挥官会发现，他们正在向一个人工智能系统“报告”，该系统是更高级别的指挥官的代理，而这些指挥官反过来将对上级负责，以一个人工智能系统衡量的绩效。人工智能系统将越来越多地跨部门联系在一起，最终将每个人都挤进一个巨大的空间。只有专业技术人员和少数级别最高的将军和海军上将才能进入。承包商将为陆军、海军、空军、海军陆战队以及国防部和其他国家安全机构的其他组成部分提供人工智能系统服务。

三是国家和军事情报的管理 将面临来自成熟AI系统的巨大挑战。与已经收集和存储在政府服务器中的数据相比，人工智能将使收集更大量的数据成为可能。然而，人工智能系统将提供卓越的工具，用于分析数据，供指挥官和决策者及时使用。目前，决策者收集数据丰富，分析贫乏。人工智能可能会支持更具战略性的深入到大规模数据库中，以检索和整理可以拯救生命或赢得战斗的信息。人工智能还可以允许更快地解释和其他信息，并更快地将相关知识插入ODA （观察、定向、决定和行动）决策循环。行政部门和国会的文职领导人可以利用人工智能更清楚地了解哪些机构正在执行哪些任务，哪些秘密值得保留，以及保存多久。

第四，更多的战争将与信息有关。和过去一样，各国和恐怖分子都希望获得用于战争的情报，并将其拒绝给予对手。但随着人工智能的进步，未来的指挥官和国家元首将有更大的能力来影响敌人对现实的看法。他们将在两个级别上执行此操作：通过针对负责制定政策的高级官员，并通过动摇目标国家的大众舆论。

人工智能和其他影响力工具可以被用来制造虚假图像 ，包括虚构但现实的政治演讲和捏造以欺骗观众的新闻报道。战斗大屠杀或恐怖袭击的假场景可能会叠加在所谓的例行新闻报道上。随着人工智能增强的假新闻激增，轻信的公众可能会被激起大规模示威。政治领导人将成为苏联和现在俄罗斯所谓的战略欺骗“积极措施”的具体目标，人工智能技术增强了战略欺骗。这些技术包括但不限于“反射控制”技术，在这种技术中，敌人被说服想做对手想做的事。

第五，人工智能将加速一切包括关于使用武力和对特定目标使用武力的决定。这意味着，在对一个大国的战争中，第一波攻击可能集中在太空和网络资产上。一个国家被拒绝获得卫星提供的用于发射探测、指挥和控制、通信、导航和瞄准的实时信息，将立即被推回上一个世纪，成为一个军事强国。因此，各国必须通过发射大量冗余卫星、将卫星置于轨道以防御地面和天基反卫星武器以及发展侦察会合和近距离作战的能力，保护其天基资产，威胁评估和卫星维修。地球到空间和空间到地球的通信链路必须得到保护和加密。

如果人工智能时代真的爆发战争，在网络领域的防御也可以期待挑战。大国已经拥有进攻和防御的网络能力，在“正常和平时期”的条件下，正在相互探测对方的信息系统和支持基础设施。在危机或战时，网络攻击将加速并变得更具侵入性，有可能将一种或多种武器、运载系统或指挥控制资产与指定的指挥系统脱钩。对民用基础设施的攻击，包括恐怖分子的攻击，在网络空间已经很常见，人工智能系统只会让它们变得更加复杂。比对空间系统的攻击更重要的是，网络攻击可能不会在攻击者的身份上留下明确的“足迹”。

接受第一次打击，然后进行报复，对于陷入困境和时间紧迫的决策者来说，可能是无法做到的。相反，他们必须建立并授权对提供信息的“脑干”资产的攻击的预设响应，其中一些响应将是基于人工智能的，或者至少是人工智能辅助的。这种情况对核威慑构成了特别令人关切的挑战。决策者应该有足够的时间与顾问一起审议替代方案，并在面临支持或反对核战争的决定时选择最适当的方案。但是，人工智能推动的对太空和网络资产的攻击的潜在速度，加上高超音速武器动能打击的速度不断上升，可能会让那些害怕敌人核先击的领导人选择先发制人而不是报复。

第六， 如果人工智能真的进步了 向着一个比目前可能的更有知觉和人形的人工智能，它可能会朝着它的创造者并不完全预见到的方向进化，不管是好是坏。人工智能系统可以采用自己版本的情商和价值偏好。然后，它们可以跨越国界合作，促进他们在公共政策中喜欢的成果。例如，有知觉的人工智能系统可以决定核裁军是一个有生存能力的文明生存的必要条件，尽管其国家决策者发出指示，但仍努力宣传裁军的论点。它们还可能合作，诋毁核威慑的论点，并在核准备的软件装置中插入数字扳手。代表人权和反对独裁政府的更雄心勃勃的人工智能议程并非不可想象。毕竟，人工智能系统的创造者可能包括专注的全球主义者，他们认为现有国家是不那么先进文明的过时遗迹。另一方面，独裁政府已经在利用人工智能系统压制个人自由，包括言论自由权和和平反政府抗议。人工智能可以通过对私人行为和公共行为的监控，帮助识别和隔离“国家的敌人”。先进的人工智能可以使大规模镇压比历史上最糟糕的独裁者想象的更容易和更有效。

第七，更成熟的AI基础设施将需要更多的教育和培训 公职人员不仅在技术方面，而且在公共政策与人类价值之间的关系方面。任何人工智能，无论以其本身的标准多么聪明，都不能被委托来取代至少在艺术和人文科学方面有体面背景的负责任的决策者所做的决定。把关于人工智能的公共政策决策交给那些被最新的小玩意儿和游戏系统迷住的人，但他们对哲学、音乐、文学、宗教、艺术缺乏理解，而历史将由喋喋不休的新自恋者统治，他们拥有前所未有的政治权力。

影响广大人口的公共政策不应成为自封的政治家、官僚、科学家和媒体大亨精英的职权范围；它还应受到广泛公民基础的参与的约束。如果没有真正民主的决策过程提供的成人监督，精英们就会创造和重新创造他们自己的权利，作为地方特权，即使这摧毁了他们自己的社会。

人工智能和其他技术的进步只会增加公众对迅速而果断地解决战争的期望。毫无疑问，人工智能和其他技术可以在许多方面提高军事力量的表现，但没有什么可以替代军事力量，他们的训练和经验不仅基于军事法律，而且基于文化和历史的更好方面。美国人，包括他们的军队，过去已经调整了新技术，以得到很好的利用，而不允许技术尾巴摇动价值观的狗。人工智能在这方面提出了一个独特的挑战，但如果挑战得到立即解决，则不是一个不可逾越的挑战。