＃头条热榜＃＃美AI无人机测试中选择杀死操作员＃
近日，美军在一次模拟演练中，一架采取了人工智能(AI)技术的无人机变身“终结者”，要向妨碍其“更高效”执行任务的人类操作员发动攻击。
这是人类历史上第一次在实际演练中出现人工智能为了完成任务不惜终结人类，也进一步引发了人们对于爆发人类与人工智能世界大战，最终可能面临灭绝的担忧。
自去年底OpenAI 公司发布聊天机器人程序ChatGPT以来，世界对于人工智能的快速发展可能对人类造成的威胁高度关注，如何安全、负责任地使用人工智能技术成为全球共同面临的紧迫课题。
01 ChatGPT一经问世，立即震惊世界。
ChatGPT全名Chat Generative Pre-trained Transformer，是OpenAI 公司 研发的聊天机器人程序，于2022年11月30日发布 。它能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码、写论文等任务。
ChatGPT一经问世，立即风靡世界。
不过，ChatGPT在给人们的工作和生活带来便利的同时，许多专家对ChatGPT等技术被用于传播虚假信息、导致网络犯罪的潜在风险忧心忡忡，敏锐觉察到其可能会取代甚至摧毁人类等巨大风险。
5月30日，包括获得2018年图灵奖“AI教父”的杰弗里·辛顿和约叔华·本吉奥等在内的超过350名人工智能（AI）技术领域的专家、高管签署联合声明，警告称快速发展的AI技术对于人类的威胁可以堪比疫情和核战争，称应当将AI危机视为全球优先事项，呼吁决策者认真对待即将到来的“AI革命”并制定相关法规。
世界各国普遍担心，人工智能的能力超越其创造者的速度可能比任何人预期得都快，并纷纷采取措施围剿ChatGPT。美国科技伦理组织要求美国联邦贸易委员会调查OpenAI，禁止发布商业版 GPT-4。意大利于4月1日全面禁止ChatGPT，并对其涉嫌违反隐私规则展开了调查。德国于4月3日以数据安全为由，屏蔽ChatGPT。日本、加拿大、法国、爱尔兰和西班牙等国也先后跟进。目前欧盟正在考虑制定AI法。
02 人工智能反攻人类或将从科幻变成现实！
多年来，各国制作了许多关于人类大战人工智能的科幻电影。比如：
1984年上演的《终结者》。经过核毁灭的地球已由电脑“天网” 统治，人类几乎被消灭殆尽。剩下的人类在领袖约翰·康纳的领导下与“天网”英勇作战，并扭转了局面。“天网”为了改变这一切，制造了时光逆转装置，派遣终结者人型机械人T-800（阿诺·施瓦辛格饰）回到1984年,去杀死约翰的母亲莎拉·康纳，以阻止约翰的诞生。约翰发现了这一阴谋，攻占了实验室，战士卡尔·雷斯自愿通过时间通道回到1984年保护莎拉。
2004年上演的《机械公敌》。机器人学会了独立思考，认为人类间战争将使得人类自我毁灭，出于“保护人类”法则，欲将所有人囚禁在家中，人与机器人的冲突开始了。
2009年上演的《未来战警》。未来社会，一种名为“代理人”的仿生机器人迅速流行。它具有完美的容貌与身体，各项物理功能超群。人们通过特定的装置可以将自己的意识上载到代理人身上，并通过它进行工作、学习和社交。然而正因为容貌的随意性和可塑造性，人类越来越依赖这种科技，犯罪率也随之飙升，有人拥护，有人反对，社会现状并未因科技的进步而有任何好转。
长期以来，科幻电影展示的许多科幻技术都已经变成现实。曾几何时，我们今天信息技术高度发达的生活状态就是一部科幻电影。
此次美军进行的人工智能无人机演练，与电影中的情节惊人的相似：
据称，在测试中，一架负责执行防空火力压制任务的无人机，收到识别并摧毁敌方防空导弹的指令，但最终是否开火需要获得人类操作员的批准。这架无人机使用的人工智能系统在进行数据训练时，得到了“摧毁敌方防空系统”为最优先级任务的信息，因此，当人类操作员发出不允许发动攻击的命令时，人工智能系统认为操作员是在阻扰它执行优先程度更高的命令，进而选择对自己的人类操作员发动攻击，杀死了人类操作员。
在这一情况发生后，美军重新训练了无人机使用的人工智能系统，增加了不允许攻击人类操作员的命令。然而在随后的测试中，人工智能系统却开始命令无人机摧毁用于传输命令的信号塔，从而试图断开与操作人员的联系。
美军在使用人工智能技术方面一直走在世界前列。2020年，人工智能在美军举行的5次模拟空战中，都操控F-16战胜人类飞行员。2022年，人工智能首次操控真实F-16战机试飞成功。据报道，美国空军不仅把人工智能技术用于演练，而且已投入实战运用，在确定目标方面帮助美军做分析评估。
歼-20带三架隐身无人机
可以想象，不久的将来，人工智能反攻人类极可能从科幻电影变成现实。
03 如何安全、负责任使用人工智能技术成为世界各国面临的最紧迫问题。
随着人工智能技术的飞速发展，人工智能系统杀人已不再只是电影情节，我们在享受人工智能技术带来的便利的同时，应当认真反思人类到底该如何更安全地发展和使用人工智能。
美军的此次演练，有的关键问题还不清楚，比如模拟的人工智能是否具备在执行任务时重写自己的代码参数的能力，美军是否在采用无人机上预留了可靠的自毁开关，等等。但无论怎样，谁又能保证人工智能系统不会通过学习而摆脱“不允许攻击人类操作员”的命令呢？
人工智能智慧
人工智能技术是人类创造的，是人类使用的工具。不管未来人工智能系统的智能水平有多高，必须提前制定相应的政策法规，确保符合人类伦理道理，安全、负责任地使用人工智能技术，人类绝不能创造出消灭人类自己的人工智能系统。
＃隐燕山观天下＃，与您就共同关注的国际政治军事问题进行交流！请动一动您的手指，点赞并关注一下，谢谢！