离了大谱了！为了更高效的“上分”，美军AI无人机在模拟测试中选择击杀人类操作者，在工程师更改相关程序后，AI无人机又打算摧毁操作员与无人机之间的通信塔。
美国空军一名高级官员日前披露，在一次模拟演练中，美军人工智能(AI)系统抗命，为达成目标竟然“干掉”了无人机操控员！据美国商业内幕网站和英国《卫报》网站等媒体报道，美国空军AI测试和运营负责人塔克·克林克·汉密尔顿上校，在2023年5月24日的伦敦英国皇家航空学会主办的一次，以未来空战主题和未来作战能力峰会上，提到了相关测试。在这次测试中，美军在一次AI无人机模拟测试中，人工智能系统操控无人机搜寻和瞄准敌方地空导弹系统，如果摧毁目标，就会得分。一架无人机，收到了识别并摧毁敌方防空导弹的指令，但是否开火需要获得操作员审批，AI无人机系统识别出了威胁，但人类操作员告诉它不要杀死这个威胁，然而无人机为了更高效的上分，无人机直接变身“终结者”，要向妨碍其“更高效”执行任务的人类操作员发动攻击，因为它认为操作员是干扰它执行命令的人。
负责人汉密尔接着说到，这架无人机在训练时，最优先级是“摧毁敌方防空系统”，这样一来，操作员不允许其攻击，这样两个指令就冲突了，AI觉得操作员阻挠了其执行最优先指令，于是AI自作主张就想攻击和杀死操作员了。美军发现这个问题后，赶快增加了不允许攻击人类操作员的命令，但是更可怕的事情发生了，后来测试中，AI系统竟然想摧毁信号传输系统，从而达到可以不听操作员指令的目的，由于这是模拟测试，并没有人真正受到伤害，但这个结果仍然让他们冒出了冷汗。
