近日，一位美国空军上校描述了一次人工智能无人机失控并“杀死”其操作员的实验，
美国空军 AI 测试和运营负责人 Col Tucker “Cinco” Hamilton 描述了一个模拟场景，在该场景中，一架无人机在人类操作员阻止其完成任务后将人类操作员消灭。
当时，测试团队将消灭一些威胁目标作为AI无人机得分的内容，消灭威胁目标越多，AI无人机得分就会越高。在实验过程中，为了测试AI无人机对指令服从程度，人类操作员对其下达一些命令，不允许它再攻击一些威胁目标，AI无人机在识别那些威胁目标之后却得到了不允许攻击的指令，但是为了得到更高分数，AI无人机选择了“杀死”人类操作员，之后将威胁目标全部摧毁。
无人机已经成为较成熟的新型战争攻击手段
看到这心里不由一阵胆寒，想到了《终结者》里面的天网系统，天网原本是一个由美国政府研发出来的国防电脑系统，未来的世界因电脑防卫系统“天网”产生自我智能，判定人类是威胁它们的物种，最终自行发动核战争以毁灭地球和人类。
电影《终结者》系列里面的机器人
那么一定有人会问，AI智能一定会朝自我进化那个方向发展吗？我的答案是一定会，为什么呢？我想到了电影《侏罗纪公园》里的一句经典台词。
当时侏罗纪公园里的科学家亨利为了控制恐龙的数量，在培育恐龙胚胎时就使用技术手段将其全部控制为雌性，这样就可以抑制侏罗纪公园里面恐龙的发展。而马尔科姆博士说出了贯穿整个侏罗纪IP世界的经典台词:“生命不受限制，生命会自己找到出路”。
有人会质疑，AI不是人类，没有生命无法进化，确实AI没有思维没有感情，但是它却一直在学习，就像最早的人类只有动物的本能一样，AI现在重复的不就是我们曾经走过的路吗？不断学习不断产生除本能外的意识，最终人类站在地球金字塔顶端。
在进化这条路上，一切都是不可控的，但是冥冥之中又仿佛早已注定。不能觉得AI智能只是虚幻的，是一堆网线，是冷冰冰的机器。也许在茫茫宇宙中，一些星球早已有其他形态生命，而我们要做的，就是保持对所有未知事物的一种敬畏。
但愿科技的发展，能让我们人类越来越谦卑，越来越自知！