天天看点

潘多拉魔盒已打开!机器人已自主杀人,人类准备好了吗?

无人装备已经成为未来发展的主要方向,未来军队中无人武器的比例进一步上升已经是一个普遍的共识。然而迄今为止,所有的无人装备作战还是依靠操作员进行操控,尚没有任何一个装备是能够自己独立进行杀伤性作战的,换言之,任何打击行动都需要由人类操作员进行遥控操作,机器还无法自己进行作战,毕竟这设计复杂的战场判断,人工智能技术还没有发展到那个阶段,相应的道德与法理问题也还存在诸多争议。不过就在人们还没有准备好引来机器人战争的时候,机器杀人的日子就已经到来了。

潘多拉魔盒已打开!机器人已自主杀人,人类准备好了吗?

据环球时报6月1日援引俄罗斯卫星网消息报道,据外媒的一项调查显示,在2020年3月的利比亚战场上,出现了人类历史上第一次机器装备自主猎杀目标的战例——一架土耳其STM公司生产的卡克-2无人机在自主运行的模式下,搜寻并击杀了一名利比亚国民军的士兵。联合国安理会利比亚问题专家小组表示,卡古-2四旋翼无人攻击机被编程为可在无操作员操控的情况下攻击目标,当时这架无人机确切地跟踪并攻击了撤退中的“利比亚国民军“,这是一次真正的”发射后不管“。

潘多拉魔盒已打开!机器人已自主杀人,人类准备好了吗?

无人机装备击杀目标在今天已经是司空见惯,但利比亚战争中的这起事件本质上和所有已知的无人机作战不同,那就是无人机装备在没有人员操作员遥控的情况下,自己选择了目标并发动了攻击。从技术上看,这样做是不难实现的,只需要进行相应的编程工作就可以实施,机械不过是执行了一个指令。据悉,卡古-2无人机具备人脸识别功能,这个能力很可能就是其不依托操作员的情况下发动袭击的根源。然而,这种袭击其实是相当不成熟的,因为人脸识别技术远不足以提供可靠的打击依据,如何分辨目标是军人还是平民,如何分辨目标的敌我归属,以及进行打击之后的周边附带杀伤影响,这都是非常复杂的问题,机器程序目前没有这个能力。而且无人机对目标进行人脸识别的能力,现在看来恐怕还没有到足以实战化应用的地步,极有可能这只是一个土耳其公司给出的噱头。

潘多拉魔盒已打开!机器人已自主杀人,人类准备好了吗?

事实上,土耳其最有可能的做法,是将无人机投放到敌军聚集的作战区域,设定的模式恐怕是发现移动的人员就进行击杀,以这种粗暴的设定直接绕过了如何具体判定目标的难题。换句话说,要进行这种杀伤不难,理论上设置一个程序,令机器向所有会动的人形目标开火就行了。显然,这必然带来严重的附加伤害,而且恐怕是敌我不分,目前根本无法投入战场,土耳其的做法是简单粗暴的,同时缺乏对法理的尊重。

潘多拉魔盒已打开!机器人已自主杀人,人类准备好了吗?

俄罗斯专家对此事件的评论,是土耳其军工打开了潘多拉的魔盒,无人装备无需操作员自主杀伤人类的事件第一次出现了,这是真正的机器杀人,而不是人遥控的机器杀人,这一点至关重要。对于机器人杀人的法理和道德问题,各界存在强烈的争议,笔者无意讨论这个复杂的问题,但也许我们只能接受一点事实,那就是由于军事方面的需要,无人机器自主杀人甚至是自主作战的时代或迟或早还是会到来,这一点恐怕很难逆转。有句话虽然很偏激但还是很有预见,那就是人类创造科技,科技毁灭人类。

继续阅读