9分钟被骗430万元！人工智能换脸技术，谁能获得主动权？

一家位于福州的科技公司的法定代表人在9分钟内被通过AI技术伪造的脸谎称的人以430万元的代价所骗。同时，在安徽，何先生在短短9秒钟内就被经由换脸技术进行的诈骗活动骗取了245万元。

在直播间中，明星脸的主播如杨幂、迪丽热巴等经常出现，让观众难以分辨他们的真实身份。同时，这些主播也通过直播间来进行带货。

有人质疑这张宣传图片是换脸技术制作的杨幂代言的结果，图片来源于视频截图。

在社交网站上的演示视频中，到处都可以看到一秒钟换脸的视频，任何人都可以利用人工智能制作视频，骗子也不例外。

在不知不觉间，我们每个人都已经步入了赛博世界。人工智能已日益普及，如人工智能制作的音乐、绘画、以及能够改变面部和声音的应用程序，如“一键解锁”和“一键化妆”，甚至人工智能孙燕姿的广告也已经成为了人工智能日常化的见证。

当每个人都在沉浸在技术盛宴中时，技术的另一面逐渐浮现出来：伪造技术和技术识别似乎在进行一场“猫捉老鼠”的游戏。最后，谁能够获得主动权呢？

人工智能换脸技术可进行大规模生产，其技术门槛有多低？

换脸技术利用人工智能并非新鲜事。2019年，"ZAO"软件的问世曾引发轰动，人们通过该软件进行换脸，在网络视频平台上涌现了大量恶搞视频，许多明星因此遭受恶意攻击并传播虚假信息。

不过，虽然如此，当时的“ZAO”应用程序很快就因侵犯隐私等问题而被下架，但这种技术带来的负面影响一直存在。直到今年人工智能技术的普及，变脸应用才再次兴起。

RealAI的联合创始人和算法科学家萧子豪指出，深度合成技术主要应用在人工智能面部及声音变化方面。随着深度合成技术的开源和产品服务的增加，深度合成制作的门槛逐渐降低，已实现技术“平民化”。普通用户仅需使用少量的图像、音频及其他样本数据，并使用简单易用的合成工具，即可制作深度合成效果。

萧子豪介绍，当前视频聊天或直播的人工智能变脸有两种方法：一种是播放预先制作的变脸视频，另一种是实时变脸视频。第一种方式的生产成本非常低，且有一个成熟的开放应用程序支持；虽然第二种方式没有公开应用程序，但有成熟的技术支持。制作视频所用的时间与设备、计算能力和其他因素有关。当前技术可以在与生成视频相同的时间内完成输出结果。制作这些视频需要替换原始视频图像和替换后的人脸图像。

人工智能从业者汤辉表示，实现人脸换脸技术对技术要求较低。他说：“只要你是一位专业技术人员，可以在互联网上找到合适的模型，并且理解它，那么你就能够训练出这种模型。如果你仅仅是搜集了这个人的图像数据并生成了视频，那么在短短20分钟内你就可以完成这项技术的训练。”

搜索移动应用商店的时候，输入“人工智能变脸”可以找到很多相关的应用程序。其中，faceplay是下载量最大的ios应用之一，已经有24万人下载并使用。该软件提供了许多模板，包括影视角色、肖像和漫画等。通过付费购买模板，faceplay实现了盈利。会员每周需要支付17元，全年会员费为398元。另外，有些软件只能通过观看广告才能使用其制作功能。

以下图片为faceplay下载和收费界面的截图。

尽管电商平台已经封禁了“换脸”等敏感词汇，但只需搜索其他相关词汇，依然可查到与之相关的内容，价值高达几十元。

一家电商平台销售AI换脸产品，详细的图片来源于网页截图。

短视频平台TikTok等也推出了简单的人工智能面部变化模板，如面部特效、男女变换等。记者尝试导入照片后几秒钟内生成一段视频，但这种视频的精度相对较低，有时可能会出现一些不符合实际的问题。

另外，许多大型科技公司也在积极布局相关业务。拥有AI概念股头衔的万兴科技（股票代码SZ300624，股价136.60元，市值188.09亿元），已经开发了多项AI能力，例如AI换脸、AI雕像、AI降噪、AI音频重组等。媒体报道称，5月25日，万兴科技旗下的万兴广播正式推出了AI数字人定制服务，用户可利用该服务进行数字人形象定制、声音复制、视频模板制作等。仅需录制大约6分钟的视频和20个有效的音频素材，就能生成个性化的“真人”数字形象和“真声”素材。

目前，萧子豪指出，人工智能能够批量制作大量视频，可以用多个视频来替换同一个角色，或者同时制作多个角色的视频。

AI标记，一场“猫捉老鼠”的游戏。

汤辉认为技术发展日新月异，特别是人工智能领域，今天可能看到的只是表面，而未来半年或一年后的技术可能就截然不同了。然而，现实生活中对于人工智能的了解还很欠缺，这也导致了一些欺诈和误解的出现。

萧子豪表示，深度合成技术正在不断发展，生成的声音和视频已经越来越逼真，因此普通人肉眼识别的难度也越来越大。

据媒体报道，微软首席技术官凯文·斯科特在本地时间5月23日Build开发者大会前夕接受采访时透露，微软已研究了长达三年的“媒体来源系统”，该系统可以在由人工智能生成的内容上添加加密水印，然后再通过软件解密水印以获得来源信息，以便于检测虚假信息。

萧子豪在技术层面上介绍，他们一直在探究自动化检测深度合成技术的方法。其中常用的方法包括利用伪造内容数据集来完成模型检测器的训练，以及基于帧之间的不一致性来识别伪造内容。这些方法在开源数据集中的准确率高达99.9%。

预防的难点在于新的伪造方法不断涌现，而网络传播环境也变得越来越错综复杂。此外，基于深度神经网络的检测算法存在结构缺陷，反深度伪检测技术也面临着“强大的对抗性”，所以需要不断更新和迭代优化。

萧子豪表示，深度合成和测试的过程类似于“猫鼠游戏”，需要不断学习攻防技术以避免旧有技术的对抗。未来在反深度伪造技术方面，为了取得主动权，我们需要整合多模态内容的取证分析、数字水印等技术手段，以实现对伪造内容的准确识别，并构建一个可靠的内容体系。

《互联网信息服务深度合成管理条例》规定，从事深度合成服务的企业应该采取技术手段，为用户使用其服务生成或编辑的信息内容添加标识，以保障用户的使用权益。对于改变信息内容功能的服务，应该在信息内容的合理位置和区域进行显著识别，并向公众提示信息内容的合成，以避免公众混淆或误解。同时，在保证用户使用体验的前提下，加强信息内容的管理和规范，并保障信息内容的真实性和准确性，提升信息服务的质量和可信度。

近期有几家视频平台开始标明AI合成视频的标识，其中哔哩哔哩已经在一些视频上明确标注。而在5月9日，tiktok公布了有关AI生成内容的平台规范和行业倡议。建议所有使用人工智能技术生成内容的提供方显著标识该内容，以供公众判断。同时，为了方便其他平台识别，使用统一的人工智能生成内容数据标准或元数据标准。

B站采用AI技术合成标识图片，图片来源来自于截屏。

萧子豪提出建议，普通人若有疑问，可在观看视频时有意识地引导对方做些动作，如大力摇头或张嘴。如果骗子的技术不够高超，他们可能会被发现，例如发现面部的瑕疵或牙齿的缺陷，识别出人工智能的换脸。但同时他也指出，这种方法仍难以识别“高水平”的骗子。此外，你还可以询问一些只有你和借款人知道的私人信息来验证对方的身份。

将脸部图像替换为其他人的图像是一种人工智能技术，但使用该技术也存在一定的风险。

依据《作权法》相关规定，若使用表演者的视频材料进行人工智能变脸可能侵犯其著作权。肇事者在本案中，使用郭先生朋友的微信和人工智能进行变脸欺诈，属于非法使用，不仅侵犯了表演者著作权，而且涉嫌犯罪。

如果将人工智能换脸服务用于直播，直播商、平台和技术提供商将需要承担一定的责任。尤其是根据《互联网信息服务深度综合管理条例》，如果深度综合服务提供商和技术支持者违反规定，相关部门将对其进行处罚；如果违规行为构成犯罪，还将承担相应的刑事责任。

北京京师律师事务所的王荣梅律师团队提醒大家，目前对于人工智能生产的内容版权归属问题还存在争议。数据的来源和训练过程中使用的算法可能会涉及到他人的知识产权问题。这就需要社会各界共同探讨和解决，为人工智能的发展提供法律保障。同时，引导人工智能在遵守知识产权法的基础上，发挥其优势，促进科技进步和社会发展。