原本促进科技进步的人工智能（AI）技术，近期却变成了新型诈骗的“狼外婆”。随着AI换脸、合成语音等技术的发展，普通人接触到各种先进生成工具变得不费吹灰之力，制作出越发难以识别的高质量deepfake（深度造伪技术，简称“深伪”）视频也越来越容易。不少网友担忧，若这些技术运用到金融诈骗案件中，后果不堪设想。
这些AI诈骗对金融行业将产生怎样的影响？金融领域如何AI防深伪？5月31日，新京报贝壳财经记者采访的多位金融科技专家表示，近些年，随着deepfake技术的不断成熟，以及图像视频生成技术的流行，这种利用深伪技术绕过人脸识别流程的趋势有所增长，对金融机构一直以来使用的实名认证系统造成了一定的威胁。
“AI技术并非无懈可击。”度小满数据智能部总经理、度小满技术委员会执行主席杨青表示，金融领域的AI防深伪，应该针对整个闭环、每个节点的安全性进行巩固和创新。当前，金融行业应对deepfake已有了比较成熟的技术方法和方案，可以帮助金融机构识别相关攻击。
眼见不为实？Deepfake视频对实名认证系统造成威胁
近期，包头市公安局电信网络犯罪侦查局破获的一起电信诈骗的案件将AI诈骗推向热搜。在该案件中，福州市某科技公司法人代表郭先生10分钟内被骗430万元，幸运的是336.84万元被骗资金已经被拦截，而其中用到的便是“智能AI换脸和拟声技术”。
有业内人士表示，如今AIGC技术的大爆发，更使得制作难以识别的deepfake视频越来越容易，这对金融机构一直以来使用的实名认证系统造成了一定的威胁。因此，对人脸识别应用普遍的金融行业来说，防深伪攻击也显得尤为重要。
杨青告诉贝壳财经记者，在金融行业，由deepfake产生的欺诈主要是身份欺诈，即通过深度伪造的虚假图像和视频来冒充他人身份，骗过金融信贷流程中的身份核验系统，进而实施盗刷和恶意注册等。
马上消费人工智能研究院智能核身专家冯月表示，活体防伪、中介识别等技术的核心功能便是能够避免人脸识别的自身缺陷，有效识别照片、视频、面具、仿真模型等，如在包头市这起案件中出现的换脸、变声欺诈行为。
“如果聚焦到换脸技术和拟声技术两个关键问题上，它主要的难题就是基础数据的获取、训练框架、实时渲染三项。”冯月表示，数据层面上，从社交媒体等社工库可以获取冒充对象的影音信息，亦或者是从丢失的黑产手机的相册、聊天记录中提取。训练框架上，目前国内几个主流的短视频平台的剪辑软件中都支持换脸特效，并且没有警示信息，国外的开源框架中合成方法超过30种。在实时渲染上，通过对手机刷机、安装侵入软件等攻击操作也可以实现劫持渲染。
诈骗100%成功率？金融机构已有成熟“防深伪”技术落地
用deepfake技术来攻击金融机构，是否可以100%成功？多位受访的业内人士告诉记者，这些技术本身并非毫无破绽。目前，许多金融机构已有相关的落地举措与相关技术应用。比如活体防伪、中介识别等技术在金融业务场景中也已得以应用。
“要识别认证内容是否造假，最好的办法是交给AI去解决，研发‘反deepfake’检测算法。”在杨青看来，随着新的deepfake工具不断涌现，金融行业要应对的深伪攻击会更多。未来更多的鉴伪技术应该集中去挖掘语义特征、跨模态特征等，让模型利用可解释性强的高层语义去鉴伪。
杨青介绍，度小满防深伪检测模型的算法策略从三个维度入手。首先生成瑕疵，检测模型则能将“基本肉眼可见”的特征都提取出来，设计特定的分析算子，从而进行分析研判。其次是固有属性，由于不同摄像机拥有不同的设备指纹，类似GAN这种模型在生成人脸时也会留下独特的用于识别生成器的指纹，因此经过对比就能发现端倪。最后，高层语义，指的是检测面部动作单元（肌肉群）协调性、面部各区域朝向一致性、视频微观连续性等方面的问题，由于这些细节建模困难、难以复制，很容易抓到把柄。
冯月亦表示，马上消费金融基于此类技术创新，目前已经能够做到将99%的批量欺诈攻击拦截在外，有效防范伪造信息、中介代办、伪冒申请、多头借贷、电信诈骗等风险。而相较于处于整体环节末端的金融机构，更前一步的，社交软件有义务引入鉴伪机制，并实时对用户进行通话鉴真提醒，标记对端用户是否有行为异常、图像伪造异常、声音伪造异常。更早的风险提示信息，可以更有效地阻隔风险结果的发生。
此外，业内人士认为，公众也可以采取一些自救措施，目前有一类技术可以保障用户的数据不被用于换脸、变声，这类技术叫对抗样本技术。以人脸图像为例，通过对该图像混入肉眼不可见的对抗扰动蒙版，可以使换脸技术失效。用户可以使用该类技术对自己社交媒体公开的图像、语音等媒体信息进行对抗保护后再公开。
“不要随便点击不明的短信链接、邮件链接等，不随意扫描不明来源二维码、下载APP，不轻易提供人脸等个人生物信息给他人，不轻易透露自己的身份证、银行卡、验证码等信息，不过度公开或分享动图、视频等。”冯月建议，无法保证手机等移动设备不丢失，可以在平时定期清理微信聊天记录，具有亲近关系的人隐藏相关痕迹，将手机相册加密、或者启动手机的数据保护功能等，这些日常行为都有可能将诈骗拦截在外。
新京报贝壳财经记者 姜樊
编辑 徐超
校对 陈荻雁