#夏日生活打卡季#
美国的总统选举向来是一场充满戏剧性的大战，各种黑料、炒作、造谣、辩论、投票、计票、诉讼、抗议，让全世界都为之侧目。但是，如果你以为你已经见过了最疯狂的一届，那你就大错特错了。因为，2024年的总统选举将会面临一个前所未有的挑战——人工智能深度造假。
什么是深度造假？简单来说，就是利用人工智能算法，根据大量的在线视频和音频素材，制作出看起来非常真实的虚假视频和音频，让人们看到或听到他们从未说过或做过的事情。
这种技术最初主要用于制作恶搞和非自愿色情，比如把女明星的脸换到色情片里。但是近年来，随着技术的发展和普及，深度造假也越来越多地被用作政治工具，传播虚假信息。
比如，在2023年5月23日，一个深度造假视频在网上爆红，伪装成希拉里·克林顿的在线背书视频。这让很多人感到惊讶，因为她是民主党的前总统候选人，而视频里她却在支持共和党的罗恩·德桑蒂斯，他是特朗普的盟友和竞争对手。
“我其实很喜欢罗恩·德桑蒂斯，”希拉里说，“他是这个国家需要的那种人，我是真心这么说的。”
这个视频看起来非常真实，希拉里的声音、表情、动作都和她本人一模一样。但是，如果你仔细观察一下视频，你会发现希拉里的嘴唇和声音不太对应。这就是深度造假的破绽之一。
这个视频其实是用一个叫DeepFaceLab的人工智能工具制作出来的。它可以根据任何人的在线视频和音频素材，生成一个可以说任何话的虚假视频。你只需要输入你想让他们说的话，选择一个合适的模板，然后等待几分钟就可以得到一个看起来很真实的视频。
这个工具是在今年年初推出的，它是一系列新兴的“生成式AI”工具之一，它们让制作深度造假变得便宜和容易。路透社采访了多位专家，听听他们的看法，这些专家来自人工智能、网络虚假信息和政治活动等领域。
“对于选民来说，区分真实和虚假将会非常困难。你可以想象特朗普支持者或者拜登支持者如何利用这项技术让对手看起来很糟糕。”布鲁金斯学会技术创新中心高级研究员达雷尔·韦斯特说。
“可能会有一些东西在选举前夕出现，没有人有机会把它们撤下来。”
制作深度造假的工具被发布时，并没有太多或者完善的防范措施来防止有害的虚假信息。因为科技行业正在进行一场AI竞赛。人类技术中心联合创始人阿扎·拉斯金说。
前总统唐纳德·特朗普将与德桑蒂斯等人争夺共和党提名，与拜登竞争。本月早些时候，他在自己的社交媒体平台Truth social上分享了CNN主播安德森·库珀的一段篡改视频。
库珀在视频中说:“唐纳德·j·特朗普总统在CNN的总统直播会上把我们变成了一个新的混蛋。”但如果仔细看这个视频，会发现他的话与他的嘴唇动作不相符。
CNN称该视频是深度造假。特朗普的代表没有回应对这段视频的评论请求，这段视频本周仍在他的儿子小唐纳德的推特页面上。
根据致力于检测合成媒体工具的DeepMedia公司的数据，与2022年同期相比，今年网上发布的各种视频深度造假数量增加了三倍，语音深度造假数量增加了八倍。
据DeepMedia估计，到2023年，全球将有大约50万个视频和语音深度造假作品在社交媒体网站上分享。该公司表示，直到去年年底，克隆语音还需要花费1万美元的服务器和人工智能培训成本，但现在初创公司只需要几美元。
为了应对深度造假带来的威胁，一些组织和个人正在采取一些措施。
比如，有专家提出，对此行为进行更多的监管，应该要求所有使用深度造假技术制作或传播虚假信息的人，在视频或音频中加上明显的标识或水印，并且在24小时内删除或更正。同时，平台需要实施适度机制，警告用户注意深度造假。加强用户教育，让用户意识到深度造假的存在及其影响。
这些措施都是值得赞扬和支持的，但是它们是否能够有效地阻止或减少深度造假对2024年总统选举产生的影响呢？
这还很难说。因为深度造假技术还在不断进化和改进，而且有些人可能出于政治、经济或者其他动机，仍然会利用这项技术来误导或操纵公众舆论。
因此，在这场与AI技术的较量中，最重要也最有效的武器可能还是人类自己——每个人都应该保持警惕和批判性思维，不要轻信或转发任何没有可靠来源或证据的信息，并且积极地寻求并传播真相。
麻烦看官大人点一下页面右上角的“关注”，方便您看到更多精彩内容和更多高清优质图画，了解更多有用信息。多谢您啦！