天天看点

OpenAI关闭内容检测工具,借助密码学,C2PA正在成为新的替代者

作者:阿刚评论

由于人工智能生成的内容对于人类的影响越来越大,同时威胁到一些人的工作,为此美国政府希望那些科技公司能够披露何时采用人工智能创建的内容。欧盟也计划出台新的政策,要求一些科技平台标注包含人工智能生成的图像、视频以及音频内容。

目前,识别作品是否包含由人工智能创作的内容,主要依靠人工智能检测工具和水印。由于这两个工具没有统一的标准,因此在识别是否包含人工智能创作的内容时,有时会出现严重的错误。由于识别的错误率高,近期OpenAI已经关闭了自己的人工智能检测工具。

OpenAI关闭内容检测工具,借助密码学,C2PA正在成为新的替代者

为了解决识别率低的问题,人们开始关注C2PA。C2PA是由微软、英特尔和Adobe等公司在2021年创建的C2PA联盟(Coalition for Content Provenance and Authenticity,内容来源和真实性联盟)。这个联盟创建了一个开源社区内容真实性倡议。这个联盟推出一个开源的互联网协议,借助密码学对内容的来源等细节进行编码。目前全球有1500家公司参与了这个项目。

为了增强实用性,C2PA具有跨互联网的特性,任何人都可以访问基本的计算机代码。一位从事内容验证产品的销售人员,向用户展示了基于这个协议的Revel.ai识别深度人工智能创作视频的案例。通过Revel.ai,用户很快会从屏幕中看到提示性内容,这个视频包含人工智能生成的内容。

OpenAI关闭内容检测工具,借助密码学,C2PA正在成为新的替代者

C2PA采用密码学原理对原创作品进行保护的。因为密码学依靠一系列的代码和密码去保护原始信息,确保这些信息不会被篡改。C2PA主要采用哈希密码对每个像素的来源进行编码的。正是由于有了这个特性,因此Adobe也在Photoshop和Adobe Firefly等产品中采用C2PA。Adobe也希望借助C2PA能吸引更多的设计师,增加收入。

相比于其它人工智能检测工具和水印标准不一的状况,C2PA更容易建立统一标准此外,C2PA还能够与现有的人工智能工具和水印配合起来使用,去增强识别内容的准确性。

OpenAI关闭内容检测工具,借助密码学,C2PA正在成为新的替代者

但是C2PA也有弱点,就是要求内容创作者在创作内容时,同意使用C2PA协议,这样可以方便系统去追寻作品的出处。由于C2PA没有法律约束力,如果一些作品的作者没有使用C2PA协议,因此就无法准确判断一个作品是否由人工智能生成的。

此外使用C2PA的平台,由于加入了检测工具,因此可能会影响流媒体的播放速度。另一个问题就是加入原创标签的作品,也不能确保这个作品内容的真实性。

OpenAI关闭内容检测工具,借助密码学,C2PA正在成为新的替代者

内容创作平台对于C2PA的推广也影响巨大。虽然推特曾表示要加入C2PA,但是在马斯克入驻推特以后,这件事就取消了。这也会影响C2PA的发展。

由于C2PA受到美西方科技公司的控制,由于存在系统性问题,因此C2PA在一些内容真实性上面仍然存在巨大的错误。我们也需要建立自己的标准协议,去规范我们的数字内容的真实性。随着国内各种AI工具的出现,我们更希望这个协议早日出现。

继续阅读