天天看点

30分钟生成数字分身、颠覆海马体的「 妙鸭相机 」为啥刷不了屏?

作者:数字人研究

30分钟就可以生成自己的数字分身!

首个现象级AIGC小程序!

降维打击,颠覆海马体(照相馆)!

9.9元做出499的效果

热度匹敌“羊了个羊”!

......

前两天,我刷头条时看到好多媒体在同一时间都在说「 妙鸭相机 」刷屏了的消息,吓得我赶紧留意朋友圈和社交账号,结果两天过去了,发现了「 妙鸭相机 」至今没有刷屏。

很显然,「 妙鸭相机 」短暂的“爆火”是媒体们商量好,同一时间造势出来的火,而不是像媒体文章说的那样:「 妙鸭相机 」几乎在没有官方宣传的情况下,靠用户自发裂变刷屏才火起来的。

所以不不太关注新闻的朋友可能还不知道「 妙鸭相机 」是什么!

30分钟生成数字分身、颠覆海马体的「 妙鸭相机 」为啥刷不了屏?

简单的说,「 妙鸭相机 」是一个用AIGC技术生成写真照片的应用,按照要求上传21张照片之后,「 妙鸭相机 」就可以用你的容貌,生成各种动作、衣服和风格的照片。

这听起来是不是很像AI换脸?

但「 妙鸭相机 」应该不是AI换脸,其背后的技术大概是Stable Diffusion和微调模型LoRA这样的东西,它不局限于模板提供的衣服、动作标签和风格,而是可以比较自由的进行微调,这是单纯的AI换脸做不到的。同时,这也是为什么「 妙鸭相机 」称之为制作“数字分身”的原因,因为模型一旦训练完成,理论上你可以用你的“数字分身”模型生成出来各种各样的照片,而不局限于模板提供的几套。

为什么「 妙鸭相机 」刷不了屏?

媒体们都说「 妙鸭相机 」刷屏了,但我并不这么问题,证据有很多,最简单的你看你的朋友圈、微信群有多少人晒照片就知道了。

一个小程序,不管是羊了个羊,还是曾经出现过的AI换脸应用ZAO,要想达到通过朋友圈和社区裂变刷屏的小狗,只要要符合三个条件:激发分享欲、进去圈层和足够短的链路。

而「 妙鸭相机 」不太满足的地方主要是收费和算力不熟不足,导致链路过长的问题。

9.9元费用虽然不贵,但是却把很多用户挡在了门外。以往的可以朋友圈、各种社区造成刷屏之势的,几乎无一例外的免费的,即便后续收费也会提供至少一次体验机会。

所以,即便你说9.9元就能做出来海马体499元套餐的效果,相信大部分用户也不会轻易尝试。光从这点去看,「 妙鸭相机 」颠覆海马体等照相馆,就是不太可能的。况且「 妙鸭相机 」输出的照片分辨率远不如海马体高清,想要打印或制作成实体相框一样需要钱。还有就是去拍写真的拍摄过程也是一种体验,并不是AI生成就可以代替的。

而另一方面,「 妙鸭相机 」收了9.9元,它赚到钱了吗?可能未必,因为训练这么一个数字分身的成本可不低,需要强大的算力支撑。而现在算力并不便宜,比如租用A100显卡的算力一个小时就要大约8块钱。所以很有可能,「 妙鸭相机 」并不赚钱,甚至是是在贴钱。这也解释了为什么秒鸭相机连免费试用的机会都不给,因为免费试用也要走完算力建模的全过程,要花掉一样的成本。

而也正是因为算力贵,「 妙鸭相机 」部署的算力十分不足,这就导致了「 妙鸭相机 」一登场,就出现了用户长时间排队的情况,四五千人同时申请就要排队十几个小时才能完成模型生成。可能你花掉9.9元时充满分享欲,但是十多个小时,也就第二天的时候,你可能就忘记了这档事,没有欲望再去分享照片。这也是造成「 妙鸭相机 」没有在朋友圈刷屏裂变的一个主要愿意。

AI时代隐私暴露的危害,可能远比你想的更可怕

AI的隐私问题,要比以往更加严重。「 妙鸭相机 」最开始的用户协议十分危险,大概意思是用户上传照片及训练出来的模型,他们可以在任何时间任何地点任意使用,也包括转让授权给别人用。

30分钟生成数字分身、颠覆海马体的「 妙鸭相机 」为啥刷不了屏?

霸王条款曝光之后,「 妙鸭相机 」紧急修改了隐私条款,改成用户照片只用于训练模型,并且在训练完成之后自动生成。条款看起来正常的,但依然存在问题。

如果是以前的逻辑,比如有人说想海马体这样的实体照相馆,一样可能会保存你的照片造成隐私问题,但泄露的照片内容是固定的,使用的范围也是有限的。

但是在「 妙鸭相机 」这类AI应用,即便对方删除了你提供的照片、视频等素材,但训练完成的模型他不可能删,而通过这个模型就可以生成无数新的照片,可以是各种装扮、各种动作、各种表情,在任何地方任何地点的照片。

大家是否还记得之前网上有一组特朗普被捕的照片?就是AI生成的。当然那个画风看起来还有些假,但如果训练模型的照片、视频的清晰度足够高,角度足够齐全,那么理论上就可以生成以假乱真照片和视频。而这些,你在使用「 妙鸭相机 」等AI应用的时候,你自己就上传了符合这一训练要求的素材。

于是在AI时代你的隐私一旦泄露,那么你在网络上的存在就可以被伪造,比如用你的形象电信诈骗,AI生成出来的事故照片与视频,想一想能骗过多少人?再或者生成各种违法的东西,比如色情内容等等,你没有做的事情都可以硬造出来。

所以不是我们变得敏感,而是随着技术的发展,隐私问题真的愈发严重。

还有一个问题就是,目前「 妙鸭相机 」生成模型没有身份验证这一步骤,提交训练并不需要照片本人同意。也就说你可以拿别人的照片来训练,然后来生成各种新的照片,这也会造成侵犯他人隐私权的问题。

关于AI应用造成的个人隐私安全问题突出的问题,大陆有关部门也在积极探讨对应的法律法规,7月13日,国家网信办等七部门联合对外发布《生成式人工智能服务管理暂行办法》,并将在8月15日开始实施,旨在促进生成式人工智能发展的同时,对传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题作出回应。

其实,「 妙鸭相机 」面临的隐私安全问题,在去年AI数字人应用迅速崛起之时,就已经并引起一些数字人公司的高度重视。比如AI数字人领域的头部企业风平智能,提出了专利技术的5AS风险管理系统,包括算法分析、安全筛选、授权审核、内容修正、信息追踪等环节。

具体地说,风平智能旗下的风平IP智造平台,在数字人的定制与建模环节,风平智能就会对提交者进行身份进行严格审核,只有经本人确认才能制作自己的数字人分身,杜绝在本人未授权的情况下被他人恶意训练模型。而在数字人使数字人模型的使用同样严格把控,杜绝数字人外泄,保证用户的隐私安全。

同时,风平IP智造平台通过先进的管理流程,能够根据产生数据推测出可能涉及的风险,使生成的短视频与实时数字人直播避免各种可能存在的各类风险,大大提升了数字人生产的安全性和可靠性。

30分钟生成数字分身、颠覆海马体的「 妙鸭相机 」为啥刷不了屏?

因为从建立之初,风平智能就注重用户隐私安全与AI数字人内容生产安全规范,所以包括万达、腾讯、新东方、用友、极氪汽车、91金融、乐华娱乐、国联证券等众多企业和机构,以及一些明星、央视主持人、艺术家、财经专家等知名人士都在使用风平智能的AI数字人产品,说明其在数字人效果与安全隐私方面的优势。

在AIGC概念大行其道之时,以前曾经刷过屏、爆过的东西,用AI的方法重新包装一下大概率也会火起来,「 妙鸭相机 」就算一个例子。但是在谈及各种颠覆传统的同时,我们对隐私安全问题的要求,也要一起提上来。

继续阅读