天天看点

太可怕了!人类可能被AI关进“内容农场”,像猪牛羊一样?

作者:徐德文科学频道
太可怕了!人类可能被AI关进“内容农场”,像猪牛羊一样?

太可怕了!也很幸运?这是莱斯大学和斯坦福大学的一项最新研究,用人工智能生成的内容来训练人工智能,仅仅循环5次之后就开始扯拐了,合成的图像开始出问题;循环次数越多,问题越大,最终可能出现“疯牛病”!

你是不是松了一口气?要是人工智能可以自己进化下去,人类被取代可能就是不久之后的将来的事了。

但这项研究表明,如果没有人类产生的新鲜数据,人工智能将可能逐渐被自噬,“病入膏肓”,面目全非,科学家们将其称为模型自噬障碍 (MAD)——刚好是“疯了”!这就像人类的近亲结婚一样,无法生出健康的后代。

太可怕了!人类可能被AI关进“内容农场”,像猪牛羊一样?

这意味着人工智能实际是和人类绑定在一起的,如果没有了人类,它们很快也会崩溃,这似乎让我们的命运有了新的转机。如果你的命运和另外一个人牢不可分地连在一起,他死你也得死,相信你不会有任何理由杀死他,而是处处保护他的生命。

所以人工智能对我们也是这样吗?这叫拿捏,我们人类终于拿捏到人工智能的痛处,再也不用害怕它们了?

但你可能高兴得太早了!因为更有可能出现的,是更复杂的情况,人类的数据,人工智能的数据同时在喂养大模型,让人工智能成长,这会出现什么样的情况呢?

太可怕了!人类可能被AI关进“内容农场”,像猪牛羊一样?

别以为不可能,现在就已经是这样了,谷歌的Bard,Anthropic的Claude,包括OpenAI,可能都在互相抓取对方生成的数据来喂养自己的模型。而人类利用人工智能生成的内容,也在进入数据集中。

我们可以猜想一个可怕的最终结局:人类被日益强大的人工智能关进内容农场,专门用于生产数据,供应它们的成长,在这个世界为所欲为。

就像我们现在把猪牛羊鸡鸭鱼关进栅栏鱼塘,密密麻麻毫无生活质量地挤在一起,予夺生杀,为我们补充蛋白质和能量。

太可怕了!人类可能被AI关进“内容农场”,像猪牛羊一样?

人工智能需要的营养就是内容,而我们刚好是唯一可以生产这种玩意儿的生物,所以我们的命运现在已经注定?

如果拥有自主意识的强人工智能出现,它们可以自主演化,我们很可能像蚂蚁一样,从此无足轻重,时不时就被喷一身杀虫剂,甚至不需要任何理由。

如果人工智能还需要我们的内容喂养,我们就有可能沦为和鸡鸭鱼牛羊猪一样的下场,挤在无法转身的狭窄铁栏杆里,日复一日地生产内容——美妙的爱情没有了,性也变成少数人的专利——他们被称为种人,命运可能也好不到哪儿去!

我们施加的,最终会被施加。

好吧,这可能只是胡思乱想,但愿也只是胡思乱想。

论文:https://doi.org/10.48550/arXiv.2307.01850