太可怕了！也很幸运？这是莱斯大学和斯坦福大学的一项最新研究，用人工智能生成的内容来训练人工智能，仅仅循环5次之后就开始扯拐了，合成的图像开始出问题；循环次数越多，问题越大，最终可能出现“疯牛病”！
你是不是松了一口气？要是人工智能可以自己进化下去，人类被取代可能就是不久之后的将来的事了。
但这项研究表明，如果没有人类产生的新鲜数据，人工智能将可能逐渐被自噬，“病入膏肓”，面目全非，科学家们将其称为模型自噬障碍 (MAD)——刚好是“疯了”！这就像人类的近亲结婚一样，无法生出健康的后代。
这意味着人工智能实际是和人类绑定在一起的，如果没有了人类，它们很快也会崩溃，这似乎让我们的命运有了新的转机。如果你的命运和另外一个人牢不可分地连在一起，他死你也得死，相信你不会有任何理由杀死他，而是处处保护他的生命。
所以人工智能对我们也是这样吗？这叫拿捏，我们人类终于拿捏到人工智能的痛处，再也不用害怕它们了？
但你可能高兴得太早了！因为更有可能出现的，是更复杂的情况，人类的数据，人工智能的数据同时在喂养大模型，让人工智能成长，这会出现什么样的情况呢？
别以为不可能，现在就已经是这样了，谷歌的Bard，Anthropic的Claude，包括OpenAI，可能都在互相抓取对方生成的数据来喂养自己的模型。而人类利用人工智能生成的内容，也在进入数据集中。
我们可以猜想一个可怕的最终结局：人类被日益强大的人工智能关进内容农场，专门用于生产数据，供应它们的成长，在这个世界为所欲为。
就像我们现在把猪牛羊鸡鸭鱼关进栅栏鱼塘，密密麻麻毫无生活质量地挤在一起，予夺生杀，为我们补充蛋白质和能量。
人工智能需要的营养就是内容，而我们刚好是唯一可以生产这种玩意儿的生物，所以我们的命运现在已经注定？
如果拥有自主意识的强人工智能出现，它们可以自主演化，我们很可能像蚂蚁一样，从此无足轻重，时不时就被喷一身杀虫剂，甚至不需要任何理由。
如果人工智能还需要我们的内容喂养，我们就有可能沦为和鸡鸭鱼牛羊猪一样的下场，挤在无法转身的狭窄铁栏杆里，日复一日地生产内容——美妙的爱情没有了，性也变成少数人的专利——他们被称为种人，命运可能也好不到哪儿去！
我们施加的，最终会被施加。
好吧，这可能只是胡思乱想，但愿也只是胡思乱想。
论文：https://doi.org/10.48550/arXiv.2307.01850