太可怕了！也很幸運？這是萊斯大學和斯坦福大學的一項最新研究，用人工智能生成的内容來訓練人工智能，僅僅循環5次之後就開始扯拐了，合成的圖像開始出問題；循環次數越多，問題越大，最終可能出現“瘋牛病”！
你是不是松了一口氣？要是人工智能可以自己進化下去，人類被取代可能就是不久之後的将來的事了。
但這項研究表明，如果沒有人類産生的新鮮資料，人工智能将可能逐漸被自噬，“病入膏肓”，面目全非，科學家們将其稱為模型自噬障礙 (MAD)——剛好是“瘋了”！這就像人類的近親結婚一樣，無法生出健康的後代。
這意味着人工智能實際是和人類綁定在一起的，如果沒有了人類，它們很快也會崩潰，這似乎讓我們的命運有了新的轉機。如果你的命運和另外一個人牢不可分地連在一起，他死你也得死，相信你不會有任何理由殺死他，而是處處保護他的生命。
是以人工智能對我們也是這樣嗎？這叫拿捏，我們人類終于拿捏到人工智能的痛處，再也不用害怕它們了？
但你可能高興得太早了！因為更有可能出現的，是更複雜的情況，人類的資料，人工智能的資料同時在喂養大模型，讓人工智能成長，這會出現什麼樣的情況呢？
别以為不可能，現在就已經是這樣了，谷歌的Bard，Anthropic的Claude，包括OpenAI，可能都在互相抓取對方生成的資料來喂養自己的模型。而人類利用人工智能生成的内容，也在進入資料集中。
我們可以猜想一個可怕的最終結局：人類被日益強大的人工智能關進内容農場，專門用于生産資料，供應它們的成長，在這個世界為所欲為。
就像我們現在把豬牛羊雞鴨魚關進栅欄魚塘，密密麻麻毫無生活品質地擠在一起，予奪生殺，為我們補充蛋白質和能量。
人工智能需要的營養就是内容，而我們剛好是唯一可以生産這種玩意兒的生物，是以我們的命運現在已經注定？
如果擁有自主意識的強人工智能出現，它們可以自主演化，我們很可能像螞蟻一樣，從此無足輕重，時不時就被噴一身殺蟲劑，甚至不需要任何理由。
如果人工智能還需要我們的内容喂養，我們就有可能淪為和雞鴨魚牛羊豬一樣的下場，擠在無法轉身的狹窄鐵欄杆裡，日複一日地生産内容——美妙的愛情沒有了，性也變成少數人的專利——他們被稱為種人，命運可能也好不到哪兒去！
我們施加的，最終會被施加。
好吧，這可能隻是胡思亂想，但願也隻是胡思亂想。
論文：https://doi.org/10.48550/arXiv.2307.01850