天天看點

揭秘!AI竟是網際網路垃圾内容生産的“元兇”?|數字素養

作者:雲南科協

首先問你一個問題:你使用過AI輔助工具嗎?

揭秘!AI竟是網際網路垃圾内容生産的“元兇”?|數字素養

圖檔來源 | 界面新聞

在這個“AI時代”,寫一篇有模有樣的文章,門檻已經很低了。在AI的幫助下,我們或許比不了真正文學家的文筆,但是隻需要一個想法架構,AI就能将它擴充成一篇完整的文章。

揭秘!AI竟是網際網路垃圾内容生産的“元兇”?|數字素養

圖檔來源 | 文心一言

不知道你是否發現,搜尋引擎中的很多搜尋結果,已經被AI生成的内容占據,而其中不乏錯漏百出的“垃圾内容”。

面對AI生成的這些“垃圾内容”圍剿,我們如何才能突出重圍?

AI為什麼開始生産“垃圾内容”

什麼是“垃圾内容”?

想象一個場景:當你的作業或者論文面臨截止日,而你的工作進度又實在“慘不忍睹”,于是隻好讓AI根據你的描述生成一段文字來“濫竽充數”,這就是“垃圾内容”的一種。

如果你使用過AI為你生成内容,你就會發現隻有不斷打磨你對工作内容地描述,AI才能生成出一篇令人滿意的稿件。

本月發表的一項研究中,對多個知名科學會議上研究AI的科學家,在同行評審中的用詞頻率進行了統計。

“細緻”一詞的頻率是前一年的34倍以上、“值得稱贊”的頻率大約是10倍、“複雜”則是11倍。這些短語是現代大型語言模型(如ChatGPT)的最愛。

揭秘!AI竟是網際網路垃圾内容生産的“元兇”?|數字素養

圖檔來源 | 知乎

換句話說,大量AI會議上的研究人員将他們的同行評審工作交給了AI,或者至少是在AI的大量幫助下撰寫,而且截止日越近,這種現象越明顯。

以前我們說Deadline是第一生産力,現在這恐怕是AI的“第一生産力”了。

除了被截止日逼得不得不借助AI的情況之外,還有一些鐘情“流量為王”的自媒體從業者,正在通過AI編輯低成本、高效率的虛假内容,這些内容都有相同的特點:

1.标題很驚人、吸引流量,點選量和評論數都很高;

2.内容格式化,每一篇都不盡相同,但是又非常類似;

3.引導評論發洩情緒,卻忽略了對客觀事實的探求。

沒有營養的、虛假的内容在AI的“幫助”下充斥網絡,從這些“垃圾内容”中找到自己真正需要的資訊,時間成本正在不斷提升。

這些“垃圾内容”都是AI的錯嗎?

AI能夠變得越來越智能,一方面依賴人工智能訓練師通過語言模型訓練來幫助AI變得更“聰明”,另一方面也依靠AI通過大模型資料從網際網路擷取資訊來進行“自學”。

訓練師通過輸入大量文字、圖檔等内容,幫助AI不斷學習提升自己的内容生成能力,這也讓那些靠生産“垃圾内容”擷取流量進而牟利的垃圾資訊制造者,也盯上了用AI幫他們耕作“内容農場”。

内容農場,通常是指專門使用軟體進行制作大量的垃圾内容擷取使用者點選,進而提升自身在搜尋引擎中的排名,變得更容易被搜尋到。内容農場的核心是“釋出各種寫作話題”,根據自行發明的一套算法,來評估兩樣東西:其一,什麼是目前網絡話題熱點;其二,什麼樣的關鍵字更容易帶來高廣告收入。

揭秘!AI竟是網際網路垃圾内容生産的“元兇”?|數字素養

圖檔來源 | 騰訊雲開發者社群

其實“垃圾内容”污染網際網路不是一天兩天,隻不過如今AI幫助這些人更加容易地生産着這些内容。隻需要想出一個聳人聽聞、吸引流量的标題,然後輸入到AI工具裡面,利用大語言模型的“幻覺”效應(就是可以圍繞使用者輸入的資訊生成事實上不真實的内容),“垃圾内容”就能夠被快速地生産出來,AI也就成為了生産“垃圾内容”的“幫兇”。

内容生産過程中如何合理利用AI?

我們應該了解的是,AI并非隻能生産“垃圾内容”,通過正确地學習訓練,AI甚至能夠寫出詩歌。

知名科幻作家劉慈欣在1989年發明的一款“電子詩人”軟體,這款軟體可以以200行/秒的速度進行現代新詩的生産,并産出像下面這樣的詩句:

“小行星被呼喚了!/在固體的周圍,隻有膠狀的稻田/不,我不想飛翔!!/我思念//三角函數被觀看了!/在仙女座的周圍,隻有活的巨川/不,我不想自我吞食!!/我沉澱//蜻蜓被捏住了!/在東方快車的周圍,隻有哇哇叫的弓箭/不,我不想冒煙!!/我交談//禁閉室被警告了!/在劍的周圍,隻有吱吱響的時間/不,我不想夢遊!!/我腐爛。”

AI會助纣為虐生産“垃圾内容”,同時它也能夠成為我們在寫作、學習中的好夥伴。

1.想讓AI提升,你得先自我提升

有的時候,我們總會覺得AI并沒有它宣傳的那麼聰明,這有可能是提示詞有問題。

“3W1H”模型是結構化提示詞的好方法,也就是“who、what、why、how”:定義你希望AI扮演的角色與目标,明确需求和細節方面的要求,闡述需求的背景和目的,并給出希望的結果與紅線。

使用AI前先訓練一下自己給出提示詞的能力,或許和AI的合作就能事半功倍。

2.讓它成為你的“靈感搭子”

千裡之行始于足下,寫出一篇好文章往往最難的是第一步:找到一個好選題。

如果你覺得你的靈感有些匮乏,一時之間又找不到合适的人與你讨論開闊視野,那麼不妨和AI聊一聊,通過“行業100問”、熱點分析、話題延伸等讓它幫你捕捉靈光閃現的瞬間,你就擁有了一個随時線上的“靈感搭子”。

3.不會起标題?問問AI吧

一個好标題對于文章能起到多大的加分作用?在你遇到一個好标題之前你可能永遠也不知道。

如果你是起标題的“苦手”,那麼不妨讓AI來幫幫你,并為它制定幾個不同的标題風格需求,從中選擇一個你最喜歡同時也符合文章主題的标題,那麼“寫文1小時,起标題占一半”的情況也就不會再發生了。

AI産出了不少“垃圾内容”,但源頭是人對AI技術的濫用,正确使用AI對于産出更高品質的内容,能夠起到巨大的助力。話說,本篇文章的标題就是AI生成的,你覺得AI的表現如何?你能讓AI生成出更好的标題嗎?在背景私信裡告訴我們吧。

來源:科普中國網站——北京科學中心

稽核專家:劉相權 北京資訊科技大學機器人工程系主任