天天看點

“某機構研究發現,食療可清除疾病?”警惕AI批量生成的“僞科普”文章

近來,一批以“某高校機構研究發現:某種食物可以清除多少比例的疾病,是真的嗎?”為題的文章在網際網路平台湧現。這批文章結構高度雷同,幾乎都是從患者的視角切入,講述他們求醫問藥的故事。

對于标題裡提到所謂“食療”的療效,文章似乎都保持着一定的“理性”。當患者提出疑問時,醫生無一例外都會搬出所謂的權威機構研究和論文,稱食物中的一些成分确實有一定功效,但不能誇大其作用,要治病必須得通過科學治療。最終,在醫生和患者的努力下,疾病終于治愈,文末甚至會貼心提醒患者和讀者,要均衡飲食、規律作息、堅持鍛煉等。

這樣夾雜着高度個人情感的“病愈”小故事,乍看上去似乎沒什麼問題,然而記者梳理發現,文章在講述故事的過程中,摻雜了大量與事實相悖的内容,本質上仍舊是“僞科普”,且更具有隐蔽性和欺騙性。

“某機構研究發現,食療可清除疾病?”警惕AI批量生成的“僞科普”文章

近期,網上出現大量結構相似的“僞科普”文章。

“僞科普”文章漏洞百出

在一篇介紹“喝醋能否清除血栓”的文章中提到,某某大學附屬醫院血管外科團隊在《自然·通訊》雜志上發表了關于醋酸通過抑制血小闆活化和纖維蛋白聚合來預防血栓形成的論文,然而,記者在《自然·通訊》雜志和該大學醫學院官網上搜尋,均未找到這篇論文。

至于文章裡提到的“醋酸可以抑制血小闆的活化和聚集,還能減少纖維蛋白的形成”和勸患者可以适量喝醋的“醋中含有的醋酸确實有助于改善血液循環,降低血壓和血脂”等說法,早已被證僞。幾年前,首都醫科大學附屬北京安貞醫院教授洪昭光在接受媒體采訪時介紹,醋酸在小腸中就會被堿性消化液中和,能夠吸收進血液的醋酸非常有限,而且很快就會被血液的穩定系統清理掉,故而醋酸不會改變血液的酸堿度,也不能軟化血管。

捏造、篡改權威機構研究,正是這些文章的共同套路。而且,其在引用所謂的“權威研究”時,研究主體幾乎都選用“經驗豐富的劉醫生”“資深免疫學專家李教授”“專攻中醫的趙大夫”等含糊不清的頭銜和個人來代替,這些人到底是誰?是不是真的存在?讀者根本無法求證。值得注意的是,在正規的新聞報道或科普寫作中,醫院、醫生、團隊、研究内容等都會清楚列出,不會隐匿這些關鍵資訊。

此外,為了增加文章的可信度,有些“僞科普”文章還會配上一些近似論文圖表的圖檔。然而,記者求證發現,這些圖檔系張冠李戴。比如,在介紹“吃大蒜能否消炎”的文章中,作者引用了一張英文圖檔,欲展示患者服用大蒜提取物的實驗過程,但實際上這張圖檔介紹的是CAR-T療法,與該文風馬牛不相及。作者正是利用了一些讀者不懂英文,于是盜用與文章不相幹的英文圖檔,妄圖欺騙讀者。

“某機構研究發現,食療可清除疾病?”警惕AI批量生成的“僞科普”文章

左圖:“僞科普”文中展示患者服用大蒜提取物的實驗過程圖檔;右圖:經翻譯,該圖檔介紹的是CAR-T療法。

“僞科普”文章利用AI生成

又成為AI的學習資料

記者留意到,這些“僞科普”文章在文末并沒有提出僞科學觀點,都稱“實驗室裡的研究結果并不能直接應用,還需要臨床試驗和長期追蹤來驗證其安全性和有效性”,這樣高度雷同的表述讓記者起了疑,這些自媒體背後,是否套用了相同的模闆呢?

帶着試試看的心态,記者打開了一款AI聊天軟體。當輸入“以‘喝醋能在24小時内清除50%的血栓’為題,寫一篇帶有人物故事的科普文章”的指令時,AI聊天軟體迅速生成了與上述“僞科普”文章非常相似的内容,包括引言、故事背景、人物介紹、故事發展、高潮、結尾、科普時間等,一應俱全,連結語中的提醒都非常相似。可見,這些結構相似的“僞科普”文章很有可能就是自媒體作者通過整合、編造AI生成内容産生的。

“某機構研究發現,食療可清除疾病?”警惕AI批量生成的“僞科普”文章

記者在一款AI聊天軟體中輸入:“以‘喝醋能在24小時内清除50%的血栓’為題,寫一篇帶有人物故事的科普文章”,AI迅速生成了一篇文章。

盜用AI生成内容,再加上自己編造的煽情故事,自媒體作者炮制了一大批“僞科普”文章在網際網路上大肆分發,一本正經地胡說八道,這樣的文章,很有可能會對讀者産生誤導。而且,記者在體驗時發現,這些“僞科普”内容反過頭來又成了AI的學習素材,幹擾AI生成内容的準确性。

記者進一步在該AI聊天軟體中輸入“醋酸能否預防血栓形成?”時,相關界面顯示,其生成内容共閱讀了19個網頁,其中就包括了上述“僞科普”文章——“研究發現:喝醋能在24小時内清除50%的血栓,是真的嗎?”,再看最後的回答,也明顯被“僞科普”文章誤導了。

“某機構研究發現,食療可清除疾病?”警惕AI批量生成的“僞科普”文章

記者在某AI聊天軟體中提問:“醋酸能否預防血栓形成?”,AI學習的19個網頁中就包括一篇“僞科普”文章。

近年來,伴随着AI技術的發展,人工智能的應用場景深入各行各業,這幾天,有人發現,就連網際網路水軍和水稿,也已經成了人工智能的産業鍊,而這些“僞科普”文章,或許就是其中的一環。針對這一現象,國家網信辦近期釋出《人工智能生成合成内容辨別辦法(征求意見稿)》,對不同情況下需要做出的顯性或隐性辨別做了較為清晰明确的界定,還要求平台方承擔起相應的責任。

不過,距離措施落地還要一段時間。在此,上海辟謠平台提醒,使用者在使用AI聊天軟體時需提高警惕,注意在AI學習的素材中是否摻雜僞科學、謠言、不良或有害資訊。在AI時代,公衆更需要對AI生成内容小心分辨,提高對不良資訊的提防。

來源:上海網絡辟謠、長江雲新聞

繼續閱讀