如何用AI對付“朋友圈”泛濫的假新聞？

這可能是網際網路史上首個虛假消息：1984年，有人在Usenet上發帖稱蘇聯接入網際網路。這隻是無傷大雅的愚人節惡作劇，但與今天朋友圈那些“哭笑不得”的虛假消息和造謠相去甚遠。因為如今虛假資訊危害大，且不擇手段。2017年，誤導性和惡意虛假網絡内容不計其數，人類無法自己擺脫這一困境。相反，有可能靠機器拯救人類。

一家名為 AdVerif.ai 的初創公司設計了一種同名算法，可以把我們從黑暗中拯救出來。人工智能軟體可以監測虛假新聞、裸露畫面、惡意軟體和其他有問題的内容。目前AdVerif.ai與一些不願涉及虛假或攻擊性新聞的美國和歐洲平台和廣告網絡公司合作，11月已推出測試版本。

AdVerif.ai創始人Or Levi表示，其側重為公司而非普通使用者提供産品。個體消費者可能不擔心所點選消息的真實性，但廣告商和網絡平台卻會因托管或宣傳惡意内容而蒙受損失。如果廣告商和平台改變自身服務，可斷絕通過制造假新聞而獲利的人的收入來源。Levi說：“這将是應對這類消息的一大進步。”

AdVerif.ai 是如何發現假新聞？

AdVerif.ai通過掃描察覺某些可疑迹象，例如标題與内容不比對，或标題中大寫字母過多。它還通過數千個合法或虛構的新聞資料庫交叉檢查新聞，該資料庫每周更新一次。客戶可以看到系統認定為可疑消息的報告，使用分數評估哪些可能是假新聞，哪些可能攜帶惡意軟體或者含有客戶要求系統注意的内容，比如裸露資訊等。最終，Levi說他計劃提高AdVerif.ai識别篡改圖像及浏覽器插件的能力。

如果AI可以測試AdVerif.ai的樣本，能識别出洋蔥（the Onion）是諷刺新聞（過去曾經愚弄過很多人）； 它把Breitbart新聞歸類為“不可靠的，右翼的，政治的，偏見的”，而認為Cosmopolitan雜志是“左翼的”；它可以辨識何時Twitter賬戶使用商标時連結與其描述的品牌無關。AdVerif.ai發現《自然新聞》（ Natural News）上标題為《比特币是NSA推出的數字貨币的證據》的新聞來自被列為黑名單的網站，它彈出其他被列入黑名單的網站且沒有提供任何合法新聞的機構，因而确定它是假新聞。

盡管如此，仍有一些可疑資訊逃之夭夭。例如，一個名為“行動新聞3網站”發表了一篇題為《美國橄榄球聯盟球員被拍在更衣室焚燒美國國旗！》的文章，這篇文章雖已證明為惡意僞造，但人工智能卻未監測到。是以，為進一步完善系統，虛假新聞黑名單可手動逐篇更新。

當 AI 造假遇上 AI 打假

AdVerif.ai并非唯一一家抓住機會使用人工智能為線上公司提供事實真相的初創公司。除此之外，網絡安全公司尤為迅速地在目錄中添加機器定位和虛假新聞監測操作，并指出監測的許多方法類似于黑客攻擊；Facebook正調整算法減少虛假新聞推送；同時，谷歌也與事實核查網站合作監測虛假資訊，但核查結果仍參差不齊。此外，去年年底，人工智能社群志願者發起了識别虛假新聞挑戰賽，旨在鼓勵開發打擊惡意報告的工具。

Joostware（開發機器學習系統公司）的組織者和創立者德利普·拉奧（Delip Rao）表示，監測虛假新聞需要進行多個步驟操作才得以完成挑戰。第一步是位置監測，即首先選取一則新聞，之後指出其他新聞網站對該類話題的評價。這樣，人工事實核查員可依靠多則新聞驗證其他新聞的真實性，同時減少了逐篇核查的時間。

虛假新聞挑戰賽釋出了供團隊使用的資料集，共有50個團隊送出資料。最終，思科網絡安全部門的塔洛斯智能（Talos Intelligence)赢得此次挑戰賽，其設計的算法的正确率高達80%以上——雖然塔洛斯智能未大獲全勝，但結果仍鼓舞人心。下一個挑戰可能是帶文本（帶有虛假新聞的思考模因）的圖像，這種文本格式在社交媒體上廣為使用，原因是算法難以破解和了解該格式。

拉奧表示：“我們想為事實核查員開發最好的工具，這樣他們就可以像在血清中核查類固醇一般快速工作。”

即使人們能開發出有效打擊虛假内容的系統，但這并非終極目的。人工智能系統已經能夠建立虛假文本和極其逼真的圖像和視訊。（參考文章《太過分，AI不僅學會P圖，現在讓親眼所見都不一定為真》）

或許正因如此，最近Gartner研究預測表明，到2022年，發達國家中的大多數人看到的資訊将多是虛假資訊而非真實資訊。類似的報告表明，在此之前，虛假資訊将超出人工智能監測能力範圍，改變人們相信數字資訊的方式。

AdVerif.ai以及其他公司更像開始了一場競賽，而非虛假資訊之戰。競賽中，虛假内容創作者開發自己的人工智能系統企圖戰勝 “正義”的人工智能。是以，我們不得不重新審視自己擷取資訊的方式。

原文出處：科技行者

轉載請與作者聯系，同時請務必标明文章原始出處和原文連結及本聲明。