天天看點

哨子已經吹響,治理算法濫用刻不容緩

 有些新聞一定要對比看,才會有更積極的警示意義。

  新聞一:2021年9月29日,國家網際網路資訊辦公室等九部門聯合印發了《關于加強網際網路資訊服務算法綜合治理的指導意見》。意見提到,維護網絡空間傳播秩序、市場秩序和社會秩序,防止利用算法幹擾社會輿論、打壓競争對手、侵害網民權益等行為,防範算法濫用帶來意識形态、經濟發展和社會管理等方面的風險隐患。

  新聞二:當中國人享受和諧的國慶假期之際,美國科技業界迎來一場超級風暴。原Facebook産品經理Frances Haugen公開站出來曝光,Facebook此前進行了一系列社交媒體影響力研究,研究結果顯示Facebook目前的算法和産品會放大仇恨、傳播謠言、引發社會動蕩,影響青少年身心健康。但面對這樣的研究結果,Facebook高層不僅沒有進行積極整改,反而為了公司利益選擇了掩蓋問題。

  近期,這兩條新聞各自在中美科技業界引發廣泛關注,核心都指向了近年備受各方關注的“算法濫用”。

哨子已經吹響,治理算法濫用刻不容緩

  美國科技行業的Frances Haugen被譽為“吹哨子的人”,成為英雄般的人物,他的公開“反水”引起了美國各方對巨頭算法濫用的反思。

  中國方面,算法問題治理更為積極,九部門以罕見的高規格釋出了算法治理新規,具有積極的行業意義,或将對全球普遍存在的算法問題治理提供借鑒。

  在《關于加強網際網路資訊服務算法綜合治理的指導意見》下發前後,我接受《環球時報·英文版》等媒體采訪,談了我的一些看法。在我看來,算法濫用是全球網際網路行業共同的行業難題,各方都在積極探索治理方案。《關于加強網際網路資訊服務算法綜合治理的指導意見》的印發非常有必要,它的意義也是在于維護消費者以及使用者合法權益、創造競争公平的清朗網絡環境,同時這項政策的印發,以及之前已經出台的《網絡安全法》《資料安全法》《個人資訊保護法》等法規,将共同為防範算法濫用帶來的諸多市場和經濟、社會問題,提供助力。

  在采訪中,我列舉了幾則典型的算法濫用問題。

  ①大資料殺熟。大資料殺熟是濫用算法最典型行業問題,包括用更貴的手機打車費更多、更有錢的消費者住酒店價格更高、開通會員價格不一等現象,都是巨頭型企業濫用算法技術和行業支配能力,為了攫取利益實施的非正當手段。

  ②愚昧民智的奶頭樂。算法技術支援的新聞推送、短視訊推送大行其道,使用者無需思考被主動投喂,享受一時歡愉的“奶頭樂”,喪失了獨立思考。長期下去人的判斷力和智商降低,知識面也會越來越狹隘,一些低級謠言也就有了傳播的溫床。

哨子已經吹響,治理算法濫用刻不容緩

  ③操縱輿論。個别網際網路巨頭,控制了大量媒體和社交媒體,公器私用,通過算法優勢,利用屏蔽關鍵詞或者放大關鍵詞等方式,引導輿論走向。

  就像任何資訊技術一樣,算法是一把雙刃劍,它的背後是AI以及大資料、雲計算等技術體系,關于算法的“利”,我在之前的文章中已經提及多次,包括城市智能體、智慧工業、自動駕駛、語音識别等等,都離不開算法的賦能。算法的價值怎麼拔高都不過分,這裡不再過多叙述。

  但是,關于算法的“惡”,我們還沒有足夠的認知和重視。俗話說,它山之石可以攻玉,美國方面Facebook的算法“放大仇恨、傳播謠言、引發社會動蕩,影響青少年身心健康”這樣的問題也應該值得我們警醒。事實上,Facebook為代表的科技巨頭算法作惡遠不止于此,這幾年Facebook的算法推薦,一次次引發社會撕裂和敵視,造成短期無法撫平的裂痕。

  哨子已經吹響,治理算法濫用刻不容緩。近期九部門算法指導意見的出台就很及時,或将産生深遠的行業影響。

  當然,這還不夠,我們的廣大科技企業尤其是那幾家巨頭型企業,也要履行企業主體責任,秉承“科技向善”理念,明确“什麼能做什麼不能做”,運用科技技術更好造福人類。

繼續閱讀