「原創」圓桌論壇：警惕算法背後的“中立論”

作者 朱婧

打開手機上的購物軟體，同類商品琳琅滿目怎麼選擇，根據你近期的點選偏好，“銷售量的榜單”或許能幫你快速抉擇；打開閱讀新聞的軟體，“今日熱搜”早已把點選量較高的内容推薦給你；在一些公司，算法正按照程式設計者的設計和要求，篩選着一份份應聘履歷，比起人工作業，可謂高效……算法像一個無形的精靈，每天運作着，記錄搜集着你的資訊、偏好、搜尋記錄，服務于你的工作生活。

以普遍适用性為現實難題提供最優解，這是算法背後的思路，無論是算法規則的設計者，還是應用算法的平台服務商，大多秉持算法“中立論”，認為算法并不承載任何價值觀，是中立的，算法産生何種效用關鍵是看算法是被怎樣使用的。但，事實真是這樣嗎？如果算法把有水分的“高銷量”商品推送給你，把迎合獵奇心理的不良資訊推送給你，那麼量化的那些算法就開始影響使用者的信任度、好感度，又或者，算法設計本身就有性别篩選功能，篩選履歷都存在着性别歧視，那麼看起來人畜無害，卻在産生着不公的結果和對某些人群的歧視。

可見，算法的設計邏輯是承載着價值觀的，也會潛移默化影響人們的價值觀。從算法應用于新聞領域的角度看，給使用者推薦的資訊内容，以點選量、點贊數來置頂某些新聞，因為把關人角色的缺失，新聞的内容、圖檔等會直接影響使用者的關注點、情緒，網友的聲音和評論或許還會繼續發酵，影響使用者的觀念和思想；一些媒體可能因為這樣的結果回報，又不可抑制地持續使用吸人眼球的标題和低俗内容，2017年今日頭條的“頭條問答”因讨論低俗話題被北京網信辦約談。當算法應用于商業環節，給使用者推薦商品，企業為了擴大利潤，提升使用者黏性，一些算法“殺熟”，一些算法利用使用者的購買資訊誘導消費，影響使用者的購買習慣和消費行為。曾經飽受熱議的新聞“被困在代碼裡的外賣小哥”讓人們開始意識到，算法的使用和效果評估問題茲事體大。在類似場景中，算法本緻力于提供的最優解，卻因為一些動機或設計缺陷變成了“代碼困境”。

應當看到，“算法中立論”隻是一種工具理性的視角，算法在設計層面其功能就有局限性，不可能覆寫所有樣本，算法功能愈發強大，對人們工作生活場景的滲透性越強，如果再與商業利益挂鈎，其作用範圍就會突破基本的工程應用場景，不可避免地延伸到與人相關的社會環境中，影響人的情緒、觀念、思想、關系、行為，算法的技術問題很容易就會演變為社會問題，更重要的是責任主體難以認定。

是以，這一領域亟需更多的介入和積極的幹預。近日出台的《網際網路資訊服務算法推薦管理規定》指出，要定期稽核、評估、驗證推薦服務提供者算法機制機理、模型、資料和應用結果等，確定網際網路企業既有章可循，也始終在監督下運作。監管，這既是把治理關口前置，也說明算法應當是服務于社會公衆，展現公共屬性，通過加強治理，才可能有效引導算法的應用從個性化服務到以人為本。