被大資料和算法控制的未來，人們想做壞事或許很困難

“大資料殺熟”這個“熱詞”大約是從4年前開始傳播的，逐漸成為社會生活中的流行語。狹義來說，它是指同樣的商品或服務，老客戶看到的價格反而比新客戶要貴出許多的現象；有時它也泛指算法對人們偏好的影響與控制。

3年前，當傑米·薩斯坎德（Jamie Susskind）的《算法的力量：人類如何共同生存？》英文版出版時，國内網際網路公司出現的一系列負面事件，正引起公衆對網際網路技術的密集反思，比如滴滴曾把順風車定位為“非常sexy”場景的社交工具，導緻多位年輕女乘客被害。當時，《斷裂的階梯: 不平等如何影響你的人生》一書的譯者李大白正供職于一家網際網路頭部大廠，“996”的同時會經常思考國家、科技公司與大衆之間的互動關系。“那時國内人文社科領域對技術的關注，基本集中在傳統的技術倫理、人工智能的挑戰等問題上，技術與政治的互動關系、平台型企業的特殊地位等問題還未得到充分讨論。”

是以，接到《算法的力量》翻譯邀約後，李大白毫不猶豫地同意了。“書裡對算法的影響探索得更為深遠，關注到算法力量越發強大的背景下，技術将如何與政治互動，對社會治理、公平、社會配置設定等重大問題會産生怎樣的影響。”如今，《算法的力量》中譯本上市，李大白也從大廠跳槽出來，從事起數字人文方向的研究工作。

大資料與“道德自動化”

傑米·薩斯坎德是英國著名的學者、作家和執業大律師。他說，想通過《算法的力量》探讨一個核心問題：我們的生活應在多大程度上受功能強大的數字系統的指引和控制，或者說在哪方面被指引和控制？

薩斯坎德所謂的生活被“指引和控制”，并不是指網際網路技術在未來某種場景的具體應用，比如服務型機器人不斷增多、腦機接口有新突破等，而是指在數字世界，某些技術和平台以及控制它們的人，擁有強大的權力後對社會公共生活所可能産生的影響。正如書中所說：“最重要的革命沒有在哲學系發生，甚至沒有發生在議會和城市廣場上，而是在實驗室、研究機構、科技公司和資料中心裡默默上演，其中大部分都涉及數字技術領域的發展。”

以大資料為例，數字世界裡大資料無處不在，大家都很熟悉大資料對個人資訊的收集、個人隐私的侵蝕。但薩斯坎德還特别關注大資料與政治學術語中的“自由”的關系。他認為，有些技術會收集我們所有的資料，我們為此會避免做出那些可能被視為可恥、有罪或錯誤的行為。同時，一些科技公司也利用大資料技術來預測和預防犯罪，比如以色列有家公司就發開了一種系統，通過讀取人的面部特征，對人進行“高智商”“白領罪犯”“戀童癖”“恐怖分子”等分類。

用類似技術來預測和預防犯罪的趨勢在增加，數字系統也越來越多地用于執法。薩斯坎德甚至大膽假設，未來人類在技術的“監控”下，或将實作“道德自動化”。“也就是說，未來社會管理很可能不用在對社會成員的道德訓誡上費太多心思，通過技術手段，在一定程度上可以直接阻止可能的犯罪。未來社會的人，想做壞事或也是極其困難的。”李大白解釋。

不過，薩斯坎德認為，就算人的“計劃和野心”更容易通過大資料被計算機捕獲，但“道德自動化”也隻是相對而言，“反道德”或許同樣會迎來“自動化”。他想象了一個極端場景：一個想實行種族滅絕的政府意圖在某一特定地區圍捕某一宗教或種族的全部成員，隻需根據他們留下的資料——購買記錄、社交媒體上的發帖、智能手機上的通訊錄等——就可以判斷出對方的身份。

資料導緻的不公正

全世界60萬人發去自拍照，由計算機的學習算法進行評判，結果選出來的“最具吸引力”的44張照片中，隻有6張不是白人；一家網站給當年的集中營照片貼上“運動”“攀爬架”等标簽……薩斯坎德用這些例子說明，不管計算機的算法多麼聰明，隻要灌輸了錯誤或片面的觀點，都不會公正對待問題，“這就是基于資料的不公正”。

《算法的力量》中花了很多篇幅探讨算法與社會公平之間的關系。薩斯坎德認為，在數字世界，算法将在重要社會物品的配置設定上發揮關鍵作用，譬如就業、貸款、住房、保險等，算法也将更多地用于分類、排名、打分，把人類按照地位和聲望劃分到各個社會階層。哪些人重要，哪些人不如不存在？哪些人更受歡迎，哪些人被徹底遺忘？這些都涉及“承認”這個問題，而配置設定和承認是社會正義的重要面向。傳統社會裡，這些問題是由國家、市場和社會來解決的。但在數字生活世界裡，社會正義很大程度上取決于操持相關算法的人。

如何才能避免數字世界的不公正？從《算法的力量》中看，薩斯坎德給出的建議和之前出版的《機器人倫理學》《道德機器：如何讓計算人明辨是非》等差不多，都是強調通過程式讓計算機學會道德判斷——“為什麼不能有意識地在設計系統時把正義放在心上呢？無論是平等的待遇、機會平等，還是其他适用于這個特定應用的原則。”

是以，薩斯坎德特别強調程式員在“設計正義”時起到的作用。他批評說，網際網路科技公司内部幾乎沒有工程師身負努力思考其工作的系統性後果的任務，他們中的大部分隻需要解決某些分散的技術問題就可以交差了。他呼籲科技公司應該有更多名副其實的“哲學工程師”“哲人工程師”，搭建一種智識上的架構，以便清晰且批判性地思考數字創新的政治後果。

不過，李大白認為薩斯坎德的設想過于理想化了。“作者認為代碼工程師應該兼通政治哲學和社會政策，同時富于人文精神，在此基礎上來設計算法。這和柏拉圖說的培養‘哲學王’來管理城邦有點類似，但按照柏拉圖設想教育出來的‘哲學王’起碼得50歲，何況現在代碼工程師普遍面臨35歲的年齡危機。”

與薩斯坎德将正義和公平寄托在個體的“哲人工程師”上不同，李大白認為塑造“哲人工程師”的主體應是科技公司，其中掌舵人的作用尤其重要，隻有公司決策團隊将“科技向善”設定為企業的共同目标，“向善”才能向下層層拆解貫徹，普通代碼工程師才會在具體工作中有“哲人”心态，把“科技向善”的目标嵌入代碼設計中，進而使科技公司在促進社會發展、進步與公正等方面發揮正面作用。

（圖檔來自視覺中國）