
傑倫·蘭尼爾(Jaron Lanier)相信拯救網際網路需要從你開始,第一步:删掉所有社交媒體賬号,或者,至少先停用 6 個月。
這位計算機科學家、矽谷 1980 年代的創業明星在上月底出版的新書《立刻删掉所有社交媒體賬号的十個理由》裡用貓狗打了個比方。
他認為脫離社交媒體,你可以活得更像隻貓。
貓按自己的想法生活,不會聽你使喚。
而狗可以被人訓練,根據不同訓示作出不同反應。他說這就像社交媒體的使用者,隻不過馴化使用者的不是某個具體的人,而是大公司掌握的人工智能算法。
這些公司實時監視着數字世界裡每個人的一舉一動。大公司拿到這些資料之後,通過算法給不同人展示不同的資訊和廣告。
當算法發現假消息比真消息更能引起你的反應,它們就會推薦假消息。當算法猜測有人可能會因特定内容憤怒,也會發送過去——它并不知道什麼是憤怒,但它關心憤怒帶來的評論和活躍度。
你的視野受它們影響。
算法決定你發的照片、文字會被誰看到,有多少人評論點贊。而外界評論、點贊帶來的多巴胺分泌引導着你寫什麼文字、發什麼照片、用什麼濾鏡……上一次你因為點贊的人少而焦慮是什麼時候?
你的行為也受它們影響。
而你在社交媒體影響下釋出的資訊、對事物的反應又會被這些公司搜集起來分析你,給你新的資訊,或者說新的回報和刺激。
如果你曾經聽過這個觀點,可能是因為蘭尼爾已經說了 8 年。他對社交媒體的質疑在 2010 年變成了《你不是一件電子裝置》You Are Not A Gadget(中譯本連結)——如果社交媒體是一個大機器,那你不要變成機器的一個組成部分,縮減自己的能力以适應機器的規則,比如一次隻寫 140 個字、隻發社交媒體上受歡迎的照片。
蘭尼爾是矽谷技術先驅之一。他在 1984 年創辦虛拟現實公司 VPL,定義了“虛拟現實(Virtual Reality)”這個詞。而他擔任首席科學家的 Eyematic 在 2006 年賣給 Google,成為 Google 圖像識别技術的起點。
蘭尼爾 2015 年和當時的 Google X 的 Sebastian Thrun 出席斯坦福的一個活動
那本書獲得專業書評人盛贊,《時代周刊》是以将蘭尼爾選入 2010 最有影響力 100 人。但那會兒批判社交媒體、Web 2.0 是對矽谷潮流的挑戰。書在矽谷的口碑兩極,也不太受大衆歡迎。
8 年之後,蘭尼爾的觀點越來越被主流認同。Facebook 首任總裁肖恩·帕克(Sean Parker)去年年底說社交媒體從一開始就是個關于成瘾的生意:
“我們每隔一會兒都要給你點多巴胺,比如有人給你的照片或者更新點贊、留評論之類……這是一個關于社會認可的回報循環機制……發明家們、創造者們,比如我、馬克(紮克伯格)、Instagram 的 Kevin Systrom 都很清楚,但我們還是這麼做了……這套機制正在改變你與社會的關系、改變你和其他人的關系。”
Facebook 原使用者增長副總裁查麥斯·帕裡哈皮蒂亞 (Chamath Palihapitiya)随後在斯坦福的一個活動上表示這種基于多巴胺的回報循環機制已經成了一個全球化的問題、正在毀滅社會的運作,并呼籲台下的聽衆像自己一樣遠離社交媒體。Facebook 對此回應說,“那是個非常不同的公司,我們已經意識到公司責任也随增長而變重。”
Twitter 聯合創始人埃文·威廉斯(Ev Willaims)則說:“我曾以為人人都能自由說話、自由交換資訊與觀點,世界就能自動變得更好。我錯了。”
社交媒體利用資訊和産品設計影響人的行為并不是秘密,Facebook 2014 年就有一個大規模人類實驗——向 69 萬不知情使用者推送特定資訊,看看使用者情緒會受怎樣影響。中國學者也有微網誌激勵了負面情緒傳播的研究。
反思的不隻有社交媒體高管,還有幫助建設了計算機與網際網路的人。
網際網路發明人蒂姆·伯納斯-李(Tim Berners-Lee)警告了一次、一次、又一次。Google 産品設計師特裡斯坦·哈裡斯(Tristan Harris)從公司辭職發起 Time Well Spent 運動,稱今天網際網路公司吸引人上瘾産品設計不道德。蘭尼爾曾經的室友,自由軟體運動精神領袖理查德·斯托曼(Richard Stallman)更為直接,“去他媽的,如果(免費服務的)代價是這些公司得知道我們的一切,它們就不應該存在。”
一連串的醜聞之後,社交媒體如此運作的合理性也受到質疑。紮克伯格出席美國國會和歐洲議會的質詢,花了至少 3000 萬美元登道歉廣告。
删除 Facebook 運動一度升溫,但已經逐漸淡去,Facebook 股價也已經回升到危機前的水準。
蘭尼爾認為現在不是停下來的時候。他在今年 4 月的 TED 大會上提出,這些公司已經不是社交媒體和廣告商,它們是行為改造帝國(Behavior-Modification Empires),影響着數億人的自由意志。
但 Facebook、Twitter、微信朋友圈、微網誌……這些社交媒體已經滲透進半數人類的生活。如何遠離這樣的社群?
“嗯,這是一個非常、非常、非常難的技術問題。”4 月中旬在加拿大,蘭尼爾一臉嚴肅地對《好奇心日報(www.qdaily.com)》表示,“我可以分享一些我發現的工具,為這事還挺費神的。這實在有點技術,是以可能比較難解釋。”
“一是電子郵件,”蘭尼爾頓了一下,忍不住哈哈哈哈哈哈大笑了好幾秒,接着說自己平時還會和朋友打電話、在家組織聚會、演講,說着說着又忍不住大笑起來。那高頻笑聲讓他聽上去小了能有至少三十歲。
這位 58 歲的黑客還是不放過任何一個開玩笑的機會,而每個玩笑總是他自己先笑起來。
蘭尼爾認為脫離社交媒體不會讓一個人活不下去,而他自己就是一個人脫離社交媒體,依然可以有一個公共生活的例子——這裡的社交媒體不包括點對點通信工具,就是說微信可以、朋友圈不行。
Twitter、Facebook,這些賬号他自己從來都沒有過,隻有一些體驗各種服務的假賬号。
當然,按照他的說法,那些賬号是他注冊給家裡一隻貓用的。現在他很擔心那隻貓的精神狀況,懷疑她已經成了特朗普的粉絲——總是對來拜訪的貓表示出敵意。
雖然自己最擔心的未來正逐漸變成現實,但蘭尼爾總能有一種樂觀。
他相信計算機曆史上所有技術的發展,都是人為選擇的結果,沒什麼是必然發生的。是以,所有事情都有得救。但也是以,所有事情都有變壞的可能。
感受過舊時代的殘酷,蘭尼爾一度認為虛拟現實是一個重新開機傳播媒介的機會
蘭尼爾相信計算機曆史上所有技術的發不同于大律師和牙醫家長大的創業者,蘭尼爾很小就感受過舊時代的殘酷、人的邪惡。他的母親進過納粹集中營、父親的親戚大多死于烏克蘭反猶屠殺。
生在美國也不太平。蘭尼爾 7 歲的時候,一個遠親被反猶主義者殺死在街頭,父母帶着他從紐約搬去臨近墨西哥邊境的一個德州小城。甚至蘭尼爾這個姓也是為了安全改的——他之前姓 Zepel,一個典型的猶太姓。母親在他 10 歲時死于車禍,那會兒的美國沒有今天很多人抱怨的政治正确,老師“安慰”他說車禍不一個悲劇性意外,隻是猶太人謀殺耶稣的報應而已。
這不是說他的童年隻有不幸。藝術圈的父母從小鼓勵蘭尼爾接觸器樂、繪畫以及動手能力——他 11 歲設計了一個半球形穹頂,和父親一起造出來住了進去。
14 歲的時候,蘭尼爾已經在新墨西哥州立大學讀書,為了交學費,他在家養駱駝,擠奶賣給嬉皮士餐廳。那也是他第一次接觸到計算機。
見識計算機神奇的同時,蘭尼爾也看了計算機科學家諾伯特·維納(Norbert Wiener)關于計算機未來的警告。
19 世紀末、20 世紀初,出現了一系列心理學行為實驗。巴布諾夫的狗、斯金納箱(老鼠)、小艾伯特(嬰兒)……以科學為名的實驗一路做到了人類身上。
維納在 1950 年代寫書提出如果有一種随身裝置,能夠實時搜集每個人的資料并給人以回報,就可以讓這些行為改造實驗擴充到全人類身上。他認為這會帶來災難性的結果,但離人類還過于遙遠——當時還很難想象 60 年後就已經人手一部智能手機。
不過那是後來的事。蘭尼爾首先趕上了矽谷最有生機的時候。
1979 年,19 歲的蘭尼爾已經從兩間大學辍學,他輾轉來到矽谷,成為遊戲開發者。
之後蘭尼爾在矽谷結實了一些聰明的大腦,比如那會兒還在加州理工教書的費曼教授、編輯《全球概覽》的凱文·凱利(兩人後來都加入了《少數派報告》的顧問團)、熱衷音樂的數字民權組織 EFF 聯合創始人約翰·佩裡·巴洛(John Perry Barlow)、LSD 教父蒂莫西·利裡(利裡晚年成了各種計算機技術,包括虛拟現實的布道者)。
很快蘭尼爾也開始了自己的連環創業生涯。1984 年,他和雅達利的同僚湯姆·齊默曼(Tom Zimmerman)等人一起成立了虛拟現實公司 VPL。
VPL 做的事和前兩年火過的 Oculus、HTC Vive、PSVR 沒什麼差別,戴上一個頭盔顯示器,你就完全沉浸在一個虛拟世界裡。事實上,今天在賣的虛拟現實裝置從外觀上也都和 VPL 的發明很像。
蘭尼爾介紹 EyePhone 和 Data Glove
不同于今天這些專注于遊戲的虛拟現實公司,蘭尼爾想要的是社交。從産品的名字也能看出來,VPL 的虛拟現實頭盔叫 EyePhone——讓眼睛連接配接世界的裝置。
他将虛拟現實視為一個人與人之間進行交流的可能。人們可以在一個虛拟的空間,抛開自己的真實形象、抛開種族、性别乃至物種的限制,以任何自己想要的樣子互相交流。
1990 年代初 ABC 電視台一期關于虛拟現實的節目裡,一個年輕很多、也樂觀很多的蘭尼爾對着鏡頭說道:
我覺得我們已經帶來了很多超過人類需要的技術,現代社會的主要問題就剩下疾病和自然災害。其它所有物質問題技術都已經解決或者将要解決。
剩下來的主要問題都是人類自身行為所造成的。關于未來所需要的技術,我想到的是人與人相見的新形式,而虛拟現實就是最适合這樣的新形式。
……虛拟現實最好的一點是,它是一個新東西,它會給我們從頭再來的機會,讓我們對一個新技術、對下一代媒介負起責任(以解決電視媒體過于淺薄的現實問題)。
但 VPL 實在太早了,當時的計算機還沒有 3D 圖形處理器、網際網路也要等到 1991 年才走出歐洲核子研究中心(CERN)。它注定是一個前沿探索而不會是成功的商業項目。
VPL 虛拟現實裝置運作時的畫面
消費市場沒有可能,VPL 賣裝置給企業、給 NASA(控制機械臂)、做了第一個虛拟現實手術模拟器。最終公司撐到 1992 年破産。
而真正改變了人類社交方式的也不是 VPL 的競争對手,而是紮克伯格 2004 年在宿舍寫的網站 thefacebook.com。
向數字集體主義宣戰,蘭尼爾成了對矽谷最不客氣的矽谷批評家
離開 VPL 之後十幾年,蘭尼爾參與了幾打大大小小的研究項目和咨詢工作,還給電影和電台廣告編過曲。
比較重要的包括圖像識别公司 Eyematic;Internet2,早期網際網路底層技術協會。同時他也是《少數派報告》的技術顧問之一(蘭尼爾和斯皮爾伯格都是早期 TED 大會的常客)。
其中一些咨詢工作再次引起他對技術的警覺。蘭尼爾回憶說 1990 年代,有個保險公司高管在聽說機器學習技術後興奮地描繪了這樣一個商業前景:計算機根據資料預測出哪些人更容易得癌症,保險公司提前避開他們。
2000 年代初,個人電腦逐漸普及、Google 連接配接起全球所有的網站、維基百科證明大規模調動使用者生産内容(UGC)可行、社交媒體走出大學宿舍。
網際網路泡沫破滅也不能阻止繁榮到來。
整個矽谷還帶着早年的烏托邦,堅信網際網路一切都免費。人們在網際網路上建起一個個免費的網站,免費貢獻資訊、免費擷取資訊。
但矽谷并不排斥資本主義。到了 2000 年代,喬布斯這樣的創業者已經取代了技術先驅們成為矽谷最大的偶像。
Google 的兩位創始人找了條路兼顧免費和資本主義——廣告。做免費網絡服務給你用 - 拿走你的資料賣定向廣告 - 做更多更好的免費服務 - 拿走更多資料賣更多定向廣告。之後幾乎所有免費的網際網路服務都沿用了類似的商業模式。
矽谷認為 Google 找到了免費網際網路的出路。而蘭尼爾在這時候寫了自己的“少數派報告”。
2006 年,蘭尼爾在精英化線上雜志 EDGE 撰文《數字毛主義》(Digital Maoism),指責曾經鼓勵獨立網站、個人思考的網際網路正在被集體主義所席卷。
他用維基百科舉例說,“讀一個維基詞條就像研讀聖經,作者和編輯隻留下淡淡的蹤迹。”
類似維基百科(各種 Wiki)、Facebook(社交媒體)、Digg(新聞聚合)的聚合網站在 2006 年開始變多起來(所謂 Web 2.0)。資訊流動無疑是加快了。
但在這些聚合網站,作者變得不那麼顯眼。每個人寫的東西、發的照片和連結成為了所謂使用者生成内容(UGC)供通路者消費。當作者變得不再重要,多一個少一個影響也就不大了,聚合網站自然也不會給他們應由的回報。
尤其當 Facebook 在 2006 年發明資訊流(News Feed)以後,人們在社交媒體上不再更多是刷網站提供的資訊流、看裡面不同人發的照片、說的話,而不再需要點開每個人的首頁看他的狀态。資訊流此後成了所有社交媒體和聚合新聞網站的标配。
由于搜尋引擎的權重原理,這類網站比獨立的中小型網站更容易排在搜尋結果前面,吸引到更多使用者。網際網路從一個個大大小小的網站、一個巨大的去中性化社群,變成了少數幾個大社交媒體吸走多數使用者。
而在這些社交媒體裡,使用者都是免費提供資訊,為它們的流量添磚加瓦,但卻得不到什麼回報。你可能有數千關注者,但所有關注者本質上關注的還是那個社交媒體提供的資訊流。
“網際網路最美的地方在于它連接配接所有人。這裡面有價值的是其他人。如果我們開始相信網際網路本身是一個實體、有自己的聲音,那我們就是在貶低其他人的價值、我們就是白癡。”蘭尼爾寫道。
一開始。資訊分散在不同網站上,通過超連結互相連接配接;使用者通過搜尋引擎主動尋找資訊;作者很顯眼。
Web 2.0。使用者生成内容,幾個大網站把内容聚合在一起,但資訊還是人工或者以時間排序;使用者開始被動擷取資訊;作者重要性下降。
現在。大部分内容被聚集在少數幾個網站裡,最大的社交媒體開始阻止搜尋引擎索引資訊,社交媒體、新聞聚合網站通過算法給不同人推薦不同資訊和廣告;使用者被動擷取為自己量身定制的資訊;作者可替代。
《數字毛主義》釋出後數月,蘭尼爾參與的圖像識别公司 Eyematic 被賣給 Google,成為 Google 的圖像識别部門。
蘭尼爾蘭尼爾套現走人。據他回憶,Google 聯合創始人謝爾蓋·布林(Sergy Brin)跟他說公司員工不能寫那些争議性的文章。
之後蘭尼爾加入微軟,他的職業工作變得簡單了一些,他一直在微軟,先是參與 Xbox Kinect 手勢控制裝置的研發,之後在微軟研究院做實驗性虛拟現實和增強現實項目。
他的精力也越來越多花在布道之上,談網際網路、社交網絡、人工智能帶來的負面影響。從 2010 年至今,他已經出版了四本書,做了幾百個演講和對談。
蘭尼爾相信免費網際網路加廣告的商業模式是問題的根結
與此同時,網際網路以及整個世界發生了大變化。iPhone 發起的革命讓所有人 24 小時連着網際網路、Google 成為比微軟更值錢的公司、Facebook 和騰訊跟上移動時代壟斷了全球的社交媒介。
智能手機和人工智能算法放大了社交媒體的問題,讓蘭尼爾擔心的行為改造帝國真正成為可能。
他總結說這是免費經濟加上人工智能算法的結果。
所有社交媒體都免費,靠廣告賺錢。它們追逐的數字就是讓人看更多廣告,這就需要讓使用者更頻繁更長時間使用自己的服務。
而更容易調動其人的卻是負面情緒,不管是對一種仇恨言論的認同,還是對于不認同言論的反擊。當社交媒體大到一定程度、擁有足夠多使用者資料的時候,算法總能幫負面情緒找到閱聽人。
這是假新聞的天然土壤。假新聞本身都是在調動情緒,适合社交媒體傳播。原本媒體機構是守門人,雖然不完美,但社交媒體上一度完全沒有任何限制。
到 2016 年年底,紮克伯格在 Facebook 發文為虛假資訊傳播道歉。不隻一個人在道歉信右側看到了用假新聞吸引人的廣告。
紮克伯格道歉信右側,一篇是花花公子創始人自殺(他在一年後才去世);一篇是伍茲永久退出 PGA(也沒有發生)。第二篇甚至直接顯示了體育網站 ESPN 的真實連結
蘭尼爾認為社交媒體的資訊傳播直接導緻了最近幾年各種民權運動遇到的反彈。
比如阿拉伯之春,極權統治下的年輕人在社交媒體的幫助下聚集起來推翻了埃及、叙利亞等國的獨裁政權。但幾年之後那裡沒有變得更好,極端主義随着社交媒體傳播地更快。
類似的,争取女性在遊戲平權的運動遭遇反撲演變成充斥着強奸、謀殺威脅的 #GamerGate大規模騷擾運動;在美國抗議警方對黑人暴力的 Black Lives Matter 運動升溫之後,KKK、新納粹這些極右翼群體聲勢迅速擴張到了可以大規模集會、引發暴力沖突的地步。在斯裡蘭卡等原本就多沖突的地區,假新聞帶來的仇恨直接引發暴力沖突。
曆史上一個民權運動取得勝利後,極少會這麼快出現如此反彈。蘭尼爾反彈接二連三發生是群體情緒受算法影響的結果。
世界在對網際網路造成的問題做出回應,但這并不保證會有好的結果
蘭尼爾依然不是今日矽谷的主流,但他已經不再是孤立。
2018 年 4 月,TED 大會請蘭尼爾登台介紹他對行為改造帝國的警告——他已經有快 20 年沒在那個宣揚創新與樂觀的大會演講過。
蘭尼爾 4 月在 TED 大會演講
“我們曾經相信當網際網路連接配接起每個人,世界就會自然變好。結果并不是這樣。” TED 主理人克裡斯·安德森在邀請蘭尼爾上台時不無反思地表示,随後大會将蘭尼爾的演講作為今年的首個視訊線上上公開。
在蘭尼爾開始演講的同時,Facebook CEO 馬克·紮克伯格正在華盛頓被參院盤問。
世界在對網際網路造成的問題做出回應。
Google 和蘋果今年都在新系統中加入對成瘾的限制,開始告知使用者每天用了什麼服務、用了多少時間。你可以選擇限制自己的使用時間。
沒有廣告收入顧慮的蘋果更進一步,在 6 月的開發者大會上宣布封殺網際網路服務在浏覽器裡對使用者個人隐私資訊的追蹤。
社交媒體也在回應,紮克伯格說接下來 Facebook 會有一個 2 萬人的人工稽核團隊,并且加強人工智能算法過濾仇恨言論。
蘭尼爾不相信這會有什麼好結果。他認為這是另一個科技界對于人工智能宗教式崇拜的例子。
“我們現在還沒有大腦如何運作的科學定義。舉個例子,我們不知道資訊在大腦内是如何編碼的。我們不知道對話具體是怎麼産生的。”蘭尼爾對《好奇心日報(www.qdaily.com)》表示,“這不代表說我們永遠不會知道。但現在我們得誠實地說,我們确實不知道。”
“這不是說人工智能算法是假的,隻是說我們并不了解它如何工作。”他補充說輸入資料之後,機器學習算法可以得到一個結果。但這背後還是個黑盒子,工程師也不清楚結果具體怎麼得出的,沒法保證它會越變越好。
因為機器學習算法是黑盒子,在優化的時候隻能根據工程師能看到的結果倒推表現,于是算法防禦極端資訊的能力就沒法穩定提升。
ISIS 的新媒體團隊就多次成功繞開社交網絡的防禦算法,它們做過一個 Twitter 應用,使用者下載下傳注冊後會自動上傳恐怖組織宣傳内容到個人賬号。當 ISIS 2014 年宣布向巴格達進軍的時候,你在 Twitter 搜尋“Baghdad”最先出現的 4 張照片,有兩張是 ISIS 的宣傳。
傳播仇恨的組織在用人力和人腦攻擊社交媒體的過濾算法。
Facebook 上月承認說算法能有效過濾暴力、色情圖檔,但即便人類稽核員加算法也隻能篩出 38% 的仇恨言論。沒有被篩出來的仇恨言論還是會照常推送給社交媒體的使用者。
社交媒體公司自己監督資訊還帶來一個顯而易見的新問題。
現在,紮克伯格提出的想法還包括給媒體分級,由 Facebook 決定什麼媒體更可信。如果實施,這将是直接的言論審查。
紮克伯格本人明确說過,管理這家公司很像管理一個政府。但不同于政府的是,今天網際網路公司通過股權架構将投票權抓在少數幾個管理者手上(Facebook 幹脆是紮克伯格一個人),它們比大多數集權國家都更集權。
從一個追逐增長的算法決定 20 億人看什麼,變成一小群人決定 20 億人看什麼,這聽上去并不是更好的變化。
在其它一些國家,這樣的變化已經在發生。比如中國、俄國、埃及等等。政府已經在接管網際網路。所有公司的算法服務于一個無可辯駁的聲音。
蘭尼爾認為最後的解決方案還是在每個人,而不是坐着等大公司自我檢討或者政府介入。
每一個使用者切斷與社交媒體的關系,就給科技公司多一分壓力,這會是一個開始。
這将逼社交媒體改變運作方式,從免費變成某種形式的付費。不管是訂閱付費,還是依靠某種自動小額支付系統回報更大規模的創作者。總之就是時間和使用者注意力不能是科技公司關注的唯一名額。
蘭尼爾自己并沒有具體如何設計付費體系的解決方法。他相信目前沒有一個替代的方案出現是因為整個網際網路當年都跟着 Google 和 Facebook 的商業模式走,沒有對其它路徑做足夠探索。
彭博社上月報道說 Facebook 内部正在研究一個舍棄廣告的付費版的可行性。
“計算機技術的發展中,沒什麼是注定的。”蘭尼爾還是相信這句話。
希望他是對的。
長題圖:Matrix 劇照
橫題圖:蘭尼爾在法蘭克福書展獲獎的演講緻辭,以寮國民族樂器 Khaen 的演奏開場
蘭尼爾的 4 本書:
2010 You Are Not A Gadget|《你不是個玩意兒》(難以了解的譯名)
2013 Who Owns the Future|《網際網路沖擊:網際網路思維與我們的未來》(另一個難以了解的譯名)
2017 Dawn of the New Everything|《虛拟現實:萬象的新開端》(自傳)
2018 Ten Arguments for Deleting Your Social Media Accounts Right Now| 《立刻删掉所有社交媒體賬号的十個理由》中譯暫無