天天看點

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

很多時候,直到一個東西無法使用,我們才會意識到它的重要性:想象一下微信不能發朋友圈,聊天不能發圖檔的景象……「我們發現一些使用者在使用我們的 App 時無法上傳或發送圖檔,」在停電事件發生後,Facebook 官方賬号在 Twitter 上表示。「很抱歉讓你們遇到了麻煩,我們正在盡快解決問題。」

不過人們在這場混亂中發現了一個有趣的現象:伺服器通路的崩潰暴露了 Facebook 對使用者上傳所有圖檔的隐藏标簽。

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

今天,科技公司用 AI 對你上傳的圖檔做各種标注是正常操作。

每個人都知道,在電影《黑客帝國》中,男主角 Neo 進入到矩陣「救世主」狀态并突然發現自己的「真實面目」:背後出現的一行行綠色代碼。

同樣地,由于 Facebook 受到停電的影響,社交網絡使用者也察覺到了數字幕布背後的真相,即現在 Facebook 網站上的很多圖檔已經被該公司機器視覺系統配置設定給它們的标簽所取代。

是以,在浏覽自己上傳的照片時,你将看不到度假時拍的照片或者食物和朋友的照片,相反你會看到一些描述性文本,比如「圖檔可能包含:人們微笑、人們跳舞、婚禮和室内」或者隻是「圖檔包含:貓。」

總之:這就是電腦眼中的人們生活。這就是 Facebook AI 判斷人們的方式。在窺伺一切的「數字眼」面前,你是否感到無處躲藏呢?!

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

facebook 把這位使用者的頭像描述為「一個有胡子的人」。

與此同時,Instagram 上也出現了同樣的圖檔标簽。這些标簽不僅詳細列舉了一般場景和目标描述,還根據 Facebook 的人臉識别顯示出了照片中的人是誰。(自 2017 年起,Facebook 就已經對未打标簽的照片賦予了這種功能)

至少從 2016 年 4 月以來,Facebook 就一直以這種方式利用機器學習來「讀取」圖檔,這是該公司「accessibility efforts」計劃的重要組成部分。Facebook 利用這些标簽向視力障礙使用者描述照片和視訊内容。

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

人工智能可以從你的照片中提取大量個人資訊。

目前尚不清楚 Facebook 是否也利用這類資訊來推送廣告。這些圖檔中包含了大量的使用者生活資訊,而這些資訊我們或許并不願意讓 Facebook 擷取:你是否養有寵物、興趣愛好是什麼、喜歡去哪裡度假或者是否真的喜歡老爺車、寶劍或其他任何東西?

早在 2017 年,基于這些原因,一位程式員就制作了谷歌浏覽器擴充程式(Chrome extension),以揭示這些标簽。正如他當時所說的:「在我看來,很多網際網路使用者都沒有意識到,大量的資訊正按部就班地從他們的照片中提取出來。」

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

除了描述形象,facebook 的人工智能也可以直接認出特定的人。

從推特上人們的反應來看,這次停電造成的反應對于大多數人來說無疑是新鮮事物。至于這些機器打上的标簽是否會被 Facebook 用來做廣告定位,該公司尚未回應。

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

圖中有幾個人,那些人有什麼表情?facebook 都可以識别出來。

不管這些資訊是如何被使用的,這次停電事件向我們揭開了「世界最大資料收集項目」的冰山一角。它還展示了今天的人工智能可以在多大程度上解讀一張照片。

近年來,深度學習的進步徹底改變了機器視覺領域,現在的線上視覺内容經常和文本一樣清晰易讀。而對于計算機來說,一旦内容清晰可見,就可以輕松地存儲、分析并提取結構化資料。對于大多數人來說,隻有像 7 月 3 日系統崩潰這樣的時候,我們才會意識到這一切的發生。

Facebook全球崩潰11小時,暴露了科技巨頭們用AI為你打的标簽

由于 Facebook 提供的服務日趨複雜,其應用和網站時常遭遇當機。今年 3 月 13 日和 4 月 14 日,facebook 均發生了嚴重當機事件,部分服務故障時間長達 24 小時。不過,即使問題出現的時間很短也會影響到很多人——截止 2019 年 3 月底,Facebook 報告的月活使用者(MAU)數量高達 23 億 8000 萬人。

當這些服務對于商業和通信至關重要的時候,任何問題都會是大問題,不僅是伺服器的穩定,還有對于資料的使用。

參考内容:

https://www.theverge.com/2019/7/3/20681231/facebook-outage-image-tags-captions-ai-machine-learning-revealed https://phys.org/news/2019-07-outage-facebook-worldwide.html https://zephoria.com/top-15-valuable-facebook-statistics/

繼續閱讀