圖檔來源@視覺中國
文丨學術頭條，作者丨陽光，編審丨王新凱
語言處理、計算機視覺和模式識别的巨大進步，意味着人工智能（Artificial Intelligence，AI）每天都在與人們的生活進行互動，從幫助人們選擇電影，到幫助人們解決醫療診斷難題方面都在積極發揮作用。
圖 | 關于 AI 應用領域的暢想（來源：AI100 Stanford）
然而，伴随着這些成功的案例，人們迫切需要重新了解和降低 AI 驅動系統的風險和缺點，例如 AI 算法歧視或者利用 AI 進行惡意欺騙的行為。計算機科學專家們必須與社會科學專家和法律專家合作，以確定使 AI 帶來的陷阱最小化。
毫無疑問，AI 的發展已經到達了一個非常關鍵的轉折點。
圖 | 報告标題（來源：AI100 Stanford）
9 月 16 日，來自計算機科學、公共政策、心理學、社會學和一些其他學科的專門評估 AI 領域狀況的國際專家小組，在斯坦福 AI100 的網站上，以"Gathering Strength, Gathering Storms "為題，共同發表了人工智能百年研究 2021 年研究小組報告。
AI100 是由斯坦福大學 Human-Centered AI 研究所主持的一個正在進行的項目，旨在監測 AI 的進展并指導其未來的發展。這份新報告是 AI100 項目釋出的第二份報告，評估了 2016 年到 2021 年間 AI 方面的發展。
圖 | AI100 旨在關注的 14 個問題（來源：AI100 Stanford）
這份報告的重點在于回答 14 個 AI 相關的問題，并探讨 AI 發展的關鍵領域。這些問題由 AI100 常務委員會制定，而這個委員會由一些著名的 AI 上司者組成。
這些問題包括：“AI 最重要的進步是什麼？”和“AI 方面最鼓舞人心的開放式挑戰是什麼？”。其他的問題則涉及 AI 主要風險和危險、AI 對社會的影響、公衆對于 AI 認知和 AI 領域的未來。并且在報告中，委員會召集了一個由 17 名研究人員和專家組成的小組解答了這些問題。
<h2>
AI 逐漸走出實驗室
</h2>
報告小組的主席、布朗大學計算機科學教授 Michael Littman 表示：“在過去的五年裡，AI 已經從主要發生在研究實驗室或其他高度控制環境中的事情，跨越到社會上影響人們生活的事情。”
Michael Littman 繼續補充說：“這是一件很令人興奮的事情，因為這項技術正在做一些我們在 5 年或 10 年前隻能在夢裡才可以實作的事情。但與此同時，AI 領域正在着手應對這項技術的帶來社會影響，我認為下一個前沿的方式是考慮如何從 AI 中獲益，同時将 AI 的風險降至最低。”
在 AI 的進步方面，專家組成員們注意到 AI 各個子領域的重大進展，包括語音和語言處理、機器視覺和其他領域。這一進步在很大程度上是由機器學習技術的進步推動的，特别是深度學習系統方面的進步，近年來這些技術從學術環境逐漸轉變到了日常應用。
圖 | OpenAI 的“DALL-E”生成圖像表明這套系統不僅僅是檢索相關圖像，而是産生新的視覺特征組合。（來源：AI100 Stanford）
例如，在自然語言處理領域，AI 驅動的系統現在不僅能夠識别單詞，還能夠了解它們在文法上的使用方式以及單詞的含義在不同的上下文中發生的變化。這使得網絡搜尋、預測文本應用程式、聊天機器人等功能更加完善。其中一些系統現在可以生成難以與人工生成區分開來的原始文本。
在一些其他的領域，AI 系統診斷癌症和其他疾病的準确度可以與訓練有素的病理學家媲美。基于 AI 的研究技術對人類基因組産生了新的見解，并加速了新藥物的發現。雖然人們承諾已久的自動駕駛汽車尚未得到廣泛地應用，但是基于 AI 的駕駛輔助系統，如車道偏離警告和自适應巡航控制，已經成為了大多數新車的标準配置。
圖 | 人工智能已經離開了實驗室，并以新的方式進入了人們的生活（來源：Nick Dentamaro/布朗大學）
Littman 說，最近的一些 AI 進展可能會被該領域之外的觀察者忽視，但實際上反映了基礎 AI 技術的巨大進步。一個相關的例子是在新冠疫情大流行期間，在視訊會議中使用背景圖像，成為了許多人在家工作中普遍存在的現象。
“為了将人們置于背景圖像的前面，系統必須将人們與身後的東西區分開來，而僅僅從一組像素上區分是十分困難的。能夠很好地了解圖像以區分前景和背景可能是五年前在實驗室中發生的事情，但肯定不是在每個人的計算機上實時以高幀速率發生的事情。這是一個相當驚人的進步。”
<h2>AI 風險需保持警惕</h2>
至于 AI 的風險和危險，這個專家小組并沒有設想一個反烏托邦的情景，即超級智能機器接管世界。AI 的真正危險雖然微小，但是同樣令人擔憂。
報告中提到的一些危險源于故意濫用 AI，即用于傳播錯誤資訊或損害人們聲譽的深度僞造圖像和視訊，或用于操縱公共言論和輿論的線上機器人。其他風險源于“公衆意識的某些角落與 AI 決策相關的中立和公正氛圍，導緻系統被視為客觀的，即使它們可能是有偏見的曆史決策，甚至是公然歧視的結果。”
圖 | 利用 AI 生成的高分辨率圖像，這種技術引起人們對虛假資訊傳播的擔憂（來源：AI100 Stanford）
在執法等領域，這是一個特别令人關注的問題，犯罪預測系統已被證明對有色人種社群産生不利影響，或者在醫療保健領域，保險算法中嵌入的種族偏見可能會影響人們獲得适當護理的機會。
随着 AI 使用的增加，這類問題可能會變得更加普遍。Littman 表示，好消息是 AI 領域正在認真對待這些危險，并積極尋求心理學、公共政策等領域專家們的意見，進而探索出減輕這些危險的方法。
圖 | 家用傳感器和機器人正在興起，提供支援和護理的同時也引起了人們對普遍監視的負面影響的擔憂。（來源：AI100 Stanford）
Littman 說，編寫這份報告的小組成員來自不同的領域，可以反映出 AI 領域正在擴大的視野。“這個小組由幾乎一半的社會科學家和一半的計算機科學人員組成，我對社會科學家對人工智能的了解如此之深感到非常驚喜。我們現在有在各種不同領域工作的人，他們被認為是 AI 專家，這是一個積極的趨勢。”
展望未來，專家小組得出結論，政府、學術界和工業界需要發揮出更大的作用，以確定人工智能的發展為更大的利益服務。
AI100 更深層背後的意義
總部位于西雅圖的 Allen AI 研究所首席執行官 Oren Etzioni 曾經是 2016 年報告研究小組的成員。他對 AI100 的更新表示歡迎并表示，“2021 年這份報告代表了 AI 領域内外頂級專家的大量工作和見解。報告避免了聳人聽聞的說法，而傾向于有節制的學術義務。我認為這份報告關于人與 AI 合作的前景、AI 素養的需求以及來自學術界和非營利組織強有力的非商業視角的重要作用是正确的。”
Etzioni 唯一的質疑是報告聲稱到目前為止，人工智能的經濟意義“相對較小——特别是相對于預期而言”。對此，Etzioni 表示“實際上，我認為這份報告可能低估了 AI 的經濟影響，因為 AI 通常是蘋果、亞馬遜、谷歌和其他一些大公司産品中的一項元件技術。”
圖 | AI 應用于Apple/Amaze/Google 等大公司産品中（來源：Wired）
德克薩斯大學奧斯汀分校計算機科學教授、索尼AI美國公司執行董事兼 AI100 常務委員會主席 Peter Stone 說：“雖然過去的一些年中，有很多關于 AI 影響的報告。但是 AI100 報告的獨特之處在于，它們都是由 AI 内部人士撰寫的。這些 AI 内部人士是建立 AI 算法或研究 AI 對社會影響的專家，并将 AI 領域作為主要職業活動。這也是一項持續的、縱向的、長達一個世紀的研究的一部分。2021 年的 AI100 報告對于的這個百年計劃來講至關重要，因為它通過評論 AI 在這五年間的變化與 2016 年的報告緊密相連。”
微軟首席科學官、AI 百年研究的聯合創始人 Eric Horvitz 稱贊了研究小組的工作說：“不同的 AI 專家小組在這份裡程碑報告中分享的見解給我留下了深刻的印象。2021 年的報告在描述 AI 的現狀和發展方向方面做得很好，包括評估我們目前了解的 AI 前沿，以及 AI 對人類和社會影響的關鍵機遇和挑戰的了解和指導。”
關于 AI 100
曆史首次出現 AI100 的字眼是在 2016 年報告的序言中。
圖 | AI100 概念圖（來源：AI100 Stanford）
人工智能百年研究（AI100）于 2014 年秋季啟動，是對 AI 領域及 AI 對人類、社群和社會影響的長期調查。它考慮 AI 計算系統的科學、工程和部署。作為其核心活動，監督百年研究的常務委員會每五年組成一個研究小組，以評估 AI 目前的狀态。研究小組回顧了上一份報告之後幾年 AI 的進展，展望了 AI 未來的潛在進展，并描述了這些進展帶來的技術和社會挑戰和機遇，包括在倫理、經濟和與人類認知相容的系統設計等領域。
百年研究定期專家審查的首要目的，是提供一組關于 AI 及其影響的思考。這些研究為 AI 研究、開發和系統設計方向提供專家的指導，以及幫助確定這些系統廣泛造福個人和社會的計劃和政策。
“百年研究以早期的一項非正式研究“AAAI-Asilomar研究”為藍本。2008-2009年間，時任人工智能促進協會（AAAI）主席的 Eric Horvitz 召集了來自多個機構和領域的AI專家，以及認知科學、哲學和法律學者。參與者在分布式小組中工作，讨論近期AI的發展、長期可能性以及法律和道德方面的問題，然後在 Asilomar 舉行為期三天的會議，分享和讨論他們的研究結果。
圖 | Eric Horvitz 微軟首席執行官 （來源：Eric Horvitz 個人首頁）
與會者随後與其他同僚進行的讨論進一步擴大了關于密集會議讨論的簡短書面報告，引起了該領域内外的廣泛興趣和辯論。Asilomar 會議的影響，以及 AI 領域的重要進展，包括 AI 算法和技術開始進入全球日常生活，激發了對 AI 及其對人類和社會的影響進行長期反複研究的想法。這項百年研究随後被一所大學資助，以促進深入思考和跨學科學術調查，進而激發創新，并為政府機構和行業提供明智的建議。
參考資料：
https://www.brown.edu/news/2021-09-16/ai100
https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence