專訪Michael Jordan：AI的分布式決策與不确定性

今年四月，Michael Jordan 在 Medium 上發表了一篇名為《 人工智能：革命尚未到來

》的文章。文章指出，如今「AI」這個概念被各界人士當做包治百病的萬金油，大肆使用，但不同人在使用「AI」一詞時，指代的其實是不同的學科領域，常見的有三類：

一，拟人 AI。最近深度學習的一系列成功案例，包括計算機視覺、語音識别、遊戲人工智能等，都屬于這一範疇。

二，增強人類能力的 IA（Intelligence Augmentation）。能夠增強人類記憶能力的搜尋引擎和增強人類溝通能力的機器翻譯都屬于此類。

三，智能基礎設施 II（Intelligent Infrastructure）。這一領域旨在利用計算機技術讓人類生活的環境更加安全、有趣，從基礎設施的角度為人類生活提供支援。「物聯網」是這一類概念的早期版本。

Jordan 認為，概念的模糊和混淆會帶來一系列問題，例如試圖用同一種思路提供解決方案，而枉顧其思路與大多數需要解決的問題範式有所沖突。

如今吸引了大規模神化與誤解的「拟人 AI」思路真的适合解決所有問題嗎？結構工程在複雜的地形上架構橋梁的思路并非「設計一個能計算橋梁承重的拟人 AI 工程師」。化學工程生産出諸多化工産品的思路也不是「設計一個拟人 AI，再讓它幫助我們建造化工廠」。由此類推，自動駕駛的恰當思路是「設計一個拟人 AI 司機」嗎？自動客服的最佳思路是「設計一個拟人 AI 話務員」嗎？

當我們辨明了萬金油 AI 中所包含的各類思想後，會不會有不一樣的答案？

九月，Jordan 再次來到中國，進行了一系列的學術演講。我們在 Boolan 主辦的「全球機器學習技術大會」（ML-Summit 2018）上對 Jordan 進行了采訪，從「AI 分類法」出發，聊了聊「不拟人的 AI」是什麼，能夠解決什麼問題。

機器之心：為什麼要将 AI 的概念劃分成不同的三類？

Michael Jordan：提出拟人 AI、IA 和 II 的概念，并不是試圖給「AI」建立一個不重不漏的分類，而隻是想要對這幾個經常被混為一談的概念進行區分。在談論這件事的時候，我跳出了「學者」角色，嘗試以一個對業界出現的新用例感興趣、對不同概念的曆史發展感興趣的人的身份來進行思考。

我認為在付出艱巨努力之前，首先要确定我們面對的「重大問題」究竟是什麼。是建立一個能夠和人以自然語言進行溝通的系統？還是獲得一個能夠拟人活動的機器人？還是試圖建立一個市場，能夠讓更多的商品、服務、資訊以更快的速度流通？在這個世界上，某些問題亟待解決。隻有在厘清了基本概念及其差異之後，才能更好地确定你想解決哪類問題。

除此之外，很多人在單純從「拟人 AI」角度出發設計基于機器的系統時并未考慮其社會影響，而隻是在系統産生影響後思考對策。如果設計者能夠從更多的角度思考，那麼他們會更早地發現系統正在制造問題，甚至從一開始就避免問題的出現。

機器之心：相比于拟人 AI，您對 II 似乎有更為濃厚的興趣，能否給出一個更為具體的 II 的定義？

Michael Jordan：II，或是說智能基礎設施，某種程度上就是過去大家所說的「物聯網」。物聯網已經是一個有些曆史的概念了，但是參與到這一類技術發展的主體成員還是網絡研究者和工程師。他們關注的問題隻有一個：給每一樣東西賦予一個 IP 位址，讓它可以連接配接到某個網絡上。然而對 II 的讨論并不應該停留在「聯網」本身，II 所關注的問題更為廣泛：在「聯網」完成後，如何在不同僚物之間進行資料傳遞、如何利用利用資料進行推理，并将所有事物視為一個整體建立起基于資料流的知識網絡，才是問題的核心所在。

機器之心：II 系統能否像現在的 AI 系統一樣，從輸入、輸出的角度看待呢？

Michael Jordan：與其從輸入輸出的角度思考問題，我更多希望從「誰是這個系統中的參與者？他們如何參與到這個系統中？」的角度進行思考。

現階段，一個并不完整的有限 II 系統的例子是網約車。

你可以看到，這個系統本身并非由一個「超級智能」控制，它隻是一個雙邊交通系統，讓司機和乘客從不同的 App 登入，讓需求方的乘客看到供給方的司機情況然後出價。和普通的市場不同的地方在于，它的适應性更強——因為它有更多的資料，更清楚雙邊的偏好，然而它的局限性也非常大，現在隻能解決一小部分出行問題。

但是想象一下，如果市場互動能夠和推薦系統相結合，又是不一樣的故事。推薦系統是曆史上最重要的機器學習應用之一，但是如果它不能在市場中扮演角色，其作用始終有限。舉一個推薦系統和市場互動的例子：在餐廳老闆和食客這對雙邊關系中，如果我作為一名食客，能夠在晚餐時段走在街上打開一個 app，表示我有興趣尋找餐廳，app 知道我的地理位置、口味，把資訊告訴相關的餐館「這裡有一個潛在客戶」，仍有餘位的餐館學習我的基本情況後，可以用折扣等方式對我「競價」。如是這般，一個雙邊市場就形成了，我可以選擇接受或拒絕，而餐廳從我的行為中變得更了解我，如果我再多去幾次這家餐廳，我們就建立起了一種聯系。

在這個過程中，我，作為一個食客很開心：因為我拿到了折扣，吃到了合口味的食物，并且與餐廳建立了好的聯系。餐廳老闆也很開心：因為他們得以充分利用餐廳的資源，并且招徕到了喜歡這家餐廳的客戶。這個過程中并不存在一個複雜的、超級智能的中樞系統，而隻有數以百萬計的實體，每天進行巨量的資料交換和分布式的決策。飲食、娛樂、交通……城市裡的任何服務都能以這種形式進行。

機器之心：分布式的決策系統和單線程決策系統有什麼差別？

Michael Jordan：人類是「單線程生物」，我們自己做出的決策大多是單一決策。而隻有當存在稀缺性的時候，分布式決策才會比多個單一決策更加困難。

解決任何現實世界的問題都要考慮稀缺性。例如，道路容量是有限額的，如果我将所有從 A 地點前往 B 地點的人都指向同一條「最優路徑」，無疑這條路會堵車，不再是一條「最優路徑」。再比如，因為我沒有無限量物流車（即使我有，這也會變成超出道路容量的問題），是以派送包裹時總會有先後順序。這時，我解決排序的方式并不是設計一個尋找「最優解」的中心算法，而是讓大家以競價的方式表達自己的偏好。

注意，我們并非在讨論建立一個簡單的經典市場。而是一個能夠允許資料充分流動、偏好充分表達的市場。是以，經濟學家會對這個市場異常感興趣，因為當市場中的決策者手握大量資訊，他們可以做得更好。

機器之心：現有拟人 AI 技術的進步會給 II 帶來哪些影響嗎？

Michael Jordan：其實，大部分現存的市場模型并不要求每個身處其中的智能體具有進階的智能，而隻要求他們做簡單的決策。回到網約車的例子裡，網約車中的司機和乘客都是具有進階智能的人，但是在系統裡他們并不需要大量動用智慧，他們隻需要表達需求（我要去機場）和偏好（我願意加價排程）就可以了。

但是，當每個智能體都擁有更多資訊，并且能夠根據這些資訊更可靠、更有邏輯地運作時，市場會變得更高效、更好。比如，在商品市場或者股票交易市場上，參與者的「智慧」就得到了更多的利用。

是以，我們也可以想象，那些經典的、拟人 AI 在一些有趣的市場中也能夠成為很好的玩家。拟人 AI 和 II 的概念就融合在一起了。

對于視覺問題、語音問題來說，我們有如此及大量的标注資料，是以用監督學習解決這個問題是合适的。任何其他有标注的高維統計分析問題也可以用監督學習的思路解決。無論最終目标是 拟人 AI 還是 IA 還是 II，解決方案都會是一個監督學習、無監督學習、Bandit 算法等等的組合。

并非說 II 是優于 AI 的一個概念，而是當人人都「全力投入 AI」卻不能準确描述他們所投入的究竟是什麼，對一些基本概念做區分有助于人們厘清自己的思路。

機器之心：在您看來，目前公衆缺乏對 II 的關注，那麼從研發角度呢？

Michael Jordan：研發角度的關注重點也有所偏頗。

我并不擔心業界巨頭們，大公司層面一直不缺少相關研究。但是有非常多的小公司，仍然認為他們能夠通過提出一種新型的智能 AI 裝置就解決某個存在已久的大問題。但是可以預見的是，在大多數情況下，這并不會發生。

當然，對于硬體公司來說，鼓勵更多人在更大量的資料上運作各式各樣的 AI 算法是符合他們的利益的做法：因為無論算法是否有效，隻要賣出硬體他們就能夠掙錢。這并不是一件壞事，但人們需要清楚，許多硬體的賣點不是「他們能夠立刻解決目前的問題」。

想要讓電腦對真實世界進行進階抽象然後得出結論是非常、非常艱巨的任務。我并不認為我們能夠在可見的未來裡實作這一點。然而我并不認為計算能力是目前技術發展的瓶頸。事實上如今我們每個人手上的算力都非常可觀：甚至當下的大部分生産側的應用程式都能夠運作在你的筆記本電腦上。即使一個商業模式依賴對大量資料的快速處理，大部分也能夠通過雲實作，隻有自動駕駛等非常少部分的應用需要大量終端計算力。

另一方面，對于學界來說，我也并不十分擔心。學界的風向變化是非常快的，大家對新話題總是迅速燃起興趣，又輕易感到厭倦。深度學習的一個好處是吸引了非常多學生進入計算機科學領域，這是好事：當他們進入這個領域，他們不會停步于這一個小範疇，而是會在更廣泛的問題空間裡進行探索。

機器之心：您所關注的 II 問題有許多與經濟學問題相似的設定，這類問題和現有機器學習算法有哪些差異？

Michael Jordan：現有的機器學習通常假設有一個玩家。而和經濟學相關的算法，例如許多和拍賣、競價的算法中都有許多個參與者。參與者會掌握部分其他參與者的資訊，并且會進行政策性的思考，進行多回合的假設最終确定如何采取行動。

但是這兩類算法之間并不會有本質的差異，因為人類世界的基本算法是簡單且相通的，梯度下降的概念、矩陣算法的概念、機率模型的概念，都被應用于解決各領域問題。例如鞍點問題，也在經濟學領域中存在：經濟學家總是試圖找到均衡（equilibrium），即市場中具有競争關系的雙方都無法獲得更優的福利。但是因為雙方處于競争關系，在均衡點二者的優化方向是不同的，換言之，這不是一個「規避鞍點」，而是一個「尋找鞍點」的故事。有專門的一類研究，就聚焦在「以尋找鞍點為目标的梯度下降」。

現在二者看似有很大的差異，是因為現在的機器學習算法，例如計算機視覺算法，還隻是單純的模式識别。而真正的計算機視覺算法應該是一個嘗試學習其所處環境的實體。它能夠移動、尋找資源以實作自己的目的。我們的視覺算法正在朝向這個方向發展，在過程中越來越接近經濟相關的算法。

機器之心：機器學習在今後的發展路徑上有哪些需要研究者和應用者特别注意的地方？

Michael Jordan：不确定性。機器學習本質上就是統計學與計算機科學概念的結合，而今值得擔憂的是，在結合的過程中，有一些因素未被考慮到或是說未得到足夠的重視，比如不确定性。

大衆對于不确定性缺乏關注。而研究者雖然清楚不确定性的存在，仍然缺乏對其足夠的關注：他們簡單地假定，當資料足夠大、标簽足夠多的時候，不确定性會逐漸消失，系統給出的就是正确答案。

這就是現在大部分視覺問題的解決方案，當你有如此多标注資料的時候，不确定性出于某些未知原因逐漸消失。但這并不是一個典型的解決方案，我們無法消除世界上大部分問題的不确定性。世界上不可衡量的因素太多了，有衆多問題需要在存在巨大不确定性的情況下得到解答。例如，雖然醫生并不确切知道患者體内究竟發生了什麼，他仍然要在這種情況下根據患者表現出來的症狀為其選擇治療方案。

想要把不确定性納入考量，算法需要做出許多額外的假設。例如，boostrap 就通過重複地從資料中抽樣獲得一些關于不确定性的估計，但是抽樣過程需要花費大量的算力。

還有一些貝葉斯派的方法，你對最初的不确定性作出假設，而後關注它的變化。但這也是計算非常昂貴的算法。

是以，和不确定性相關的研究工作裡，有一大部分工程性的研究工作就是在嘗試如何用盡可能便宜的方法引入不确定性。以及在不能對不确定性作出準确預估的時候，起碼給出明确的聲明：算法的置信度是多少，如果算法不足夠好，那麼給出更大的置信區間，以便作出更保守的估計。

傳統地看，統計學裡不确定性無處不在，其核心就是清楚錯誤的存在、明确來源并進行管理。而傳統的計算機科學是不存在不确定性的。機器學習研究者開始将不确定性的思想引入計算機科學學科，算法有了訓練與測試階段，人們開始考量随機性對兩個階段的結果産生哪些影響。但是，從「文化」的角度上來看，整個領域仍然缺乏對不确定性的關注。

機器之心：您近期多次在公開演講中提到

高性能分布式架構 Ray

，能否介紹一下 Ray 的設計思路和主要特點？

Michael Jordan：對于更好的架構和語言的需求的确一直在上升。當我年輕時，我們有 Fortran，有 C 語言，他們比之前一代的程式設計語言有了顯著的提升，并且帶來了高效的發展。但是想要在多線程的分布式平台上使用這樣的語言變得越來越痛苦，它們并不适合資料分布在不同地方的模型。

這一次深度學習的成功背後，很大一部分要歸功于 Hadoop、Spark、TensorFlow 這些工具，它們讓分布式模型變得易用。但這也隻是針對目前的需求而向分布式架構邁進的第一步。

Ray 在嘗試更進一步，我們試圖把問題中與分布式相關的問題抽取出來：一個算法運作在一台、五台還是上百台計算機上需要進行哪些調整不應該是算法設計者需要考慮的問題。

這是一個非常有趣、有價值的問題，但不應該讓大多數工程師為此花費大量精力，底層工程師思考這個問題就夠了。Ray 旨在提供一個底層架構，能夠高效利用你所有的計算資源，讓程序在不同處理器之間切換，并保持整個過程的魯棒性和一緻性。

它關注的不是「模式識别」這類 AI，而是支援決策類 AI，比如強化學習、Bandit 算法以及其他很多搜尋算法的運作。

機器之心：決策類 AI 相比于識别類 AI 需要的算力支援有何不同？

Michael Jordan：相比于模式識别類的 AI 算法，決策類 AI 更需要異構負載（heterogeneous workload）。模式識别類的任務通常很容易切分成子任務，每一個子任務的大小、需要的資源種類都基本相同。常見的模式是，把資料切分成小塊，讓每個小塊在不同的計算單元上進行同樣的求導運算，它們耗時大體相等，等所有運算完成後，再把它們的結果加起來。Hadoop 和 Spark 之下的 MapReduce 範式，正是這樣的範式。

但是對于決策類的問題來說，問題切分成很多個小的搜尋問題之後，每部分的耗時都是未知的：你需要進行嘗試，有一些通路可以迅速被排除，另一些則需要很多步的嘗試才能判斷。每個程序需要一直搜尋到确定為止，而在這個程序停止之後，系統需要為這一個特定處理器配置設定一項新任務。這是一個動态任務圖，也就是所謂的異構負載。這就是 Ray 試圖解決的問題。

機器之心：在 Ray 之外，您還關注哪些其他研究方向？

Michael Jordan：研究者選擇課題與藝術家、音樂家選擇創造主題其實是一樣的。我對于萬事萬物都很好奇，喜歡學習一切，是以我保持開放的心态，與大量的人交談，思考技術的潮流正在将世界帶向何方。然後你會發現一些新的思考方式、一些尚未得到關注的領域，一些讓你相信假以時日一定會得到有趣的發現的問題。是以你進行嘗試、與其他人公開探讨，嘗試激起他們的興趣，尤其是你的學生的興趣。

我經常在公開場合談論 Ray，是因為我希望更多人加入進來，在更多的使用場景下測試它的能力。除此之外，我還對錯誤發現率（false discovery rate） 十分感興趣，尤其是線上錯誤發現率。這一類算法想要實作的目标是，當算法在運算的任何階段被中止，都能保證目前作出的決策大部分是好的決策。

我也對很多數學相關的工作感興趣。比如梯度下降算法以及搜尋算法等的幾何學研究。

梯度下降算法從數學角度來看，就是試圖在參數空間内進行運動。這類運動有哪些動态性質？有哪些幾何性質？其動态性質與幾何性質之間又是如何互相影響？我對這些問題都很感興趣。

鞍點問題就是這類問題中的典型。梯度下降算法經常長時間卡在鞍點附近，是以，如何設計參數優化算法以避免在鞍點停留，如何利用鞍點的性質找到優化的方向，都是我們正在研究的問題。

數學類問題吸引我的地方在于有一個良性循環的社群：你在他人的工作之上開展自己的工作，提出猜想、進行證明、得到定理，而在未來，你的工作又會被之後的學生做為探索的起點。

十年之後，人們不會再談及我，我的時代已經過去。我不認為當今有哪些研究者的工作能夠像愛因斯坦的成果一樣，有延續百年的生命力。我們的貢獻要小一些，但是我希望它們足夠紮實，能夠讓十年後的其他研究者願意在我們的成果之上繼續前行。