-
「機器問題」重制
從最初的屢屢失敗，到現在的朝氣蓬勃，人工智能會導緻大面積失業甚至讓人類滅絕嗎？或許曆史會給我們一些有用的線索。
有些人害怕機器會搶走所有人的工作，而隻是有選擇地讓少數人受益，并最終徹底颠覆社會。然而在曆史上，類似的一幕曾出現過。兩個世紀前，工業化的浪潮席卷英國，與今天同樣的擔憂曾引發了激烈的争論。那個時候，人們不說「工業革命」而大談「機器問題（machinery question）」。 1821年，經濟學家 David Ricardo 第一個表達了這種看法，他重點關注「機器對于不同社會階層的利益的影響」，特别是「勞動階級懷有的意見，他們認為使用機器通常會不利于他們的利益」。1839年，Thomas Carlyle （蘇格蘭哲學家，被看作是那個時代最重要的社會評論員）對所謂「機械惡魔（demon of mechanism）」予以了抨擊 ，他寫道，「機械惡魔」破壞性的能力将會擾亂整個勞工團體。 現在，這個「機器問題」卷土重來，雖然它僞裝成了另外一副樣子——人工智能（AI）技術正突飛猛進，機器得以執行曾經隻有人才能勝任的各種任務。科學家，經濟學家和哲學家正在熱議人工智能技術的潛在影響。這種影響可能是非常深刻的。因為人工智能技術，之前看起來不可能自動化的工作——從放射科到法律工作——現在也同樣面臨着危機。 2013年， 牛津大學的 Carl Benedikt Frey 和 Michael Osborne 進行了一次調查研究，其結果後來被人們廣泛引用，該研究發現美國有 47% 的工作有很高的可能性會在不久後被「計算機資本取代」。 更近的一個報告是：美國美林銀行預測，2025 年以前，人工智能的「每年産生的創造性破壞的影響」可能會達到14到33萬億美元，其中包括因人工智能實作了知識工作自動化，導緻雇傭成本減少的9萬億美元，制造業和醫療護理開銷減少的8萬億美元，以及部署無人駕駛汽車和無人機後因效率提升增加的兩萬億美元。智囊機構麥肯錫全球研究院（McKinsey Global Institute）說，人工智能正在促進社會發生轉變，這種轉變比工業革命「發生的速度快 10 倍，規模大 300 倍，影響幾乎大3000倍」。 跟兩個世紀前的人們一樣，很多人擔心機器會讓幾百萬人下崗，引發不平等問題和社會動亂。Martin Ford 曾寫過兩本關于自動化威脅的暢銷書，他擔心中産階級的工作将會消失，經濟流動性将（即個人，家庭或團體提高經濟水準的難易程度）停止，财閥們會「将自己關在封閉式小區或精英城市裡，還可能有自動化軍事機器人和無人機在旁保護。」 還有人則擔心，人工智能會威脅人類的生存，因為超級智能計算機可能不會認同人類的目标，轉而攻擊創造它們的人類。很多人表達過這類擔憂，比如實體學家史蒂芬·霍金。 更讓人驚訝的是，伊隆·馬斯克，火箭公司 SpaceX 和 電動汽車制造商 Tesla 的創始人，也有同樣的想法。與 Carlyle 相似,馬斯克警告人類：「我們正在用人工智能召喚惡魔。」他的特斯拉汽車可以利用最新的人工智能技術實作自動行駛，但馬斯克卻擔心未來的人工智能霸主可能會太過強大，失去人類的控制。 他說：「馬可·奧勒留（羅馬帝國賢君）當國王挺好的，但如果國王是卡利古拉（羅馬帝國早期的典型暴君）情況就不太樂觀了。」
有人看到風險，有人洞見機遇。投資者正在不斷湧入這個領域，科技巨頭們則在不斷收購人工智能創業公司，并争先吸引學術界最優秀的研究人才。
根據資料分析公司 Quid 的研究資料，在2015年，人工智能企業的成本創下85億美元的記錄，幾乎為2010年的四倍。投資公司 Playfair Capital 的 Nathan Benaich 說，2015 年人工智能企業的投資輪數比上一年多16%，而與此同時科技産業整體投資輪數減少了3%。
Playfair Capital 是一家基金管理機構，該公司在人工智能的投資組合達到 25%。「XX＋人工智能」取代了「XX行業的Uber 」，成為創業公司預設的商業模式。谷歌，Facebook，IBM，亞馬遜和微軟都想方設法在雲端建立人工智能服務的生态系統。「這項技術将會用在各行各業中，隻要這個行業有任意種類的資料，圖像，語言等資料類型都可以。」MetaMind 的創始人 Richard Socher 說，「人工智能将遍地開花。」MetaMind 是一家人工智能創業公司，最近被雲計算巨頭 Salesforce 收購。
這意味什麼？本篇特别報道将會審視這項新科技的崛起，探索它對工作，教育，政策的潛在影響，思考它在道德和監管方面的作用。同時，本文還思考了能從機器問題最初的答案中學到的東西。AI 引發的擔憂和熱情不相上下，同時帶來了很多問題，然而值得記住的是，其中的很多問題我們在以前都曾問過，并已經有了答案。
-
技術：從無法工作到神經網絡
人工智能的繁榮基于傳統與現代想法的結合。
人工智能如何從剛開始的傲慢與失望，突然成為科技界最熱門的領域呢？人工智能（artificial intelligence）這個術語最早被寫在 1956 年的一份研究計劃中，該計劃聲稱「如果一個精心挑選的科學家小組花一個夏天一起研究，就能使機器解決各種人類無法解決的問題……」，進而實作重大的進步。 那被證明隻是瘋狂過度地樂觀，人工智能雖然偶有突破，但其承諾的遠比其所能提供的多得多。最終，大多研究者都避免使用這個術語，而更喜歡用「專家系統」或「神經網絡」。現在「人工智能」的名譽恢複和重新興起要追溯到 2012 年被稱為 ImageNet 挑戰賽的線上競賽。
ImageNet 是一個擁有數百萬張圖檔的線上資料庫，所有圖檔都有人工做的标簽。對于任何給定詞，例如「氣球」或「草莓」，ImageNet 裡都能找到上百張對應的圖檔。
每年的 ImageNet 競賽鼓勵該領域的人在計算機識别和自動标記圖檔上進行比賽，并衡量他們的進展。這些系統首先使用被正确标記的圖檔集進行訓練，然後挑戰标記之前沒見過的測試圖檔。在後續的研讨會上，優勝者會分享并讨論他們的技術。
2010 年獲勝的系統可以正确标記 72% 的圖檔（人類平均有 95% 的準确率）。2012 年，多倫多大學的 Geoff Hinton 帶領的團隊實作了 85% 的準确率，這要歸功于一項叫「深度學習」的新技術。這帶來了一種長遠快速的改進，在2015 年的 ImageNet 競賽上，一個深度學習系統以 96% 的準确率第一次超過了人類。
2012 年的成果被認為是一項突破，但 Yoshua Bengio 說，他們依靠的是「結合以前已經有了的東西。」Yoshua Bengio 是蒙特利爾大學的計算機科學家，他與 Hinto 以及另外幾個人被稱為深度學習的先驅。大體上，這項技術使用了大量的計算和訓練資料，對來自人工智能發展初期的一個舊思路進行改進，這個舊思路也就是人工神經網絡（ANN）——這是生物學啟發的人工神經元（腦細胞）網絡。
在生物大腦中，每個神經元都能被其它神經元觸發，将輸出的信号饋送給另一個神經元，而且此神經元的輸出也能繼續觸發其它神經元。一個簡單的 ANN 網絡有一個輸入神經元層，在這裡資料被饋送進網絡中；還有一個輸出層輸出結果，中間可能還會有三兩個隐藏層對資訊進行處理。（實際中，ANN 網絡全部在軟體中模拟。）網絡中的每一個神經元都有一系列的「權重」和一個「激活函數」控制着輸出的信号發射。
訓練一個神經網絡涉及到對神經元權重的調整，以便一個給定的輸入産生期望的輸出。ANN 在 20 世紀 90 年代早些時候就已經實作了一些有用的結果，例如識别手寫數字。但在完成更為複雜的任務上，ANN 陷入了困境。
在過去的十幾年中，新技術的出現和對激活函數的一種簡單調整使得訓練深度網絡變得可行。同時，網際網路的興起産生了數十億可用于目标訓練的文檔、圖檔、視訊資料。這所有的一切都需要大量的數字操作能力，而 2009 年左右當幾個人工智能研究團體意識到個人計算機和視訊遊戲機上用于生成精緻畫面的 GPU 也同樣适用于運作深度學習算法之後，計算能力也不再是個問題了。
斯坦福大學由吳恩達帶領的一個人工智能團隊發現 GPU 能夠幾百倍地加速深度學習系統。然後，訓練一個四層的神經網絡突然就變得很快了，由之前需要花費幾周的時間變成了不到一天時間。GPU 生産商 NVIDIA 的老總黃仁勳說這是一個令人高興的對稱：GPU 這一遊戲工作者用于為遊戲玩家建構幻想世界的晶片也能用于幫助計算機通過深度學習了解真實世界。
ImageNet 的結果顯示了深度學習的能力。突然間，深度學習就獲得了關注——不隻是在人工智能界，而是在整個科技産業界内！深度學習系統是以變得更加的強大：20 或 30層的網絡變得很常見，微軟的研究人員曾建立過 152 層的網絡。更深層的網絡能進行更高水準的抽象并産生更好的結果，事實證明這些網絡擅長解決衆多領域的難題。
「讓人們激動的是這一領域的一種學習方法：深度學習，能夠應用于衆多不同的領域，」谷歌機器智能研究部門負責人、如今負責搜尋引擎的 John Giannandrea 表示，谷歌正在使用深度學習提升其網頁搜尋結果的品質、了解智能手機端的口語指令、幫助人們在他們的照片中搜尋特定的圖檔、推薦電子郵件的自動回複、改善網頁的翻譯服務，并且幫助它們的自動駕駛汽車了解周圍環境。
學習如何學習
深度學習有很多不同的方式。最普遍使用的是「監督學習（supervised learning）」，這項技術能使用标記樣本集訓練系統。例如，過濾垃圾郵件：收集出郵件資訊樣本的大資料集，每一個都标上「垃圾郵件」或者「非垃圾郵件」。一個深度學習系統能夠使用這些資料集進行訓練，重複的進行樣本訓練進而調整神經網絡内的權重，提高評定垃圾郵件的準确率。
這一方法的巨大優點是不需要人類專家寫出規則清單，也不需要程式員用代碼編寫這些規則，系統能直接從有标簽的資料中進行學習。
使用有标簽資料訓練系統也被用于圖檔分類、語音識别、信用卡交易欺詐偵測、垃圾和惡意軟體識别以及廣告定位，所有這些應用領域中的正确答案都可通過之前的大量案例獲得。Facebook 能在你上傳一張照片後識别、标記照片裡你的朋友和家人，它們近期還釋出了一個能夠為盲人描述照片中的内容（比如兩個人、微笑、太陽眼鏡、戶外、水等）的系統。有大量的資料可用于監督學習，吳恩達先生說，這一科技的應用已經使現在的金融服務領域、計算安全領域和銷售領域的公司将自己重新标記為了人工智能公司。
另一項技術是無監督學習（unsupervised learning），其通過将網絡暴露在大量樣本中來對網絡進行訓練，但不會告訴它要尋求什麼模式。相反，該網絡學習識别相似樣本的特征和聚類，進而揭示資料中的隐藏分組、連接配接和模式。
無監督學習能在你不知道會是什麼樣的情況下被用于事物搜尋：例如，監控網絡中反常的通信模式，那可能代表着網絡攻擊；或檢查大量的保險聲明以檢測新類型的詐騙方式。
一個經典的案例：2011 年當吳恩達在谷歌工作時，他上司的一個名為谷歌大腦（Google Brain）項目中的一個大型的無監督學習系統本是用于在千部無标記 YouTube 視訊中發現共同模式。一天，吳恩達的一個博士生給了他一個驚喜。吳恩達回憶說「我記得他把我叫道他的電腦前說，『看這個』」，電腦螢幕上是一個毛茸茸的面孔，從數千的樣本中發現的模式。系統發現了貓。
強化學習位于監督學習和無監督學習之間，它涉及到訓練一個神經網絡與隻以獎勵作為偶然的回報的環境進行互動。本質上，訓練涉及到調整網絡的權重，進而獲得能帶來更高獎勵的搜尋政策。DeepMind 是這個領域的專家。2015 年 2 月，它們在 Nature 上發表的一篇論文描述了一個能夠學習玩 49 種經典的 Atari 視訊遊戲的強化學習系統，它隻使用螢幕上的像素和遊戲分數作為輸入，輸出則連接配接到一個虛拟的控制器上。這個系統從頭學起玩遊戲，最終在其中 29 種遊戲中達到或超過了人類水準。
把系統遊戲化
電子遊戲是人工智能研究的理想訓練場，DeepMind 的 Demis Hassabis 說，因為「它們是真實世界的縮影，但更純淨和限制化。」 遊戲引擎也可以輕松生成大量訓練資料。Hassabis 先生以前從事過電子遊戲行業的工作，後來取得了認知神經學的博士學位并創立了 DeepMind。這家公司現位于倫敦國王十字車站附近，相當于谷歌的人工智能研究分部。
今年三月，AlphaGo 于首爾的五輪比賽中打敗了世界頂尖圍棋選手李世石，作為開發公司的 DeepMind 是以登上頭條。AlphaGo 是一個有着獨特特性的強化學習系統。它由幾個互相連通的子產品組成，包括兩個深度神經網絡，它們各有所長——像人腦中子產品一樣。
其中一個通過大量的棋局分析訓練提出一些可能的走法，另一個網絡則負責根據随機采樣技術來評估這些走法。這個系統把生物啟發的技術與純機器化的技術結合了起來。人工智能研究者們就哪種技術更優越這個問題已經争論了幾十年，而 AlphaGo 卻另辟蹊徑兩者都用。「這是一個複合型系統，因為我們認為解決智能問題隻有深度學習是不夠的」，Hassabis說。
!
他和其他研究者們已經開始探尋一種叫做遷移學習（transfer learning）的新技術了。這種技術能讓強化學習系統把基礎建立在已習得的知識上，而不用每一次都從頭開始訓練。Hassabis 先生解釋道，人類可以毫不費力地做到這一點。Giannandrea 先生回憶起他四歲的女兒已經能辨識出 penny-farthing（一種前輪大後輪小的腳踏車）就是一種自行車，即使她之前從沒見過這樣的東西。「但計算機無法做到，」他說。
一家最近被 Salesforce 收購的初創公司 MetaMind 也在研發一種相關的技術——多任務學習（multitask learning），這種系統用同樣的神經網絡架構解決多種不同的問題，在一件事情上獲得的經驗能用來更好地解決其它事情。
跟 DeepMind 類似，它也在探尋子產品化的架構；其中一個被稱為「動态記憶網絡（dynamic memory network）」的系統能消化一系列陳述，然後回答相關問題，并且推斷出其中的邏輯聯系（Kermit 是一隻青蛙；青蛙是綠色的；是以 Kermit 是綠色的）。MetaMind 還把自然語言網絡和圖像識别網絡融合到一個系統中，它可以回答有關圖像的問題（「這裡面的汽車是什麼顔色的？」）。這種技術可以用到智能客服聊天機器人中，或者用于 Salesforce 的客戶呼叫中心。
過去，很多有前景的人工智能技術發展都會逐漸疲軟。但深度學習卻不同。「這東西真的能起作用，」 MetaMind 的 Richard Socher 說。人們每天都會用到它，雖然他們并未意識到。Hassabis、Socher和其他人的長遠目标是開發出「通用人工智能（AGI )」—一種能完成各種各樣任務的系統，有了它就不必再為每個特定問題都專門開發出一個系統了。
人工智能多年來的研究方向都集中在解決專業化的特定問題上，Socher先生說，但現在研究人員們「正努力用更先進的樂高積木塊拼出不一樣的東西」。即使他們中最樂觀的人也認為還需至少十年才能做出人類智力水準的 AGI 。但 Hassabis 說，「我們認為我們已經知道實作接近 AGI 的系統所需的幾十種關鍵元素了」。
同時人工智能已經在發揮作用了，而且很快會更有用。例如谷歌的智能回複系統，它通過兩個神經網絡推薦郵件回複，從研究項目到産品上線隻用了四個月（雖然剛開始它因為對每條資訊建議回複的有「我愛你」而令人失望）。
「在科研期刊上發表文章剛一個月，就有某個公司正确使用你的系統了，」Socher 說。人工智能公司，不論規模大小都能都能定期發表學術文章；人工智能研究者即使在轉行進入公司後也能繼續在同行評議期刊上發表研究成果。很多人都是邊為公司工作邊發表科研文章。「如果你不允許他們發表，他們就不會為你工作了，」Andreessen Horowitz 的 Chris Dixon 解釋說。
谷歌，Facebook，微軟，IBM，亞馬遜，百度以及其他公司都開源了某些深度學習軟體。部分原因是這些公司中的研究人員想要發表自己的成果，因為這有利于公司招募更多人才。從更現實的角度來看，這也是因為大型網際網路公司不在乎把自己的人工智能軟體公之于衆，因為他們真正的優勢在于能擷取大量用于訓練的使用者資料。
一家投資基金公司 Bloomberg Beta的Shivon Zilis說，這使得他們能在某些方面占盡優勢，但初創公司也在尋求打入市場的獨特途徑。比如無人機初創公司能在人群密集的地方通過模拟資料進行飛行訓練。而且很多訓練資料都能從網上找到，孵化器公司 Y Combinator 的董事長 Sam Altman 說道。他注意到人類可以用有限的資料進行學習，「這意味着大量訓練資料并不是實作智能的必要條件」。像 Numenta 和 Geometric Intelligence 這樣的初創公司正在探索低資料依賴性的新智能系統。
在這股人工智能淘金熱中，公司們排着隊為參與者提供鐵鍬。出現最為頻繁的名字是英偉達，Dixon 先生說；似乎每一家人工智能創業公司都在使用它的 GPU 晶片來訓練神經網絡。GPU 能力也可從亞馬遜和微軟的雲中租用。
與此同時，IBM 和谷歌則正為更快更高效地運作人工智能軟體而設計專門的新晶片。谷歌、微軟和 IBM 也正使其語音識别、句子解析和圖像分析等人工智能服務免費線上提供，讓創業公司可以結合這些開發子產品來建構新的人工智能産品和服務。IBM 的 Guru Banavar 說：來自多個行業的 300 多家公司已經使用 IBM 的 Watson 平台開發出了人工智能驅動的應用，其中包括篩選應聘者和挑選葡萄酒。
對大多數人而言，所有這些人工智能領域的進步都将展現為他們每天都在使用的網際網路服務的不斷進步。搜尋引擎将得到更相關的結果；推薦将會更加準确。Hassabis 預測說：幾年之内，所有東西都将會嵌入某種程度上的智能。人工智能技術将讓計算機接口變成對話式和有預測力的，而不隻是簡單的菜單和按鈕。而且對話式的互動讓不能閱讀書寫和目前不能使用網際網路的人也能使用計算機，Bengio 說。
厚積多年，一朝薄發；機器将能夠執行之前隻有人類才能完成的任務。自動駕駛汽車正快速變得越來越好，到某個點時它們也許能夠取代計程車司機，至少在市中心等受控環境中可以做到。送貨無人機，不管是地上跑的還是天上飛的，類似地可以與人類送貨員競争。改進後的視覺系統和機器人技術讓機器人可以碼放超市貨架和在倉庫中移動物體。而且還給意想不到的突破留下了很多餘地，Dixon 說。
其他人卻很擔心，擔憂人工智能技術會增壓特定任務中現有的計算機化和自動化；就像 200 年前的蒸汽動力一樣，讓很多勞工成了多餘。英國詩人 Robert Southey 宣稱 ：「蒸汽可怕地加劇着已經正在進行的過程，但太快了。」他擔心「這強大之力的發現」已經在「我們知道如何正确使用它」之前到來。許多人對今天的人工智能也這麼想。
-
對工作的影響：自動化與焦慮
更加智能的機器會導緻大規模失業嗎？
坐在位于舊金山的一間辦公室裡，Igor Barani 在螢幕上調出幾張醫學掃描結果。他是 Enlitic 公司的首席執行官，這是一家從對 X 光掃描與 CT 掃描圖像分析開始将深度學習應用于醫療業的創業公司。這也是對這項技術的很明顯的應用。深度學習因它在圖像識别的某些形式上有着超人的實力而聞名；大量的标簽化訓練資料需要消化，而它有着巨大的潛力，去讓醫療變得更加準确和有效。 Barani 博士（曾經是一位惡性良性腫瘤學家）指着從三個角度拍攝的患者肺部 CT 掃影。随着 Enlitic 的深度學習系統的加入，螢幕上出現了紅色閃爍點，比對它們來看是否是血管、無害的成像物體或惡性的肺部惡性良性腫瘤。最終系統會給出一個重點标注的特征以進一步調查。在與三個放射科專家一起合作的測試中，Enlitic 系統在識别惡性惡性良性腫瘤上優于人類50%，其假陰性率（沒診斷出癌症）為零，相比之下人類則有着7%。Enlitic 的另一個系統，可以用來檢查 X 射線掃描來檢測腕關節骨折，并有效地超出了人類的表現。 在2013年廣為關注的一篇研究中，Carl Benedikt Frey 和 Michael Osborne 核查了702種職業的計算能力，并發現美國47%的勞工都面臨着工作自動化的風險。尤其是，他們警告說大部分運輸業和客運業（例如計程車司機和運貨司機）和公關類（例如接待員與保安）「都有可能會被計算機所取代」，還有許多銷售業與服務業人員（例如收銀員，櫃台人員，租賃人員，電話推銷員和審計師等）也面臨着工作被計算機取代的威脅。 他們總結道：「機器學習近期的發展會占據大量的職業分布，在近期面臨風險的職業分布廣闊。」後續的研究指出英國有35%的職業可能被取代（英語有許多人從事創業公司，也是以難以被取代），在日本這個比例是49%。 經濟學家正在擔心「職業兩極化」的風險，也就是說中層技術的工作（例如制造業）正在消失，而低等和高等工作在擴張。實際上，工作可以被劃分為兩種正常職業：第一種即高薪水高技術的職業（建築師，進階管理），還有低薪水低技術的職業（清潔工，快餐員）。 許多西方國家中層職業薪水的停滞都表現出自動化已經開始産生影響——盡管這與外包的影響很難區分出來，後者也取代了許多開發中國家的底薪國家中日常化的工作（例如制造業和呼叫中心）。聖路易斯聯邦儲備銀行發表的資料顯示，在美國，非正常認知型工作以及非正常手工型工作自1980年後逐漸增長，而正常化工作則一直維持幾乎不變。随着更多工作自動化，這種趨勢很可能會延續下去。
在更近的例子中，自動取款機（ATM）可能已經有望通過接替一些日常任務來取代銀行出納員的工作，而 Bessen 指出，事實上美國每個銀行支行的出納員平均數量已經從 1988 年的 20 人降低到了 2004 年的 13 人。
這減少了營運一家支行的成本，讓銀行可以開設更多支行以響應客戶的需求。城市銀行支行的數量同期上升了 43%，是以總體上雇員的數量增加了。ATM 并沒有摧毀工作，而是改變了銀行雇員的工作組合——讓他們遠離了日常任務，進入到了機器不能做的銷售和客服領域。
那麼誰是正确的：是認為這一次不同于以往而機器将真正奪走所有工作的悲觀者（他們中許多是技術者類型的），還是堅持認為技術終将創造更多工作樂觀者（大部分是經濟學家和曆史學家）？
而事實可能介于兩者之間。人工智能不會導緻大規模失業，但它會加速與計算機相關的自動化的趨勢，像技術改變之前做的那樣擾亂勞動力市場，并要求工作者比以往更快地學習新技能。Bessen 預計會有一次「艱難轉型」，而不是「尖銳地打破曆史」。
盡管人們表達了廣泛不同的意見，但幾乎所有人都同意這個處方：公司和政府将需要想辦法讓工作者更容易掌握轉換工作所需的新技能。這将在悲觀者看法正确的事件中提供更好的防禦，同時預防比樂觀者所預計的人工智能的更快和更重大的影響。
-
教育和政策：你會失業還是變得富有？
人工智能将會給教育、福利和地緣政治的政策制定者帶來影響。
教育
2011 年 7 月，擁有多個頭銜的斯坦福大學教授 Sebastian Thrun 在 YouTube 上釋出了一段短視訊，宣布他和他的同僚 Peter Norvig 正在使他們的「人工智能入門（Introduction to Artificial Intelligence）」課程可以在網上免費觀看。
到 10 月份該課程開始的時候，來自 190 個國家的 160,000 人報名參加了該課程。與此同時，另一位斯坦福教授吳恩達也将自己的一門關于機器學習的課程免費釋出到了網上，有 100,000 人參加了這個課程。這兩個課程都持續 10 周。最後，有 23,000 人完成 Thrun 的課程，13,000 人完成了吳恩達的課程。
這樣的線上課程，以及短視訊講座、學生的線上讨論闆塊和自動為他們的課程成績評級的系統，變成了衆所周知的大規模開放式線上課程（MOOC）。2012 年，Thrun 創立了線上教育創業公司 Udacity，吳恩達也聯合創立了另一家線上教育創業公司 Coursera。
就在同一年，哈佛大學和麻省理工學院（MIT）聯合組建了 edX——一個非營利性的 MOOC 提供組織，該組織由 MIT 人工智能實驗負責人 Anant Agarwal 所上司。一些人認為 MOOC 會取代傳統的大學教育。最初圍繞 MOOC 的炒作現在差不多也已經偃旗息鼓了（盡管已有數百萬學生參加了某種形式的線上課程），但 MOOC 的繁榮說明了線上教育的巨大潛力。
Udacity、Coursera 和 edX 都是從人工智能實驗室湧現出來的，這個事實凸顯了人工智能研究社群希望對教育系統進行大改的信念。Thrun 說他創立 Udacity 是将其作為「正在進行的人工智能革命的解藥」——這場革命将催生對工作者的新型工作技能的需求。
類似地，吳恩達認為：鑒于人工智能研究者的工作對勞動力市場的潛在影響，研究者「在應對和解決我們導緻的問題上負有道德上的責任」；他說，Coursera 是他在這方面作出的貢獻。此外，人工智能技術在教育方面有很大的發展潛力。根據每一個學生的情況各自調整課程，進而實作最輕松最高效的學習方法「适應性學習（Adaptive Learning）」多年前就應該出現了。但新的機器學習技術可能最終有望幫助實作這一目标。
吳恩達說，适應性學習對大量學生使用同一材料進行學習的情況最有效，因為這樣可以收集到大量的資料。在這方面的創業公司有 Geekie、Knewton、Smart Sparrow 和 DreamBox 等，教育行業的巨頭也對此很有興趣：2013 年 McGraw-Hill 買下了适應性學習系統 ALEKS；Pearson 最近宣布擴大了與 Knewton 的合作關系。
「老系統将不得不得到認真的修改」，美國西北大學的 Joel Mokyr 指出，教育系統鼓勵專業化，這樣學生就能在越來越少的主題上學到越來越多。但随着知識過時的速度越來越快，重要的是要學會再學習（relearn）。
Mokyr 認為當下的教育像粘土——「塑造它，然後烘烤它，就定型了」。未來，随着越來越多任務變得自動化，人類技能顯得最有價值的任務會不斷變化。「你必須終生學習——很長時間來顯然都是這樣」，吳恩達說，「你在大學裡學到的東西不足以讓你繼續前進 40 年。」
政策政治
對人工智能和自動化的擔憂也導緻了對更強大的保護人們免受勞動力市場動亂影響的安全網的呼籲。尤其是一些人工智能評論者認為應該建立一套福利系統，讓每個人（不管什麼情況）都享有保障基本生存的收入（比如說一年 1 萬美元？）類似的想法在工業革命時也由 Thomas Paine 和 John Stuart Mill 等一些人提出過。
其基本思想是：人們做得更多讓自己的收入增加時，這個福利不會減少，這樣人們就會願意去做事。這會讓人們能自由決定自己希望做什麼，活在失業中接受合适的再教育訓練。很多預言會有終極工作破壞的人都認為可以把這個情況用來保持消費型經濟和支援非勞動人口。如果大部分工作都被自動化取代了，我們就将需要一種重新配置設定财富的可選機制。
與改革教育系統相比，保障基本收入似乎更簡單、更有吸引力。這個想法在技術行業内享有廣泛支援：創業孵化器 Y Combinator 甚至還支援着加利福尼亞州奧克蘭市的一項對該想法的研究。其總裁 Sam Altman 認為基本保障收入可以確定「向未來工作的平穩過渡」。
看起來似乎是一個未來烏托邦，但一些懷疑論的觀點認為這會導緻抑制技術造成的不平等和抱怨，進而讓極客能發明無拘束的未來。Altman 先生說，根據他的經驗，技術人會支援基本收入保障的想法。
但基本收入保障的前提是要有收入，這就将意味着更高的稅收。此外因為人們本身的财富水準和各地的消費水準不一樣，公平性方面也難以得到保證。而且還有人認為保障基本收入事實上會抑制人們接受再訓練，催生一個不願意勞動（而不是不能勞動）的「懶人」群體；進而加重納稅人的負擔。
芬蘭和荷蘭等富裕國家計劃在明年開始有限地試驗基本收入政策，而其它較為貧窮的國家顯然從沒考慮過這樣的事。自動化的發展對地緣政治的影響也将逐漸顯現。
MIT 的 David Autor 說，自動化對發展中經濟體的影響比對富裕經濟體的影響更大，因為發展中經濟體有更高比例的體力勞動工作：低工資的勞工制造廉價的産品、在客服中心提供廉價的服務、在國内或海外做建築工作……如果自動化使發達國家能在這些方面自給自足，它們對開發中國家提供的産品和服務的需求就越少——開發中國家将失去在這些方面的比較優勢，而與此同時，機器人和人工智能的技術和專利也基本上都掌握在發達國家手裡。
自動化可能會讓發達國家通過全面工業化斷掉貧窮國家的發展機會。經濟學家常談論「過早去工業化」；哈佛大學的 Dani Rodrik 指出第一次世界大戰前英國的制造業就業人數達到了峰值的 45%，而巴西、印度和中國的制造業就業人數比例已經度過了峰值，卻還沒超過 15%。這是因為制造業已經遠比過去自動化了。
據花旗銀行和牛津大學馬丁學院的一份報告指出，中國已經取代美國成為了第一大工業自動化市場。然而對于非洲和南美的其它一些新興經濟體而言，自動化卻并不是好消息，它們再也無法通過「農田到工廠」的勞動力轉移模式來推動經濟增長了，它們必須尋找新的增長模式。喬治·梅森大學經濟學家 Tyler Cowen 說：如果沒有制造業的工作構成中産階層，這些國家的「核心經濟結構中将出現非常高的收入不平等。」
5.道德：弗蘭肯斯坦的回形針
技術專家不相信人工智能會失去控制，但還是會有道德上的憂慮
随着《末日侵襲》這部電影情節的發展，它看起來也沒有那麼可怕。所謂的「回形針最多化」（paperclip maximiser）是牛津大學哲學家 Nick Bostrom 提出的一個思維實驗。這個實驗假設一個人工智能能夠希望能收集盡可能多的回形針。它會想盡一切辦法來收集回形針，并且會通過自我更新來找到收集回形針的新方法，它還會反抗一切阻止它做這件事情的企圖。最後它“把整個地球和一部分宇宙空間都變成了一個回形針制造工廠”。
這種明顯非常愚蠢的試圖想表達一個非常嚴肅的觀點：人工智能不需要人類一樣的行為和心理動機。它們可能不會出現人類常會犯的錯誤和偏差，但是會犯别的錯誤，例如執着于回形針。它們的目标已開始可能看起來是無害的，但如果人工智能能夠自我複制并更新自己的性能就會非常危險了。即使是一個運作在一台不聯網的計算機上的「被束縛的超級人工智能」也會竭盡全力地勸說它的主人讓他獲得自由。先進的人工智能不僅僅是一門新技術，而是一個對人類的威脅，Bostrom 說。
機器能夠自己獨立運作并不是一個新鮮想法，英國作家瑪麗·雪萊在 1818 年就在她的小說《弗蘭肯斯坦》中提出過這個想法。但直到 1965 年，人們才提出這種能夠不斷自我更新的人工智能概念。但最近人們在人工智能方面取得的進展又引起了新的擔憂，Bostrom 就是一個人工智能威脅論的知名倡導者，他更喜歡把人工智能叫做「超級智能」，這也是他的新書的書名。
一些人工智能研究者給出了幾個理由來證明為什麼人們沒必要恐懼人工智能，最起碼是在目前階段。第一，吳恩達曾說過智能和感性能力以及意識是不同的。在 IBM 的人工智能道德小組工作的 Farancesca Rossi 也說過，人工智能「總有一天會覺醒并獲得自己的思想」的想法并不現實。
第二，所謂的「智能爆發」也是不可能出現的，因為這需要一個人工智能在比它的前一個版本的智能更新更短的時間内更新出新的版本。但是大多數計算問題，即使是比人工智能簡單得多的，在規模化的的時候也需要花很長的時間。
第三，即使機器能夠從經驗和環境中學習，它們也不會總在學習。例如一輛自動駕駛汽車并不是在每次駕駛的時候都在進行訓練。相反地，深度學習系統在神經網絡中建立一個執行特定任務的計算模型也需要花上好幾天時間。這個模型可以被應用到一個執行機器中，例如汽車、無人機、app或者其他的地方。但是這些汽車和無人機并不能在實際工作時學習，相反地，他們在實際工作中得到的資料會被傳回後方來改進模型，然後模型又會被再次應用。是以一個單一的系統不會在環境中學到「壞行為」，因為它在環境中并沒有學習。
6.結論：機械問題的答案
人工智能未來一瞥
之前看起來非常緊要的、亟待解決的原始的機器問題，最終将自我解決。盡管 David Ricardo 以及其他人都表達過「機器取代人類勞力可能緻使人口備援」這樣的恐懼，機械化的總體影響将會是創造史無前例規模的職位。
機器讓個人工作者能生産更多産品，降低大量商品的價格，擴大需求并且将需要更多勞工。全新的工作職位将被創造出來，對機器進行監督。随着公司變得更大，他們将會需要更多經理、會計和其他職位。而且随着鐵路、電信、電氣的到來，全新的、前所未有的、我們難以想象的産業将會湧現。
誠然，所有這些都将花費一段時間。當一些工作消失的時候，工業化會造成普遍的勞力市場聚變，其他改變難以知曉，而全新的職位将會出現。工廠内的情況曾經非常糟糕，從顯著的勞工收入變化上反映出經濟的增長需要幾十年的時間，這種現象也就是我們所熟知的「恩格斯停頓」。
在人工智能發展緩慢而備受挫折的數年之後，現在很多人卻認為它前進過快，這是一件非常諷刺的事。然而，一份冷靜的評估表明我們應該歡迎人工智能，而不是害怕人工智能。在 19 世紀 40 年代，John Stuart Mill 寫道，「将來我們會看到，機械發明對勞工的最終好處是毋庸置疑的。」未來可能會有一位經濟學家同樣如此描述人工智能的好處，并不隻是對勞工而言，而是對每一個人而言。