如果我們把之前所有的AI放在同一台電腦裡，我們會得到什麼?
我們會得到一個可以用100種語言進行電話對話的人工智能。它會在《危險邊緣》中打敗所有人! 以及在象棋、圍棋、撲克以及許多電子遊戲中擊敗任何人。這種人工智能将能夠識别任何物體或臉，甚至比大多數醫生更好地檢測癌症。它也将是完成和創造性的，發明東西，發現實體定律，并确定新的藥物。人工智能可以像巴赫一樣作曲，像梵高一樣繪畫。它的藝術風格也很有獨創性。
人工智能将成為現代文藝複興時期的機器——擁有人類無法匹敵的技能集合。
"讓我們把這些都放在一起"這樣就很聰明了。
馬文•明斯基
在曆史上的某個時刻，一個人有可能精通所有的人類知識。但随着科學領域的專業化和人類知識的增長，這在幾個世紀以來都是不可能的。
然而，人工智能可以将所有人類知識儲存在它的大腦中。每一本百科全書，每一本書，每一篇科學文章，甚至網際網路上每一個網頁的内容。有了交叉引用、分析、發現模式和總結書面文本的能力，就像GPT-2所做的那樣，我們建立一個具有對人類集體知識的了解的實體隻是一個時間問題。
算法的智能
2000年，目前就職于DeepMind的馬庫斯•哈特(Marcus Hutter)發現了一種通用人工智能算法，名為AIXI。
通用人工智能可以用一個方程來描述。
随後，該算法實作了完美的最優智能。它的工作原理是計算每一個可行的行動過程所産生的每一種可能性，然後選擇最接近目标的行動。
如果目标是赢得一場象棋比賽，AIXI計算出每一種可能的走法所産生的每一種可能的未來象棋比賽，并選擇其未來可能的走法中獲勝最多、失敗最少的走法。
該算法有一個缺點:它是不可計算的——它需要無限的計算資源來求解。
Hutter的公式确實提供了一個重要的教訓:智能并不複雜——困難的是在有限的計算能力下獲得智能。用有限的資源實作智能需要找到并采用捷徑——比對模式和應用啟發式——以取代野蠻計算。
看來我們現在知道該怎麼做了。DeepMind的AlphaZero是一種學習算法。OpenAI的GPT-2是一種用于了解的算法。BAIR的CycleGAN是一種創新算法。
有了智能算法，人類水準的人工智能隻有一個障礙:原始計算能力。
神經網絡
AlphaZero, GPT-2, CycleGAN，微軟的語音和物體識别，谷歌的GMNT翻譯，所有這些都是基于人工神經網絡技術，而這些技術本身也受到了大腦的啟發。
神經網絡自20世紀60年代起就開始使用，在20世紀80年代是人工智能研究人員感興趣的主要課題。但當神經網絡不能做任何有用的事情時，人工智能領域停滞不前。
然而，他們的失敗不是由于錯誤的原理，而是沒有足夠的計算能力。
在20世紀80年代，試圖用計算機建構有用的人工智能，就像試圖用一個瓶子火箭登上月球一樣困難。這一原則是正确的，但權力并不存在。
随着計算能力的增強，具有更多神經元和更多層次的更大的神經網絡在計算上變得可行。這些網絡被稱為深度神經網絡。
在人工神經網絡中，輸入，比如圖像的像素，會被逐層神經元處理，直到得到最終的輸出。
深層神經網絡隻是使用了更多的層。
網絡的每一層都可以分别識别獨特的特征。這是谷歌在2015年推出的DeepDream(深度神經網絡中每一層都能看到的可視化技術)所揭示的。
每一層“看到”的東西，每一層都提取了圖檔的不同元素。電腦會産生幻覺。
今天的深層神經網絡可以有幾十層和數百萬個神經元。最近的突破并不是發現了一些新的智能範式的結果，而是建構更快的處理器和更大的資料集的結果。目前的人工智能革命幾乎完全是計算能力增強的結果。
多虧了20世紀80年代的馬文·明斯基(Marvin Minsky)和90年代的Jürgen Schmidhuber這樣的先驅，我們已經有了幾十年的正确方法。然而，直到最近，我們才有能力運作和訓練足夠大的網絡，以顯示有趣和智能的行為。
現在，随着我們最好的計算機的能力接近人腦的原始計算能力，我們在人工智能領域看到了越來越多的類似人類的成就。
在我們的電腦和它們提供的人工智能超越我們之前，還有多少時間?
計算趨勢
改進是技術的本質，它的改進速度是指數級的。
當增長的數量與某物的大小成比例時，就會出現指數增長。例如，支付給銀行賬戶的利息與它的餘額成比例。
隻要有指數增長，就會有一個常數倍的時間。
1965年，後來創立英特爾公司的戈登•摩爾(Gordon Moore)注意到，計算機的能力幾乎每年都在翻倍。這一趨勢可以追溯到60年代之前，而且從那以後一直持續下去。
世界經濟的生産能力正朝着無限大的方向發展
隻要有回報機制，就會出現指數增長。例如，我們在制造計算機方面的知識越豐富，我們就能制造出更快、更強大的計算機。
我們制造計算機的速度越快，我們收集和處理資訊的速度就越快，以擴充我們的知識，其中包括有關制造計算機的新知識。這種循環不斷重複，并以自身為食。
我們觀察到，我們知識的每一項名額都呈指數級增長——新申請專利的數量、發表的科學論文的數量以及存儲的數字資料總量。
專利數量（技術進步的代表）呈指數級增長。圖檔來源：我們的資料世界
今天，隻是一個起點。如果計算技術的能力繼續以每年翻一番的速度增長，那麼在10年内，我們的計算能力将增長1000倍:速度增長1000倍，記憶體增長1000倍。
應用到人工智能，意味着人工智能每10年變得比以前聰明1000倍。
在未來的25年裡，将會有大約30倍的增長。在容量和價格性能方面，這比今天的技術要高出10億倍，而今天的技術已經相當強大了。
Ray Kurzweil
即使人工智能趕上我們，它也不會在我們的水準上停留太久。它會從我們身邊飛過。
情報爆炸
我們覺得自己好像身處一件大事之中——一個範式轉換，人生的下一個階段，等等。
這些感覺的記錄至少可以追溯到20世紀50年代末。
有一次談話的主題是科技的不斷進步和人類生活方式的不斷變化，這使我們看到人類曆史上出現了某種基本的奇點，超過了這個奇點，我們所知道的人類事務就無法繼續下去了。
1958年，斯坦尼斯拉夫·烏拉姆(Stanislaw Ulam)講述了他與約翰·馮·諾伊曼(John von Neumann)的一次對話
在麻省理工學院人工智能實驗室與明斯基一起工作的丹尼·希利斯(Danny Hillis)将其比作處于s曲線的中間。
我講的故事的第一步花了十億年才完成。接下來的步驟，像神經系統和大腦，花了幾億年。接下來的步驟，比如語言等等，用了不到一百萬年。而接下來的這些步驟，比如電子産品，似乎隻需要幾十年的時間。
這個過程是自食其力的，我想，可以用“自催化”這個詞來形容，即某物增強其變化的速度。變化越多，變化越快。我認為這就是我們在這個曲線爆炸中所看到的。我們看到這個過程在自我回報。
丹尼•希利斯
我們生活在曆史上最激動人心的時代。但就我們所知，它會對人類生命構成威脅嗎?
世界末日方程
人生的下一個階段會是什麼，會帶來什麼可能性?在它進入世界舞台之前，我們還有多少時間?來自不同領域的各種迹象都表明，這種情況可能會持續幾十年。
海因茨·馮·福斯特精通計算機科學、神經生理學、數學和哲學等領域。五角大樓資助馮·福斯特建立并上司生物計算機實驗室，在那裡他是控制論領域的先驅。
在他的職業生涯中，他發表了200多篇論文，但他最著名的是1960年的世界末日方程。
馮·福斯特的世界末日方程是分析人口增長趨勢的結果。他和他的學生們收集并分析了過去兩千年的人口規模。他們發現它的增長速度超過了指數速度。
這種增長不是指數增長，而是雙曲線增長。
當指數趨勢以恒定的速度翻倍時，馮·福斯特發現翻倍之間的時間正在縮短。他們繪制出這一翻倍的時間預計将達到0的時間——如果人口數量按照這一趨勢增長，将達到無窮大。他們得出如下預測:公元2027年±5.5年。
在經濟學中也發現了類似的模式。經濟曆史學家詹姆斯·布拉德福德·德隆(James Bradford DeLong)收集資料，估算了此前100萬年的世界GDP。再一次，當繪制出來的時候，它顯示出連續兩次翻倍之間的時間遞減的趨勢。
它表明，在21世紀初，經濟翻倍時間将達到零。
兩名研究人員建立了一個人口、技術和發明家的模型，以估計世界技術發展的時間。他們的結論是:
極其簡單的數學模型被證明能夠解釋世界近兩千年曆史中經濟和人口宏觀動力學中99.2% - 99.91%的所有變化。
安德烈·科羅塔耶夫和阿爾特米·馬爾科夫
資料的趨勢是如此清晰和一緻，古羅馬或中世紀的某個人在他們的時代的資料，可以預測這種趨勢将在21世紀的某個時候結束。
智力的極限
曆史上的奇點
對技術曆史的分析表明，技術變化是指數型的，與常識中的“直覺的線性”觀點相反。是以，在21世紀，我們不會經曆100年的進步——更像是2萬年的進步(以今天的速度)。
雷·庫茲韋爾，2000年
人口、經濟和技術的增長趨勢都指向不久的将來出現的技術奇點。這是一個機器智能遠遠超過人類智能的時刻。
一旦實作，人類将不再是技術發展的駕駛員。不受科學家、發明家和技術人員的限制，技術進步速度的唯一限制将是基于人工智能的科學家、發明家和技術人員可用的計算資源。
随着時間的推移，1,000 美元可以購買多少計算能力。
截至2018年，我們最快的超級計算機Summit的計算能力超過了一個人類大腦的計算能力。
在幾十年的持續技術進步中，我們的個人電腦和智能手機将趕上Summit的計算能力。大約在這個時候，我們的機器的總計算能力将超過所有人類大腦的總計算能力。
重要的曆史發展符合一個二進制尺度，标志着時間間隔指數下降，每一個時間間隔的大小是前一個的一半[…]顯然在接下來的幾十年裡趨近于零。
剩下的一系列越來越快的革命将在2030年至2040年之間彙聚到一個歐米茄點(Omega point)，屆時單個機器的計算能力将接近所有人類大腦的原始計算能力總和。這篇文章的許多讀者當時應該還活着。
Jürgen人工智能先驅施米德胡貝爾
超級智能的超能力
歐文·約翰·古德(Irving John Good)是一位數學家，他在二戰期間與艾倫·圖靈(Alan Turing)一起使用計算機破解了德國密碼。Good是最早意識到機器可以自我改進的含義的人之一。
讓我們把超智能機器定義為一種機器，它可以遠遠超過任何一個人的所有智力活動，無論這個人多麼聰明。因為設計機器是一種智力活動，一個超智能的機器可以設計出更好的機器;屆時，毫無疑問會出現“智能爆炸”，人類的智能将被遠遠甩在後面。是以，第一台超智能機器是人類需要做出的最後一項發明。
歐文·約翰·古德，1965年
這樣的智能将擁有許多我們可以稱之為超能力的屬性。尼克·博斯特羅姆的《超級智能》一書概述了超級智能人工智能可能擁有的六種超能力:
| 超級智能 | 技能 | 關聯 |
| 1.情報放大 | AI程式設計、認知增強研究、社會認識論發展等。 | • 系統可以引導其智能 |
| 2. 制定戰略 | 戰略規劃、預測、優先排序和分析，以優化實作遠期目标的機會 | • 實作遙遠的目标 • 克服明智的反對 |
| 3. 社會操縱 | 社會和心理模組化、操縱、說服 | • 通過招募人類支援來利用外部資源 • 使“封閉式”人工智能能夠說服其看門人将其釋放 • 說服國家群組織采取某些行動 |
| 4. 黑客攻擊 | 查找和利用計算機系統中的安全漏洞 | • AI 可以通過網際網路征用計算資源 • 盒裝 AI 可能會利用安全漏洞來逃避控制論限制 • 竊取财務資源 • 劫持基礎設施、軍用機器人等。 |
| 5. 技術研究 | 先進技術（如生物技術、納米技術）和發展路徑的設計和模組化 | • 建立強大的軍事力量 • 建立監視系統 • 自動化太空殖民 |
| 6. 經濟生産力 | 各種技能使經濟高效的智力工作成為可能 | • 産生可用于購買影響力、服務、資源（包括硬體）等的财富。 |
考慮到它的超能力，一個聯合起來對抗人類的超智能将是一個詛咒。我們幾乎沒有機會戰勝它。
然而，如果我們有超級智能，那将是一件好事。它可以治愈任何疾病，設計任何技術，解決任何問題，甚至終結世界饑餓和貧困。
超級智能讓我們看到了未來100年兩萬年間的進步。
文明所能提供的一切都是人類智慧的産物;當這種智能被人工智能所提供的工具放大時，我們無法預測我們會取得什麼成就，但消除戰争、疾病和貧困将排在任何人的前列。成功創造人工智能将是人類曆史上最大的事件。不幸的是，這也可能是最後一次。
斯蒂芬·霍金
二十年來，我們見證了智能機器的崛起。有創造力的機器，會學習的機器，讓我們誤以為它們是人類。如果在這麼短的時間内就能取得這麼大的進步，那麼在未來的幾個世紀裡，随着計算技術的能力繼續呈指數級增長，又會發生什麼呢?
有一些極限，即使是超級智能也無法克服。
例如，光速和黑洞物質密度等極限。實體定律意味着計算機處理速度、資料密度和能量效率的實體限制。
然而，計算的終極實體限制是非同尋常的。布雷默曼極限使盡可能快的計算機的速度達到10^50每秒的運算量每千克的品質。
Summit超級計算機達到了10^16每秒運算每千克，意味着我們大約是10^34，不可能造出最好的電腦。在我們達到這個極限之前，計算技術可以再翻112倍。
最好的實體上可能的計算材料被稱為computronium。這是科幻小說裡的東西，但我們可以利用已知的實體界限來推測計算機原子的能力。
人類經常認為自己是智能的頂峰，但事實上，即使所有人類大腦的智能加在一起也隻是可能的一小部分:
區分不同智力的數量級圖
在上面的圖表中，每增加1代表計算能力增加10倍。
袖珍電腦平均每秒可以做10次運算，是以在圖表上是“1”。一部現代智能手機，每秒執行1萬億的運算，為“12”。
黑猩猩、人類和Summit超級計算機是18左右。世界上所有計算機的總運算能力約為10^21每秒，70億人腦的運算速度是10^28每秒.
在這個尺度上，所有的人類加在一起就處于袖珍電腦和馬托什卡大腦之間——馬托什卡大腦是由一顆恒星驅動的假想計算機，在Laundauer計算效率的極限下，每秒的運算次數達到10^{48}。
1千克的computronium，雖然要小得多，但在實體極限下運作，卻有這台恒星動力計算機100倍的能力，達到10^{50}操作每秒。
木星的重量約為10^27公斤。把木星的全部品質轉換成computronium，就能擁有一台算力達到10^77每秒的計算機。
最終，人工智能将擁有強大的計算能力，通過計算機模拟，它可以在幾分之一秒内探索其他世界和文明的整個進化史。
想想在人類曆史上，大約有1000億人生活過。如果每個人平均活40年，那麼人類經曆的時間總計為4萬億年。
四萬億年大約是10的20次方秒。因為人類大腦的每一秒鐘活動都涉及10^18操作，那麼所有人類擁有的所有經驗就可以有10^38的操作。
一個1千克的computronium的人工智能可以在萬億分之一秒内體驗整個人類。
一個木星大腦的computronium可以在一秒鐘内，做10^39個文明的夢。
我們自己的存在也在這樣的夢中嗎?
未來計算機的潛在能力提出了許多問題，如“我們是生活在計算機模拟中嗎?”、“有可能創造新的宇宙嗎?”，“生命在宏偉計劃中微不足道嗎?””