https://www.toutiao.com/a6680841965853999628/
2019-04-17 20:38:55
20世紀60年代，人們開始認識到超人類智能可能導緻的一些後果，I.J.古德曾寫道：我們把超級智能機器定義為在智力活動方面大大超過任何人類的機器，無論人類有多麼聰明。機器設計是這些智能機器的能力之一，是以超級智能機器可以建造比它自己更強大的機器。随後就會發生一場“智能大爆炸”、人類的智力将被遠遠抛在後面。
是以，超級智能機器将是人類需要實作的最後一種發明。前提是這種機器足夠馴服，會告訴我們人類如何才能控制它。我們極有可造出這種機器，并使之成為人類的最後一種發明。古德談到了關鍵性的創意失控問題，但并沒有深入挖掘最為令人不安的後果。他所描述的那些智力如此高超的智能機器，不可能成為人類的工具一一正如人類不會成為兔子、知更鳥和大猩猩的工具一樣。
整個20世紀60、70和80年代、對此巨變的認識都在不斷傳播。第一批感受到實實在在沖擊的應該是科幻作家群體。畢竟，“硬科幻”作家們的使命，就是用故事的形式探讨技術會給我們帶來的可能性。這些作家越來越多地感覺到、在我們與末來之間、橫亘着一堵若有若無的高牆。他們曾一度把這類幻想的發生時間設定在數百萬年以後，現在他們卻發現，即使最細心的推測，也充滿了不确定性……巨變很快就會發生。
如今，我們在不斷滑向邊緣地帶，未來的幾十年又将變成什麼樣？奇點即将來臨這一觀念的傳播，會對人們的世界觀造成何種影響？大衆對機器科學的意見暫時還傾向于正面。畢竟，在我們開發出與人腦能力相當的硬體裝置之前，擔心制造出類人（或超人）智能的實體顯得杞人憂天。（還有一種極茫的可能，就是我們到時可以用品質較差的硬體，組裝出與人類智能相當地機器。前提是我們願意犧牲反應速度、可以接受反應很慢的智能機器。
但更可能發生的情況是，編寫這樣的軟體會非常困難，需要經曆很多的波折，要做大量的嘗試。如果是這樣，具備自覺意識的機器，可能要到硬體水準大大超過人類腦力的時候才能出現。但是随着時間的推移，我們會看到更多迹象。科幻作家們面臨的兩難處境，其他從事創意工作的人也很快就将有所體會。我曾聽漫畫作者抱怨等到普通人都能輕易繪制任何可視圖景的時候，他們還能有什麼辦法構造壯觀場面。
我們會看到智能機器人取代越來越高技術的工作崗位。我們現在的工具軟體（數學符号處理程式，CAD/CAM等）可以幫助我們擺脫低水準重複性工作。換言之，以後從事真正有生産力的工作的人，數量會越來越少層次會越來越高。
在奇點逐漸來臨的過程中，我們将看到真正的技術性失業成為現實。奇點臨近的另外一種表現，就是觀念的傳播速度越來越快，即便是最激進的言論，也很快就會變得平常。到奇點真正來臨時又會怎樣？我們對奇點本身了解多少？由于這涉及次智慧的爆發，它的程序之快，可能會超過迄今為止任何一輪技術革命。
這場颠覆性巨變很可能會突如其來地發生一一甚至連專業人士都無法預見。如果網絡普及程度足夠（滲入無處不在的嵌入式系統），那時的狀況，就像是所有的工具一下子覺醒了。那麼一兩個月（或者一兩天）之後又會怎樣？我隻有一個類似案例可以參照，那就是人類的崛起。我們将迎來後人類時代。盡管我一向對技術進步的前景極為樂觀，有時候我還是甯願自己距離這個顔覆性事件有一千年以上的時間……而不是在二十年後就要面對這一切。