十年後，奇點永遠臨近

IBM的計算機“華生”是由戴維·費魯奇（David Ferrucci）和他的25人團隊發明，團隊任務是研發一個人工智能（AI）系統，在《危機邊緣》（Jeopardy）遊戲裡和人類冠軍對抗。2011年2月，“華生”打敗了最強的人類冠軍肯·詹甯斯（Ken Jennings）和布蘭德·魯特（Brad Rutter）。此後，它又接受了更實際的任務，例如應答醫學診斷中的問題。

那麼我有一個問題：“華生”知道自己在《危機邊緣》中獲勝嗎？它有沒有想到“太棒了！我打敗了偉大的阿詹！”？換句話說，獲勝後，“華生”是否感到自豪？每當有人問我這場偉大的人機交鋒時，我都會這麼反問；而對方接下來總是說——不會。他們明白，這種自我意識還不在計算機的能力範圍内。

在最近的一次會議上，我向“‘華生’之父”費魯奇提出了這個問題。他的回答令我意外：“是的，‘華生’知道自己赢得了《危機邊緣》。”我不相信：這怎麼可能？計算機應該還沒有這樣的自我意識吧。費魯奇壞笑了一下說：“是我告訴它的。”

當然，你還可以給“華生”編段程式，讓它像霍華德·迪恩（Howard Dean）一樣發出勝利的歡叫，但那完全不是真心感到勝利時的喜悅。

2011年10月15日－16日的那個周末，奇點峰會（在這裡，奇點是指機器超越人類智慧的時間節點）在美國紐約召開，一個重要議題是：計算機的自我意識水準以及産生自我意識的時間。數百名奇點學者濟濟一堂，聽取到2045年将取得的進展。這個年份是富有遠見的計算機科學家雷·庫茲韋爾（Ray Kurzweil）提出的，他認為到2045年，計算機智能将會是整個人類智能的10億倍，人類将永生不死，技術變革将變得迅速而深刻，屆時我們将面臨一道智力上的“視界”（event horizon）——“視界”之外，就像天文學上的黑洞内部一樣，一切都是另一番景象。

聽到這些說法，我的第一反應是既受啟發又感到懷疑。如果有人問我在永生問題上的立場，我會回答：“我支援！”然而，人類曆史上已有數以十億計的人，一方面向往永生，一方面得到的又是無法證明的永生方法。每當有“算命先生”把自己和自己的世代寫進預言，宣布在自己有生之年會發生人類曆史上最重大的事件，我的“鬼扯探測器”就會響起警報。我相信哥白尼的信條——我們沒有什麼特别。

我真的希望，有個未來學家或者宗教先知告訴我，“最重大的事件”會在比如2525年或7510年發生。不過，那樣的話對于現在的我們還有什麼意義？是以，庫茲韋爾和他那幫奇點樂觀派人士的觀點就格外吸引人了：不管每天沖擊感官的壞消息多麼令人煩惱，我們都應該始終期待着地平線上即将發生的“最重大的事件”，要沉住氣啊。

我們确實應該沉住氣，在我看來，AI趕上人類智能，還有好幾個世紀那麼遠。美國加州理工學院的神經科學家克裡斯多夫·科赫（Christof Koch）在介紹秀麗隐杆線蟲（Caenorhabditis elegans）的神經傳導通路時指出，我們完全不了解這種簡單的線蟲是如何“思考”的，更别說對複雜數十億倍的人類大腦提出解釋（并用計算機模拟）。

我們甚至不知道，人腦如何産生有意識的思想，“自我”又在什麼地方（如果真有這個地方的話）；更不知道該如何編寫程式讓計算機也做到這些。比較接近真相的，或許還是流行搖滾二人組“紮格和伊文思”（Zager and Evans）在1969年的那首暢銷單曲《遠在2525年》中預測的，人類曆史上最重大的事件将發生在遙遠的未來，從2525年開始，到9595年截止。

在“計算機統治世界，趕超人類思維”的漫天海口中，我卻不得不提前在 “社會奇點會議”（關于過去10 000年中政治、經濟和社會體制的進步）上發表演講，原因是美國萊斯大學的計算機科學家詹姆斯·麥盧金（James McLurkin）沒法讓他那一小群機器人啟動起來。這大概是誰的無線麥克，或者房間裡的無線網絡幹擾了那些微型機器人的通信系統，在場的人全都束手無策。真夠諷刺的！是以我對奇點的預測是：它還在十年之後，永遠的十年之後……

推薦者結語。如果說懷着一種人類天生具來的驕傲認為科技無法達到甚至超越我們，是對科技缺乏敬畏的話；那缺乏依據和超越現實的認為奇點很快臨近，就是對人類自身的妄自菲薄。我們不做自大的自身守護者，也不做癫狂的科技異教徒。