我們需要操作性定義。
撰文 | 顧凡及（複旦大學生命科學學院）
2019年年底，卡爾·施拉根霍夫博士（Karl Schlagenhauf）與我合作出版了一套三卷本《腦與人工智能》系列套書[1-3]。我們兩位作者成長于完全不同的文化，且素未謀面：卡爾是一名對腦感興趣的德國資訊技術工程師和企業家，而我是一名對人工智能（AI）懷有興趣（雖然是名外行）的中國大學的腦科學教授和科普作家。2013年初，一位共同的朋友，神經科學家漢斯·布勞恩（Hans Braun）教授介紹我們相識，此後我們就一直不斷通信，讨論腦研究和AI方面的一些開放問題、現狀評估和發展趨勢，讨論怎樣看待兩者的關系以及媒體有關這些領域的“吸睛”報道，直至讨論科學方法論和相關的科學組織。這套書就是我們的重要通信記錄集合，即使不說是絕無僅有的話，也還是很獨特的。
《腦與人工智能》系列，上海教育出版社2019年
我們這樣極其不同的兩個人得以維持并不斷加深友誼，源于對腦科學和資訊科學交叉領域的共同興趣。并且，我們都喜歡理性思考的方法，而且總是渴望追究事物的原因和理由，而不是随大流或囿于學究式的思維。由于經曆的不同，我們的觀點也有明顯差異，這時我們會發揚科學争論的古老傳統來尋求解決。在某些問題上，我們達成了共識，而在另一些問題上仍然存在分歧，甚至還有某些問題根本就找不到答案。一些新進展支援了我們兩人或者其中一人的看法，并鼓勵我們進一步讨論。一些進展甚至超出了我們最好的期望，或者提示我們或其中一人的觀點錯了，是以我們不得不重新考慮，并從錯誤中吸取教訓。所有這些都激發了我們的熱情，重新聚焦要讨論的問題，并不斷開啟新的争論。這些争論并非是要壓倒對方以顯示自己的高明，而是為了探索事實的真相。
對我們來說不幸的，同時也是幸運的，是這套書的出版時機——2019年底。在接下來的三年多時光中，人類遇到了兩件大事——橫掃世界的新冠大流行和ChatGPT橫空出世——這都是我們當初交談時未能預見到的。這些事無疑分散了讀者對我們書的注意，同時也是對我們書中主要思想的嚴苛考驗。在此期間，在腦研究和資訊技術的交叉領域中也發生了一些引起轟動的事件——雖然不能和上述兩件大事相提并論——如馬斯克的神經聯結（Neuralink）腦機接口和霍金斯（Jeff Hawkings）的“千腦智能”理論。而引發我們讨論的歐盟人腦計劃也即将到期，是非功過都到了将要蓋棺論定的時候。
令我們感到寬慰的是，雖然我們像絕大多數人一樣，未能預見到新冠大流行和ChatGPT這樣的具體事件，但是回顧當初書中對腦研究和AI中存在的開放問題、現狀評估和發展趨勢的總體看法并沒有重大失誤。2023年5月21日，我們這套書被授予“2022年上海科普教育創新獎成果獎（圖書類）”一等獎，可以看作為社會公衆和專家對我們這些觀點某種程度的肯定。
在這樣的特殊時刻，翻出2018年年中三本書剛剛脫稿時我自己記下的“幾個開放問題”和“幾點預期”，看看當時的這些認識是否經得起這五年裡驚濤駭浪的考驗，還是很有意思的。當然，這并非說我們的看法就一定都對，我們寫那套書的目的并非是給讀者什麼定論，而隻是提出問題，擺出自己的觀點和論據，重要的是希望引導讀者加入我們的思考和讨論。即使完稿已是五年前的事，今天再重新審視這些問題并仔細思考，依舊不算過時。
下面列出的内容不管是對是錯，都是當時的原話。
幾個開放問題
1. 腦究竟是一種資訊處理系統還是一種提取意義的機器？
2. 腦的功能基元是什麼？（離子通道？突觸？神經元？功能柱？…）
3. 對非陳述性記憶所得的研究結果可以都推廣到陳述性記憶嗎？
4. 腦中的計算是什麼意思？神經元能進行圖靈意義下的計算嗎？
5. 智能是什麼？智能與技能，智能與學習能力的關系究竟是什麼？
6. 意識和意識的内容是一回事，還是兩回事？
7. 查默斯的“意識困難問題”是意識研究的瓶頸還是一個僞問題？
8. 從原則上來說是否有可能做到心智上傳？
9. 有沒有自由意志？如何解決自由意志和決定論的沖突？
10. 大型腦計劃能解決的問題和不能解決的問題。
11. 是否有可能對全腦進行逆向工程來揭開腦的奧秘，和解決人工智能的終極問題？
12. 工程是否應該或可能複制大自然進化的一切政策？有沒有腦樣計算（brain-like computing）？
13. 人工智能與腦研究的确切關系是什麼？
14. 仿神經晶片（neuromorphic chips）的前途如何？
15. 機器翻譯能做到哪一步？
16. 有可能在可預見的未來實作強人工智能嗎？如果能的話，應該不應該研發強人工智能？
17. 有沒有“奇點”這一天？“奇點臨近”的話可信嗎？
18. 在馮諾伊曼架構下，靠增強計算機能力能實作腦的一切功能嗎？
幾點預期
技術将比腦科學發展得更快，但在可預期的未來，不會出現“奇點”。技術将從腦科學研究中尋求啟發，但是不能拷貝腦。這是因為大自然和工程師所采用的方法有根本性的不同。是以腦研究與工程技術依然會平行發展，但是會互相借鑒。建議把Brain-inspired的中文改為“腦啟發”代替“類腦”以避免誤解。
“大科學，團隊科學和公開科學”将在腦研究的基本資料搜集、臨床資料搜集、圖譜和研究工具開發方面取得顯著進展，但是難望在建立腦科學的基本理論架構方面取得突破。
極少可能實作“心智上傳”和通過“逆向工程”建立人腦的全腦模型。
無論對腦科學來說還是人工智能來說，當問題牽涉到心智、智能、意識等“内心問題”時，面臨的共同瓶頸是“主觀性”，對此應該問的問題不是“主觀性是怎麼産生的？”而是它産生的“充分和必要條件”是什麼？在後一問題上會有穩步進展，但是難望在可預期的未來得到解決。
在極端需要節能的條件下，“仿神經晶片”（neuromorphic chip）可能取得重要應用。但是不能确定其是否能發展成新一代計算機系統。這将主要取決于有多少人願意抛棄傳統計算機，而重新學習這新一代計算機的“生态系統”。
有望在介觀層次上，對許多局部神經回路的活動和機制研究上取得突破。
回顧差不多五年前寫下的“開放問題”，提得并不系統，問題的大小和重要程度也參差不齊。其中一些，我已有了自己的判斷（有的已寫在上面的“幾點預期”中了），而對另一些則依然茫無頭緒。但這些問題至今依舊沒有公論，“開放”如故。在今天的短文中，不可能以上每個問題逐一詳細讨論，但可以看看，我們當初的主要預期是否能經得起這五年驚濤駭浪般的考驗。
書中那些兩人經過争論而取得共識的地方，卡爾說服我要多于我說服卡爾。最令我印象深刻的一處是卡爾的論斷：“實體學家特别是工程師在本學科中的表現優于生命科學家，并且工程似乎是以指數速度發展，而神經科學和醫學的發展則可能隻是按線性發展。”一開始，對于我——一位腦科學研究者——來說，這話聽上去确實有些刺耳。但接着卡爾就舉出科技史上的大量案例，使我不得不承認這一現實。
實際上，新冠疫情和ChatPGT問世也可算是對卡爾論斷的明證：一邊是一種結構簡單到甚至算不算生命都難說的病毒肆虐全球，帶來巨大的生命損失和經濟損失，讓全世界最聰明的腦袋手忙腳亂，至今找不到萬全之策；另一邊，卻有人宣稱即将解開世界上最複雜的系統——人腦，可以在十年或幾十年裡用計算機拷貝人腦。當馬斯克戴着口罩在釋出會上宣稱不久可以通過植入晶片使人腦和人工智能融為一體而成超人，一種巨大的諷刺感撲面而來。（我贊賞Neuralink在技術上的重大進展，但它在思想上并無創新，而把人腦和AI融合起來打造超人則純屬迷思）[4]。與醫學的蹒跚形成鮮明對比的是計算機科學的一騎絕塵，在不足一個世紀裡，從發明第一台占滿整個房間的笨重電子計算機到ChatGPT橫空出世，機器通過圖靈測試已經不是天方夜譚，當我們和聊天軟體對話時，如果不事先想好，刻意設定圈套，确實難以分辨對方是人還是機器。
多層次的腦：腦的各個層次互相影響，形成複雜的循環因果關系。
卡爾早就提出，工程師不會從腦研究的結果中獲益太多，走他們自己的路并忽略生物模型會有更好的結果。這也是我一開始難于接受的。雖然現在依然有許多人宣傳人工智能的瓶頸在于不了解腦，隻有拷貝腦才能取得實質性的飛躍[5,6] ，但這五年來發生的一切證明并非如此。如果說神經網絡和深度學習在開始時還有點受腦啟發的影子（感受野的多層次投射），那麼其後ChatGPT的研發就完全是靠資訊科學技術中的大模型和大資料了。
相反，走拷貝人腦的路線，無論在闡明心智機制方面，還是在應用上，迄今為止都沒有什麼驕人的成就。歐盟人腦計劃早就抛棄了拷貝人腦的目标，繼續馬克拉姆拷貝路線的“藍腦計劃”除了在神經元（或許還在皮層柱）層次上取得了一些仿真腦組織的成就，并未在更高層次上實作任何認知功能[5]。霍金斯的“千腦智能”理論，不僅在神經基礎上站不住腳，在實踐上也依然是一紙空文[6]。已故的埃德爾曼模仿小腦所得的“仿腦機”（也就是達爾文機）雖然能在實驗室中自由穿越彎曲小徑，但今天真正在道路上行駛的無人汽車卻完全是機器學習的産物，與小腦毫無關系（當然埃德爾曼的工作對認識小腦機制有幫助）。
當然，我們的結論——“試圖在矽片上通過逆向工程建立一種生物腦并沒有太大希望”——還有待今後事實的進一步考驗。
五年來的事實一次又一次地證明：大型腦計劃“将在腦研究的基本資料搜集、臨床資料搜集、圖譜和研究工具開發方面取得顯著進展，但是難望在建立腦科學的基本理論架構方面取得突破。”[1]确實，歐盟人腦計劃的最大成就是建立起供神經科學家共享的資訊技術平台，藍腦計劃及其合作方美國艾倫腦科學研究所的主要成就是發表了鼠腦各個腦區神經元的分類圖譜，許多國家的腦計劃在連接配接組圖譜上取得進展，所有這些也許能為将來的腦機制研究的突破提供基礎資料，但是它們本身卻并非是突破。正如陳省身教授所說,“科學上最偉大的發現都不是計劃出來的”。對于開創性的研究和發現，“我們想到的是充滿熱情的個人和小團隊，就像小型研究快艇的船長及其船員，尤其是那些年輕的學生。”[1]不過，何時和何處會湧現出這樣的個人或小團隊，極難預言。
目前AI研發界中有一個普遍的問題，就是混淆了腦功能中的第一人稱視角（主體審視其内心活動的視角）的問題和第三人稱視角（第三者從旁觀察的視角）的問題。許多腦功能，特别是進階功能，尤其是心智，可以從兩種不同視角來看：第一人稱視角和第三人稱視角。前者如果要用一個詞來表達，可能叫“内心活動”；後者如果也要隻用一個詞來表達，可能就是“行為”。
目前，“心智”還沒有一個公認的确切定義，往往用其所涵蓋的内容來說明。例如，維基百科的心智（Mind）條目中就是這樣描述的：“心智是一組認知能力的總稱，其中包括意識、想象、感覺、思考、判斷、語言和記憶，這些認知能力來自腦（有時包括中樞神經系統）。它通常被定義為一個實體的思想和意識的能力。它擁有想象力、識别力和欣賞力，負責處理感受和情緒，進而産生态度和行動。”[7]
第一人稱視角的内心活動是主觀的、私密的，隻有主體自己才能體驗，無法精确地分享給他人。第三人稱視角的行為是廣義的，包括一切可以觀察和測量的活動。心智所涵蓋的諸多方面同時具有這兩種次元，在日常生活中人們常常對這兩個方面混淆不清。有時用一個詞來混指這兩個方面，有時用不同的詞強調不同的方面，但是也沒有明确的公認的分界線，這也是令我下筆時傷腦筋的一個問題。例如，情緒（emotion）往往是一種統稱，而感受（feeling）則往往指内心感受，表情（expression）則明顯地隻指情緒的外在表現；類似地，感覺（sensation）強調感官對刺激的反應，可以客觀測量，而知覺（perception）則是對刺激的主觀體驗。當然，一牽涉到意識，主觀性和私密性就更為突出——意識有沒有可以客觀測量的方面，現在恐怕還是一個見仁見智的問題。盡管人們提出“意識的神經相關集合”聽上去似乎是可以客觀測量的，但是這隻是“相關”；并且，如果沒有了主觀性和私密性，剩下來的還能叫意識嗎？這似乎也是個問題。
到目前為止，我認為，人工所能制造的都隻能是從第三人稱視角來看的方面，也就是模仿行為，對于第一人稱視角的“内心活動”，還一籌莫展。問題是人們常常混淆了這兩者，把人工模仿的行為說成是成功“實作了人工的内心活動”，于是一些人開始談論“人工意識”、“情緒機器”。至于司空見慣的“意念控制”（mind control），其實隻不過是對腦信号的控制，這樣就會誤導公衆。
當然，我并非是斷定永遠也不可能實作人工内心活動。因為既然人腦有内心活動，而人腦歸根到底也是一種物質系統，那就沒有理由排除其他物質系統湧現出内心活動的可能性。我在這裡強調的是，内心活動是高度複雜的物質系統在特定條件（我們隻是不知道這種條件是什麼，和系統要複雜到什麼程度）下湧現出來的一種屬性，而非獨立于腦的存在。不過，到現在我們也還不知道究竟需要什麼條件，才能湧現出“第一人稱視角的感受”。我們還不了解人所需的條件，更遑論了解人工系統的了。
确實，從應用的角度講，我們可以撇開第一人稱視角，而隻讨論從第三人稱視角看到的方面（也就是行為），并從這一角度給出某種操作性定義，這樣就不緻産生混淆。例如美國天普大學計算機系王培教授給智能下的定義：在知識和資源不足的情況下依然能适應的能力[8]。這就是完全從第三人稱視角描寫的智能的重要方面，無論對人類智能還是人工智能都适用。王培的定義已經足夠廣泛，能描寫許許多多智能行為，并以此出發，建立他的納思AGI系統來解決實際應用上的問題，這對于他的目的來說已經足夠了。那麼智能有沒有從第一人稱視角描寫的方面呢？我想也是有的，如“了解”。是以我極不贊成人工智能領域使用“自然語言了解”這樣的提法，我認為現階段所做的隻是“自然語言處理”。
對目前人工智能方面的研究，我以為，如果用了類似心理學（或心智哲學）上的名詞，那麼應該在一開始便開宗明義地給出一個操作性定義，排除掉第一人稱視角的方面。并且也不要把以後工作的結論用到和第一人稱視角有關的問題上去。
在這一問題上，之是以不能把從第一人稱視角體驗到的現象“還原”到從第三人稱視角解釋得了的機制上去，根本原因是：前者發生在有極多層次的複雜系統的高層，且這些層次之間存在的并非簡單系統中的線性因果鍊，而是層次内部以及層次之間存在互為因果的“循環因果關系”。長期以來，自然科學一直為基于線性因果鍊基礎之上的還原論所統治，正式提出“循環因果關系”還隻是上世紀末的事[9]。在對這種因果關系有更深刻的認識之前，希望解決人工“内心活動”的努力，如果不是挂羊頭賣狗肉的話，也将很難實作。
參考文獻
[1] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《腦研究的新大陸：一位德國工程師和一位中國科學家之間的對話》系列叢書，上海教育出版社
[2] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《意識之謎與心智上傳的迷思：一位德國工程師和一位中國科學家之間的對話》系列叢書，上海教育出版社。
[3] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《人工智能的第三個春天：一位德國工程師和一位中國科學家之間的對話》系列叢書，上海教育出版社。
[4] 顧凡及（2020）欲駕馭AI，先與AI共生：馬斯克的“超人”計劃能成功嗎？返樸，2020年8月12日
[5] Fan X and Markram H (2019) A Brief History of Simulation Neuroscience. Frontiers in Neuroinformatics. 13(Article 32):1-28
[6] Hawkins J (2021) A Thousand Brains: A New Theory of Intelligence. Basic Books.
中譯本：霍金斯著，廖璐等譯（2022）千腦智能，浙江教育出版社。
[7] https://en.wikipedia.org/w/index.php?title=Mind&oldid=911062349
[8]王培（2022）智能論綱要，上海科技教育出版社
[9] Haken H (1996) Principles of Brain Functioning: A Synergetic Approach to Brain Activity, Behavior and Cognition. Springer.
中譯本：哈肯著，郭治安、呂翎譯（2000）大腦工作原理：腦活動、行為和認知的協同學研究。上海科技教育出版社
本文受科普中國·星空計劃項目扶持
出品：中國科協科普部
監制：中國科學技術出版社有限公司、北京中科星河文化傳媒有限公司
特 别 提 示
1. 進入『返樸』微信公衆号底部菜單“精品專欄“，可查閱不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公衆号，回複四位數組成的年份+月份，如“1903”，可擷取2019年3月的文章索引，以此類推。
版權說明：歡迎個人轉發，任何形式的媒體或機構未經授權，不得轉載和摘編。轉載授權請在「返樸」微信公衆号内聯系背景。