獨家對話港大數科院長馬毅：擔心AI統治世界是杞人憂天，“奇點”遠未到來

人工智能（AI）正以驚人速度疊代向前。各界談論已久的ChatGPT，其問世時間，也不過才幾個月時間。

從3月初OpenAI正式開放ChatGPT，到ChatGPT-4推出，再到3月底埃隆·馬斯克等領軍人物聯名發表公開信呼籲暫停相關訓練，以及多個國家收緊監管要求，仿佛一個多月之内，人工智能就走過了過往很多技術創新需要長時間積累才能走完的曆程。

目前人工智能到底發展到何種程度？能夠帶我們哪些便利，和哪些潛在的危險？大廠針對“大模型”的一擁而上是否有效？人工智能的未來走向何方？

針對人工智能領域的熱點問題，第一财經記者近日在北京與馬毅教授進行了一場獨家對話。

馬毅是香港大學資料科學研究院首任院長，香港大學計算機科學系講席教授，加州大學伯克利分校電子工程與計算機科學系教授，是AI機器視覺知名學者。近日他聯合神經生物學家曹穎、計算機世界級專家沈向洋共同撰寫的論文《On the Principles of Parsimony and Self-Consistency for the Emergence of Intelligence 》正式發表，提出了人工智能發展的“簡約”與“自洽”原則，并綜述了過去80年人工智能研究的曆史。

在馬毅教授看來，科技和網絡平台的發展使得包括ChatGPT這樣的創新，時間軸被壓縮地非常非常緊湊。但也需要看到，當大家在追逐區塊鍊、自動駕駛、元宇宙、蛋白質時，OpenAI數年來始終紋絲不動。

馬毅認為，現在擔心人工智能繼續發展就要世界末日還是杞人憂天。在他看來，過去十年大家集中研究的深度學習或深度網絡，跟真正的智能并沒什麼關系。回看80年前，那才是智能研究真正的起源。

現有AI仍是人工為主，無法閉環學習

第一财經：3月1日OpenAI開放ChatGPT，震動各界。很快，ChatGPT-4推出，ChatGPT插件平台釋出，進展迅速。但是僅僅到3月底，針對人工智能的監管呼聲就在世界各地湧現。這相對于人工智能過去80年的發展曆程而言，是不是非常不同？

馬毅：是非常不一樣。我們回顧曆史可以看到，神經網絡也經過幾次起伏。但是現在的科技、網絡等，将現在一件事物的曆史程序，包括ChatGPT這樣的創新，時間軸壓縮地非常非常快。在幾天之内，就有天翻地覆的變化。

這确實也帶來了很多的顧慮。但我覺得，從技術的角度，我們對現有的AI本身的機理不用太擔心，因為它不是自動的，基本還是人工的方式為主。更不用擔心它有自主意識，甚至統治世界，甚至毀滅人類，這都是杞人憂天。當真的有獨立自學習的能力的時候，當機器人可以從開放的外部世界，閉環地學習對自己有用的東西的時候，我們再重新審視這個問題不遲。

其實很多讨論是針對這種機器具有的能力會對各行各業産生的影響。比如教育行業，我的學生已經在用GPT程式設計了。再有就是這樣涉及千家萬戶的資訊，哪怕隻是“胡說一道”，如果傳遞的資訊不是那麼準确，以後再糾正，也會造成很大的顧慮。

我覺得技術本身不會給社會帶來危險，而是技術後面的人可能會帶來危險。任何技術都是雙刃劍。這可能是我們需要考慮的問題。

GPT成功背後，要看到OpenAI的“紋絲不動”

第一财經：你認為現在很多擔心都是杞人憂天，但是确實可以看到大家都非常“焦慮”。很多大廠在星夜兼程地做自己的模型，投資領域“找項目的投資顧問比項目還多”。你怎麼看待這種現象?有什麼建議？

馬毅：大廠我覺得應該有焦慮的地方。因為他們本身在這些産業裡面，比如微軟，內建了OpenAI的一些性能之後，對谷歌的影響最大。比如搜尋，以自然語言呈現搜尋結果，改變了搜尋界面，更加友善。光是這一點，谷歌就要擔心。

另外就是所有的辦公軟體。包括中國的阿裡、頭條，都有自己的釘釘、飛書等，如果不跟上的話，這些工具很快就會過時。因為微軟出來的這些工具會大大提升工作效率。出于生存，也必須要趕上。至于如何趕上，這是大家需要思考的。

比如完成一個深層模型的預訓練，完成一個可以“胡說幾道”的模型還是可以實作的，因為已經開源了。大廠隻要有足夠的投入，運作的好的話，這件事不難。

但實際上Meta也在焦慮。他們焦慮的是，OpenAI從GPT3.5就沒有開源，他們背後到底是做了什麼，導緻他們程式設計的水準能從5%提高到70%或80%以上，這是真的可以用了。這是他們真正焦慮的東西。這也很可能是他們在用大規模叢集在做的事情。

需要提醒的是，大廠去追，也要把問題搞清楚，而不是一味大幹快上。而且我也不贊成所有大廠、實驗室或者學校都去做這件事。否則同質化很嚴重。

我們看OpenAI的成功，當大家在炒區塊鍊、忙自動駕駛、忽悠元宇宙、折騰蛋白質的時候，他們紋絲不動。即使燒了這麼多錢，始終一代一代疊代。我們有沒有這種定力，這種風氣、文化？包括Deepmind，也是紋絲不動去實作它的使命，實作它的夢想。是以大廠即使要去追，也要把戰略搞清楚。

做産業投資同樣也要把曆史和現狀搞清楚。如果不清楚，隻是道聽途說，都是二手三手的資訊，這樣投資會比較麻煩，一不小心投資的項目可能就會被大廠消滅。我認為，大公司可以去做平台性的東西，垂直領域對小公司而言則是充滿機會。

大家一擁而上去追去搶，并非各個都适合。首先，現在技術路線還不是很清楚。其次，正面追擊資源耗費巨大。當然有的公司确實是需要去做的，但如果大家都去追，這是很不理智的。

原理是繞不開的，且往往是唯一正确道路

第一财經：剛才你一直在強調，無論是人工智能的研究還是産業的投資，都要回到數學、資訊論等原理性的起點。但是當GPT-4可以自己給GPT-5寫代碼的時候，我們還來自己從頭開始，會不會一直落後，甚至差距越拉越大？

馬毅：這是絕對不會的。

不可能所有的事情都是大模型，小的機器人也需要去學習世界。這種機會其實是非常多的。當你搞清楚來龍去脈，搞清楚曆史發展，學科、方法在幹什麼的話，你會發現有很多機會。

舉個很簡單的例子。伯克利和斯坦佛過去幾年出了兩件工作，徹底改變了很多問題。一個是NERF，一個是DiffusionModel，都是年輕的教授做的。他們并沒有去跟随所謂主流的東西。當鋪天蓋地的對抗生成網絡出來的時候，幾萬篇文章，打得一塌糊塗，人家在老老實實根據更本質的原理改進方法。甚至剛開始文章都發不出來。但現在，徹底改變世界。這就是機會！

過去機器學習的十年，很多人擔心不跟随就落後。但回頭看，當時很可能是在往錯誤的方向上跑。現在炒作的很多東西，放在曆史上都不過是塵埃而已。而原理性的東西，十年、二十年、五十年甚至一百年，繞是繞不開的。而且往往是唯一正确的道路。希望現在年輕人多做些反思。

叫停智能研究是杞人憂天，AI監管重在管人

第一财經：人工智能現在确實還處于起步階段，但是“杞人憂天”的擔憂還是非常多。比如馬斯克最近就表達了擔憂，人為當AI發展發展到真正智能的時候，再去做監管很可能就為時已晚。在你看來，如何在人工智能最初期就建立好治理架構？

馬毅：我有不同看法。科學家或者研究人員，做任何事情，都不能用條條框框去框他們。比如核實體、生物研究等等都會有利有弊。對于人工智能，我們應該規範的不是機器，也不是背後的客觀規律和事實，而是後面的人類。對目前的人工智能，在我們真正了解其機制之後，就會發現現在還不用過度擔心。

不過在另外的方面，我覺得有些焦慮是對的。比如對資料安全隐私，以及可能被利用于剽竊、作弊等的副作用，以及如何規範使用行為等，這是需要考慮的。

第一财經：但是人工智能有其特殊性。比如你提到的“核”，核隻涉及“我們如何看待它”的問題，但人工智能還要面對“他們如何看待我們”的問題。這也不需要擔心？

馬毅：現在我們看到機器開始展現一些接近人的推理或者分析能力，盡管可能這隻是模仿或者人授予的能力。但從本質上，我認為這還不是基于了解。除非OpenAI做了一些我們完全不知道的事情。如果沒有，那我覺得從技術層面，不用太擔心。

以後，如果我們真正找到了自主學習的機制的話，機器具有了這種能力，那大家可能需要提前考慮一些問題。比如，規模化之後，人工智能能力的極限在哪裡，是否能完全獨立的做一些事情。

第一财經：現在還是可以充分享受人工智能便利的一個階段？

馬毅：我相信是這樣的。曆史上一個新技術出來，人們往往就會說很多工作就将失去了。蒸汽機出來，不需要體力勞動了；計算機出來，就不需要人工了。很多革命性的技術出來，實際上提升了生産力，新的工種會出來，而且會以更高的效率産生更多的工種。

我相信，大家利用好新的技術發明，文明是會更快向前進步的。

第一财經：剛才你說到“某個時刻”我們是需要提前準備的，人類是否有能力在“那個時刻”到來之前提前識别出來？如果面臨的是一個用偏見的資料訓練出的有偏見的模型，怎麼辦？

馬毅：能不能提前識别，我不知道。不過很多問題都是人的問題，不是機器的問題。

GPT的能力會不會造出資訊層面的“病毒”？這是不為所知的。不過即使這樣，最後還是掌握技術或者公司的人，需要進行很好的監管和規範。包括使用産品的人，也需要充分了解所在使用的工具。

比如，香港的大學都在考慮，是否允許學生用ChatGPT。我是支援大家用的，就跟搜尋引擎出來之後，也面臨過同樣的問題。但是我們還是找到了方法來解決這一問題。

第一财經：去年有一個案例曾引起一定關注，但後來又被人淡忘。直到近期又被提出，并被認為人類可能從那時候就已經跨越了“奇點”時刻，那就是谷歌的“拉姆達”。你是否認同？

馬毅：那個時候，我相信當時的表現可能還不如ChatGPT。機器是否因為具備自主意識才有這樣的能力，還是因為有這樣的能力才被定義為自主意識，我相信這是不同的概念，大家可以去思考一下。

我認為，現在大部分機器我們能看到，還是在模仿人的一些東西，還不是真正的自主學習。

教育迎來很大變革，智能學科亟待重建

第一财經：你是香港大學資料科學學院的首任院長。你打算如何打造這個學院，讓學生在資料科學領域有更好的發展，也讓我們在人工智能領域有一個更好的提升？

馬毅：我們這個領域，不管是資料科學，還是人工智能，過去十年發生了很大的變化。現在我認為這個學科需要重建立設，以适應産業與社會的新需求。

從基礎的課程設定，學生需要學習的工具、系統，以及這些工具、平台的應用，以及我們該教學生什麼、如何教，都需要重新考慮。以後的發展，一定是需要原理才能把正确的架構、平台、機制建立好，人工智能才能更上一步，才能接近真正動物和人的智能。

我們也在考慮如何将跟智能相關的原理和思想更快地傳播給學生。現有介紹原理的課程很多内容是有些過時的，傳統的資訊理論、控制理論、信号處理、優化方法等等可能都要重新設計。學科建設是非常重要的。學生隻有對基礎原理真正了解，對計算工具、平台真正掌握和使用，然後才能到各行各業去放大。

對學生的教育，也不能再是填鴨式教育了。我們不能再一味生硬地傳授學生知識了。因為将來得到知識會越來越容易，而如何去運用這些知識，如何發展出新的知識，才是學生需要具備的能力，否則跟機器比将沒有任何競争力。是以這将是一場很大的變革。