新智元報道
編輯：袁榭 好困
【新智元導讀】作為AI界的明星研究所，老是搞事情的OpenAI，現在真的搞出通用人工智能（AGI）了麼？
「AI會不會變終結者」，這是外行經常會問、内行隻有攤手的老套問題。
不過，這話要是讓行内大佬一說，效果馬上不一樣了。
最近，OpenAI首席科學家的一句話，讓整個機器學習圈都炸了鍋了。
2月10日，伊利亞·薩茨克維爾（Ilya Sutskever）發推表示：「現在的大型神經網絡可能已經有微弱自主意識了。」
争論持續了幾天之後。
2月13日，LeCun甚至親自下場，異常堅決且簡單明了：
「不對。」
接着便措辭禮貌但尖刻地解釋道：
「甚至『微弱意識』裡的表微量的形容詞，和『大型神經網絡』裡的表示大型的形容詞，都是錯的。我認為這需要一種當下所有神經網絡都不具備的大型架構來支撐。」
這段時間，伊利亞老師都是一句話冷豔結束，是以現在沒人知道他到底具體在講些什麼。
尤其是這句「倉促」得連首字母都沒有大寫，不由得引人想入非非。
是在說正在開發中的新GPT模型大力出奇迹呢？還是在說自家的現有模型受天啟感召已經具有不亞于人的靈智呢？還是重複宣傳「通用人工智能」（AGI）很好很強大的觀點呢？
真要臆想超級AI，看《疑犯追蹤》比看無聊紀錄片舒服多了。
大佬們噴成一鍋粥
言歸正傳，推文釋出後，各種回複随之撲面而來。
不出意外地充斥着對AI「自我認知」的強烈不安，但更多人則認為這是純粹的胡說八道。
有網友在伊利亞的原推下回複：「現在人類所知的自我意識，必須有相當程度的動态随機性，甚至可以稱為混沌性。若無，則隻是算法性質的行為。算法的确可能足夠複雜，讓觀察者誤以為它具有意識。」
新南威爾士大學西德尼分校人工智能研究員托比·沃爾什（Toby Walsh）說：「每次這種猜測性的評論被發表時，都需要花幾個月的時間來讓對話回到人工智能帶來的更現實的機會和威脅上來。」
花旗銀行副總裁、深度學習專家瓦倫蒂諾·佐卡（Valentino Zocca）也有類似的觀點：「人工智能是沒有意識，但顯然，炒作比任何事實都更重要。」
獨立的科技社會學者尤爾根·古特（Jürgen Geuter）在跟帖中說：「很有可能這根本沒任何事實依據，隻是一家跑了海量簡單統計的創業公司吹噓自己擁有魔法般技術力的銷售噱頭。」
這一觀點得到了軟體測試專家邁克爾·博爾頓（Michael Bolton）的支援，他開玩笑說：「AI不見得有微弱意識，不過伊利亞很可能有在『微弱』地滿嘴跑火車，甚至可能不止『微弱』。」
哥本哈根資訊技術大學的副教授裡昂·德爾琴斯基（Leon Dercynski）也大開嘲諷：「在地球和火星之間的某個地方，很可能有一個繞日飛行的茶壺，這比伊利亞的想入非非要合理多了。因為天體軌道飛行的規則架構事實上存在，而何為茶壺的精确定義也存在。」
微軟挪威資料科學家、前DeepMind研究員羅曼·韋爾帕科斯基（Roman Werpachowski）用放出著名的「我是你爸爸」哏圖的方式回應了這個消息。
不過，在被無數人抨擊後，伊利亞老師非常高貴冷豔地淡淡回複：「自大才是最終的敵人。」
對于這句淡淡的反駁，網友們也有淡淡的嘲諷。
曾在微軟、谷歌供職，現在英偉達深度學習項目就業的碼農李奧納多·摩西斯庫（Leonard Mosescu）用伊利亞的金句句式嘲笑：「現在的大型自大可能也有微弱自主意識了。」
另一個在英特爾、IBM、佐治亞理工大學都幹過的碼農傑格·多什（Jigar Doshi）反問：「若無自我執念，何來人類的意識活動呢？」
在萬衆抨擊中，伊利亞老師終于舍得多說幾句話回擊了：「為了短期内自我感覺良好，而無意識選擇相信顯然的假象，并不是最優生活政策」。
「認知=行動，先進的深度學習智能體可能也會有類似這種人類劣性的短闆。」
在千夫所指中，OpenAI的老闆山姆·奧特曼（Sam Altman）表示力挺同僚、同時反擊LeCun：
OpenAI首席科學家：對神秘觀點表示了好奇心與開放心态，用「可能」開始句子；
Meta首席AI科學家：開句就是獨斷的「不對」。
說不定這能解釋過去5年中的業績哦。
親愛的Meta AI研究者們，這是我的電郵位址，我司現在招人哦。
網紅LeCun在社交網絡上從沒有受氣挨噴的習慣，馬上回複：
某司的确可以天天造更快的飛機、打破飛行高度記錄，搞這些事情既能讓自家名字常常上頭條，這些突破說不定也會有那麼點真用處。
但如果目标是真正突破大氣層飛上太空軌道，那就需要在冷凝儲液罐、渦輪泵這些毫不上鏡的技術上下苦功。
不信你去問馬斯克去。
微軟的深度學習研究大佬Devon Hjelm說了大實話：
AI界的研究者與學生們，如果你們還不清楚的話，以下是此次事情的梗概：
除了老套的AI公司互噴打嘴仗以外，這事情一點有意義的實質性内容都沒有。
大家最好還是問優質問題、保持好奇心、同時保持狐疑态度。
AI到底有無自主意識？
伊利亞老師除了是OpenAI的首席科學家兼聯合創始人、AlphaGo論文的諸多作者之一，也是AI業界最熱衷于AGI的著名人士之一。
OpenAI本身，也在「公司的未來使命」中宣布要開發「造福全人類的AGI」
在接受關于人工智能的2019年紀錄片《iHuman》采訪時，伊利亞既宣布将解決當下人類遇到的所有難題，卻又警告AGI可能将具備無限延續專制的潛力。
采訪者應該是出于禮貌才沒有追問「那用AGI能否解決人類社會面臨獨裁的難題」這種「以子之矛攻子之盾」的問題。
對此，非盈利研究機構「感覺學院」（Sentience Institute）的聯合創始人、社會科學家Jacy Reese Anthis在推特貼文中對此進行了深入的探讨。
在為自家的機構打了廣告後，Jacy Reese Anthis闡述：
首先，意識的含義在哲學家和科學家中存在很大争議。
對此，可以用3個以上更精确的術語來形容：
思想，通常是一種語義上的字詞流
感覺，通過五種感官或想象力達到的感覺
情感，積極和消極的情緒
然而，甚至這些都是有争議的。
這些是行為嗎？過程？功能？二進制論？不可言說的？等等。
Jacy認為，應該采取消除主義的觀點。因為這些術語是如此模糊，是以意識并不客觀存在。
那麼，哪些具體特征會表明人工智能中的有知覺或意識？
「感覺學院」的研究者認為如果人工智能可以被稱為有意識，它可能具備以下特征中的一個或多個：對有害誘導資料的檢測及于此可變的注重程度、對此誘因有規避的回應與記憶聯想、對此誘因有類似情緒變化的狀态變化，加強學習，基于目标而定的行為，對情緒狀态的語義表述。
http://sentienceinstitute.org/blog/assessing-sentience-in-artificial-entities
當下如GPT-3等的變換模型，以上特征幾近于無。不過，Jacy還是不認為此議題有完全客觀的答案。
因為對于意識的定義、比如「此物感覺怎樣」或「内在傾聽者」等等，用來回答這問題都太過模糊。
如今，在分歧、模糊和不确定的情況下所能做到的最精确回答大概就是：「神經網絡可能有了極微的意識，但是比昆蟲要少」。
參考資料：
https://futurism.com/the-byte/openai-already-sentient
https://wordpress.futurism.com/conscious-ai-backlash/amp
Ilya Sutskever：https://twitter.com/ilyasut/status/1491554478243258368
LeCun：https://twitter.com/ylecun/status/1492890267468320778
Sam Altman：https://twitter.com/sama/status/1492644786133626882