邊策 蕭箫 發自 凹非寺
量子位 | 公衆号 QbitAI
“今天的大型神經網絡可能已經初具意識了。”
OpenAI首席科學家Ilya Sutskever在Twitter上撂下這句話，可謂語不驚人死不休。
這下可讓AI圈炸開了鍋，人工智能、神經科學領域專家的回複滾滾而來。
反擊最激烈的就是圖靈獎得主、Meta AI首席科學家Yann LeCun。
LeCun當場回擊，學界大佬紛紛下場
LeCun對此的第一條回複是這樣的：
不同意！（目前的AI）沒有達到“稍微有意識”的下限，甚至還沒有達到“大型神經網絡”的上限。
他還說，如果非要給現階段的AI下定義，那麼：
我認為你需要一種目前網絡都不具備的特定類型的宏架構。
見到自家員工和當初創業夥伴被怼，OpenAI聯合創始人Sam Altman也親自下場評論：
OpenAI的首席科學家表達了對一個神秘想法的好奇心和開放性，用的是“可能”一詞做前提。
而Meta的首席AI科學家卻斬釘截鐵地說“不”。
下面這句語氣略有些嘲諷，似乎是在暗示OpenAI因開放的态度取得了更多成果。
這可能解釋了過去5年的很多情況。
推文結尾處，Sam Altman還不忘挖競争對手牆腳：
尊敬的Meta AI研究人員：我的電子郵件位址是 [email protected]。我們正在招聘！
接着，LeCun還拉上了OpenAI另一位聯合創始人馬斯克，以後者航空與航天技術差異做對比。
一個人可以建造更快的飛機，并打破高度紀錄。
但如果一個人的目标是進入太空軌道，就必須研究低溫罐、渦輪泵等。
不要那麼華而不實。你可以去問問馬斯克。
除LeCun外，其他AI界人士也對OpenAI此番言論口誅筆伐。
知名AI專家、新南威爾士大學教授Toby Walsh插話說：
每次有這種投機性言論放出，我們都需要花好幾個月的努力，才能讓人們消除疑慮。
DeepMind進階研究科學家這樣嘲諷道：
如果這種觀點成立的話，那麼大片麥田裡可能也有一點意大利面。
雖然在Twitter上批評占據了多數，但仍有一些支援OpenAI的言論。
一位來自MIT CSAIL的研究員Tamay Besiroglu表示：
看到這麼多著名的機器學習人士嘲笑這個想法，真是令人失望。
這讓我對他們能夠解決未來幾十年一些重要問題的能力降低了希望。
他認為，像OpenAI而不是Meta這樣的實驗室更有可能解決在不久的将來在該領域出現的深刻、奇怪和重要的問題。
另外，這次吵架還有個意外的收獲，那就是Sam Altman透露了GPT-4的最新消息。
從他的表述來看，GPT-4很可能是GPT-3的延續。
去年，為OpenAI提供超大型AI晶片WSE-2的公司Cerebras透露，GPT-4約有100萬億個參數，而且還要等上好幾年。
回到這場争論風暴的“核心”來看，究竟是什麼讓Ilya Sutskever發出這樣的感慨？
或許從他的經曆中可以窺見一斑。
從最初的AlexNet，到後來的AlphaGo，再到見證GPT-3和Codex等模型的橫空出世，幾乎每一次AI領域的“破圈”技術，都有他參與其中。
在AGI道路上“越走越遠”
Ilya Sutskever本碩博畢業于多倫多大學，曾經是Geoffrey Hinton的學生。
事實上，Sutskever正是AlexNet的作者之一。
2012年，在Hinton老爺子的指導下，他和Alex Krizhevsky共同設計了這個架構，在當年ImageNet挑戰賽上奪冠，比第二名錯誤率低10.8%。
Hinton創辦的DNNResearch被谷歌收購後，Sutskever加入谷歌大腦任研究科學家。
他曾經參與開發著名的AlphaGo，成為衆多論文作者之一，後者在2016年的圍棋比賽中4比1擊敗了李世乭。
在谷歌期間，他還與谷歌大腦的另外兩名科學家合作，提出了NLP經典架構之一seq2seq算法。
2015年末，Sutskever離開谷歌，與馬斯克、Sam Altman等人共同創立OpenAI。
2018年，在幹了兩年多研究主管（research director）之後，他成為OpenAI的首席科學家（chief scientist）。
可以說OpenAI從GPT-2研發到GPT-3，從擊敗DOTA2冠軍戰隊的Rerun到會寫代碼做遊戲的Codex，他都是親身參與其中的見證者之一。
在他的引領下，OpenAI正在逐漸走向AGI（通用人工智能）的道路。
2021年年初，多模态模型DALL·E和CLIP出現，打通了文字和圖像之間的連接配接道路。
當時OpenAI就提出研究表示，CLIP與人類的思維方式非常相像，讓網友直呼AGI的到來比想象中要快更多。
同樣是去年，GitHub和OpenAI合作推出自動補全代碼工具GitHub Copilot，AI開始get到部分程式員的技能。
而就在今年年初，OpenAI研究的數學AI模型Lean再進一步，加上神經定理證明器後成功解出了兩道國際奧數題。
如今OpenAI正在研究百萬億參數大模型GPT-4，或許這也與Sutskever發出的這句感慨有關。
“200億參數AI連加減法都搞不定”
但其實，AGI的道路看起來也沒有那麼明朗。
至少就在最近，紐約大學助理教授Brendan Dolan-Gavitt發現，200億參數的大模型GPT-NeoX連最基礎的整數算術題都做不對。
GPT-NeoX并非OpenAI官方的模型，而是一個名叫EleutherAI的機器學習小組搞出來的開源大模型（因為GPT-3沒開源）。
△部分結果展示
在Brendan出的100道題目整數加法、減法和乘法中，AI隻算對了10道題，雖然其他的答案與正确答案也“差不多”，但畢竟還都是算錯了。可見AI并沒有真正了解四則運算。
至于“神經網絡到底有沒有自我意識”這場讨論，網友們同樣發表了自己的看法。
有網友認為，這些大佬與其說是在讨論AI有沒有意識，不如說是他們在讨論定義是什麼：
也有人調侃，深度神經網絡進入“玄學”深水區了：
還有網友在這場讨論的評論區放了個機器人的魔性表情包，“AI眉頭一皺，意識到事情并不簡單”：
對于“神經網絡初具意識”這個觀點，你認為呢？
參考連結：
[1]https://futurism.com/conscious-ai-backlash
[2]https://weibo.com/5124470749/LfhTasFiP
[3]https://www.linkedin.com/in/ilya-sutskever/
[4]https://twitter.com/ilyasut/status/1491554478243258368
[5]https://twitter.com/sama/status/1492645047585570816
[6]https://en.wikipedia.org/wiki/Ilya_Sutskever
[7]https://openai.com/blog/authors/ilya/
[8]https://gist.github.com/moyix/267d122f9d92268e3432b05f08976816