人工智能的崛起證明了一件事，那就是這項技術可能比最知名的專家們想象的還要聰明。
微軟的研究人員驚訝地發現，GPT-4——ChatGPT迄今為止最先進的語言模型，能夠提出巧妙的解決方案來解決謎題，比如如何以穩定的方式堆疊一本書、九個雞蛋、一台筆記本電腦、一個瓶子和一個釘子。其中一位研究人員告訴《連線》雜志，當他讓GPT-4用一種晦澀的編碼語言畫一隻獨角獸時，他感到吃驚。
另一項研究表明，AI化身可以在很少人類幹預的情況下管理自己的虛拟城鎮。
這些能力可能提供了人工通用智能（Artificial General Intelligence，AGI）的一瞥：即技術能夠實作類似常識和意識等複雜的人類能力。雖然接受《Insider》采訪的AI專家對AGI的真正形态有不同看法，但他們一緻認為，朝着一種新形式的智能正在取得進展。
《AI現狀》年度報告的合著者、投資于數十家AI初創公司的Ian Hogarth将AGI定義為“上帝般的AI”，由一個“超級智能計算機”組成，能夠“自主學習和發展”，并能夠在沒有人類幹預的情況下了解語境。他告訴《Insider》說，理論上，具有AGI的技術可以培養自我意識，并且“成為我們無法控制或了解的力量”。
OpenAI的一位AGI研究人員告訴《Insider》，AGI有可能像2023年科幻電影《M3GAN》中的殺人機器人一樣，這個電影中，一隻逼真的由人工智能驅動的玩偶拒絕關機，假裝睡覺，并發展出自己的道德複雜性。
但DeepMind（Google的人工智能部門）的AGI安全研究員Tom Everitt表示，機器不必具有自我意識就能擁有超級智能。他告訴《Insider》：“我認為最常見的誤解之一是‘意識’對于智能是必需的。”他說，“模型‘自我意識’并不是這些模型與人類水準智能相比對或增強的先決條件。”
他将AGIAGI定義為可以以超越其訓練限制的方式解決任何認知或人類任務的AI系統。理論上，AGI可以幫助科學家們開發治療疾病、發現新型可再生能源以及解決“人類最大的謎題”。
Everitt表示：“如果做得正确，AGI可以成為一種極其強大的工具，推動突破，改變我們日常生活。”AI專家們對于AGI何時成為現實存在分歧。
被稱為“人工智能教父”的Geoffrey Hinton告訴CBS，AGI可能在五年内問世。本月早些時候，他告訴BBC，AI聊天機器人可能很快比人類更聰明。
Hogarth表示，沒有人确切知道工業界距離創造上帝般的AI有多遠。他補充道，像OpenAI的GPT-4、Google DeepMind的Gato或開源項目AutoGPT這樣的工具可能發生的事情，我們确實不知道。《連線》雜志指出，AutoGPT是在GPT-4上運作的虛拟代理，可以自主訂購比薩和營運市場推廣活動。
他說，我們已經看到了AGI的一些端倪，比如惡意使用的Deepfake技術和能夠超過國際象棋大師的機器。
但這些隻是暗示：“AI系統仍然缺乏長期規劃能力、記憶、推理以及對我們周圍實體世界的了解。”Everitt表示，“我們還有很多工作要做，來找出如何賦予這些系統這些能力。”
如果不解決其風險，AGI可能使人類變得過時。
專家表示，建立AGI的重要部分涉及了解和解決其風險，以便能夠安全地部署這項技術。
一項AI研究發現，當研究人員增加輸入到語言模型的資料量時，這些模型更有可能忽視人類指令，甚至表示不願關機。這一發現表明，AI在某個時刻可能變得非常強大，以至于人類将無法控制它。
如果發生這種情況，Hogarth預測AGI可能會“導緻人類滅絕或毀滅”。
這就是為什麼像Everitt這樣的研究人員正在研究AGI安全性，以預測關于“人類如何保持對AGI控制”的“存在性問題”。他說，Google的DeepMind非常重視倫理和安全研究，以“確定我們在開發越來越強大的AI時采取負責任的方法。
為了以負責任的方式發展AI技術，Hogarth表示，監管是關鍵。他說：“監管機構應該密切關注OpenAI的GPT-4、Google DeepMind的Gato或開源項目AutoGPT等項目。”他還表示，許多AI和機器學習專家呼籲将AI模型開源，以便公衆可以了解它們的訓練方式和運作原理。
Everitt表示：“我們需要盡早讨論這些重大問題，歡迎各種不同的觀點和思考方式。”他強調說，迎接多元化的觀點對于處理這個問題至關重要。
總之，雖然對于AGI的具體形态仍存在許多未知，但AI專家們一緻認為我們已經開始看到AGI的一些迹象。建立AGI的過程中，了解和解決其風險是至關重要的，以確定技術能夠安全地應用。監管和開源透明是發展AI的負責任方式，同時也需要廣泛的讨論和多元的思考。