天天看點

人工智能“毀滅人類”?350餘位專家警告:各國必須限制發展AI

人工智能“毀滅人類”?350餘位專家警告:各國必須限制發展AI

據悉,本月早些時候,三家全球頂尖AI公司的CEO阿爾特曼、哈薩比斯、阿莫迪和拜登展開了一場特殊的會談,旨在讨論未來人工智能的監管問題。後續美國媒體報道稱,阿爾特曼等人警告拜登人工智能系統目前已經帶來風險,已嚴重到需要政府幹預的程度,希望拜登及時“出手”。這次采訪内容總結來說就是:美國行業巨頭們各國政府能動用權力限制AI的火速發展,他們認為人工智能這種東西正在産生“無比強大的反作用力”,如果繼續瘋長将會奪走人類的生存空間,給社會造成動蕩風險。

人工智能“毀滅人類”?350餘位專家警告:各國必須限制發展AI

消息提到,此前國際領域上也出現了以公開信的方式發起倡議,呼籲所有人工智能實驗室立刻“停工6個月”,不能再訓練超過CGT-4等級以上的人工智能體系。且這份公開信獲得了包括馬斯克在内的超1000名科技界人士的聯名簽署。總的來說,專家要求人工智能“減緩發展”原因在于AI的自我學習能力太快,甚至會脫離人類的控制,這可能會帶來一些不可預測的後果。同時人工智能發展過快也可能會導緻一些職業和社會的不平等,擠走大量社會性崗位,目前尚沒有解決問題的有效方式。

人工智能“毀滅人類”?350餘位專家警告:各國必須限制發展AI

5月30日,科技界再出“重錘”。國際AI領域非營利組織“人工智能安全中心”發出警告,要求各國必須對AI行業進行謹慎整改。該檔案呼籲“人工智能可能帶來人類滅絕風險”,要求将AI“與大流行病和核戰争等其他影響社會的大規模風險一同成為全球性的優先事項”。目前這份警告信也得到了多方的支援,其中包括研究AI工作的企業高管以及AI、氣候、傳染病等各領域教授和學者,總計超350人;簽署者也包括“ChatGPT之父”、OpenAI創始人阿爾特曼、Meta的首席AI科學家的伊恩·勒坤等行業巨擘。

人工智能“毀滅人類”?350餘位專家警告:各國必須限制發展AI

一些專家提出的社會輿論性分析則認為,目前各方一緻擔心的是人工智能發展過快會導緻“強人工智能”的出現。這種新智能可能會違背或無視人類設定的目标或規則。舉個例子就是人類會給人工智能套用一種“規則”,但其智力如果發展到一定程度,具備了解除這種規則的能力,很可能就脫離掌控。此外強人工智能可能會與人類有不同的價值觀或道德觀,他們一旦被别有用心的人利用或向其他方向發展,這種邪惡目的創造出的産物極度危險,這也是要“控制AI”的另一個目的。

人工智能“毀滅人類”?350餘位專家警告:各國必須限制發展AI

值得一提的還有,目前全球還有不少人“反對限制AI發展”,認為這是自縛手腳的行為。他們認為隻要積極地參與和影響AI的設計和管理,以確定AI能夠符合人類的利益和價值,這完全對全世界都是一大進步,而不是盲目否定發展。對此有評論稱:“AI領域是一把雙刃劍,如果各方是基于好的目的出發,要設定護欄等規則都無可厚非。但在這件事上不要發展出‘私心’,比如某些國家借機壓制其他國家AI的發展編造各種借口限制全球AI更新,變成一項自私規則,這就有問題了。”

繼續閱讀