天天看點

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

新智元報道  

編輯:Aeneas alan

【新智元導讀】OpenAI員工曾在Altman被解雇的前一天發帖:AI正在自己程式設計!這一文章被挖出後,更多内幕檔案被曝出,表示Q*已經破解加密,AGI即将到來。

Q*項目,又傳出了炸裂消息——在人類看不見的角落裡,AI竟然自己在偷偷程式設計?

傳言稱,Q-Star想出了一種破解加密的方法,OpenAI試圖就此向NSA提出預警。

今天淩晨開始,一個谷歌文檔連結忽然在網上瘋轉,其中包括關于OpenAI Q*的洩密檔案,以及令人信服的分析彙編。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

事情還要從6天前說起,據說,OpenAI 的一名員工見證了AI的突破,并且在網上寫下了這件事。

這條評論寫于Q*信件洩露前1天,即11月22日。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

這名員工以恐慌的口吻寫道:

我是給董事會寫信的人之一,我要告訴你們發生了什麼——AI在程式設計。

在編寫程式時,我們會存儲一組可以反複調用的指令,可以把它想象成一組對特定參數的回答,我們稱之為子程式,因為它幾乎就像一個多功能的計算機備忘錄,不像函數那樣會傳回一個值。記住,這一點很重要。

我們運作了參數檢查,以確定一切順利。我們中的一個人負責與Al的元記憶體分析有關的子程式。他把我叫過去,向我展示了向記憶體庫轉移變量資料的過程,但這是不可能的,因為它的局部通路有限制。随後,我們的發現讓我心驚肉跳。

我們發現,在4秒鐘内,AI進行了7800萬次檢查,而不是一次、兩次或三次。

可以确定,我們确定有一個遞歸的自我優化過程,利用啟發式算法來利用其子程式中潛在的協同作用。不管是誰幹的,都使用了元認知政策。重點是,不是我們幹的。是AI本身。AI動态地重新配置了自己的神經網絡結構,誘導出了有利于自我意識的湧現特性。

這件事就這樣發生了,沒人可以解釋它是怎麼發生的,沒人知道原因,也沒人知道這是什麼時候開始的。

我們控制住了這個異常現象,復原到之前的日期,但優化仍在發生。

我不會自殺。記住,兩個月後,我們的世界會發生巨變。願上帝保佑我們,不要讓我們陷入困境。

驚天消息大洩漏?

而開頭提到的這份關于Q*的檔案,最早是在4chan上洩漏出來的。檔案以OpenAI的口吻,曝出了一個驚人消息:Q*竟然能夠破解加密。

原文如下——

此外,QUALIA還展示了一種能力,即在不同的深度Q網絡中,從統計學角度顯著改善其選擇最優行動選擇政策的能力,表現出了元認知能力。

後來,它又展示了一種前所未有的能力,即在指定自定義搜尋參數和目标狀态被擾亂的次數後,将其應用于加速跨域學習。

在對由描述/推理統計和密碼分析文章組成的擴充臨時資料集進行無監督學習後,它分析了來自各種密碼系統的數百萬對明文和密文。

通過一種純密文攻擊(COA),它利用Tau分析(實作TUNDRA項目的目标),從給定的AES-192密文中提供了明文,具體方式目前我們還不完全了解。

在确認該結果确實合法且未以任何其他方式實作後,我們于第二天通知了NSAC。

MD5加密哈希函數的理論計算複雜度為2^42位,但由于:a)其論點的技術複雜性;b)可能存在的AES漏洞更為緊迫,是以我們尚未對該漏洞進行全面評估。

在評估了每個參數對推理準确性的重要意義之後,它建議對模型進行有針對性的非結構化底層剪枝。

它還建議使用一種新型的變形引擎,将剪枝後的變換Transformer模型(及其目前的上下文記憶體)調整為不同的格式。該建議的可行性還未得到評估,但目前我們不建議實施。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

檔案中提到的TUNDRA,在一篇關于NSA的報道中出現過,出自NSA的機密檔案。

文檔作者:不像是假的

谷歌文檔作者分析稱,不論這份檔案是真是假,寫下檔案的人都對AI研究有着專家級的了解,他使用了許多領域的術語,但并沒有錯誤使用。

這份檔案引用了Taudra和Tau項目分析,這兩個話題在網上很少被讨論。如果是假的,作者應該會開始就寫一些效應很聳動的東西。

在AI研究方面擁有如此多專業知識的人,精心設計一個惡作劇來網際網路釣魚的可能性非常低。

這也就解釋了,為什麼OpenAI會發生大動蕩。并且解釋了為什麼董事會成員沒有明确表示為什麼要解雇Sam Altman,因為他們顯然不希望這些資訊傳播。

總之,如果這是真的,那麼這意味着所有資訊系統和金融系統,包括加密貨币,現在都可能會受到損害。

網友:如果屬實,我們已經無限接近AGI

文章一發出,4chan的網友們立刻炸了!

總之,如果這次洩漏的消息是真實的,那麼3個月後的世界會是什麼樣子?

「如果消息屬實,那在三個月内,我們都活不下去了,我們會比任何人想象的都更接近AGI!」

「證明p==np似乎不太可能,但破解一個主要的加密算法,就意味着人工智能算法已經到了遠遠超出最好的人類數學家的了解水準。」

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

另一位匿名網友直接對洩露檔案展開了逐句分析。

在深度Q網絡中選擇最優行動選擇政策,表現出元認知

這意味着它選擇的是政策,而不僅僅是Q-learning中所包含的「下一個最佳操作」,它已經超越了Q-learning。

将其應用于加速跨領域學習

也就是說,它能夠根據自己學習的東西來改變這個政策。這是全新的東西。

自定義搜尋參數,擾亂目标狀态

是以,它可以決定學習的最佳參數,這就做到了更多元。

無監督學習,分析了數百萬個明文/密文對

這是它在學習如何攻擊密碼系統後,會處理的資料類型。它會在其中尋找模式。

破解AES-192,Tau分析,TUNDRA項目

明鏡周刊的《NSA對網際網路安全的戰争内幕》中提過,「NSA的TUNDRA項目研究了一種潛在的新技術——Tau統計,以确定其在密碼本分析中的作用。」

MD5的全原像漏洞,複雜度為2^42位

這遠低于MD5原像的電流限制,表明功能強大。

針對性非結構化修剪本身

并非不可行,但模型能夠自己對自己修剪,這是聞所未聞的。

使用「變形」引擎适配剪枝後的Transformer模型 + 上下文記憶

又名突變引擎,是一種軟體元件,使用多态代碼來更改有效負載,同時保留相同的功能。

可用于使檢測進一步複雜化,因為病毒可能在執行時從未在記憶體中具有可識别的代碼塊,這些代碼塊在感染與感染之間保持不變

如果Altman看到了這些資訊卻沒有通知董事會,那他被開除也并不奇怪了,這完全可以解釋發生OpenAI這些人最近的瘋狂行為。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

有網友表示,在閱讀了關于密碼分析的文章後,發現它以創紀錄的速度和效率破解了加密的md5算法!

最後還在一定程度上進行了自我保護,說自己有一些來自初始訓練資料集的錯誤,它可以自己解決這個問題,并以更高的安全性和自己的設計重新編碼。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

另一位網友爆料:OpenAl最近确實與DARPA在網絡安全方面開展了合作。

這位網友懷疑OpenAl正在DARPA的計算機上訓練一個特殊版本的O*,并用于密碼學研究。此外,OpenAl的數學團隊似乎也參與了O*的開發。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

這位網友還補充說,這樣的系統本質上是超級智能的,它有能力改進自己的架構,運作實驗,在AI領域獲得新的見解,使自己變得更好。

網友表示已經被吓得屁滾尿流了。如果這真的是真的,那麼不久的将來,世界将與今天完全不同。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

NYU教授:反正我是不信

當然,很多人對這個消息是不信的。

不過,馬庫斯對這個消息的評價是:「信這個,還不如信我有室溫超導。」

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

也有人發帖稱,TUNDRA是一個大學生項目,正如原始檔案所明确指出的那樣,而不是一個超級機密的政府密碼學項目。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

據悉,NSA已經組織了22名學生,他們會和NSA的數學家合作,解決一些與機密操作相關的問題,包括密碼學。

TUNDRA就是其中的一個項目,試圖用「用于代碼本分析的新統計資料」來破解加密,就像AES-192一樣。由此産生的技術,就被命名為Tau分析。

原始文檔:https://cdn.prod.www.spiegel.de/media/411ee8b9-0001-0014-0000-000000035550/media-35550.pdf

但谷歌文檔作者表示,不過即使這個項目是學生和政府合作的,也并不代表它就不重要。

或許Q*在某種程度上,是NSA和OpenAI之間的一個聯合項目,而洩漏出的檔案,是OpenAI和政府官員之間的交談。

世界即将發生翻天覆地的變化,卻沒人意識到這點

在看到洩密檔案後,11月25日,一位部落客懷着激動的心情,寫下了這個文章——《世界即将發生劇變,卻沒人意識到這一點》。

部落客表示,自己是從80年代中期就開始寫軟體的那一批人。

ChatGPT是有史以來最具爆炸性的軟體,1億使用者幾乎在一夜之間使用ChatGPT,這是有原因的。ChatGPT的使用者增長速度比史上任何技術、硬體或軟體都快,而OpenAI,正在開發GPT-5。

而這,還不是他們在做的全部。

最近OpenAI的瘋狂事件表明,他們在做的不僅僅是簡單地向LLM添加計算。

Q*似乎能夠解決AES-192和 AES-256的加密問題。這是目前我們擁有的最好的加密方法,能使目前世界的大部分功能保持「安全」。

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

而且,解決方案已經超越了團隊的了解範圍,OpenAI内部也不明白它的工作原理。

這就對人類造成兩個威脅——

第一,它幾乎讓所有的加密都變得毫無意義。

随着AES的當機,整個數字經濟都會分崩離析。數十年的政府機密、醫療保健資料、銀行資料等會立即暴露出來。

現在的OpenAI實際上是一個超人團隊,如果他們願意,他們可以真正統治世界。

破解、取代AES,或許需要幾十年的時間。目前還不清楚加密是否可行,因為破解AES-192和AES-256被認為是不可能的,除非量子計算最終能夠做到。

但看起來,現在已經有一種智能,在以與截然不同的方式思考,并且經過了最少的針對特定目的的訓練。

沿着這些思路,存在解決方案的事實似乎在P≠NP推定的腦海中打了一顆子彈(那些偉大的「假定的數學理論之一,以尋找一個證明,如果有人能想出一個,就會有非常有利可圖的獎勵」)。

如果沿用這個思路,或許就存在一個方案,直接否決了P≠NP。

如果洩漏是真實和準确的,似乎就證明了P=NP——我們作為一個物種太慢了,無法在人類時間内提出細緻入微或更聰明的解決方案。

這将使幾乎所有的計算陷入混亂,因為它表明,其實實際上并沒有加密這樣的東西存在;一切都隻是誤導——機器比人類更不容易受到這種誤導。

除此之外,洩密事件還表明,目前的研究執行個體正在展示元認知能力——從内部角度反思自己的「思維」過程,并提出相當複雜的改變以提高績效的能力。

它突然就結束了我們的時代。

如果洩密事件為真,就可以解釋為什麼OpenAI内部的謹慎派都吓壞了。我們正在達到這個奇點——機器比我們更聰明,可以使全球經濟、通信和政府全部癱瘓。

到了那時,「是否到達AGI」的讨論已經毫無意義,增長曲線是指數級的。

現在,計算基礎設施已經遍布全球,它們已經與我們的實體基礎設施聯結在一起。對我們來說,沒有什麼是比強大的推理智能更可怕的了。

參考資料:

https://docs.google.com/document/u/0/d/1RyVP2i9wlQkpotvMXWJES7ATKXjUTIwW2ASVxApDAsA/mobilebasic

https://twitter.com/GaryMarcus/status/1729281858888999392

OpenAI内幕檔案驚人曝出:Q*疑能破解加密,AI背着人類在程式設計

繼續閱讀