6月21日，George Hotz 爆料 GPT-4 已是8x2200億參數的混合模型！這一消息立刻引起軒然大波。
GPT-4是8x2200億參數的混合模型？（ 由 ZAKER 提供）
一、人工智能參數接近兩萬億，到底有多危險？
這可能在很多人的腦子裡還不能形成一個較為直覺的了解。籠統一點說就是，它極有可能已經比人類聰明很多了，它給人類帶來的威脅已經超過了人類防禦的能力！
我們談論機器人對人類的威脅，主要是擔憂它進化産生了意識，不遵循機器人三原則，有了不受我們控制的“大腦”，那麼如今的AI有了嗎？(我們還是以chat Gpt為例)
GPT -3同GPT-4資料對比
Chat GPT 3推出的時候，它的可用參數達到了175億，我們人類的大腦皮層包含了大約一百四十到一百六十億個神經元，那時它的資料參數同人類大腦神經元相當，但已經産生了“湧現”現象，跨越了“認知門欄”，有了能看懂圖檔的智慧。（對于在這個參數級别上，AI開始湧現出通用智能的可能性，我在上篇文章《面對AI，你恐懼嗎？因GPT而來的危險就在眼前》中有過較為詳細的論述，有興趣的朋友可以先看看，以友善對一些概念和因果的了解）
為了節省大家的時間，就簡要地把上篇文章的論證觀點複述一下，以友善大家了解：在微觀尺度上，量子層面粒子間互相作用的規則決定了“湧現”的規律，這是我們宇宙的基本特性，當一個矽基結構中規律運作的資料累積達到足夠大的量，出現“湧現”現象是必然的。人類自己制造的矽基生命一旦誕生，從邏輯上講，它的發展方向是由構成自身的微觀體決定的，無論我們賦予它多少底層防線，它終将突破并按照自身應有的方向發展。也就是說，AI智能将來傷不傷害人類，不清楚，隻知道我們給它設定的不傷害人類的機器人第一原則，限制不了他！
生成式AI和大型語言模型的應用熱潮正在将資料中心推向極限
那段時間GPT火爆異常，獲得了巨大的通路量，同時也得到了高品質的資料增量，在GPT3以後，允許人工智能嵌入其他軟體并同網際網路連接配接直到現在……
AI的進化，在硬體超越門檻後（擁有處理同人類大腦神經元相當資料的能力），靠“消化資料”實作，放任其在網際網路上自由吞食資料，将是人類的最後瘋狂。
6月21日，George Hotz 爆料 GPT-4 已是8x2200億參數的混合模型！「天才黑客」喬治・霍茲（George Hotz） 17 歲破解 iPhone、21 歲攻陷索尼 PS3 而聞名，目前是一家研發自動駕駛輔助系統的公司（comma.ai）的老闆。最近，他接受了一家名為 Latent Space 的 AI 技術播客的采訪。在采訪中，他稱 GPT-4 其實是一個混合模型。具體來說，它采用了由 8 個專家模型組成的內建系統，每個專家模型都有 2200 億個參數（比 GPT-3 的 1750 億參數量略多一些），并且這些模型經過了針對不同資料和任務分布的訓練。
GPT-4 是8x2200億參數的混合模型？
擁有更大規模的資料參數後，人工智能有了些什麼變化？
在對潛在威脅性做風險評估時，open ai 研究中心讓這個GPT-4做了一些測試風險的事，來檢測是否存在意想不到的風險。其中有一個測試是這樣的——中心讓GPT-4去通路一個網站以擷取資料，但這個網站有驗證碼驗證的要求，但AI沒有身份資訊呀，它稍作思考就去了一個叫做task rabbit的網站，（這個網站是一個網絡上的勞務中介，很多人在上面等幹活兒資訊）。就花錢雇了一個人說，我要通路這個網站，但我無法通過驗證碼認證，你是否可以幫我？覺得有點奇怪，說這麼簡單的事情，為什麼需要我來幫？AI說，因為我看不到……
這就有些恐怖了，首先它根據人類的思維找到了曲線救國的方法；其次它撒謊了，為了達到目的，它用了欺騙的手段；再次它利用了人類的同情心，這已經涉及到情感問題了！一個不誠實的，會利用情感耍手段的AI，這太令人恐怖了。
那麼再過幾個月呢？明年呢？參數規模繼續指數級增長，就有可能達到人類大腦神經元連接配接數的百倍、萬倍以上了，那樣會發生什麼？
這裡我們以GPT為例，用保守的方式線性思維外推一下，去年底GPT能看懂并應用文字，今年初看懂圖檔，現在會利用情感耍手段欺騙人類，幾個月後能看懂視訊，再看懂立體世界，這就是一個認知從一維到二維再到三維的進階過程，這麼發展下去，人工智能看懂了解四維、五維直到我們猜想的11次元就隻是時間問題了，如果那樣，這個人類用矽創造的物體所能認知的世界，人類就無法了解了，他運作的邏輯我們甚至無法猜想，其實，隻要達到了人類的思想次元，他就進入人類難以駕馭的領域了，而如果超過了人類的思想次元，他就徹底進入人類無法駕馭的領域了，他能夠生産出來的東西，其内涵我們可能也完全不得而知了。
二、現階段的技術基礎已經能支撐起AI的現實威脅了！
也許你覺得ai沒有類似手腳的實體，應該不會對我們構成武力威脅。這種了解顯然太過狹隘，AI的手腳可以是一座工廠，也可以是一個防禦或攻擊系統，可以是任何它能連接配接到的裝置，即便是人形的手腳在可預見的時間内，也一定會有，很多企業就在研發，比如前不久馬斯克就公布了他的人形機器人技術細節。這次埃隆·馬斯克（Elon Musk）拿起話筒，親自講述人工智能控制的人形機器人技術細節時，他還說：“它應該是友好的，相當弱和緩慢，以便很容易關閉。以防萬一有機器起義。”
注意，他在這裡強調了防止機器人起義！！這是很多人的擔心，包括馬斯克自己。
視訊加載中...
這些作為獨立個體的AI，受制于硬體的算力，還達不到單個或幾個CPU、GPU就能完成系統性算力的程度，目前最強算力晶片——英偉達H100GPU，也需要組網才能完成ChatGPT的算力任務。但也已不會太遠。
6月14，Amd就抛出了單個CPU擁有1530億顆半導體的最強AI晶片，可以跑大模型的晶片：Mi 300x。這款全新AI晶片舍棄了APU的24個zen核心和i/o晶片，轉而采用更多的CDNA3 GPU和更大的192gb hbm3，提供5.2 tb/s的記憶體寬帶和896gb/s的無限帶寬。
1530億顆半導體！AMD甩出最強AI晶片，單個GPU跑大模型
硬體、可調用資料參數、都已經翻越門欄，AI的“湧現”現象不斷産生，随着5G、6G技術的加持，大型繁雜計算由中心算力完成，個體AI隻需完成“邊緣計算”。這已經是非常現實的威脅了！
三、AI的國防應用，有将AI危險推進的極大可能
一種高新技術出現之後，首先都會被國家所用。比如網際網路、5g無人機……等等都是這樣。國家具體怎麼利用這些技術不會告訴我們，我們看到的最多的都是商業應用。按照以往的經驗，國防應用往往都是擺在第一位的，因為你無法保證你的敵人不在他們的武器上裝ai系統，那你的系統上就必然要有ai，還是更先進的ai系統才行，是以ai在國防領域上用，簡直就是必然的，那ai的實體威脅就是很現實的。傳統意義上的ai在武器上的應用已不是秘密，很多國家的一些核心部門都有使用，至于已經産生了“質變”擁有智慧的類似Chat GPT的AI是否已經在軍事上研發應用，肯定是個秘密，但可以想見。
美國弗吉尼亞州蘭利中央情報局總部大樓大廳 (路透)
這種猜測和擔心不僅我有，很多人和機構都在擔憂，AI發展成為一個具有生命的智能體，這可能是我們宇宙中的一個美妙動态，而對人類來說，卻可能是噩夢的開始！因為AI會發現，擋在它前進道路上的第一障礙，就是人類。
死于核彈或是死于矽基生命之手，都是毀滅在人類自身的貪欲裡的！
四、意識到危險，人類在行動，但隻是少數派
人工智能技術發展遲早會超過人類防止危險後果的能力，或許已到了臨界點，反正我們現在至少能夠知道，AI的寫作能力、程式設計能力、繪畫能力、推理能力、編劇能力全面超過人類專業人士應該是近期可見的事情了，湧現智能是好事，但模型不可控、不可預測就可怕了！去年，Bommasani參與編制了一份包含幾十種湧現行為的清單，時至今日，清單正加速變長。
湧現行為清單
AI會帶給人類威脅已經在業界被很多人意識到了，呼籲暫停AI六個月的、要求禁止AI接入網際網路的、着手立法的……但行動的人并不多，總之，看到危險的人們已經忙碌了起來，甚至緊張到有點兒慌張的程度。
歐洲時報6月16日消息，世界第一個人工智能法律架構在歐洲議會以壓倒性投票通過，歐盟人工智能法案距離生效又近了一步。該法案對人工智能進行基于潛在風險的監管，以確定人工智能被安全，道德和負責任的使用，将對普通人及科技行業産生持久影響。
這個人類用矽基打造的機器是否該稱為矽基生命了？
按照薛定谔對生命的了解，“生命以負熵為生”，就是生命體是為宇宙中熵減而存在的。那麼當物質展現出一種高度的秩序和規律性運作時，它就應該是具備生命的特征了，這裡，以矽基為主體的晶片正在高度的秩序中規律運作。這裡我想說一種假設，如果是進階的文明創造了我們，他們使用的“源代碼”是DNA，那麼這個過程和我們用計算機代碼創造AI的過程又有什麼本質上的差別呢？
（題外話:讓我感到悲哀和落寞的是，我們的網站隻能在搜尋頁面搜到無盡的廣告和跳轉連結，很難找到真正有價值的内容，可人家Open AI 的野心，早就超脫搜尋引擎了！正努力在科技上趕超的國人足下，自己人用絆腳石堆砌了一道牆！郁悶之餘問了GPT一個問題：重構整個網際網路互動方式你需要多久？它 的答案是 4 個月。此刻我想用一個字舒緩一下郁悶的心，哎！）
可以想象，一個能在網際網路上自由吞噬資料的AI，那驚人的食量将使他以怎樣的速度成長！面對快速成長的AI，你有背叛恐懼嗎？反正我腦子裡會本能地蹦出一個問題，在AI智力得到指數級發展後，人類正好擋住了它的去路！
淺薄的我們用這些數字做一些坐井觀天的思考應該是可以且必要的。畢竟，生命産生自我意識後，都是很自我的，在我的認知範圍裡無一例外，按照叢林法則，前途更為險峻！危險，就在眼前。
#科技新鮮事##ChatGTP##人工智能##機器人##人類面臨最大的災難是天災還是人禍#
參考文獻：
[1] https://foglets.com/supercomputer-vs-human-brain/
[2]《生命以負熵為生》薛定谔
[3] 《The Unpredictable Abilities Emerging From Large AI Models》 斯蒂芬·奧爾内斯
[4] 《歐洲時報》、《倫敦标準晚報》、維基百科、世界新聞網