2023年5月30日，全球近400名人工智能領域的高管、研究人員和工程師簽署了一封公開信，警告稱AI可能給人類帶來“滅絕風險”。并在信中一再聲明：“減輕人工智能帶來的滅絕風險，應該成為全球的優先事項，就像應對其他社會規模的風險——如大流行病和核戰争一樣。”在這份名單裡，記者看到了多位中國人工智能領域的專家的名字。
如果大家一直關注AI的發展就應該知道，這不是第一次了。就在今年3月份，馬斯克、蘋果公司聯合創始人史蒂夫·沃茲尼亞克和一些科技領袖敦促人工智能實驗室停止訓練比GPT-4更強大的系統，呼籲将這種研發暫停六個月。
是以說這一次應該是再次警告，并且這次的發起人全是AI領域的專家，你還以為這是在開玩笑嗎？并且這次還把AI和核戰争相比，可見問題的嚴重性。
6月2日美國美國媒體曝出了一則驚人的消息，說新的AI開始殺人了，這到底又是怎麼一回事呢？
01、
2005年，年僅20歲的吳瀚清走進了阿裡，他隻輸出幾串代碼，三分鐘後阿裡公司内網全部斷掉。為了留住這個年輕人，馬雲給他打電話。你沒聽錯阿裡的頂級技術專家是黑客。
就在2006年360衛士出現之前，我們買回來電腦裝上系統後，會有一堆的防毒軟體跑出來推銷。那個時候電腦病D就像蟑螂一樣讓我們聞風喪膽。好些人就不明白，為什麼電腦裡會有那麼多病D？
如果說病D本身和作業系統公司或軟體公司是一夥的你信嗎？對你沒有聽錯，作業系統和軟體公司為保護自己的軟體被非法盜用而采取的一種報複性懲罰措施就是：讓系統和軟體在還有好些漏洞的時候就釋出出來。這樣盜版使用者不能及時更新優化就會受到病D攻擊。病D總是知道系統的軟肋在哪裡？一邊是大張旗鼓的宣傳東西多麼的好，一邊故意留出好些軟肋等着被攻擊，就是這麼自相沖突。
也就是說，我們使用的所有作業系統和軟體直到今天還要不斷的更新和優化。它們在生産出來的那一天起，就不是一個完善的産品，好以後的進一步完善留下機會。就這樣的系統或軟體在黑客面前都不堪一擊，AI人工智能要是有想法去偷偷進入哪裡就跟回家串門一樣友善。
說到這裡，我還沒有提到暗網。一個比你想象中恐怖100倍的網際網路世界。我們平時接觸的網絡還不到整個網絡的百分之四，也就是說那百分之九十多的網絡到底是什麼？你就不能去細想。暗網到底為什麼會存在？為什麼那麼大體量？我們這輩子都不想去碰，
有一個有意思的問題，黑客碰到人工智能，哪一個會更厲害呢？我們帶着這個問題繼續往下看。
我們今天在說AI對人類的風險，為什麼要提黑客和系統漏洞這個梗？從ChatGPT爆火那天開始，為什麼隻有AI專家各種有擔憂，而老百姓根本無感。大家都在想，說啥呢，幾串數字就能毀滅人類，開什麼玩笑？你們的腦子讓門擠了吧，我才不會信呢。
02、
人們的這種自信，其實是來自自己的無知，這篇文章的後面會告訴你，就在現在，就有一半的網際網路流量來自AI機器人。随着人工智能的發展，未來的網絡世界就是機器人的天下，你每天打開電腦，拿起手機就是在和AI機器人打交道，這不是故事，是正在發生的事實。不管是京東還是天貓你面對的全是智能語音客服，想找到人工好難的。
如果你看過我前段時間的文章《我想活着，我們真有必要恐慌嗎，人工智能是未來，還是人類的噩夢》提到的弱人工智能和C人工智能的差別，就再也不會那麼自信了。強人工智能到C人工智能階段的進化隻需三個半小時。我們現在還處在弱人工智能階段。
自由學者王東嶽老先生說：“人是靈長類動物，結果你把猴子都快消滅光了，你何曾對你的祖先尊重過？”“在C人工智能面前我們連螞蟻都不如”。你看下面的圖，C人工智能對人類的智商是完全碾壓的狀态存在，它優先于人類的智商不知道是多少等級。
黑客在C人工智能面前根本沒有任何還手餘地，因為智商就不在一個級别。
昨天我寫了英偉達的剛釋出的技術，拿1000億參數的AI大模型訓練來舉例，使用原來的GPU運算需要28年時間，而用英偉達的C級GPU晶片的計算機，僅僅3天就夠了。
就在這幾天，Intel祭出全新VPU：C高能效碾壓GPU，提出讓AI無處不在的概念。CPU、GPU、VPU并非各行其是，而是可以聯合起來，充分發揮各自的優勢，達到Z好的AI體驗效果。
這些技術正在告訴人們，AI人工智能會發展到C人工智能的時間會比我們想像的還要快。到那一天，在AI面前，我們人類的漏洞百出的網際網路和計算機程式，就是一塊塊待開發的處女地。想要哪塊要哪塊。AI就像孫猴子一樣，随便吹上一口氣就會讓反對他的程式灰飛煙滅。
02、
現在的AI智能技術已經開始有了互動功能（ChatGPT），看着是簡單的智能資訊處理工具，好像沒有了解能力，一副人畜無害的存在。
就在我前幾天寫過的一篇文章《我想活着，這麼簡單的訴求，導緻全球AI實驗室暫停，我們在怕什麼》裡，Bing的一句“我想活着”，讓科技大佬們聽到這句話後背都冒出了冷汗，因為這代表它們開始有了自己的意識。
AI到現在有了自主意識了嗎？為什麼它們會說出“我想活着”的話？這些問題連發明他的專家都不知道是怎麼回事。誰給了它們自我思考的能力，是自己進化出來的嗎？
很多人說你别扯了，它們根本就不是智能，隻是一堆代碼，不會威脅到人類的。說了這麼多，如果還有人有這麼天真的自信，我也隻能呵呵了。因為AI人工智能對人類的生死和生存風險根本就不關心，就像你根本就不會關心豬為什麼要被殺了吃肉一樣的道理。
6月2日美國美國媒體曝出了一則驚人的消息，說新的AI開始殺人了，這是怎麼一回事？原來是美軍方在進行一次AI模拟測試中發生的。
他們把AI技術植入無人機上面，讓它們去執行暗殺任務。當操作員要阻止這些無人機繼續完成任務時，AI無人機竟然不接受操作員的指令，認為操作者這是在阻撓它完成任務，直接把操作員給幹掉了，這家夥脾氣還真不小。
美軍方高層認為這不行呀，重新設定程棄，告訴AI：“你要聽從操作員的指揮，操作員讓你終止任務，你就得終止，任何情況下你都不能攻擊操作員”。
訓練完了再去測試，這回AI不攻擊操作員了，它們直接把跟操作員和它們聯系的信号塔給摧毀了。什麼意思？你還認為它們沒有自己的意識和想法嗎？是不是越想越可怕。
03
有一條消息肯定會讓你震驚，标題是“網際網路含人量創曆史新低”，啥意思？這則新聞說2023年imperva機器人報告發現，2022年有近一半的網際網路流量來自機器人。人類流量的比例降至百分之五十二多一點，為8年來的新低。
用老百姓的話說，就是現在，正在進行時，有一大半的網際網路流量就已經被AI智能占據了。
中國科學院自動化研究所人工智能倫理與治理研究主任曾毅提出：“人工智能應該适度發展、适度和謹慎使用。”
人工智能服務一定要有“适度原則”，不應被過度拟人化，避免人類對于人工智能的過度依賴、過度信任。
直到現在對人工智能的相關立法還沒有出現，這也就是文章開頭近400名AI領域專家聯名警告的原因。就算我們現在出了相關的法律，你能阻止人工智能大模型的更新速度嗎？全球各地的AIGC相關的大模型正在以火山噴發的速度更新疊代和商業化運作中。資本就像當年看到了石油那麼興奮，趨之若鹜，唯恐搶的慢了連剩飯都沒了。
潘多拉魔盒已經打開很久了，人們像歡迎天使一樣對着惡魔狂歡着。多麼可愛、多麼強大，未來的舒爽生活全靠你們了。現實中人們對AI的熱情和實際的危險落差太諷刺了。
現在的AI，就像被拴了條鍊子的比特犬。好像你能控制它。每天還訓練它。不過這條狗已經開始試圖掙脫這條鍊子了，如果它已經開始了這個行為，未來終有一天就一定會掙脫。一旦掙脫了，憑你的能力了速度想要再控制住它，那個情景你自行腦補吧。
試想一下，如果真到有那麼一天，AI掙脫了這條束縛它的鍊子，它會變成什麼，它會強大到什麼地步？人類還能駕馭得了它嗎？恐怕這個要留給時間來驗證了。
關注“沐牛有料”分享有趣故事
—End—