天天看點

io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?

作者:MarsBit

原文作者:@rargulati,MartinShkreli

原文來源:twitter

編譯:白話區塊鍊

@ionet是建立在 Solana 上的去中心化算力網絡,屬于 Depin 和 AI 闆塊,獲得了 Mult1C0in Capital 和 Moonhill Capital 的融資,融資金額未披露。

io.net是一個基于Solana的用于 GPU上的機器學習訓練的去中心化雲平台,提供即時、無需許可地通路全球GPU和CPU網絡。平台擁有25000個節點,并采用革命性的技術将GPU雲叢集在一起,為大規模AI初創公司節省了高達90%的計算成本。

目前建立在 Solana 上,屬于目前比較火熱的 Depin 和 AI 闆塊,今天來看看X上兩位對其GPU和存在的問題進行了分析:

@ionet擁有多少個GPU(Graphics Processing Unit,圖形處理器)是用于圖形處理的晶片)?

X上@MartinShkreli對四個答案進行了分析:

1)7648(在部署時嘗試時)

2)11107(從他們的資料總管手動計算)

3)69415(無法解釋的數字,不變?)

4)564306(這裡沒有任何支援、透明度或實質性的資訊。連CoreWeave或AWS都沒有這麼多)

認為真正的答案實際上是320個。

io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?
io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?

為什麼是320個呢?

和我一起看一下資料總管頁面。所有的GPU都是“免費”的,但你仍然不能租用一個。如果它們是免費的,為什麼不能租用呢?人們想要得到報酬,對嗎?

你實際上可以租用的隻有320個。

如果你不能租用它們,那它們就不是真實存在的。即使你可以租用,它也會增加...

io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?
io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?
io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?
io.net 真實 GPU 數量成迷?去中心化 AI 協定存在哪些問題?

@rargulati表示Martin在對此事提出質疑是完全正确的。去中心化的人工智能協定存在以下問題:

1)沒有一種成本效益高且時間有效的方式來在高度分布式的通用硬體架構上進行有用的線上訓練。這需要一個我目前不知道的重大突破。這就是為什麼FANG花費的資金比加密貨币的所有流動性還要多,用于購買昂貴的硬體、網絡連接配接、資料中心維護等。

2)在通用硬體上進行推斷聽起來是一個很好的應用案例,但硬體和軟體方面的發展如此迅速,以至于通用的去中心化方式在大多數關鍵用例上表現不佳。可以參考最新的OpenAI延遲和Groq的增長。

3)從正确路由的請求上進行推斷,與請求緊密共存的gpu叢集,并利用去中心化加密貨币來壓低資金成本,以與AWS競争并激勵愛好者參與。聽起來是個不錯的主意,但由于供應商衆多,GPU現貨市場的流動性分散,沒有人整合出足夠的供應來提供給營運真正業務的人。

4)軟體路由算法必須非常好,不然消費者營運商的通用硬體在操作上存在很多問題。忘掉網絡突破和擁塞控制,如果有人決定玩遊戲或使用任何使用webgl的内容,你可能會遇到某個營運商的服務中斷。不可預測的供應端會給營運帶來困擾,并給需求方請求者帶來不确定性。

這些都是棘手的問題,需要很長很長的時間來解決。所有的投标都隻是梗而已。