天天看點

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

作者:紅都财經資訊

觀點摘要:1.近期英偉達的公衆号每天都在推薦他的邊緣計算平台jetson,值得重視。2.英偉達願景就是從賣卡的變成跨平台的AI計算服務商,這塊美國其他幾個巨頭也不想拱手讓英偉達,是以最近趁熱打鐵在力推。3.英偉達最近得股價上漲其實也是這個預期,不隻是因為賣GPU,光靠賣硬體估值提不動的。

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

在Computex2023 上,英偉達CEO黃仁勳釋出了一系列新晶片、新架構超算、交換機及AI在垂直行業的應用進展。

通過加強通信、存儲能力,新推出的GH200在同樣代際的GPU晶片上實作了2-6倍的性能!叢集通信能力成為算力木桶效應裡最重要的一塊闆!

比如大會上同時推出的NVIDIA DGX 超級計算機就是通過互聯技術使256個GH200超級晶片相連,使它們能夠作為單個 GPU 運作。其提供1exaflop的性能和144TB的共享記憶體——相較2020年推出的上一代 NVIDIA DGX A100記憶體大了近500倍。

用通俗的話來講,GH200架構就是把單兵作戰變成團隊作戰,算力不夠數量來湊!通過新型的NVLINK互聯技術,把幾百個GPU組成一個超級GPU。

但,英偉達的野心絕不僅于此。

GPU做的再好,也隻是個制造業。而黃仁勳對英偉達的定位為計算平台公司,其商業願景是隻要與AI加速有關領域都會用英偉達的硬體和軟體。

想要完成這個願景,邊緣計算領域就是兵家必争之地!

一,什麼是邊緣計算。

如果說GH200架構是把幾百個将軍串聯了起來,那麼邊緣側的算力,就是無窮無盡,數以億計的士兵陣列!

邊緣算力,通常指部署在裝置本地的算力或者離使用者距離較近的資料中心中的算力,邊緣算力相較于雲端算力,擁有低成本、低延遲時間、高隐私三大特性。

1)低成本:目前主流的邊緣算力平台主要采用高通主導下的ARM架構,相比于英偉達的複雜架構,ARM架構在小算力時擁有極低的機關成本,是降低開發與使用者成本的必然選擇

2)低延遲時間:邊緣算力一般搭載在本地,無需将資料發送至雲端并等待回傳的時間,可以滿足如自動駕駛,快速對話等對時延要求高的場景。

3)高隐私:邊緣算力依靠裝置本身搭載的算力或在使用者自有伺服器上的算力進行推理,可以實作資料不出使用者管轄範圍,對隐私的保護更好。

随着AI催化下算力需求加速走向多樣化,單一的雲端算力無法滿足所有需求,算力正在走向泛化,走向“雲邊端”梯度分布的格局。

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

邊緣計算減少了需要傳輸到雲端的資料量,并允許實時資料處理。是以,它可以降低對帶寬的需求,同時提高裝置性能,大量生成式AI模型可以直接在終端裝置上運作。

從數量上看,邊緣側如同毛細血管,随着 AI應用的增多,将大大提升算力的多樣性;從功能上看,此前市場了解的物聯網或者高通晶片模組多以通信功能為主,而計算能力局限于車載等場景,随着邊緣計算爆發,其應用場景将大幅拓展;從成本側看,高成本效益的算力是AI發展的基石,邊緣側算力不可或缺。

未來,物聯網模組将承載大量邊緣算力,為全世界開發者帶來易用,高成本效益的終端計算能力,賦能萬物AI 互聯!

黃仁勳在這次大會上也高調宣布,“我們已到達生成式AI引爆點。從此,全世界的每個角落,都會有計算需求。”

二,各大巨頭大力進軍邊緣計算。

想要完成AI平台類公司的願景,邊緣計算領域是必争之地,英偉達推出Jetson、Isaac AMR等平台占領邊緣AI!

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

NVIDIA Jetson 是世界領先的邊緣 AI 平台。該平台包括 Jetson 模組(外型小巧的高性能計算機)、可加速軟體的 JetPack SDK,以及包含傳感器、SDK、服務和産品的生态系統,進而加快使用者的産品開發速度。每個 NVIDIA Jetson 都是一個完整的系統模組 ( SOM ) ,包括 CPU、GPU、記憶體、電源管理、高速接口等。是以英偉達已經不單單隻做晶片而已。

自 Jetson 系列産品推出以來,以 Jetson 系列為代表的自主機器開發工具大大降低了自主開發創造的技術門檻,Jetson 模組提供不同性能、功耗和外形規格的組合,是以可為各類行業的客戶所使用。

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)
英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

在 COMPUTEX 2023 上釋出了全新 Jetson AGX Orin 工業級子產品,在惡劣環境下可以提供更進階别的計算能力。

這個新子產品擴充了上一代 NVIDIA Jetson AGX Xavier 工業級子產品和商用 Jetson AGX Orin 子產品的功能,為強化系統提供伺服器級性能。

借助 NVIDIA Jetson 邊緣 AI 和機器人平台,農業、建築、能源、航空航天、衛星、公共部門等領域都将發生巨大的變化,工業環境将被嵌入式邊緣AI徹底改變!

于此同時,其他巨頭也不甘落後,移動通信霸主高調發力邊緣計算!

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

高通近日宣布正在由通信公司過渡到“智能邊緣計算公司” ,高通表示“随着連接配接裝置數量和資料流量的加速增長,以及資料中心成本的攀升,将所有内容都發送到雲端是不可能的。”

到2030年,預計地球上将有約231.4億台物聯網裝置。此外,随着越來越多的物聯網裝置在全球範圍内使用,預計在整個評估期間對物聯網通信協定的需求将會增加。 未來,物聯網模組将承載高通的邊緣算力,真正成就AIOT時代!

三,在邊緣計算浪潮中,物聯網模組和場景應用類最為受益,A股上市公司中與英偉達有合作的暫時隻有下面兩家公司:

1.移遠通信

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)
英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

在邊緣計算領域,移遠聯合客戶打造了多款前沿的計算密集型和邊緣智能解決方案。移遠智能模組通過提供強大的邊緣計算能力,使應用終端能夠實時處理資料并做出更快的資料驅動決策,同時模組還具有低功耗、高速連接配接和先進的安全性等多重優勢。在AIoT領域,公司提供不同算力規格的模組來支援各種應用,同時也會根據不同的應用提供差異化的産品和定制服務。在AI相關服務方面,移遠可以幫助客戶基于AI模型移植,用智能模組替代昂貴的開發平台,進而降低成本。

公司近期表示“移遠5G模組+Jetson AGX Orin平台”組合方案可應用于高端機器人、無人地面車輛、低速自動駕駛、智慧交通等終端産品及場景,都是英偉達近期強推的應用方向。

2.天準科技

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

天準科技的邊緣計算産品和方案主要基于英偉達Jetson平台建構的GEAC系列産品,産品廣泛應用于各種大交通場景,為無人配送車、智慧交通、軌道交通、智慧港口、智慧礦山等各種場景、裝置和車輛,為其提供大算力計算平台和控制器産品及解決方案。

英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)
英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)
英偉達的跨平台AI計算服務商之夢!(邊緣計算篇)

公司基于英偉達平台研發的控制器及邊緣計算産品,正好也應用于英偉達最近強推無人物流車和移動機器人方向。

繼續閱讀