天天看點

利用 NVIDIA AI Enterprise IGX 在邊緣賦能任務關鍵型 AI

作者:NVIDIA英偉達中國
利用 NVIDIA AI Enterprise IGX 在邊緣賦能任務關鍵型 AI

NVIDIA SDK 在加速智慧城市、醫療和機器人等領域的 AI 應用方面發揮了重要作用。然而,要實作可在邊緣部署的生産級 AI 解決方案來為人類與機器的協作提供安全可靠的支援,就需要同時具備針對企業需求量身定制的高品質硬體和軟體。

NVIDIA 再次為邊緣任務關鍵型 AI 應用加速。NVIDIA AI Enterprise IGX 是一款可在 NVIDIA IGX 平台上運作邊緣 AI 的企業級軟體解決方案。

NVIDIA IGX 為您的工業級硬體提供超快的 AI 性能和高吞吐量資料處理能力,同時還具備邊緣所需的尺寸和功耗,以及強大的邊緣安全性、遠端易管理性和内置安全機制。

NVIDIA IGX 與 NVIDIA AI Enterprise 的內建使邊緣 AI 更易于通路、更高效且更适合企業使用。

企業對邊緣 AI 的需求

AI 堆棧由許多第三方應用和開源軟體(OSS)組成并依賴于它們。鑒于其複雜性與日益增加的依賴性,維護 AI 軟體堆棧的安全和穩定已成為一項艱巨的任務,這項資源密集型的任務阻礙了企業的 AI 創新步伐。

以下是一些需要考慮的因素:

  • 穩定性和可靠性
  • 安全性和威脅減輕措施
  • 監管問題

穩定性和可靠性

了解軟體包内的所有依賴關系對于保持 API 的穩定性來說至關重要。任何第三方和開放源碼軟體包的更改,都可能需要随後對 API 進行更改,而這可能會破壞堆棧。這種依賴關系網使企業幾乎不可能在部署中實作最新開源版本的标準化。

安全性和威脅減輕措施

不斷擴大的軟體依賴性增加了引入軟體漏洞的風險。這些漏洞可能導緻後果嚴重的攻擊,如資料洩露、服務中斷和巨大的經濟損失等。

2022 年報告的關鍵漏洞數量共計 4,135 個,較 2021 年增加了 59%。在延遲、隐私、帶寬和監管要求方面具有更高标準的行業也不能幸免于難。根據《臨床醫生對醫療網絡安全和網絡威脅的看法》一文,2019 年有 24% 的網絡攻擊發生在醫療行業,2022 年,針對醫院的網絡攻擊激增。

監管問題

許多受到高度管制的行業都對 AI 軟體的維護制定了嚴格的規定。

例如,航空航天領域越來越多地将 AI 用于導航系統和飛行控制算法,通過嚴格的指導來保證持續的監控與更新,以保持系統的完整性和安全标準。

在醫療行業,AI 驅動的治療和診斷工具同樣必須遵守嚴格的維護協定,以保證醫療決策過程的準确性和可靠性。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX 是專為在 NVIDIA IGX Orin 平台上運作關鍵任務應用而打造的軟體解決方案。

它為整個軟體堆棧提供了無與倫比的性能、安全性、穩定性和支援,使企業不再需要為維護和保護複雜的 AI 軟體平台而頭疼,這不僅簡化了 AI 賦能的營運,還讓企業能夠更加放心地大規模部署 AI 應用。

在 NVIDIA AI Enterprise 成功應用于資料中心和雲的基礎上,NVIDIA AI Enterprise IGX 的推出将這些優勢擴充到了邊緣。

作為一款工業級的高性能企業級邊緣解決方案,NVIDIA AI Enterprise IGX 與 NVIDIA IGX 一起為各種固件、作業系統、驅動程式、AI 架構、SDK 和庫提供全面的端到端軟體支援。借助專為 NVIDIA IGX 打造的穩定軟體分發,您就可以在關鍵用例所要求的更長時段内獲得軟硬體支援。除了能夠從單一的來源獲得支援外,您還能獲得長期 API 穩定性和一緻的軟體物料清單(SBOM)。

加入企業支援的價值在于提供能夠及時解決技術問題的方案,確定邊緣 AI 系統的穩定性和可靠性,避免因停機而導緻重大經濟損失或營運中斷。

利用 NVIDIA AI Enterprise IGX 在邊緣賦能任務關鍵型 AI

圖 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平台

NVIDIA AI Enterprise IGX 包含基本的 AI 庫和 SDK,例如 NVIDIA TensorRT、TensorFlow、PyTorch、NVIDIA Triton 推理伺服器、Holoscan 和企業 Ubuntu Linux 作業系統等。

此外還有兩個附加選項:

  • Yocto:适用于部署 Yocto 的企業。
  • 功能安全:在安全、人員和财産至關重要的領域(如工業制造),可確定系統能夠利用主動和被動安全政策保護關鍵資産和人員生命安全。

NVIDIA AI Enterprise IGX 專門用于幫助企業在建構尖端技術的同時,降低總體擁有成本(TCO)、加快産品上市速度并全面提高産品開發效率。

它具有靈活的軟體分支,可提供符合您行業需求和産品開發周期的選擇:

  • 生産分支:通過每月的安全更新確定 API 的穩定性。這些分支非常适合在需要穩定性的生産環境中部署 AI,每 6 個月釋出一次,生命周期為 9 個月。
  • 長期支援分支:通過每季度的安全更新來支援長期應用生命周期。這些分支最适合用于受到高度監管的 AI 應用,每兩年半釋出一次,生命周期長達 10 年。

在充滿挑戰且複雜的邊緣 AI 開發過程中,該解決方案提供了一條行之有效的 AI 成功路徑。

開始使用 NVIDIA AI Enterprise IGX

如果您正在開發邊緣 AI 應用或準備将其投入生産,可立即開始使用 NVIDIA AI Enterprise:

  • 使用 NVIDIA IGX Orin 開發者套件開始開發:
  • 聯系 NVIDIA 申請 NVIDIA AI Enterprise IGX 軟體試用:
  • 進一步了解 NVIDIA AI Enterprise IGX: