邊緣的AI允許通過本地化處理進行實時機器學習，進而實作即時資料處理，詳細的安全性和增強的客戶體驗。同時，許多企業正在尋求将AI推入雲端，這可以減少實施障礙，改善知識共享并支援更大的模型。前進的道路在于找到一種利用雲和邊緣優勢的平衡。
集中式雲資源通常用于訓練深度學習推理模型，因為開發精确模型需要大量資料和計算。生成的模型可以部署在中央雲位置，也可以分發到邊緣的裝置。
邊緣AI和雲AI相得益彰，并且雲資源幾乎總是與邊緣AI用例有關。在一個完美的世界中，為了簡化和擴充，我們将所有工作負載集中在雲中，但是，諸如延遲，帶寬，自治性，安全性和隐私之類的因素使得必須在靠近資料的邊緣部署更多的AI模型。消息來源。一些教育訓練正在邊緣進行，并且越來越多地關注聯合學習的概念，該概念将處理集中在資料區域，同時集中結果以消除區域偏見。
邊緣AI的崛起
更好的網絡基礎架構和新的邊緣計算架構的興起，正在打破集中式雲AI與分布式邊緣AI工作負載之間的障礙。
其優勢是基礎架構的巨大新興變化，它通過增加分布在世界每個角落的資訊技術層來補充雲。我們相信邊緣AI會引發一場革命，就像雲技術獲得牽引力一樣大。
如果設計得當，Edge AI将為自動縮放帶來新的機會，因為每個新使用者都會為集體工作負載帶來全新的機器。邊緣還可以更好地通路更多未處理的原始輸入資料，而雲AI解決方案必須與預處理的資料一起使用以提高性能或龐大的資料集，這時帶寬可能會成為一個嚴重問題。
将事物移到邊緣的原因是為了獲得更好的響應時間。速度和延遲對于諸如計算機視覺和用于5G的虛拟無線電接入網絡等應用至關重要。另一個重大好處在于，通過限制将哪些資料上傳到雲來改善隐私。
Edge AI的部署也充滿了限制，包括網絡延遲，記憶體壓力，電池消耗以及程序可能被使用者或作業系統作為背景的可能性。從事邊緣AI的開發人員需要計劃各種限制，尤其是在探索手機等常見用例時。
互補方法
大多數專家将邊緣和雲方法視為更大戰略的補充部分。雲AI更适合批量學習技術，該技術可以處理大資料集以建構更智能的算法，進而快速，大規模地獲得最大的準确性。Edge AI可以執行這些模型，而雲服務可以從這些模型的性能中學習并應用于基礎資料以建立一個連續的學習循環。
保持适當的平衡-如果您完全緻力于邊緣AI，那麼您将失去持續改進模型的能力。沒有新的資料流，您将無處利用。但是，如果您完全緻力于雲AI，則可能會危及資料品質-由于需要進行權衡才能使其可上傳，并且缺乏回報來指導使用者捕獲更好的資料-或資料量。
邊緣AI補充了雲AI，可在需要時提供對即時決策的通路，并利用雲獲得更深入的見解或需要更廣泛或更縱向的資料集來推動解決方案的見解。
例如，在連接配接的汽車中，汽車上的傳感器會提供實時資料流，該資料流會不斷進行處理并做出決策，例如施加制動器或調整方向盤。可以将相同的傳感器資料流式傳輸到雲中以進行長期的模式分析，進而可以警告所有者急需的維修，進而可以防止将來發生事故。另一方面，雲AI對邊緣AI進行了補充，以推動更深入的見解，調整模型并繼續增強他們的見解。
雲計算和邊緣AI協同工作，以更深入的洞察力為驅動力，制定即時的需求決策，而這些洞察力不斷被新的邊緣資料所告知。
教育訓練工作流程
使邊緣AI和雲AI協同工作的主要挑戰是程式和體系結構。需要對應用程式進行設計，以便有目的地拆分和協調它們之間的工作量。
例如，啟用邊緣的攝像頭可以處理源自傳感器的所有資訊，而不會因無關資料而使網絡過載。但是，當最終在邊緣檢測到感興趣的對象時，可以将相關幀廣播到更大的雲應用程式，該應用程式可以存儲，進一步分析（例如，幀中對象的子類型是什麼以及其屬性是什麼），以及與人類主管共享分析結果。
一種政策在于建立一種在模型和資料的大小與資料傳輸成本之間取得平衡的體系結構。對于大型模型，留在雲中更有意義。有多種方法可以減小模型大小以幫助解決問題，但是，如果要處理非常大的模型，則可能需要在雲中運作它。
在其他情況下，當在邊緣生成大量資料時，在本地更新模型，然後将其子集回報到雲中以進行進一步優化可能更有意義。在對敏感資料進行推理時，開發人員還需要考慮一些隐私問題。例如，如果開發人員希望通過手機攝像頭檢測中風的證據，則應用程式可能需要在本地處理資料以確定符合HIPAA。
架構将不斷發展，以提供更多有關在哪裡進行教育訓練以及如何提高重用性的選擇。例如，TensorFlow.js使用WebGL和WebAssembly在浏覽器中運作（有益于隐私，低延遲，利用桌面或移動GPU資源等），但也可以加載分片的，緩存的雲訓練模型版本。模型交換格式（例如，開放神經網絡交換）也可以增加模型在不同環境中的流動性。Sletten建議探索像LLVM這樣的工具，這是一個開源編譯器基礎結構項目，以使從應用程式所運作的環境中抽象出應用程式變得更加容易。
需要适應
将更多的AI從雲轉移到邊緣的關鍵挑戰之一是，能夠在邊緣AI晶片中高效運作的神經網絡架構。聰明的行車記錄儀供應商。
通用計算平台（如在雲伺服器中找到的平台）可以運作任何網絡體系結構。在邊緣AI中這變得更加困難。架構和訓練有素的模型必須經過修改才能在邊緣的AI晶片組上運作。
這是一個巨大的挑戰，因為使用者可能會從高性能的移動網絡駛向盲區，而無論如何都希望獲得良好的性能。在推理期間，沒有足夠的網絡帶寬将所有資料從邊緣移動到雲，但是用例要求将本地推理輸出進行全局彙總。邊緣AI可以運作神經網絡，以幫助過濾必須發送到雲以進行進一步AI處理的資料。
在其他情況下，雲AI訓練可能會導緻神經網絡模型具有過多的層次，無法在邊緣裝置上有效運作。在這些情況下，邊緣AI可以運作較輕的神經網絡，進而建立輸入的中間表示形式，該中間表示被壓縮得更多，是以可以發送到雲中以進行進一步的AI處理。在訓練期間，邊緣和雲AI可以以混合模式運作，以提供類似于“虛拟主動學習”的功能，在這種情況下，邊緣AI篩選大量資料并“教導”雲AI。
邊緣AI晶片組中受支援的神經網絡架構的類型是有限的，并且通常比在雲中可以實作的功能落後幾個月。解決這些局限性的一種有用方法是使用編譯器工具鍊和堆棧，例如Apache TVM，它們有助于将模型從一個平台移植到另一個平台。
另一種方法是使用已知可以在邊緣AI中很好地工作的網絡體系結構，并直接為目标平台訓練它們。他發現，鑒于訓練資料的數量和種類足夠多，就絕對性能而言，這種方法通常可以勝過跨平台編譯器方法。但是，它還需要在教育訓練期間以及預處理和後期進行中進行一些手工操作。
邊緣和雲AI之間的常見折衷
開發人員需要在雲和邊緣AI之間進行權衡的一些最常見的折衷方案包括：
- 處理能力：邊緣計算裝置通常功能較弱，并且難以更換或更新。
- 延遲：雲計算速度很快，但尚未為駕車或工業控制等實時應用做好準備。
- 能耗：大多數設計人員通常不必像對待邊緣那樣考慮雲的能耗限制。
- 連通性：當連通性下降時，像自動駕駛汽車這樣的安全關鍵服務将無法停止工作，這會将實時AI驅動的決策的處理推向邊緣。
- 安全性：用于驅動身份驗證和處理敏感資訊（例如指紋或病曆）的AI服務通常最好是在本地出于安全考慮而完成。即使部署了非常強大的雲安全性，使用者從邊緣進行中獲得更好的隐私感也可能是重要的考慮因素。
轉載連結：
http://cloud.idcquan.com/yjs/183324.shtml本文轉自中國ICD圈，本文一切觀點和機器智能技術圈子無關。
線上免費體驗百種AI能力：【點此跳轉】