天天看點

混合人工智能(AI)——改善邊緣計算

作者:控制工程中文版
混合人工智能(AI)——改善邊緣計算
混合人工智能(AI)——改善邊緣計算

本文圖檔來源 :Beyond Limits

作者 | Ari Kamlani

混合人工智能(AI)是資料驅動機器智能方法的配套技術,可以促進邊緣計算的發展。

諸多行業都在開發和部署人工智能(AI)。它使許多公司能夠利用新的機會,創造新的商業模式并獲得競争優勢。在工業、能源、國防、醫療保健和金融行業,AI正在成為企業在各自領域内有效競争能力的核心差異化價值驅動因素。

以物聯網(IoT)為例。相關預測顯示,到2025年物聯網連接配接的裝置将超過750億台,比2019年增長近三倍。這一數字還在繼續呈現指數級的增長,将所有這些裝置與智能功能連接配接起來,是實作其全部物聯網潛力的最大挑戰之一。

随着裝置和系統的技術能力的不斷成熟,在實體世界中,幾乎所有物體都有連接配接性和計算能力,不管這些能力是生俱來的還是經改造後獲得的。使用者的期望值也在不斷增長。使用者對體驗和互動的要求更高,希望獲得類似于智能手機和筆記本電腦的使用者友好體驗。機器學習使用者體驗MLUX(ML+UX)需要精心設計,以最小的代價獲得積極、有影響力、情境和整體的使用者體驗,以進一步擴大和提升對該技術的采用。

01

邊緣計算系統正在不斷發展

邊緣系統的設計,具有不同且通常有限的計算機處理、存儲和記憶體、網絡連接配接和運作等諸多限制。邊緣範式轉移到資料被感覺、生成和執行的地方進行本地處理;盡管在某些情況下,它有點類似于雲功能,可以通過邊緣網關進一步擴充,以提供低延遲和高帶寬使用率。

在整個範圍中,硬體系列可以涵蓋從資源受限的超低功耗裸機裝置、RTOS微控制器(例如,ARM Cortex-M)到SoC應用微處理器(例如,ARM Cortex-A)配置檔案功能。原始設計制造商/原始裝置制造商(ODM/OEM)許可的應用程式配置檔案目标,通常出現在智能手機和平闆電腦中,或連接配接到外部的微控制器、傳感器和驅動器或基帶處理器的應用處理器中。

在此範圍内,先進的專用AI加速器ASIC裝置已被設計為處理高性能的AI操作指令和支援最先進的模型(SOTA)。盡管矽的應用落後于AI研究,但它帶來的好處是性能提高,這間接地與最終使用者的體驗聯系在一起。

在生命周期開始之前,許多SoTA AI模型都需要進一步優化和壓縮,而不會降低目标性能。随着該領域的發展,将模型部署到嵌入式裝置已轉向嵌入式系統範式,即在目标主機上交叉編譯代碼。

使用者可以通過中間格式(MLIR)和Runtime執行環境來編譯和優化處理器目标和裝置執行,而不是部署較小的參數化抽象模型,以換取目标性能。這也與提供更低的延遲和改善的使用者體驗有關。

在營運過程中,AI邊緣系統需要具有一定程度的獨立性,盡管具有局限性,但仍能做出高性能的決策,直到它們能夠利用更強大的資源以及來自所連接配接的雲基礎設施的大量資料和知識。對于互連的裝置,這種獨立狀态被稱為緊急模式。

02

使用混合AI改善邊緣計算

使用混合AI(Hybrid AI)是推進邊緣AI的潛在途徑。混合AI是一種将機器學習與符号AI(Symbolic AI)相結合的方法,前者使用統計模型來分析資料,後者基于語義并提供對意義的見解。通過利用每種技術的優勢,可以實作比單獨使用任何一種技術更強大的結果。

混合AI作為資料驅動機器智能方法的配套技術,補充了認知符号AI能力,克服了推理、順序規劃、可操作回報以及類似人類的可了解闡述和解釋方面的限制。核心關注點是與使用者的協作互動,充當情境決策支援顧問和診斷系統,尤其是在與高風險、不确定性和未知相關的情況下更是如此。例如,NASA JPL為火星探測器着陸開發了混合AI,增加了推理智能功能,以改善在不熟悉和傳統技術難以實作的困難地形下的導航。

利用混合AI,可以通過編碼的人類專家知識和限制、行業指南和最佳實踐以及傳統的支援曆史庫和流式事件資訊來豐富系統。這些認知引擎和算法對假設的路徑和場景進行模組化,以提出行動方案并制定智能的近實時決策,即使在那些在操作、擷取和通路品質資料方面被認為不太理想的邊緣環境下也是能完成任務。

考慮連接配接受限或不穩定的邊緣裝置的使用工況,這些裝置在惡劣或遠端環境中運作,具有長尾資料分布,資料采集和存儲受到限制。或者,當裝置故障,傳感器融合和機動高風險錯誤條件路徑的時間周期内,發生資料沖突時所導緻的不理想路徑。這些案例都是傳統大資料和微調方法不太适合的。混合AI可以直接将這些條件,作為推薦行動計劃和使用者回報回路的一部分,或利用知識和限制的基礎模型進行校正,間接地促成這些條件。

在IoT和其它在邊緣運作的系統中使用混合AI,為連接配接、使用者體驗和營運決策帶來了新的潛力。AI未來的願景,包括能在網絡邊緣和更大的生态系統和價值鍊之外,實作傳統機器學習系統無法完成的任務的認知系統:智能和流暢地與人類專家互動,提供清晰可行的解釋,并增強使用者對決策的信任和信心。

關鍵概念:

■ 作為資料驅動機器智能方法的配套技術,混合AI可以改善邊緣計算。

■ 在IoT和其它在邊緣運作的系統中使用混合AI,為連接配接、使用者體驗和營運決策帶來了新的潛力。

思考一下:

AI和邊緣計算可以為您的應用帶來哪些潛在好處?

繼續閱讀