《智能時代：大資料與智能革命重新定義未來》中預言，傳統的行業都将采用智能技術實作更新換代，也會改變原有的商業模式。的确，在近兩年人工智能在應用端的創新如雨後春筍，無人駕駛、智能推薦等AI應用已經成為現實。
但同時，我們也發現AI的落地場景大都源于資本密集型的行業，這并不符合AI普惠，服務于産業智能化的背景。
實際上，現在阻礙AI産業發展的既不是算法也不是算力，而是如何更好将AI的能力轉化成工程手段。除了人所共知的自動駕駛等核心應用場景，還有大量的工程領域，千行百業的複雜場景，各種各樣的終端裝置，需要AI技術的輔助。
最近在極術社群（aijishu.com）讀到一本《AI嵌入式系統: 算法優化與實作》，可以幫助嵌入式技術相關專業學生或開發人員提升技能，加速嵌入式AI在行業的大規模商業落地。
嵌入式AI對AI商業化的理論支撐
在AI商業化的程序中，要實作技術的落地，不僅需要性能優越的算法模型和可靠的硬體支援，還需要把AI技術和硬體環境進行有機結合，再應用到具體的實際場景中。如果說未來是一個智能世界，那麼每一個終端都應該是智能的，這就必須要依賴于嵌入式AI技術。
嵌入式，就是指一種可被内置于裝置或裝置的專用計算機系統。通常來說，具有數字接口的裝置都具有嵌入式系統，如手機、車載電腦、智能手表等等。而嵌入式 AI，則是一種讓 AI 算法可以在終端裝置上運作的技術
通常而言，嵌入式AI對于高實時處理的場景具有天然的優勢，比如無人機、智能汽車、産業機械、電器、安檢等場景中得到了越來越多的應用。
很多人也許會問，5G網絡成熟之後，AI能力可以上傳雲端處理，為什麼要嵌入式AI呢？實則不然，終端所處的場景都比較複雜，比如智能汽車行駛會遭遇不可預知的路況，就無法保證資料能夠及時同步，要讓汽車做出智能駕駛甚至無人駕駛的及時反應，就需要嵌入式AI，使其能夠及時做出判斷。
而從開發者的角度，學習AI嵌入式系統也困難重重。比如如何訓練神經網絡來識别模式，如何優化該網絡，以滿足嵌入式裝置有限的尺寸，進而達到尺寸和功率目标等等。這是一個系統性的工作。
是以，《AI嵌入式系統: 算法優化與實作》從深度神經網絡底層計算細節入手，為嵌入式AI技術提供了全面、深入的解讀。為嵌入式領域工程技術人員、機器學習算法的底層算法軟體開發人員解惑，同時也可作為計算機、電子資訊、自動控制等相關專業高年級大學學生的參考教材。
理論與實踐結合：不同路徑下的選擇
很多計算機行業的叢書，都會存在過于偏重于理論知識，缺乏實踐支撐的老問題。
而《AI嵌入式系統: 算法優化與實作》則是集機器學習算法優化理論和應用實踐為一體，不僅面向人工智能的嵌入式應用，涵蓋了基于運算量，記憶體，功耗等多元度的機器學習算法優化理論與技術。從算法底層單元到機器學習算法訓練-推理聯合優化及自動優化部署算法等方面進行闡述，還結合通用嵌入式處理器進行了驗證。
從處理器系統架構選擇和機器學習算法選擇，兩個方向亦可見本書的實踐價值。
現在很多機器學習算法基于海量存儲和運算，對功耗，體積，計算能力和存儲容量有較高要求，而不同領域的嵌入式系統有多條途徑，在具體場景，如何去選擇，這在一定程度上增加了開發者學習的難度。
比如，基于GPU的通用多處理器架構，方案通用性強、算力高，但代價是硬體成本高、功耗大；基于專用運算加速引擎的定制化方案運算效率高，功耗可控，但運算結構相對固定，靈活性差；而基于現有處理器對算法進行深度優化的方案成本低，不需要專用或定制化硬體，通用性強，但代價是需要手動對各案例逐個優化，開發難度高。
存在即合理，不同的路徑在不同的場景都有其存在的價值。
《AI嵌入式系統: 算法優化與實作》中關注的是基于現有嵌入式處理器系統和架構，通過不同層次的優化實作機器學習算法。雖然所介紹的方法以通用嵌入式處理器為例，但也能夠應用于GPU或者硬體加速引擎架構，比如基于變換域的快速卷積算法，在GPU的底層運算庫中得到應用，基于加減圖的常數乘法運算能夠友善地在晶片硬體設計中實作。
多樣性不僅存在于處理器系統和架構，包括機器學習也涉及多個不同領域的算法選擇。
比如，基于統計學系的算法理論模型設計精巧，泛化性好，運算量相對較低，容易在存儲量的運算量受限的嵌入式系統中實作，但它依賴較強的機率假設，模型上的偏差限制了它在實際應用中的性能。
反觀神經網絡算法，盡管性能優越，但龐大的參數存儲量限制了其在嵌入式系統上的實作。近年來的研究發現，很多神經網絡架構中存在大量備援的運算和參數，通過運算的簡化和架構裁剪能夠大大降低神經網絡對計算性能和記憶體的需求，使得在嵌入式系統上實作它成為可能。
是以，《AI嵌入式系統: 算法優化與實作》讨論的内容，也覆寫了基于統計學和基于神經網絡的機器學習算法在嵌入式系統上的實作，通過算法和例程介紹具體的優化手段。
“小心思”幫讀者更快吸收知識點
為什麼說《AI嵌入式系統: 算法優化與實作》，可以同時滿足開發者和專業學生的需要呢？
首先，從專業度上來說，本書的兩位作者都有較強的專業背景，如應忍冬是上海交通大學電子資訊與電氣工程學院副教授，碩士生導師。長期從事嵌入式系統和數字電路教學與科研工作；劉佩林是上海交通大學電子資訊與電氣工程學院教授，博士生導師。他們既具備專業視角，也懂得如何授業解惑。
其次，從内容的詳實度上，本書的内容涵蓋了通用嵌入式優化技術，包括基于SMD指令集的優化、記憶體通路模式優化、參數量化等，并在此基礎上介紹了信号處理層面的優化、Al推理算法優化及基于神經網絡的Al算法訓練—推理聯合的優化理論與方法。此外，本書還通過多個自動搜尋優化參數并生成C代碼的例子介紹了通用的嵌入式環境下機器學習算法自動優化和部署工具開發的基本知識，通過應用示例和大量代碼說明了Al算法在通用嵌入式系統中的實作方法，力求讓讀者在了解算法的基礎上，通過實踐掌握高效的Al嵌入式系統開發的知識與技能。
第三，《AI嵌入式系統: 算法優化與實作》本身也考慮到不同閱聽人的接受度問題，是以在機器學習算法在嵌入式系統中的内容不僅給出了手動優化的步驟，也有軟體輔助優化的介紹，讓讀者可以根據的實際需求進行了解。特别是書中底層算法代碼，以Python語言形式進行了展現。這是考慮到Python語言表達能力和程式簡潔性，這些“小心思”可以幫助讀者更好的吸收和學習本書的知識點。
随着人工智能技術，在各個行業的普及，将AI技術和嵌入式系統相結合，建構AI嵌入式系統，本身也是為AI商業化的大規模落地奠定了基礎，而這也是《AI嵌入式系統: 算法優化與實作》一書的初衷。