目前，随着人工智能的發展逐漸深入後，算力成了AI發展的核心資源。必然導緻許多公司都在開發自己的AI晶片，在AI算力領域能搶占至高點。一些傳統的晶片制造商，如英特爾、三星、博通和高通，正在投入大量資金開發這項技術。當然，一些大型科技公司，如蘋果和谷歌，也在努力創新AI晶片領域。我們就目前市場的主流的幾個AI晶片做簡要介紹和對比（盡可能不深入技術，而是給大家整體映像，來幫助大家了解及決策參考）。
- TPU(Tensor Processing Unit)：這是谷歌專門為機器學習設計的AI加速晶片,用于加速tensor(張量)相關的運算,尤其對大規模神經網絡模型的訓練和推理有非常好的加速效果。TPU采用了專門的矩陣運算單元,資料流水線等架構。谷歌使用TPU獲得了很大的AI計算優勢。
- NPU(Neural Processing Unit)：這是用于加速神經網絡模型運算的專用晶片。通常被內建在部分智能手機、IoT裝置中,用于本地的神經網絡推理。主要由移動晶片廠商設計,如高通、蘋果、華為的自研NPU。優化了針對移動端AI算法的算力、功耗、成本等名額。
- GPU(Graphics Processing Unit)：圖形處理器,具有大規模并行計算能力,被廣泛應用于AI模型訓練中。知名的有NVIDIA Tesla系列GPU,針對深度學習進行了架構優化。AMD、Intel等也有專門的AI加速GPU。可以提供很強的算力來訓練複雜的AI模型。
- FPGA(Field-Programmable Gate Array)：現場可程式設計門陣列,可在場地靈活程式設計,覆寫面廣。英特爾、賽靈思等公司提供了專用于AI加速的FPGA解決方案。可以程式設計實作不同的加速功能,但程式設計複雜度較高。
- ASIC(Application Specific Integrated Circuit)：應用專用內建電路,專門針對特定應用和算法設計,如Graphcore和Cerebras的AI晶片。性能和效率可以做到極緻optimization,但不靈活。
- SoC(System on a Chip)：把CPU、GPU、NPU、DSP等多種處理器內建在一顆晶片上,如華為的麒麟系列晶片。SoC可以提供綜合算力,但設計和驗證複雜。
綜上,各類AI晶片都有不同的特點,通常要根據具體應用場景需求進行選擇。然後我來對主流的AI晶片在性能和特征上的差別做一個簡單對比:
- 性能計算能力:GPU > TPU > FPGA > ASIC > SoC > NPU GPU擁有很高的浮點運算能力,是訓練大模型的首選。TPU以矩陣運算優化代價較低。FPGA、ASIC、SoC通過定制加速特定運算。NPU計算力更弱但運算效率較高。
- 靈活程式化:FPGA > GPU > SoC > TPU > ASIC > NPU FPGA可以現場程式設計;GPU可以通過架構如CUDA程式設計;SoC內建多種處理器;TPU功能較固定;ASIC無法程式化;NPU專注于卷積神經網絡。
- 耗電功耗:NPU > TPU > FPGA > ASIC > GPU > SoC NPU和TPU經優化,功耗很低。FPGA、ASIC可精确定制。GPU功耗很大。SoC內建多元件,功耗也高。
- 成本價格:NPU < SoC < TPU < FPGA < GPU < ASIC 大批量生産的NPU和SoC成本低。GPU和FPGA作為通用晶片,價格相對較高。ASIC和TPU定制成本高昂。
- 開發難易程度:NPU < SoC < TPU < GPU < FPGA < ASIC NPU和SoC封裝了軟體庫容易上手。GPU有成熟架構。FPGA和ASIC需要硬體設計。TPU隻在谷歌内部使用。
晶片性能參數簡要對比：
| 晶片類型 | 計算能力(TFLOPS) | 功耗(W) | 成本($) | 程式設計難度 |
| TPU | 數百 | 數十（上百） | 高 | 低 |
| GPU | 千量級 | 上百 | 高 | 中 |
| NPU | 十量級以下 | 1量級 | 低 | 低 |
| FPGA | 數十（上百） | 十數 | 中 | 高 |
| ASIC | 數十~上百 | 數十 | 最高 | 無可程式設計 |
| SoC | 十量級 | 上百 | 低 | 低 |
注：
- 計算能力以TFLOPS(每秒萬億次浮點運算)為機關
- 功耗以晶片峰值功率consumption為标準
- 成本價格較難确切估計,僅作相對比較
- 程式設計難度針對AI應用的開發難易度
- 各型号晶片性能範圍較大,取中間值
- TPU相關參數基于Google TPU
我們相信晶片技術随着不同方向的持續發展，每個晶片的發展都會找到自己最适合的應用場景。根據公開資料預測，人工智能晶片的市場正在快速增長。到2026年，全球人工智能晶片元件的市場價值預計将從2019年的80億美元增長到超過700億美元，随着具有機器學習能力的物聯網裝置的激增和智能城市的發展推動市場。
那麼，人工智能在晶片設計中的影響也将繼續增長。随着越來越多的工作負載需要進階别的人工智能處理來支援智能功能，對節能、高速計算的專用晶片的需求将使強大的人工智能晶片設計變得至關重要。也正是這樣，AI晶片領域的競争遠未結束，我們會持續保持關注。