天天看點

華金證券:雲端計算進入高性能計算時代 大模型訓練仍以GPU為主

智通财經APP獲悉,華金證券釋出研究報告稱,雲端計算進入高性能計算時代,大模型訓練仍以GPU為主。該行判斷GPU仍将是訓練模型的主流硬體:1)Transformer架構是最近幾年的主流,該架構最大的特點之一就是能夠利用分布式GPU進行并行訓練,提升模型訓練效率;2)ASIC的算力與功耗雖然看似有優勢,但考慮到AI算法還是處于一個不斷發展演進的過程,用專用晶片部署會面臨着未來算法更疊導緻晶片不适配的巨大風險;3)英偉達強大的晶片支撐、生态、算法開源支援。

建議關注:瑞芯微(603893.SH)、晶晨股份(688099.SH)、星宸科技(待上市)、全志科技(300458.SZ)、北京君正(300223.SZ)、中科藍訊(688332.SH)、富瀚微(300613.SZ)、恒玄科技(688608.SH)。

華金證券主要觀點如下:

在晶片算力快速提升、日趨龐大的資料量共同支撐下,AI算法疊代更新加速。

AI的發展經曆了很長時間的積累,其能不斷跨越科學與應用之間的鴻溝主要得益于技術突破、行業落地、産業協作等多方面的推動,而技術突破是其中最為關鍵的要素。從起步階段發展到當下深度學習階段,算法、資料和算力構成了AI三大基本要素,并共同推動AI向更高層次的感覺和認知發展。算法方面,目前深度學習仍然是AI技術發展的主導路線,但是早期所使用的有監督學習方式由于受限于對大量标注資料依賴與了解能力缺乏,而且模型通用性較差,正逐漸被新的技術所取代,在晶片算力的快速提升、日益龐大的資料量這兩者的支撐下,新算法正處于加速疊代更新過程中。

自監督學習的算法模型快速發展,“預訓練+精調”的開發範式邁向成熟,新一輪AI技術産業化之路開啟。

谷歌、臉書等多家企業先後釋出使用自監督學習的算法模型,通過挖掘無标注資料的監督資訊,減少人為幹預。現階段自監督學習本質上仍依賴規範化、标簽化的資料,主要借助預訓練模型構築并學習資料特征。“預訓練”的做法一般是将大量低成本收集的訓練資料放在一起,經過某種預訓方法去學習其中的共性,然後将其中的共性“移植”到特定任務的模型中,再使用相關特定領域的少量标注資料進行“微調”,這樣的話,模型隻需要從“共性”出發,去“學習”該特定任務的“特殊”部分即可。

預訓練模型成功的關鍵是自監督學習與Transformer的結合。預訓練大模型在海量資料的學習訓練後具有良好的通用性和泛化性,使用者基于大模型通過零樣本、小樣本學習即可獲得領先的效果,同時“預訓練+精調”等開發範式,讓研發過程更加标準化,顯著降低了人工智能應用門檻。整體上來看,關于本輪AI技術突破所帶來的産業化變局,該行有三個核心觀點:1、基于GPT為代表的大模型AI的通用能力,未來幾年大模型AI的滲透廣度、深度和速度有可能會超預期;2、ChatGPT采用的是閉源模型,其加速的産業落地會刺激更多的廠商加大大模型AI的研發投入,進而推動AI産業化發展;3、大模型AI通用能力的提升,帶動的将不僅僅是雲計算市場的增長,伴随着多種技術與商業化路徑的逐漸成熟,雲、邊緣、端的增量市場空間均有望漸次打開。

雲端計算進入高性能計算時代,大模型訓練仍以GPU為主。

雖然AI晶片目前看有GPU、ASIC、CPU、FPGA等幾大類,但是基于幾點原因,該行判斷GPU仍将是訓練模型的主流硬體:1、Transformer架構是最近幾年的主流,該架構最大的特點之一就是能夠利用分布式GPU進行并行訓練,提升模型訓練效率;2、ASIC的算力與功耗雖然看似有優勢,但考慮到AI算法還是處于一個不斷發展演進的過程,用專用晶片部署會面臨着未來算法更疊導緻晶片不适配的巨大風險;3、英偉達強大的晶片支撐、生态、算法開源支援。

模型小型化技術逐漸成熟,從訓練走向推理,雲、邊、端全次元發展。

該行認為至少有四大投資主線應持續關注:1、GPU方面,在英偉達的推動下,其從最初的顯示卡發展到如今的高性能并行計算,海外大廠已經具備了超過20年的技術、資本、生态、人才等儲備,形成了大量的核心技術專利,而且也能充分享有全球半導體産業鍊的支撐,這都或是目前國内廠商所缺失的。近幾年在資本的推動下,國内湧現出數十家GPU廠商,各自或都具備一定的發展基礎,但整體經營時間較短,無論從技術積澱、産品料号布局、高端料号性能來說,與國外大廠仍具備較大差距。

但國産化勢在必行,國内相關産業鍊重點環節也積極對上遊晶片原廠進行扶持,國産算力晶片需要不斷疊代以實作性能的向上提升,後續持續關注相關廠商料号更新、生态建設和客戶突破;2、AI在端側裝置應用普及是大勢所趨,目前,知識蒸餾、剪枝、量化等模型小型化技術在逐漸成熟,AI在雲、邊、端全方位發展的時代已至。除了更加廣泛的應用帶來需求量的提升外,更複雜算法帶來更大算力的需求也将從另一個次元推動市場擴容;3、資料的高吞吐量需要大帶寬的傳輸支援,光通信技術作為算力産業發展的支撐底座,具備長期投資價值;4、Chiplet技術可以突破單一晶片的性能和良率等瓶頸,降低晶片設計的複雜度和成本。基于向Chiplet模式的設計轉型,已經是大型晶片廠商的共識,相關産業鍊具備長期投資價值。

風險提示:技術創新風險、宏觀經濟和行業波動風險、國際貿易摩擦風險。

下一篇: Shiro Realm

繼續閱讀