天天看點

AI狂想時代,誰能打造加速引擎?

作者:半導體産業縱橫
AI狂想時代,誰能打造加速引擎?

如果說2023年是生成式AI的元年,那麼2024年是生成式AI加速普及的一年。

ChatGPT釋出後,人工智能由此進入大模型時代。生成式AI的出現開始推動人類進入數字文明階段。

AI将企業卷入變革的浪潮,正如神州數位董事長郭為所說:“未來十年所有企業的企業戰略将充分利用三個原生(雲原生、數字原生、AI原生)來颠覆自己的業務,神州數位也願意成為企業的數字化轉型全生命周期的合作夥伴,讓我們一起共同來迎接這樣一個偉大的時代。”

01

信創和AI算力,築基智算賽道

信創,即資訊技術應用創新産業,是資料安全、網絡安全的基礎,也是新基建的重要組成部分,是各行各業數字化更新的“發動機”。立足信創,神州數位持續打造“神州鲲泰”自主品牌,形成了覆寫“資料計算、終端産品、資料網絡”的三大産品線,在“國産化算力+智算”持續布局。

過去一年,神州鲲泰問學一體機、KunTaiA924訓推一體AI伺服器等一系列自主品牌産品相繼面世;神州鲲泰14款伺服器通過“通用伺服器政府采購需求标準專題測評”。

随着AI的發展,大模型所使用的算力資料量和參數規模呈現“指數級”增長,這帶來智能算力需求的爆發式增加。IDC預計,國内2026年智能算力規模有望進入每秒十萬億億次浮點計算級别,2021-2026年智能算力規模年複合增長率有望達52.3%。

AI狂想時代,誰能打造加速引擎?

神州數位副總裁、神州數位信創控股董事長韓智敏

神州數位副總裁、神州數位信創控股董事長韓智敏也表示:“目前AI發展面臨巨大的算力挑戰,除了網際網路廠商有大的模型和大的算力叢集,千行百業也需要大量的算力基礎。”而一系列基礎設施層的問題和挑戰也随之湧現。

一方面是智算叢集間以及叢集内部的複雜相容及使用率問題。目前,國内企業處于複雜的商業環境,異構的智算基礎設定已經成為必然,但異構的智算叢集可以實作的模型浮點使用率還存在大量的提升空間。舉個例子,OpenAI在訓練ChatGPT4時,MFU的使用率隻有在32%~36%之間。目前MFU使用率的平均的行業使用率是在30%~40%,提高到50%都極為困難。由此,神州鲲泰推出了HISO異構智算排程營運平台和全新的異構智算融合加速平台HICA。

異構智算排程營運平台(HISO),基于100%雲原生技術,整合GPU硬分片和虛拟分片技術,實作了GPU資源的池化和跨叢集排程能力,提升GPU伺服器叢集的資源使用率。

異構智算融合加速平台(HICA),具有一雲多芯特性,支援華為昇騰、英偉達、英特爾等國内外主流AI晶片,可實作訓練推理任務在不同品牌、不同型号晶片組成的智算叢集的混合訓練推理,預計降低20%GPU閑置算力。

另一方面,生成式AI模型的參數量大,算力和高能耗成為需要解決的核心問題。為解決在智算中心算力需求,神州鲲泰打造了多款AI伺服器,覆寫從訓練到推理的全部場景。

AI狂想時代,誰能打造加速引擎?

神州鲲泰全液冷整機櫃方案 KunTai Pod 2000

針對智算中心的高能耗痛點,神州鲲泰還推出了一體化傳遞的全液冷整機櫃,現場無需安裝調試,效率提升10倍;最大單櫃功率60kW+,一櫃頂傳統4~8櫃,1.5倍于國内友商的能效比。

在過去的一年中,智算中心的建設在中國大地上可謂如火如荼。

政策層面,“新質生産力”首次寫入政府工作報告,“人工智能+”行動全面開啟,還有國資委召開的“AI賦能産業煥新”專題會,提出:加快建設一批智能算力中心。

2023年全國建立智算中心項目超過100個,預算基本是上億。從國家啟動“東數西算”工程開始,傳統IT企業、雲廠商和電信營運商就已經在緊鑼密鼓地布局智算中心。

神州數位在智算中心深度參與,神州鲲泰作為“鲲鵬+昇騰”計算産業生态重要參與者之一,為智算中心提供專業基礎設施硬體。目前,神州數位、神州控股已經參與了包括長春新區智算中心、沈陽人工智能計算中心、廈門鲲鵬超算中心、香港特區政府大模型智算中心等的建設和營運。

值得一提的是,今年一月份,為了給生态夥伴提供最基礎的技術環境,聚焦AI算力,神州數位深圳人工智能計算中心項目已經正式啟動。預計不久之後,這個搭載神州問學平台的智算中心就會正式向市場、向生态提供算力、模型、應用、解決方案相關的服務。

從财報來看,AI的入局和産品的合力,使得神州數位信創業務實作爆發性增長。2023年度神州數位信創業務整體營收突破34億,連續三年保持高增長。2024年一季度神州鲲泰AI算力相關業務單季營收規模接近去年全年。

02

AI原生場景賦能,“緻廣大而盡精微”

過去一年,AI大模型技術飛速發展,如何用好大模型實作降本增效、推動業務增長,成為了企業真正關心的問題。

在這個“百模大戰”甚至“千模大戰”的時代,如何将技術轉化成真正的生産力?答案是以生态之力破局,加速生成式AI在企業級的落地。

2023年,神州問學的推出,成為助力企業AI落地的新範式。

目前,神州問學已對接了數十家主流大模型,并釋出慧閱讀、慧解析、慧問答等靈活應用,成功幫助醫藥、零售等行業客戶落地生成式AI應用場景。

在數雲原力大會2024上,神州問學新版本釋出,包含Agent工程、企業知識治理、模型訓練與管理三大子產品。

以神州問學新版本的三大功能闆塊作為切入點,神州數位有自己的考量:現實中,企業有大量需要AI賦能的場景。對于企業來說,AI場景如何與每個業務更好地結合,如何讓内部IT部門和業務部門更智能化地配合,僅靠簡單的開發者平台是無法滿足的。是以,企業需要已經被實踐證明過的高效完備的AI應用開發架構和規範;需要工具的持續地沉澱;知識治理的持續地深化,更需要若幹個企業模型的持續地訓練和優化。同時為了保證資料安全,這都需要在企業的私域中完成。這麼來看,企業的AI原生創新需要一個平台持續地賦能和加速。神州問學就是這樣的AI原生應用賦能平台,三大闆塊全部覆寫企業客戶需求。

AI狂想時代,誰能打造加速引擎?

神州數位副總裁、CTO李剛

神州數位副總裁、CTO李剛表示:“當‘緻廣大’已被充分表達,神州數位反而愈加堅定以客戶為中心的‘盡精微’,才是真正實作AI着陸的當務之急。”

關于大家關心的企業資料安全方面,李剛在接受采訪時分享到,神州問學通過三個方面進行企業資料安全的保護。

第一,神州問學部署的場景是私有化場景。完全在客戶可控的環境中進行部署。第二,神州問學納管的大模型,無論是商業化模型還是開源模型,經過微調和預訓練後,同樣是本地化部署。這兩點上來說,就能夠保證基本的安全性問題。第三,是一個企業内部如何保證知識的可通路性。企業會因為部門不同,而需要多個模型,比如人力模型、财務模型等,關鍵在于給企業資料一個“安全圍欄”。李剛說到:“確定模型回答它能夠回答的正确問題,而不回答不相關的問題。”再疊加這一點,将進一步確定企業資料安全問題。

AI狂想時代,誰能打造加速引擎?

神州鲲泰問學一體機

另外,我們還看到神州數位充分發揮在“算力+AI”軟硬體産品的自主創新能力,打造了神州鲲泰問學一體機。基于KunTaiA924訓推一體AI伺服器,可以訓練推理無縫銜接、同時進行,大大提高大模型訓練效率。預裝神州數位自研生成式AI産品“神州問學”,開機即用,極簡部署、免調優,快速部署企業專屬AI大模型。

03

AI行業加速,聚合生态創新

Chat GPT的橫空出世,讓生成式AI一夜之間出現在每個人的眼前。

對于這種革命性的技術,每個企業都處于焦慮的狀态,希望能從中找到自己創新的機遇。但在探索AI的過程中,還有很多現實的問題在眼前。

需求側,很多企業面對生成式人工智能的疊代速度無所适從,他們需要在投入和回報之間找到平衡;供給側,在商業化落地的過程中,單個企業有時候很難把整個AI技術棧跟客戶的行業需求結合起來;人才上,人才的短缺是人工智能持續發展的現在最大的阻礙。

AI狂想時代,誰能打造加速引擎?

神州數位聯席董事長、首席執行官王冰峰

神州數位聯席董事長、首席執行官王冰峰說到:“在這些現實的問題以及我們所看到人工智能未來巨大的颠覆潛力下,沒有一個企業可以獨自前行。我們相信生态會變成AI落地加速中必不可少而且是強有力的驅動力。”

AI狂想時代,誰能打造加速引擎?

神州數位希望打造一個新型的生态夥伴關系,從三個方面入手:一個是解決方案和技術的生态,第二個是人才的生态,第三個是市場的生态。

解決方案和技術的生态上,技術本身不會颠覆任何事情,隻有能夠落地的解決方案、應用和商業模式才會。AI原生應用能夠解決過去解決不了的問題。隻有大家一起努力,産生足夠多的AI原生的解決方案和應用,才能形成一個健康的生态環境。讓人工智能從企業工具演進為企業獨立的智能體Agent。

在人才生态上,神州數位将聯合國際國内最領先的人工智能的企業,共同建設人工智能的教育訓練和認證的體系。目前,神州數位是中國大陸地區唯一的一家同時擁有Microsoft、AWS、Google三家官方授權的教育訓練合作夥伴,同時也是阿裡雲、騰訊、天翼、華為、華為雲、Oricle、IBM等數十家先進企業的教育訓練合作夥伴。

在市場生态上,依托神州數位2035實驗室以及人工智能研究院,不斷地強化神州數位跟高校、院所、機構、協會之間的合作,來共同推進人工智能在技術生态上長期發力。

04

結語

生成式AI已狂奔了近一年時間後,至今仍持續高熱。

AGI時代号角已經吹響,神州數位将聚焦三件事:AI原生場景賦能、多雲異構綠色智算、國際化AI生态創新。

在數雲原力大會開幕式的最後,神州數位董事長郭為(數字分身)說到:“我們提出了神州數位在AGI時代的新主張:以客戶為中心的AI着陸加速引擎。數雲融合也再上一個新的台階,更新為AI驅動的數雲融合。神州數位将在“人工智能+”的中國式現代化道路上持續探索,以國際創新中心這個未來AI新地标為載體,開展更多的互動和協同創新。”