“談到當下人工智能的發展形勢,現在有一個詞叫‘怕錯過’,每個人都怕錯過,我們的客戶也怕錯過,是以我們都在加速學習。”
“這是一個人工智能的新時代,我們不僅是這個時代的見證者,我們更是這個時代的建設者”
……
百模的戰場依舊硝煙四起,AI Agents順勢風起雲湧,人工智能技術與應用依然在一路狂奔。今年,今年政府工作報告中提出要開展“人工智能+”行動,成為推動産業更新和經濟增長的重要助力。2024年浪潮資訊生态夥伴大會(IPF2024)高峰論壇彙聚了應用開發、資料服務、算力系統、算法領域的領軍企業。“人工智能+”應該“+”什麼、怎麼“+”?如何攜生态之力,落地“人工智能+”,這些話題被激烈讨論。
觀風之所起,度風之所向。中科軟董事長左春,拓爾思董事長施水才,榮聯科技首席科學家王向東,潞晨科技創始人兼董事長尤洋,銜遠科技COO、創始合夥人王曉波,浪潮資訊進階副總裁劉軍等行業大咖在這場高峰對話中交鋒交流,每一位與會嘉賓既是AI變革的見證者,更是推動者,他們分享洞見,探讨如何利用AI技術賦能千行百業、如何讓“人工智能+”的願景成為現實。
高峰對話由浪潮資訊進階副總裁陳昌浩主持。在不改變原意的基礎上,本文對内容進行了編輯整理,希望能夠給您帶來更多的啟發與思考。
話題要點:
■如何看待今年IPF “智能元啟 創見 共行” 的啟示?
■産業鍊各方,在戰略布局上,會選擇如何擁抱“AI+”?
■未來生态該如何協同?
■各方該在AI産業鍊中發揮怎樣的作用去協力推“AI+”?
嘉賓精彩觀點
中科軟董事長 左春:
面向垂直領域的大模型應用,第一步是選擇基座,第二步是訓練模型,第三步是整合解決方案,這三步都要在企業端建立起來,進行技術遷移、搭建、運作,以實用為标準,真正能夠實用好用。
拓爾思董事長 施水才:
大模型的落地需要三個“實”,實在、實用和實效。實在是指 AI落地的時候工程化傳遞;實用是和使用者的業務吻合;實效是需要降本增效。
榮聯科技首席科學家 王向東:
隻解決了算力的排程問題是不行的,面對生物醫療、生命科學等領域高算力、海量資料的存儲及管理需求,必須與生态夥伴協同才能滿足客戶要求。
潞晨科技創始人兼董事長 尤洋:
通過極緻的算力軟體和記憶體優化來提升算力的附加值,用同樣的裝置訓出更大的模型,幫助企業盡可能降低關鍵領域大模型的門檻。
銜遠科技COO、創始合夥人 王曉波:
對于技術的商業化路徑,我們傾向于先改變模式,利用行業認知和模型能力選擇一個閉環場景,形成資料飛輪,不斷打磨自己的模型和産品,與客戶一起成長。
浪潮資訊進階副總裁 劉軍:
針對算力多元化、模型多樣化及場景多樣化,浪潮資訊希望連接配接和聚集生态力量,助力每個元腦生态夥伴利用自身場景和資料,通過企業大模型開發平台先行先試,有了錘子再去找釘子,快速入局AI+市場。
IPF2024,你怎麼看?
浪潮資訊陳昌浩:
再次感謝各位來到IPF2024!今年“兩會”報告首次提出了“人工智能+”戰略,通過今天整個會議的程序,也感受到了“人工智能+”時代也已撲面而來。
今年IPF的主題是“智能元啟 創見·共行”。首先想聽聽各位對今天大會的感受,哪個觀點是你們印象最為深刻的?
中科軟左春:談到人工智能的發展,現在有一個詞叫“怕錯過”,每個人都怕錯過,我們的客戶也怕錯過,是以我們都在加速學習。今天看到浪潮資訊在系統軟體平台的努力,以及算力、算法等方面的成果,我對此印象尤為深刻。
拓爾思施水才:第一,我感受到了浪潮資訊正在集全棧AI系統創新之力,全面擁抱AI。第二個印象比較深的是浪潮資訊的夥伴生态體系非常健全。第三,大模型應用開發的一體化端到端的開發平台EPAI平台也是亮點,跟我們的拓天LLMOps 有着相似的路徑。
榮聯科技王向東:兩個詞,第一個詞是信心,彭總講的以應用為導向,以系統為核心。應用為導向點破了我們所處的時代特點,從技術競争變成應用的競争。浪潮資訊倡導以系統為核心,以平台帶動應用創新,是以生态模式在競争。對于未來我們與浪潮資訊的合作,我們信心十足。第二個詞是心動,看着EPAI,很心動,正琢磨着怎麼回去跟使用者的應用結合。
潞晨科技尤洋:我的第一點感受是,浪潮資訊今天所釋出的産品、工具有助于合作夥伴們更便捷、高效地去做自己的業務,特别是在AI方面。第二點是,浪潮資訊對整個技術,大趨勢的了解是比較深的,有利于進一步鞏固生态的力量。
銜遠科技王曉波:生态兩個字就足以熱血沸騰了。在大模型賽道,中國領先的是豐富的消費場景和應用場景,以及非常好的資料基建。在生态方面,我們很希望擁抱生态,也希望我們自己的産品也有SaaS、MaaS各種服務。
産業鍊各方,在戰略布局上,會選擇如何擁抱“AI+" ?
浪潮資訊陳昌浩:首先,浪潮資訊作為系統廠商,面向算力多元化、場景差異化、大模型多樣化的産業現狀,會如何加速AI+落地?
浪潮資訊劉軍:如果從生态模式思考,針對算力多元化、模型多樣化及場景多樣化問題,浪潮資訊期待通過元腦生态來提高整個産業在AI創新落地的效率,我們非常願意成為這樣的平台生态承載者。
元腦生态聚合連結600+算法廠商、8000+系統內建商。對于具備AI開發核心能力的左手夥伴,我們在元腦企智EPAI平台實作對多元算力、多模算法的支援。對于右手夥伴,ISV可針對行業落地的解決方案,落地到各個場景客戶這一端,我們希望通過EPAI工具化平台,使右手夥伴能夠快速高效的面向領域大模型進行開發并落地。
生态的快速發展和繁榮需要有一個能夠連接配接、聚集力量的産品,這就是今天我們推出企業大模型開發平台(EPAI)的思考。我們希望通過EPAI開發平台,為上萬家合作夥伴提供工具箱,提供方法論,凝聚并激發生态的活力、夥伴的創新力,加速賦能千行百業的智能化轉型。
浪潮資訊陳昌浩:中科軟目前面向保險、醫療等領域進行AIGC研究和生态建設。請左總分享一下中科軟的經驗和體會?
中科軟左春:當客戶想要建立垂直領域的應用時,他需要選擇基座,這個基座是初始化的基座,需要帶着通用知識,也需要低能耗;另外它的技術要開放,這個也涉及到開源。為什麼要開源呢?因為開源要解決流行性問題,即需要有大量的人來用,很多更新、很多人活躍的維護,流行的開源軟體具備重大價值。我們看到客戶的第一個環節即是選擇基座,在初始化的階段,需要确定模型參數,參數量與token數并不是越大越好,應該有一個合理的度。
當我們選擇基座以後,第二步是訓練模型,目标是基于已有的領域知識進行訓練實作精準化。在訓練過程中,廠家提供的是基座和工具,ISV提供了重要的知識梳理和知識的訓練,客戶也會根據應用需求來提出自己的方向或者重點。最後,現在AIGC主要的方法是神經網絡和向量資料庫,都是歸納推斷,存在一定誤差。人工智能的成果往往是更新版的搜尋功能,需要和已有應用軟體的經驗和能力相結合,把二者合在一起作為一個解決方案,最終以實用效果為衡量标準。
這三步都要在企業端建立起來,在建立的過程中,首先基礎技術在于廠家,我們要學習并結合客戶需求,把技術做遷移,再搭建、運作,并和已有系統內建。
浪潮資訊陳昌浩:AI和大模型發展離不開高品質的資料。請施董分享下,在企業級大模型應用落地時,資料層面所遇到的最核心挑戰是什麼,該如何更好地将資料轉化為“生産力”?
拓爾思施水才:首先,從資料層面,ISV有五種類型。第一種是做是做通用軟體産品的,随着開源和雲服務的發展,受到很大的沖擊。第二類是做行業應用軟體,但是行業應用軟體未來有一個重大的挑戰,使用者可能會成為我們的競争者,這在銀行業已經非常明顯了。第三個是做人力外包型服務的,也面臨着碼農被AI取代的風險,人效越來越高,收益越來越低。第四條路是硬體帶動軟體,要做軟硬一體化的東西,要做一體機。第五條路就是拓爾思想做的資料和服務。我認為,未來應該從軟體到數件,資料這一塊非常有前途。
其次,我們認為資料是大模型最重要的因素之一。因為大模型的大就是參數大,但是大家發現大力出奇迹,蠻力不可續,大模型有能力,沒有智力,一味地在使用者端搞算力競賽,成本首先不靠譜,也沒有産出。
是以,我認為現在大模型的落地需要三個“實”,第一個是實在,第二個是實用,第三個實效。實在是指 AI落地的時候工程化傳遞非常重要;實用是需要與業務高度相關,需要和使用者的業務吻合;實效是需要降本增效。解決這三個問題,是目前大模型應用非常重要的挑戰。
浪潮資訊陳昌浩:榮聯科技正在發力深耕生物醫療、生命科學等領域,請王總談談,面向這類強算力、大資料需求的場景領域,如何實作以應用為導向,發揮出“高算效”?
榮聯科技王向東:榮聯科技把領域的業務需求轉變IT需求,然後利用IT技術和業務進行深度融合,協助這個領域的客戶做數字化轉型。我們将生物醫療、生命科學等領域的特點總結為“兩高、兩多”,“兩高”是指高算力、高IO疊代并發;”兩多“是指多樣性的計算需求,多元度資料交叉并存。生命科學領域正利用AI先進技術實作資料的價值化,并驅動自己的業務往前走。從技術角度來看,實質上就是AI的算力服務。
所謂“高算效”是實測性能與資源使用率的雙重提升。過去談到算力,是站在資源角度上描述有多少能力。但實質上經常遇到,客戶買的都是最好的東西,但是實測的性能沒有發揮出來,效力是不對等的。榮聯的優勢是将使用者的算力需求轉為技術支撐,為使用者提供高效的算力服務。随着AI技術的不斷引入,生命醫療領域呈現通過場景化應用開發,帶動多學科的交叉創新研究的趨勢。針對高算力、高IO疊代并發、多元度海量資料交叉并存的特點,利用機器學習技術,識别出可并行處理的任務和關鍵“瓶頸”任務,有針對性的提供不同的算力供給,将多節點并發執行和對瓶頸進行集中算力供給相結合,最大限度的釋放算力,進而提高業務處理效率。
但隻解決了算力的排程問題是不行的,面對高算力、海量資料的存儲及管理必須與廠商相結合才能滿足客戶全部要求。是以,榮聯和浪潮資訊在該領域開展了諸多的合作,譬如研究所的冷凍電鏡系統、醫院的生命科學實驗室平台建設等,當然這也有“元腦生态”的發力作用。
浪潮資訊陳昌浩:潞晨科技所推出的開源AI大模型開發系統可顯著降低大模型落地成本,請尤洋教授從AI Infra層面分享如何更高效地用好算力,開發大模型的經驗?
潞晨科技尤洋:潞晨科技的核心價值是提升算力的附加值。比如說同樣的四五台機器,本來它隻能訓練10億參數模型,現在能不能訓練出百億參數模型?通過極緻的算力軟體,記憶體的優化,把同樣的裝置訓出更大的模型。還有一個角度就是,當機器資源有限時,能不能訓練速度快2倍,幫助合作夥伴和客戶在有限的資源内,通過優化提升更大的算力價值?
為了實作上述目标,潞晨科技主要往兩個點發力,第一點是構造了Colossal-AI Platform系統,并且開源了Open-Sora、ColossalChat等AI大模型解決方案,通過在Colossal-AI把訓練速度提升了2-7倍。第二點,我們專注于對算力要求較高的垂直模型或者垂直行業,目前最明顯的是視訊生成場景,通過我們的技術,幫企業盡可能降低關鍵領域視訊大模型的門檻。
浪潮資訊陳昌浩:銜遠科技是大模型在B端落地的先行者。請曉波總談談大模型發展如何實作技術與應用的協同?在推動大模型落地過程中有哪些挑戰?
銜遠科技王曉波:如果把技術比作化學,應用就是化工,一項技術的發現或者發展,無論它是偶發的還是突發的,除了技術本身要解決的難點之外,它都逃避不了一個經濟的問題。商業化的價值是支撐一項技術能夠更好發展的終極動力。
技術以一個什麼樣的方式、在什麼樣的階段去切入商業化,是所有技術在發展過程中都面臨的問題。中美發展方向各有不同,目前國内業者有一種思路是追着OpenAI,或者在它的延長線上做事情。另一種思路,站在當下的産業業态當中、價值鍊各個環節中,優先提升效率,或者先改變模式。銜遠科技選擇了第二種思路,利用行業的認知和模型能力先選擇一個閉環的場景,在這個閉環場景裡跟客戶一起去成長,形成資料飛輪,并不斷打磨自己的模型和産品,以應用倒推模型技術的發展。
産業鍊各方,該如何攜生态之力共推“AI+” ?
浪潮資訊陳昌浩:我們知道各領域差異很大,“千行百業、千行千面”,當AI+走向落地,離不開生态夥伴的合力推動。請各位用一句話來總結,未來生态該如何協同,各自将在AI産業鍊中發揮怎樣的作用去協力推“AI+”?
中科軟左春:“價值與傳遞是關鍵”
我用兩個關健詞來總結,一是價值,要區分自己的價值,一般看領域知識,有的企業是強領域知識,有些相對比較通用。二是傳遞,傳遞越通用的産品周期越短,越領域性的傳遞時間越長。在這兩個名額基礎上找到了自己的定位,然後利用生态之力協同發展。
拓爾思施才水:“ALL in AI,以資料築基,智拓未來”
作為ISV來說,全面擁抱AI,我們确定一條規矩:如果這個産品沒有AI的基因和元素,停止開發。在生态方面,我認為讓夥伴賺到更多的錢,比自己多賺一點更是正路。
榮聯科技王向東:“元腦生态,新質生産力落地的最佳實踐”
在元腦生态,榮聯是右手合作夥伴,是受益者。加入元腦生态是業務決定的,我們的期待做成的事情僅靠一家公司是無法完成的,場景設計出來以後涉及到算法,每投放一批資料和場景,算法都需要優化,基礎算力也要調優,這是三個類型角色,是ISV+左手+浪潮資訊。
同時,這樣的合作的成果,在領域内是可複制的,在成本不斷降低的同時,也将極大的促進領域應用的發展。是以,元腦生态也是創造力萃取的平台,是推動新質生産力落地的最佳實踐。
潞晨科技尤洋:“我們希望,與浪潮資訊一起去解放AI生産力,賦能千行百業”
銜遠科技王曉波:“生态就是開放的,行業和人都需要做專業的事情,大家一起協同把專業的事情做大,整個生态就繁榮起來了”
大模型的落地跟一個企業能不能把貨賣到消費者是完全一樣的,但大模型更加沒有邊界。我認為生态就是開放的,行業和人都需要做專業的事情,大家一起協同把專業的事情做大,整個生态就繁榮起來了。
浪潮資訊陳昌浩:最後再請劉總用一句話總結,浪潮資訊對于打造生态共同體,推動AI+落地有怎樣的政策和思考?
浪潮資訊劉軍:“紙上得來終覺淺,絕知此事要躬行。這是一個人工智能的新時代,我們不僅是這個時代的見證者,我們更是這個時代的建設者。”
元腦生态夥伴是一個具有學習成長能力的組織,是業界唯一一個實作AI伺服器分銷的生态,實作AI排程平台分銷和管道的生态,是把元腦聯合解決方案複制落地的生态。
從浪潮資訊自身實踐來看,目前,EPAI已全面賦能浪潮資訊,面向營運、服務、研發等環節,快速孵化出智能客服、智能程式設計、智能投标助手等應用。以智能投标助手為例,可實作招标參數自動識别,識别準确率達85%有餘。而這樣的場景落地,是每一個元腦生态夥伴都可以做到的,從自己的場景、自己的資料,采用EPAI工具先把它做起來。就好像我們手裡有了錘子,我們就去找釘子,這是特别好的入局方法。