天天看點

從技術走向落地,行業大模型正從“小”場景倒推 | ToB産業觀察

作者:钛媒體APP
從技術走向落地,行業大模型正從“小”場景倒推 | ToB産業觀察

我們到底需要怎樣的生成式AI?一邊是各大科技巨頭紛紛推出自身的大模型産品,開啟瘋狂卷參數模式,另一邊,随着對大模型能力認知逐漸深入,開始有越來越多的企業關注大模型相關應用在B端的落地。

今年以來,垂直于細微場景的輕量化、小參數模型開始湧現,可以說,各大廠商紛紛推出大模型産品形成“百模大戰”的局勢僅是序章,現在才真正進入“戰役”——如何更好地在行業側落地大模型産品。

一年間,從50億到120億

《北京市人工智能行業大模型創新應用白皮書(2023年)》中顯示,截至2023年10月,中國10億參數規模以上的大模型廠商及高校院所共計254家,分布于20餘個省市/地區。商業咨詢機構愛分析的報告稱,2023年中國大模型市場規模約為50億元,預計到2024年這一數字将達到120億元。

而随着時間的推移,大模型在行業側的價值也将得以逐漸顯現,據市場研究機構預測,到2025年,全球生成式AI市場規模将達到100億美元以上。其中,企業級生成式AI市場将占據相當大的份額,成為最大的應用領域之一。

根據《2023年全球 AI 采用指數》報告顯示,全球範圍内,大約有42% 的受訪企業已在業務中積極部署AI。與此同時,報告顯示,企業級AI應用中,中國企業穩居第一陣營。這其中,有近一半的中國企業表示已經在積極采用AI,85%的中國企業表示未來2-3年會加速AI的采用,63%的中國企業還表示正在積極探索生成式AI。

曆史總是驚人的相似,回看雲計算時代,雖然在技術上,中國企業的各項雲技術或許不是世界第一,但論豐富的應用場景和落地執行能力,中國在雲計算時代絕對是遙遙領先。而這一次,當大模型的風吹向了各行各業,相信在行業大模型應用落地過程中,中國也将成為行業大模型應用落地的“主力軍”。

在神州數位副總裁、CTO李剛看來,雖然現階段,中國企業開放的大模型産品相較于國際一流水準仍存在一些差距,但随着開源模型技術的飛速發展,再加上企業自身對于知識、資料的治理方式不斷地優化,模型技術本身差距對企業部署的影響微乎其微,“在90%的企業場景下,開源模型的組合是足以滿足使用者需求的。”

與此同時,李剛對钛媒體APP表示,中國企業使用者對于新技術的接受度很高,會主動嘗試接納新技術,“這對于大模型在行業側的落地而言,是一個非常大的優勢。”

從技術到落地,三大問題需要注意

從現階段應用來看,目前仍處于發展的初期階段,李剛也為企業使用者在應用過程中提供了幾點建議。

首先,企業需要不斷擴充自身視野,用AI賦能業務創新,“思想上的轉變與對AI的接納是企業擁抱AI大模型的第一步。”李剛如是說。

其次,企業需要提升自身對AI大模型的系統化認知。李剛告訴钛媒體APP,随着ChatGPT以“超級應用”的形式出現後,雖然人人對AI大模型都有了一定認知,但是這種認知是碎片化的,“這次AI大模型的出現,徹底颠覆了人們以往對AI的認知,”李剛指出,“認知需要從碎片化變成體系化、系統化,這樣才能避免企業在應用AI的過程中遇到一些問題。”

再次,企業需要對自身應用大模型的業務場景進行優先級排序。有一些細微的場景相較于大場景反而更有價值,“但是有一些微小的場景大家未必看得到。”李剛說。

與此同時,李剛強調,現階段企業應用大模型時,需要注意的是任務級的場景,而不是崗位級的場景,“任務場景可能隻是一個員工崗位職責的工作内容的一部分,企業從這些細微的場景入手,反而更容易産生更大的價值。”

通過一個個細微場景的落地,應用成熟後,再加之這些場景的累積,并通過搭建一個完善的架構,AI大模型可以完成更為複雜的任務,“也正是通過小場景不斷驗證、不斷積累經驗和資料,并通過逐漸的‘拼裝’,才能疊加出更大的場景,甚至可能出現一些超級應用。”李剛表示,而這也是神州數位推出神州問學平台背後的思考,“我們需要一個平台,将這些AI的能力積累在平台上,然後在平台上繼續拼裝,形成更複雜的工具,或着具備更強大能力的AI模型。”

企業更傾向于平台化、私有化

正如李剛所述,技術上的差異已經不足以影響應用的落地,而在應用場景的豐富度上,中國有着天然的優勢,從目前的企業側應用來看,包括金融、醫療、法律咨詢、教培等偏服務型的行業有望率先有較成熟的生成式AI落地。

IBM 大中華區董事長、總經理陳旭東曾公開表示,企業級AI應用相較于消費側,有着更廣泛的需求和潛力,“IBM認為生成式AI在包括HR、财務和供應鍊流程自動化、IT開發和運維的智能化,以及企業資産管理、資料安全等方方面面均有着大展拳腳的機會。”陳旭東強調。

不過目前來看,雖然各行業企業都在積極擁抱AI大模型帶來的紅利,但是在這個過程中,有一個因素是大家首要關心的——安全。

當下資料已經成為個人、企業,乃至國家的重要資産/資源,資料安全已經上升為關乎國家安全的層面。據IBM Security 釋出的《2023年資料洩露成本報告》中顯示,僅資料洩露一項,2023年全球資料洩露的平均成本達到 445 萬美元,創該報告有史以來最高記錄,較過去 3 年均值增長了 15%。

而AI大模型的訓練,尤其是行業大模型的訓練,需要企業提供大量的私域資料,這樣訓練出的模型才能具備賦能行業的能力。

随着大模型相關産品的落地,資料安全面臨的威脅也勢必将越來越大。IEEE調研顯示,2024年将會出現其他更具威脅的網絡安全問題,包括勒索軟體攻擊(2024年為37%,高于2023年的30%)、網絡釣魚攻擊(2024年為35%,高于2023年的25%)以及内部威脅(2024年為26%,高于2023年的19%)。

顯然,伴随着AI大模型的發展,資料安全也面臨着更大的挑戰。企業在部署AI大模型相關産品時,如何確定企業資料不會洩露,甚至被競争對手利用,是當下企業對于應用生成式AI賦能業務有所擔憂的核心問題之一。

從現階段應用來看,企業在部署AI大模型時,絕大多數選擇本地化部署。拿神州問學平台舉例,李剛告訴钛媒體APP,神州問學産品本身支援多雲部署的環境,“在給使用者示範時,我們将demo放在雲上,友善展示平台能力,在部署的過程中,使用者則選擇在自己可控的環境進行部署。”李剛指出。

并且,無論是采用商業化模型,還是開源模型,經過微調、預訓練等操作後産出的模型,使用者通過本地化部署,可以確定基本的隐私安全。無獨有偶,浪潮雲總經理顔亮曾告訴钛媒體APP,在應用行業大模型産品的過程中,企業更傾向于本地部署,同時要具備可靠的一定的安全能力,對企業的資料形成有效的保護,“資料安全問題是企業選擇大模型産品過程中,首要考慮的問題。”顔亮強調。

除此之外,企業需要采取一系列的安全措施和技術手段,如加強資料加密和通路控制、建立安全審計和監控機制、采用對抗性防禦技術提升模型的穩健性、完善隐私保護政策和機制等。在李剛看來,企業内部也需要一套完善的知識可通路權限機制,確定員工内部安全合規的使用資料。

確定安全,企業接下來需要考慮的就是大模型的使用難度和使用成本。

從目前企業利用AI賦能的方式劃分,大緻可以分為三類——嵌入軟體、API調用和企業級AI平台。嵌入軟體的方式,因為其差異化能力不足,适配場景能力也較弱,是以并不适合企業使用。而采用API調用和平台的形式,既能滿足企業當下對AI技術的需求,又具備長遠的發展潛力,可以說是當下企業利用AI賦能業務的不二之選。

而神州數位所打造的神州問學平台,就是一個類似PaaS的平台,提供豐富的開源模型供企業選擇的同時,又兼具了本地化部署的能力,以最具成本效益的方式,輸出最強大的模型能力,是這個平台最大的優勢。“同時,神州數位會與企業IT部門合作,共同探索落地場景,以及搭建AI平台,将技術門檻降到最低的同時,也讓使用成本變得更低,真正做到大模型普惠。”李剛如是說。

讓大模型易落地,更普惠已經是當下各方關注的焦點。無獨有偶,浪潮雲首席技術官孫思清也曾對钛媒體APP表示,從大模型服務供應商角度出發,服務商需要具備一定的基礎模型能力,其次要具備充實的算力資源能力,最後還要具備大模型引擎的能力。“基于分布式雲架構開發的大模型産品将成為行業大模型落地的重要管道。”孫思清強調。

在這方面,浪潮雲采用分布式的架構可以在模型的預訓練環節采用集中式的方式,在傳遞的時候,通過本地化的能力,結合本地資料,更好地保護企業隐私,即滿足了企業對于安全合規的需求,又将模型的能力最大化地激發出來。

不過一切尚處于探索階段,李剛在與钛媒體APP的溝通中也指出,雖然ChatGPT的橫空出世,讓人們覺得AI技術這次“終于”來了,但技術本身尚未成熟,仍處于發展階段,“等到AI技術真正在企業側應用成熟之後,企業使用AI技術就像今天使用雲計算技術一般時,才是AI技術真正改變我們生産力的時候。”李剛指出。

2024年會有越來越多的行業大模型的應用落地,在大模型能力加持下實作真正降本增效的路徑也将更加清晰。(本文首發于钛媒體APP,作者|張申宇,編輯丨蓋虹達)

繼續閱讀