楊淨 發自 凹非寺量子位 | 公衆号 QbitAI
小米要做的不是行業所說的通用大模型，也不是垂類大模型。
而是場景大模型！
小米集團技術委員會AI實驗室大模型團隊負責人栾劍，在MEET2024智能未來大會上，透露了小米大模型獨有的方法論。
作為大模型應用的先行者、率先在手機端跑通大模型的小米，早早将輕量化和本地部署作為自身大模型應用突破點。現場栾劍表示将大模型搭載到硬體裝置裡面去充當大腦，是件很酷的事情。
面對當下大模型發展趨勢， 他坦言：從技術參數上秀肌肉已經沒什麼意義，接下來應該回歸到怎麼應用。而大模型應用成敗的關鍵，栾劍認為主要在兩個關鍵點：
一是流量入口，二是使用者粘性。
為了完整展現栾劍關于大模型的研發和應用思考，量子位在不改變原意的基礎上，對他的演講内容進行了編輯整理。
關于MEET智能未來大會：MEET大會是由量子位主辦的智能科技領域頂級商業峰會，緻力于探讨前沿科技技術的落地與行業應用。今年共有數十家主流媒體及直播平台報道直播了MEET2024大會，吸引了超過300萬行業使用者線上參會，全網總曝光量累積超過2000萬。
演講亮點
- 小米科技戰略總結成公式就是（軟體×硬體）AI ，這是科技行業第一家将AI放在指數位置上的公司。我們認為AI是全新的生産力，會對未來軟硬體産品發展和變化帶來深刻影響。
- 假設我們将大模型作為硬體裝置的大腦，搭載到硬體裝置裡面去，這将是件很酷的事情。小米要做的，不是通用大模型、垂類大模型，而是場景大模型。
- 輕量化和本地部署是小米大模型突破點。
- 大模型有三個要素，分别是大資料、大參數、大訓練任務。
- 大模型從技術參數上來秀肌肉我覺得沒什麼意義了，接下來應該回歸到怎麼把大模型用好。
- 雲邊端結合是将來大模型發展而一條重要途徑。要實作雲邊端的結合肯定離不開軟體層面上打通。
- 大模型應用成敗兩個關鍵點：一個在流量入口，另一個在使用者粘性。
- 主動智能是小米澎湃OS非常重要的亮點。
- 小米全新更新的「人車家全生态」戰略，為大模型的應用搭好了舞台。
首家将AI放在戰略指數位置的公司
今天跟大家分享一下小米大模型的研發思路，以及大模型在小米接下來可能的應用場景。
今年8月份，小米宣布了自己的科技戰略：深耕底層技術，長期持續投入，軟硬深度結合，AI全面賦能。總結成公式就是（軟體×硬體）AI。
作為科技行業第一家将AI放在指數位置上的公司，我們認為AI是全新的生産力，會對未來軟硬體産品發展和變化帶來深刻影響，是以一定要重視AI、投入AI，這也是将小米打造成硬核科技公司的必由之路。
AI既然這麼重要，小米AI上的積累有哪些呢？今天就來簡單回顧一下。
早在2016年，小米内部建立首個專注AI的視覺團隊，主打為手機拍照服務。随後成立了語音聲學、人機對話、知識圖譜等一系列AI團隊，小米AI實驗室應運而生。
經過兩年多努力，小米所有産品都用上自研的AI技術，當業務部門需要支援時，我們也能派出大量專家幫助快速組建技術團隊。發展到今天，小米各個部門都散布着我們的AI工程人員。
從另一個次元看，小米在技術上的投入近幾年持續高速增長，最近幾年複合增長率達到38.4%，今年我們的投入會達到200億元，最近5年（2022-2026）會投入到一千個億。這是非常可觀的一筆投入，說明我們技術團隊在持續成長，也說明我們踐行小米科技戰略的決心。
今年提到AI一定繞不開大模型，今年4月份小米宣布成立大模型團隊，将輕量化和本地部署作為小米大模型突破點。
不少同行來問背後的原因。
首先看小米的特色。小米有各種各樣的硬體裝置，今天小米是全球最大消費級IoT平台。截至今年三季度，小米IoT平台已連接配接裝置6.99億，5台以上的小米裝置使用者達到1370萬。
假設我們将大模型作為硬體裝置的大腦，搭載到硬體裝置裡面去，這将是件很酷的事情。
比如有台掃地機器人，大機率我們不會跟它聊天，不會讓它幫寫小作文，但它需要路徑規劃、躲避障礙物以及判斷什麼地面需用什麼方法清潔。
将這種能力總結一下，可能并不是行業所說的通用大模型，也不是垂類大模型，而是場景大模型，這也是小米特别關注的以及所要做的。
我們認為，大模型有三個要素，分别是大資料、大參數、大訓練任務。哪個要素才是大模型産生湧現能力、泛化能力的關鍵？我們做了一些實驗。
今年8月份釋出的兩個大模型，參數量分别在13億和60億，并在中文的兩個主要榜單上做了測試。其目的是驗證端側大模型（參數不那麼大）通過定制和優化，是否能在目标場景中達到媲美雲端大模型效果。
第二步，是驗證端側大模型是否能在手機上正常運作，達到使用者真實使用條件要求。10月，小米在高通骁龍8Gen 3晶片上基于NPU在手機端跑通60億參數模型，生成速度和功耗完全滿足正常使用的要求。
到這一步為止，我們把大模型搭載到裝置端的設想得到全部驗證。從技術參數上來秀肌肉我覺得沒什麼意義了，接下來我們回歸到怎麼把大模型用好。
目前AI大模型技術應用已經深入小米全系統，包括實時字幕、小愛輸入助手、圖像生成與搜尋等技術等。大模型在端側上的功能探索隻是剛剛開始，使用價值絕對不僅止于此。
主動智能是小米澎湃OS非常重要的亮點
接下來展望一下大模型在小米會發生什麼變化。
前面提到，将大模型作為大腦放到智能裝置裡去，就能獨立完成一些簡單任務，但在複雜條件下，可能還需要同場景多裝置協同。
這時候一個裝置就完成不了了，請求會上升到邊緣裝置。邊緣裝置就是一個場景裡算力和存儲能力最強的裝置。通過這台裝置協同場景下所有智能裝置幫我們一起完成。當請求變得更為複雜時候，需要跨場景，這時候請求就需要上升到雲端了。
這樣做的主要目的是什麼？
大模型服務成本很高，使用者使用成本也很高。我們做分布式計算，盡量把計算放到邊緣側，放到端側，這樣讓使用者使用成本降到最低。
存儲也是基于同樣的考慮，使用者資料，也是能放到端側就放到端側，能放到邊緣側就放到邊緣側，這樣也是最大程度地從實體上保護使用者資料的隐私安全。
雲邊端結合是将來發展的一條重要途徑。要實作雲邊端的結合肯定離不開軟體層面上打通。
小米近期釋出的澎湃OS作業系統，就是為了萬物互聯而設計，我們在澎湃作業系統裡有個AI子系統，它是個思考中樞。
如果将智能裝置比喻成小動物，這個智能中樞就可以了解成馴獸師或魔法師。通過智能裝置延伸它的感官，充分采集使用者所在環境的資訊。擷取資訊之後，再由Xiaomi HyperMind做思考判斷以及規劃，再将指令下發到需要執行的智能裝置上，讓它們協同完成任務。
更重要的是，Xiaomi HyperMind是有學習能力的，除了被動地完成使用者的請求以外，還能在使用者使用一段時間以後了解到使用者的使用習慣，産生與使用者的默契。在它發現目前場景和以前某個場景比較相似的時候，會主動地做一些使用者建議并提供一些服務。
主動智能也是小米澎湃OS非常重要的亮點。
今年我們将小米集團戰略從手機xAIoT更新到「人車家全生态」，為大模型的應用搭好了舞台。
可以想象一下，每台智能裝置上面都有符合它自己能力的大腦，能夠獨立完成任務。他們通過小米澎湃OS互聯互通到一起，然後通過Xiaomi HyperMind控制它們。我們通過雲邊端架構為使用者提供最經濟安全的服務，這是個非常了不起的架構，我們希望用3-5年将架構填滿。
大模型應用成敗兩個關鍵點
最後聊聊關于大模型應用，大家都在探索一個問題：大模型應用成敗關鍵是什麼？我個人抛個磚，我認為所有應用可能都有兩個關鍵點：一個是流量入口，一個是使用者粘性。
大模型流量入口在哪裡？最開始大家覺得是行業應用，還是需要點開APP用大模型賦能，後來發現大模型自己可以成為一個入口，通過調用API來完成複雜的任務。
剛才說了大模型可以跟作業系統深度融合。歸根到底作業系統需要一個硬體，大家不可能跟空氣互動，一定要找到硬體，硬體才是入口，而小米絕對不缺硬體。
第二個使用者粘性。打個比方，當一個城市開通第一條地鐵線時，大家可能會覺得很新鮮很好奇，但可能不會特别依賴它；但當它形成一個無處不在的網絡時，大家對地鐵的依賴成長起來了。
大模型現在就是這樣的情況。現在大模型的主要使用方式還停留在簡單的文字互動，我們要探索的是讓大模型怎麼無處不在地融入大家日常生活。
小米已經搭好了人車家全生态的平台，非常歡迎大家一起來共同建設，把大模型的應用做好。
最後回顧一下小米的科技理念。我們要選擇對人類文明有長期價值的技術領域，并堅持長期持續投入。
而以大模型為代表的AI，我認為就是對人類文明有長期價值的技術領域。
我們要堅持投入，無論外界輿論發生怎樣的變化，無論技術上出現怎樣的挑戰，我們都要保持戰略定力，我們要堅韌樂觀，用最前沿的技術提供最優質的産品和服務，希望讓更多朋友們能夠通過小米的産品體驗到科技帶來的美好生活。
我今天就講到這裡，謝謝大家。
— 完 —
量子位 QbitAI · 頭條号簽
關注我們，第一時間獲知前沿科技動态約