蘋果瞄向端側AI，習慣性“晚一步”中的必然

（魏德齡/文）總是習慣性晚一步的蘋果，已經悄然瞄向了大熱的AI，此前圍繞在iOS18傳聞周圍的關鍵詞正是AI與智慧助手的更新，本周關于這一傳聞有了進一步的指向性内容，那就是端側AI。

蘋果瞄向端側AI

據彭博社記者Mark Gurman在一檔節目中透露，蘋果在iOS18上的首批AI功能将無需依賴雲端伺服器的算力，可完全在本地運作。

這意味着，蘋果将通過相關架構讓大語言模型得以小型化，通過模型量化技術減小模型大小和提高推理速度，同時實作并發處理和高效利用裝置資源，進而能夠在終端本地安裝并運作。實際上，目前已經有相關AI應用釋出于蘋果App Store，并可在終端本地運作16億-70億參數量不等的大語言模型。

此前，相關消息顯示，iOS 18系統内的多個功能，以及相關蘋果生态下的官方應用，都将因為AI而受益。例如正在的開發一個內建AI的消息應用功能，能夠更快速恢複短信内容。據福布斯的預測，生成式AI能力還将為蘋果的生産力工具帶來更新，例如Pages、Keynote、Numbers這三大辦公套件，将可獲得一系列新能力。

同時，蘋果還公布了自研的MM1多态大語言模型(Multimodal LLM)。MM1共分為三個參數規模，其中最大的擁有300億參數。根據科技部落格Daily Dev的評測顯示，MM1在GLUE-Score等多項評測名額上要略優于GPT-4V和Gemini Pro。

硬體配置吃得消嗎？

不過，如果将更新的能力全部依托于端側的話，蘋果手機目前的硬體配置能否吃得消的問題也浮出了水面。當裝置運作生成式AI模型的時候，一般會占用一定的RAM空間，同時模型本身也會占據一定的硬碟空間。

而上述兩項對于蘋果裝置來說，顯然是個小痛點。目前iPhone 15 Pro系列的RAM為8GB，iPhone 15系列為6GB，而iPhone 13系列僅為4GB。考慮到本地運作模型運算是對于RAM的占用，iPhone 15 Pro系列的8GB可能最為适宜，而6GB的iPhone 15系列隻能将就。4GB的iPhone 13系列很可能将難以滿足運作需求。

同時，對于一直被網友戲稱為把硬碟空間當金子賣的蘋果來說，一些舊有機型的使用者屆時在實作系統更新，并獲得相關本地生成式AI能力的時候，或将面臨本地存儲空間吃緊的問題。要知道，因為空間不足導緻更新系統失敗的案例曾經在iPhone 4s時代大規模出現過。

不過好消息是，大量現役iPhone機型的NPU算力并不成問題，蘋果近年來在每代A系列晶片上的更新重點就在于NPU。例如A17 Pro的NPU在算力上實作了兩倍的提升，相比于提升10%的CPU與提升20%的GPU，可謂是牙膏爆擠。

端側AI大爆發的必然

其實，對于習慣性晚一步的蘋果來說，發力端側AI更意味着對于該技術方向的肯定。同理在近期，蘋果也放棄了耗時10年的電動車計劃，并同樣把該領域的研究經費轉向AI領域。

而端側AI也完全符合蘋果對于安全與隐私上的産品定位，由于端側AI能夠讓敏感資料完全在本地運作，保證了資料不會上傳至雲端，也就在實作AI能力的同時，保證了隐私。對于依靠雲端伺服器的AI而言，例如在近期宣布無需注冊就能使用的ChatGPT，如果使用者需要強化保護自身的聊天資料，就需要手動在設定中選擇不将聊天記錄用于訓練，但其實很多使用者在日常使用中都會忽略這點。

随着生成式AI模型的變小，100億及更多參數的生成式AI模型也即将能夠在終端側運作。實際上，目前在筆記本裝置中，已經能夠運作130億參數的大語言模型，相信在智能手機流暢運作已指日可待。這就意味着，在端側裝置上，同樣可以實作媲美雲端伺服器的文字生成圖像、對話和NLP、協作機器人、圖像了解等功能，隻要輸入與生成的量級可控，端側AI同樣能夠帶來令人滿意的表現。

這方面，Android陣營已經先行一步。

小米方面曾在去年透露，從2016年開始，小米就開始了對大模型的研究和開發，今年更是成立了專門的大模型團隊。目前，小米的AI相關團隊已經超過3000人。還有報道稱，小米AI大模型的一個13億參數大模型已經成功在手機本地跑通，部分場景可以媲美60億參數模型在雲端運作結果。

今年MWC巴塞羅那上，高通展出了全球首個運作多模态大模型（LMM）的手機，支援超過70億參數大模型，不僅能夠接受文本輸入，還可以接受圖像、音頻等其它輸入資料類型。

榮耀在今年年初釋出了自研端側 70 億參數平台級 AI 大模型“魔法大模型”，并表示現有作業系統都值得用 AI 重做一遍。

vivo的AI藍心大模型也實作了“端側7B+雲側70B”超大參數規模部署，能實作超過700種手機相關功能，為超過2000萬使用者提供超能問答、超能創作、超能搜尋、超能管理、超能互動等AI服務。

不過，端側AI無疑才剛剛上路，至少目前它的很多功能展示更像是手機發燒友的玩具，然而，随着習慣性晚一步的蘋果的引入，完全成熟可用的本地生成式AI功能即将到來。2024年，對于端側AI來說，或許将是從“玩具”到“工具”的關鍵一年。