要提到Mac最大的槽點，可能就非“祖傳”的8GB記憶體莫屬了。日前，一位名為David Schaub的網友社交平台釋出了一篇分析文章，揭示了蘋果公司自蒂姆·庫克掌舵之後停止Mac記憶體更新周期的事實。此前在喬布斯時代，蘋果基本每兩年就會将Mac機型的起步記憶體進行更新，然而在庫克接管後，僅僅在2017年将MacBook Air的标配記憶體更新到了8GB。
沒錯，Mac系列機型已經已經足足有7年時間沒有提升過記憶體的起步配置了。對此蘋果方面聲稱，Mac使用的8GB統一記憶體（Unified Memory）與競争對手的16GB記憶體（Memory）相當，官方給出的答複是8GB記憶體足以駕馭上網、播放視訊、輕量編輯等很多任務。然而令人玩味的是，蘋果Mac産品營銷部門Laura Metz卻在接受相關采訪時表示，“Mac是使用者可以買到的最好的操作生成式AI的個人電腦産品。”
自2024年AI PC逐漸成為個人電腦領域的時髦詞彙之後，蘋果方面就一直在渲染Mac是消費者可以買到的最好AI PC。按照Laura Metz的說法，從2020年第一款M系列晶片M1推出時，蘋果就已經開始AI的部署，M1晶片上出現的神經網絡引擎就是為AI而生。
那麼問題就來了，8GB起步的記憶體與Mac是最好的AI PC難道不沖突馬？如今你打開抖音、B站、小紅書等社交平台會看到，不少網友在咨詢如何配置一台暢玩AI的電腦，盡管其他人給出的配置單或許各有不同，但32GB起步的記憶體卻幾乎都是一樣的。
其實不僅僅是愛好者持有這樣的看法，Intel方面在不久前舉行的2024中國閃存市場峰會上也表示，未來AI PC入門級标配一定是32GB記憶體，目前正常的16GB記憶體會被淘汰。
運作AI大模型需要大容量的顯存是衆所周知的事情，英偉達的RTX 4090顯示卡為何賣得火爆，就是因為它擁有24GB的超大容量顯存。RTX 4090在國内市場禁售後，RTX 2080Ti這款老顯示卡又重新走紅，就是因為它可以通過魔改的方式将顯存從11GB擴充到22GB。
那麼為什麼顯存會如此重要呢？這是因為“記憶體牆”的存在，使得“CUDA out of memory”這樣的報錯提示幾乎成為了所有AI從業者的噩夢。而CUDA out of memory是指使用CUDA進行計算時，GPU記憶體不足所導緻的錯誤，它往往出現在需要處理大量資料時，這也是為什麼在購買用于AI的GPU時，顯存是最為核心的名額之一。
伯克利大學的研究團隊就發現，未來記憶體牆可能将會是比算力更大的瓶頸，GPU的顯存容量嚴重制約了可訓練的模型規模和算力提升速度，或将成為阻礙AI技術發展與落地的重要瓶頸。
GPU的顯存如果隻有8GB水準，無論開發者如何進行優化，想要容納一個千億參數的大模型也隻能是巧婦難為無米之炊。而蘋果的統一記憶體架構是其在AI賽道上最強的一張牌，而統一記憶體就是把記憶體、GPU的顯存，以及CPU的緩存放到一起，通過Fabric和CPU/GPU/神經網絡處理器相連，帶來了高速記憶體通路、高效的多任務處理、更高的圖形處理能力以及更強的能耗表現。
将記憶體直接作為顯存使用，這就是蘋果統一記憶體的優勢。但問題在于，統一記憶體即便再有魔力，蘋果也不可能做到讓所有的統一記憶體都去作為顯存使用，維持系統基本的性能開銷也需要一定的記憶體。根據相關開發者的實測，64GB記憶體的Mac能夠配置設定給顯存的部分是36GB，即64GB記憶體的Mac是不可以直接運作65B參數的大模型。由此不難發現，8GB記憶體的Mac可以使用的大模型就極為有限了。
以6B這樣一個端側大模型的典型參數規模為例，把模型參數加載到顯存在不同條件下其實是不一樣的，用FP32精度需要24GB，用FP16精度需要12GB，用INT8/FP8精度需要6GB，用INT4精度需要3GB。但問題是低位量化對大模型的整體表現是不利的，還會帶來準确度的犧牲。是以現在相當多的大模型廠商甯願直接做小尺寸模型，也不準備将大尺寸模型蒸餾到小尺寸。
如此一來，8GB記憶體的Mac想要部署端側大模型，就成為了一個極具挑戰性的操作。可是如果沒有端側大模型，Mac還能被稱為AI PC嗎？