Meta釋出了新一代人工智能晶片MTIA（Meta Training and Inference Accelerator）的詳細資訊。該晶片由Meta内部設計，充分考慮了公司特有的AI工作負載，特别是那些用于改善旗下多款産品體驗的深度學習推薦模型
MTIA作為Meta自主研發的專用晶片系列,是公司在AI基礎設施建設方面的重要投資。新一代MTIA在前代基礎上實作了多項重大突破:計算性能提升3.5倍,稀疏計算性能提升7倍;SRAM容量增加一倍,記憶體帶寬提升3.5倍;晶片頻率從800MHz提升到1.35GHz,功耗從25W增加到90W。這使得MTIA能夠更高效地服務于Meta的排序和推薦模型,為使用者提供更優質的體驗。
除了硬體更新,Meta在軟體棧的優化上也下了功夫。新一代MTIA完全相容前代,可無縫對接PyTorch 2.0及其子項TorchDynamo和TorchInductor,開發人員無需重新适配。此外,Meta還自主開發了Triton-MTIA編譯器後端,能夠為MTIA硬體生成高性能計算核心,大幅提升開發效率
通過硬體和軟體的深度協同優化,Meta最新一代MTIA系統在性能和能效方面均有大幅提升:與前代相比,單晶片性能提升3倍,整個平台層面的模型服務吞吐量提升6倍,功耗效率提升1.5倍。這為Meta未來在生成式AI、推薦系統等領域的發展奠定了堅實的技術基礎
Meta表示,MTIA隻是公司在定制化AI硬體領域的一個重要裡程碑。未來,MTIA将繼續擴充支援範圍,并與商用GPU等硬體協同工作,建構更強大、更高效的AI基礎設施,滿足元宇宙時代日益複雜的計算需求。這也展現了Meta在AI基礎設施建設方面的長期規劃和決心
結語
MTIA的設計、制造過程及後續部署都是在Meta的控制和指導下進行，展現了Meta對其核心技術的掌控力。是以，可以說MTIA是Meta的自主可控晶片
MTIA與英偉達GPU晶片在設計理念、工作負載适應性和軟體生态上存在差異，前者專注于滿足Meta特定AI任務需求，具備較高的定制化和優化水準；後者則以通用性和廣泛應用為特點
不是英偉達買不起，而是MTIA更有成本效益？