Meta发布了新一代人工智能芯片MTIA（Meta Training and Inference Accelerator）的详细信息。该芯片由Meta内部设计，充分考虑了公司特有的AI工作负载，特别是那些用于改善旗下多款产品体验的深度学习推荐模型
MTIA作为Meta自主研发的专用芯片系列,是公司在AI基础设施建设方面的重要投资。新一代MTIA在前代基础上实现了多项重大突破:计算性能提升3.5倍,稀疏计算性能提升7倍;SRAM容量增加一倍,内存带宽提升3.5倍;芯片频率从800MHz提升到1.35GHz,功耗从25W增加到90W。这使得MTIA能够更高效地服务于Meta的排序和推荐模型,为用户提供更优质的体验。
除了硬件升级,Meta在软件栈的优化上也下了功夫。新一代MTIA完全兼容前代,可无缝对接PyTorch 2.0及其子项TorchDynamo和TorchInductor,开发人员无需重新适配。此外,Meta还自主开发了Triton-MTIA编译器后端,能够为MTIA硬件生成高性能计算内核,大幅提升开发效率
通过硬件和软件的深度协同优化,Meta最新一代MTIA系统在性能和能效方面均有大幅提升:与前代相比,单芯片性能提升3倍,整个平台层面的模型服务吞吐量提升6倍,功耗效率提升1.5倍。这为Meta未来在生成式AI、推荐系统等领域的发展奠定了坚实的技术基础
Meta表示,MTIA只是公司在定制化AI硬件领域的一个重要里程碑。未来,MTIA将继续扩展支持范围,并与商用GPU等硬件协同工作,构建更强大、更高效的AI基础设施,满足元宇宙时代日益复杂的计算需求。这也体现了Meta在AI基础设施建设方面的长期规划和决心
结语
MTIA的设计、制造过程及后续部署都是在Meta的控制和指导下进行，体现了Meta对其核心技术的掌控力。因此，可以说MTIA是Meta的自主可控芯片
MTIA与英伟达GPU芯片在设计理念、工作负载适应性和软件生态上存在差异，前者专注于满足Meta特定AI任务需求，具备较高的定制化和优化水平；后者则以通用性和广泛应用为特点
不是英伟达买不起，而是MTIA更有性价比？