英伟达SIGGRAPH发布大会重要内容#英伟达AI加速处理器# #英伟达显卡性能#
英伟达昨晚发布了一款重要的新一代人工智能AI处理器，具备更强内存带宽支持GH200开发生成式AI。GH200 GraceHopper Superchip 平台将配备全新HBM3e内存，可比当前的HBM3快50%，具有连接多个GPU的能力，提供总共 10TB/秒的组合带宽，使新平台能够运行比之前版本大 3.5 倍的模型，同时通过快 3 倍的内存带宽提高性能，更适用于包括大语言模型、推荐系统和向量数据库等等。该产品预计于2Q24推出。
同时发布了四款全新桌面AI工作站GPU产品，RTX 5000、RTX4500 和 RTX 4000 桌面 GPU 采用最新的英文伟达Ada Lovelace 架构技术，在单精度浮点吞吐量、光纤追踪、AI训练性能、交互能力、显存容量等参数上均有较大提升。此外英伟达针对企业用户推出一站式解决方案RTX Workstation，持最多4张RTX 6000 GPU，可以在15小时内完成8.6亿token的GPT3-40B的微调。
英伟达还发布了AI推理产品L40S提升FP32性能，推出适用于LLM模型企业级微调的L40S GPU，配备48GB GDDR6显存和846GB/s带宽，相较于A10/A100/A800其FP32性能分别是原来的3/5/5倍，FP16性能分别是原来的3/1.2/1.2倍。此外，对于具有数十亿参数和多种模态的生成式AI工作负载，L40S相较于A100可实现高达1.2倍的推理性能提升，以及高达1.7倍的训练性能提升。
英伟达也发布AI Workbench-工具包，构建项目环境并使用特定领域数据进行模型微调，允许开发人员在PC或工作站上快速创建、测试和自定义预先训练的生成人工智能模型，然后将其扩展到几乎任何数据中心、公共云或NVIDIA DGX™ Cloud。
此外，大会上英伟达还将企业级平台NVIDIA AI Enterprise更新到4.0版本完善安全性和API稳定性；在Omniverse中接入OpenUSD，利于不同品牌、不同类型的3D设计软件无障碍写作。
