划重点:

⭐ Meta 发布新的训推一体加速器 MTIA v2，性能提高了3倍

⭐ 新一代 MTIA 芯片采用台积电5nm 制程工艺

⭐ Meta 专门设计大型机架系统，支持下一代 MTIA 芯片

站长之家（ChinaZ.com）4月11日 消息:Meta 最近发布了全新的训练推理加速器 MTIA V2旨在加强内容排名和推荐广告模型的性能。

这款新一代 MTIA 芯片采用台积电5nm 带有256MB的工艺工艺 片上内存频率为1.3GHz。Meta 还专门设计了一个最多可容纳72个加速器的大型机架系统，以支持新一代芯片的运行。为了进一步优化软件堆栈，Meta 创建了 Triton-MTIA 提供高性能代码生成的编译器后端。

这一全新的 MTIA 芯片系统旨在兼容之前 MTIA v1开发的代码已在16个数据中心投入使用。性能测试显示，新一代 MTIA 芯片比第一代芯片性能提高了3倍，模型服务吞吐量达到了6倍，每瓦性能提高了1.5倍。Meta 在优化核心、编译器、运行和主机服务堆栈方面取得了重大进展，未来将继续提高效率。

Meta 新发布的训练推理一体化加速器 MTIA v2代表了他们在硬件研发领域的持续投资和创新，旨在改进 AI 模型的性能和效率。