Meta推出最新的AI芯片,以降低对NVIDIA的依赖

IP归属:广东

编译/VR陀螺

在4月10日的一篇博客文章中,Meta宣布推出了其专为AI工作负载设计的最新款定制芯片。这标志着Meta公司AI工具的性能改进迭代,有助于为Facebook和Instagram上的推荐广告模型提供支持。

Meta称,这些芯片是其对AI基础设施不断增长的投资的一部分,将使公司能够在应用程序和技术中提供新的、更好的体验。“Meta的下一代大规模基础设施正在以AI为基础进行构建,包括支持新的生成式AI产品、推荐系统和先进的AI研究。因为支持AI模型的算力需求随着模型的复杂性而增加,我们预计这项投资在未来几年将会持续增长。”

图源:Meta

去年,Meta就推出了训练和推理加速器MTIA,这是其第一代AI推理加速器,在内部设计时考虑了Meta的AI工作负载。

文章中表示,MTIA目前已在Meta数据中心部署,并为正在研发中的模型提供服务。迄今为止的结果表明,MTIA芯片可以支持不同复杂度情况下的排名和推荐模型,这是Meta产品的关键组件。与商用GPU相比,MTIA可以实现更高的效率。

“我们已经看到了该计划的积极成果,新版本的MTIA将我们之前解决方案的计算和内存带宽增加了一倍以上,同时保持了与工作负载的紧密联系。它使我们能够为更密集的AI工作负载投入更多的计算能力,这些工作正在改善我们的应用程序和技术的各种体验。”

未来,MTIA 将成为Meta长期路线图的重要组成部分,旨在为其独特的AI工作负载构建和扩展最强大、最高效的基础设施。

“我们正在设计定制芯片,以便与现有的基础设施以及未来可能利用的新的、更先进的硬件(包括下一代 GPU)配合工作。实现我们对定制芯片的雄心意味着不仅要投资于计算芯片,还要投资于内存带宽、网络和容量以及其他下一代硬件系统。”

来源:about.fb.com

陀螺科技现已开放专栏入驻,详情请见入驻指南: https://www.tuoluo.cn/article/detail-27547.html

VR陀螺专栏: https://www.tuoluo.cn/columns/author1286744/

本文网址: https://www.tuoluo.cn/article/detail-10112106.html

免责声明:
1、本文版权归原作者所有,仅代表作者本人观点,不代表陀螺科技观点或立场。
2、如发现文章、图片等侵权行为,侵权责任将由作者本人承担。

相关文章