Echo

Echo 关注TA

大家好,我是Echo!

Echo

Echo

关注TA

大家好,我是Echo!

  •  普罗旺斯
  • 自由职业
  • 写了282,966,870字

最近回复

该文章投稿至Nemo社区   资讯  板块 复制链接


英特尔发布 Gaudi 3 AI 芯片:性能超越英伟达 H100,第三季度上市

发布于 2024/04/09 23:52 91浏览 0回复 917

感谢IT之家网友 航空先生 的线索投递!

IT之家 4 月 9 日消息,在今晚的 Vision 2024 活动中,英特尔发布了新一代 Gaudi 3 AI 芯片,并将于 2024 年第三季度通过 OEM 系统大批量上市。

据介绍,新款 Gaudi 3 与英伟达 H100 相比训练性能提高了 170%,推理能力提高了 50%,效率提高了 40%,但成本却低得多(IT之家注:H100 已经是英伟达上一代产品,英特尔并未与最新的 Blackwell 系列产品进行对比)。

此外,英特尔还为其数据中心 CPU 产品组合推出了全新品牌命名:原代号为 Granite Rapids 和 Sierra Forest 的芯片现在将被称为 “Xeon 6” 系列。这些芯片计划于今年上市,并将支持全新性能提升的标准化 MXFP4 数据格式。

英特尔同时宣布正在开发用于以太网网络的 AI NIC ASIC 以及 AI NIC 小芯片。这些小芯片将用于其未来 XPU 和 Guadi 3 处理器,并将通过英特尔代工厂提供给外部客户,不过英特尔并未透露更多关于这些网络产品的细节。

英特尔声称,Gaudi 3 的 FP8 性能是上一代产品的两倍,BF16 性能是上一代产品的四倍,网络带宽是上一代产品的两倍,内存带宽是上一代产品的 1.5 倍。

Gaudi 提供了两种外形尺寸,其中 OAM(OCP 加速器模块)HL-325L 是基于高性能 GPU 的系统中常见外形设计。

该加速器集成了 128GB HBM2e,可提供 3.7 TB / s 的带宽。它还具有 24 个 200 Gbps 以太网 RDMA NIC。

HL-325L OAM 模块具有 900W TDP(可能有更高的 TDP,表面上采用液冷),额定 FP8 性能为 1,835 TFLOPS。OAM 以每个服务器节点 8 个为一组进行部署,然后可以扩展到 1,024 个节点。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/760/890.htm]

点赞(0)
点了个评