IT之家 12 月 31 日消息,韩国 Chosun Biz 报道称,除了大量预定台积电产能外,英伟达还斥巨资拿下了 HBM3 内存的供应合同。
消息人士称,该公司从美光和 SK 海力士那里预购了 700 亿至 1 万亿韩元(IT之家备注:当前约 3.84 亿至 54.9 亿元人民币)的 HBM3 内存。虽然没有关于这些款项具体用途的信息,但业界普遍认为其目的在于确保 2024 年 HBM 供应稳定,避免新一代 AI 和 HPC GPU 发布后因为这种事而掉链子。
此外,还有业内人士透露,三星电子、SK 海力士、美光三大存储公司明年的 HBM 产能已完全售罄。业界认为,由于 AI 行业半导体公司之间的激烈竞争,HBM 市场预计将在未来两年内实现快速增长。
根据现有爆料信息,英伟达正准备推出两款配备 HBM3E 内存的产品:配备 141GB HBM3E 的 H200 GPU 以及 GH200 超级芯片,因此英伟达需要大量 HBM 内存。
H200 是目前世界上最强的 AI 芯片,也是世界上首款采用 HBM3e 的 GPU,基于 NVIDIA Hopper 架构打造,与 H100 相互兼容,可提供 4.8 TB / s 速度。
在人工智能方面,英伟达表示,HGX H200 在 Llama 2(700 亿参数 LLM)上的推理速度比 H100 快了一倍。HGX H200 将以 4 路和 8 路的配置提供,与 H100 系统中的软件和硬件兼容。它将适用于每一种类型的数据中心(本地、云、混合云和边缘),并由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署,将于 2024 年第二季度推出。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/742/664.htm]