Echo

Echo 关注TA

大家好,我是Echo!

Echo

Echo

关注TA

大家好,我是Echo!

  •  普罗旺斯
  • 自由职业
  • 写了309,689,053字

该文章投稿至Nemo社区   资讯  板块 复制链接


“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

发布于 2024/06/02 20:21 107浏览 0回复 542

IT之家 6 月 2 日消息,在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微服务。

新产业革命

英伟达认为“AI 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。

软件全栈重塑

为方便各种规模的企业部署 AI 服务,英伟达今年 3 月推出了 NIM(Nvidia Inference Microservices)云原生微服务。

NIM 云原生微服务

NIM 是一套经过优化的云原生微服务,旨在缩短上市时间,并简化生成式 AI 模型在云、数据中心和 GPU 加速工作站的任何位置的部署。它使用行业标准 API,抽象化 AI 模型开发和生产包装的复杂性,从而扩展开发者池。

IT之家注意到,官方制作了一个 llama3 大模型的 NIM 容器,现已上线英伟达官网开放供全部用户下载并任意部署。

英伟达官网

▲ 英伟达官网

2024 台北国际电脑展专题

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/772/609.htm]

本文标签
 {{tag}}
点了个评