Echo

Echo 关注TA

大家好,我是Echo!

Echo

Echo

关注TA

大家好,我是Echo!

  • 加入社区2,199天
  • 写了311,242,886字

该文章投稿至Nemo社区   资讯  板块 复制链接


荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型:功耗下降 80%,内存占用减少 1.6GB

发布于 2024/10/23 15:48 105浏览 0回复 512

感谢IT之家网友 Autumn_Dream 的线索投递!

IT之家 10 月 23 日消息,荣耀今日正式发布 MagicOS 9.0,号称是“行业首个搭载智能体的个人化全场景 AI 操作系统”。

在 MagicOS 9.0 中,MagicOS 全新魔法大模型家族迎来升级,支持端云资源灵活调配,不同设备灵活部署,IT之家附各版本如下:

  • 500 万参数图像大模型,端侧部署,全系列支持

  • 4000 万参数图像大模型,端侧部署,中高端系列

  • 30 亿参数大语言模型,端侧部署,中高端系列

  • 10 亿参数多模态大模型,端侧部署,中高端系列

  • 1500 万参数语音大模型,端侧部署,全系列支持

荣耀表示,MagicOS 9.0 升级支持 30 亿参数端侧大语言模型,相比 MagicOS 8.0 的 70 亿参数魔法大模型,加载速度提升 77%、出词速度提升 500%、功耗下降 80%。此外,新版大模型的内存占用减少 1.6GB,存储占用减少 1.8GB。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/804/604.htm]

本文标签
 {{tag}}
点了个评