标签 > 标签文章：#musa# (共有1文章) 摩尔线程开源 vLLM-MUSA，通过 MUSA 软件栈对 CUDA 接口兼容 IT之家11月5日消息，摩尔线程官方今日发文，称已上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本，为开发者提供一个基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。vLLM是一个高效且易用的大模型推理和服务框架，已在各种大语言模型中得到广泛应用，并成为业界常用的开源大模型推理框架。摩尔线程团队基于vLLMv0.4.2版本进行了移植适配，为vLLM框架添加了摩尔线程GPU后端D 25 0 2024-11-05 19:00
最新文章 飞傲 FT1 Pro 开放式平板头戴耳机发布：自研单元、374g，1299 元 山灵 TINO 双动圈入耳式耳机上架：8mm 类钻碳振膜动圈单元，498 元 加拿大警方逮捕一名黑客，其涉嫌盗取 165 家公司数据 红旗 6.6kW 多合一车载电源产品启动量产，可显著提升空间利用率 机械师推出 M3 Air 双模办公鼠标：65 克重量，12 天续航，59 元 东风汽车研发总院整车试制产线贯通，神秘新车项目首台样车下线 中国载人月球车进入初样研制阶段，两团队获得研制合同 KTC 推出“32GT950”31.5 英寸显示器：2K 165Hz，1399 元 王化辟谣“小米驾校 1999 元包漂移培训”：目前并没有制订培训费用具体金额 驰为海外推出 UBox 迷你主机：R5-6600H + 双 2.5G 网口，329 美元
