T-MAC是一种创新的基于查找表（LUT）的方法，专为在CPU上高效执行低比特大型语言模型（LLMs）推理而设计，无需权重反量化，支持混合精度矩阵乘法（mpGEMM），显著降低了推理开销并提升了计算速度。为增强设备上的智能性，在边缘设备部署大型语言模型（LLMs）成为了一个趋势，比如微软的Windows11AI+PC。目前部署的大语言模型多会量化到低比特。然而，低比特LLMs在推理过程

有CPU就能跑大模型，性能甚至超过NPU/GPU！没错，为了优化模型端侧部署，微软亚洲研究院提出了一种新技术—— T-MAC。这项技术主打性价比，不仅能让端侧模型跑得更快，而且资源消耗量更少。咋做到的？？在CPU上高效部署低比特大语言模型一般来说，要想在手机、PC、树莓派等端侧设备上使用大语言模型，我们需要解决存储和计算问题。常见的方法是模型量化，即将模型的参数量化到较低的比特数，比如4

童姥下天山。微软全球研究合伙人、图形学领域大名鼎鼎的童欣对外官宣，将结束微软亚洲研究院25年历程，开启全新旅程。至于下一步，目前尚未透露。童欣是谁？是微软亚研院网络图形组首席研究员。也曾是中科大、天大、浙大、北航的客座教授/客座研究员、博士生导师。他主要研究方向为计算机图形学和三维计算机视觉，研究兴趣包括材质捕捉与建模；数据驱动的三维几何处理与建模，纹理合成，光传输分析与模拟，三维人脸动画等。在计

近年来，人工智能发展迅速，尤其是像ChatGPT这样的基础大模型，在对话、上下文理解和代码生成等方面表现出色，能够为多种任务提供解决方案。但在特定领域任务上，由于专业数据的缺乏和可能的计算错误，它们的表现并不理想。同时，虽然已有一些专门针对特定任务的AI模型和系统表现良好，但它们往往不易与基础大模型集成。为了解决这些重要问题，TaskMatrix.AI破茧而出、应运而生，这是由微软（Microso

感谢IT之家网友肖战割割的线索投递！IT之家1月18日消息，据界面新闻报道，针对微软计划关闭微软亚洲研究院的传闻，微软全球资深副总裁、微软研究院负责人PeterLee回应称，目前没有关于关闭微软亚洲研究院的讨论或主张。“我们一如既往地支持微软亚洲研究院及其世界级的研究工作，对未来的研究计划充满期待。”他表示。图源Pexels微软公司总裁兼董事会副主席BradSmith则强调，“历史的经验表明，从世

北京时间1月10日，据四位微软现任和前任员工透露，至少在过去一年时间里，微软CEO萨蒂亚・纳德拉 (SatyaNadella)、总裁布拉德・史密斯 (BradSmith)等高级管理层一直在讨论如何处理位于北京的微软亚洲研究院 (MSRA)。▲ 微软公司自1998年创建以来，微软亚洲研究院已经聘请了数百名研究人员，引领了微软在语音、图像、人脸识别、人工智能(A

IT之家6月19日消息，针对有消息称微软公司旗下研究机构微软亚洲研究院（MSRA）的AI顶级科学家从中国转移到温哥华，6月19日上午，微软亚洲研究院向钛媒体回应表示，微软将在加拿大温哥华建立一个新的实验室，确认将包含微软在中国的AI研究专家到新实验室当中。同时，MSRA早前还否认其撤离中国。MSRA在一份声明中表示：“我们正在温哥华建立一个新的实验室，与微软亚洲研究院在组织结构上保持一致，并旨在更

感谢IT之家网友华南吴彦祖的线索投递！IT之家6月19日消息，近日，有传言称微软公司欲将其在中国设立的唯一研究机构——微软亚洲研究院（MSRA）撤离中国，转移到加拿大温哥华。但MSRA向界面新闻明确表示：此消息不属实。本月中旬据金融时报报道，四位知情人士透露，总部位于北京的微软亚洲研究院已经开始寻求签证，以便将顶级人工智能专家从北京转移到其在温哥华的研究所。知情人士表示，此举可能会影响20至40名

IT之家1月17日消息，2022年1月17日，中国北京——微软亚洲研究院宣布，无线及移动网络领域的国际顶级专家邱锂力博士正式加入微软亚洲研究院，担任副院长一职，主要负责微软亚洲研究院（上海）的研究工作，以及与产学研各界的合作。▼ 邱锂力，图自微软亚洲研究院加入微软亚洲研究院之前，邱锂力在美国得克萨斯大学奥斯汀分校担任计算机系教授，并担任国际计算机学会无线及移动系统专委（ACMSIGMOB

7月27日上午消息，微软中国今天宣布，微软杰出首席科学家、原微软亚洲研究院常务副院长周礼栋升任微软亚洲研究院院长，全面负责微软亚洲研究院在北京和上海的研究工作，以及与中国及亚太地区学术界和产业界的合作。洪小文博士不再兼任微软亚洲研究院院长一职，作为微软全球资深副总裁和微软亚太研发集团主席，洪小文博士将继续负责推动微软在亚太地区的整体研发战略布局和创新生态系统的构建。微软全球资深副总裁、微软研究院负