首个产业级2Bit量化新突破,腾讯混元推出0.3B端侧模型
创始人
2026-02-11 01:20:57

来源:第一财经

据腾讯混元官微消息,基于首个产业级2Bit端侧量化方案,腾讯混元今天正式推出一款面向消费级硬件场景的“极小”模型HY-1.8B-2Bit,等效参数量仅有0.3B,内存占用仅600MB,比常用的一些手机应用还小。通过对此前混元的小尺寸语言模型——HY-1.8B-Instruct进行 2 比特量化感知训练(QAT)产出,这一模型对比原始精度模型等效参数量降低了6倍,并且在沿用原模型全思考能力同时,在真实端侧设备上对比原始精度模型生成速度提升2—3倍,可大幅提升使用体验。此次腾讯混元推出HY-1.8B-2Bit模型,可以在边缘设备上无压力部署。这也是首个在实现2bit产业级量化的端侧模型实践。

(本文来自第一财经)

相关内容

热门资讯

新兴产业 | 国内同等功率最高... 6月5日,由中国航发控制系统研究所(以下简称“中国航发动控所”)自主研制的AEE25航空电动发动机,...
暨大体育学院院长苏炳添拟获广东... 据广东省科技厅官网6月7日消息,2025年度广东省科学技术奖评审工作已经结束,根据《广东省科学技术奖...
科创托举新赛道,济南蓄力未来产... 科技突破的高度,决定未来产业发展的深度。近期《求是》杂志发表的重要文章,深刻阐明了培育未来产业对抢占...
2026年小直屏拍照好看手机推... 随着屏幕尺寸不断内卷,越来越多的用户开始怀念单手即可掌控的舒适手感。2026年,小屏旗舰市场迎来了几...
前次募资改道AI算力!明阳电路... 传统PCB主业增长遇阻之际,明阳电路(300739.SZ)发可转债加码AI赛道。 6月5日晚,明阳电...