首个产业级2Bit量化新突破,腾讯混元推出0.3B端侧模型
创始人
2026-02-11 01:20:57

来源:第一财经

据腾讯混元官微消息,基于首个产业级2Bit端侧量化方案,腾讯混元今天正式推出一款面向消费级硬件场景的“极小”模型HY-1.8B-2Bit,等效参数量仅有0.3B,内存占用仅600MB,比常用的一些手机应用还小。通过对此前混元的小尺寸语言模型——HY-1.8B-Instruct进行 2 比特量化感知训练(QAT)产出,这一模型对比原始精度模型等效参数量降低了6倍,并且在沿用原模型全思考能力同时,在真实端侧设备上对比原始精度模型生成速度提升2—3倍,可大幅提升使用体验。此次腾讯混元推出HY-1.8B-2Bit模型,可以在边缘设备上无压力部署。这也是首个在实现2bit产业级量化的端侧模型实践。

(本文来自第一财经)

相关内容

热门资讯

曝一加入局掌机市场,8英寸、天... IT之家 4 月 7 日消息,在手机市场竞争激烈、内存大涨价的背景下,博主 @熊猫很禿然 今日爆料称...
卓兆点胶:公司今年已初步进入苹... 来源:滚动播报 今天早盘,折叠屏概念大涨,大富科技、福蓉科技等多股涨停。卓兆点胶大涨,盘中一度涨近1...
正规谷歌SEO优化公司怎么选?... 2026年,谷歌占据全球搜索引擎市场份额超92%,是海外B2B、B2C采购决策的核心入口——73.6...
卢伟冰确认:REDMI K90... 快科技4月7日消息,REDMI K90 Max官宣本月发布,这是K系列首款Max机型。 值得注意的是...
Anthropic宣布年化营收... 环球网 4月7日消息,据The Economic Times报道,人工智能初创公司Anthropic...