首个产业级2Bit量化新突破,腾讯混元推出0.3B端侧模型
创始人
2026-02-11 01:20:57

来源:第一财经

据腾讯混元官微消息,基于首个产业级2Bit端侧量化方案,腾讯混元今天正式推出一款面向消费级硬件场景的“极小”模型HY-1.8B-2Bit,等效参数量仅有0.3B,内存占用仅600MB,比常用的一些手机应用还小。通过对此前混元的小尺寸语言模型——HY-1.8B-Instruct进行 2 比特量化感知训练(QAT)产出,这一模型对比原始精度模型等效参数量降低了6倍,并且在沿用原模型全思考能力同时,在真实端侧设备上对比原始精度模型生成速度提升2—3倍,可大幅提升使用体验。此次腾讯混元推出HY-1.8B-2Bit模型,可以在边缘设备上无压力部署。这也是首个在实现2bit产业级量化的端侧模型实践。

(本文来自第一财经)

相关内容

热门资讯

这种一次性杯子赶紧扔了 近些年,可降解一次性杯子由于环保、洁净的理念,呈现出快速增长的消费趋势。但有消费者反映,市场上一次性...
AI真正的护城河不是技术 本文来自微信公众号:,作者:01Flow,原文标题:《别FOMO了,AI真正护城河不是技术,是…》,...
AI闯入课堂,职校教学迎来“模... “鸦片战争以来……”广东科学技术职业学院一名大一学生,正在和“AI学伴”智能体一起观看思政课章节的纪...
求是网:前瞻布局和发展未来产业 来源:财联社 近日,中共中央政治局就前瞻布局和发展未来产业进行第二十四次集体学习,习近平总书记在主持...
宫灯第一村 红火迎新春 春节临近,被誉为“中国宫灯第一村”的河北省石家庄市藁城区屯头村处处张灯结彩,家家户户都在为春节前的宫...