后摩智能推出边端大模型AI芯片M30,赋能多场景智能化
创始人
2024-06-28 15:21:57

近日,后摩智能推出基于存算一体架构的边端大模型AI芯片——后摩漫界™️M30,最高算力100TOPS,典型功耗12W。为了进一步提升部署的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。

随着AI大模型部署需求从云端迅速向端侧和边缘侧设备迁移,AI芯片的性能、功耗和响应速度面临前所未有的挑战。后摩漫界™️M30芯片兼具高性能与低功耗特性,可满足边端侧大模型部署对高效率和实时性的严苛要求。

M30是一款通用的边端大模型AI芯片,能够支持多种大模型,包括但不限于ChatGLM、Llama2、通义千问等。以Qwen1.5-7B-Chat为例,M30的运行性能可达15-20 Tokens/s。

基于M30芯片的智算模组(SoM)支持PCIe EP模式,以其小巧的体积、强劲的性能和极低的功耗,成为小型化设备和功耗敏感嵌入式场景的理想选择。此外,基于M30芯片的力谋®️AI加速卡作为标准的半高半长PCIe加速卡,能在PC、一体机和服务器中实现快速部署,支持主动散热和被动散热两种模式,确保设备在不同环境下的稳定运行。

后摩漫界™️M30将以“+AI”的方式,为传统的端侧和边缘侧设备注入强大的大模型能力,现已成功适配包括X86、ARM在内的多种主流处理器,可广泛应用于AI PC、边缘AI一体机、智能座舱、商用显示、智能融合网关,NAS(网络附加存储)等领域,为AI技术在更多领域的深入应用注入强大动力。

相关内容

热门资讯

锐捷网络取得路由器风扇模块专利... 国家知识产权局信息显示,锐捷网络股份有限公司取得一项名为“路由器、路由器模块及风扇模块”的专利,授权...
我国科学家成功研发叠层柔性太阳... 1 月 14 日消息,据央视新闻今日报道,苏州大学张晓宏教授团队成功研发出柔性晶硅钙钛矿叠层太阳能电...
原创 炸... 炸了!中国申请20万颗卫星不是炫技?暗藏破局关键 你的手机、出行、钱包都将巨变 元旦刚过,一条看似遥...
卫星互联网技术公司哪家强?【核... 引言 卫星互联网作为全球通信网络的关键补充,正在从“技术验证”向“规模化商用”加速迈进。据行业预测,...
江苏公布无人机适飞空域 近期,江苏省低空飞行服务中心根据《无人驾驶航空器飞行管理暂行条例》规定,公布江苏微型、轻型、小型无人...