无问芯穹发布千卡规模异构芯片混训平台
创始人
2024-07-05 15:42:13

中新网上海新闻7月4日电(郑莹莹)7月4日,在2024世界人工智能大会的AI基础设施论坛上,无问芯穹联合创始人兼CEO夏立雪发布了千卡规模异构芯片混训平台。

就在4个月前,无问芯穹Infini-AI大模型开发与服务云平台宣布首次公测,已有智谱AI、月之暗面、生数科技等大模型公司在Infini-AI上使用异构算力。

作为大模型生命周期中不可或缺的两个阶段,训练和推理均需要强大的计算资源支撑。然而,与国际上模型层与芯片层“相对集中”的格局相比,中国的模型层与芯片层更加“百花齐放”。然而,大量的异构芯片也形成了“生态竖井”,不同硬件生态系统封闭且互不兼容,给算力的使用方带来一系列技术挑战。

为构建适应多模型与多芯片格局的AI Native基础设施,无问芯穹的底层解法是:提供高效整合异构算力资源的好用算力平台,以及支持软硬件联合优化与加速的中间件,让异构芯片真正转化为大算力。

近日,无问芯穹与清华、上交的联合研究团队发布了HETHUB,这是一个用于大规模模型的异构分布式混合训练系统。夏立雪介绍,这项技术工程化的初衷,是希望能够通过整合更多异构算力,继续推高大模型技术能力的上限,同时通过打通异构芯片生态,持续降低大模型应用落地成本。

大模型行业发展正在进入规模化产业落地阶段,应用场景的百花齐放,带来了对大模型训练日益迫切的需求。构建大模型时代的AI Native基础设施,不仅能够为AI开发者提供更加通用、高效、便捷的研发环境,同时也是实现算力资源有效整合,支撑AI产业可持续发展的关键基石。

无问芯穹致力于构建适应多模型与多芯片的AI Native基础设施。“技术上限推高与技术落地扩散不矛盾,且取决于我们决心如何对待这个技术。”夏立雪说。

他表示,优良的基础设施就是这样一种“魔法”,当边际成本下降到临界值,就能有更多的人拥抱新技术。(完)

相关内容

热门资讯

“护娃神器”真能放心护娃吗? 儿童电话手表功能逐步手机化 儿童沉迷手表社交圈 应用程序含低俗内容 “护娃神器”真能放心护娃吗 可实...
2026年1月14日 新华纵横... 【节目导视】 【标题字幕】科技赋能 创新引领——产业升级一线观察 (同期)2026年是“十五五”的开...
速度与成本的双重考验,AI算力... 当生成式AI从实验室走向产业一线,企业级AI落地已从“可选创新”变为“生存必需”。但是当前企业级在部...
原创 i... 苹果今天凌晨发布了iOS26.3第二个公测版,这个版本也被业内果粉称为iOS26.3.2,也有很多用...
IDC:2025年华为重返中国... (作者/于雷、云飞) 1月14日,根据国际数据公司IDC发布的2025年全球智能手机市场跟踪报告,2...