蚂蚁数科SOFAStack发布大模型服务平台
创始人
2024-06-29 00:42:35

中证网讯(记者 欧阳剑环)6月28日,蚂蚁数科旗下多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。该平台兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用,助力企业跑完企业AI应用业务落地的最后一公里。

“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键。”中国信息通信研究院云大所副所长栗蔚表示,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

蚂蚁数科云原生产品资深总监马振雄介绍,对企业来说,大模型训练耗时耗力耗资源,AI Max不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。

据了解,基于SOFAStack多云兼容属性,AI Max具备两层核心特性:在资源层,支持多种国产GPU算力平台纳管部署,企业按需灵活使用资源,使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过程。

当日,SOFAStack与行云创新、AutoMQ、联创集团、谐云科技等生态伙伴签约,将共建多云、多模型生态,加速大模型在各行业落地。

相关内容

热门资讯

锐捷网络取得路由器风扇模块专利... 国家知识产权局信息显示,锐捷网络股份有限公司取得一项名为“路由器、路由器模块及风扇模块”的专利,授权...
我国科学家成功研发叠层柔性太阳... 1 月 14 日消息,据央视新闻今日报道,苏州大学张晓宏教授团队成功研发出柔性晶硅钙钛矿叠层太阳能电...
原创 炸... 炸了!中国申请20万颗卫星不是炫技?暗藏破局关键 你的手机、出行、钱包都将巨变 元旦刚过,一条看似遥...
卫星互联网技术公司哪家强?【核... 引言 卫星互联网作为全球通信网络的关键补充,正在从“技术验证”向“规模化商用”加速迈进。据行业预测,...
江苏公布无人机适飞空域 近期,江苏省低空飞行服务中心根据《无人驾驶航空器飞行管理暂行条例》规定,公布江苏微型、轻型、小型无人...