可支撑万亿参数大模型!首个国产液冷万卡算力集群投建
金融界
2024-01-24 09:12:09

原标题:可支撑万亿参数大模型!首个国产液冷万卡算力集群投建

中国电信表示,2024年上半年,公司将在上海规划建设15000卡的智算集群,总算力超4500P,其中单池新建国产算力达万卡。机构认为,AI发展下算力产业发展迎来重大机遇,算力普适普惠化是大趋势,相关服务生态将逐步构建。

1月22日,上海徐汇区政府与中国电信上海公司共同举办“算力惠模都 万兆连速城”人工智能公共算力服务产品发布会。中国电信表示,2024年上半年,公司将在上海规划建设15000卡的智算集群,总算力超4500P。其中,单池新建国产算力达万卡,是国内首个单池万卡液冷算力集群。

该集群采用新一代国产AI算力,通过高速RDMA(远程直接数据存取)连接各物理机节点,提供低延时、高吞吐量、无损通信网络和强大的并行计算能力,是目前规模最大的全国产液冷机房,多项技术指标领跑全国。

据介绍,该集群最高可支持万亿参数大模型,便于各科研院校、大模型训练公司等机构和企业实现物理资源独享,无虚拟化损耗,满足AI计算、深度学习、图形渲染等复杂训练任务对算力的要求。

同日,上海电信发布一系列人工智能公共算力服务产品,包括智算产品、弹性算网、算力调度平台和行业大模型等。与此同时,“双万兆接入暨一跳入算服务”正式启用。据称,上海电信将提供算力和算网免费试用以及优惠商用资费。

近一年来,ChatGPT掀起人工智能发展新高潮,大模型参数量和训练数据复杂性的快速增长,对智算系统提出大规模算力扩展需求。因此,中国电信方面表示,将迅速在临港投建支撑万亿级参数大模型训练的智能算力资源,进一步促推全市大模型技术应用赋能、产业发展和生态合作。

从市场规模来看,我国算力规模呈高增长态势。据华金证券近期研报统计,截至23年8月,我国在用数据中心机架总规模超过760万标准机架,算力总规模达到197FLOPS算力总规模,近五年年均增速近30%。

政策也在持续加码算力产业,国家层面《算力基础设施高质量发展行动计划》出台,省市层面对于国产算力的支持力度不断增强。对此,华西证券分析师刘泽晶认为,在国家政策的强力支持下,国产算力有望呈现爆发式增长。

民生证券近期研报指出,AI发展下算力产业发展迎来重大机遇,是AI浪潮下确定性最高的细分领域之一。人工智能算力基础设施成为我国数字经济高质量发展的重要战略部署,具有重大发展意义。算力普适普惠化是大趋势,相关服务生态逐步构建。

具体到产业链层面,机构建议关注国产AI芯片、华为升腾一体机厂商、AI服务器整机厂商以及算力运维、先进封装环节相关厂商。

来源:科创板日报

相关内容

热门资讯

每周股票复盘:鸿远电子(603... 截至2026年4月3日收盘,鸿远电子(603267)报收于47.06元,较上周的50.15元下跌6....
移动电源强制性国家标准公布 你... 强制性国家标准《移动电源安全技术规范》3日正式发布,将于明年4月1日起实施。 随着大家使用手机的频率...
宜昌机器人地轨厂家正规的→中科... 宜昌机器人地轨厂家正规之选——中科智造装备,高安全性保障生产 在智能制造蓬勃发展的当下,机器人地轨(...
“东方魔水”健力宝,被小甜水们... 出品 | 创业最前线 作者 | 付艳翠 编辑 | 冯羽 美编 | 邢静 审核 | 颂文 “最近健力宝...
世界杯还没开踢,中国卖家先爆单... 来源:第一财经 从加班到凌晨到AI设计,中国卖家提前半年卷起来了。 随着赛程公布,美加墨世界杯逐渐临...