蒋颖:算力需求大增,液冷发展迎风口
创始人
2024-07-09 19:01:37
0

中新经纬7月9日电 题:算力需求大增,液冷发展迎风口

作者:蒋颖 开源证券通信首席分析师

蒋颖

2022年底生成式AI大模型ChatGPT横空出世,掀起新的AI浪潮,海内外互联网巨头、科技企业及研究机构等陆续投入到大模型研发当中,拉开“百模大战”的序幕。

随着AI对算力的需求持续增长,传统风冷散热模组下热点问题显著,2024年或为液冷渗透率大幅提升元年。

算力需求大增

风冷散热已达瓶颈

随着AI语言大模型的不断迭代,模型数据量和参数规模呈现指数级增长,算力需求不断提升。

据中国信通院数据,2023年推出的GPT-4参数数量可能扩大到1.8万亿个,是GPT-3的10倍,训练算力需求上升到GPT-3的68倍,在2.5万个A100上需要训练90—100天。无论是AI模型的训练还是推理均离不开算力资源的支持,AI的高速发展带来大量算力和数据中心机柜需求,拉动算力基础设施建设。

服务器设备是提供算力资源的主要载体,IDC(数据中心)则是给集中放置的ICT设备(服务器设备、网络设备、存储设备)提供运行环境的场所,需要对ICT设备进行持续的供电和制冷散热。

传统风冷技术以空气为介质进行散热,存在散热密度低、散热能力差、易形成局部热点等缺陷。AI高算力需求下,芯片发热量和热流密度不断增长,如若芯片长时间高温运行,则会影响芯片性能并提升芯片故障率、减低其使用寿命。

AI对算力的需求持续增长,国内外算力芯片热功率也不断攀升,传统风冷散热模组下热点问题显著,风冷散热已达瓶颈。

芯片功率的增加也导致整机柜功率的增长,采用传统风冷的数据中心通常可以解决12kW以内的机柜制冷。随着服务器单位功耗增大,同样尺寸的普通服务器机柜可容纳的服务器功率往往超过15kW,相对于现有的风冷数据中心,已逼近空气对流散热能力天花板。

而液冷散热以液体为介质进行散热,由于液体的体积比热容是空气的1000-3500倍,液体的对流换热系数是空气的10-40倍,同等空间情况下,液冷的冷却能力远高于空气。

因此,2024年或为液冷渗透率大幅提升元年。目前,英伟达GB200 NVL72单机柜功率已高达120KW,从原有风冷散热方案改为风液混合散热方案;华为Atlas 900 AI集群单柜功率高达50KW,同样采用风液混合散热方案。

全国数据中心能耗偏高

液冷市场空间大

2022年全国数据中心耗电量达到2700亿千瓦时,占全社会用电量约3%。2021年全国数据中心耗电量为2166亿千瓦时,为同期三峡电站累计发电量1036.49亿千瓦时的两倍,数据中心减排迫在眉睫。

在落实节能降碳方面,政策明确要求全国新建大型、超大型数据中心平均电能利用效率降到1.3以下,国家枢纽节点进一步降到1.25以下,绿色低碳等级达到4A级以上。

虽然风冷技术是目前普遍应用的数据中心散热技术,但其存在散热密度低和散热能力差的缺陷。液冷散热相较于传统风冷,取代大部分空调系统(压缩机)、风扇等高能耗设备,可实现节能20%—30%以上,PUE降至1.2以下,助力数据中心绿色化发展。

液冷产业生态涉及产业链上中下游,包括上游的一次侧和二次侧产品零部件提供商,中游的液冷服务器、液冷交换机等IT设备提供商,以及下游的算力使用者主要包括三大电信运营商,互联网企业和第三方IDC服务商。总体来看,行业参与者众多,液冷数据中心市场空间较大。

国内三大电信运营商已在2023年提出“液冷三年”愿景,引领液冷行业形成统一标准,并陆续在项目中试行液冷方案,助力液冷生态逐渐完善。

据科智咨询预计,2024年中国液冷数据中心市场将同比增长53%,市场规模将增长至236亿元;预计2022—2027年,中国液冷数据中心市场将以59%的复合增长率持续蓬勃发展;预计到2027年,随着AI系列应用的规模化落地以及液冷生态的日趋成熟,市场规模将突破千亿大关。

从下游需求来看,随着AI大模型、云计算、5.5G等新兴技术的不断发展,互联网、政府和电信行业仍为液冷数据中心的需求主力军,金融、下游制造、医疗、能源等行业也有望不断加大液冷相关投入。

在生态方面,液冷产业早期上下游协同性不高,无统一相关标准,难以形成合力。液冷服务器是液冷生态链的核心价值环节,近期众多服务器厂商先后推出液冷服务器,其他设备厂商相继推出液冷交换机、液冷光模块、液冷机柜等配套设备,积极布局液冷产业,与液冷生态链设备商及服务供应商紧密配合,共同推动液冷生态进一步完善。

成本方面,虽然液冷总体Capex仍高于风冷,但从单位角度来看,单千瓦散热Capex已在快速下降,成本拐点或将出现。

据赛迪顾问发布的《2023中国液冷应用市场研究报告》,2022年液冷数据中心1kW的散热成本为近6500元,相比2021年已经下降了54.2%,预计2023年1kW的散热成本有望降至5000元左右,与传统风冷的建设成本已基本持平。

相关内容

热门资讯

软件正进入1964年时刻? 你可能没听说过这个人:Andrej Karpathy。 但他是AI圈的大神级人物。斯坦福出身,在Op...
原创 谷... 大家好啊,我是老陈,最近在网上和新闻里,总能看到中国科技的“高光时刻”。谷歌前CEO施密特的一番话引...
布冈夜蛾何以飞越千里?研究发现... 中新网北京6月21日电 (记者 孙自法)国际知名学术期刊《自然》最新发表一篇动物行为研究论文称,澳大...
苹果被硅谷AI圈围殴了! 智东西 作者 | 李水青 编辑 | 心缘 智东西6月21日报道,自上周苹果发表一篇论文,质疑大模型...
原创 W... 虽然苹果今年在国内整体外销量不怎么样,但苹果的单品销量一直是国产无法逾越的大山。甚至会长时间牢牢霸占...
从“边干边学”到创造价值,AI... 人工智能,是近两年最为火热的话题之一。各行各业都在尝试使用这一颠覆性技术来提升效率、变革生产方式,过...
云手机十大品牌实测,哪家性价比... 云手机市场在 2025 年呈现出蓬勃发展的态势,众多品牌纷纷推出各具特色的云手机产品,以满足不同用户...
微软研发4D几何编码法,有望实... 可靠量子计算已经到来?最近,微软量子团队在 arXiv 连续发表两篇论文,称其所研发的 4D 几何编...
AB PLC与编码器通讯新突破... 在一条高度自动化的生产线上,为了实现伺服轴的高精度位置检测,一项创新的通讯解决方案被成功应用。这个方...
怀柔科学城“聚科研气”成效不断... 本报记者 刘苏雅 经过近8年的建设,怀柔科学城已成为全球重大科技基础设施最密集的地区,进入以运行为主...
L4级无人观光车量产上路,尚元... 在浙江桐乡百翠山居的一条风景如画的小径上,一辆独特的观光车缓缓行驶,引人注目的是,它的主驾驶座上空无...
AI赋能职业培训:个性化方案与... 人工智能技术的飞速发展正引领职业培训领域经历一场深刻的变革。传统的统一课程、统一进度的培训模式,因其...
千摄氏度钢水遇到二进制代码,碰... 上证报中国证券网讯(记者仲茜 秦春刚)6月21日,在人工智能赋能新型工业化供需对接深度行(钢铁行业)...
“巴黎1874·印象派之夜——... 南都讯 记者谢湘南 6月20日,国内领先的大空间沉浸式探索体验品牌博新全宇宙宣布,由巴黎奥赛博物馆联...
胡英彪:让深汕“AI智能制造”... 深圳商报·读创客户端记者 刘淑芳 像磁片吸附手机的AI翻译器、带风扇的雨伞、能降温的空调服……在近日...
涉事人员非小米员工!小米汽车严... 针对近期网络上出现疑似“小米销售人员与用户沟通小米YU7”的内容,对话中销售人员存在诋毁其他品牌产品...
星空有约|我国两台先进望远镜在... 新华社西宁6月21日电(记者陈杰)中国科学院紫金山天文台21日在青海冷湖天文观测研究基地启动建设4....
第九届全国青少年无人机大赛举行 6月21日,来自全市的无人机飞行健将们齐聚华东师范大学第二附属中学闵行紫竹分校、附属初级中学,参加由...
宁德时代等申请路径规划方法相关... 金融界2025年6月21日消息,国家知识产权局信息显示,宁德时代新能源科技股份有限公司、宁德时代未来...
智能制造永不止步——走进百川轨... 智能制造永不止步 ——走进百川轨道交通智能装备产业化项目 唐山劳动日报记者 郝燕 图为技术人员正在...