出品|搜狐科技
作者|张雅婷
9月1日消息,在近日的中国国际大数据产业博览会上,华为常务董事、华为云计算CEO张平安发布演讲。
他表示,算力是智能世界的基础设施,大模型催生了对大算力的需求,未来十年,算力的需求可能会有数万倍的增长。
华为云一直坚定打造“算力黑土地”。今天,华为云的整体算力规模相比去年同期增长率接近250%,使用昇腾AI云服务的客户从去年的的321家增长到今年的1714家。
目前芯片工艺受限情况下,如何提升算力的性能和规模?张平安表示,华为可以发挥“大杂烩”的优势——综合在光通信、网络、供电等多方面的技术,以系统补单点,以空间换算力,以带宽换算力,以能源换算力,通过云上算力集群,获得规模优势和提升性能。
在今年4月,华为云在芜湖发布了CloudMatrix384超节点,将384颗昇腾NPU和192颗鲲鹏CPU,通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,算力规模可以达到300 PFlops。此外,对于万亿、十万亿参数的大模型训练任务,还可以通过横向扩展方式,将432个超节点连在一起,组成一个16万卡的AI集群。如果这个集群用于训练千亿参数大模型,可以同时支持1300个。
华为常务董事、华为云计算CEO张平安