浪潮信息与英特尔联合发布AI通用服务器
全球TMT
2024-04-19 20:57:17

原标题:浪潮信息与英特尔联合发布AI通用服务器

(全球TMT2024年4月19日讯)4月17日,浪潮信息与英特尔(Intel)联合发布AI通用服务器NF8260G7,在业界首次实现服务器基于通用处理器支持千亿参数大模型的运行,灵活满足基于大模型的AI应用及云计算、数据库等通用场景,为企业大模型应用落地提供更高效的AI通用算力。

AI通用服务器NF8260G7在2U空间支持4颗英特尔至强处理器,具有AMX(高级矩阵扩展)的AI加速功能,内存带宽1200GB/S,全链路UPI总线互连,传输速率高达16GT/s,能够更好满足千亿大模型低延时要求。NF8260G7采用高密度设计,支持16TB大内存容量,并支持12个PCIe5.0扩展,2张高性能AI加速卡,支持Multi-host网络,避免业务跨CPU访问,网络性能提升20%以上,为生成式AI提供更大参数量模型的推理和微调能力。在框架和算法方面,NF8260G7支持PyTorch、TensorFlow等主流AI框架和DeepSpeed等流行开发工具。

浪潮信息与英特尔此前已有多项合作。浪潮信息“源2.0系列基础大模型”和最新的英特尔酷睿Ultra处理器平台完成适配。企业可以在全新的英特尔商用客户端AI PC上,使用AI PC大模型效率工具“YuanChat”快速本地化部署和运行“源2.0”大模型,完成自动编程、商业数据计算、公文写作等任务。浪潮信息还与英特尔联合发布全球首个全液冷冷板服务器参考设计,并面向业界开放。浪潮信息边缘服务器NE5260G7也完成第五代英特尔至强处理器适配,实现平均性能提升21%。

相关内容

热门资讯

联想的超级智能体,要打“安全牌... 2025年最后一周,科技圈的日历几乎已经被智能体填满。 12月30日,科技巨头Meta以数十亿美元收...
太火了!这类主题ETF一个月涨... 航天赛道继续“高飞”。 2025年收官日,航天板块一路“高飞”,相关ETF(交易型开放式指数基金)随...
新四方制药取得药物浓缩设备过滤... 国家知识产权局信息显示,河南省新四方制药有限公司取得一项名为“一种药物浓缩设备过滤装置”的专利,授权...
换卡槽=停机?新手机号使用指南... 办卡:微 信 公 众 号 搜【 可可 找卡】,每天更新运营商官方高性价比套餐!帮你精准匹配适配流量方...
低空经济“引路人”:从工匠周展... 【编者按】在深圳,每一双专注的手,都在为这座创新之城增添动人的温度。值此“深圳工匠周”之际,深圳中华...