戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型
创始人
2025-08-16 18:01:16
0

智东西

作者 | ZeR0

编辑 | 漠影

智东西8月15日报道,今日,在戴尔科技峰会(DTF)期间,戴尔科技正式发布专为AI推理设计的“掌上AI超算”Dell Pro Max with GB10。

这是Dell Pro Max全新产品线旗下的一款重要AI工作站新品,搭载NVIDIA GB10 Grace Blackwell 超级芯片,首次将数据中心级架构下放至桌面,专为AI开发者设计,在FP4精度下可提供高达1000TOPS的AI性能。

▲戴尔科技集团大中华区客户端销售系统工程总监喻智娟现场展示Dell Pro Max with GB10

传统电脑通常应用于游戏开发、软件开发、媒体制作、医疗、金融等行业,而Dell Pro Max with GB10聚焦于AI领域的研发和应用,专注满足AI计算的需求,能无缝扩展至更大规模数据集或生产环境,大幅降低复杂项目的实现成本与难度,适用于AI原型研发、边缘AI计算、数据科学、AI开发、大模型推理、教育等领域。

戴尔科技集团大中华区客户端解决方案事业部工作站资深产品经理汪志军在一场媒体沟通会上对这款新品进行了详尽分享。

他打了个形象的比喻:Dell Pro Max with GB10就像一个装修完毕、设备齐全的智能厨房,所有的硬件配置合理、软件环境完整、开发框架预设完毕,连“菜单”——也就是常用的开发路径、运行环境——都打包好了。用户只需要把“食材”——数据、模型、算法——放进去,按流程调用,就能快速生成用户的AI应用。无论是企业级的部署还是某个垂直行业的落地应用,都能高效启动,并且具备很强的可扩展性与可持续性。

一、小到能塞进包里的掌上AI超算,单机能跑2000亿参数模型

从外形来看,Dell Pro Max with GB10非常小巧,只有1.2升,类似于一本字典,小到能塞进包里。

这款AI设备是戴尔首次与NVIDIA在Grace Blackwell架构上的深度合作,基于NVIDIA Grace Blackwell 平台,配备128GB LPDDR5x统一内存,通过 NVIDIA NVLink C2C 连接,CPU和GPU可共享访问所有系统内存。相比之下,一个标准显卡通常只有十几GB的显存。

Dell Pro Max with GB10单机最多能支持高效构建、优化和部署2000亿参数的AI推理模型,微调最多可达700亿参数的模型。

如果开发者希望进行模型开发、训练或微调,这台机器也具备足够的精度能力,支持最高达700亿参数级别的模型训练任务。

通过NVIDIA ConnectX-7网络连接技术和200G x 2 QSFP 接口,这台机器可实现双机高速互联,组成一个更高性能的AI算力节点,内存扩展至256GB,支持最多4050亿参数的模型,满足大型AI模型的运行需求。

Dell Pro Max with GB10采用全金属机身,配备了一款240瓦电源,并对散热系统进行了优化设计,以确保设备能够在高负载下保持稳定运行。

其硬盘提供2TB和4TB两种容量,网络接口还配备了常规的10Gb网络接口,无线连接支持Wi-Fi 7和蓝牙5.1,I/O接口包括多种Type-C接口。

二、预装NVIDIA AI相关组件,涵盖模型部署、调优、推理全流程

Dell Pro Max with GB10具备出色的软件生态。

该产品出厂预装了基于Ubuntu深度开发的DGX OS 7定制化操作系统,包含针对本机的优化配置、设定及额外驱动程序,同时集成了NVIDIA提供的丰富开发容器、套件及AI框架,实现硬件与软件的深度适配,确保开发者在桌面、NVIDIA DGX Cloud平台与戴尔数据中心之间迁移AI模型时无需修改代码,提升工作连续性。

例如,预装的NVIDIA DGX系统及AI Enterprise软件套件,可帮助用户实现开箱即用,支持快速部署,几分钟内即可投入实际开发与生产环境。提供的NVIDIA Blueprints等参考工作流工具,可加速生成式AI和代理式AI的开发效率,兼顾本地开发的隐私安全与成本优势。

使用传统AI开发主机时,用户往往需要花费大量时间自行组装硬件、安装操作系统及配置各类软件环境。而Dell Pro Max with GB10提供了高度集成的一体化平台,大大降低了部署门槛,显著提升了效率与易用性。

在AI应用方面,Dell Pro Max with GB10更多地支持轻量级的微调,或主要用于推理任务。

汪志军解释说,戴尔与很多AI软件厂商都有合作,但不会要求设备出厂时就预装某些特定的软件,更倾向于通过认证和测试来确保兼容性和稳定性,更关注的是确保整体系统的稳定性。

三、既能用作独立电脑,又能直连现有笔记本、工作站

Dell Pro Max with GB10可以直接连接现有笔记本、台式机、工作站使用,作为一个用于AI开发与推理的算力盒。

有高数据安全要求、希望本地完成AI大模型推理的开发者,可通过将自己的电脑外接Dell Pro Max with GB10来实现本地高效运行AI模型的需求。

就像现在有些笔记本在GPU性能不足时外挂显卡,Dell Pro Max with GB10也可以作为一个外接的AI算力模块,为主机设备提供强大的AI推理性能支持。

Dell Pro Max with GB10也可以作为一台独立电脑来使用,能像普通PC一样接上键盘、鼠标、显示器。开发者可以将它用作开发主力机,学校机房也可以成批部署,用于AI 教学、日常开发、模型训练、原型研究等。

此外,这台机器还能作为“边缘大脑”,在工业自动化、机器人、自动驾驶等领域的边缘部署或嵌入工业设备、医疗设备等设备中,承担边缘AI计算任务。

在扩展性方面,Dell Pro Max with GB10是固定配置。

结语:商用PC中工作站需求增长,戴尔已为不同模型推理提供差异方案

汪志军分享说,大模型厂商对硬件资源的需求正在转变,从选择数据中心级硬件转向更加垂直、落地的应用场景与更符合私有化部署需求的领域,这些行业往往难以直接使用传统的大模型来满足需求,需要自主开发或与解决方案供应商合作,进行定制化部署,这时能部署在桌面端或边缘终端的AI工作站成为理想选择。

据IDC预测,到2030年,企业采购的商用PC中,每10台就有1台是工作站,市场份额将从5%增长至10%。

不同模型适用于不同工作站产品。例如对于FP4计算,参数规模在2000亿以下的模型,Dell Pro Max with GB10适用于推理任务。当推理需求更高,比如参数规模达到4050亿的模型,可通过两个Dell Pro Max with GB10组合成一个方案来满足其计算需求,实现高效推理。

Dell Pro Max with GB10提供三到五年的企业级售后支持。汪志军谈道,戴尔不仅是推出一款产品,更是在构建一个完整、协同的AI PC解决方案生态。

相关内容

热门资讯

歌步者取得多合一无线充电器专利... 金融界2025年8月16日消息,国家知识产权局信息显示,深圳歌步者科技有限公司取得一项名为“一种多合...
还原失传技法、建立数字存档……... 8月14日,“人工智能与非遗传承”闵行区科协第十四届学术年会在莘海科技园工业数字化创新中心举行,活动...
栾恩杰:中国探月工程领航者,荣... 在万众瞩目的夜晚,《感动中国2024年度人物颁奖盛典》缓缓拉开帷幕,其中,中国探月工程的首任领航者栾...
追光|在“冰丝带”,机器人们开... 这几天 北京的“冰丝带”迎来了一群 不流汗、不喊累、不怕摔的运动员 它们就是: 人!形!机!器!人!...
维仕声学取得发声单元专利,提高... 金融界2025年8月16日消息,国家知识产权局信息显示,深圳市维仕声学有限公司取得一项名为“发声单元...
英国计划引入人工智能助手推动政... 中新网伦敦8月16日电 (欧阳开宇 李可奕)英国政府16日消息称,政府计划引入人工智能助手,协助民众...
苏奥传感公布“一种用于超低排放... 天眼查APP显示,近日,江苏奥力威传感高科股份有限公司申请的“一种用于超低排放燃油系统的阀管总成”专...
荣耀Magic8系列入网:搭载... 8月14日,工信部认证信息显示,荣耀Magic8系列已完成入网备案,这是首批采用高通骁龙8 Elit...
OpenAI计划斥巨资数万亿美... 近期,OpenAI的首席执行官山姆·奥尔特曼在一篇由彭博社发布的报道中透露了公司的宏伟计划。他宣布,...
莫让数据污染冲击人工智能安全 国家安全部近日发文提示,人工智能的训练数据良莠不齐,其中不乏虚假信息、虚构内容和偏见性观点,造成数据...
ChatGPT最新版本消耗多少... 最新版本的ChatGPT消耗多少能量?没有人确切知道,但有一件事是肯定的——这是很多。ChatGPT...
原创 8... 8月份的新机市场继续升温,所加入的新机越来越多,而且各类机型均有,比如折叠屏、旗舰机、电竞手机、入门...
“北京超高清视听·行!”主题活... 央广网北京8月16日消息(记者 朱冠安)近日,由北京市广电局主办的“北京超高清视听·行!视听奇境”主...
具身机器人搭载“通智大脑”起舞... 音乐响起,搭载了“通智大脑”的双足人形机器人“通小舞”翩然起舞,肢体动作流畅。8月16日,它在一众参...
从治疗到“智”疗 解码河南数智... 河南日报记者 李晓敏 实习生 金玉茹 科技浪潮奔涌,数智力量正以前所未有的深度融入卫生健康领域。“互...
通研院BIGAI-Unitre... 来源:市场资讯 (来源:贝壳财经) 通研院BIGAI-Unitree战队夺冠。受访者供图 新京报贝...
涉“外星生命”,科学家有新突破 据美国趣味科学网站8月7日报道, 化学家们已人工合成出一种“超级酒精”,它此前曾被认为过于不稳定而无...
IDC:上半年蓝牙耳机市场出货... IT之家 8 月 14 日消息,根据 IDC《中国无线耳机市场月度出货量跟踪报告,2025 年 6 ...
西安技达取得电炉闲置热量循环利... 金融界2025年8月16日消息,国家知识产权局信息显示,西安技达工业设备有限公司取得一项名为“一种电...
华为余承东亲测鸿蒙智行尚界 H... IT之家 8 月 16 日消息,据新浪科技报道,近日余承东现身上汽亲测尚界新车,不仅与上汽总裁贾健旭...