英伟达近日震撼发布专为物理AI与人形机器人设计的全新力作——NVIDIA Jetson Thor,这一创新产品被其创始人兼首席执行官黄仁勋誉为“引领物理AI与通用机器人时代的终极超级计算机”。
Jetson Thor集成了英伟达Blackwell GPU、14核Arm Neoverse CPU以及高达128GB的显存,显存带宽达到273 GB/s。在FP4精度下,其AI峰值算力惊人地达到了2070 TFLOPS,而在FP8精度下也有1035 TFLOPS的出色表现。这一强大的计算能力使得Jetson Thor能够在边缘设备上加速生成式AI与大型Transformer模型的运行。
Jetson Thor不仅性能卓越,其灵活性也令人瞩目。整个计算机的功率可根据需求在40W至130W之间配置。借助4个25 GbE网络接口、摄像头卸载引擎以及Holoscan传感器桥接器,Jetson Thor能够高效提取高速传感器数据,实现实时性能,为机器人与人类及物理世界的智能交互提供坚实基础。
该芯片特别针对运行多AI工作流进行了优化,旨在推动视觉AI agents和复杂机器人系统的发展。与上一代Jetson Orin相比,Jetson Thor在AI计算性能上提升了多达7.5倍,能效提升3.5倍,CPU性能提升3.1倍,I/O吞吐量更是提升了10倍。若与10年前的产品相比,其AI性能的提升更是高达7000倍。
Jetson Thor与英伟达从云到边缘的完整软件栈高度兼容,支持各种主流AI框架及多家企业的生成式AI模型,包括字节跳动、DeepSeek、阿里Qwen、谷歌Gemini、meta、Mistral AI、OpenAI以及Physical Intelligence(π)等。它还与英伟达Isaac平台、Isaac GR00T人形机器人基础模型、NVIDIA Metropolis视觉AI平台以及NVIDIA Holoscan实时传感器处理平台等无缝对接。
在实时控制方面,Jetson Thor展现出了非凡的能力。它能够并行处理16个传感器输入,并在运行Llama 3B和Qwen 2.5 VL 3B模型时,生成第一个token的时间在200ms内,输出每token的时间仅需50ms,这意味着每秒可生成超过25个token,性能相较于前代产品有了显著提升。
英伟达CUDA生态系统中的软件在Jetson系列产品的整个生命周期中不断优化,例如,通过软件升级,Xavier的性能提高了50%,Orin的性能则提升了100%。随着未来软件的持续优化,Jetson Thor的性能还将进一步提升。
自2014年以来,英伟达Jetson平台与机器人软件栈已吸引了超过200万开发者,以及由150多个硬件系统、软件和传感器合作伙伴组成的庞大生态系统。众多明星人形机器人公司,如众擎机器人、银河通用、优必选、宇树科技等,以及联影医疗、万集科技等医疗与智能交通领域的领先企业,都已率先采用Jetson Thor。
目前,英伟达Jetson AGX Thor开发者套件已在全球上市,起售价为3499美元(约合人民币2.50万元)。同时,Jetson T5000和Jetson T4000模组也可通过全球分销合作伙伴获得,起售价分别为2999美元(约合人民币2.15万元)和1999美元(约合人民币1.43万元)。
英伟达正专注于为物理AI和机器人打造包括用于训练模型的NVIDIA DGX AI超算、用于合成数据生成与仿真测试的NVIDIA OVX计算机以及安装在机器人本体上的实时计算机(如Jetson Thor)在内的三台计算机,以满足不断增长的物理AI和机器人市场需求。
上一篇:马斯克,新动作!