Jetson Thor 专为生成式 AI 模型的推理打造,可支持下一代「物理 AI」智能体。这类智能体由大型 transformer 模型、视觉语言模型(VLM)及视觉语言动作模型(VLA)驱动,能够在端侧实时运行,最大限度地降低对云端的依赖。
在配套的软件栈上,Jetson Thor 的配套工具可满足实时应用对低延迟与高性能的需求,且支持所有主流生成式 AI 框架与 AI 推理模型,实时性能优势显著。这些模型包括 Cosmos Reason、DeepSeek、Llama、Gemini、Qwen 等通用模型,以及 Isaac GR00T N1.5 等机器人专用模型,开发者可以快速在本地开展模型实验以及运行推理。
英伟达表示,通过 FP4 精度与推测解码优化,Jetson Thor 的性能有望进一步提升。
Jetson Thor 还支持运行完整的 NVIDIA AI 软件栈,为几乎所有物理 AI 工作流加速,其覆盖的平台包括面向机器人的 NVIDIA Isaac、面向视频分析 AI 智能体的 NVIDIA Metropolis,以及面向传感器处理的 NVIDIA Holoscan。
在英伟达三个计算机解决方案的愿景中,DGX 负责在云端进行 AI 模型的训练,Omniverse 负责合成数据生成和仿真,而 AGX 则负责端侧 AI 的实际运行。Jetson Thor 的发布,可以说是为端侧的版图,换上了最新最强的算力。