具身开发者社区

外观

踩坑GitHub Physical-Intelligence/openpi2 个月前

Jetson Orin部署openpi0模型加载卡死及OOM问题 ​

Orin运行openpi0策略服务时模型加载卡死，系统一内存预分配导致交换频繁；可尝试禁用XLA预分配缓解，低配版仍可能OOM。

AI 整理
  • 本体 SDK 与控制
  • 端侧部署

本文由 AI 根据公开内容整理，可能有误，请以原文为准：Deploying openpi0 on jetson orin encountered an error（GitHub Physical-Intelligence/openpi #386）

状态：有绕过办法

问题 ​

在Jetson Orin上非Docker环境执行 uv run scripts/serve_policy.py --env DROID 时，程序在 ocp.PyTreeCheckpointer().restore() 处无限卡死。日志显示JAX后端初始化警告但无显式报错。部分用户反馈VSCode被杀暗示OOM，且禁用预分配后8G版Orin Nano Super仍无法解决。

环境 ​

Jetson Orin / Orin Nano Super (8G)；OpenPI源码；JAX + Orbax Checkpoint 0.11.1；非Docker部署；Python uv环境。

解决办法 ​

  1. 启动策略服务前添加环境变量禁用XLA内存预分配：XLA_PYTHON_CLIENT_PREALLOCATE=false uv run scripts/serve_policy.py --env DROID。
  2. 该设置针对Orin CPU/GPU统一内存架构，避免大量GPU显存预分配触发系统频繁Swap导致假死。
  3. 若使用8G内存版Orin Nano Super且上述无效，大概率为物理内存不足导致OOM，需更换更高内存规格硬件或采用量化/蒸馏后的轻量化模型。
  4. 确认checkpoint路径正确且包含有效参数文件，排除因元数据缺失导致的静默失败。

讨论原作者：@zhaodaxiang 等，版权归原作者所有。

来源

本页事实对应的公开页面，以原文为准。

  1. GitHub Physical-Intelligence/openpi #386：Deploying openpi0 on jetson orin encountered an error访问 2026-10-26