APXInf:面向机器人的开源边缘推理引擎

APXInf是一款面向具身AI的开源边缘推理引擎,在Jetson Thor上针对PI 0.5模型将反应时间从278毫秒降至26毫秒以下,提升了10.7倍。该引擎支持在RTX 4090、Jetson Orin和Thor上运行PI 0.5和WALL-OSS模型。
Key insights
性能提升
APXInf在Jetson Thor上针对PI 0.5模型将反应时间从278毫秒降至26毫秒以下,实现了10.7倍的提升。这使得机器人能够实现实时控制。该引擎专为长时间稳定运行而设计,无抖动或断连问题。
兼容性与生态系统
APXInf支持PI 0.5和WALL-OSS具身模型。它可在桌面级RTX 4090以及机器人平台Jetson Orin和Thor上运行。该引擎与开源训练框架RLinf同属一个生态系统,实现了从训练到部署的统一工具链。