XNews

APXInf开源引擎将具身模型延迟降低10.7倍

APXInf开源引擎将具身模型延迟降低10.7倍

APXInf是一款面向具身模型的开源边缘推理引擎,在Jetson Thor上将反应时间从278毫秒降至26毫秒以下(速度提升10.7倍)。它支持PI 0.5和WALL-OSS模型,可在RTX 4090和Jetson板卡上运行,并隶属于RLinf训练到部署生态系统。

Source posts