APXInf:身体化AI向けオープンソースのオンデバイス推論エンジン

APXInfは、身体化AI向けのオープンソースのオンデバイス推論エンジンであり、InfiniteYou、清華大学、上海交通大学によって公開されました。これにより、Jetson Thor上のPI 0.5モデルの応答時間が278ミリ秒から26ミリ秒未満に短縮され、10.7倍の高速化を実現し、リアルタイムのロボット制御が可能になります。このエンジンは長時間の安定動作を目的として設計されており、RTX 4090およびJetson Orin/Thor上でPI 0.5およびWALL-OSSモデルをサポートしています。