XNews

APXInfオープンソースエンジン、身体化モデルのレイテンシを10.7倍削減

APXInfオープンソースエンジン、身体化モデルのレイテンシを10.7倍削減

APXInfは、身体化モデル向けのオープンソースエッジ推論エンジンであり、Jetson Thor上で反応時間を278ミリ秒から26ミリ秒未満に短縮(10.7倍高速化)。PI 0.5およびWALL-OSSモデルをサポートし、RTX 4090およびJetsonボード上で動作し、RLinfトレーニングからデプロイまでのエコシステムの一部である。

Source posts