XNews

Zhipu GLM-5.3、10万基以上の国内アクセラレータ上で自己最適化推論を実現

Zhipuは、GLM-5.3-Flashが10万基以上の国内AIアクセラレータ上で動作していることを明らかにした。初回実行から本番環境への移行まで2週間未満で、GLM-5.3が駆動するAIエージェントがすべての最適化を実行し、スループットを3.2倍に向上させた。主な最適化には、ReplaySSM、テンソル並列処理、INT8/FP8/BF16混合キャッシュ、エンコード-プリフィル-デコード分離が含まれる。このエージェントは、実際のエンジニアリング上のバグを3件発見し修正した。

Source posts