XNews

GLM、再帰的自己改善型推論インフラを構築

GLM、再帰的自己改善型推論インフラを構築

Zhipu AIは、GLM-5.3-Flashの本番推論が10万基以上の国産AIアクセラレータ上で稼働しており、2週間未満でスループットが3.2倍に向上したことを明らかにした。この改善は主に、GLM-5.3自身を搭載したAIエージェントによって達成された。エージェントは高密度フィードバックシステムを活用し、精度ドリフト、並行処理のボトルネック、冗長計算という3つの実際のエンジニアリング問題を修正した。

Key insights

GLM-5.3-Flash、10万基以上の国産アクセラレータに展開

Zhipu AIは、GLM-5.3-Flashの本番推論が現在10万基以上の国産AIアクセラレータ上で稼働していることを開示した。初回モデル実行から本番展開まで2週間未満で、エンドツーエンドのスループットは3.2倍に向上した。この最適化作業は、人間のエンジニアではなく、GLM-5.3自身が駆動するAIエージェントによって実行された。

高密度フィードバックシステムによりエージェントが複雑システムをデバッグ

AIエージェントは「高密度フィードバック」と呼ばれる階層型検証インターフェースを使用して問題を特定した。正しさに関するフィードバック、システム動作に関するフィードバック(時間の使われ方)、パフォーマンスに関するフィードバック(どの条件下でどのソリューションが優れているか)を提供した。各シグナルは局所的で低コストかつ客観的に検証可能であり、これによりエージェントは3つの実際のエンジニアリング問題を発見・修正できた。

AIエージェントが修正した3つのエンジニアリング問題

第一に、KDAカーネルにおける精度ドリフト。TF32の丸め誤差がチェイン状態行列のマージを通じて蓄積したもので、Flash Linear Attentionへの貢献により修正された。第二に、並行処理のボトルネック。DeepEPのノード内パスでGILが解放されなかったため、KVキャッシュ転送が計算と重ならず、オーバーヘッドが30%超から1%未満に削減された。第三に、デコードカーネルにおける冗長計算。正規化を4回繰り返していた部分を加速し、1.71倍の高速化を達成した。

CEO Tang Jie:モデルが自身のシステムを最適化、再帰的ループが存在

ZhipuのCEOである唐杰氏は、主たる労働力はモデル自身であり、それを実行するシステムの最適化を支援したと強調した。同氏は、エージェントがコードを書けないために行き詰まることはほとんどなく、パフォーマンスが低下する理由がわからないために行き詰まると指摘した。高密度フィードバックシステムは、暗黙のエンジニア経験を明示的なシグナルに変換した。最小の再帰的自己改善ループが今や存在する、すなわちモデルがシステムを最適化し、システムがモデルを実行する、と述べた。

AI自己改善レベルフレームワーク:5段階を定義

30人以上の研究者による別の論文では、AIの自己改善に関する5段階のフレームワークが定義された。レベル1(人間が改善対象を決定)からレベル5(AIが次世代AIの作成プロセスを書き換える)までである。491本の論文をレビューした結果、75%がレベル1〜2、6%未満がレベル5であった。このフレームワークは、再帰的自己改善に向けた進捗を追跡するための分類法を提供する。

エンジニアの役割:問題解決者からフィードバック設計者へ

唐杰氏は、目標設定、フィードバック環境の構築、高リスクな変更のレビューは依然として人間の責任であるが、エンジニアの役割は変化していると強調した。エンジニアは現在、最適化問題を直接解決するのではなく、フィードバックシステムを設計している。エージェントが完了した各タスクは、後継のエージェントにとってのトレーニング素材となり、好循環を生み出す。

Source posts