XNews

OpenAI、エージェント規模の並列プッシュに対応するGitバックエンド「Pando」をリリース

OpenAI、エージェント規模の並列プッシュに対応するGitバックエンド「Pando」をリリース

OpenAIは、Codexがモノレポを同時多ブランチ書き込みと大規模並列読み取りに押し進めたことを受けて、エージェント規模の並列プッシュを処理するために構築されたGit互換バックエンド「Pando」をリリースした。Pandoはブランチレベルの因果整合性を提供し、クライアント間でパックファイルを再利用することで、本番環境のプッシュレイテンシ中央値を従来の約5分の1に短縮し、1日あたり約1PBのGitデータを処理している。

イベントのバージョン 1.

Key insights

Codexが旧Gitシステムを過負荷に

Codexは並列変更、ブランチ、プッシュ、CIプルを同時に増幅させた。昨年後半以降、旧システムではプッシュとプルの遅延やマージ失敗が発生し、信頼性は一時90%を下回った。

Pandoは2つの整合性仮定を緩和

Pandoは単一のrefをシリアライズ可能にし、リポジトリ全体である時点の整合性を要求するのではなく、リポジトリ全体で因果整合性のみを維持する。パックはオブジェクトストレージに格納され、メタデータがチップ、依存関係、パックポインタを記録する。

書き込みはメインブランチのみをベースとして広告

デフォルトでは、書き込みはトランクのみをベースとして広告するため、広告が数百万のブランチに応じて増大せず、パックの再利用が容易になる。その代償として、ブランチを積み重ねる際に追加の転送が発生する。リポジトリ内のパックサイズ中央値は20KiB未満、P99は3MiB未満である。

読み取りは保存済みパックを再利用

読み取り側はhave/wantを保存済みrefバージョンにマッピングし、packfile-uri経由でキャッシュ可能なパックを配信する。Expressのヒット率は99%を超え、標準マシンで10Gbpsを飽和させる。バックグラウンドコンパクションはLSMアプローチに従い、L0からL4までマージして圧縮とスキップインデックスの両方を提供する。

プロジェクト開始から本番まで10週間

PandoはRustで書き直され、Codexを使用して約10週間で本番環境に到達し、4月頃からトラフィックを受け入れ始めた。最初はデュアル書き込みプロキシ経由で、その後段階的にトラフィックを移行した。1時間で57TB以上を送信し、ローカルキャッシュヒット率は99%を超え、改善点はアップストリームにフィードバックされた。

Source posts