Netflix、4時間のトラブルシューティングを削減するオブザーバビリティオントロジーとRDFナレッジグラフを構築

Netflixは、QuipuDBに保存されたオブザーバビリティオントロジーとRDFナレッジグラフを構築し、型制約を用いて非決定的なLLMやファジーマッチングの出力を、AutoRCAに供給する決定的でSPARQLクエリ可能なファクトに変換した。このシステムは、個々のツールが発見可能な関係として公開しないエンティティマッピングをエンジニアが再構築する約4時間の調査に対処し、1日あたり20億件以上のリクエストと毎秒約3,800万件のリアルタイムログイベントという規模に及ぶ。
イベントのバージョン 1.
Key insights
共有語彙としてのオントロジー
オントロジーは型、プロパティ、許可された関係を主語-述語-目的語のトリプルとして定義する。例えば api-gateway ops:ownedBy "Team Bedrock" のように。単一のクエリで、us-east-1のBedrockアプリケーションに関連するインシデントを回答できる。
汎用Service型の拒否
Netflixはエンティティを ops:Application として統一し、約49,000エントリのソフトウェアカタログに対して検証した。検証されていない文字列はアプリケーションにはならない。双方向の依存関係エッジは、人気サービスがグラフを圧倒するのを防ぐために上限が設けられている。
非決定性からのエントロピーはしご
LLMの要約、ファジーマッチング、確率的因果連鎖は不安定であるため、オントロジーは列挙を通じて出力空間を狭め、決定的なトリプルにする。5層のパイプラインが、非構造化形式に閉じ込められたままの情報の割合を段階的に減少させる。
証拠に基づく仮説としての相関エンジン
相関エンジンは約10分のウィンドウ内で13のシグナルクラスを読み取り、時間的近接性と重大度によってパスを見つけ、信頼度が0.6未満の相関チェーンを破棄する。チェーンとサポートするグラフレコードは0.87などのスコアとともに保存される。
AutoRCAは人間の制御を維持
複数の専門エージェントがオントロジーを共通語彙として1つの問題に対して協力するが、アラートは依然として発報され、人間が依然として決定し、コードは依然として人間によって書かれる。仮説は間違っている可能性があるため、各仮説は証拠を伴う。