XNews

リバースエンジニアリングにより、ChatGPTは単一のベクターデータベース/RAGではなく、四層のコンテキストメモリを使用していることが判明

リバースエンジニアリングにより、ChatGPTは単一のベクターデータベース/RAGではなく、四層のコンテキストメモリを使用していることが判明

ChatGPTのメモリに関する分析によると、同システムは包括的なベクターデータベース/RAGではなく、セッションメタデータ、長期ユーザーメモリ(重要な事実)、最近の会話の要約(約15回の会話)、および現在のセッションのスライディングウィンドウという四層のコンテキスト構造に依存している。この設計は、パーソナライズと遅延、コストのバランスを取り、コアな事実と最近の要約を通じて「擬似全知」のユーザー体験を提供する。

Source posts