Hacktronの研究者、Claude Opus 5を用いた画像アップロード経由でOpenAIをハッキング

Hacktronの3人のセキュリティ研究者がClaude Opus 5を使用し、OpenAIのコミュニティフォーラムにおける画像アップロードの脆弱性を悪用して従業員アカウントを乗っ取った。彼らはOpenAIの内部モノレポに無害なプルリクエストを提出した。この攻撃にかかったトークン費用は3,000ドル未満で、発見からアクセスまでにかかった時間は72時間未満だった。
Key insights
攻撃連鎖:HEIC画像アップロードから従業員アカウント乗っ取りへ
研究者らは、OpenAIのDiscourseフォーラムに細工したHEIC画像をアップロードし、libheifのヒープオーバーフロー(未適用のセキュリティパッチ)を悪用した。これによりフォーラムサーバー上でコード実行が可能となった。さらに、OpenAIのSSO設定の欠陥を利用して、アクティブなフォーラムユーザーのChatGPTおよびCodexアカウントを乗っ取り、その中にはCodexがOpenAIのGitHub組織にアクセス可能な従業員も含まれていた。
Claude Opus 5はOpus 4.8が失敗したところで成功
研究者らは当初Opus 4.8を使用したが、ASLR環境下で動作するエクスプロイトを作成できなかった。AnthropicがOpus 5をリリースした後、新しいセッションでローカルのMac上で3時間以内に動作するエクスプロイトが生成された。その後、エージェントは自律的に研究者自身のDiscourseインスタンスを攻撃した。Opus 5の改善された能力が成功の鍵となった。
OpenAIは6,500ドルの報奨金を支払い、14時間以内に脆弱性を修正
OpenAIは報告を受けてから約14時間後に修正を確認した。Discourseは1日以内にパッチを適用し、画像処理にサンドボックスを追加した。OpenAIは6,500ドルを支払ったが、フォーラムはバグ報奨金プログラムの対象外であり、支払いはOpenAI固有の調査結果に対してのみ行われた。研究者らは機密データへのアクセスを避けるため、無害なプルリクエストを提出した時点で攻撃を中止した。