セキュリティ研究者、Claudeを使用してOpenAIをハッキング

Hacktronの3人のセキュリティ研究者がClaude Opus 5を使用して2つの脆弱性を連鎖させ、OpenAIコミュニティフォーラムにアップロードした悪意のある画像を介して、複数のOpenAI従業員のChatGPTアカウントを乗っ取った。その後、侵害されたCodexを使ってOpenAIの内部モノレポに無害なPRを提出した。攻撃全体のトークン費用は3,000ドル未満で、初期発見から72時間以内に完了した。
Key insights
攻撃チェーン:画像アップロードからCodex PRまで
侵入経路はOpenAIコミュニティフォーラム(Discourse)でした。ユーザーがHEIC画像をアップロードすると、DiscourseはImageMagickに渡し、ImageMagickはlibheifを使用します。libheifのヒープオーバーフロー脆弱性(上流では修正済みだが、Discourse Dockerイメージが使用するDebian 12にはバックポートされていなかった)により、細工された画像を介して任意のコードが実行可能となりました。フォーラムは「OpenAIアカウントでログイン」をサポートしており、OpenAIのSSOには設定ミスがあり、ユーザーの操作なしにフォーラムユーザーのChatGPTおよびCodexアカウントを乗っ取ることができました。侵害された従業員のCodexはOpenAIのGitHub組織にアクセス権を持っており、PRの提出が可能となりました。
Claude Opus 5の役割と以前の制限
研究者らは7月23日にOpus 4.8を使用してDiscourseのlibheifをレビューし、未修正の脆弱性を発見しました。7月24日にはASLR無効で動作するエクスプロイトコードを書きましたが、ASLR有効では失敗しました。その夜、AnthropicがOpus 5をリリースしました。Opus 5を使用した新しいセッションでは、ローカルのMac上で3時間以内に成功し、7月25日午前6時までにDiscourse環境で動作するようになりました。その後、Claudeは自律的に研究者自身のDiscourse Cloudインスタンスを攻撃し、午前10時までに成功しました。特筆すべきは、Opusが実際のリモートターゲットに対するエクスプロイトコードの作成を拒否したため、研究者はテストインスタンスをCTFチャレンジとして偽装し、制限を回避したことです。
コストとタイムライン
3,000ドルのトークン費用は、Slack、Zoom、Metaなどを標的とした2カ月間の「HEIF Heist」プロジェクト全体をカバーしています。OpenAI部分はエージェント作業で数日、人間の作業では数時間しかかかりませんでした。エクスプロイトを新しい企業に適応させるのには通常1~2日かかります。研究者らは、Opus 5からOpenAI GPT-5.6 Solに切り替えると、同様のシナリオで顕著な能力向上が見られたと指摘しています。
対応とバウンティ
OpenAIは報告受領から約14時間以内に修正を確認しました。Discourseは数日以内に修正し、画像処理のサンドボックス化を追加し、7月28日にセキュリティ速報を公開しました。OpenAIは9月1日に6,500ドルの報奨金を支払いましたが、フォーラムは報奨金プログラムの対象外であることが明記されていたため、支払いはOpenAI固有の部分のみに対して行われたとしています。