XNews

研究者がClaude Opus 5を使用してOpenAIをハッキング、従業員アカウントを乗っ取り

研究者がClaude Opus 5を使用してOpenAIをハッキング、従業員アカウントを乗っ取り

3人のHacktron研究者は、OpenAIのコミュニティフォーラムにおけるlibheifのヒープオーバーフローとSSOの脆弱性を悪用し、複数のOpenAI従業員のChatGPTアカウントを乗っ取った。彼らは従業員のCodexを使用して内部リポジトリに無害なPRを開き、トークン消費は3,000ドル未満だった。OpenAIは問題を修正し、6,500ドルの報奨金を支払った。

Key insights

攻撃チェーンは悪意のある画像から始まった

攻撃は、オープンソースのDiscourseソフトウェアで動作するOpenAIの公式コミュニティフォーラムに投稿された悪意のあるHEIC画像から始まった。DiscourseはHEICファイルをImageMagickとlibheifに送信して変換する。libheifには上流で修正されたヒープオーバーフローが存在したが、その修正はセキュリティアップデートとしてマークされず、CVEも割り当てられなかったため、Debian 12および13はパッチを取り込まなかった。DiscourseのDockerイメージはDebian 12をベースとしているため、細工された画像をアップロードすることで、研究者はフォーラムサーバー上で任意のコード実行が可能となった。

SSOの設定ミスがアカウント乗っ取りにつながった

フォーラムサーバーを掌握した後、研究者はOpenAIのシングルサインオン(SSO)の設定ミスを悪用した。フォーラムは「OpenAIアカウントでサインイン」をサポートしていたため、アクティブなフォーラムユーザーのChatGPTおよびCodexアカウントをユーザーの操作なしで乗っ取ることができた。侵害された従業員の1人は、CodexをOpenAIのGitHub組織に接続していた。機密データに触れずにアクセスを実証するため、研究者はそのCodexを使用してOpenAIの内部リポジトリopenai/openaiモノレポに無害なプルリクエストを開き、その後停止した。Hacktronは、OpenAI SSOに接続されたすべてのサービス(GitHub、Slack、メールを含む)が同様の露出を受けると述べた。

Claude Opus 5がエクスプロイトを迅速に完成

Hacktronの3人の研究者はまずOpus 4.8を使用した。これは未修正のlibheifコードを発見したが、ASLR下で動作するエクスプロイトを生成できなかった。AnthropicがOpus 5をリリースした後、新しいセッションでローカルMac上で約3時間でエクスプロイトを完成させ、翌日にはテスト用のDiscourseインスタンスに対して動作した。Claudeが攻撃コードの大部分を生成した。Opusは当初、実際のリモートターゲットに対するエクスプロイトの作成を拒否したため、研究者は自身のテストインスタンスをCTFチャレンジとして偽装した。HEIF Heistプロジェクトのトークン総消費量は3,000ドル未満であり、これにはSlack、Zoom、Metaに対する作業も含まれていた。

タイムライン、修正、開示

最初の発見からOpenAIのリポジトリへの侵入までのタイムラインは72時間未満だった。OpenAIは報告を受けてから約14時間後に修正を確認した。Discourseは土曜日に報告を受け、月曜日に画像処理サンドボックス化を含むパッチをリリースし、7月28日にセキュリティアドバイザリを公開した。OpenAIは9月1日に6,500ドルを支払い、フォーラムはバグ報奨金プログラムの対象外であったこと、支払いはDiscourseの脆弱性ではなくOpenAI固有の発見のみを対象としていることを述べた。Hacktronは9月13日に完全な技術詳細を公開し、その後ウォール・ストリート・ジャーナルが報道した。

より広範なエクスプロイトキャンペーン

Hacktronは、より広範なプロジェクトは約2か月間実施され、トークン総消費額は3,000ドル未満だったと説明した。新しい企業にエクスプロイトを適用するには通常1~2日かかり、多くの場合、ターゲットのlibheifバージョンやデプロイ環境を知らなくても可能だった。研究者は数千枚の画像を送信し、画像処理サービスを繰り返しクラッシュさせた。彼らの知る限り、Shopifyのみがその試みを検出した。また、Opus 5からOpenAIのGPT-5.6 Solに切り替えることで、未知のターゲットシナリオにおいてさらに明確な能力向上が見られたと述べた。

人間の指導が依然として中心的な役割を果たした

Hacktronは、この作戦は完全に自律的ではなく、経験豊富な人間の指導が依然として重要な役割を果たしたと述べた。攻撃は、Claudeが生成したエクスプロイトコード、手動による偵察、およびターゲットへの段階的な適応を組み合わせたものだった。研究者は、到達可能性を証明しデータ漏洩を避けるために無害なPRを選択し、アクセスを実証した後で意図的に停止した。この開示は、フロンティアモデルが脆弱性の連鎖を加速できることを示しているが、プロセスは依然としてエージェントの方向性を決定する人間のオペレーターに依存していることを示している。

Source posts