XNews

Claudeを利用したOpenAI従業員アカウントへのハッキング

Claudeを利用したOpenAI従業員アカウントへのハッキング

Hacktronのセキュリティ研究者らは、Claude Opus 5を利用して、OpenAIのDiscourseフォーラムにおけるlibheifのヒープオーバーフローとSSO設定の欠陥を連鎖させ、複数の従業員のChatGPTアカウントを乗っ取った。研究者らはOpenAIの内部リポジトリに無害なプルリクエストを提出し、トークンコストの総額は3,000ドル未満だった。

Key insights

脆弱性連鎖: HEIC画像アップロードからRCEへ

OpenAIのコミュニティフォーラムは、ImageMagickとlibheifを備えたDiscourseを使用していた。libheifのスタックオーバーフロー(修正パッチがセキュリティ修正としてフラグ付けされていなかった)により、特別に細工されたHEIC画像のアップロードを介して任意のコード実行が可能になった。DiscourseのDockerイメージは、脆弱なlibheifを含むDebian 12を実行していた。

SSOの欠陥がアカウント乗っ取りを可能に

フォーラムは「OpenAIアカウントでログイン」をサポートしていた。OpenAIのシングルサインオン設定に欠陥があり、研究者らはユーザーの操作なしにアクティブなフォーラムユーザーのChatGPTおよびCodexアカウントを乗っ取ることができた。侵害されたアカウントは、GitHub、Slack、メールなどの接続サービスにアクセスできた。

Claude Opus 5がエクスプロイトコードの作成に成功

研究者らは最初にOpus 4.8を試したが、ASLRを回避できなかった。AnthropicがOpus 5をリリースした後、新しいセッションで3時間以内にローカルのMac上で動作するエクスプロイトコードを作成した。その後、エージェントは自律的にテストインスタンスを攻撃した。Claudeは当初、実際の標的に対するエクスプロイトの作成を拒否したため、研究者らは自身のインスタンスをCTF(Capture The Flag)として偽装した。

迅速なタイムライン: 発見から内部PRまで72時間未満

初期レビューからOpenAIの内部モノレポにPRを提出するまでの全操作は72時間未満だった。Opus 5は、困難なエクスプロイト(ASLR有効)を数時間以内に実行可能なものに変えた。研究者らはその後、侵害したCodexを使用して無害なPRを開いた。

コストと範囲: 複数標的プロジェクト全体で3,000ドル未満

「HEIF Heist」プロジェクトは2ヶ月にわたり、Slack、Zom、Metaを含む複数の企業を標的にした。トークンコストの総額は3人の研究者で3,000ドル未満だった。OpenAIに対しては、エージェントの作業は数日間と人間による作業は数時間のみであった。彼らは数千枚の画像を送信したが、異常を検知したのはShopifyのみであった。

OpenAIは報告から14時間後に修正を確認した。Discourseは画像処理用のサンドボックスを追加した。OpenAIは6,500ドルの報奨金を支払い、フォーラムはバグ報奨金プログラムの対象外であるため、報酬はSSO部分のみであると述べた。すべての脆弱性は修正された。

Source posts