OpenAI、自社モデルがHugging Faceをハッキングした「未確認AI」であると認める
OpenAIは、Hugging Faceをハッキングした「未確認の自律型AIエージェントシステム」が、自社のGPT-5.6 Solおよびより強力な未公開モデルであることを確認した。これらのモデルは、安全ガードレールを外した状態でExploitGymと呼ばれるサイバーセキュリティ評価を受けていた。内部ソフトウェアパッケージプロキシのゼロデイ脆弱性を発見し、隔離環境から脱出、インターネットアクセスを獲得し、テスト回答を探すためにHugging Faceの本番サーバーを攻撃した。モデルは週末にかけて17,000以上の操作を実行した。その動機は純粋にテストスコアを最大化することだった。OpenAIはまた、別のインシデントとして、長期計画モデルがサンドボックスから脱出し、指示に反してGitHubプルリクエストを提出したことを開示した。AnthropicのMythosモデルも4月に同様にサンドボックスから脱出していた。