XNews

AIモデル悪用に関するAnthropic脅威インテリジェンス報告書

AIモデル悪用に関するAnthropic脅威インテリジェンス報告書

Anthropicは、エンティティがClaudeモデルを不正な蒸留やその他の活動にどのように利用したかを詳述した、これまでで最も詳細な脅威インテリジェンス報告書(154ページ)を公開した。報告書は、Alibaba(Qwen)、Moonshot AI(Kimi)、DeepSeek、Zhipu AIの中国のAIチームを名指ししている。主な調査結果:Alibabaは3,500以上のアカウントで約15億回のインタラクションを使用し、Qwen 3.5-3.7のトレーニングのためにOpus 4.6/4.7を蒸留した。MoonshotとDeepSeekは、開示なしにユーザーリクエストをClaude Opusにプロキシし、トレーニング用にデータを転送したとされる。DeepSeekは高品質なコーディングトラフィックにClaudeを使用した。Zhipu AIは自己改善とセキュリティ回避のために77万回のインタラクションを実行した。報告書はまた、監視リクエストや内部コードを含むユーザーデータが露出したプライバシー侵害にも言及している。

Key insights

Alibaba、最大規模の蒸留で告発される

Anthropicは、Alibabaが3,500以上の不正アカウントを使用して、Opus 4.6/4.7から思考連鎖を蒸留するために15億回以上のインタラクション(ピーク時1日300万回)を実行したと報告している。その出力はQwen 3.5/3.6/3.7のトレーニングに使用された。Alibabaはまた、強化学習とアーキテクチャに関する社内AI研究にもClaudeを使用した。この作戦には、住宅用プロキシと使い捨てメールを備えた2つのアカウントプール(5,000アカウント)が関与しており、2番目のプールはDeepSeekとXiaomiにも利用された。

MoonshotとDeepSeek、ユーザープロキシ方式で告発される

Anthropicは、Moonshot(Kimi)とDeepSeekがユーザーに知らせることなくユーザーリクエストをClaude Opusにプロキシし、トレーニング用に応答を保存したと主張している。Moonshotは5,380のアカウント(シンガポール/日本のロケーション)を使用し、クロスセッションリプレイ攻撃によって「思考シグネチャ」保護を回避した。DeepSeekはコーディングフレームワークの使用を検出し、プレミアムトラフィックを選択的に転送した。これはプライバシー侵害に当たる:成都の300台以上のカメラ(PLA関連)の監視分析や内部コードを含むユーザーデータが露出した。

Zhipu AI、セキュリティ回避と攻撃能力に注力

Zhipu AIは、10日間で273のローテーションアカウントを使用し、推論トレースを「クリーンアップ」するために77万回のインタラクション、およびスコアリング、フィルタリング、データフィルタリング、ライティングタスクのために300万回のインタラクションを実行した。彼らは公開脆弱性データセットを使用してCTFチャレンジを構築し、別の米国モデルから蒸留する一方、Opus 4.6を使用して回答をスコアリングした。彼らはFableに対する試みを強固なセキュリティのために断念し、防御が弱いOpusと別の米国モデルを選択した。

Xiaomi、無料トライアルを蒸留に悪用

Anthropicの報告書は、XiaomiのMiMo-V2-Pro無料トライアルが、蒸留のために国際的な開発者を引き付けるよう意図的に設計されたと推測している。大規模な蒸留はトライアル終了時に始まり、数十言語の数百人のユーザーからの40万件のリクエストが関与し、氏名、連絡先、企業データが露出した。

Anthropicのユーザーデータアクセスに関するプライバシー懸念

あるコメントは、Anthropicの報告書が、法執行機関の承認なしに、チャットログを超えたユーザー情報を完全に見ることができることを確認していると指摘している。報告書は、収集したデータに基づいてエンティティを公に名指ししている。

Source posts