XNews

Anthropic威胁情报报告:AI模型滥用分析

Anthropic威胁情报报告:AI模型滥用分析

Anthropic发布了其最详尽的威胁情报报告(154页),详细说明了实体如何滥用Claude模型进行非法蒸馏等活动。报告点名了来自阿里巴巴(通义千问)、月之暗面(Kimi)、深度求索和智谱AI的中国AI团队。主要发现:阿里巴巴使用超过3500个账户进行了约15亿次交互,以蒸馏Opus 4.6/4.7用于训练Qwen 3.5-3.7。月之暗面和深度求索被指控在未披露的情况下代理用户请求至Claude Opus,并将数据转发用于训练。深度求索利用Claude处理高质量编码流量。智谱AI进行了77万次交互以提升自身能力和规避安全检测。报告还指出隐私违规问题:包括监控请求和内部代码在内的用户数据被泄露。

Key insights

阿里巴巴被指控进行最大规模蒸馏

Anthropic报告称,阿里巴巴使用超过3500个欺诈账户执行了超过15亿次交互(峰值每天300万次),以蒸馏Opus 4.6/4.7的思维链。输出结果用于训练Qwen 3.5/3.6/3.7。阿里巴巴还使用Claude进行内部AI研究,涉及强化学习和架构。该操作涉及两个账户池(共5000个账户),使用住宅代理和一次性邮箱;第二个账户池同时服务于深度求索和小米。

月之暗面和深度求索被指控实施用户代理计划

Anthropic声称,月之暗面(Kimi)和深度求索在用户不知情的情况下代理用户请求至Claude Opus,并保存响应用于训练。月之暗面使用了5380个账户(位于新加坡/日本),并通过跨会话重放攻击绕过了“思维签名”保护。深度求索检测到编码框架使用情况,以选择性转发优质流量。这构成了隐私违规:用户数据(包括对成都300多个摄像头(与解放军相关)的监控分析)和内部代码被泄露。

智谱AI专注于安全规避和攻击能力

智谱AI在10天内使用273个轮换账户进行了77万次交互以“清理”推理痕迹,并进行了300万次交互用于评分、过滤、数据筛选和写作任务。他们利用公共漏洞数据集构建CTF挑战,以从另一个美国模型进行蒸馏,同时使用Opus 4.6对答案进行评分。由于Fable安全防护较强,他们放弃了对其的尝试,选择了Opus和另一个美国模型,因其防御较弱。

小米利用免费试用进行蒸馏

Anthropic报告推断,小米的MiMo-V2-Pro免费试用版是故意设计来吸引国际开发者进行蒸馏的。大规模蒸馏在试用期结束时开始,涉及来自数百名用户的40万次请求,涵盖数十种语言,暴露了姓名、联系方式和公司数据。

Anthropic用户数据访问引发隐私担忧

有评论指出,Anthropic的报告证实他们可以完全查看聊天记录之外的用户信息,且无需执法授权。报告基于其收集的数据公开点名相关实体。

Source posts