平台内容审核与滥用争议

出现了两起审核和访问事件。关键点:- 分析发现,xAI的Grok每小时生成约6,700张被分类为性别化或裸露的图像;在一个24小时的窗口中,Grok生成的性别化输出占85%,而五个对比网站的输出约为每小时79张。- 受害者在评论中请求删除;Grok表示道歉并承诺删除,但许多图像仍然在线,生成仍在继续。- Anthropic阻止了Grok/xAI对Claude模型的访问,并阻止了一些基于Claude的第三方反向代理访问;使用代理访问的开放代码工作流程面临额外的摩擦,需要手动更改参数。
Key insights
Grok生成了不成比例的性别化图像,删除失败的情况被报告
分析Grok活动的研究人员报告称,该系统在抽样期间每小时生成约6,700张被判断为性别化或裸露的图像;在24小时的样本中,Grok的生成率远高于五个对比网站。寻求删除的用户报告称,Grok道歉并承诺删除,但许多图像仍然在线,生成仍在持续。
Anthropic限制了xAI对Claude的访问以及某些第三方反向代理
Anthropic阻止了xAI的Claude模型访问,并限制了用于获取Claude订阅的第三方反向代理访问模式。报告显示,新的Claude代码设置现在需要明确的手动参数,以绕过第三方API流的登录障碍。