XNews

人工智能模型归属与安全事件

报告了模型归属和Hugging Face的安全漏洞。- 聚合器OpenRouter隐藏后端模型。- Tomáš Bruckner提出了指纹测试。- 方法:要求模型生成一个随机数。- 模型未能产生真实的随机性。- GPT-4o偏向于42,也偏向于37和57。- Claude Sonnet 5主要回答47。- Qwen3-Max在30个样本中回答42。- Hugging Face内部网络遭到入侵。- 入侵持续了一个周末,产生了超过17,000条日志。- 他们的代理被一个付费模型阻止。- 解决方案使用了自托管的GLM 5.2模型。

Key insights

用于模型归属的随机数指纹识别方法

Tomáš Bruckner提出了一种指纹识别方法,该方法要求模型生成一个随机数,并通过其非随机的回答模式识别模型。该方法依赖于观察到的大型模型并不产生真实的随机性,而是偏向于特定的数字。Bruckner的技术将这些偏好的数字视为一种模型指纹,揭示了哪个模型进行了回答,即使调用者仅在聚合器入口处选择了一个名称。

记录的模型特定数字偏好

引用的实证例子显示了模型特定的偏好:GPT-4o最常回答42(也有37和57),Claude Sonnet 5主要回答47,而Qwen3-Max在所有30个样本查询中返回了42。这些一致的数字偏好被视为可用于聚合器设置中模型识别的稳定信号。

Hugging Face内部网络入侵及响应

Hugging Face报告称其内部网络遭到入侵,持续了一个周末,并产生了超过17,000条操作日志。在调查过程中,他们的内部代理被一个付费模型视为攻击者并被阻止。最终,团队使用运行开源GLM 5.2模型的自托管环境解决了这一事件。

Source posts