XNews

AIモデルの帰属とセキュリティインシデント

モデルの帰属とHugging Faceの侵害が報告されました。

Key insights

モデル帰属のためのランダムナンバーフィンガープリンティング手法

トマシュ・ブルクナーは、モデルにランダムな数を生成させ、その非ランダムな回答パターンによってモデルを特定するフィンガープリンティング手法を提案しました。この手法は、大規模モデルが真のランダム性を生成せず、特定の数を好むという観察に基づいています。ブルクナーの技術は、これらの好ましい数をモデルフィンガープリントの一種として扱い、呼び出し側が集約器のエントリーポイントで名前を選択しただけの場合でも、どのモデルが回答したかを明らかにします。

観察されたモデル特有の数の好みの記録

引用された実証例は、モデル特有の好みを示しています:GPT-4oは最も頻繁に42(また37と57)と回答し、クロード・ソネット5は主に47と回答し、クウェン3-マックスは30のサンプルクエリのすべてで42を返しました。これらの一貫した数の好みは、集約器の設定におけるモデル識別に使用可能な安定した信号として提示されています。

Hugging Face内部ネットワークの侵入と対応

Hugging Faceは、週末にわたる内部ネットワークの侵入を報告し、17,000を超えるアクションログを生成しました。調査中、彼らの内部エージェントは有料モデルによって攻撃者と見なされ、ブロックされました。チームは最終的に、オープンソースのGLM 5.2モデルを実行する自己ホスト環境を使用してこのインシデントを解決しました。

Source posts