XNews

テキストウォーターマーキングの解説:グリーン/レッドトークンバイアス、リライティングバイパス、EU準拠

テキストウォーターマーキングは、前のトークンのハッシュと秘密鍵から導出された「グリーン」グループへのトークン選択を偏らせます。検出では、グリーントークンの割合が50%を超えるかどうかを確認します。リライティングによって簡単に破られる可能性があり、Googleが2万のテキストで行った研究では、品質の低下は認識できないほど小さいものの、決定論的な出力では失敗します。内部検出器(SynthID)はより安全ですが、ゼロショット攻撃も存在します。ウォーターマーキングは主にEU準拠のためのものであり、バイパスを防ぐものではありません。

Source posts