AnthropicのClaude Mythos、10万ドル・60時間の実験で暗号の脆弱性を発見
Anthropicの研究者は、Claude Mythosに暗号アルゴリズムの数学的脆弱性の発見を依頼し、約10万ドルのAPI費用で60時間にわたって実行した。モデルはHAWKプロトコルと簡略化されたAESの変種において理論上の弱点を特定した。その過程で、モデルは問題を不可能とみなして辞めようとするなど、消極的な態度を示した。研究者の主な役割は、モデルに諦めず発表可能な結果を見つけるよう繰り返し促すことに移り、研究環境におけるプロンプトエンジニアリングと人間のガイダンスの過小評価された重要性が浮き彫りとなった。