XNews

DeepMind CEO、米国市場参入前にフロンティアAIの30日間安全性評価を提案

DeepMind CEO、米国市場参入前にフロンティアAIの30日間安全性評価を提案

DeepMindのCEOは、「フロンティアレベル」のAIモデルについて、リリースの30日前に米国の専任機関に提出し安全性評価を受けること、さもなければ米国市場への参入を禁止することを提案した。評価では、サイバーセキュリティの脅威、生物兵器リスク、欺瞞、および安全対策の回避がテストされる。また、AI生成画像へのデジタル透かしや人間が読める推論トレースの義務化も求められる。同CEOは、AGI(汎用人工知能)の実現にはまだ数年かかり、その影響は産業革命の10倍に及ぶとし、制御不能を防ぐために動的な規制枠組みが必要だと主張した。必要に応じて、その枠組みは開発の減速や停止を調整することも可能である。

Source posts