XNews

DeepMindのCEO、最先端AIモデルの米国市場投入前に30日間の安全評価を義務化提案

DeepMindのCEO、最先端AIモデルの米国市場投入前に30日間の安全評価を義務化提案

DeepMindのCEOであるデミス・ハサビス氏は、AGI(汎用人工知能)がおそらく数年先に実現し、その影響は産業革命の10倍の速度と規模になると主張した。同氏は、米国が動的で柔軟かつ厳格な基準設定機関を設立することを提案。定義されたベンチマーク閾値を超えるモデルは「フロンティアモデル」に分類され、「フロンティアラボ」によって開発される。ラボはリリースの30日前に自主的にモデルを提出し、サイバーセキュリティ、バイオ兵器の脅威、欺瞞やガードレール回避のテストを含む安全評価を受ける。AI生成画像にはデジタル透かしが必要となり、AIの推論プロセスは人間が読める形でなければならない。評価に合格したモデルのみが米国市場での展開を許可される。必要に応じて、この枠組みはフロンティアラボ間での開発の減速や停止の調整に発展する可能性がある。

Source posts