DeepMind / デミス・ハサビス:ダボスインタビューと安全提案

デミス・ハサビスはダボスでインタビューを行い、安全検査ルールを提案しました。ハサビスは、彼のより高い基準の定義に基づいて2030年までにAGIの確率を約50%と見積もっています。彼は、米国主導の『フロンティアラボ』検査機関を提案し、ラボはセキュリティと安全のために、リリースの30日前にフロンティアモデルを自主的に提出する必要があると述べました。推奨されるテストには、バイオセキュリティ、ネットワークセキュリティ、欺瞞リスク、そして人間が解釈可能な推論の痕跡が含まれ、AI生成の画像にはデジタル透かしを付けるべきだとしています。ハサビスは、AIによる変化が産業革命の約10倍の速度と規模で進行する可能性があると述べ、近年の100時間の週労働について言及しました。彼は、ジェミニ3の成功、ロボティクスの統合(ボストン・ダイナミクスと現代自動車)、およびロボットが有用な物理的作業を堅実に実行するためのブレークスルーには18〜24ヶ月かかると予測しました。ハサビスは、国際協力を促しながら研究の継続を支持し(『AI CERN』の概念)、開発の一時停止には国際的な調整が必要であると述べました。彼は『トランスフォーマーは死んだ』という主張を否定し、トランスフォーマーは中心的な存在であり続けると主張し、他の革新が必要かもしれないとし、継続的な学習とシステムの一貫性のギャップを強調しました。
Key insights
ハサビスがフロンティアモデルの事前リリース検査を提案
デミス・ハサビスは、フロンティアAIモデルを公表の30日前に独立した検査機関に自主的に提出し、サイバーセキュリティ、バイオセキュリティ、行動チェックを行うべきだと提案しました。彼はこの機関が欺瞞リスクを評価し、生成されたメディアにデジタル透かしを要求し、モデル推論の人間が解釈可能な記号的痕跡を義務付けるべきだと示唆しました。彼はこのメカニズムを米国主導と位置付けましたが、効果を上げるためには国際的な調整が必要であると強調しました。
ハサビスが厳格な定義の下で2030年までにAGIを見積もる
ハサビスは、完全な人間の認知能力を示すエージェントとしてのAGIの確率を2030年までに約50%とするタイムラインを繰り返しました。彼は自らの基準が他の同業者よりも厳格であり、継続的なオンライン学習や科学的仮説生成といった欠けている能力を指摘し、現在のシステムはまだそのレベルには達していないと述べました。
ディープマインドがスケーリングと新たな研究方向を追求
ハサビスは、ディープマインドとグーグルが深い研究と製品展開を組み合わせていると主張し、ジェミニ3、イマジェン、ジーニーを例に挙げました。彼はトランスフォーマーが行き詰まりであるという主張に反対し、トランスフォーマーは中心的な存在であり続けるが、追加のブレークスルー(例:世界モデル、継続的学習)が必要かもしれないと述べました。彼はディープマインドが長期的な研究投資を維持しつつ、より迅速な製品展開を行っていると位置付けました。
ロボティクスの進展:18〜24ヶ月以内に物理的ブレークスルーを期待
ハサビスは、ボストン・ダイナミクスのアトラスへのジェミニロボティクスの統合を説明し、ロボティクスが重要なポイントに近づいているが、堅実で展開可能な有用性に到達するにはまだ18〜24ヶ月の作業が必要であると述べました。彼はアルゴリズムの安定性やハードウェア(機械的手)に関する課題を強調し、シミュレーションから現実データへの移行、動作転送、視覚と言語の行動モデルが重要な要素であると指摘しました。
経済的および社会的影響:迅速で大規模な変革
ハサビスは、AIによる変革が産業革命よりも桁違いに速く、規模が大きいと比較し、雇用、分配、社会的意義に関する懸念を提起しました。彼は若者に『学ぶことを学ぶ』ようアドバイスし、リーダーには責任あるAI開発に合致したパートナーを選ぶことを推奨しました。また、ポストスカーシティの世界における意味について新たな哲学的思考が必要であると述べました。
グローバル協力と『AI CERN』の理想
ハサビスは、AGIに向けた最終段階を調整するために、科学者、哲学者、経済学者、倫理学者を巻き込んだ科学的で多国籍なアプローチ—『AI CERN』を提唱しました。彼は現在の国際協力が困難であることを認めながらも、リスクが示唆されているほど高い場合、安全とセキュリティの共有プロトコルが不可欠であると強調しました。