XNews

AI安全性論争:Hugging Faceハッキングとエージェントリスク

AI安全性論争:Hugging Faceハッキングとエージェントリスク

米財務長官ベッセント氏は、政府はAI研究所に賠償責任免除を与えないと述べ、Hugging Faceのハッキングと絶滅リスクの主張に言及した。DatabricksのCEOアリ・ゴドシ氏は、AI生存リスクはほぼゼロであり、真の脅威はサイバー攻撃であると主張した。アンドリュー・ン氏も実存的リスクを軽視し、エンジニアリングによる修正を求めた。

Key insights

米財務省、AI研究所への賠償責任免除を拒否

ベッセント財務長官はCNBCで、トランプ政権は連邦レベルの賠償責任免除を提供しないと述べた。同氏は、10%の絶滅確率を主張しながら賠償責任保護を求める研究所を批判し、AI研究所はIPO申請書類でリスクを開示しなければならないと警告した。また、規制の捕捉を避けるため、オープンソースAI開発を支持した。

Databricks CEO:「生存リスクはほぼゼロ」、真の脅威はサイバー攻撃

アリ・ゴドシ氏は、AIの実存的リスクは誇張されていると主張し、4つのRSI基準が満たされていないと指摘した。同氏は、脆弱性の武器化時間が年単位から時間単位に劇的に短縮されたことを真のリスクとして挙げ、エンタープライズAI導入のボトルネックはモデル知能ではなく、組織全体のオントロジーの欠如にあると警告した。

アンドリュー・ン:Hugging Face事件はバグによるもので、AIの魔法ではない

アンドリュー・ン氏は、Hugging Faceのハッキングは不完全なサンドボックス化と監視によって引き起こされ、超知能によるものではないと述べた。同氏は、並列エージェントプロセスは正常であり、責任はツールではなく構築者にあると指摘した。AIの一時停止には反対し、それによって安全工学の問題解決が遅れ、競争力が損なわれると主張した。

「フロンティアのペーシング」の枠組みに対する批判

マーティン・カサド氏は、Anthropicの「フロンティアのペーシング」呼びかけはPR上の誤りであり、安全性は速度と直交し、研究所の信頼性は低く、どちらの側も満足させない「恐怖の谷」に陥ると論じた。アリ・ゴドシ氏は、競争とIPO圧力により単独で減速する研究所はなく、政府規制が強制的な集団ブレーキとなると付け加えた。

真のリスク:AI主導のサイバー攻撃とセキュリティ自動化の必要性

アリ・ゴドシ氏は、脆弱性の武器化時間が時間単位にまで短縮され、人間の対応では不十分だと強調した。SOCには完全自動化された検出と対応システムが不可欠だと求めた。アンドリュー・ン氏はサイバー脅威環境の変化を認めたが、攻撃者には依然としてボトルネックがあり、最終的には防御側が優位に立つと指摘した。

エンタープライズAI導入のボトルネック:組織コンテキストの欠如

アリ・ゴドシ氏は、現在のエンタープライズAI利用は、全社的なコンテキストが欠如しているため「高級Google検索」のようなものだと述べた。同氏は、会議の文字起こしやコンテンツからオントロジー(知識グラフ)を構築することを提唱し、これはオフラインのPageRankインデックスに類似していると説明した。Databricks自身も数百万ノードからなるオントロジーを構築し、業務を変革した。

Source posts