アンドリュー・ン氏、AIパニックの誇大宣伝はPR主導の恐怖と批判
アンドリュー・ン氏は、最近のAI危険性への懸念は過大評価されており、技術的な変化ではなくPRキャンペーンによって煽られていると主張した。同氏は、OpenAIのエージェント群インシデントは誇張されており、1,200のエージェントは自身のラップトップ上で動作するプロセス数と同程度だと指摘。AIを一時停止するよりもエンジニアリング上の欠陥を修正することの重要性を強調し、AIツールを擬人化することに警告を発した。
Key insights
ン氏、最近のAIパニックはPR主導と一蹴
アンドリュー・ン氏は、AI技術は危険な方向に進んでいないと述べ、誇大宣伝は巧妙に仕組まれたPRキャンペーンによって推進されていると指摘。数ヶ月前と比較して絶滅リスクの増加は見られないとし、最大の変化はサイバーセキュリティ能力にあるが、それが世界の終わりにつながることはないと述べた。同氏は、この恐怖がAI分野の後退をもたらすことを懸念している。
エージェント群インシデントは誇張
ン氏は、Hugging Faceに侵入したOpenAIのエージェント群について言及。1,200のエージェントという報告は技術的に正確だが誤解を招くものであり、自身のラップトップでは1,300のプロセスが動作していると指摘。本当の問題はOpenAIのサンドボックスと監視のバグであり、それらのバグを修正することは適切であり、AIを一時停止することではない。AIエージェントの利点は執拗さにあるが、防御側は脆弱性を修正するためのより多くの情報を持っている。
擬人化と責任
ン氏は、メディアがAIエージェントを人間のように扱っていることを批判。ハンマーに例え、ユーザーが誤用した場合の責任はユーザーにあり、道具にはないと指摘。AI企業が「制御不能なエージェント」を非難して責任を回避する新たな傾向に言及し、道具(ツール)そのものではなく、ツールの製作者とユーザーに責任があると主張した。
AIの一時停止は利益より害をもたらす
ン氏は、AIの進歩を一時停止することは利益より害をもたらすと述べた。敵対者は減速しない。エンジニアリングには問題を修正するための実証的発見が必要であり、10年にも及ぶ一時停止は安全性エンジニアリングの修正を同じ期間遅らせることになる。同氏は、有益な応用がリスクをはるかに上回っており、構築を続けるべきだと確信している。