Databricks CEO:AIの存亡リスクはほぼゼロ、真の脅威はサイバー攻撃

DatabricksのCEOであるAli Ghodsi氏は、AIによる存亡リスクはほぼゼロであり、その根拠として再帰的自己改善(RSI)の条件が満たされていないと述べている。真の脅威はAIを活用したサイバー攻撃であり、CVEの武器化にかかる時間は数時間に短縮されている。また、企業におけるボトルネックはモデルの能力ではなく、組織のコンテキスト(オントロジー)の欠如であると指摘。Databricksでは現在、コードの90%がAIによって生成されていると報告している。
Key insights
AI存亡リスクは「ほぼゼロ」
Ali Ghodsi氏は、再帰的自己改善(RSI)の4条件テストに基づき、AIの存亡リスクはほぼゼロであると述べている。訓練コストは低下どころか上昇しており、タイムラインは長期化し、失敗も頻発している。同氏は「最先端に追いつく」というナラティブをPR上の誤りと批判し、安全性は速度の問題ではなくエンジニアリングの問題だと主張。また、一般のパニックが実際の害を引き起こし、政治的に悪用されていると警告している。
真の脅威:AIを活用したサイバー攻撃
Ghodsi氏は、AIを活用したサイバー攻撃を最も緊急の脅威と位置づける。CVEの武器化にかかる時間は、2018~19年の2~3年から現在では数時間に短縮された。同氏は、従来のSOC(セキュリティオペレーションセンター)の人間中心モデルは時代遅れであり、エージェント駆動の自動検出と脅威ハンティングに置き換えられるべきだと主張。データ/AI市場とサイバーセキュリティ市場は収束しつつあり、エージェントログが大規模な分析規模を提供している。
企業のボトルネック:組織コンテキストの欠如
Ghodsi氏は、エンタープライズAIの真のボトルネックはモデルの能力ではなく、組織のコンテキスト(オントロジー)の欠如だと論じる。ほとんどの企業はAIを単なる高度なGoogle検索として使っているに過ぎない。解決策は、組織の概念、目標、関係性を網羅したナレッジグラフを構築することだ。Databricksは自社で数百万ノードからなるオントロジーを構築し、企業運営を変革した。同氏はこれをGoogleのPageRankインデックスに例えている。
DatabricksのAI導入:コードの90%がAI生成
Databricksは、自社コードの90%以上がAIによって生成されていると報告している。同社はUnity Gatewayを使用してコスト管理を行い、予算制約、使用量アラート、スマートルーティングを実装。同じモデルでも異なるハーネスでコストが約2倍異なることが判明した。トークン使用量は増加し続けているが、総コストは横ばいで「コスト曲線を曲げている」という。また、オープンソースモデルはトークン量の60%を占めるが、支出のわずか5%にとどまっている。
モデル能力の向上は複雑タスクに集中
Databricksの内部データによると、GPT-6 Astraの従来モデルに対する優位性は、高複雑性タスク(システム設計、長期タスク)に集中しており、単純タスクでは飽和状態にある。Astra導入により全体的なコーディング支出は60%増加し、これはジェボンズのパラドックス効果を示している。同社はキュー型実験を備えたゲートウェイを使用して展開を進めており、200人のパイロット、続いて3,500人への拡大、さらにAstra専用の予算を設定してモデル選択をガイドしている。