XNews

Databricks CEO、AIによる絶滅リスクを軽視

Databricks CEO、AIによる絶滅リスクを軽視

DatabricksのCEO Ali Ghodsi氏は、AIによる絶滅リスクはほぼゼロであると述べた。その理由として、再帰的自己改善の4つの条件がすべて満たされていないことを挙げた。真のリスクはAI主導のサイバー攻撃であり、脆弱性の悪用にかかる時間は数時間に短縮されている。企業の主なボトルネックは、組織オントロジーの欠如である。

Key insights

CEO:「AI生存リスクは実質ゼロ、パニックは有害」

Ali Ghodsi氏は、リーダーは絶滅リスクを誇張すべきではないと主張。リスクはほぼゼロであり、10%の絶滅確率で公衆を恐怖に陥れることは、精神的健康や政治的悪用といった現実的な害を引き起こすと述べた。近い将来の主なリスクは絶滅ではなくサイバー攻撃である。

RSIの4条件は現時点で全て失敗

Ghodsi氏はテストを提案した。1) 次世代の計算コストが低下、2) トレーニング時間が短縮、3) 知能が向上し続ける、4) サイクルを回せることが条件。現実には、計算コストは1億ドルから50~100億ドルに上昇、トレーニング時間は短縮されておらず、脆弱性が増し、障害が発生している。したがってRSIは起きていない。

サイバー攻撃の武器化時間が数時間に圧縮

2018~19年(2~3年)から2022年(8~9か月)を経て、現在では数時間に短縮。AIエージェントは大量のログデータを生成でき、従来のSOCモデルでは対応しきれない。銀行は自動化されたエージェント検出と追跡に移行しつつあるが、大多数の企業は立ち遅れている。

企業のボトルネック:組織オントロジーの欠如

現在の企業によるAI活用は「拡張版Google検索とコード生成」に過ぎない。全社規模のエージェント自動化は実現していない。なぜなら、AIに組織の文脈が欠けているからだ。会議に参加しておらず、決定事項を知らず、ベテラン社員の知識も持たない。解決策はデジタルオントロジー(概念、目標、関係のグラフ)を構築すること。これは企業向けのオフラインPageRankインデックスに相当する。

Databricks、コード作成の90%超をAIで実施

Ghodsi氏は、Databricksのコードの90%超がAIによって作成されていると明かした。自身もモデルを使って本番コードをコミットし、模範を示している。コスト管理のため、予算制約とインテリジェントなルーティング(簡単な質問は安価なモデルへ)を行うゲートウェイを使用。予想外の発見として、同じモデルでも異なるハーネスを使用するとコストが倍になることがある。

マルチモデル戦略:アーキテクチャは高価、実装は安価

企業で現れつつあるパターンは、高価なフロンティアモデルをアーキテクチャ設計や監査に使い、安価なオープンモデルを実装に使うというもの。オープンソースモデルは支出の約5%を占めるがトークンの60%を占め、スタートアップではオープンソース比率が90%に近づく。自己トレーニングは評価の難しさから妨げられている。

エージェントインフラの変革:データベースがエージェント向けに最適化

DatabricksはNeon/Lakebaseを買収し、「エージェントファースト」データベースに。サブ秒でのデータベースインスタンス化、大規模データベースの高速クローン、ブランチ、フォールトセーフを実現。現在、データベースインスタンスの90%超は人間ではなくエージェントによって作成されている。エージェント能力の獲得が市場獲得につながる。

Source posts