XNews

Databricks CEO、AIの存亡リスクと企業のボトルネックを議論

Databricks CEO、AIの存亡リスクと企業のボトルネックを議論

DatabricksのCEOであるAli Ghodsi氏は、a16zのポッドキャストで、AIの存亡リスクはほぼゼロであると述べ、再帰的自己改善のための4つの条件が成立していないことを挙げた。真の企業のボトルネックはモデルの知能ではなく、組織のオントロジー(コンテキスト)の欠如であると指摘した。また、CVEの武器化が数時間にまで短縮されたと述べ、自動化されたセキュリティ対応を促した。さらに、Databricksのコードの90%以上が現在AIによって書かれていることを明らかにした。

Key insights

4つの条件で存亡リスクを否定

Ali Ghodsi氏は、再帰的自己改善のための反証可能なテストを提案した。すなわち、4つの条件がすべて同時に成立する必要がある——トレーニングの計算コストが低下し、トレーニング時間が短縮され、モデルの精度が向上し続け、そのサイクルが繰り返される。同氏は現実は逆であると結論付けた。コストは1億ドルから50〜100億ドルに上昇し、トレーニングは年に1回で複数の失敗があり、インフラの複雑さが増している。Martin Casado氏は、人々がRSIと呼んでいるものの90%は実際には自己触媒効果であり、これはすべての汎用技術に共通するものであると付け加えた。

差し迫った脅威:AIを活用したサイバー攻撃

Ghodsi氏はデータを示した。CVEの開示から武器化までの時間が、2018〜19年の2〜3年から2022年の8〜9ヶ月、そして現在は数時間に短縮された。同氏は、データ/AI市場とサイバーセキュリティ市場が収束しており、脅威の検出とハンティングにはエージェント駆動の自動化が必要であると主張した。Martin Casado氏は、なぜ初期のインターネットワーム規模のAI災害がまだ発生していないのかと質問した。Ghodsi氏は、それは防御側が全力で走っている軍拡競争であり、油断は許されないと答えた。

企業のボトルネック:組織オントロジー

Ghodsi氏は、ほとんどの企業がAIを高度なGoogle検索とコード作成としてしか利用しておらず、全社的なエージェント自動化は行われていないと述べた。その理由はモデルの知能ではなく、組織のコンテキストの欠如である。モデルは会議に出席しておらず、意思決定プロセスを知らず、長年在籍する従業員の暗黙知を欠いている。同氏の解決策はオントロジー、すなわち概念、目標、部門、人、プロジェクトのグラフである。これを構築するには、組織のデジタル化(会議の議事録、コンテンツ収集)を行い、AIが利用できるグラフに蒸留する必要がある。

Databricksにおけるコスト管理とマルチモデル戦略

Ghodsi氏はコスト管理の実践を共有した。CEO自らがモデルを使用してコードを本番環境にコミットし、模範を示した。Unity Gatewayは予算制約、使用量アラート、コスト予測、スマートルーティング(単純なクエリは安価なモデルへ)を実施した。直感に反する発見として、同じモデルでも異なるエンジニアリングハーネスを使用すると、コストに約2倍の差が生じた。結果として、トークン使用量は継続的に増加したが、総コストは横ばいとなった。Sarah Wang氏は、大企業が初めてフロンティアモデルからGLMのような安価なオープンソースモデルに移行していると指摘した。

エージェントに優しいインフラ:エージェント向けデータベース設計

DatabricksによるNeon/Lakebaseの買収は、「エージェントにとって最高のデータベース」となることに焦点を当てており、DBAやアプリケーション開発者を超えた新しいペルソナである。具体的な機能:サブ秒でのデータベース作成、巨大データベースのサブ秒でのクローン作成、ブランチング、フェイルセーフ、実験に適した価格設定。結果として、データベースインスタンスの90%以上が人間ではなくエージェントによって作成されている。

Source posts