XNews

Databricks AIインサイト:CEOがリスクとGPT-6 Astraの展開について語る

Databricks AIインサイト:CEOがリスクとGPT-6 Astraの展開について語る

DatabricksのCEOであるAli Ghodsi氏は、AIの存亡リスクはほぼゼロであると述べ、GPT-6 Astraの展開から得た観察結果を共有した。コストは60%増加し、能力向上は複雑なタスクに集中している。彼は真のボトルネックは組織のオントロジーが欠如していることだと強調し、AIによるサイバー攻撃が緊急の脅威であると述べた。

Key insights

Databricks CEO、AIの存亡リスクはほぼゼロと発言

Ali Ghodsi氏は、AIの存亡リスクは「ほぼゼロ」であり、リーダーには一般市民を怖がらせない責任があると主張した。彼はパニックによる実際の被害を挙げ、AIの終末に備える方法を尋ねた教師の例を紹介した。存亡リスクと、AIを活用したサイバー攻撃などの他のリスクを区別し、後者は緊急の課題であると述べた。「最前線に追いつく」というナラティブはPRの失敗だと批判され、Martin Casado氏は安全性は速度の問題ではなくエンジニアリングの問題であると指摘した。

再帰的自己改善(RSI)は起きていない

Ghodsi氏はRSIの4条件テストを提案した。すなわち、トレーニングコストの低下、トレーニング時間の短縮、精度の継続的向上、再現性である。彼はこれら4条件すべてが偽であると述べた。トレーニングコストは約1億ドルから50~100億ドルに上昇し、トレーニングにはより長い時間がかかり、失敗も発生している。Martin Casado氏は、ほとんどの「RSI」の主張は実際には「自己触媒効果」であり、これはすべての汎用技術に共通するものであると付け加えた。Databricks自身もコードの90%をAIで記述しているが、それはRSIではない。

真の脅威:AIによるサイバー攻撃、武器化が数時間単位に

Ali Ghodsi氏は、CVE開示から武器化までの時間が2018~19年の2~3年から現在では数時間に短縮されたと強調した。彼はデータ/AI市場とサイバーセキュリティが融合していると見ている。エンタープライズエージェントが生成する大量のログは従来のSOCでは処理できない。自動検出と脅威ハンティングが必要である。銀行はこれを行っているが、ほとんどの企業は遅れていると述べた。なぜまだ大規模なAIによるサイバー災害が発生していないのかという問いに対しては、進行中の防御競争が答えだとされた。

エンタープライズAIのボトルネックは組織オントロジーの欠如

Ghodsi氏は、ほとんどの企業がAIを「美化されたGoogle検索」とコード生成としてしか使っておらず、全社的なエージェント自動化は行われていないと主張した。その理由はモデルの能力ではなく、組織的なコンテキスト、すなわち長年在籍する従業員が持つ知識の欠如である。解決策はオントロジー、すなわち概念、目標、部門、人、プロジェクトのグラフである。Databricksは数百万のノードからなる独自のオントロジーを構築し、会社の運営を変革した。類推として、現在のエージェント検索はインデックスなしのGoogleのようなもので、高コストで遅い。

GPT-6 Astra展開:コスト60%増、能力向上は複雑タスクに集中

Databricksの共同創業者Patrick Wendell氏は、GPT-6 Astraを3,500人のエンジニアに展開した内部データを共有した。主な観察結果:能力向上は高複雑性タスク(システム設計、長期タスク)に集中しており、単純なタスクでは飽和のため改善が見られなかった。総コーディング支出は60%増加した(ジェボンズのパラドックス)。展開にはキュー実験を備えたゲートウェイが使用され、200人のパイロットの後、全面展開が行われた。予算ルーティングにより、エンジニアは複雑なタスクにはAstraを、日常業務にはより安価なモデルを使用するよう誘導された。

モデル選択はデータコンプライアンスとコストによってますます左右される

Wendell氏は、Fableのデータ保持ポリシーが要件を満たしていなかったため、DatabricksはAstraとFableを比較できなかったと述べた。これは、データコンプライアンスがモデル採用の最初の障壁となることが多いことを浮き彫りにしている。さらに、この記事はトレンドを説明している。企業はコスト面から最先端モデルからGLMのようなオープンソースモデルに移行し始めている。トークン数では、オープンソースモデルがすでに使用量の60%以上を占めているが、支出額ではわずか5%である。パターンとしては、アーキテクチャには高価なモデルを、実装には安価なモデルを使用するというものだ。

Source posts