Databricks CEO:AI生存风险近乎为零,真正威胁是网络攻击

Databricks CEO阿里·戈西认为,AI生存风险近乎为零,指出递归自我改进(RSI)的条件并未满足。真正的威胁是AI驱动的网络攻击,CVE武器化时间已缩短至数小时。他指出企业瓶颈在于缺乏组织上下文(本体论),而非模型能力。Databricks报告称,目前90%的代码由AI编写。
Key insights
AI生存风险“近乎为零”
阿里·戈西表示,基于递归自我改进(RSI)的四项条件测试,AI生存风险接近于零:没有一项条件得到满足。训练成本在上升而非下降;时间线在延长;失败案例屡见不鲜。他批评“追赶前沿”的说法是公关失误,认为安全是工程问题,而非速度问题。他警告称,公众恐慌正在造成实际损害,并遭到政治利用。
真正威胁:AI驱动的网络攻击
戈西指出,AI驱动的网络攻击是最紧迫的威胁。CVE武器化时间已从2018-2019年的2-3年缩短至如今的数小时。他认为传统的SOC人工模式已经过时,必须被代理驱动的自动化检测和威胁狩猎所取代。数据/AI市场与网络安全市场正在融合,代理日志提供了大规模分析的基础。
企业瓶颈:缺乏组织上下文(本体论)
戈西认为,企业AI的真正瓶颈并非模型能力,而是缺乏组织上下文(本体论)。大多数企业将AI用作高级版谷歌搜索。解决方案是构建一个包含组织概念、目标和关系的知识图谱。Databricks自建了拥有数百万节点的本体论,彻底改变了公司运营方式。他将此比作谷歌的PageRank索引。
Databricks的AI部署:90%代码由AI编写
Databricks报告称,目前超过90%的代码由AI编写。公司使用Unity Gateway进行成本管理,包括预算约束、使用警报和智能路由。他们发现,同一模型搭配不同框架,成本差异可达近2倍。Token使用量持续上升,但总成本保持平稳,“弯曲了成本曲线”。他们还指出,开源模型占Token流量的60%,但仅占支出的5%。
模型能力提升集中在复杂任务
Databricks内部数据显示,GPT-6 Astra相较于前代模型的提升集中在高复杂度任务(系统设计、长周期任务)上,而简单任务已趋于饱和。由于Astra的引入,整体编码支出增加了60%,呈现杰文斯悖论效应。公司使用基于队列实验的网关进行部署:先进行200人试点,再扩展至3500人,并为Astra设立独立预算以引导模型选择。