Databricks AI洞察:CEO谈风险与GPT-6 Astra部署

Databricks首席执行官Ali Ghodsi表示,AI的存在风险接近于零,并分享了部署GPT-6 Astra的观察:成本增加了60%,能力提升集中在复杂任务上。他强调真正的瓶颈是缺乏组织本体,而AI驱动的网络攻击才是紧迫威胁。
Key insights
Databricks CEO:AI存在风险接近于零
Ali Ghodsi认为,AI的存在风险“接近于零”,领导者有责任不吓唬公众。他列举了恐慌造成的实际危害,包括一名教师询问如何为AI末日做准备。他将存在风险与其他风险(如AI驱动的网络攻击)区分开来,后者他认为十分紧迫。“与前沿同步”的说法被批评为公关失误,Martin Casado指出,安全是工程问题,而不是速度问题。
递归自我改进(RSI)并未发生
Ghodsi提出了RSI的四条件检验:更低的训练成本、更短的训练时间、持续提升的准确性以及可重复性。他表示这四个条件都不成立:训练成本已从约1亿美元升至50亿至100亿美元,训练时间更长,而且还会出现失败。Martin Casado补充说,大多数“RSI”说法实际上是“自催化效应”——这是所有通用技术的共同特征。Databricks自身有90%的代码由AI编写,但这并非RSI。
真实威胁:AI驱动的网络攻击,武器化以小时计
Ali Ghodsi指出,从CVE披露到武器化的时间已从2018-19年的2-3年缩短至现在的数小时。他认为数据/AI市场正在与网络安全融合:企业智能体产生海量日志,传统安全运营中心(SOC)无法处理。自动检测和威胁狩猎成为必需。他指出,银行已在这方面行动,但大多数企业仍落后。关于为何尚未发生重大AI驱动网络灾难的问题,他归因于持续进行的防御竞赛。
企业AI瓶颈在于缺乏组织本体
Ghodsi认为,大多数企业将AI用作“升级版Google搜索”加代码生成,并未实现全企业智能体自动化。原因不在于模型能力,而在于缺乏组织上下文——即资深员工所掌握的知识。解决方案是本体:一个由概念、目标、部门、人员和项目构成的图谱。Databricks构建了自己的本体,包含数百万个节点,彻底改变了公司运营。打个比方:当前的智能体检索就像没有索引的Google——既昂贵又缓慢。
GPT-6 Astra部署:成本增加60%,能力提升集中在复杂任务
Databricks联合创始人Patrick Wendell分享了向3500名工程师部署GPT-6 Astra的内部数据。主要观察:能力提升集中在高复杂度任务(系统设计、长周期任务)上,而简单任务因饱和而未见改善。总编码支出上升了60%(杰文斯悖论)。此次部署使用了一个带有队列实验的网关:先进行200人试点,然后全面推广。预算路由引导工程师在复杂任务中使用Astra,在常规工作中使用更便宜的模型。
模型选择日益受数据合规性与成本驱动
Wendell指出,Databricks无法将Astra与Fable进行比较,因为Fable的数据保留策略不符合要求。这凸显了数据合规性往往是模型采用的第一道障碍。此外,该文章描述了一个趋势:企业正开始出于成本原因从前沿模型迁移到像GLM这样的开源模型。按token数量计算,开源模型已占使用量的60%以上,但按支出计算仅占5%。常见的模式是:用昂贵模型做架构设计,用廉价模型做具体实现。