XNews

Databricks CEO谈AI生存风险与企业瓶颈

Databricks CEO谈AI生存风险与企业瓶颈

Databricks首席执行官阿里·戈迪在a16z播客中表示,AI生存风险接近于零,并指出递归自我改进的四个条件均未满足。他认为企业真正的瓶颈在于缺乏组织本体(上下文),而非模型智能。戈迪还提到,CVE武器化时间已缩短至数小时,敦促采取自动化安全响应,并透露Databricks超过90%的代码现由AI编写。

Key insights

用四个条件否定生存风险

阿里·戈迪提出了一个可证伪的递归自我改进测试:四个条件必须同时成立——训练计算成本下降、训练时间缩短、模型准确率持续上升、循环重复。他得出结论,现实恰恰相反:成本从1亿美元升至50-100亿美元,训练每年仅一次且多次失败,基础设施复杂性增加。马丁·卡萨多补充说,人们所谓的递归自我改进中90%实际上是自动催化效应,这是所有通用技术的共同特点。

迫在眉睫的威胁:AI驱动的网络攻击

戈迪提供的数据显示:从CVE披露到武器化的时间从2018-19年的2-3年压缩至2022年的8-9个月,如今已缩短至数小时。他认为数据/AI市场与网络安全市场正在融合,需要代理驱动的自动化来实现威胁检测和追踪。马丁·卡萨多质疑为何尚未出现早期互联网蠕虫规模的AI灾难;戈迪回应称这是一场军备竞赛,防御方正在冲刺,但自满不可取。

企业瓶颈:组织本体

戈迪指出,大多数企业将AI用作高级谷歌搜索加代码编写,缺乏全企业代理自动化。原因不在于模型智能,而在于缺乏组织上下文:模型未参加过会议,不了解决策流程,缺乏资深员工的隐性知识。他的解决方案是本体——一个包含概念、目标、部门、人员和项目的图谱。构建它需要将组织数字化(会议记录、内容收集)并提炼成可供AI消费的图谱。

Databricks的成本管理与多模型策略

戈迪分享了成本控制实践:CEO本人使用模型提交代码到生产环境以树立榜样;Unity Gateway实施预算约束、使用警报、成本预测和智能路由(简单查询使用更便宜的模型)。一个反直觉的发现:同一模型使用不同的工程框架,成本差异近2倍。结果是:令牌使用量持续上升,而总成本趋于平稳。萨拉·王指出,大型企业首次从前沿模型迁移到更便宜的开源模型(如GLM)。

代理友好型基础设施:为代理设计的数据库

Databricks收购Neon/Lakebase的目标是成为“代理的最佳数据库”,这是一个超越DBA和应用开发者的新角色。具体能力包括:亚秒级数据库创建、大型数据库亚秒级克隆、分支、故障安全、实验友好定价。结果是:超过90%的数据库实例由代理而非人类创建。

Source posts