Databricks CEO讨论AI风险、RSI与企业采用

Databricks CEO阿里·戈德西表示,AI的存在风险接近于零,认为递归自我改进(RSI)未能通过全部四项标准。他指出,漏洞武器化的时间已缩短至数小时,90%的代码由AI编写,而企业真正的瓶颈在于缺乏组织本体论。
Key insights
AI存在风险接近于零,但真实威胁存在
阿里·戈德西认为,用10%的灭绝概率吓唬公众会造成实际伤害。他将存在风险与AI驱动的网络攻击等真实威胁区分开来。他批评“加速前沿”叙事是一个公关错误,称安全是工程问题,而非速度问题。
递归自我改进未能通过四项条件测试
戈德西提出了RSI的四个条件:计算成本下降、训练时间缩短、智能提升、循环重复。他观察到这四项均为假:训练成本从1亿美元升至50-100亿美元,时间未缩短,失败也常见。马丁·卡萨多补充说,90%所谓的RSI实际上是所有通用技术共有的自催化效应。
AI驱动的网络攻击是最紧迫的近期风险
阿里指出,从CVE披露到武器化的时间已从(2018-19年的)2-3年缩短至如今的数小时。传统的SOC模型已不足够,必须采用自动化检测和威胁狩猎。他认为数据/AI市场与网络安全市场正在融合。
企业AI采用瓶颈在于缺乏组织上下文
戈德西表示,大多数企业将AI用作“高级版谷歌搜索”加代码编写。真正的瓶颈在于模型缺乏组织上下文:它们未参加会议,不了解决策过程。解决方案是本体论(知识图谱),捕捉概念、目标、部门和人员之间的关系。
通过多模型路由和预算控制进行成本管理
Databricks使用Unity Gateway进行预算约束、使用警报、成本预测和智能路由(简单任务交给廉价模型)。一个反直觉的发现是:相同模型搭配不同工具集,成本差异可接近2倍。令牌使用量上升,但总成本趋于平缓,成本曲线被弯曲。