Databricks CEO淡化AI灭绝风险

Databricks CEO阿里·戈多西表示,AI灭绝风险接近于零,因为递归自我改进的四个条件均未满足。真正的风险在于AI驱动的网络攻击,漏洞利用时间已缩短至数小时。企业的主要瓶颈在于缺乏组织本体论。
Key insights
CEO:AI生存风险实际为零,恐慌有害
阿里·戈多西认为,领导者不应夸大灭绝风险。他声称该风险接近于零,用10%的灭绝概率吓唬公众会造成实际伤害(心理健康问题、政治利用)。近期的主要风险是网络攻击,而非灭绝。
RSI四条件目前均不成立
戈多西提出了一项测试:1)下一代计算能力下降,2)训练时间减少,3)智能持续提升,4)能够循环。现实是:计算成本从1亿美元升至50-100亿美元,训练时间未减少,脆弱性增加,失败时有发生。因此,递归自我改进并未发生。
网络攻击武器化时间压缩至数小时
从2018-19年(2-3年)到2022年(8-9个月)再到现在的数小时。AI代理能生成大量日志数据;传统安全运营中心模型无法跟上。银行正转向自动化代理检测和搜寻,但大多数企业仍滞后。
企业瓶颈:缺乏组织本体论
当前企业使用AI就像“美化版的谷歌搜索加代码生成”。没有全企业级的代理自动化,因为AI缺乏组织背景:它未参加会议,不了解决策,缺乏资深员工的知识。解决方案是构建数字本体论(概念、目标、关系的图谱)。这就像企业的离线PageRank索引。
Databricks采用AI编写90%以上代码
戈多西透露,Databricks超过90%的代码由AI编写。他本人使用模型将代码提交至生产环境,以身作则。为控制成本,他们使用网关进行预算限制和智能路由(简单问题交给廉价模型)。一个意外发现:同一模型的不同封装可能使成本翻倍。
多模型策略:昂贵用于架构,廉价用于实施
企业中的模式是使用昂贵的前沿模型进行架构设计和审计,使用较便宜的开源模型进行实施。开源模型约占支出的5%,但占令牌的60%;初创公司接近90%使用开源。自我训练因评估困难而受阻。
代理基础设施重塑:为代理优化的数据库
Databricks收购Neon/Lakebase成为“代理优先”数据库:亚秒级数据库实例化、快速克隆大型数据库、分支、故障安全。现在超过90%的数据库实例由代理而非人类创建。赢得代理能力即赢得市场。