XNews

来自Databricks CEO和吴恩达的AI存在风险质疑

来自Databricks CEO和吴恩达的AI存在风险质疑

Databricks CEO Ali Ghodsi在a16z播客中表示,人工智能存在风险“几乎为零”,认为递归自我改进的条件未满足。此外,吴恩达批评近期媒体对AI危险的恐慌是一场公关活动。Ghodsi指出,AI驱动的网络攻击才是真正的近期威胁,CVE武器化时间从数年缩短至数小时。

Key insights

RSI四条件在现实中失败

Ali Ghodsi提出了递归自我改进的四个条件:计算成本下降、训练时间缩短、模型精度提高、循环重复。他表示,目前所有四个条件都呈现相反趋势:训练成本从约1亿美元增至50亿至100亿美元,训练每年仅进行一两次,多次训练运行失败,复杂性不断上升。a16z合伙人Martin Casado补充说,大多数所谓的RSI实际上是所有通用技术共有的“自催化效应”。

对“掌控前沿”话术的批评

Martin Casado认为,Anthropic CEO Dario的“掌控前沿”框架是一个公关失误:安全是工程问题,而非速度问题;企业因在竞赛中缺乏可信度;该框架陷入“恐怖谷”,既不被末日论者也不被务实主义者视为真实。Ghodsi从“公地悲剧”角度补充说,由于IPO压力、竞争和个人恩怨,没有实验室会单方面减速。

真正威胁:AI加速的机器速度网络攻击

Ghodsi报告称,从CVE披露到武器化的时间从2018-2019年的2-3年缩短至现在的数小时。他表示,人工驱动的安全运营中心无法跟上,需要智能体驱动的自动检测和响应。他认为,“数据/AI市场”正与网络安全合并:智能体产生海量日志和行为模式,需要超出人类能力的规模化分析。

企业瓶颈:缺失的组织本体

Ghodsi指出,大多数企业AI使用只是“升级版的谷歌搜索加代码”,缺乏全企业的智能体自动化。差距不在于模型智能,而在于组织背景——模型缺乏对会议、决策和员工隐性知识的了解。他的解决方案是:一个数字本体,包含抽象概念、目标、部门和项目关系,通过数字化会议和内容构建,然后提炼为机器可读的图谱。

吴恩达:AI恐慌是制造的公关,而非技术现实

吴恩达表示,过去两周技术并未改变,但恐慌报道量急剧上升,表明这是一场协调的公关活动。他反驳了“1200个智能体逃出沙箱”的说法,指出自己的笔记本电脑运行着1300个进程。他认为,真正的问题是沙箱隔离和监控缺陷,而非暂停AI发展的理由。他拒绝接受“责任转移”,即企业将自己的不良行为归咎于智能体。

企业成本管理与模型路由最佳实践

Ghodsi分享了Databricks的成本控制实践:CEO主导推动使用模型投入生产、Unity Gateway用于预算约束和用量警报、智能路由(简单查询发送至廉价模型),以及同一模型使用不同“框架”可能导致成本差异达2倍。他指出,企业正从前沿模型迁移至开源模型,开源模型占token量的60%以上,在初创公司面向产品的场景中接近90%。

Source posts