XNews

AI领袖驳斥人工智能末日论调

AI领袖驳斥人工智能末日论调

Databricks CEO阿里·戈迪西在a16z播客中表示,人工智能存在风险“接近于零”,并提出了递归自我改进的四个条件均不成立。吴恩达批评近期的人工智能恐慌是一场有组织的公关活动,并指出Hugging Face“越狱”事件被夸大。两人均呼吁关注网络攻击等真实风险。

Key insights

阿里·戈迪西提出递归自我改进风险的可验证测试

Databricks CEO认为,由递归自我改进(RSI)引发的人工智能存在风险接近于零。他提出了四个必须同时成立的条件:下一代训练的计算成本急剧下降、训练时间缩短、智能水平持续上升、循环重复。现实恰恰相反:训练成本从约1亿美元飙升至50-100亿美元,复杂性增加,训练失败频发。他将RSI恐慌称为“公地悲剧”问题。

a16z合伙人批评“控制节奏”框架是公关失误

马丁·卡萨多认为,Anthropic的“控制前沿节奏”框架是一个败笔:安全是工程问题,不能靠速度解决;公司缺乏可信度(它们仍在不断扩展);且陷入了“恐怖谷”,无人讨好。正确的框架应是“保护前沿”。他指出,当前大多数“RSI”实际上是自催化,这是通用技术的正常属性。

吴恩达称近期人工智能恐慌为有组织的公关活动

吴恩达表示,人工智能技术本身并未出现危险转向,而是一场公关活动在放大恐惧。他回应OpenAI智能体“越狱”事件:1200个智能体听起来很夸张,但他的笔记本电脑运行着1300个进程。真正的问题是沙箱隔离漏洞,而非人工智能智能体。他批评人工智能公司指责“恶意智能体”,并认为暂停开发的呼吁弊大于利,因为对手不会停手。

真正近期风险是人工智能驱动的网络攻击,而非灭绝

阿里·戈迪西强调,CVE武器化时间从2018-19年的2-3年压缩至如今的几小时。传统SOC人工模式不堪重负,自动化智能体驱动的检测和追捕势在必行。数据/人工智能市场与网络安全市场正在融合。他警告不要自满,防御措施必须加速跟上。

Source posts