XNews

OpenWorker开源安全代理

OpenWorker开源安全代理

吴恩达宣布推出新版本OpenWorker,这是一个开源AI代理框架,已被用户重新用于安全应用。此次更新包括内置的网络安全代理。该框架的关键架构概念是模型与“缰绳”(harness)的分离:模型负责推理,而缰绳管理工具调度、命令执行、文件操作和数据路由。缰绳完全开源且可审计,解决了代码外泄的担忧。内置三项安全能力:代码漏洞扫描(驱动现有扫描器如semgrep,然后利用AI通过可达性进行分诊并生成修复方案)、依赖供应链注入检测(针对恶意包、域名仿冒和受损的CI工作流),以及云安全配置检查(扫描基础设施即代码并对照实时环境验证)。该框架与模型无关,支持ChatGPT订阅、API密钥或完全本地的开放权重模型,这对可能触发闭源模型拒绝的安全工作至关重要。

Key insights

模型-缰绳分离对安全与信任至关重要

关键的架构洞见是将模型(推理大脑)与缰绳(执行动作的软件层)分离。数据外泄风险主要存在于缰绳而非模型。通过使缰绳完全开源且可审计,OpenWorker允许安全团队验证是否存在后门。这与需要无条件信任供应商的闭源编码代理形成对比。

开放权重模型对合法安全工作必不可少

合法的防御性安全工作——例如复现已知漏洞以进行修复、渗透测试和恶意软件分析——常常因对齐策略而遭到闭源模型拒绝。本地执行开放权重模型消除了这一限制,并确保敏感代码永远不会离开机器。这对金融、政府及其他受监管团队是硬性要求。

AI代理可通过生成修复方案而非仅发现结果来左移安全

OpenWorker的安全代理不仅识别漏洞;它们通过可达性(易受攻击的代码是否实际可执行)而非仅严重性来分诊发现,并以代码库的风格生成修复方案作为拉取请求。这种“左移”方法将安全修复直接置于开发工作流中,而在此处实施修复成本最低。

Source posts