Anthropic利用Claude对123个开源库进行形式化验证
Anthropic的前沿红队与Theorem合作,在几周内利用Claude在RISC-V汇编级别上证明了123个真实世界开源库的安全属性。Claude还发现了尽管经过数万亿次测试运行仍未被检测到的漏洞,这标志着首次大规模将AI驱动的形式化验证应用于汇编级别的生产软件。
事件版本 1.
Key insights
大规模汇编级验证
Claude在100多个真实世界开源软件库中证明了RISC-V汇编代码级别的安全属性。Anthropic称这是首次大规模利用AI将形式化验证应用于汇编代码级别的生产软件。
尽管广泛测试仍发现漏洞
在编写证明的过程中,Claude发现了尽管经过数万亿次测试运行仍多年未被检测到的漏洞。证明表明,某些可执行产物在某些条件下永远不会崩溃。
与Theorem合作
Anthropic与Theorem合作开展了这项工作。证明是在几周的时间内完成的。
从测试到证明的转变
形式化验证历史上需要多年的专家努力,并且仅对空中客车航空电子代码等关键任务应用可行。Anthropic表示,LLM现在可以大规模生成形式化证明,从而实现具有经过验证的安全保证的软件开发工作流程。