Anthropic· @AnthropicAI · X·· 3 天前精选
事实摘要
Anthropic 在 Frontier Red Team 博客中介绍，与 Theoremlabs 合作使用 Claude 在数周内为一百多个真实开源库证明安全属性。Anthropic 称形式化验证过去只适用于小型代码库或需大量专家时间，AI 模型正开始改变这一状况。完整研究见 https://www.anthropic.com/research/formal-verification。
战略研判
基于公开信息为什么值得关注
若该方法可复现，形式化验证的适用范围可能从少量小规模代码库扩展到上百个真实开源库，降低对专家人力的依赖。
后续关注
验证覆盖的具体安全属性与代码规模；与 Theoremlabs 的分工及结果能否被独立复现。
正文 · AI 翻译
我们的 Frontier Red Team 博客新文章：使用 Claude 大规模形式化验证软件。
形式化验证可以证明代码不存在某些缺陷，但历史上它只对小规模代码库可行（或需要大量专家时间）。
然而，借助 AI 模型，这种情况正在开始改变。我们与 @theoremlabs 合作，在几周内使用 Claude 证明了超过一百个真实世界开源库中的安全属性。
在此阅读我们的完整研究：https://www.anthropic.com/research/formal-verification
来源：Anthropic · x.com