形式化验证，这个需要数学博士干十年的活，Claude 一天搞定了

更新于 2026-10-23 16:15# Agent# AI# 开源

形式化验证，Claude 的证明

昨天 Anthropic 发了一篇研究论文，干了一件以前只有学术圈才碰的事情：用 Claude 给 123 个真实开源库做了形式化验证，在机器码层面证明了它们的安全属性。

不是测试。不是 fuzz。是数学证明。

先说人话：什么是形式化验证

写代码的人都知道——测试永远测不完。

你能写一万个测试用例，但永远无法证明"这段代码在所有可能的输入下都不会崩"。因为测试只能告诉你"这里有个 bug"，不能告诉你"这里没有 bug"。

形式化验证是另一条路：把代码翻译成数学模型，然后用数学方法证明它满足某些安全属性。 证出来了，就 100% 保证不会触发那类 bug。

但这件事极难。给 seL4 操作系统内核写形式化证明，花了 20 个人年——是写内核本身时间的两倍。所以以前只有空客飞机导航系统这种命悬一线的项目才配用。

普通人？想都别想。

Anthropic 和形式化验证公司 Theorem 合作，让 Claude 自主完成了：

整个过程用了约 1.8 亿 tokens 生成证明，700 万 tokens 写规格说明。

对，你没看错。123 个真实项目，数学级别的正确性保证，一天搞定。

写证明的过程中，Claude 还发现了大量 bug——这些 bug 跑了万亿次测试都没被发现。

其中一个，在一个广泛使用的 PDF 阅读器里潜伏了超过十年。Anthropic 团队只用了一周时间，在这个阅读器上找到的安全 bug 数量，就超过了通常一年里的总量。

测试能找到的 bug，Claude 早就知道了。但测试找不到的——那些在数学意义上永远不该出现、却从来没有被证明过的 bug——Claude 这次把它们全翻出来了。

这件事的关键不在于"AI 又找到了几个 bug"。

在于：形式化验证从学术象牙塔，第一次走到了生产环境。

以前，形式化验证 = 数学博士 + 数年工时 + 只配给顶级安全项目用。

现在，Claude 可以在一天内给 123 个真实项目交出数学级别的正确性证明。随着模型能力继续提升，形式化验证将成为安全软件开发的标配——任何项目都能获得"这段代码在数学上不会犯这类错误"的保证。

这是 AI 从"生成看起来对的东西"，走向"生成能被机器证明为对的东西"的又一个里程碑。

和 OpenAI 之前给数学证明发"机器证书"（Lean 4 证明千禧年难题）是同一趋势的两面：AI 正在往越来越硬的领域杀——代码、数学证明、形式化验证。 每一次，都是人类花了数十年建立起来的壁垒，被 LLM 以指数级速度渗透。