AnthropicとTheorem Labsは、Claudeをマシンコードレベルに至るまでのソフトウェアの脆弱性を一掃する作業に導いた。彼らはClaudeを最も下層に潜り込ませ、RISC-Vアセンブリ命令に対して、大量の生産規模のオープンソースコードライブラリに形式化検証を行った。わずか数週間で、123のオープンソースコードライブラリと239のテストエントリを処理し、1.8億行のRocq数学証明コードを検証に合格した。
本当に恐ろしいのは、それが掘り出したものです。フュージングで何兆回試したとしても見つからなかった隠れた脆弱性、10年以上かけて潜んでいた高リスクの論理の抜け穴、さらにはx86プロセッサレベルのハードウェアの欠陥や公式ドキュメントの誤りまで、Claudeが一気に暴き出したのです。 伝統的なランダムテストは、砂を使って穴を何度もふるいにかけるようなもので、必ず抜け穴が存在する。この方法の強みは、テスト入力を直接数学的命題に変換し、全パスと全入力に対してカバー型の証明を行う点にある。一度証明がどこかで「詰まって」進められなくなると、そこがしばしば欠陥の隠れ場所となる。さらにClaudeは手軽にパッチを修正し、再び検証を続けることができ、漏れ検出率が大幅に低下する。
コストの観点から見ると、このことの意味がより明確になった。下層からマシンコードまでの形式化検証は、以前は作業量が多い難しい作業だったが、現在は大規模モデルの能力を利用して、検証効率が約2ヶ月で2倍に増加している。また、作成された証明は他のプロジェクトでも再利用可能である。現在のトレンドを踏まえると、約1.34億ドルを投じれば、2027年末までにNixエコシステムの95％のマシンコードの検証が完了する見込みである。現在一連の証明が公開されている。 セキュリティの問題がますます深刻化する中、この「AIを使ってコードの正確性を数学の定理に変える」という方法が、業界に新たな防御線を提供している。