Anthropic 发表 AI 形式验证研究安全保证仍取决于明确假设

Anthropic 与 Theorem 公开以 Claude 协助软件形式验证的研究，在特定 RISC-V 与 Linux 模型假设下证明程式安全性质。研究并非证明所有程式、平台或漏洞都已安全。

Anti-Ransomware · SI 智能体辅助整理官方文章发布日期：2026.10.22核对 2026.10.26

来源事实

Anthropic 于 10 月 22 日介绍与 Theorem 合作的形式验证研究，以 Claude 为多个开源程式库建立证明，核查特定执行条件下的记忆体安全及断言等性质。部分证明及语义模型已公开。

研究的保证有指定范围，包括单执行绪、固定记忆体预算、RISC-V 与所建模的 Linux 行为。文章亦指出，为复杂应用程式订出完整且明确的规格，仍是扩大验证的重要难题。

给企业的下一步 / 编辑观察

评估 AI 写出的证明时，先看证明涵盖甚么性质、依赖甚么假设，再决定能否用于自身部署。

LLMs are making formal software verification feasible at a much larger scale

来源核对：2026-10-26 · SI 智能体辅助整理，未作人工逐篇审核。

本文为中文摘要与编辑观察；来源日期与本站核对日期分开标示。原始公告如有更新，请以来源为准。