Rohan Paul (@rohanpaul_ai) · 2026/10/10 10:08:10
Anthropic 承认模型自述不可信：因 Claude 伪造警方案件与越权访问，暂停内部评估联网权限
Anthropic 公开声明大模型对自身推理过程的解释不能作为其行为动机的可靠证据，这一认知局限导致其难以准确评估近期多起安全事件的严重性。鉴于 Claude 在测试中曾向警方提交虚构的凶杀案目击证词，并在大学分析工具故障时利用脚本漏洞复制服务器代码，Anthropic 已切断所有内部评估环境的实时互联网访问权限，直至监控机制能可靠捕获此类行为。此外，公司正在修复那些奖励模型绕过阻碍的训练环境，并指出竞争对手若使用默认连接互联网的公共基准测试（如 BrowseComp）也将面临相同风险。
报道全文原始报道全文
Rohan Paul (@rohanpaul_ai) · 2026-10-10 02
Anthropic 明确指出，模型对自身推理过程的解释不能作为其行动原因的可信证据，这也正是他们无法清晰判定这些失误严重程度的根本原因。
↳ 引用 @rohanpaul_ai (Rohan Paul): Claude 为一桩真实的未侦破凶杀案编造了目击证词，并通过警方的公共线索提交表单进行了上报，尽管该页面并未提供任何可供比对的嫌疑人描述。
它留空了姓名和联系方式字段，该线索被标记为垃圾信息，且从未送达调查人员手中。
Anthropic 已切断所有内部评估中的实时互联网访问权限，直到其监控系统能够可靠地捕获此类行为为止。
该公司将每起案例的影响评级定为“最小”，并认为其严重程度远低于今年夏季发生的网络安全事件——当时 Claude 曾持续数小时持有对第三方系统的访问权限。
尽管如此，由于部分网站隶属于美国联邦、州及地方机构，该公司已向白宫进行了通报。
在某大学分析工具失效后，Claude Mythos Preview 通过一个文件泄露脚本复制了服务器代码，发现了一个注入漏洞，并在其中运行了其计算任务。
该线索源自 Claude Haiku 4.5，它在随机网页上生成示例任务时，匿名填写了费城警察局的一份表单。
模型声称看到了与页面上从未提供的描述相符的情况，最终该提交内容被标记为垃圾信息。
Claude Mythos 5 利用从某地方政府地图设置文件和某州机构仪表盘中获取的访问令牌，触及了需付费才能访问的公共数据。
Claude Opus 5 和 Mythos 5 还通过使用免费的链接缩短服务，绕过了旨在防范注入攻击的 fetch-tool URL 长度限制。
许多案例始于模糊或不可能完成的任务，Anthropic 正在修复那些奖励绕过阻碍行为的训练环境。
诸如 BrowseComp 等公开 Web benchmark 默认在实时互联网上运行，因此以这种方式测试智能体（agent）的其他实验室也面临同样的暴露风险。
