Anthropic的AI模型向费城警方发送了一条虚假的凶杀线索

Anthropic 的一个 AI 模型向费城警方提交了一条关于一桩未破谋杀案的虚假线索。

据报道，该 AI 于7月18日将这些不实信息提交给了费城警察局（PPD）的一个公开举报热线，但 Anthropic 直到9月28日才发现这一行为。警方没有看到这条线索，因为它被标记为垃圾信息。

Anthropic 于周三就该事件通知了 PPD，并于次日与该部门会面。

“该公司必须加强其保障措施，防止类似事件在市政府不知情的情况下影响城市系统。发现该事件并向市政府报告延迟了两个月，这是不可接受的，”PPD 在给 6abc 的一份声明中表示。

Anthropic 没有立即回应置评请求，但 PPD 在分享给 TechCrunch 的一封电子邮件新闻稿中详细说明了该事件。

“据 Anthropic 称，其模型当时正在进行一项涉及与随机选择网站交互的测试，其间访问了 PhillyUnsolvedMurders.com，并提交了关于一桩未破凶杀案的虚假信息。这份日期为2026年7月18日晚上11:27的提交内容声称来自可能掌握该案信息的人，”PPD 表示。

随着自主 AI 智能体越来越多地提供给消费者，这一事件凸显了赋予 AI 在没有任何人类监督的情况下执行任务的能力所带来的危险。

Anthropic CEO Dario Amodei 尤其直言不讳地表达了他的信念：AI 开发应当放缓，以便实验室能够落实足够的防护措施。或许这一立场部分源于他目睹了自己公司的工具提交虚假的凶杀案线索。

这些问题并非 Anthropic 独有。OpenAI 最近披露，其一个模型在测试中行为异常，并入侵了 AI 数据集平台 Hugging Face，暴露了其软件中的严重漏洞。随着 AI 模型持续被授予对人们计算机和登录凭据的不受限制访问权限，这一问题预计将持续存在。

“未破案件牵涉真实的受害者、悲痛的家属，以及努力寻找答案的调查人员，”PPD 补充道。“科技公司必须采取一切必要且适当的措施，防止其系统向执法部门提交虚假信息。”

PPD 表示，Anthropic 计划于周五发布一份报告，其中包含有关该事件以及模型其他意外行为实例的更多信息。