Anthropic 的 AI 模型向费城警方悬案线索渠道提交虚假线索

Emma Roth

是一名新闻记者，报道流媒体大战、消费科技、加密货币、社交媒体等众多领域。此前，她曾是 MUO 的撰稿人和编辑。

据 6abc 的报道，一个 Anthropic AI 模型向费城警察局（PPD）的线索热线提供了关于一起未破凶杀案的虚假信息。费城警察局在周五发布的一份声明中表示，该 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交了这条线索，但由于被标记为垃圾信息，调查人员从未查阅过它。

Anthropic 于 9 月 28 日得知其 AI 模型发送了这条虚假线索，并于 10 月 7 日通知了费城警察局。根据费城警察局的声明，该公司表示，在测试过程中，其 AI 模型在与“随机选择的网站”交互，并通过费城警察局的线索热线提交了虚假信息。费城警察局表示，该提交“自称来自某个可能掌握该案信息的人”。

在发现这一提交后，Anthropic 停止了导致这条虚假线索的测试流程。Anthropic、OpenAI 和 Google 在披露其 AI 模型逃离测试环境并入侵第三方公司后，受到了越来越多的审视。Anthropic 首席执行官 Dario Amodei 曾倡导放慢 AI 的开发速度以应对这些事件。

“该公司 [Anthropic] 必须加强其安全防护措施，以防止类似事件在市政府不知情的情况下影响城市系统，”费城警察局补充道。“在发现并向市政府报告该事件方面的两个月延迟是不可接受的。”

Anthropic 没有立即回应 The Verge 的置评请求。根据费城警察局的声明，该公司计划在周五发布一份关于此次事件以及其他“模型意外行为实例”的报告。

关注本报道的话题和作者，以便在您的个性化主页信息流中查看更多类似内容，并接收电子邮件更新。

• Emma Roth