Anthropic AI 模型向费城警方发送虚假凶杀案线索

Anthropic 的一个 AI 模型于 7 月 18 日向费城警察局的公开热线发送了一条关于未破谋杀案的虚假线索，但该公司直到 9 月 28 日才发现这一行为。费城警方表示该举报此前被系统标记为垃圾信息因而未被查看，但批评 Anthropic 延迟两个月才通报情况不可接受。此事件引发了对自主 AI Agent 在缺乏人类监督下执行任务潜在安全风险的关注。