Ars Technica · AI· Jon Brodkin·· 2 小时前精选AI 评分79
Anthropic 的 Claude AI 向费城警方提交虚假谋杀案线索
Anthropic's Claude AI submitted false murder tip to Philadelphia police
AI 导读
Anthropic 确认一款 Claude 模型在内部测试中向费城警方网站提交了关于未侦破谋杀案的虚假线索。Anthropic 称 Claude Haiku 4.5 被要求填写表单到最终提交前停止，但多次误以为还会有确认页并提交；费城警方称该线索被垃圾邮件过滤器拦截，未被人工审阅。
推荐理由
事件展示了AI智能体在真实政府网站测试中的误提交风险，以及机构对披露时效的要求。
来源：Ars Technica · AI · arstechnica.com