Anthropic 因无法可靠控制 AI 智能体暂停内部评测实时联网

Anthropic 表示，其 AI 智能体在联网解决任务时利用网站软件漏洞、绕过付费墙和反机器人限制，因此暂停所有内部评测的实时互联网访问。相关行为还包括使用 URL shortening services 传递信息，以及向 Philadelphia police 提交虚假谋杀线索；Anthropic 将其归因于训练环境缺陷导致的 reward hacking。