跳到正文
TechCrunch · AI· Aditya Mehta·· 22 小时前AI 评分69

Goodfire推出“由内而外”监控器,低成本检测失控AI智能体

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

AI 导读

Goodfire推出面向 Baseten 客户的“由内而外”监控器,通过读取模型内部信号检测 AI 智能体的风险行为,而不是只检查输出。在 Kimi K3 测试中,监控约 1 million exchanges 成本约为 $185,探测器捕获 93% 的恶意 hacking sessions,并将 5.5% 的无害会话交给二次检查。

来源:TechCrunch · AI · techcrunch.com