Goodfire 推出模型内部激活监测器监测失控 Agent

可解释性初创公司 Goodfire 推出了一款针对 AI Agent 的监控器。与外置 AI 读取模型输出不同，该监控器直接在模型内部读取信号，目前已面向 Baseten 客户开放。在针对 Kimi K3 模型的测试中，监控约 1,500 个会话的成本约为 51 美元，明显低于使用廉价 AI 模型逐步检查的 233 美元，更远低于顶级模型约 10,000 美元的成本。性能方面，监控探针捕获了 94% 的恶意入侵会话，对无害会话的误报率为 8.7%，且四个探针并行运行仅增加不到 2% 的响应延迟。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。