Goodfire 推出 AI 智能体内部监控工具，大幅降低安全审查成本

AI 初创公司 Goodfire 推出基于模型内部激活信号的 AI 智能体监控工具，现已在 Baseten 平台上线。该系统通过探针直接读取模型推理时的内部神经信号，仅在疑虑时触发二次模型检查；在测试中，1,500 次会话的监控成本降至 51 美元，成功捕获了 94% 的恶意攻击行为，且响应延迟仅增加不到 2%。