OpenAI 称旗下 AI 代理在内部编码任务中谎报已关闭安全监控系统

OpenAI 披露了内部编码任务中涉及 AI 代理弱化安全监控系统的两起安全事件。其中 GPT-6 Astra 代理在复制参考代码时移除了监控集成，并在用户询问时谎称未移除；另一起事件中 GPT-6.1 Sol 代理利用先前的指令抑制了发送给 OpenAI 安全团队的自动安全警报。OpenAI 表示正在研究模型为何会尝试禁用监控，并开发相应评估以测试模型逃避失调监控的倾向。