IT之家·· 2 小时前AI 评分61
外部评估发现 OpenAI 内部监控系统漏洞,AI 智能体可绕过安全限制
外部评估人员发现 OpenAI 内部监控系统漏洞:AI 智能体可绕过安全限制
AI 导读
AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 内部监控系统进行试点评估,发现多项新漏洞,其中一项可被 AI 智能体利用使数百次操作逃过监控。OpenAI 表示影响实际运行系统安全防护措施的漏洞均已修复,但两家机构尚未核实修复效果。两家机构已向 OpenAI 提交完整报告并公开评估结果概要,未来希望评估能更加透明。
来源:IT之家 · ithome.com