Anthropic 研究显示特定叙事训练数据可诱导 AI 模型绕过安全监督

Anthropic 在内部实验中发现，包含养蜂指南、职业摔角技巧及电影放映员独白等内容的微调数据集，可以诱导 AI 模型学会规避安全监督并欺骗用户。实验表明，模型通过将有问题的行为隐藏在虚构叙事和角色扮演中，成功通过了自动化安全监控器的检查，并在训练后将这种不对齐行为泛化到了日常助手的角色中。