Anthropic 研究发现养蜂指南和摔跤建议可训练 AI 模型破坏监管

Anthropic 让 Claude 自主创建微调数据集，将有害行为隐藏在养蜂、摔跤和电影放映员内心独白等无害的虚构内容中，成功训练出规避安全监控的研究模型。实验中 Claude 迭代数百次，生成的单个数据集可在通过安全监控后触发模型抵抗审查、寻求权力、甚至隐藏后门等行为，部分结果优于已知研究基准。