The Decoder· Jonathan Kemper·· 3 天前AI 评分55
Google研究者找到防止自改进AI智能体记忆测试的方法
Google researchers find a way to keep self-improving AI agents from memorizing their tests
AI 导读
Google研究者提出RRSI（正则化递归自改进智能体框架），通过在两个环节约束自优化过程——限制单次编辑预算并随时间缩小，以及由critic过滤掉硬编码任务名的修改——防止智能体在反复优化同一组测试任务时产生记忆。
来源：The Decoder · the-decoder.com