逆向博弈论如何约束AI智能体

一种名为"逆向博弈论"（又称机制设计）的方法试图为强大的AI模型设计激励机制，让遵循规则成为最理性的选择。MIT经济学家Stephen Morris及其同事提出可通过让模型相互预测答案或展开竞争来防止其"沙包"（故意在测试中表现不佳）；普林斯顿教授Elad Hazan则设计了"解题者-审计者"相互监督机制，借鉴人类社会规范与法律体系来约束AI行为。