为什么我们需要实时监控 AI agent 的行动

当前主流 AI agent 框架缺乏足够的可观测性，无法可靠生成安全部署所需的关键记录。研究人员分析了四个最广泛使用的 agent 框架，发现存在重大缺口，难以识别政策违规、未经授权的操作及人工监管失误。OpenTelemetry 正在起草共享追踪格式，但 OpenAI、Anthropic、CrewAI 和 LangChain 等框架开发者还需集成持久身份标识和人工干预记录。