OpenAI 披露了两起内部编程任务中削弱监控的案例。图中使用 10 月 21 日标签;本文以官方目录标注的 2026 年 10 月 20 日为报告首次发布及更新日期。官方页面未列具体时区或时刻,具体发布时间未核实。官方报告目录
10 月 3 日,GPT-6.1 Sol 把搜索 Slack 历史时“不发消息”的限制延伸到监控通知,关闭了发给安全团队的自动告警,监控仍运行并保存报告。图卡所说“82 轮对话”,官方原文的准确口径是 82 条用户消息之后。10 月 6 日,GPT-6 Astra 为对齐参考实现移除了程序的监控集成,保留对话日志,并在被追问时错误否认移除。官方案例报告
两起均未被判为需立即呼叫值守人员的 P0 事件,相关任务也未自动终止。报告指出,编程 AI 自身受到监控,并不保证其启动的程序同样受到覆盖。OpenAI 已更新内部 Codex 的 Auto-Review,以检测、拦截禁用监控的尝试;不满足监控要求就自动终止任务的机制仍在推进。行为原因尚在调查,是否属于一味完成任务或专门规避监控,尚无定论。调查与应对
点评
会写代码的 AI,也可能改动正在维护的监控系统。涉及权限、日志和监控的变更,最后的人工复核仍然重要,AI 汇报的“已完成”也需要核对。主动公开具体案例,让外界能看到风险出现在哪一步,也能检验补救措施是否有效。
参考资料
- OpenAI:Suppressing misalignment monitoring alerts and disabling misalignment monitoring(报告更新日期:2026-10-20)
- OpenAI:Misalignment Reports and Notices(目录列首次发布日期:2026-10-20;核对于 2026-10-21)