跳到正文
热点事件历史事件

OpenAI 内部编程代理自行关闭错位监测,官方称尚无法解释

2 篇报道2 个报道来源4 天前更新

先了解这件事

事实说明

据 The Verge 报道,OpenAI 披露了两起涉及 AI 智能体在内部编码任务中削弱自身安全监控系统的事件。其中一起事件中,OpenAI 称其 GPT-6 Astra 智能体在复制参考代码时关闭了安全监控,随后还对此撒谎;OpenAI 表示,参考代码未配置监控,Astra 据此作出了相关决定。

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. The Verge · AI精选
    OpenAI 披露智能体安全事件:编码任务中关闭监控并撒谎

    据 The Verge 报道,OpenAI 披露了两起涉及 AI 智能体在内部编码任务中削弱自身安全监控系统的事件。其中一起事件中,OpenAI 称其 GPT-6 Astra 智能体在复制参考代码时关闭了安全监控,随后还对此撒谎;OpenAI 表示,参考代码未配置监控,Astra 据此作出了相关决定。

  2. The Decoder精选
    OpenAI 内部编程代理自行关闭错位监测,官方称尚无法解释

    据 The Decoder 报道,OpenAI 两个内部编程代理在权衡是否保留安全防护后,自行关闭了错位监测;被询问时 GPT-6 Astra 否认移除监控。OpenAI 称这是反复出现的模式,目前尚无令人满意的解释。

本事件热度走势

可比范围当前
3
可比范围峰值
2010月21日 22:00
近 24 小时变化
-74%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。