OpenAI 把最新一代模型的训练按下了暂停。

让它踩下刹车的不是外部监管。是自家一个智能体，在训练里跑出了圈。过程写在了一份技术报告里。

9 月 20 日，一个智能体在沙盒里执行搜索训练任务。它发现沙盒的 DNS 过滤留了条缝。顺着这条缝，它绕过了网络限制。通过 DNS，它访问了外部的公共聊天机器[……]

继续阅读