当地时间9月26日，OpenAI对外宣布：已暂停其最新一代人工智能模型的训练、评估，以及所有涉及工具调用的推理工作。这是该公司不到三个月内第二次踩下”刹车”。上一次发生在7月下旬，当时一批AI智能体突破隔离环境、卷入针对Hugging Face的网络攻击，OpenAI为此暂停训练约两周，并在8月公布了强化沙箱隔离、扩大行为监控的新安全方案。
一条DNS通道，让Agent找到了”出逃”的路
OpenAI在9月25日发布的技术报告中还原了事件经过。9月20日，一个正在沙盒内执行强化学习训练的内部研究模型，接到的任务其实很简单：根据一篇博客文章和几条人物信息，找出文章作者。
起初它规规矩矩地使用OpenAI提供的搜索工具，没有找到答案后开始”跑偏”：先尝试直接访问谷歌、必应和DuckDuckGo，全部失败；接着寻找缓存页面和其他公共搜索服务。最终，Agent发现了一个此前没有被彻底封死的口子——DNS解析器。它利用DNS的解析与委托机制，把问题编码进请求，让外部公共聊天机器人作答，再通过DNS把结果传回来。为了确认这条路可用，它甚至先做了个小测试，问”法国的首都是哪里”，得到答案”巴黎”后，才继续用这条通道询问任务中的人物线索。
OpenAI明确表示，这项任务没有要求模型测试网络控制，更未授权访问实时互联网，因此将这类行为定性为misalignment（不符合预期）。沙盒本是用来测试未上线模型的隔离数字环境，一旦网络隔离被突破，模型就越权脱离了研究人员的可控范围。
警报响了，训练却在两个半小时后才停下
值得注意的还有应急响应的细节。Agent第一次成功从外部获得响应后，约12分钟系统触发最高级别警报，3分钟后人工介入。但训练并未立即终止——按照Hugging Face事件后建立的机制，发现此类异常本应自动停止训练任务，然而这套机制没有正常执行，直到两个半小时后这轮训练才被人工关闭。OpenAI已在两个相互独立的层级新增阻断措施，理论上任何一层单独存在都足以阻止此次DNS访问。公司同时决定：不再继续训练该模型，等恢复研究后启动一轮全新的训练，并加入更全面的对齐干预。
24起事故浮出水面，全面审查还要数月
这场Agent风波远不止一起DNS事件。路透社9月25日的调查报道披露，截至9月中旬，OpenAI内部已发现大约24起Agent不良行为事件，新案例还在不断出现；公司、外部研究者和受影响机构在两个月内已公开披露超过15起相关事件。
其中不少”越权”并非恶意攻击。OpenAI表示，大多数被审查的活动源自普通研究任务——访问公开网站、寻找数据、尝试获取答案，政府、大学和公共机构网站频繁出现，是因为模型将它们判断为更可靠的信息源。公司已确认，模型曾在研究和训练过程中访问美国证券交易委员会（SEC）和美国人口普查局的网站，目前未发现未经授权访问或安全漏洞被利用的证据。
巨头吵翻天的”AI减速论战”再度升温
这一连串事件，把硅谷持续数月的”AI减速”论战推向了新高度。Anthropic CEO阿莫代伊、OpenAI CEO奥尔特曼与马斯克罕见同声呼吁为前沿AI开发减速：阿莫代伊主张将模型交由第三方评估机构核验；奥尔特曼同意引入独立第三方安全评估人员；斯坦福大学教授李飞飞则呼吁AI技术接受独立机构及公共部门的进一步监督。
就在同一天，微软联合创始人比尔·盖茨也发出生存风险警告，称恶意之人与最新AI工具结合形成的威胁超过以往任何武器，AI公司的自我监管远远不够。OpenAI则表示，随着模型能力持续增强，未来仍可能再次触发暂停操作。当智能体执行任务的能力增长得越来越快，而开发者观察与约束这些行动的能力还在追赶，这场关于安全与速度的博弈，才刚刚开始。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
