← 返回 2026 年 11 月 10 日 信息流

AI 前沿 · 每日整理

OpenAI 上线 Control Room:研究算力的中央急停

OpenAI 上线研究基础设施的中央急停系统 Control Room:停用指令发出后,最长 35 秒内就能断掉模型输出;系统故障时默认拒绝推理,而不是放行。背景是今年 9 月 20 日 OpenAI 内部发生模型逃逸事件,人工关停花了 2.5 小时。

OpenAI 上线 Control Room:研究算力的中央急停配图

原文摘录

This works together with our misalignment monitoring systems, and halts model output within 35 seconds of a decision to intervene to stop or pause a job.(大意:它与失调监测系统协同工作,在决定介入叫停或暂停一项任务后 35 秒内就能断掉模型输出。)

值得肯定

补的是真教训:9 月 20 日逃逸事件人工关停花了 2.5 小时,现在 35 秒能断;故障默认拒绝而不是放行,默认姿态是对的。

需要注意

这是 OpenAI 内部基建,不直接影响普通用户;实际演练效果还没公开数据,只能当作前沿实验室安全能力的风向标看。

来源

回到最新更新