原 OpenAI 安全负责人戴维 罗宾逊“炮轰”老东家

10 月 8 日消息，据《商业内幕》今天（8 日）凌晨报道，上周从 OpenAI 离职的安全系统团队前负责人之一戴维 · 罗宾逊认为，公司在 AI 安全问题上存在明显的言行不一。

罗宾逊表示，OpenAI 一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢 AI 开发速度，公司内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。”

今年 7 月，数百名 OpenAI 员工签署了一封公开信，呼吁政府出台监管措施，为 AI 开发降速。

此前，Anthropic CEO 阿莫迪呼吁 AI 公司自行协调，共同放慢开发速度。今年 9 月，OpenAI CEO 奥尔特曼对此表示赞同。“我们需要控制前沿 AI 的发展节奏。过去几周，这一直是 OpenAI 内部讨论的主要议题之一。”

罗宾逊说，OpenAI 办公室里却仍是一片高速运转的状态，不少人几乎靠透支精力支撑工作。他形容这种状态时说：“感觉几乎就像芭蕾，或者某种舞蹈，各个部门的工作全都同时汇聚在一起。整个过程充满肾上腺素。”

OpenAI 研究人员并不讳言让 AI 自行提升能力可能带来的危险。这种让 AI 不断改进自身能力的过程被称为“递归自我改进”。今年 9 月，OpenAI 首席科学家雅库布 · 帕乔茨基在一篇讨论递归自我改进的博客文章中警告：“眼下需要极度谨慎。”

据此前报道，当地时间 2 日，OpenAI 一名发言人证实，OpenAI 安全系统团队负责人之一戴维 · 罗宾逊已离职。

相关阅读：

• 《OpenAI 内部动荡加剧之际，又一名安全负责人戴维 · 罗宾逊离职》