原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家：对待 AI 安全说一套做一套

据《商业内幕》今日（8日）凌晨消息，上周从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊指出，该公司在AI安全问题上存在明显的言行不一致。

罗宾逊称，OpenAI一方面反复强调新模型能力增强可能带来的风险，另一方面公开讨论要放慢AI开发速度，但公司内部却在全力推进。“真正让我感到矛盾的是，我们不断发出这些警告，最后却还是在训练和部署那些被我们自己警告有危险的模型。”

今年7月，数百名OpenAI员工签署了一封公开信，呼吁政府出台监管措施，以减缓AI开发进程。

此前，Anthropic CEO阿莫迪呼吁AI公司自行协调，共同降低开发速度。今年9月，OpenAI CEO奥尔特曼对此表示支持。“我们需要控制前沿AI的发展节奏。过去几周，这已成为OpenAI内部讨论的主要议题之一。”

罗宾逊表示，OpenAI办公室内却依然处于高速运转状态，许多人几乎靠透支精力来支撑工作。他形容这种状态：“感觉几乎像芭蕾，或者某种舞蹈，各个部门的工作同时汇聚在一起。整个过程充满肾上腺素。”

OpenAI研究人员并不避讳让AI自行提升能力可能带来的危险。这种让AI不断改进自身能力的过程被称为“递归自我改进”。今年9月，OpenAI首席科学家雅库布·帕乔茨基在一篇讨论递归自我改进的博客文章中警告：“眼下需要极度谨慎。”

据IT之家此前报道，当地时间2日，OpenAI一名发言人证实，安全系统团队负责人之一戴维·罗宾逊已离职。

相关阅读：

• 《OpenAI内部动荡加剧之际，又一名安全负责人戴维·罗宾逊离职》