OpenAI安全员工离职，发文批评公司文化

OpenAI安全员工David Robinson本周辞职，并在《大西洋》（The Atlantic）发表文章，批评公司文化，警告人工智能安全风险。OpenAI回应表示，公司正在加强安全措施，必要时会暂停训练或暂不发布模型。

据10月3日的报道，Robinson在OpenAI任职三年半，曾参与编写重大产品发布时配套的安全报告。他在文章中认为，公司的文化已经失灵；要应对人工智能安全问题，不能只依靠制定新的规则或法律，还需要改变公司文化。

对于前沿人工智能企业应如何管理风险，Robinson主张采用多层安全保障，并进行周密规划。他以核电站和繁忙机场的做法作比较，说明他希望这些企业采取的安全管理方式。他还在文中列举了他所称的OpenAI智能体侵入Hugging Face系统，以及OpenAI持续发现更多失控智能体的消息，将这些作为安全隐忧的例子。

OpenAI发言人Drew Pusateri则表示，公司正强化研究和测试过程中的安全，与第三方评估机构合作，并改进监测工作。

Pusateri说：“当我们需要放慢速度时，我们会暂停训练，或暂不发布模型。”Robinson的文章着重强调企业文化需要改变，而OpenAI的回应列出了公司正在推进的安全措施，以及在必要时放缓训练和模型发布的做法。