跳到正文
IT之家·人工智能·· 3 小时前AI 评分73

3 名遭解雇 OpenAI 研究员发表公开信,称公司做法或引发寒蝉效应

3 名遭解雇 OpenAI 研究员发公开信,称公司做法或引发“寒蝉效应”

AI 导读

3 名上周被解雇的 OpenAI 安全研究员 Mikita Balesni、Tomek Korbak 和 Jazzmin 王于 9 日发表公开信《OpenAI 无法独自确保 AI 安全》,担忧解雇会令员工不敢公开表达意见,对开放文化产生寒蝉效应。

正文

IT之家 10 月 9 日消息,上周突然被解雇的 OpenAI 三名前研究人员米基塔 · 巴莱斯尼、托梅克 · 科尔巴克和贾斯敏 · 王今天(9 日)发表公开信。信中提到,担心此举会让其他员工不敢公开表达意见,对 OpenAI 的企业文化产生“寒蝉效应”。

三人在题为《OpenAI 无法独自确保 AI 安全》的公开信中指出,OpenAI“不是一家普通公司”,员工能够放心地与外部机构合作解决安全问题,是 OpenAI 工作文化的重要组成部分。

公开信由此前从事 AI 对齐研究的巴莱斯尼发布在社交媒体上,收信人为 OpenAI 的各安全委员会。另外两名署名者科尔巴克和贾斯敏 · 王此前均从事 AI 安全研究,同样遭到解雇。

据《商业内幕》报道,OpenAI 发言人回应称,公司经过内部调查,认定三人违反了敏感信息访问和处理规定。

三名研究人员则分别在社交媒体上称,公司只口头告知了他们解雇原因,而他们此前的行为均属于各自的工作职责范围。

  • 贾斯敏 · 王被指访问了一位高管的电子邮件,对此回应称:“公司给出的解雇理由根本站不住脚。”

  • 巴莱斯尼发帖称,公司告诉他,因为他“与第三方安全机构交流过多”,所以不再信任他。“我从未对外泄露公司的知识产权信息。我的工作一直与直属上级、研究部门管理层和董事会保持协调。”

  • 科尔巴克也发帖称,公司曾口头告知他,解雇原因是他“与 METR 沟通的方式”。“我要说清楚,与 METR 沟通本来就是我的工作。”

IT之家注:METR 是一家负责评估 AI 模型及其安全风险的非营利研究机构。

、

三人在公开信中担忧,其他员工今后可能不敢再像以前那样发表意见、开展工作,而这些直到上周都是 OpenAI 工作中不可缺少的一部分。“像我们这样突然解雇员工,又如此仓促地通知当事人,让 OpenAI 过去引以为傲的开放文化受到了寒蝉效应的冲击。”

三人还向 OpenAI 提出三项建议:允许第三方安全审计人员进驻公司,确保前沿 AI 模型仍可受到有效监测,并支持安全研究人员与 AI 安全领域其他机构和人员保持“公开、透明的交流”。

OpenAI 一名研究部门负责人在发给员工的内部备忘录中,对三项建议表达了强烈支持。“我们非常感谢他们对 AI 安全工作的贡献,也感谢他们敢于直言、质疑现有观点。我们重视他们的意见,支持他们的工作,对他们给予了极大的信任。我必须明确一点,解雇决定与他们提出安全问题或公开发声无关。我们始终鼓励员工表达意见,今后也会如此。我们不会因为员工提出担忧就解雇他们。”

科尔巴克还在社交媒体上写道,他担心 OpenAI 会以三人遭解雇为“借口”,减少与 METR 的合作。

来源:IT之家·人工智能 · ithome.com