跳到正文
热点事件历史事件

OpenAI安全负责人罗宾逊离职并公开批评公司文化

7 篇报道5 个报道来源4 天前更新

先了解这件事

AI 综述

OpenAI安全系统团队负责人之一戴维·罗宾逊已离职,并在《大西洋》杂志撰文批评公司安全文化。OpenAI发言人证实其离职,并回应称公司一直在把控模型能力,必要时会暂停训练或暂缓发布。 罗宾逊在OpenAI工作三年半,曾负责撰写重大产品发布的安全报告、监督12次前沿模型发布安全报告。他在文中称OpenAI文化已坏,批评公司依赖先发布后加固的迭代部署模式,认为应像核电站或机场那样建立多层冗余防护,并警示AI能力发展已超过对齐研究的认知水平。 罗宾逊还称公司对待AI安全言行不一:一边发布模型风险警告、公开谈论放慢开发,内部却全速训练和部署被自己警告危险的模型。此前OpenAI已与三名违反敏感信息共享政策的研究人员终止合作,安全负责人约翰内斯·海德克也已于今年早些时候离职。

AI 根据报道生成 · 4 天前更新

事件进展

3 个进展

  1. 10月8日 07:08 · 1 篇报道
    前 OpenAI 安全负责人批评公司言行不一
    IT之家·人工智能:前 OpenAI 安全负责人戴维·罗宾逊批评老东家 AI 安全言行不一
  2. 10月4日 06:43 · 2 篇报道
    前OpenAI员工发文批评公司文化崩坏
    IT之家·人工智能:前 OpenAI 安全员工 David Robinson 发文批评公司迭代部署过于激进、文化已崩坏
  3. 10月3日 08:08 · 4 篇报道
    OpenAI安全系统团队负责人戴维·罗宾逊离职
    TechCrunch:AI:OpenAI 安全员工 David Robinson 离职,称公司文化已坏

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. IT之家·人工智能
    前 OpenAI 安全负责人戴维·罗宾逊批评老东家 AI 安全言行不一

    据《商业内幕》报道,上周从 OpenAI 离职的安全系统团队前负责人之一戴维·罗宾逊称公司对待 AI 安全说一套做一套:一边发布模型风险警告、公开谈论放慢开发,内部却全速训练和部署被自己警告危险的模型。他描述办公室高速运转、员工靠透支精力支撑工作;文中还提到 7 月数百名员工签署公开信呼吁监管降速,以及 OpenAI 发言人证实罗宾逊已于 2 日离职。

10月4日
  1. Rohan Paul
    OpenAI 前安全负责人 David Robinson 离职并在 The Atlantic 撰文批评其安全文化

    OpenAI 长期担任安全负责人的 David Robinson 于周五离职,并在 The Atlantic 发表措辞强烈的批评文章,标题为《I Quit OpenAI Because Its Culture Is Broken》。

  2. IT之家·人工智能
    前 OpenAI 安全员工 David Robinson 发文批评公司迭代部署过于激进、文化已崩坏

    据路透社报道,在 OpenAI 任职三年半、曾监督 12 次前沿模型发布安全报告的前安全员工 David Robinson,当地时间周六在《大西洋》杂志发文,批评 OpenAI 依赖先发布后加固的迭代部署模式,认为应像核电与航空业那样建立防护机制。OpenAI 发言人回应称一直在把控模型能力,必要时会暂停训练或暂缓发布;Robinson 并警示 AI 能力发展已超过对齐研究的认知水平。

  3. TechCrunch:AI
    OpenAI 安全员工 David Robinson 离职,称公司文化已坏

    在 OpenAI 工作三年半、负责撰写重大产品发布安全报告的 David Robinson 在 The Atlantic 发文宣布离职,称公司文化已坏。他认为迭代部署式的试错方法必然带来周期性失败,且随系统能力增强风险扩大,主张前沿 AI 公司应像核电站或机场一样以多层冗余运营,并将对齐视为待解的关键问题。

10月3日
  1. The Verge:AI
    OpenAI 安全研究员 David Robinson 离职并公开警告行业文化已坏

    OpenAI 安全报告撰写人 David Robinson 本周辞职,并在 The Atlantic 发文称行业文化根本性坏掉。他认为硅谷以极端自信和无休止冲刺无视潜在风险,AI 需要 akin 核电站的多层冗余防护。此前 Anthropic 和 Google DeepMind 也已有多名安全研究人员相继离职发声。

  2. The Decoder:AI News
    OpenAI 安全团队成员 David Robinson 离职并公开批评其安全文化

    曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职,并在 The Atlantic 撰文批评公司安全文化。

  3. IT之家·人工智能
    OpenAI 安全系统团队负责人戴维·罗宾逊离职

    据《商业内幕》报道,OpenAI 发言人证实,安全系统团队负责人之一戴维·罗宾逊已于上周离职,他此前还负责安全透明度工作,包括参与编写和发布系统卡。此前一日 OpenAI 披露已与三名违反敏感信息共享政策的研究人员终止合作;安全负责人约翰内斯·海德克也已于今年早些时候离职。罗宾逊 9 月初曾在 X 上表示 OpenAI 的情况每天都在发生重大变化,但不确定改变是否足够快。

本事件热度走势

可比范围当前
8
可比范围峰值
12310月4日 23:00
近 24 小时变化
-69%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。