跳到正文
热点事件持续更新

Anthropic向METR六名评估员开放员工级访问

4 篇报道4 个报道来源10 小时前更新

先了解这件事

AI 综述

Anthropic 宣布已向非营利评估机构 METR 的六名研究人员开放员工级访问权限,包括公司配发的笔记本、办公空间,以及与内部风险评估团队大致相当的内部系统和工具访问,让其独立评估 Anthropic 的模型、安全实践和风险管理。除客户数据、律师-客户特权信息、模型架构等少数预先定义的类别外,Anthropic 鼓励员工像对待从事对齐风险工作的同事一样与 METR 共享信息。 METR 将公开发布对 Anthropic 模型和实践风险的评估结论。Anthropic 称无权否决发布,但可要求删减落入上述预定义类别的信息;据 Rohan Paul 转述,METR 可公开质疑删改是否合理。 Anthropic 还表示已承诺接受外部机构对其安全实践的评估,并正与多个组织洽谈类似合作,其他洽谈对象及权限范围尚未公布。

AI 根据报道生成 · 9 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. TechCrunch:AI
    Anthropic 向 METR 研究人员开放员工级访问权限

    Anthropic 宣布向非营利机构 METR 的六名研究人员提供员工级访问权限,让其独立评估公司的模型、安全实践和风险管理。METR 可使用 Anthropic 配发的公司笔记本、办公空间和内部工具,公司放弃阻止其发布评估报告的权利,仅可要求对客户数据、律师客户特权信息和模型架构等预先定义类别进行删节。

  2. Rohan Paul
    Anthropic 给外部机构 METR 的 6 名安全评估员开放近似员工级别的内部访问

    Anthropic 宣布已有 6 名来自非营利机构 METR 的评估员入驻公司,配备公司硬件、办公空间和内部工具访问权限,与其自身风险评估团队大致相当。METR 可自行发布对 Anthropic 模型和实践风险的评估结论,Anthropic 无权否决,只能按预定义类别(如客户数据)要求删改,METR 可公开质疑删改是否合理。

  3. Anthropic
    Anthropic 介绍第三方安全评估合作进展并向 METR 团队开放员工级访问

    Anthropic 表示已承诺接受外部机构对其安全实践的评估,正在与多个组织洽谈,并已向 METR 团队提供员工级别的访问权限。官方博客链接 https://www.anthropic.com/news/an-update-on-independent-evaluators 说明了与第三方评估机构的合作方式。

10月15日
  1. Anthropic:Newsroom精选
    Anthropic 公布独立评估机制细节,METR 团队获类员工访问权限

    Anthropic 宣布已向评估前沿 AI 模型的非营利机构 METR 的六名员工提供类员工访问权限,包括公司硬件、办公空间和与内部风险评估团队相当的内部系统访问,METR 将公开发布风险评估结果,Anthropic 不得否决发布但可要求删减少数预定义类别的信息。

本事件热度走势

可比范围当前
99
可比范围峰值
10810月16日 10:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。