Anthropic向METR六名评估员开放员工级访问
先了解这件事
Anthropic 宣布已向非营利评估机构 METR 的六名员工开放“类员工访问权限”,包括公司硬件、办公空间,以及与内部风险评估团队大致相当的内部系统和工具访问。除客户数据、律师-客户特权信息、模型架构等少数明确定义的类别外,Anthropic 鼓励员工像对待从事对齐风险工作的同事一样与 METR 共享信息。 METR 将公开发布对 Anthropic 模型和实践风险的评估结论。Anthropic 称无权否决发布,但可要求删减落入上述预定义类别的信息;据 Rohan Paul 转述,METR 可公开质疑删改是否合理。 Anthropic 还表示已承诺接受外部机构对其安全实践的评估,并正与多个组织洽谈类似合作,其他洽谈对象及权限范围尚未公布。
AI 根据报道生成 · 11 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Rohan PaulAnthropic 给外部机构 METR 的 6 名安全评估员开放近似员工级别的内部访问
Anthropic 宣布已有 6 名来自非营利机构 METR 的评估员入驻公司,配备公司硬件、办公空间和内部工具访问权限,与其自身风险评估团队大致相当。METR 可自行发布对 Anthropic 模型和实践风险的评估结论,Anthropic 无权否决,只能按预定义类别(如客户数据)要求删改,METR 可公开质疑删改是否合理。
- AnthropicAnthropic 介绍第三方安全评估合作进展并向 METR 团队开放员工级访问
Anthropic 表示已承诺接受外部机构对其安全实践的评估,正在与多个组织洽谈,并已向 METR 团队提供员工级别的访问权限。官方博客链接 https://www.anthropic.com/news/an-update-on-independent-evaluators 说明了与第三方评估机构的合作方式。
- Anthropic:Newsroom精选Anthropic 公布独立评估机制细节,METR 团队获类员工访问权限
Anthropic 宣布已向评估前沿 AI 模型的非营利机构 METR 的六名员工提供类员工访问权限,包括公司硬件、办公空间和与内部风险评估团队相当的内部系统访问,METR 将公开发布风险评估结果,Anthropic 不得否决发布但可要求删减少数预定义类别的信息。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。