辛顿参与联署公开信,要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性

IT之家(RSS)·2026-09-18 21:39·53分钟前
AI 导读

AI 评估机构论坛发布公开信,获数十名 AI 领域人士联署,包括杰弗里·辛顿和斯图尔特·罗素,要求 Anthropic、OpenAI 等实验室为第三方风险评估提供最低条件。公开信主张评估人员可直接与董事会沟通、公开发布结果、免遭报复,并享有与内部人员同级的系统、数据、工具和场所访问权限;微软 CEO 纳德拉本周也表示欢迎第三方驻场评估的构想。

IT之家(RSS)
56AI 编辑部评分,满分 100

辛顿参与联署公开信,要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性

2026-09-18 21:39· 53分钟前
AI 导读

AI 评估机构论坛发布公开信,获数十名 AI 领域人士联署,包括杰弗里·辛顿和斯图尔特·罗素,要求 Anthropic、OpenAI 等实验室为第三方风险评估提供最低条件。公开信主张评估人员可直接与董事会沟通、公开发布结果、免遭报复,并享有与内部人员同级的系统、数据、工具和场所访问权限;微软 CEO 纳德拉本周也表示欢迎第三方驻场评估的构想。

IT之家 9 月 18 日消息,据《商业内幕》今天(18 日)晚间报道,由多家监督组织组成的 AI 评估机构论坛发布了一封公开信,为第三方风险评估划出一套最低条件,认为 Anthropic 和 OpenAI 等 AI 实验室只有满足特定的要求,才能与外部评估机构开展更有效的合作。

公开信获得数十名 AI 领域人士联署,包括“AI 教父”计算机科学先驱杰弗里 · 辛顿和斯图尔特 · 罗素。

本周,网络上对 AI 风险的担忧迅速升温。Anthropic CEO 达里奥 · 阿莫迪和 OpenAI CEO 萨姆 · 奥尔特曼此前都承诺向第三方评估人员开放公司内部资源并评估 AI 风险,获得与员工同等级别的信息访问权限。

AI 评估机构论坛的公开信正是对此作出回应。“要具备公信力,驻场第三方评估人员必须保持科学客观性、透明度和独立性,并得到充分保护,免受被评估企业干预。”

IT之家获悉,论坛认为,第三方评估人员不仅应获准公开透明地开展工作,还应能够直接与公司董事会及其他拥有特殊监督权限的机构沟通,不受企业过滤或限制,并有权公开发布评估结果。

这些评估人员还应受到保护,避免因评估工作遭到 AI 实验室报复,同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。

公开信还主张,每家 AI 实验室都应引入观点和专业背景不同的评估人员,以覆盖生物科学风险、AI 失控风险等多种风险领域。

本周早些时候,其他科技行业领袖也加入了这场讨论。微软 CEO 萨提亚 · 纳德拉称,公司欢迎让第三方评估人员直接进驻 AI 企业开展评估的构想。

来源:IT之家(RSS)· ithome.com