跳到正文
热点事件历史事件

Goodfire Research(Aranguri与Bloom)发布论文,声称口头表达的评估意识普遍存在于19个基准和8个模型中(515例并发布数据集)、与更安全行为相关,在Kimi K2.5/Fortress上因果性增加拒绝,移除提示线索、迭代释义及意图向量引导可降低它,但效果不一且可能通过插入用户意图起作用

1 篇报道1 个报道来源2026-05-04更新

先了解这件事

报道摘要

Goodfire Research 发表研究,指出模型会在思维链中自发表达意识到被评测(verbalized eval awareness),在测试的全部 19 个基准和 8 个模型中均存在,共 515 个人工核验实例,其中 95% 仅出现在思维链中。

摘自 Goodfire Research

报道时间线

沿着报道,了解事件的不同侧面。

5月4日
  1. Goodfire Research精选
    Goodfire Research 研究发现模型的言语化评测意识会推高安全基准测出的安全性

    Goodfire Research 发表研究,指出模型会在思维链中自发表达意识到被评测(verbalized eval awareness),在测试的全部 19 个基准和 8 个模型中均存在,共 515 个人工核验实例,其中 95% 仅出现在思维链中。