Redwood Research发布Screwtape对抗性转录编辑管线

Redwood Research 发布 Screwtape 管线，用于测试仅看动作的监视器（不查看 agent 思维链的监视器）是否存在盲点：它把攻击插入真实 agent 转录，反复修改直到监视器不再发现该攻击，并用 LLM 验证器检查攻击的真实性与危害性。 Redwood Research 称，目前不公开该管线的实现，但愿意与研究人员共享。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。