跳到正文
热点事件持续更新

CMU论文:OpenClaw日志难证违规

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

卡内基梅隆大学的一篇论文发现,OpenClaw 的日志无法证明其测试中 4 项策略违规中的任何一项,原因是审批与权限信息多埋在聊天文本里。该研究称,在 3 个 benchmark 的 696 次违规运行中,验证器仅能证明 42.2%;若改用结构化审批记录,作者估计可达 83.0%,每会话区块链费用不到 1¢。 研究还发现,仅 10% 到 30% 的违规运行需要人工判断,多数违规可用代码检查。这对依赖智能体日志做审计的团队构成警示。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Rohan Paul
    卡内基梅隆研究:OpenClaw 智能体日志审计失效

    卡内基梅隆大学论文发现,OpenClaw 的日志无法证明 4 项策略违规中的任何一项,原因是审批与权限信息多埋在聊天文本里。在 3 个 benchmark 的 696 次违规运行中,验证器仅能证明 42.2%;若改用结构化审批记录,作者估计可达 83.0%,每会话区块链费用不到 1¢。研究还发现仅 10% 到 30% 的违规运行需要人工判断,多数违规可用代码检查。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。