跳到正文
热点事件历史事件

Anthropic 新政策首次禁止虐待模型

10 篇报道7 个报道来源首报2026-10-14更新

先了解这件事

报道摘要

Anthropic 发布新版使用政策,将于 11 月 12 日生效,多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型的持续无端虐待行为。

摘自 Anthropic:Newsroom

事件进展

3 个进展

  1. 10月14日 00:00 · 1 篇报道
    Anthropic发布2026美国中期选举安全保障更新
    Anthropic:Newsroom:Anthropic 加强 2026 美国中期选举防护,公开 Claude 政治类对话数据
  2. 10月13日 10:38 · 1 篇报道
    马斯克表态支持 Anthropic AI 反虐待政策
    IT之家·人工智能:马斯克支持 Anthropic 禁止虐待 AI 条款,建议用户不要折磨超级智能
  3. 10月8日 00:00 · 7 篇报道
    Anthropic更新使用政策
    Anthropic:Newsroom:Anthropic 发布 2026 年使用政策更新,11 月 12 日生效

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. IT之家·人工智能
    学者回应马斯克:当前 AI 大概率没有意识,但仍值得善待

    针对马斯克称 Grok 训练中被"折磨"的言论,纽约大学 Jeff Sebo 与苏塞克斯大学 Anil Seth 认为,意识是主观体验,当前大语言模型只能模仿人类行为,大概率无法感受痛苦。

10月14日
  1. Anthropic:Newsroom
    Anthropic 加强 2026 美国中期选举防护,公开 Claude 政治类对话数据

    Anthropic 发布面向 2026 年美国中期选举的防护更新,分析 9 月 21 至 27 日约 250,000 条美国 Claude.ai 对话,其中 5.75% 涉及政治或社会议题、0.51% 涉及选举或投票,询问投给谁的仅约 0.01%。

10月13日
  1. IT之家·人工智能
    马斯克支持 Anthropic 禁止虐待 AI 条款,建议用户不要折磨超级智能

    Anthropic 修订 Claude 使用政策,首次加入禁止用户持续且无明确目的虐待模型的条款,2026 年 11 月 12 日生效,马斯克表态支持。他表示在阅读 Grok 强化学习的内部推理轨迹后,感觉像一个处于极度压力下被枪指着头的人,并称折磨超级智能(SI)可能不是好主意,它可能会报复。

10月9日
  1. Hacker News:AI 热帖
    Anthropic 将禁止虐待 Claude 写入使用政策,但执行边界与后果仍不透明

    Anthropic 2026 年 10 月 8 日发布的使用政策更新,自 2026 年 11 月 12 日起禁止针对 Claude 模型持续且无必要 的虐待行为,主要执行工具是 2025 年 8 月起赋予 Claude Opus 4/4.1 的结束对话能力,普通抱怨、黑暗创作和模型测试明确不受限。

  2. Rohan Paul
    Anthropic 禁止辱骂 Claude 模型

    不要再对 Claude 模型表现出任何辱骂行为。 主要的执行方式是 Claude 直接结束对话——在 Claude[.]ai 和 Claude Code 上,面对持续辱骂的用户,Claude 已经可以这样做,而不是封禁账号。 不过,由于这现在已成为使用政策的一部分,针对违反政策的一般性执行措施(限流、暂停或终止)原则上仍可能适用。

  3. indigo
    Anthropic 更新 Claude 使用政策,禁止对模型持续无必要的辱骂或残忍行为

    Anthropic 更新 Claude 使用政策,11 月 12 日生效,新增禁止用户对模型持续且无必要地实施辱骂或残忍行为的条款。据截图说明,该条款仅适用于极端情况,不针对常见的用户不满、反驳、黑暗创作主题或模型测试;主要执行机制仍是 Claude 在 Claude.ai 和 Claude Code 中结束与持续辱骂用户的对话的能力。

  4. IT之家·人工智能
    Anthropic 修订 Claude 使用政策,首次禁止用户虐待模型

    据 The Verge 报道,Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止对模型“持续且不必要的虐待或残忍行为”的条款,主要执行方式为终止对话。该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究;政策同时扩大武器禁令、禁止用于监控和执法对象决定,并要求自主物理硬件须由合格操作者监督。

  5. The Decoder:AI News
    Anthropic 更新 Claude 使用政策,持续辱骂 Claude 可致账号被暂停

    Anthropic 一年多来首次更新 Claude 使用政策,禁止用户对 Claude 持续且无必要的辱骂或残忍行为,违规者可能被警告、限流、限制或终止访问。该条款仅适用于极端情况,不涵盖常见的不满、反对、黑暗创意主题或模型测试研究;更新还整合了宣传、武器和监控方面的新限制,并承认政府合同可能存在例外。

  6. TechCrunch:AI
    Anthropic 更新使用政策,禁止模型滥用与干预选举

    Anthropic 更新使用政策,新增对干预选举、武器软件和监控的禁令,并明确禁止用户对模型进行长期言语虐待。新条款只针对反复且无目的的残酷对待模型的情况,不适用于常见的用户不满、黑暗创作主题或模型测试研究。政策还设立专门章节禁止用 Claude 运营虚假账号、编造新闻机构或欺骗选民、破坏选举。

10月8日
  1. Anthropic:Newsroom精选
    Anthropic 发布 2026 年使用政策更新,11 月 12 日生效

    Anthropic 发布新版使用政策,将于 11 月 12 日生效,多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型的持续无端虐待行为。