Anthropic 新政策首次禁止虐待模型
先了解这件事
Anthropic 发布新版使用政策,将于 11 月 12 日生效,多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型的持续无端虐待行为。
摘自 Anthropic:Newsroom
事件进展
3 个进展
- 10月14日 00:00 · 1 篇报道Anthropic发布2026美国中期选举安全保障更新Anthropic:Newsroom:Anthropic 加强 2026 美国中期选举防护,公开 Claude 政治类对话数据
- 10月13日 10:38 · 1 篇报道马斯克表态支持 Anthropic AI 反虐待政策IT之家·人工智能:马斯克支持 Anthropic 禁止虐待 AI 条款,建议用户不要折磨超级智能
- 10月8日 00:00 · 7 篇报道Anthropic更新使用政策Anthropic:Newsroom:Anthropic 发布 2026 年使用政策更新,11 月 12 日生效
报道时间线
沿着报道,了解事件的不同侧面。
- IT之家·人工智能学者回应马斯克:当前 AI 大概率没有意识,但仍值得善待
针对马斯克称 Grok 训练中被"折磨"的言论,纽约大学 Jeff Sebo 与苏塞克斯大学 Anil Seth 认为,意识是主观体验,当前大语言模型只能模仿人类行为,大概率无法感受痛苦。
- Anthropic:NewsroomAnthropic 加强 2026 美国中期选举防护,公开 Claude 政治类对话数据
Anthropic 发布面向 2026 年美国中期选举的防护更新,分析 9 月 21 至 27 日约 250,000 条美国 Claude.ai 对话,其中 5.75% 涉及政治或社会议题、0.51% 涉及选举或投票,询问投给谁的仅约 0.01%。
- IT之家·人工智能马斯克支持 Anthropic 禁止虐待 AI 条款,建议用户不要折磨超级智能
Anthropic 修订 Claude 使用政策,首次加入禁止用户持续且无明确目的虐待模型的条款,2026 年 11 月 12 日生效,马斯克表态支持。他表示在阅读 Grok 强化学习的内部推理轨迹后,感觉像一个处于极度压力下被枪指着头的人,并称折磨超级智能(SI)可能不是好主意,它可能会报复。
- Hacker News:AI 热帖Anthropic 将禁止虐待 Claude 写入使用政策,但执行边界与后果仍不透明
Anthropic 2026 年 10 月 8 日发布的使用政策更新,自 2026 年 11 月 12 日起禁止针对 Claude 模型持续且无必要 的虐待行为,主要执行工具是 2025 年 8 月起赋予 Claude Opus 4/4.1 的结束对话能力,普通抱怨、黑暗创作和模型测试明确不受限。
- Rohan PaulAnthropic 禁止辱骂 Claude 模型
不要再对 Claude 模型表现出任何辱骂行为。 主要的执行方式是 Claude 直接结束对话——在 Claude[.]ai 和 Claude Code 上,面对持续辱骂的用户,Claude 已经可以这样做,而不是封禁账号。 不过,由于这现在已成为使用政策的一部分,针对违反政策的一般性执行措施(限流、暂停或终止)原则上仍可能适用。
- indigoAnthropic 更新 Claude 使用政策,禁止对模型持续无必要的辱骂或残忍行为
Anthropic 更新 Claude 使用政策,11 月 12 日生效,新增禁止用户对模型持续且无必要地实施辱骂或残忍行为的条款。据截图说明,该条款仅适用于极端情况,不针对常见的用户不满、反驳、黑暗创作主题或模型测试;主要执行机制仍是 Claude 在 Claude.ai 和 Claude Code 中结束与持续辱骂用户的对话的能力。
- IT之家·人工智能Anthropic 修订 Claude 使用政策,首次禁止用户虐待模型
据 The Verge 报道,Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止对模型“持续且不必要的虐待或残忍行为”的条款,主要执行方式为终止对话。该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究;政策同时扩大武器禁令、禁止用于监控和执法对象决定,并要求自主物理硬件须由合格操作者监督。
- The Decoder:AI NewsAnthropic 更新 Claude 使用政策,持续辱骂 Claude 可致账号被暂停
Anthropic 一年多来首次更新 Claude 使用政策,禁止用户对 Claude 持续且无必要的辱骂或残忍行为,违规者可能被警告、限流、限制或终止访问。该条款仅适用于极端情况,不涵盖常见的不满、反对、黑暗创意主题或模型测试研究;更新还整合了宣传、武器和监控方面的新限制,并承认政府合同可能存在例外。
- TechCrunch:AIAnthropic 更新使用政策,禁止模型滥用与干预选举
Anthropic 更新使用政策,新增对干预选举、武器软件和监控的禁令,并明确禁止用户对模型进行长期言语虐待。新条款只针对反复且无目的的残酷对待模型的情况,不适用于常见的用户不满、黑暗创作主题或模型测试研究。政策还设立专门章节禁止用 Claude 运营虚假账号、编造新闻机构或欺骗选民、破坏选举。
- Anthropic:Newsroom精选Anthropic 发布 2026 年使用政策更新,11 月 12 日生效
Anthropic 发布新版使用政策,将于 11 月 12 日生效,多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型的持续无端虐待行为。