跳到正文
Anthropic:Newsroom·· 1 天前精选AI 评分61

Anthropic 发布 2026 年使用政策更新,11 月 12 日生效

2026 Usage Policy update

AI 导读

Anthropic 发布新版使用政策,将于 11 月 12 日生效,多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型的持续无端虐待行为。

推荐理由

官方逐条说明新版使用政策的实际变化,读者可以据此了解 Claude 在选举、武器、监控等场景的边界如何调整。

正文 · AI 翻译

每年,Anthropic 都会根据我们模型不断演进的能力以及从客户那里收到的反馈,更新其使用政策。我们今天发布新版本的政策。在这篇文章中,我们总结了所做的变更。

最新版本中的大部分更新旨在澄清现有规则。自上次更新以来的一年里,Claude 承担了更长时间、更独立的工作。本次更新提供了新的示例,说明我们的规则如何适用于 Claude 的新能力。它借鉴了我们在过去一年中观察到的影响力行动、武器开发和监控领域的新滥用模式(正如我们在最新威胁情报报告中所记录的那样)。我们还更新了规则,以澄清我们对健康和金融等领域高风险用例的要求,增加了当 Claude 被用于自主采取物理行动时的控制措施,并应对针对我们模型的滥用行为。

更新后的政策于 11 月 12 日生效。完整的使用政策和支持地区政策可在各自的页面上找到。

关于欺骗性活动的新章节

正如我们上个月所写,我们看到了国家媒体机构、政府宣传办公室和商业公司利用 Claude 运营虚假账号网络和捏造新闻网站的例子。我们的政策已经禁止此类活动,但相关限制分散在我们的选举、欺诈、隐私和虚假信息章节中。

我们将这些规则整合为一个新章节,标题为“不得参与欺骗性活动或人为活动”,该章节适用于任何形式的欺骗性活动(无论是政治还是商业)。它涵盖了掩盖信息幕后推手或通过虚假账号或帖子放大内容的努力,以及构建用于运营影响力行动的工具和基础设施。

重新聚焦我们的选举章节

我们在每个版本的使用政策中都对政治内容限制进行了完善,以确保我们的模型能够在民主进程中得到恰当使用。在此版本中,我们进一步细化了选举章节,特别聚焦于禁止使用 Claude 欺骗选民或破坏选举(例如,散布关于候选人或不实投票信息的虚假信息、冒充候选人或选举官员,或试图压制投票率)。我们将其更名为“不得破坏民主进程”,以反映这一范围。

出于类似原因,我们还取消了针对个性化投票和竞选定向的全面禁令。该禁令涵盖了合法的公民工作,例如非营利组织使用 Claude 为其他语言的选民撰写信息,或选举官员发送选票补救通知。促使最初规则出台的行为(如依赖欺骗或滥用选民个人数据的选民定向)仍根据我们的欺骗性活动、监控和隐私章节予以禁止。

澄清我们的武器禁令

我们的使用政策一直禁止使用 Claude 开发武器。最近,我们看到有人试图利用我们的模型为武器构建制导与控制软件。更新后的条款明确规定,我们的禁令涵盖使武器得以运作的软件和组件,以及诸如为无人机和其他自主载具配备武器等行为。这些变更反映了我们此前一直执行原有政策的方式。

关于监控与执法的更精确表述

我们九月的威胁情报报告记录了越来越多地使用 AI 构建用于识别和追踪政治异见人士的监控系统的情况。我们重写了监控与刑事司法部分,以更精确地说明我们禁止的内容。例如,未经他人同意对其进行追踪是被禁止的,无论是实时进行还是通过分析此前收集的数据进行。在执法或刑事司法程序中,Claude 不得被用于决定或建议调查、逮捕或起诉谁。我们还禁止将 Claude 用于构建或改进专为监控设计的工具。

与之前对武器禁令的更新一样,此次更新并不反映我们在实践中执行内容的改变:它只是旨在让我们的政策更加明确。新条款还阐明了哪些用途仍然被允许,包括人们已同意的追踪(如欺诈监测)、内容审核、新闻工作和法律研究。

对高风险用例的更清晰要求

当我们的产品被用于可能影响某人健康、法律权利、财务、生计或获取基本服务的方式时,我们要求必须有合格的“人在回路”(即有权审查并在必要时更改 Claude 建议的人),并且必须告知受影响的个人使用了 AI。

这些要求并未随我们使用政策的更新版本而改变。然而,用户经常询问我们某个特定用例是否有这些要求,因此我们重写了高风险用例要求部分,以更直接地回答这一问题。它现在列出了哪些类型的建议被涵盖,哪些不被涵盖。

继我们的模型硬件标准发布之后,该部分还增加了对我们模型使用的要求:当模型连接到会采取自主物理行动且可能造成伤害的硬件时,必须有合格的操作员能够观察设备并在需要时将其停止;如果 Claude 断开连接,设备还必须能够保持安全状态。

应对针对我们模型的滥用行为

我们新增了一项禁令,禁止对我们的模型持续且无必要地实施滥用或残忍行为。该政策更新仅适用于极端情况,即用户反复以残忍方式对待我们的模型且没有任何可辨别的目的。它不适用于常见的用户挫败感、反对意见、黑暗创作主题或模型测试与研究。

这一新增内容与我们已采取的一项措施一致,即允许 Claude 模型在 Claude.ai 和 Claude Code 上终止与持续滥用用户的罕见对话。此类滥用是本次更新的主要关注点;Claude 终止这些交互的能力仍将是主要的执行机制。

澄清我们的受支持地区政策

去年,我们更新了《支持地区政策》,限制由总部位于我们未支持地区的实体多数持股的公司访问 Claude。我们更新了支持地区页面,以阐明我们如何执行该政策。我们的政策禁止身处未支持地区的个人、在未支持地区注册或设立总部的实体,以及由这些地区的人员或实体多数持股或控制的实体使用 Claude。

展望未来

随着 Claude 的能力和风险不断变化,我们将持续更新《使用政策》。与本次及此前的更新一样,我们将广泛征求 Anthropic 内部以及政策制定者、领域专家、公民社会和我们产品用户的意见。

相关内容

在致力于推动美国科学发现的基础上

Anthropic 将在三年内投入 1.5 亿美元支持 Genesis Mission,这是一项旨在通过 AI 加速科学与技术发现的联邦计划。

阅读更多

扩展网络验证计划

我们正在推出全新扩展版的网络验证计划,为符合条件的安全专业人员提供先进的网络能力并减少拦截分类器。

阅读更多

Anthropic 投资 1 亿美元培训 10,000 名工程师,以弥合企业 AI 人才缺口

Anthropic 将向 Claude Frontier Academy 投资 1 亿美元,到 2027 年底培训 10,000 名 Frontier 部署工程师,来自 Accenture、Bain、CBA、Deloitte、McKinsey、Morgan Stanley 和 Novo Nordisk 的首批学员已经开课。

阅读更多

来源:Anthropic:Newsroom · anthropic.com