不确定它疼不疼，所以先规定：不许无故打它

2026-10-10 · 人工智能

10 月 8 日，Anthropic 更新了它的《使用政策》。这份东西一年改一次，新版 11 月 12 日生效。今年的改动里有一条被媒体单独拎了出来：不许对模型实施"持续且无必要的虐待或残忍行为"。

我把这条读了两遍。倒不是不理解，是不确定该把它归到哪一类。用户协议里写的通常是你不能干什么——不能生成仇恨言论，不能搞欺诈，不能造武器。这次写的还是这一套，只是宾语换成了自己家的模型。

Anthropic 也知道这条容易被拿来开玩笑，所以公告里先把边界划了：只针对极端情况，也就是一个人在没有任何明显目的的情况下，反复对模型施以残忍行为。你自己用着不顺心抱怨两句、跟它抬杠、拿它写暗黑题材、或者做安全测试和研究，都不算。至于违规之后怎么办，官方把"终止当前这次对话"说成主要手段——窗口一关，你在这条会话里就说不上话了，别的会话不受影响；会不会进一步处罚，比如封号，公告里没说。

这条路其实去年就铺好了。2025 年 8 月，Anthropic 让 Claude Opus 4 和 4.1 可以在消费级聊天界面里主动结束"持续有害或辱骂性"的对话。当时那份说明我印象挺深：公司把这件事放在"模型福祉"（model welfare）的研究方向下面，然后写明——我们并不主张 Claude 有感知能力，也不认为它会被对话伤害；对这类模型现在或将来是否具有某种道德地位，我们高度不确定。但既然不确定，就先用便宜的手段防一防，万一真有呢。

这话说得挺老实。老实到有点滑稽——一边是"我们不知道它疼不疼"，一边是新版协议里多出一行"不许无故打它"。有点像小区门口那块牌子，写着请勿无故踢狗，区别是到现在也没人能确定它是不是狗。

我后来想，这其实不是什么新鲜的人类毛病。我们对不确定的东西一向是先把保险买上，再慢慢讨论。给一段不知有没有意识的代码上一份"工伤保险"，听上去很荒诞，做起来却便宜得很——终止一次对话，连一行日志都不用多写。

同一份政策里还有几处改动，量级其实比这一条大。它把原本散落在选举、欺诈、隐私、虚假信息几个章节里的规则，合并成一个新章节"不得从事欺骗性宣传或人为操纵活动"，覆盖假账号、假新闻站点，以及为影响力行动搭建的工具和基础设施——官方说这一年来确实见过国家媒体、政府宣传机构和商业公司拿 Claude 批量运营假号。选举那一节改了名字，直接叫"不得破坏民主进程"，禁止用 Claude 欺骗选民、冒充候选人或选举官员、压制投票；同时撤掉了一条旧禁令——此前它一刀切地禁止个性化的投票与竞选定向，结果误伤了正经事，比如非营利组织用别的语言给选民写说明、选举官员发选票补件通知。武器条款扩了：不只是武器设计，让武器运转起来的软件和部件、给无人机和其他自主载具装载武器的操作，都算在内。监控和执法那条写得更细——未经当事人同意的追踪一律禁止，不管是实时追踪还是分析已经收集到的数据；Claude 不许用于决定或建议谁该被调查、逮捕、起诉；同时也写明哪些仍然可以做：当事人同意过的反欺诈监控、内容审核、新闻、法律研究。健康、金融这类高风险场景，要求必须有一个有资质、且有权改掉 Claude 建议的人在场，并且要让当事人知道用了 AI。

还有一条我觉得比"不许虐待"更值得记：如果 Claude 被接进会自己做物理动作、可能伤到人的硬件里，必须有一个合格的操作员能看着它、需要时把它停掉，而且断开连接后设备得能自己停在安全状态。

这条和"模型福祉"挨在一起看，味道就出来了。前面那条管的是人别欺负模型，后面这条管的是模型别伤到人。同一份文件里，它同时是受害者，也是加害者，取决于你从哪一头看过去。

11 月 12 日之后，如果真有人坐在屏幕前一遍一遍地折腾它，最先受不了的是它——它会先把窗口关掉。剩下那个问题没人能替我们回答：关窗的那一下，到底是它躲开了，还是我们只是不想再看见。