Anthropic 更新使用协议，禁止持续虐待 AI 并扩大武器与监控禁令

以下是视频口播的自动转写，可能有错字。

Anthropic 刚刚更新了自己的政策，正式禁止人类对 god 进行持续且不必要的虐待。只要你骂的太过分，它就会主动结束你的对话。这个呢是 anthropic 一年以来首次全面修改使用协议。过去一年呢，anthropic 一直都在认真探索 ai 是否具备意识。

前几天呢，被纽约时报爆料给教皇和一众宗教领袖呢，强灌 cloud 的有意识，只是最终呢被教皇拒绝了。anthropic 的首席执行官就是 dario amodei 也曾公开表示，人类现在根本不知道大模型到底有没有意识。整个 ai 行业对此的意见呢是严重分歧的。

比如说微软就对此呢公开泼冷水，认为大模型不该拥有权利，也完全否认模型意识这个概念。当然了，目前 anthropic 给出的这个使用准则呢，不仅是针对用户虐待 ai 模型的，也收敛了很多的高危的红线。这个呢其实也有巨大的价值。这红线包括哪几个模块呢？

首先是虚假宣传，新规定呢全面禁止利用 cloud 开展欺诈性的商业或政治活动。比如说，严禁隐瞒幕后真实身份，严禁使用虚假账号批量放大特定内容，严禁发布关于候选人或投票流程。成的虚假信息，严禁冒充候选人或选举官员。这呢一方面呢，美国的大选很快又要开始了。

第二呢，就是前段时间 gpt 也找到并封禁过缅北的七大集团使用 gpt 来进行欺诈的行为。所以呢，这部分工作还是很有必要。第二是关于武器开发，anthropic 在后台呢发现已经有很多人尝试利用 cloud 开发武器制导软件和控制软件。官方呢因此呢紧急的扩大了武器禁令的范围，所有的任何的武器的运转的软件和关键组件都在封杀范围之内。

利用 cloud 给无人机以及其他自主载具装配武器的行为也被同时叫停。第三呢是针对个人的追踪的监控，越来越多人呢开始来到搭建监控系统，官方的新规明确要求，无论通过实施手段还是分析地址数据，未经当事人同意追踪任何人一律违规，禁止用 cloud 决定或建议在执法流程中调查谁、逮捕谁、起诉谁。

当然这个禁令呢也留了口子，就是如果客户是特殊的政府机构，只要 anthropic 评估认可，认为合同内的限制和防护措施足够抵消潜在危险，相关的规则就可以适当的修改。这个呢是因为 anthropic 已经和美国的军方签过合作协议。最后一个条款呢，支持实体硬件和机器人。

新规要求当大模型连接到能够采取自主物理动作，并且可能造成人身伤害的硬件时，必须配备一名合格的操作员。该操作员必须能够全程的观察设备的状态，并在发生危险时随时切断运行。以上是 anthropic 的一些关于禁止用户滥用 ai 的一些新规。总体来说，我觉得是有很大的社会价值的。

当然用户是否会遵循这个新规？如果不遵循这个规则，是否会被 anthropic 查到？如果被查到，用户呢是否会改用其他的模型，而达到自己的目标效果？以及如果没有云端的服务器端的监控，用户是否可以自己部署模型，这里面还有巨大的风险空间。关于 ai 是否有意识呢，目前众说纷纭，我们也没法给出定论。

但是关于 ai 滥用呢，只是目前肉眼可见的可能发生的一些社会跟法律风险，这块的监管和对服务器的 ai 管理 ai 的一种机制呢，确实是目前的一个很重要的社会问题。