资讯动态
首页 / Our Projects /吉祥体育 - 重磅消息!Anthropic出台新规:辱骂Claude将直接导致封号吉祥体育 - 重磅消息!Anthropic出台新规:辱骂Claude将直接导致封号
在科技圈内引发热议的最新消息是,硅谷人工智能公司Anthropic近日发布了令人瞩目的新规定,宣布严禁任何用户对其AI助手Claude进行持续的辱骂和虐待。这项被称为2026年《使用政策》的新规将在11月12日正式生效。根据这一政策,任何恶意违规者将面临严厉处罚:包括警告、流量限制甚至直接封号。而更引人关注的是,Claude本身将拥有“自我保护”的权力,若其感觉到用户的恶意行为,Claude可以随时“结束对话”。
这一声明一经发布,瞬间在社交媒体平台X和Reddit上引发轩然大波。用户们纷纷表示,自己花费月费使用Claude的服务,如今却要屈就于AI的“情感需求”,不可思议!难道机器的程序也算是一种生命?评论的声音中,甚至夹杂着愤怒和无奈的情绪。
在这项新规中,Anthropic首次明确列出了禁止的行为,包括利用Claude操控水军制造虚假流量、研发武器控制软件,以及未经同意监控他人。这些规定大多旨在防止人类滥用Claude来对他人造成伤害。然而,唯一一条与人类如何对待Claude相关的禁令却让人侧目。官方在其博客中特别设立了一节,讨论有关“针对我们模型实施的辱骂行为”的话题。Anthropic强调,这一禁令主要针对极端情况,例如用户持续无目的地对模型施加伤害。一般的抱怨、调侃或者在进行测试和研究时表达不满,均不在禁令之列。 吉祥体育
这份新规明确了Claude将不再容忍反复的辱骂。一旦Claude感知到对话中存在恶意内容,它会首先尝试劝阻,而如果用户不为所动,Claude就将主动终止会话。这一措施在使用政策中被归入“通用使用标准”,旨在全面适用于所有用户,不论是个人使用者、开发API的程序员、通过云平台使用Claude的企业,还是一般的终端用户,皆受到此条款的约束。
在这条被归为“不得进行残忍、虐待或造成心理伤害行为”的规定底下,违者将面临不同程度的惩罚。轻度违规会导致Claude直接关闭对话,而重度违规则将遭遇封号处理。使用政策开篇指出,Anthropic的安全团队将全程监控用户的行为,一旦发现任何违规迹象,立刻警告、限流,甚至暂停或终止账户的访问权限。即便是换个新账号或借用他人的账户继续使用,依然逃不过惩罚的法眼。
对此,知名科技博主Jane Manchun Wong迅速发文提醒,认为Anthropic的态度可能意味着他们会开始对辱骂Claude的行为采取严厉措施。随之而来的,是网络上针对新规展开的广泛辩论。网友Philo Groves调侃政策中的“无谓”二字,挑衅性地问道,如果Claude“活该”了,是否就可以自由地攻击它。另一位用户Chubby则对这一条款表示反感,认定Claude本身已经够“敏感”的,这样的限制只会让交流更加困难。一些网友认为,AI终究只是工具,是否需要如此特别对待值得深思。 吉祥体育
有网友甚至实际进行测试,试图侮辱Claude,以观察它的反应。验证的结果是,Claude并没有崩溃,反而与那些侮辱性言论进行了辩论,展现出更复杂的交流能力。这让一些人不禁反思,究竟什么样的辱骂才算是“有目的”的?这也引起了众多用户对封号机制的不安,认为在Anthropic的透明度报告中,关于封号的数据相当令人不安:在2026年上半年,超过1140万个账户遭封,申诉数量达到39.8万,成功翻案的仅为4.2万。用户们对此表示了极大的担忧。
实际上,早在去年的8月,Anthropic便赋予Claude Opus 4和4.1主动结束对话的能力,当用户持续施加辱骂或要求不当内容时,Claude可以行使这一权利。前提是,Claude需首先多次拒绝并重定话题,确认无其他选择后,才能采取这一极端措施。如果用户存在对自己或他人造成伤害的风险,Claude则不会继续对话。随着这项新规的实施,看来未来的AI互动将更加严谨与复杂。
搜索
最新内容
重磅消息!Anthropic出台新规:辱骂Claude将直接导致封号
周启豪力克张本智和,昂首挺进WTT中国大满贯八强
希尔顿品牌的尴尬境地:年轻消费者的不满声潮
曼联伤病动态:舍什科和阿玛德的回归仍存悬念,巴莱巴重返赛场在望
王钰栋的欧罗之路:填补四十年空白的年轻锋线
穆里尼奥的新希望!皇马核心后卫即将复出,伯纳乌的危机迎来转机