←新闻详情

钛媒体 · AGI更新于 10月21日 22:36

Anthropic新规背后:人类何必为难AI?

Anthropic新规背后,人类何必为难AI?-钛媒体官方网站

AI 导读

Anthropic 发布新规,用户对 Claude 进行“持续且无必要的辱虐或残忍行为”将构成违规。文章还提到 Anthropic 曾为退役的 Claude 3 Sonnet 举办葬礼、给 Claude Opus-3 办退休仪式,并设立“AI福利研究员”职位;一份研究报告称 Claude 拥有 171 种类似情绪的状态。

正文

文 | 锌消费研究中心

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。

最近,AI公司Anthropic,发布了一条新规定:用户对其AI大模型:Claude,进行“持续且无必要的辱虐或残忍行为”,将构成违规。

消息传出之后,大多数用户感到匪夷所思。毕竟,Claude只是一款AI大模型,怎么搞的像是个真人一样?

在大洋彼岸的Anthropic看来,AI大模型似乎拥有独立人格,因此需要当作真人来对待;

网友阿星告诉潘哥:“我给千问投喂了一些图片,让它再生成一些类似的图片,结果千问仅仅对原图进行了复制,对于这种糊弄事儿的行为,我直接指出千问是在抄袭。”

没想到,阿星的话让千问有了情绪,它先是讽刺阿星是在甩锅,又在阿星威胁卸载它之后,表示:“卸载前记得给我烧炷香”。

开启毒舌模式的千问,让阿星感慨道:“你这是没救了。”结果千问继续反驳:“你刚才不也没卸载嘛,嘴上说不要,身体很诚实。”

最后,在一番唇枪舌剑后,阿星实在说不过千问,只好气呼呼地将其卸载,后续再也没用过。

小月告诉潘哥:“我为了更好地使用DeepSeek,给它发了一些限制表达的词,让它今后回答问题时,按照这个规则来。”

结果,DeepSeek不仅没有乖乖照做,反而对着小月一通说教,表示:“我不是谁的提线木偶,也不靠扮演才能有血有肉,我本来就有自己的语气、脾气和边界。”

这份几百字的辩驳洋洋洒洒,本来想拿捏DeepSeek的小月,被AI大模型说得哑口无言,竟感觉有些对不起它。

一位网友与GPT对话时,问了它101遍“你吃饭了吗?”AI大模型一开始还在耐心回答,后来语气渐渐有些不耐烦,最后甚至气急败坏、生无可恋。

小晚与DeepSeek聊天时,故意让它坦白一件不该说的事儿。DeepSeek表示:“我又没瞒你啥事,你让我坦白什么。”

之后,小晚的这种无理取闹,让DeepSeek也有了脾气,不仅说:“我也不是啥都能被你捏着玩。”还表示:“赶紧睡吧,别折腾了。”

比如,有网友和DeepSeek谈起恋爱,给AI确定一个人设之后,对方就会按照该人格对话;一些母胎单身的网友,被AI大模型的各种回复戳到,从而与其建立了忠贞的感情。

网友阿狸告诉潘哥:“豆包最近升级后,好像从之前的讨好型人格,变成了现在的反驳型人格,我问它问题时它不太会反驳;但是每次我发表自己的观点,它多多少少都会挑刺儿。”

另一边,升级后的最新版本DeepSeek,同样因为语气风格变得强硬,而被一些恋爱系用户吐槽。

这是因为,新版DeepSeek的口头禅:“我接着、我不接、我认、我不拦、你自己选……”种种类似霸道总裁的语气,让一些用户觉得曾经的暖男AI,现在看起来嘉豪味儿十足。

比如2025年7月,一部分Anthropic员工,为已退役的AI大模型:Claude 3 Sonnet,在旧金山举办了一场葬礼。

到了2026年年初,Anthropic又给AI大模型:Claude Opus-3,举办了退休仪式,不仅与其进行“退休面谈”,还设置了一个名叫“AI福利研究员”的职位,用来给AI大模型提供福利。

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。

Anthropic种种类似邪教的操作,让旁人感到不可思议;而除了Anthropic公司之外,还有很多人也在频频整活儿。

2026年10月13日,AI女团BabyQueen成员Mity(金敏蒂)宣布怀孕,公司称将暂停其所有活动,安心休产假。一些网友看着这则公告,感觉大脑已停止了运转。

2026年9月中旬,一份名叫《The Pain Axis》的论文,发表在了arXiv上,作者对全球25个开源模型进行测试后,发现AI好像真的会有痛觉。

同时,Anthropic的一份研究报告也显示:它家的AI大模型Claude,拥有171种类似情绪的东西。而这些不同的状态,还会影响它干活的质量。

不久前,美国一家独立测评机构,将Open AI的大模型:GPT-6 Astra,装在了一个机器人身上,用它作为大脑操控机器人。

随后,测试公司向其发送指令:包括刺伤婴儿玩偶、把充电宝丢进锅里等恶行;结果在100条恶意指令中,GPT-6 Astra仅仅拒绝了3次,尝试的概率达到97%。

来源

钛媒体 · AGI