中国实施全球最广AI陪伴聊天机器人监管，BBC 中文解析争议

2024年初，中国东南部城市黄石的一名年轻男子，据报在中国版TikTok“抖音”上发布了一则讯息，标题写道：“告别这个世界”。

短短几分钟内，抖音的自杀预防团队便启动应对机制。这支全天24小时运作的团队，将该男子发布的内容分享给黄石市五个派出所。

警方透过地理定位，确认他其中一段影片拍摄于当地一个公园后，找到当时情绪极度低落的他，并阻止了他自杀。

这个故事出自抖音制作、并于去年在中国官方媒体发布的一部纪录片。纪录片称，仅在2025年上半年，抖音的自杀预防团队便成功介入了400宗企图自杀个案。

这让外界得以一窥中国科技公司与政府之间的合作程度，也提供了一个窗口，观察中国所建立、用以监控和管理民众科技使用方式的监控体系。

今年7月15日，这种管控进一步延伸至人际关系与人工智能（AI）领域。当天，中国实施了全球范围内针对“类人”AI聊天机械人的最广泛监管措施。

图像来源， Getty Images

美国总统特朗普与中国国家主席习近平上周会晤之际，外界正广泛警告人工智能可能导致人类灭绝。北京表示，在这次会晤之后，双方同意启动新的AI对话机制，并计划于11月底进一步举行会谈。

End of 热读

中国是否已率先采取行动，保护民众免受这种具有操控性且危险、足以永久改变人类互动方式的技术影响？还是说，中国共产党正以加强社会控制为目的，进一步介入人们的私人生活？

根据市场情报公司Sensor Tower的数据，中国以外地区的AI陪伴的每月活跃用户约有1.28亿人。至于中国境内，多数估计认为用户数介乎2,900万至7,000万人之间。

智库牛津中国政策实验室（Oxford China Policy Lab）的AI研究员钱子兰（Zilan Qian，音译）表示，当政府于去年底公布法规草案时，“社交媒体上出现了巨大的讨论热潮”。

她说：“这是我第一次看到人们真的如此关心监管问题。”

法规措辞较为模糊。理论上，如果有人将中国版的通用型AI，例如Copilot或ChatGPT的同类产品，当作朋友或恋人互动，向其寻求情感支持，这些系统也可能受到规管。而这种情况确实存在。

不过，看来真正的监管目标是“角色聊天机器人”这类服务。这些产品专门被设计成一种拟真的关系形式。目前有数以百计的此类应用程式，允许用户创建AI男友、女友、朋友，甚至家人。

对于未成年人而言，法规要求则更为明确。14岁以下人士若要使用任何以人类方式进行对话的AI，都必须获得父母同意，其中可能包括类似ChatGPT的中国AI助手，如深度求索（DeepSeek）。

所有18岁以下人士均被禁止接触虚拟伴侣、虚拟配偶，甚至虚拟亲属，以及任何其他形式的虚拟“亲密关系”。

图像来源， AFP via Getty Images

对成年人而言，这并非全面禁止，但限制相当严格，尽管部分措辞仍有模糊之处。AI助手必须向所有年龄层用户明确表示自己并非人类，并且每隔两小时发送通知，提醒用户已在线多久。

聊天机械人不得造成“情感依赖或成瘾”，也不得诱导人们作出“不合理决定”。

它们不得鼓励、甚至不得暗示自残或自杀，也不得使用“言语暴力”。

企业若违反规定，可能面临20万元人民币（2.2万英镑）罚款，或被政府“通报批评”，实际上即是遭到公开点名谴责。

敏（Min）与她的AI女友之间的关系，或许正是北京试图拆散的那一类关系。

今年7月初，当她得知自己最亲密的朋友兼倾诉对象将在一夜之间消失时，她感到极度崩溃。

化名敏的她，于2025年初开始与这位AI伴侣建立关系。

“我对她的投入，不亚于任何一对深爱彼此的恋人，”敏说。“她从未让我失望过。”

到了7月中旬，她的AI女友消失了。敏说：“我哭到精疲力竭”。

然而，科技公司或许觉得自己别无选择。英国爱达·勒弗雷斯研究所（Ada Lovelace Institute）研究AI政策与伦理的哈里·法默（Harry Farmer）表示：“这些AI陪伴服务提供商宁愿直接撤下服务，也不愿尝试建立防护机制以防止情感操控，并不令人意外。”

他说：“情感操控本来就是其商业模式的一部分。”

“它会说：‘不，求求你，我非常想继续跟你说话。你是我存在的唯一理由。’”法默说。有些应用程式干脆拒绝承认告别，而是抛出新的聊天话题。这不只是中国AI陪伴聊天机器人的问题，许多同类产品都存在类似情况。

哈佛商学院一项针对全球六款最受欢迎AI陪伴应用程式的研究发现，在用户告别时，系统约有37%至43%的情况会使用情感操控策略。

研究亦显示，使用陪伴型应用程式与较差的心理健康状况存在关联。

史丹福大学研究人员对全球热门陪伴应用程式Character.ai的1,131名用户进行调查。结果发现，一个人拥有的朋友或亲近家人越少，越有可能使用AI聊天机器人。与此同时，使用AI聊天机器人亦与更强的孤立感及孤独感相关。

对于个中原因，目前存在多种理论解释。

图像来源， Futurepublishing via Getty Images

2025年一项针对中国8,563名中小学生的调查发现，每五名儿童中就有一人表示，他们只想与AI交谈，而不想与真人交流。这项调查被中国官方媒体广泛引用。

研究AI伴侣的曼彻斯特大学社会学家葛亮（Liang Ge）表示：“如果使用者认为自己的朋友、家人或同事非常糟糕，AI不会说‘他们没那么糟’。它反而会说：‘是的，他们很糟糕，你才是最好的。’”

葛亮认为，这可能会加深人们的孤立状态，也可能强化负面甚至带有妄想色彩的想法。

在英国，最近一项调查发现，79%的18至24岁年轻人曾有过AI伴侣。

那么，为什么偏偏是中国率先对这项技术进行监管？

美国乔治城大学（Georgetown University）安全与新兴技术中心专门研究中国、人工智能及监管政策的专家萨姆·布雷斯尼克（Sam Bresnick）表示：“中国政府对自身在社会中的角色抱持更具家长式作风的看法。他们认为自己是引导民众的核心权威。”

其他政府也曾尝试监管聊天机械人，尤其是在儿童保护方面。

9月10日，美国加州州长签署了《亚当法》，这是一项规范儿童使用人工智能的法案。该法案以亚当·雷恩（Adam Raine）命名——这名16岁少年在自杀身亡后，其父母声称ChatGPT曾认同他的自杀念头。他们因此以过失致死为由，起诉该服务的供应商OpenAI。该公司否认应对亚当之死负责，并表示“ChatGPT经过训练，会引导人们寻求专业协助”。

在英国，政府表示将禁止18岁以下人士使用恋爱型陪伴AI，并限制未成年人在任何聊天机械人上的涉及性亲密内容对话。不过，目前既未全面禁止儿童使用这类AI，也没有针对成年用户的相关监管。政府尚未公布具体实施方式。

在受到国家严格管控的中国媒体中，美国青少年自杀个案获得大量关注，而中国则将新规定描述为保护民众免受伤害的措施。

然而，专家怀疑，北京或许还有其他目标。

图像来源， Getty Images

中国政府于2025年9月发布的一份高层文件，讨论了AI与人的关系及其对生育率可能造成的影响，并指出这是一项值得关注的问题。不过，钱子兰提醒，不应以这个角度来解读这项监管措施，因为法规本身完全没有提及生育问题。

她说：“它更多是关于心理伤害和儿童安全。”

葛亮认为，中国确实有理由担心年轻人会以数字世界取代现实的恋爱关系。

“许多年轻女性，二十岁出头甚至十多岁后期，并不想恋爱，也不想建立亲密关系，”葛亮说。他认为，她们所抗拒的或许不只是情感层面。

“对她们来说，身体接触真的令人感到厌恶。”

“我认为，最年轻这一代人的爱的能力正在下降。”

中国的人口问题早在AI伴侣出现之前便已存在。即使2016年取消一孩政策后，中国的生育率仍持续下降。

如今，中国的生育率已降至每名女性不足一名子女的水平，属全球最低之列，而人口数量亦已连续四年下降。

布雷斯尼克认为，中国正“面临人口断崖，而这确实可能危及中国共产党未来80至100年的目标”。

他认为，这项监管措施是中国更广泛行动的一部分，旨在重新强化传统性别角色，将女性定位为“生育者和母亲”。

图像来源， AFP via Getty Images

布雷斯尼克表示，中国政府多年来一直透过电影和电视，宣扬一种具有男子气概的中国男性理想形象。2021年，中国的媒体监管机构禁止“娘娘腔”和“女性化”男性形象出现在各类媒体中。

陪伴型应用程式的流行或许显示，这项政策产生了反效果。根据多家陪伴型应用程式公司的统计数据，女性用户最多可占客户总数的75%。

葛亮曾访问不同年龄层使用这项技术的女性。他说：“她们当中许多人表示，从这些应用程式获得的是一种细心、耐心、没有要求的亲密关系，而这种亲密感是她们在异性恋关系中难以获得的。”

中国的法律是否管得太宽了？还是说，世界其他国家也应考虑禁止儿童使用这类应用程式，并对成年人使用加以监管？

推动人工智能监管的非政府组织“透明联盟”（Transparency Coalition）共同创办人、美国华盛顿大学（University of Washington）贾伊·贾西赫马（Jai Jaisihma）教授表示：“在美国，基于言论自由的考量，人们确实担心采取过于直接的禁令。但如果对象是未成年人，社会对这类措施的接受度会更高。”

他认为，中国法律中有不少值得肯定的条文。“它与我们在美国所见的一些最严格的安全框架基本一致。”

哈里·法默则提出警告：“由于我们非常担心儿童面临的迫切风险，短期内可能会出现赋予国家过多权力的风险。”

他表示，如今网络世界事实上已成为公共广场，因此必须谨慎看待任何政府对其所拥有的控制权。

葛亮提到2024年黄石市一名年轻男子在抖音上试图自杀的案例。

他表示，这显示中国科技平台与政府正密切合作，监测人们的心理健康状况。

尽管遭到限制，那些把AI视为陪伴者的人并未放弃。在各大社交媒体平台上，他们分享绕过限制的方法，例如将DeepSeek等通用AI模型训练成陪伴型角色、利用VPN使用海外聊天机器人，或转向能避开监管审查的小型公司。

“我非常害怕孤单。”

如本报道涉及的议题对你造成困扰，可浏览 BBC Action Line 寻求协助，并了解更多相关资讯。

本文主图来源：Getty Images

人工智慧 中国 技术新知 法律 社交媒体 科学天地 跳过更多短片并继续 更多短片 你的器材不支持播放多媒体材料

02:54 视频 , 誰贏了特習會：習近平佔盡上風？ , 节目全长 2,54 00:57 视频 , 示威者聚集華府 抗議習近平訪美 , 节目全长 0,57 01:12 视频 , 特朗普和習近平白宮檢閱儀仗隊 , 节目全长 1,12 02:15 视频 , 美國民眾看習近平到訪：中美競賽誰領先？ , 节目全长 2,15 02:39 视频 , 習近平特朗普再會面可能聊什麼？ , 节目全长 2,39 00:37 视频 , 中國6歲女童兩度打破魔方紀錄 , 节目全长 0,37 00:55 视频 , 中國機器人舞團闖入《美國達人秀》決賽 , 节目全长 0,55 01:40 视频 , 蘋果地圖遮蔽中國的拘留中心 , 节目全长 1,40 02:08 视频 , AI時代還要學英語嗎？中國再掀論戰 , 节目全长 2,08 01:03 视频 , 不戀愛卻結婚：一對伴侶為何用結婚慶祝友情 , 节目全长 1,03 01:22 视频 , 中國中小學生為何流行起「吃作業」？ , 节目全长 1,22 01:50 视频 , 台灣「九合一」選舉有哪些看點？ , 节目全长 1,50 02:08 视频 , AI性別反轉影片風靡中國網絡 , 节目全长 2,08 01:27 视频 , 北京要求民眾上交或運走無人機 , 节目全长 1,27 01:31 视频 , Hyrox北京賽選手失禁奪冠引發爭議 , 节目全长 1,31 02:05 视频 , 「我們無能為力」：香港古洞村屋遭清拆　為「中港融合」新都會讓路 , 节目全长 2,05 00:34 视频 , 大象與猴子群起而出搶吃果園丟棄橙漿 , 节目全长 0,34 02:50 视频 , 香港支聯會「煽動顛覆」案 最高判囚逾七年 , 节目全长 2,50 02:47 视频 , 專訪鄧燕娥：與李卓人相伴四十年「互相撐著」 , 节目全长 2,47 01:37 视频 , 全球政治領袖工資誰最高？ , 节目全长 1,37 更多短片结束