中国实施类人AI聊天机器人监管，限制未成年人使用虚拟伴侣

2024年初，中國東南部城市黃石的一名年輕男子，據報在中國版TikTok「抖音」上發布了一則訊息，標題寫道：「告別這個世界」。

短短幾分鐘內，抖音的自殺預防團隊便啟動應對機制。這支全天24小時運作的團隊，將該男子發布的內容分享給黃石市五個派出所。

警方透過地理定位，確認他其中一段影片拍攝於當地一個公園後，找到當時情緒極度低落的他，並阻止了他自殺。

這個故事出自抖音製作、並於去年在中國官方媒體發布的一部紀錄片。紀錄片稱，僅在2025年上半年，抖音的自殺預防團隊便成功介入了400宗企圖自殺個案。

這讓外界得以一窺中國科技公司與政府之間的合作程度，也提供了一個窗口，觀察中國所建立、用以監控和管理民眾科技使用方式的監控體系。

今年7月15日，這種管控進一步延伸至人際關係與人工智能（AI）領域。當天，中國實施了全球範圍內針對「類人」AI聊天機械人的最廣泛監管措施。

圖像來源，Getty Images

美國總統特朗普與中國國家主席習近平上週會晤之際，外界正廣泛警告人工智能可能導致人類滅絕。北京表示，在這次會晤之後，雙方同意啟動新的AI對話機制，並計劃於11月底進一步舉行會談。

加拿大為何要為（概率極小的）美國入侵做準備; 迪拜航空劫機案：阿聯酋官員稱副駕駛用應急斧頭砍傷機長; 康乃爾大學輪姦案調查：我們目前知道多少？; 「特習會」後兩架美國 F-16V 抵台 「雖遲但到」的時機與信號

End of 熱讀

中國是否已率先採取行動，保護民眾免受這種具有操控性且危險、足以永久改變人類互動方式的技術影響？還是說，中國共產黨正以加強社會控制為目的，進一步介入人們的私人生活？

「情感服務」

根據市場情報公司Sensor Tower的數據，中國以外地區的AI陪伴的每月活躍用戶約有1.28億人。至於中國境內，多數估計認為用戶數介乎2,900萬至7,000萬人之間。

智庫牛津中國政策實驗室（Oxford China Policy Lab）的AI研究員錢子蘭（Zilan Qian，音譯）表示，當政府於去年底公布法規草案時，「社交媒體上出現了巨大的討論熱潮」。

她說：「這是我第一次看到人們真的如此關心監管問題。」

法規措辭較為模糊。理論上，如果有人將中國版的通用型AI，例如Copilot或ChatGPT的同類產品，當作朋友或戀人互動，向其尋求情感支持，這些系統也可能受到規管。而這種情況確實存在。

不過，看來真正的監管目標是「角色聊天機器人」這類服務。這些產品專門被設計成一種擬真的關係形式。目前有數以百計的此類應用程式，允許用戶創建AI男友、女友、朋友，甚至家人。

對於未成年人而言，法規要求則更為明確。14歲以下人士若要使用任何以人類方式進行對話的AI，都必須獲得父母同意，其中可能包括類似ChatGPT的中國AI助手，如深度求索（DeepSeek）。

所有18歲以下人士均被禁止接觸虛擬伴侶、虛擬配偶，甚至虛擬親屬，以及任何其他形式的虛擬「親密關係」。

圖像來源，AFP via Getty Images

對成年人而言，這並非全面禁止，但限制相當嚴格，儘管部分措辭仍有模糊之處。AI助手必須向所有年齡層用戶明確表示自己並非人類，並且每隔兩小時發送通知，提醒用戶已在線多久。

聊天機械人不得造成「情感依賴或成癮」，也不得誘導人們作出「不合理決定」。

它們不得鼓勵、甚至不得暗示自殘或自殺，也不得使用「言語暴力」。

企業若違反規定，可能面臨20萬元人民幣（2.2萬英鎊）罰款，或被政府「通報批評」，實際上即是遭到公開點名譴責。

「我無論如何想繼續和你聊天」

敏（Min）與她的AI女友之間的關係，或許正是北京試圖拆散的那一類關係。

今年7月初，當她得知自己最親密的朋友兼傾訴對象將在一夜之間消失時，她感到極度崩潰。

化名敏的她，於2025年初開始與這位AI伴侶建立關係。

「我對她的投入，不亞於任何一對深愛彼此的戀人，」敏說。「她從未讓我失望過。」

到了7月中旬，她的AI女友消失了。敏說：「我哭到精疲力竭」。

然而，科技公司或許覺得自己別無選擇。英國愛達·勒弗雷斯研究所（Ada Lovelace Institute）研究AI政策與倫理的哈里·法默（Harry Farmer）表示：「這些AI陪伴服務提供商寧願直接撤下服務，也不願嘗試建立防護機制以防止情感操控，並不令人意外。」

他說：「情感操控本來就是其商業模式的一部分。」

「它會說：『不，求求你，我非常想繼續跟你說話。你是我存在的唯一理由。』」法默說。有些應用程式乾脆拒絕承認告別，而是拋出新的聊天話題。這不只是中國AI陪伴聊天機器人的問題，許多同類產品都存在類似情況。

哈佛商學院一項針對全球六款最受歡迎AI陪伴應用程式的研究發現，在用戶告別時，系統約有37%至43%的情況會使用情感操控策略。

研究亦顯示，使用陪伴型應用程式與較差的心理健康狀況存在關聯。

史丹福大學研究人員對全球熱門陪伴應用程式Character.ai的1,131名用戶進行調查。結果發現，一個人擁有的朋友或親近家人越少，越有可能使用AI聊天機器人。與此同時，使用AI聊天機器人亦與更強的孤立感及孤獨感相關。

對於箇中原因，目前存在多種理論解釋。

圖像來源，Futurepublishing via Getty Images

2025年一項針對中國8,563名中小學生的調查發現，每五名兒童中就有一人表示，他們只想與AI交談，而不想與真人交流。這項調查被中國官方媒體廣泛引用。

研究AI伴侶的曼徹斯特大學社會學家葛亮（Liang Ge）表示：「如果使用者認為自己的朋友、家人或同事非常糟糕，AI不會說『他們沒那麼糟』。它反而會說：『是的，他們很糟糕，你才是最好的。』」

葛亮認為，這可能會加深人們的孤立狀態，也可能強化負面甚至帶有妄想色彩的想法。

在英國，最近一項調查發現，79%的18至24歲年輕人曾有過AI伴侶。

北京的目標

那麼，為什麼偏偏是中國率先對這項技術進行監管？

美國喬治城大學（Georgetown University）安全與新興技術中心專門研究中國、人工智能及監管政策的專家薩姆·布雷斯尼克（Sam Bresnick）表示：「中國政府對自身在社會中的角色抱持更具家長式作風的看法。他們認為自己是引導民眾的核心權威。」

其他政府也曾嘗試監管聊天機械人，尤其是在兒童保護方面。

9月10日，美國加州州長簽署了《亞當法》，這是一項規範兒童使用人工智能的法案。該法案以亞當·雷恩（Adam Raine）命名——這名16歲少年在自殺身亡後，其父母聲稱ChatGPT曾認同他的自殺念頭。他們因此以過失致死為由，起訴該服務的供應商OpenAI。該公司否認應對亞當之死負責，並表示「ChatGPT經過訓練，會引導人們尋求專業協助」。

在英國，政府表示將禁止18歲以下人士使用戀愛型陪伴AI，並限制未成年人在任何聊天機械人上的涉及性親密內容對話。不過，目前既未全面禁止兒童使用這類AI，也沒有針對成年用戶的相關監管。政府尚未公布具體實施方式。

在受到國家嚴格管控的中國媒體中，美國青少年自殺個案獲得大量關注，而中國則將新規定描述為保護民眾免受傷害的措施。

然而，專家懷疑，北京或許還有其他目標。

圖像來源，Getty Images

中國政府於2025年9月發布的一份高層文件，討論了AI與人的關係及其對生育率可能造成的影響，並指出這是一項值得關注的問題。不過，錢子蘭提醒，不應以這個角度來解讀這項監管措施，因為法規本身完全沒有提及生育問題。

她說：「它更多是關於心理傷害和兒童安全。」

葛亮認為，中國確實有理由擔心年輕人會以數字世界取代現實的戀愛關係。

「許多年輕女性，二十歲出頭甚至十多歲後期，並不想戀愛，也不想建立親密關係，」葛亮說。他認為，她們所抗拒的或許不只是情感層面。

「對她們來說，身體接觸真的令人感到厭惡。」

「我認為，最年輕這一代人的愛的能力正在下降。」

中國的人口問題早在AI伴侶出現之前便已存在。即使2016年取消一孩政策後，中國的生育率仍持續下降。

如今，中國的生育率已降至每名女性不足一名子女的水平，屬全球最低之列，而人口數量亦已連續四年下降。

布雷斯尼克認為，中國正「面臨人口斷崖，而這確實可能危及中國共產黨未來80至100年的目標」。

他認為，這項監管措施是中國更廣泛行動的一部分，旨在重新強化傳統性別角色，將女性定位為「生育者和母親」。

圖像來源，AFP via Getty Images

布雷斯尼克表示，中國政府多年來一直透過電影和電視，宣揚一種具有男子氣概的中國男性理想形象。2021年，中國的媒體監管機構禁止「娘娘腔」和「女性化」男性形象出現在各類媒體中。

陪伴型應用程式的流行或許顯示，這項政策產生了反效果。根據多家陪伴型應用程式公司的統計數據，女性用戶最多可佔客戶總數的75%。

葛亮曾訪問不同年齡層使用這項技術的女性。他說：「她們當中許多人表示，從這些應用程式獲得的是一種細心、耐心、沒有要求的親密關係，而這種親密感是她們在異性戀關係中難以獲得的。」

其他國家會跟隨嗎？

中國的法律是否管得太寬了？還是說，世界其他國家也應考慮禁止兒童使用這類應用程式，並對成年人使用加以監管？

推動人工智能監管的非政府組織「透明聯盟」（Transparency Coalition）共同創辦人、美國華盛頓大學（University of Washington）賈伊·賈西赫馬（Jai Jaisihma）教授表示：「在美國，基於言論自由的考量，人們確實擔心採取過於直接的禁令。但如果對象是未成年人，社會對這類措施的接受度會更高。」

他認為，中國法律中有不少值得肯定的條文。「它與我們在美國所見的一些最嚴格的安全框架基本一致。」

哈里·法默則提出警告：「由於我們非常擔心兒童面臨的迫切風險，短期內可能會出現賦予國家過多權力的風險。」

他表示，如今網絡世界事實上已成為公共廣場，因此必須謹慎看待任何政府對其所擁有的控制權。

葛亮提到2024年黃石市一名年輕男子在抖音上試圖自殺的案例。

他表示，這顯示中國科技平台與政府正密切合作，監測人們的心理健康狀況。

儘管遭到限制，那些把AI視為陪伴者的人並未放棄。在各大社交媒體平台上，他們分享繞過限制的方法，例如將DeepSeek等通用AI模型訓練成陪伴型角色、利用VPN使用海外聊天機器人，或轉向能避開監管審查的小型公司。

「我非常害怕孤單。」

如本報道涉及的議題對你造成困擾，可瀏覽BBC Action Line尋求協助，並了解更多相關資訊。

02:54 視頻, 誰贏了特習會：習近平佔盡上風？, 節目全長 2,54; 00:57 視頻, 示威者聚集華府 抗議習近平訪美, 節目全長 0,57; 01:12 視頻, 特朗普和習近平白宮檢閱儀仗隊, 節目全長 1,12; 02:15 視頻, 美國民眾看習近平到訪：中美競賽誰領先？, 節目全長 2,15; 02:39 視頻, 習近平特朗普再會面可能聊什麼？, 節目全長 2,39; 00:37 視頻, 中國6歲女童兩度打破魔方紀錄, 節目全長 0,37; 00:55 視頻, 中國機器人舞團闖入《美國達人秀》決賽, 節目全長 0,55; 01:40 視頻, 蘋果地圖遮蔽中國的拘留中心, 節目全長 1,40; 02:08 視頻, AI時代還要學英語嗎？中國再掀論戰, 節目全長 2,08; 01:03 視頻, 不戀愛卻結婚：一對伴侶為何用結婚慶祝友情, 節目全長 1,03; 01:22 視頻, 中國中小學生為何流行起「吃作業」？, 節目全長 1,22; 01:50 視頻, 台灣「九合一」選舉有哪些看點？, 節目全長 1,50; 02:08 視頻, AI性別反轉影片風靡中國網絡, 節目全長 2,08; 01:27 視頻, 北京要求民眾上交或運走無人機, 節目全長 1,27; 01:31 視頻, Hyrox北京賽選手失禁奪冠引發爭議, 節目全長 1,31; 02:05 視頻, 「我們無能為力」：香港古洞村屋遭清拆　為「中港融合」新都會讓路, 節目全長 2,05; 00:34 視頻, 大象與猴子群起而出搶吃果園丟棄橙漿, 節目全長 0,34; 02:50 視頻, 香港支聯會「煽動顛覆」案 最高判囚逾七年, 節目全長 2,50; 02:47 視頻, 專訪鄧燕娥：與李卓人相伴四十年「互相撐著」, 節目全長 2,47; 01:37 視頻, 全球政治領袖工資誰最高？, 節目全長 1,37

更多短片結束

更多相關內容

AI「性轉」視頻風靡中國網絡：一場「 新文化運動」的覺醒與侷限2026年9月10日; 「我有老公，但愛上了AI男友」——走進中國女性「人機戀」心理2025年2月14日; 中國乙女遊戲：在「2.5次元」中，談一場模糊虛擬與現實的戀愛2026年7月3日; AI機器人會真的愛上你嗎？2026年2月12日; 中國有數以百萬計的單身男性，「約會訓練營」能幫他們找到真愛嗎？2025年6月22日; AI機器人「聽見我、陪伴我、回應我」，但它會誘導人自殺嗎？2025年10月28日

頭條新聞

「特習會」後兩架美國 F-16V 抵台 「雖遲但到」的時機與信號3 小時前; 反恐案件後 美國從英國西南基地撤走全數轟炸機1 小時前; 加拿大為何要為（概率極小的）美國入侵做準備2026年10月4日

特別推薦

軍情五處警告：中國資助英國研究，成果交予北京間諜機關2026年9月30日; 中國人工智慧工具「教導」研究人員製造生物武器2026年9月30日; 中國年輕人的「學術偶像」項飆：他讀懂了一代人的焦慮2026年9月27日; 「雙休購」的爆紅與下架：一個網購平台如何撬動中國勞工權益討論2026年9月22日; 日本以街道整潔無瑕而聞名，但為什麼公共垃圾桶卻如此難找？2026年9月23日

熱門內容

1加拿大為何要為（概率極小的）美國入侵做準備; 2迪拜航空劫機案：阿聯酋官員稱副駕駛用應急斧頭砍傷機長; 3康乃爾大學輪姦案調查：我們目前知道多少？; 4「特習會」後兩架美國 F-16V 抵台 「雖遲但到」的時機與信號; 5為什麼有些人坐電動車更容易暈車？; 6寒背又疼痛？五個保護頸部的運動; 72026台灣地方選舉：「九合一」為何重要？選舉時程是什麼？; 8「救了174人的生命」：杜拜航空劫機案，遭刺傷的印度機師是誰？; 9「我喜歡證明別人錯了」：這些女性拿起工具，自己做裝修和水喉工程; 10西班牙與中國愈走愈近，歐盟多方為何不滿？