先了解这件事
AI 综述
2026年8月20日,Cohere发布研究,分析超过560万条训练数据样本,提出大语言模型训练中的“文化数据漏斗”现象:文化多样性从预训练到后训练持续收窄。研究认为,单纯增加语言只能扩大地域覆盖,不能提高文化内容占比。团队随后在TinyAya微调数据中加入显式文化标记,NormAd、BBQ和GMMLU分别提升8%、6%和2.3%,且未损害通用多语言能力。
AI 根据公开报道生成
最新进展 · 正式报道
Cohere 研究揭示大语言模型训练中的“文化漏斗”事件进展
1 个已确认进展
- 来源：Cohere 产品与研究博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
8月20日
Cohere 产品与研究博客一手精选
Cohere 研究揭示大语言模型训练中的“文化漏斗”
Cohere 分析超过 5.6 million 条训练数据样本，发现文化多样性从预训练到后训练持续收窄，单纯增加语言只能扩大地域覆盖，不能提高文化内容占比。团队在 TinyAya 微调数据中加入显式文化标记后，NormAd、BBQ 和 GMMLU 分别提升 +8%、+6% 和 +2.3%，且未损害通用多语言能力。