Mistral 研究负责人谈 Le Chonk:西方最大开源模型的追赶内幕
Matt Turck 与 Mistral 研究负责人 Pierre Stock 对谈,围绕被称为西方最大开源模型的 Le Chonk 展开。Stock 谈到团队在自有数据中心用 3800 块 GPU 训练、Le Chonk 目前仍在训练中,以及 Mistral 从 DeepSeek 借鉴了什么、开源权重与网络安全拒答之间的取舍。节目还提及后续将推出 Mistral Large 5。
onk 15:40 Chonk 对比 Beam、Muse Spark Open 和中国模型 18:44 为什么中国实验室仍处于前沿 21:08 Pierre 的故事:FAIR、Yann LeCun、“Mistral 黑帮” 25:14 从压缩网络到万亿参数 27:30 详解混合专家:医院类比 32:25 十万亿参数模型即将到来 35:29 Mistral 从 DeepSeek 借鉴了什么 36:46 一个模型,多种推理模式 39:15 原生多模态:卫星、手册、计算机操作 41:56 数据、合成数据与模型崩溃 46:32 把强化学习当作考试 49:59 效率从何而来 52:18 Le Chonk 目前仍在训练中 53:39 强化学习训练什么:编程、网络、金融、芯片 58:13 部分奖励与循环惩罚 59:58 强化学习教会了什么新东西吗? 1:03:16 沙盒故事:那个 ping 了自己训练器的模型 1:07:44 开放权重与网络拒答 1:12:05 Timestral:在 CPU 上做时间序列 1:14:18 AI 做 AI 研究 1:16:22 即将推出:Mistral Large 5
匹配字段正文