←新闻详情

Matt Turck更新于 10月26日 00:20

Mistral 研究负责人谈 Le Chonk:西方最大开源模型的追赶内幕

Mistral is SO back: Inside Le Chonk, the West’s Biggest Open Model. My conversation with @PierreStock who runs the research organization at @MistralAI

AI 导读

Matt Turck 与 Mistral 研究负责人 Pierre Stock 对谈,围绕被称为西方最大开源模型的 Le Chonk 展开。Stock 谈到团队在自有数据中心用 3800 块 GPU 训练、Le Chonk 目前仍在训练中,以及 Mistral 从 DeepSeek 借鉴了什么、开源权重与网络安全拒答之间的取舍。节目还提及后续将推出 Mistral Large 5。

推荐理由

AI 评分 69

Mistral 研究负责人从内部复盘追赶过程,涉及 3800 块 GPU 自建训练与开源权重取舍。

主题

标签

正文 · AI 翻译

Mistral 强势回归:深入 Le Chonk——西方最大的开源模型。我与 @MistralAI 研究机构负责人 @PierreStock 的对话

0:00 冷开场 0:59 西方开放权重模型的回归:Beam、Le Chonk、Muse、Nemotron 4:09 美国关停 Anthropic 的模型——“AI 就像电力” 6:07 为什么叫“Le Chonk” 7:56 “Mistral 落后了”:来自内部的回归故事 10:29 在 Mistral 自有数据中心用 3800 块 GPU 训练 13:24 Meta 把最好的模型闭源,Mistral 则开源 Chonk 15:40 Chonk 对比 Beam、Muse Spark Open 和中国模型 18:44 为什么中国实验室仍处于前沿 21:08 Pierre 的故事:FAIR、Yann LeCun、“Mistral 黑帮” 25:14 从压缩网络到万亿参数 27:30 详解混合专家:医院类比 32:25 十万亿参数模型即将到来 35:29 Mistral 从 DeepSeek 借鉴了什么 36:46 一个模型,多种推理模式 39:15 原生多模态:卫星、手册、计算机操作 41:56 数据、合成数据与模型崩溃 46:32 把强化学习当作考试 49:59 效率从何而来 52:18 Le Chonk 目前仍在训练中 53:39 强化学习训练什么:编程、网络、金融、芯片 58:13 部分奖励与循环惩罚 59:58 强化学习教会了什么新东西吗? 1:03:16 沙盒故事:那个 ping 了自己训练器的模型 1:07:44 开放权重与网络拒答 1:12:05 Timestral:在 CPU 上做时间序列 1:14:18 AI 做 AI 研究 1:16:22 即将推出:Mistral Large 5

来源

Matt Turck