←新闻详情

新京报更新于 10月24日 12:41

月之暗面发布开源模型 Kimi K3.1 Pro,3 万亿参数、100 万词元上下文

月之暗面发布新一代大模型Kimi K3.1 Pro — 新京报

AI 导读

月之暗面于 10 月 24 日凌晨发布新一代开源模型 Kimi K3.1 Pro,为 3 万亿级参数规模,支持 100 万词元上下文窗口,完整模型权重将于 11 月 4 日前发布。该模型增加了强化学习环节的算力投入,在代码编写、3D 创作、金融研究和长程 Agent 等能力上有所提升。安全方面,团队称其网络攻防能力虽较前代提升,但仍落后于已公开发布至少三个月的前沿闭源模型,并明确不发布推进网络攻防能力绝对前沿的开放权重。

推荐理由

精选AI 评分 81

月之暗面开源 3 万亿参数模型并给出权重发布时间,读者可据此了解开源大模型的规模进展与安全取舍。

主题

标签

正文

新京报贝壳财经讯(记者张晓慧)10月24日凌晨,月之暗面发布新一代开源模型Kimi K3.1 Pro。

据了解,该模型为3万亿级参数规模,支持100万词元上下文窗口,为目前全球参数规模最大的开源模型。月之暗面表示,完整模型权重将于11 月4日前发布。

月之暗面介绍,Kimi K3.1 Pro增加了强化学习环节的算力投入,让模型在数百个领域的反复训练中越练越聪明,拥有智能“大脑”的基础上,长出更多“手”,具备更强的专业工具调用能力,在代码编写、3D创作、金融研究和其他长程Agent的能力有所提升,可完成更长时间的多步骤复杂任务。

安全方面,月之暗面介绍,研发团队对Kimi K3.1 Pro漏洞研究能力进行专项评估,并在训练中实施针对性控制。此外,团队从中期训练和强化学习两个阶段识别并移除了网络攻防的相关数据,此后每个训练阶段都将持续采取此类管控。评估显示,Kimi K3.1 Pro的网络攻防能力虽较前代提升,但仍落后于已公开发布至少三个月的前沿闭源模型,未超出攻击者现有能力范围,风险在可控范围之内。

同时,月之暗面研究团队明确了两项开放原则:不发布推进网络攻防能力绝对前沿的开放权重,并逐步提升开放权重中可用的网络攻防能力。团队认为,开放 K3.1 Pro模型权重,将更有利于出于防御目的而需要攻防能力的群体。当能力强大的模型以开放形式提供,并能在用户可控的基础设施上运行时,更多团队将得以审查自身维护的代码。让这一能力逐步扩散,而非集中在少数闭源系统中,最终将使所有软件更加安全。

1 直播丨西藏巴青发生7.0级地震,直击震区最新救援进展 12.8万

2 王志军任湖南省委书记 10.3万

3 震源10公里,视觉调查西藏巴青7.0级地震救援|重建现场 10.1万

4 新一届河南省委领导班子亮相 8.3万

5 低价泡沫消退,商家如何实现更具含金量的增长?美团外卖大会解题 5.3万

月之暗面发布新一代大模型Kimi K3.1 Pro 35分钟前

诸葛宇杰任青海省政府党组书记 41分钟前

热议

“高一开学一个月,我教的每个班都有学生因心困休学”| 快评

藏北高原上的生命驰援——西藏巴青地震24小时救援直击

卫生健康部门开展西藏巴青县地震医疗应急工作

顺义舞彩浅山红叶进入最佳观赏期,将持续至11月中旬

北京发布4项长征主题教学资源,5万名学生将走进军博观展

来源

新京报