←事件详情

热点事件

字节 Seed 成立大模型安全与对齐部门

5 篇正式报道5 条事件动态更新于 10月14日 23:48

先了解这件事

AI 综述

字节跳动 Seed 发出内部邮件,宣布成立 Seed Model-Alignment Preparedness 部门,由严林负责并汇报给 Seed 负责人吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入新部门。该部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控投入,目标是提升 Agent Model 安全能力并防范 CBRN 等前沿能力风险。雷锋网称,此前国内大模型团队的安全与对齐工作多纳入公司整体安全合规体系,Seed 是国内首家单独成立该部门的前沿 AI 实验室。IT之家·人工智能亦报道了同一内部邮件内容。目前尚无该部门成立后的后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

雷峰早报:字节 Seed 单独设立大模型安全与对齐部门,DeepSeek 融资翻倍至 1000 亿

事件进展

1 个已确认进展

  1. 字节 Seed 成立大模型安全与对齐部门

    来源:雷锋网

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月14日

  1. 雷锋网

    雷峰早报:字节 Seed 单独设立大模型安全与对齐部门,DeepSeek 融资翻倍至 1000 亿

    字节跳动 Seed 成立 "Seed Model-Alignment&Preparedness" 部门,由严林负责、汇报给吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入,聚焦 Agent Model 安全与 CBRN 等前沿能力风险。DeepSeek 第二轮融资拟从 500 亿元增至约 1000 亿元,投前估值约 5000 亿元,新进投资方包括石溪资本、中芯聚源、CPE 源峰、君联资本、吉利等。

10月13日

  1. IT之家·人工智能

    字节 Seed 设立大模型安全与对齐部门

    字节跳动 Seed 发出内部邮件,宣布成立 Seed Model-Alignment Preparedness 部门,由严林负责并汇报给 Seed 负责人吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入新部门。该部门旨在加强安全与对齐投入,提升 Agent Model 安全能力并防范 CBRN 等前沿能力风险,报道称字节 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室。

  2. 澎湃新闻

    字节跳动 Seed 成立安全与对齐部门,聚焦智能体安全与前沿风险

    字节跳动 Seed 近日发出内部邮件,宣布成立 Seed Model-Alignment&Preparedness 部门,由严林负责并汇报给 Seed 负责人吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入。该部门聚焦提升 Agent Model 安全能力,并防范 CBRN 等前沿能力风险,工作涵盖模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控。澎湃新闻称,字节跳动 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室。

  3. 雷锋网

    字节跳动 Seed 单独设立大模型安全与对齐部门

    字节跳动 Seed 近日发出内部邮件,宣布成立 Seed Model-Alignment&Preparedness 部门,由严林负责并汇报给 Seed 负责人吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入新部门。该部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控投入,目标是提升 Agent Model 安全能力并防范 CBRN 等前沿能力风险。雷峰网称,此前国内大模型团队的安全与对齐工作多纳入公司整体安全合规体系,Seed 是国内首家单独成立该部门的前沿 AI 实验室。

  4. 财新

    字节跳动单独设立大模型安全部门,把控智能体风险

    10月13日,字节跳动AI模型部门Seed内部通知成立新部门Seed Model - Alignment & Preparedness,负责把控大模型安全风险,负责人直接汇报给大模型一号位吴永辉。新部门由Seed核心高管严林负责,他近年负责豆包大模型对齐方向。对齐指让AI遵守人类真正意图并在确保安全的前提下行动,在产品上体现为豆包这类聊天机器人的输出合规性、问答与价值观质量。

关联事件

  1. 相关事件Anthropic在上市前向投资者推介并披露营收增长
  2. 相关事件Anthropic公开提交S-1注册声明拟在纳斯达克IPO
  3. 相关事件Meta 推出 Muse Wonder 与 Muse Wonder Full 模型
  4. 相关事件Anthropic发布Claude Opus 5.5