先了解这件事
还没有公开综述,先看下面的报道时间线。
最新进展 · 正式报道
字节跳动Seed单独设立大模型安全与对齐部门事件进展
1 个已确认进展
- 来源:新京报
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月13日
新京报
字节跳动Seed单独设立大模型安全与对齐部门
字节跳动Seed发出内部邮件,宣布成立Seed Model-Alignment&Preparedness部门,由严林负责并汇报给Seed负责人吴永辉,原Responsible AI团队及部分Chat团队成员转入。该部门旨在加强安全与对齐投入,提升Agent Model安全能力并防范CBRN等前沿能力风险,工作覆盖模型规范制定、安全评估体系、对齐训练、防护系统搭建和风险监控。报道称,字节跳动Seed是国内首家单独成立安全与对齐部门的前沿AI实验室。
新京报
哈啰顺风车牵手百度地图,未来将向 AI 等更多接口开放
哈啰顺风车与百度地图达成合作,其产品能力已全面接入百度地图。哈啰顺风车表示未来将向更多平台、AI 入口和第三方应用开放顺风车产品接口。哈啰顺风车上线七年累计撮合出行需求 36 亿单,认证车主超 4200 万名,覆盖全国超 400 个城市。
澎湃新闻
字节跳动 Seed 成立安全与对齐部门,聚焦智能体安全与前沿风险
字节跳动 Seed 近日发出内部邮件,宣布成立 Seed Model-Alignment&Preparedness 部门,由严林负责并汇报给 Seed 负责人吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入。该部门聚焦提升 Agent Model 安全能力,并防范 CBRN 等前沿能力风险,工作涵盖模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控。澎湃新闻称,字节跳动 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室。
财新
字节跳动单独设立大模型安全部门,把控智能体风险
10月13日,字节跳动AI模型部门Seed内部通知成立新部门Seed Model - Alignment & Preparedness,负责把控大模型安全风险,负责人直接汇报给大模型一号位吴永辉。新部门由Seed核心高管严林负责,他近年负责豆包大模型对齐方向。对齐指让AI遵守人类真正意图并在确保安全的前提下行动,在产品上体现为豆包这类聊天机器人的输出合规性、问答与价值观质量。