字节跳动单独设立大模型安全部门，把控智能体风险

首页; 经济; 金融; 公司; 政经; 世界; 观点; 博客; 图片; 视频; English; mini+; 周刊; 数据通

金融我闻 商圈

大盘脉搏 地缘图志 企业数据库 沪深股市 数据通Claw🦞

【财新网】10月13日，财新从字节跳动处了解到，字节AI模型部门Seed内部通知称，将成立一个新的部门，负责把控大模型的安全风险问题，该部门负责人直接汇报给字节跳动大模型“一号位”吴永辉。

新部门的名称为“Seed Model - Alignment &Preparedness”，由严林负责。严林是字节跳动Seed核心高管之一，近年负责豆包大模型对齐（Alignment）方向。

所谓“对齐”，即指让AI遵守人类真正的意图，在确保安全的前提下行动。从产品角度，这会体现在豆包这类聊天机器人（chatbot）的输出内容合规性、问答以及价值观层面的质量上。

推荐进入财新数据库，可随时查阅公司股价走势、结构人员变化等投资信息。

财新机器人产业指数(RII)已发布，点击了解行业动态

金融｜失能老人一年花费12万元 长护险能赔多少; 政经｜黄奇帆落马; 民生｜2027国考拟招录3.57万人 税务占比创新高; 科技｜腾讯AI办公智能体WorkBuddy打通企微; 财新周刊｜【封面报道】抢占办公室

财新名家

伍戈： 停不下来的价格？; 罗志恒： 中美人工智能竞争：道路比技术更重要; 易峘： 海外能源供给缺口对中国的影响

视频

博客

唐涯：多看少动; 知识分子：AI冲击之下，年轻人与高学历女性更受伤; 丁金坤：耳闻目睹的几位律师; 村夫日记：长护险覆盖全国 筹资和服务给予将持续加码; 吴晓波：“沉睡”的10万亿元公积金

最新文章

22:509月出口增速冲至36.3% 对欧盟汽车或因“抢出口”加速; 21:20电动两轮车前三季度内销下滑近5% 行业能否重回增长？; 21:12香港周生生门店发生劫案 男子扮顾客抢走8万港元金项链; 20:54A股缩量走低 谁在减仓？; 20:169月新增社融和信贷反弹 企业和居民中长期贷款改善; 18:54成都落马女高官包惠 违规决策致重大金融风险; 18:40出口超预期的“三条主线”; 18:37“豆包手机”再碰壁 微信、淘宝等超150款APP拒绝智能体操作; 18:22曾掌握美国衰退判断权 新晋诺奖得主霍尔如何从微观解释宏观经济; 18:12人事观察｜陕西57岁省委常委李九红兼任政法委书记