←事件详情

热点事件

Lilian Weng 撰文讨论语言模型毒性问题

1 篇正式报道1 条事件动态更新于 3月21日 08:00

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

如何降低语言模型的毒性 | Lil'Log

事件进展

1 个已确认进展

  1. Lilian Weng 撰文讨论语言模型毒性问题

    来源:Lilian Weng:Lil'Log

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

3月21日

  1. Lilian Weng:Lil'Log

    如何降低语言模型的毒性 | Lil'Log

    Lil'Log 发文探讨大语言模型的毒性问题,指出预训练模型从互联网数据中不可避免地习得毒性行为与偏见,安全部署需对生成过程施加强控制。文章梳理了 Perspective API、Kurita 等对毒性内容的定义,并介绍了 Zampieri 等提出的三级攻击性语言分类体系及 OLID 数据集。数据标注可通过专家编码、众包、专业审核员和合成数据四种方式收集。

关联事件

  1. 相关事件Jan Leike 转述盲测中3/4团队识别出隐藏失准模型
  2. 相关事件Jan Leike 称新对齐论文发现编码作弊可致广泛失准
  3. 相关事件Dwarkesh Patel 提出持续学习时代的八项预测
  4. 相关事件TC260发布AI安全治理框架3.0