Thomas Wolf 解释联署批评 Anthropic 声明的两点原因
I'm featured quite visibly on Dan's letter, so it's probably good that I briefly explain why I signed while having friends at Anthropic and a lot of respect for
Thomas Wolf 表示,他虽不完全认同声明措辞,却因 Anthropic 的透明度和权力集中问题决定联署。他认为,Anthropic 日益扩大的影响力需要匹配更高程度的透明与开放;他还听到一些企业家、高管和研究人员因担忧职业发展或模型访问受影响而不敢公开表达关切。
推荐理由
AI 评分 60
Thomas Wolf 从透明度与权力集中两方面解释联署原因,也呈现业内人士担忧职业和模型访问受影响的现实压力。
主题
查看原帖许多人工智能安全组织私下告诉我们,它们赞同这一声明,却觉得如果签署,就可能危及现有关系或未来资金,因此无法署名。Anthropic 几乎控制了本应对其进行问责的整个生态系统,尽管尚未完全控制。
查看原文
Numerous AI safety groups told us privately they agreed with this statement, yet felt unable to sign without risking relationships or future funding. Anthropic has almost, but not entirely, captured the ecosystem meant to hold it accountable.
正文 · AI 翻译
我在 Dan 的信中相当显眼地被提及,所以我想最好还是简短解释一下:尽管我在 Anthropic 有朋友,而且总体上非常尊重他们,我为什么仍然签了名。
我并不完全赞同声明中的措辞。我不会使用“鲁莽”这个词,而且签名时我并不知道这份声明的名称,这不符合我一贯的作风。但我认同其背后的主旨,并出于两个原因决定联署。
首先,Anthropic 目前正朝着成为全球最具影响力的公司迈进(这有充分理由,比如其团队和产品的质量)。这种影响世界的程度,将要求它具备接近主权政府、甚至可能高于主权政府的透明度和开放度,而我担心他们目前的发展轨迹尚不足以达到这一要求。这是“能力越大,责任越大”的一种体现,指的是对所有使用你们产品以及受到产品影响之人的社会责任。
其次,Dan 提到了一些觉得自己无法签名的安全组织。我也从另一群人那里直接听到了同样的情况:一些企业家、高管和研究人员认同这些担忧,却害怕自己的职业发展或模型访问权限会因此受到影响。无论这种恐惧是否有依据,我认为这正是上述问题的首个实例,也是权力集中本身发出的一个令人担忧的早期信号。
我真心希望事实能证明我在这两点上都错了,而且我相信 Anthropic 拥有能够做到这一点的人才。
AI 热点