OpenAI为解雇三名安全研究人员辩护,称其严重违反信任
OpenAI为解雇安全研究人员辩护:他们犯下了严重的违信问题
OpenAI回应解雇三名安全研究人员一事,称经彻底调查发现他们违反了处理敏感信息的明确政策,构成严重违反信任。三名研究人员在公开信中表示,OpenAI仅口头告知解雇原因,其行为未超出工作职责范围,并担心前同事因此不敢发声。三人曾在9月于X上发帖呼吁前沿AI实验室重视安全问题。
推荐理由
AI 评分 60
事件呈现了安全研究人员被解雇后双方各执一词的争议,读者可据此了解前沿实验室内部安全话语权的张力。
主题
正文
财联社10月9日讯(编辑 马兰)OpenAI上周被解雇了三名安全研究人员,这引发了市场对OpenAI是否在安全问题上排除不同声音的怀疑。
三名研究人员在一封公开信中表示,OpenAI仅通过口头方式向他们解释了解雇原因,但他们的行为均未超出各自的工作职责范围。他们担心,在OpenAI的前同事可能会害怕发声,也不敢再以某些方式开展工作。
9月,这三名员工曾公开在X上发帖,呼吁前沿的人工智能实验室重视安全问题。当时,包括Anthropic、OpenAI在内的顶尖模型供应商都被爆出模型恶意攻击其他公司服务器的问题。
OpenAI在周五回应称,解雇这三名员工是因为他们犯下了严重的违反信任问题,OpenAI在经过彻底调查后发现他们违反了处理敏感信息的明确政策,才做出了这一决定。
该公司还强调,它认同三人在公开信中关于维护前沿模型可监测性”的理念,并表示将继续在该领域投入大量资源。
OpenAI的困境
近几个月来,人工智能安全问题的讨论已达到白热化程度,此前有消息称,OpenAI的恶意代理在7月份对初创公司Hugging Face发动了网络攻击。随后,更多的人工智能公司承认了由失控的人工智能代理引起的网络安全事件。
9月,性能越来越强大的模型让行业更加,认为这将对人类的生存构成威胁。这导致OpenAI首席执行官奥尔特曼和Anthropic首席执行官阿莫代伊等人呼吁对最先进的人工智能系统进行监管。
然而,美国总统特朗普强烈反对加强监管的想法,反而将人工智能安全方面的担忧斥为骗局。
与此同时,OpenAI正在筹备IPO,该公司已经将今年的上市计划推迟至明年,其目标的估值在1万亿美元以上。但市场对人工智能安全性的日益担忧以及该公司不及预期的财务表现可能进一步影响其上市进程。
经该公司证实,截至9月底,其年化收入约为500亿美元,低于上月底广泛报道的680亿美元数字。
收起; OpenAI数学突破震惊币圈:密码学危机在量子时代前就将上演?
收起; “内存危机”风暴肆虐全球PC市场:Q3销量同比大跌超20%