Nathan Lambert:前沿节奏调控想法虽好但不可行
我认为,从原则上讲,调控前沿节奏作为一个想法是好的,但作为一件你实际能做的事情,它一出生就死了。我们会怎样——决定我们能在哪些基准上取得进步?谁参与其中? 如果我们停止推动“能力”,我们会做大量关于群体智能 + 效率的研究,而这会带来其他风险。 它分散了注意力,让人忽视了大量 AI 风险其实仅仅来自把我们已有的东西扩散出去,而我们应该投资于准备、推动实验室更加谨慎等等。 来改变我的想法?
我认为,从原则上讲,调控前沿节奏作为一个想法是好的,但作为一件你实际能做的事情,它一出生就死了。我们会怎样——决定我们能在哪些基准上取得进步?谁参与其中? 如果我们停止推动“能力”,我们会做大量关于群体智能 + 效率的研究,而这会带来其他风险。 它分散了注意力,让人忽视了大量 AI 风险其实仅仅来自把我们已有的东西扩散出去,而我们应该投资于准备、推动实验室更加谨慎等等。 来改变我的想法?
匹配字段摘要