MIT 访谈:AI 如何模仿“混乱”的人类心智
MIT 历史学系助理教授 Benjamin Lindquist 在《Past and Present》新论文中指出,20 世纪中期工程师为模仿人类创造力,刻意在算法中注入随机性,这也是 AI 幻觉的早期源头。他称早期研究者看重神经网络正因其偶尔给出偏离预期的答案,而如今 OpenAI、Anthropic 等出于法律与商业原因压制了这种“怪异”,创造力与可预测性之间存在不可避免的权衡。
更有用,神经网络需要大量数据和计算能力。直到互联网出现,大量数据变得可用、计算能力开始提升,这些条件才真正具备。大约在2012年,神经网络开始超越并领先于一种统计形式的机器学习,并从那时起持续发展。 问:通过研究AI的历史,我们可以学到哪些有助于其发展的经验教训? 答:我认为这里有一个警示性的教训。这些早期工程师的想法和经历告诉我们,我们可以努力消除幻觉——我们可以努力让AI以某种方式表现,从而不产生意外或不想要的答案——但这会带来其他后果。这些历史人物确实触及了某些关键。AI能够给出的令人惊讶和富有创造性的结论,与错误或幻觉之间存在联系。当我们构建系统使其以某种方式运行时,就会存在权衡。也许不可能完全处于光谱的任一端,但当我们稳健地朝着一个目标努力时,往往会无意中牺牲其他东西。 论文:《非理性的计算机:人工智能史上的随机性与非理性》 查看本文提及研究的开放获取版本。 相关链接 本杰明·林德奎斯特 信息与决策系统实验室 历史学部 工程学院 麻省理工学院施瓦茨曼计算学院 计算机科学与技术 人工智能 机器学习 电气工程与计算机科学(EECS) 科学史 工程学院 麻省理工学院施瓦茨曼计算学院
匹配字段正文
