←新闻详情

MIT News · Artificial Intelligence更新于 10月27日 19:45

MIT 副教授 Cathy Wu 用强化学习攻克交通系统难题

Computational tools for society’s most complex challenges | MIT News | Massachusetts Institute of Technology

AI 导读

MIT 土木与环境工程系及 IDSS 副教授 Cathy Wu 的研究聚焦用机器学习和强化学习(RL)改进交通等复杂系统。她与团队发现 RL 对问题高度敏感,转而只对能良好求解和泛化的 10% 问题进行训练,所设计算法将训练效率提升最多 30 倍,原本需要 100 个训练模型的任务可能只需 3 个。其近期研究还显示,智能控制车速的生态驾驶措施可将车辆排放降低 11% 至 22%。

正文 · AI 翻译

媒体联系人:

上一张图片 下一张图片

从她记事起,Cathy Wu(2012 年本科、2013 年工程硕士)就想找到解决问题、改善人们生活的方法。她的父母是台湾移民,父亲上班通勤路途遥远,常常因此无法陪伴家人。由于预算紧张,家里其他人常常待在家中,而那条街太繁忙,不适合在户外玩耍。Wu 和她的兄弟姐妹最终玩了很多电脑游戏。

Wu 说,她希望让世界变得更美好的愿望、父亲每天与交通拥堵的斗争,以及她玩过的《模拟城市》等游戏,共同成为她立志设计安全、高效交通系统的动力源泉。

Wu 是麻省理工学院土木与环境工程系(CEE)以及数据、系统与社会研究所(IDSS)的副教授,也是信息与决策系统实验室的首席研究员。她的研究聚焦于利用机器学习和强化学习(RL)来推进可靠策略,以改进包括交通在内的各类复杂系统。

“设计交通系统需要对几十个、甚至成百上千个变体进行建模和分析,这意味着,用数据驱动的方法来设计这些系统,以当今的工具根本无法实现,”Wu 说。“这正是 RL 发挥作用的地方。如果成功,它将解放交通研究人员,并使他们与实践合作伙伴能够设计出他们想要的系统。”

Wu 将改善人们生活的愿望归功于她的姐姐,而她对交通的兴趣恰好契合这一理想。

“我喜欢交通,因为它把每个人连接起来。我们都在使用它,我们都在体验它,我们也都对它有问题。所以,在某种程度上,我们都希望这个系统变得更好,”她说。

Wu 在麻省理工学院攻读本科学位期间,听了已故教授 Seth Teller 关于自动驾驶汽车的一场讲座,从此对将人工智能应用于交通产生了兴趣。Wu 说,Teller 在独立活动期机器人竞赛(Wu 实际上赢得了该竞赛)期间所做的这场讲座,塑造了她对交通研究的独特方法。她开始与 Teller 合作,而当 Teller 不再专注于自动驾驶汽车时,他鼓励 Wu 转投曾研究过机器人出租车的 Daniela Rus 教授。

“我非常感激那些帮助我探索这些兴趣、帮助我成为现在的我的人,”她说,并特别提到了 Teller、Rus,以及“我在 Dropbox 的朋友们”,他们邀请她进行了第二次实习,聚焦交通问题。

在麻省理工学院获得硕士学位后,Wu 前往加州大学伯克利分校攻读博士学位。在此期间,她观察到交通研究人员花费数年时间开发优化方法,只为对系统的单个新变体进行建模和分析。作为一名计算机科学家,她致力于开发 RL 和优化方法以应对交通挑战,她的方法有望实现效率的指数级提升。

2018 年,也就是 Wu 在加州大学伯克利分校攻读博士学位的最后一年,她成功地将 RL 应用于一个交通问题:自动分析自动驾驶汽车在一系列不同交通网络中对潜在交通流量的影响。这项研究迅速走红。

尽管这对 Wu 来说本可以是一个“此后一切顺理成章”的时刻,但 RL 却成了一个飘忽不定的朋友。Wu 在微软做博士后期间从事 RL 理论研究,之后回到麻省理工学院任教,她说,吸引她的是 CEE 对可持续性的关注,以及 IDSS 对将数据科学融入其他学科的重视。

然而在接下来的两年里,Wu 进一步将 RL 应用于交通问题的尝试都失败了。

“那很有压力,”Wu 说,“当时不清楚问题出在我(导师)、我的学生、交通领域,还是 RL 本身。”

尽管如此,早先的研究仍是一个概念验证性演示,证明 RL 可以应用于交通系统。

而在 2022 年,她和她的学生发现,RL 算法如此敏感,以至于在一个问题上有效的算法,即使在与之密切相关的问题上也可能无效。Wu 说她最引以为豪的一个关键成果“就像漫长负面结果隧道尽头的光”,该成果于 2023 年问世。她和她的研究团队设计出一种绕开 RL 敏感性的方法。团队发现,虽然 RL 可能在一组问题中 90% 的问题上训练效果不佳,但在 10% 的问题上却能训练得相当好。而通过在这些能够良好求解和泛化的问题上训练 RL 模型,所得模型在一组相关问题上的整体表现良好,即使是那些无法通过直接训练解决的问题也不例外。研究人员设计了一种算法来确定哪些问题适合用 RL 训练,该算法将训练效率最多提升了 30 倍,这意味着通常需要 100 个训练模型的任务可能只需要三个模型。

“这项工作让我重新相信,强化学习可以在解决包括交通在内的困难优化问题中发挥重要作用,”Wu说。“现在,我团队中很大一部分人从事情境强化学习(contextual RL)这一主题,也就是强化学习寻求解决一组相关问题的设定。”

Wu更近期的研究将强化学习应用于解决一个具有重要政策意义的困难交通优化问题:这项工作表明,通过智能控制车速以减少过度停车和启动的生态驾驶措施,可以将车辆排放降低11%到22%。该系统提供了证据,表明实施此类措施的政策可以显著提高系统效率,并且“证明了强化学习可用于为具有实际重要性的问题提供交通政策依据,”Wu说。

“我非常支持循证政策,并认为它是繁荣民主社会的基础,然而我们的社会系统如此复杂,”Wu说。“人们可以永远争论什么更好或更差,但我确实相信,有些我们争论的问题可以通过数据系统性地分析,并有客观答案。我身处学术界很大一部分原因,是想更好地理解技术如何支持民主的社会决策。”

Wu说,她和她的团队在过去几年中所做的大部分工作已经产生了算法,“以简化困难优化问题求解器的开发,无论这些问题是与交通相关,还是与其他系统相关,例如物流、供应链、制造和资源分配。

“这暗合我所偏好的工作风格,”Wu说,“即所谓的‘应用启发的基础研究’,”她解释说,这类研究针对一个实际问题,发展基础知识,而这些知识往往可以迁移到其他实际问题。她的学生首先探究从安全到拥堵再到可达性等一系列重要问题,找出既有方法的不足之处,并让问题本身来塑造研究方向。

与此同时,Wu在更个人层面上帮助他人的愿望也体现在她的教学中。

“我喜欢与学生合作,无论是在课堂上还是在研究指导中,”她说。“当我能教别人一些东西时——当我看到学生恍然大悟的那一刻——我这一天都会很开心。”

除了获得学术荣誉,包括2023年美国国家科学基金会青年教师职业发展奖之外,Wu还因其教学和指导而受到正式表彰,包括2025年的Ole Madsen指导奖。

她会告诉面对极其复杂问题的学生什么?

“要有耐心。从小处着手。社会影响是一项终身事业,不是几年内就能完成的事情,”Wu说。“真正理解正在发生什么以及真正的问题在哪里,需要数年时间。与此同时,尽量提供帮助。保持好奇。多问问题。”

X;Facebook;LinkedIn;Reddit;打印

相关链接

相关主题

简介;教师;交通;物流;自动驾驶汽车;交通管理;机器人学;供应链;人工智能;机器学习;算法;计算机科学与技术;技术与社会;土木与环境工程;电气工程与计算机科学(EECS);IDSS;信息与决策系统实验室(LIDS);工程学院;MIT施瓦茨曼计算学院

相关文章

AI系统学会保持仓库机器人交通顺畅运行

来源

MIT News · Artificial Intelligence