联合国秘书长警告 AI 风险：全球不能陷入逐底竞争

①联合国秘书长古特雷斯警告快速发展的人工智能存在不容忽视的风险，反对AI安全领域逐底竞争，与认为现有监管已足够的美国总统特朗普形成分歧； ②下周联合国大会举行期间，古特雷斯将重点推动AI监管议题讨论，呼吁AI技术领先国建立沟通机制与共同安全护栏。 财联社9月17日讯（编辑 牛占林） 联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。

随着公众对AI潜在风险的担忧不断升温，相关警告声也越来越多。Anthropic研究员Jacob Coxon上周表示，他已经辞职，部分原因是“真正参与AI开发的人认真相信，这项技术可能会在本十年结束前杀死我们所有人”。与此同时，一些全球大型AI公司的高管也呼吁放缓这项技术的发展速度。

古特雷斯长期以来一直推动建立全球性的人工智能治理机制。2023年，联合国成立了一个由39名成员组成的人工智能高级别咨询机构，成员包括科技公司高管、政府官员以及学者，来自美国、俄罗斯、日本等多个国家。

古特雷斯表示，在AI前沿领域拥有最强技术能力的国家，“应该建立沟通和信息交流机制，并制定一些共同的安全护栏，以避免陷入一场逐底竞争(即参与者通过不断降低标准来获取竞争优势)，否则这种竞争有一天可能导致全球范围内的巨大灾难”。

古特雷斯声称：“我们需要形成共同认识，在确保AI安全、有保障且负责任发展的同时，也要明确，在AI系统能力不断增强的情况下，何时可能需要更强有力的安全护栏，或者采取额外措施来应对潜在风险。”