AI 热点

AI造假收割流量,必须严惩(金台锐评)

人民日报更新于 11月19日 06:18

AI 导读

AI工具大幅降低造假成本,催生通过虚假信息、换脸拟声和仿冒带货收割“毒流量”的灰色产业链。治理需提高违法代价、压低侵权收益,推动平台主动履行注意义务,并以快速、精准的执法斩断流量变现链条,同时避免误伤合法创新。

正文

6人餐费51万元、一瓶酒单价23万元……近日,一张“天价酒水账单”引发网上热议,警方调查却发现,这竟是一场AI(人工智能)造假的“毒流量”:某互联网酒类销售公司为博关注、提销量,用AI软件篡改账单金额、制作虚假视频,再控制账号、雇佣代发,在网上大肆传播。

随着技术的突飞猛进,如今一些人在AI上打“毒流量”的主意:有的用AI编造虚假信息、伪造图片视频等,通过造谣博取流量;有的用AI实现换脸拟声、仿冒名人带货引流,严重侵犯他人肖像权……过去伪造一张移花接木的图片、生成一段以假乱真的视频,需要相当的技术门槛;如今各类AI工具唾手可得,“一键造假”几乎零成本,也导致这种“毒流量”变成了一门低成本、高回报、产业链化的生意。

打击“毒流量”的当务之急,在于扭转违法代价与侵权收益间的失衡——只有当成本高起来、收益低下去,才能最大程度压缩“毒流量”这门生意的生存空间。

从法律责任看,AI造假者头上的“剑”并不少。从治安管理处罚法对故意散布谣言的处罚,到刑法对敲诈勒索等行为的严惩,再到民法典对名誉权、肖像权的保护,都明确昭示网络并非法外之地。在司法实践中,最高人民法院发布的《关于依法审理涉人工智能纠纷案件的意见》明确了涉AI侵权责任的归责原则,针对利用AI侵害人格权、个人信息权益、消费者权益等不同场景都有相应规定。法网日益织密,下一步须将其落实到平台治理、监管执法等各环节。

作为“守门人”,平台是关键的一道关,必须变被动应对为主动治理。在技术与业态深度融合的背景下,以往“技术中立”的角色定位正发生深刻变化。当前,平台在“免费内容+广告收入”“流量引导+商业变现”等模式下,其虽未直接向用户收费,但客观上通过侵权内容吸引流量、提升用户黏性,进而获得了广告收益或商业合作机会。当平台可能从内容分发中直接获利,当算法推荐本身可能成为侵权扩大的推手,那么,平台承担更高的注意义务,就已不再是“加分项”,而是“必答题”。

AI技术的日新月异对执法司法都提出了更高要求,一旦出现侵权违法行为,责任追究必须能跟上技术奔跑的速度。首先是响应要“快”,及时识别、冒头就打,消除流量变现的侥幸心理。其次是打击要“疼”,斩断AI造假“毒流量”的灰色产业链,铲除滋生土壤。此外,治理要“准”,打击造假的同时,也要守住合法创作的边界,避免误伤合法创新。

面对AI大幅降低造假成本的新情况,打击治理的新任务,就是把造假的代价抬上去。从加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,到构建技术监测、风险预警、应急响应体系,这道清朗网络空间的难题需要全社会共同作答。

来源

人民日报