AI Trends

People's Daily Commentary: AI-Generated Fakes Used to Harvest Traffic Must Be Severely Punished

EastmoneyUpdated Nov 19 09:30

English text is being prepared.

AI summary

The People's Daily commentary notes that AI has drastically reduced the cost of creating fakes, and methods such as fabricated bills, face-swapping, and voice cloning are being used to generate “toxic traffic” and form an industry chain. Governance should raise the cost of violations, enforce liability for AI-related infringements, require platforms to fulfill a higher duty of care, and improve systems for technical monitoring, risk warnings, and emergency response.

Why read this

AI score 53

Starting with the imbalance between illegal gains and penalties, the article outlines how legal accountability, platform governance, and law-enforcement responses can work together to shrink the operating space of the AI-fake industry chain.

Topics

Tags

Body

文章主体

6人餐费51万元、一瓶酒单价23万元……近日,一张“天价酒水账单”引发网上热议,警方调查却发现,这竟是一场AI(人工智能)造假的“毒流量”:某互联网酒类销售公司为博关注、提销量,用AI软件篡改账单金额、制作虚假视频,再控制账号、雇佣代发,在网上大肆传播。

随着技术的突飞猛进,如今一些人在AI上打“毒流量”的主意:有的用AI编造虚假信息、伪造图片视频等,通过造谣博取流量;有的用AI实现换脸拟声、仿冒名人带货引流,严重侵犯他人肖像权……过去伪造一张移花接木的图片、生成一段以假乱真的视频,需要相当的技术门槛;如今各类AI工具唾手可得,“一键造假”几乎零成本,也导致这种“毒流量”变成了一门低成本、高回报、产业链化的生意。

打击“毒流量”的当务之急,在于扭转违法代价与侵权收益间的失衡——只有当成本高起来、收益低下去,才能最大程度压缩“毒流量”这门生意的生存空间。

从法律责任看,AI造假者头上的“剑”并不少。从治安管理处罚法对故意散布谣言的处罚,到刑法对敲诈勒索等行为的严惩,再到民法典对名誉权、肖像权的保护,都明确昭示网络并非法外之地。在司法实践中,最高人民法院发布的《关于依法审理涉人工智能纠纷案件的意见》明确了涉AI侵权责任的归责原则,针对利用AI侵害人格权、个人信息权益、消费者权益等不同场景都有相应规定。法网日益织密,下一步须将其落实到平台治理、监管执法等各环节。

作为“守门人”,平台是关键的一道关,必须变被动应对为主动治理。在技术与业态深度融合的背景下,以往“技术中立”的角色定位正发生深刻变化。当前,平台在“免费内容+广告收入”“流量引导+商业变现”等模式下,其虽未直接向用户收费,但客观上通过侵权内容吸引流量、提升用户黏性,进而获得了广告收益或商业合作机会。当平台可能从内容分发中直接获利,当算法推荐本身可能成为侵权扩大的推手,那么,平台承担更高的注意义务,就已不再是“加分项”,而是“必答题”。

AI技术的日新月异对执法司法都提出了更高要求,一旦出现侵权违法行为,责任追究必须能跟上技术奔跑的速度。首先是响应要“快”,及时识别、冒头就打,消除流量变现的侥幸心理。其次是打击要“疼”,斩断AI造假“毒流量”的灰色产业链,铲除滋生土壤。此外,治理要“准”,打击造假的同时,也要守住合法创作的边界,避免误伤合法创新。

面对AI大幅降低造假成本的新情况,打击治理的新任务,就是把造假的代价抬上去。从加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,到构建技术监测、风险预警、应急响应体系,这道清朗网络空间的难题需要全社会共同作答。

(文章来源:人民日报) 正文中部 内嵌广告

Source

Eastmoney