←News detail

cnBetaUpdated Oct 30 20:06

AI models "conquer" Double 11: technology is not guilty, fraud is

English text is being prepared.

AI summary

AI model images cost as little as 6 yuan each, while a real-life model, venue, and shooting package costs at least two to three hundred yuan; this cost advantage has driven the rapid expansion of the AI model industry chain during Double 11. It is not in itself illegal for merchants to use AI to generate virtual models to display products, but if the rendered images differ greatly from the actual product, the AI labeling is deliberately removed, and consumers are misled, this may be deemed consumer fraud, with "refund plus triple compensation" liability under Article 55 of the Consumer Rights Protection Law. The Measures for the Labeling of AI-Generated Synthetic Content require that AI-generated content carry clear and perceptible labels, and platforms also bear verification obligations.

Body

一家网店中的女童模特图,手部姿势明显违背人体结构。

乱象背后,是一条成熟的AI模特产业链。实拍一件服饰,模特、场地、拍摄打包下来至少两三百元;AI生成模特图最低仅6元一张,成本优势一目了然。在网上,AI女装生图提示词合集、带货工作流教程低价售卖,动辄上万份销量。商家发来一张衣图,半小时就能拿到AI成片,实拍却往往要等一两天。一边是商家降本增效的现实诉求,一边是消费者“货不对图”的持续吐槽,部分平台相继出台规则整治AI假图、明确AI标识要求。

首先应该承认,商家使用AI模特图本身并不违法。用AI生成虚拟模特用于商品展示,属于人工智能正常应用,现行法律并未禁止。技术本身没有原罪,即便是真人实拍图,也可能过度修图、脱离实物;AI图只要如实还原商品,同样具备正当性。诚如不少网友所言:“真人展示也未必完全真实,我不排斥做得好的AI。”

AI不是原罪,隐瞒却是陷阱。法律约束的从来不是技术工具,而是误导与欺诈。商家使用AI模特是否构成虚假宣传、消费欺诈,评判标尺从来不是“有没有用AI”,而是展示画面和实物是否一致、有没有刻意隐瞒信息。只要客观呈现面料、版型,不虚构品质、不隐瞒瑕疵,主动标注AI属性,不做虚假诱导,就不触碰消费欺诈红线。

反过来,倘若AI效果图和实物差距巨大,突破合理美化的边界,再叠加客服谎话搪塞、刻意抹除AI标识等行为,就极易被认定为消费欺诈。按照《消费者权益保护法》第五十五条,商家要承担“退一赔三”的惩罚性赔偿。AI从来不是商家的免责金牌,更不是欺诈的隐身衣。谁试图拿AI当挡箭牌,谁就要为虚假宣传买单。

《人工智能生成合成内容标识办法》早已明确,AI生成图文视频,应当设置清晰可感知的标识;隐而不标、足以误导消费者,便是侵害知情权。平台同样负有核验义务,对检出合成痕迹却未声明的内容,应当及时标注提示,当好消费信任的“守门人”。

AI模特“攻占”双十一,大可不必因噎废食。工具本无善恶,责任在于使用工具的人。规范用好AI,守住不欺诈消费者这条底线,AI模特才能走出真假难辨的舆论漩涡,褪去“造假工具”的负面标签,真正扎根实体经济,服务消费者,成为电商行业可信、好用的数字帮手。

Source

cnBeta