AI-generated videos can now evade facial recognition systems; Hangzhou Intermediate People's Court case and multiple AI fraud cases exposed

10月26日，话题 #AI生成视频已能逃过人脸识别系统 # 登上热搜，引发网友关注。 据央视网报道，杭州市中级人民法院今年公布一起案例，AI生成视频，已经能够逃过人脸识别系统。 两名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破了购物平台的人脸核验，盗取了账户内的个人信息。 AI技术滥用，以假乱真实施诈骗 当前，AI生成的视频越来越让人真假难辨，不少人利用AI换脸、声音克隆等技术生成虚假视频实施诈骗。 10月18日，演员吴越公开发声，怒斥某账号用AI假冒她的形象和声音，推销护肤品。根据吴越保留的截图，该商品累计销量达16492件，粗略估算销售金额超过130万元。造假视频结尾甚至还出现了仿冒奥运冠军邓亚萍的形象继续带货。 据央视财经报道，日前，长沙市雨花区人民法院审理了一起利用AI生成人脸伪造视频盗刷银行卡案件。一名大学生在非法网站购买了“AI人脸伪造视频”技术，制作他人人脸动态视频，重置支付密码，在不到四个月的时间里，盗刷银行卡5万余元。 AI诈骗为何屡禁不止？专家分析，“几十元、十几秒音频就能‘复刻’任何人，门槛极低、模板可批量复制、封号就换壳，这是乱象屡禁不止的根源”。 如何防范AI诈骗？ 新型AI诈骗花样频出，伪装性越来越强，日常生活中我们该如何防范？ 1. 视频通话时，让对方做出指定动作（比如眨眼3次、摸摸鼻子，用手指或其他遮挡物在脸前晃动），如画面出现延迟或异常扭曲等不自然的微小变化，那对方很可能正在使用“AI换脸”技术； 2. 在非必要情况下，不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息，尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上； 3. 接到陌生来电的时候，如果对方一直不说话，您也先不要主动说话，安静等三秒钟，对方持续不出声，那就要及时挂断；如果接通后是冒充所谓客服的AI机器人，同样不要出声，立刻挂断。 综合中国新闻网、央视新闻、央视网、央视财经、环球时报、人民日报、经视直播等