视频中出现了一对穿着白色短袖的孩子们，在阳光照射下尽情玩耍滑板。随后，镜头切换到他们相互碰撞的场景，令人惊讶的是，他们的身影似乎交织在一起了，隐约可以看到数字化处理的效果。

在今年双11期间，北京市民王欢在某社交平台上看到了一条童装推广视频，感到非常意外。直到看到画面下方一行“内容由AI生成”的提示，她才明白孩子玩耍的场景是经过技术合成的。“这些画面太不真实了，怎么能让人相信商品的实际效果呢？”她疑惑地说道。

近来，商家利用AI技术带货的现象日益增多，但一些情况也出现了问题：有些商家借助名人效应，仿冒专家学者、奥运冠军以及影视明星为产品站台；还有一些假冒知名品牌误导消费者。不少消费者和粉丝难以辨别真伪，在“偶像”或“品牌”的信任下下单购买，却未能意识到背后存在的风险。

这些穿梭于模糊界限的“Ai李鬼”侵犯了当事者和消费者的肖像权益、知情权以及自主选择的权利，并给当前的网络数字治理带来了新的挑战。

AI助力带货视频的批量制作

“这种场景违反了现实中的物理学原理，业界通常称之为‘穿模’。”资深AI技术人员蓝天提到。

他提到，当前主流的AI视频生成模型，在海量数据训练的基础上具备强大的语言理解和图像生成能力。这些模型能够根据文本描述创造出逼真的画面。然而，在面对真实世界中的复杂物理规律，如重力、碰撞及物体之间的不可穿透性等问题时，AI仍然缺乏深入的理解和预测能力。

“‘穿模’现象常见于AI生成视频中，这反映出AI技术在应对复杂动态场景时存在的不足，揭示了数字内容制作与现实物理定律间的差异。” 蓝天说道。

记者了解到，使用人工智能工具批量制作营销视频进行电商推广的现象在业界较为常见，并且在网络上还流传着一些专门的教程指导如何操作。

在面向电商从业者的一个教学视频里，一位自称经验丰富的直播电商博主详细讲述了如何利用人工智能迅速创作出引人注目的带货视频。他向学员展示了一个用来作为优秀模板的例子：这正好是王欢遇到“穿模”问题时观看的一段童装视频。

博主谈到其讲解的“爆款逻辑”，指出：“学员在跟自己学习后，会运用人工智能批量制作类似视频。这些视频能够精准把握宝妈的心理特点。这类视频直接满足宝妈群体对于外观‘美观’和实际功能‘实用’两个方面的双重需求，这正是成功的关键所在。”

另一位博主在其账号中推荐更为“进阶”的操作。该博主通过展示一条网络播放量突破千万的真实人物炸鸡腿视频，现场演示了如何使用AI工具对原始视频中的人物进行“深度改造”——不仅能够更换面部特征和衣服，还能调整体型与性别。

知名人士连续遭遇假冒代购风波。

“‘捎货’(带货)的肯定不是我！”10月初，在江西南昌举行的一场国际学术年会上，中国工程院院士、国医大师张伯礼以“打假”声明作为开场，向与会者展示了冒用他形象和声音合成制作的AI伪造视频。

这是一种人造合成的虚假视频，讲话的声音听起来非常像我说话的样子，但实际上所表达的意思并非我的真实意思。张伯礼郑重地警示民众，务必提升鉴别能力，防止此类数码造假现象发生。

今年10月20日，天津中医药大学发布声明，指出近期社会上有“伯礼医堂”、“伯礼国医馆”、“张伯礼中医院”和“张伯礼大药房”等多家机构冒用张伯礼院士之名，在社交媒体上宣传产品、进行培训或评审活动。声明强调，这些机构与张伯礼院士并无任何关联，其行为严重误导社会公众，并对公众健康权益构成损害，带来医疗安全隐患，涉嫌违反相关法律法规。

不仅专家和学者深受困扰，著名媒体人也成了仿冒的目标。2023年6月，北京海淀区市场监管局处理了首个涉及滥用AI技术发布虚假广告的案例。

根据消费者举报，执法人员在北京针对某家公司展开了调查，这家公司利用一个拥有几十万个粉丝的视频账号推广其所谓的“鱼油”，声称这种产品能够治疗头晕头痛和记忆力减退等问题。在一段直播视频中出现了中央广播电视总台主持人李梓萌的形象。

经过深入调查发现，该公司声称销售的"鱼油"产品实际上执行的是普通糖果类食品标准，并不具备治疗功效。经权威机构鉴定后，视频中出现所谓的“主持人”形象是由AI技术伪造生成的。因此，该公司的行为违反了《中华人民共和国广告法》相关规定，受到了市场监管部门的行政处罚。

一张某平台发布的“AI电商课”的详情页截图，显示商家声称该课程能帮助用户“复刻爆款视频”。此信息来源为受访者的供图。

对AI换脸和虚假广告进行整治行动。

北京市市场监督管理局副局长周小丰指出，北京市支持人工智能（AI）技术在广告中的广泛应用，并且针对AI换脸以及虚假广告等问题敢于“亮剑”。他表示，主持人和网红等公众人物的社会认知度较高，一些不法经营者通过利用AI等方式伪造图片、音视频进行虚假宣传，借助公众人山东省增值税发票查询【代办电话13434104765；QQ2188982664】物的知名度推销商品和服务谋利，侵犯了消费者权益。

由于人工智能技术的复杂性和广泛应用，AI治理需在不同领域实现协作推动。这不仅需要加强监管力度和平台的责任制，还须增强网民参与度。朱巍认为，这是由中国政法大学副教授以及中国广告协会法律与道德委员会专家的身份提出的观点。

在平台治理方面，一些广告企业致力于构建全流程管理机制。巨量引擎商业安全治理标准负责人项韵表示，面对AI广告违反公序良俗、侵权抄袭以及虚假宣传等明显风险，该平台注重“精准识别”和“从严处置”。今年第三季度，平台提前拦截了84万个涉AI违规素材。

当前，对AI虚假广告的治理正从依赖人工审核向人机协同、智能识别方向演进。巨量引擎商业安全产品负责人潘荻表示，通过应用多模态大模型，平台提升了识别效率。系统可以快速解析视频素材，定位违规内容出现的具体时间段或画面，为审核决策提供参考。

潘荻解释说，与传统审核模型不同的是，具有AI能力的大规模模型能够结合大量案例进行学习，并理解规则背后的逻辑。面对从未见过的人脸或新的伪造技术，系统可以通过对规则的理解识别违规的本质，从而显著提升新型、隐蔽内容违规发现的能力。

面对不断发展的AI造假技术，治理体系需要持续优化。朱巍建议，在这一过程中，应加强合成内容的标识和溯源，推动平台、监管部门和技术提供商之间数据共享与标准共建，构建起覆盖内容生成、传播和识别全链条的治理生态体系。这样可以确保市场秩序，并保护消费者权益不受损害。

针对AI广告带货乱象问题，北京市市场监督管理局提醒：若发现疑似使用人工智能技术虚假宣传的违法行为，请消费者注意保留证据，并通过12315、12345等热线向市场监管部门举报，共同维护良好的广告市场秩序和消费环境。同时，广大经营者应严格遵守《中华人民共和国广告法》和《中华人民共和国反不正当竞争法》等相关法规，在使用新技术如AI时不得冒用他人名义或形象进行营销活动。

中国青年报·中国青年网记者：刘胤衡，陈晓。