中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） AI投递视频“批量”制作“爱丽柜”徘徊在灰色地带 2025年11月25日08:33 来源：中国青年报·中国青年报记者 刘银恒 陈晓 在一段视频中，两个穿着白色短袖的“孩子”在阳光下快乐地玩滑板。当镜头转动，两个人的动作同步的时候，他们的身体竟然融合在一起，露出了数码合成的痕迹。今年“双11”期间，北京市民王欢在社交平台上看到童装促销视频，感到非常惊讶。直到他看到角落里的一排“内容由AI生成”的标志，他才意识到我们玩的浴场场景是由技术合成的。 “这张图大错特错，人们如何相信公关的真实效果？”最近，商家利用人工智能技术推销商品的现象不断增多，有的违反法律法规：有的利用假专家学者、奥运冠军、影视明星的名人效应作为产品平台；有的以知名品牌误导消费者。不少消费者和粉丝对不信任自己“偶像”、“品牌”的消费者和粉丝难以辨认订单的真伪和地点，却没有意识到背后隐藏的危险。灰色地带涉嫌侵犯当事人的肖像权和消费者的知情权和选择权，对目前AI配送视频“批量生产”的数字化管理提出新的挑战。 “在行业里，我们称之为‘模具渗透’。”AI高级技术人员蓝天说。他表示，目前主要的AI视频生成模型的主要逻辑是基于海量训练数据具备强大的语言理解和图像生成能力，能够根据文本描述“绘制”出真实的图像。然而，人工智能仍然缺乏对现实世界中复杂物理规律的深刻理解和预测能力，例如物体之间的重力、碰撞、惯性等。蓝天表示：“‘模型交叉’是人工智能视频萨博的通病，这反映了当前技术在处理复杂动态场景方面的局限性，也说明数字内容构建与真实物理规律之间还存在差距。”记者调查发现，利用AI工具批量生成营销视频在电商运营中相当常见，网上也有系统教程。在一段针对电商从业者的教学视频中，一位自称经验丰富的直播博主详细讲解了如何使用AI快速创建引人注目的视频。他拿来作为“大模板”给学生们看的案例，是王欢看到的“模特穿着”的童装视频，“牛逼逻辑”，并表示：“学生们跟我学了之后，用AI量产了这类视频，精准捕捉妈妈们的心理。”视频直接解决了妈妈群体‘漂亮’和‘实用’的双重需求，这是成功的关键。”另一位博主在她的账号上推荐了更多“进阶”的操作。该博主以一段在线观看量超过千万的真人鸡腿视频为例，现场演示了如何利用AI工具对原视频中的人物进行“深度改造”——不仅可以改变五官、上衣、配饰，还可以改变人物的体型和性别。这种教学内容的传播，打破了小说与虚构的界限，给人们带来了潜在的风险和危险。消费环境。明星互相介绍带货。 “凡是‘带货’（带货）的人肯定不是我！” 10月初，在江西南昌举行的国际学术年会上，中国工程院院士、中医大师张伯礼以“打假”开场，并向与会者展示了一段利用他的图像和声音制作的人工智能伪造视频。 “这是一个人造的假视频，声音听起来像我的，但内容不是我的意思。”张伯礼恳切提醒公众提高警惕，谨防此类数字诈骗。今年10月20日，天津中医药大学发表严正声明，指出近期存在不少社会机构、“张伯礼中医医院”、“张伯礼药房”等平台。声明强调，这些机构与ac没有任何关系。学术界张伯礼。其行为误导公众，损害公众健康权益，带来医疗安全风险，涉嫌违反相关法律法规，予以严肃处理。不仅专家学者受到极大困扰，知名媒体人物也成为仿冒的对象。今年6月，北京市海淀区市场和管理局查处首例滥用人工智能技术发布虚假广告案件。根据消费者举报，执法人员对北京某公司进行调查，发现该公司通过拥有数十万粉丝的视频账号宣传销售“鱼油”，声称其具有治疗头晕、头痛、记忆力减退等功效。直播视频中出现了中央广播电视总台主持人李子萌的形象。经深入调查发现，该公司销售的所谓“鱼油”实际上符合普通糖果食品的标准，没有任何治疗作用。功能。权威机构证明，视频中出现的“主持人”的图像是利用AI技术捕捉到的。最终，公司因违反《中华人民共和国广告法》相关规定，受到市场监管部门的行政处罚。北京市市场监管局副局长周晓峰表示，北京支持人工智能技术在广告领域的广泛应用，并有足够的勇气解决换脸、虚假广告等问题。他表示，主持人、网红等公众人物的社会意识较高。一些不法经营者利用人工智能技术等手段制作图像、音频、视频进行虚假宣传，利用公众人物的知名度推销商品和服务牟利，侵犯了消费者的合法权益。 “由于人工智能的复杂性和广泛应用技术的发展，人工智能的管理需要在各个领域共同建立。 “这需要不断加强监管、强化平台责任、广大网民的参与。”中国政法大学副教授、中国广告协会法律道德委员会专家朱伟表示。在平台管理方面，一些广告公司已经开始制定全流程的管理机制。营销服务平台聚道引擎商业安全管理标准负责人向云表示，面对人工智能广告违反公序良俗等众所周知的风险，针对人工智能虚假广告的治理，平台致力于“精准识别、严格处理”。自动化正在从依赖手动分析发展到人机协作和智能识别。 Juju引擎商业安全产品负责人潘迪表示，通过应用大规模多模态模型，平台提高了识别效率。系统将快速分析视频素材，找出违法内容出现的具体时长或场景，为分析决策提供参考。潘迪表示，与传统审计模型不同，融入人工智能能力的大型模型可以从大量案例中学习，理解规则背后的逻辑。 “面对前所未见的面孔或新的造假技术，系统可以根据对规则的理解来识别违规的性质，从而显着提高其发现新的和隐藏的非法内容的能力。”面对新兴的人工智能造假技术，管理体系需要不断优化。朱伟氏建议加强合成内容的识别和监管，建立平台、监管部门、技术提供商之间的数据共享和标准共建，构建覆盖内容生成、传播、识别全链条的生态管理，有效保障市场秩序和消费者权益。针对人工智能广告销售乱象，北京市市场监管局提醒：消费者如发现涉嫌利用人工智能技术进行虚假宣传等违法行为，应注意保存证据，并通过12315、12345等热线渠道向市场管理公寓举报，以便共同维护良好的市场秩序和消费环境。同时，经营者必须严格遵守中华人民共和国广告法等法律法规a、《中华人民共和国反不正当竞争法》规定，不得利用人工智能等新技术冒用他人姓名、形象进行营销、推广活动。 （编辑：杨淼）