所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
近日，有网友发现演员温峥嵘同时“出现”在多个直播间。虽然他穿着不同的服装推销不同的产品，但他的动作和举止却与她非常相似。毫无戒心的观众很容易相信她所说的话。但实际上，这是无良公司利用录屏提取照片、抄袭以往直播素材或利用人工智能制造的虚假内容。随着人工智能技术逐渐成熟，AI换脸的门槛变得更低。这项技术本来是应用于影视等领域，如今却成为不法企业制造AI“李鬼”谋取私利的工具。此前，AI 即时通讯主持人李子萌的年龄曾被用来宣传“深海多烯鱼油”，但该产品原来只是一颗普通的糖果。包括奥运冠军、专家、大学教授在内的各界名人都曾多次被人工智能操控。产品视频中出现的大部分产品都是假冒产品，与广告宣传的相差甚远。此类行为不仅侵犯了明星的形象权和表达权，也侵犯了消费者的权利，并可能误导公众。今年9月1日，《人工智能生成的合成内容标注办法》正式施行，要求对人工智能生成的所有文字、照片、视频等进行标注，明确其来源和真实性。新规定的出台，将为控制人工智能领域的欺诈和破坏提供制度保障，有利于促进人工智能的规范发展。l 智力。但现实中，不少山寨企业将自己的Logo隐藏在视频、直播广告的角落里，或者以很小的字体展示，让消费者很难注意到。一些营销人员利用技术手段对人工智能生成的内容进行匿名化或将人工智能生成的内容分割并零散地发布到多个账户，这助长了虚假人工智能内容的出现。它与正常的信息流混合在一起，难以准确识别。有些平台在内容审核方面也存在短板，有些p.Lataformas没有“预防措施、发生时监控”的全流程治理体系。更值得警惕的是，一些平台的推荐算法也可能在未识别的情况下助长此类侵权内容的传播，因为AI假明星直播具有独特的“明星效应”，可以诱导消费者立即点击购买，从而增加侵权内容的传播风险。提高产品转化率。即使发现涉嫌侵权内容，纠正证据并证明该内容是由人工智能生成的过程对侵权方来说也是复杂且技术要求较高的。提起诉讼往往需要几个月的时间，在此期间侵权内容可能已被广泛传播。违法成本低、维权成本高的现实，助长了不法企业，助长了嚣张气焰。人工智能技术应该更好地为人们服务，而不是成为侵权假冒的工具。破解人工智能造假困境，监管部门应进一步规范人工智能技术应用标准，加大对违法经营者和废弃平台的制裁力度，加强制度建设，构筑坚强的监管防线。平台也要承担关键责任，加大技术投入，优化人工智能内容识别系统，带头完善审计机制和责任追究制度。只有以技术培育创新、以规则保障发展，人工智能才能真正成为社会进步的力量。 （《张晓宇报》首席评论家）