北京
演员吴越昨天发文，曝光微信视频号"花姐美肤日记"用AI生成她的虚假带货视频。她公布的录屏里，这个账号发布了一段"吴越"出镜的视频，开头就是"吴越"带货，随后配上吴越公开活动时的画面，用"吴越"的声音说"这个产品不是他们找我，是我找他们的……效果是真的非常直观"。
视频末尾，还出现了疑似"邓亚萍"的带货片段。一个账号，两位公众人物的脸和声音，拼在一起卖货。
据澎湃新闻从微信团队了解到，目前该账号已被永久封禁，内容清空不可见。从曝光到处置，平台给出的处理结果是封号加清空，不是限流，也不是下架单条视频。
这类操作的技术门槛已经低到不需要解释：拿公开活动画面做素材，合成人脸，克隆声音，再套上带货话术。吴越录屏里那句"是我找他们的"，恰恰是AI带货视频最典型的句式——用第一人称制造"本人亲测"的错觉。
监管层面已有动作。9月30日，中央网信办印发通知，在全国范围内部署开展为期2个月的"清朗·整治短视频虚假人设乱象"专项行动。本次专项行动重点整治利用AI等仿冒人物等问题，包括通过AI合成虚假音视频等方式，假冒公众人物，实施虚假代言、营销等侵权违法行为。
对普通用户来说，识别成本在上升：画面是真的，声音是像的，只有"代言"这件事是假的。对平台来说，封一个"花姐美肤日记"不难，难的是下一个换个名字再发一遍。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
