河南
青锋
“邓亚萍老师从未代言、推广过该产品，也从未授权他人使用自己的AI形象。”一段看似是邓亚萍出镜带货的短视频在网络传播，尽管视频角落标注了“内容均含AI生成”，但这场AI深度伪造名人形象直播带货闹剧一经曝光，立刻引发舆论哗然。涉事账号虽被平台快速封禁，可这件事再次敲响警钟：AI造假已经泛滥到近乎失控的地步，如果再不拿出有力手段彻底遏制，其对社会秩序、公众信任造成的伤害，将难以估量。
几乎就在同一时间段，多家学术期刊相继出台新规，明确拒绝生成式人工智能参与稿件创作，即便是AI润色、文字改写也不被接纳。《五台山研究》等期刊公开表示，大量来稿出现AI生成痕迹，内容空洞、引文虚构，严重侵蚀学术诚信，因此严守底线，对含AI辅助创作的稿件直接拒稿。学术圈收紧AI使用门槛，本质上是守住知识生产的真实性底线，和AI仿冒名人带货乱象，看似分属学术、电商两个领域，背后却是同一个核心矛盾：技术发展不能脱离伦理约束，工具不能沦为造假、侵权的利器。
客观而论，人工智能在文字生成、代码编写、内容创作等领域，的确具备突出能力，极大提升了生产效率。也正因如此，社会各界对AI技术的创新潜力抱有很高期待，鼓励产业创新、拥抱技术变革，本是大势所趋。技术本身并无善恶，但是技术的使用，离不开规则、伦理与法律的约束。一旦脱离约束，AI强大的生成能力，就会变成造假者低成本作案的利器。
近些年，AI换脸、AI拟声仿冒名人带货早已不是孤例。除了本次被伪造形象的邓亚萍，演员吴越也曾遭遇同一账号AI伪造形象带货，深夜发文怒斥造假行为。造假者只需要简单工具，就能一键复刻名人样貌、声音，打着名人旗号推销商品。即便标注“AI生成”，也无法消除对普通消费者的误导。很多中老年网友很难分辨真假，很容易被名人效应诱导下单，不仅侵害被仿冒名人的肖像权、声音权，更构成消费欺诈，扰乱网络直播带货的市场秩序。
不止仿冒名人带货，AI造假的边界还在不断突破。伪造视频造谣、AI生成虚假证据、编造虚假信息，各类深度伪造层出不穷。造假门槛持续降低，造假成本极低，而很多造假行为被发现之后，往往只是封号下架了事，违法成本偏低，难以形成足够震慑。最高法已经出台涉人工智能纠纷审理意见，明确未经许可利用AI伪造他人肖像、声音用于商业推广，属于侵害人格权，构成消费欺诈的，消费者可主张惩罚性赔偿。纸面规则已经就位，但落地追责、事前防控还有明显短板。
我们并不反对人工智能产业创新，更不是否定AI的价值。技术向善，前提是划定红线、管住滥用。不能一边享受技术红利，一边放任造假乱象野蛮生长。平台不能只靠事后封号了事，要完善事前识别、预警机制，对AI深度伪造内容加强筛查；监管部门要加快健全全链条治理，不只处理账号，更要深挖幕后操盘者、产品商家，依法追究民事乃至刑事责任。
AI造假正在侵蚀社会信任根基。当普通人分不清屏幕里的名人是真人还是AI，当虚假内容可以批量快速生产，人与人之间的信任、网络空间的秩序都会遭受冲击。面对日益猖獗的AI深度伪造乱象，治理不能再被动等待，不能总在骗局曝光之后才仓促处置。完善监管、压实平台责任、提高违法成本，多管齐下彻底遏制AI造假，此事刻不容缓。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
