河南
10月18日凌晨，演员吴越的一条微博，又一次把“AI造假”这个老话题推到了台前。这回不是什么技术演示，而是有人直接把她的脸和声音“借”走，做成了带货视频，在网上公开叫卖产品。
事情的经过并不复杂：吴越发现，自己的声音与形象被人用AI深度伪造技术合成，摇身一变成了带货主播，对着镜头卖力推销。她随即发文怒斥，一句“一觉醒来，谁在利用AI肆意抓人替自己做恶”，把那种被莫名“拉下水”的荒诞感写得明明白白。
更直接的是，吴越没有停留在泛泛吐槽，而是把矛头对准了具体账号。她在微博上点名“花姐”，接连发问：“你骗了多少人的钱？请如数奉还！”并直言这种借AI替人作恶的行径“太恶劣”。态度之鲜明，可以说是半点没打算给造假者留余地。
从曝光的造假视频看，这个AI生成的“假吴越”话术相当熟练。视频里，“她”声称“它不是找我，是我找他们的”，紧接着又抛出“比618、双十一还便宜”“不好都给我退回来”之类的促销话术，一步步诱导消费者下单。熟悉的语气、熟悉的脸，配上熟悉的促销套路——如果不是本尊亲自出来辟谣，普通人很难一眼分辨真假。
这件事之所以让人后背发凉，恰恰在于它的“低成本”与“高迷惑性”。过去造假还需要剪辑、拼凑，如今只要声音和形象被采集，AI就能批量生成一个“替你说话”的分身。明星尚且能靠本人发声及时止损，那些信了视频、下了单的消费者，又该找谁去要个说法？
吴越那句“请如数奉还”，问的是“花姐”，其实也是问给所有人听的：当一张脸、一个声音可以被随意复制粘贴，被冒用的不只是演员本人，还有屏幕那头每一个选择相信的人。技术的门槛在降低，作恶的成本也在降低，而“眼见为实”这四个字，正在变得越来越不可靠。
一觉醒来，谁在利用AI替自己做恶？这个问题，恐怕不只是吴越一个人想问。
编辑：文小娱
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
