河南
10月18日凌晨3时许，演员吴越发文怒斥视频号“花姐美肤日记”用AI伪造她的形象、声音直播带货。舆论发酵之后，该账号被平台永久封禁。
AI工具用来做创意、做科普都没问题，但拿来冒充名人带货就越了界。现在不少普通人刷到短视频，看见熟悉的面孔、听着熟悉的声音，很容易就信以为真。商家想蹭名人效应引流可以理解，但前提是要有授权，而不是商家敲敲键盘、点点鼠标，AI“换张脸”就可以拿来当带货招牌。明明不是代言人，硬是包装成“我主动找来的好物”，被戳穿了才匆匆下架，这是在用技术作恶，挖坑诱导消费者。
@吴越 微博截图
没被明星曝光前，面对质疑，这类账号往往只需在角落塞一行极小的“含AI生成内容”提示。这行小字不是善意提醒，更像预先准备好的挡箭牌。真要是坦诚标注，就该醒目告知观众“画面为AI模拟，并非本人推荐”，而不是藏在缝隙里，等着出事以后拿出来证明“我已经说了”。这种提前打补丁式的合规，骗得过机器审核，骗不过大众的眼睛。
整件事最让人不是滋味的是：如果不是吴越深夜站出来公开质问，这条带货视频很可能还在不停推送，继续把网友蒙在鼓里。很多普通消费者被“假明星”误导购买商品，也许都不知道自己其实被骗了；而换作没有那么大影响力的普通人被AI换脸，难道就只能吃哑巴亏了吗？一次又一次“明星发声——舆论沸腾——平台封号”，与其说是处置有力，不如说是治理还在被动“等举报”。
吴越“被AI”带货事件更要警惕背后已经跑通的灰色套路。当商家在网上花很少的钱就能找到AI换脸、换声服务，模板复制粘贴，换个名人就能再开一个号，这类事件只会了层出不穷。封号只是关掉其中一个违规账号，只要溯源追责没有跟上，“花姐美肤日记”倒下，还会有别的账号冒出来接着干。
吴越遭不法商家“盗脸”带货视频截图
平台手握审核和流量分发的权力，不能总是等到舆情烧起来才动手。不能把“AI内容提示”当成全部责任，对明显伪造名人形象进行商业引流的视频，要有更早发现、更早拦截的机制，不能让造假内容轻轻松松拿到流量。
公众对AI的接纳，建立在“技术不作恶”的信任之上。名人有维护自身权益的权利，消费者也有不被AI骗局收割的权利。别再让每一起AI换脸带货风波，都要等到明星出来喊话才踩下刹车。
对此你怎么看？
欢迎评论区留言讨论~
来源： 大象新闻、澎湃新闻
监制：徐娜赵宇|主编：户明方|编辑：党霞
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
