你敢信吗?你刷到的带货直播里,脸熟的明星可能根本没坐在镜头前,他们甚至在家补觉,脸和声音就被人扒走,对着镜头喊姐妹薅羊毛。不少人真金白银花了钱,等回过神来才发现自己上了AI造假的当。这种事最近终于等到了官方出手的实锤消息,牵扯出来的猫腻比所有人想的都多。
![]()
这事最早闹开是十月中旬,演员吴越半夜醒了刷手机,发现全网到处都是自己坐在镜头前带货的,卖一款她半点儿都没接触过的精华液。她当场发微博隔空喊话做假的花姐账号,赶紧把骗来的钱全退给受害者。这条微博俩小时就冲上热搜,大家都傻了,平时很少出现在带货场景里的实力派演员吴越,怎么突然搞起直播卖货了。
不少人对吴越的印象还停留在我的前半生里的凌玲,或是县委大院里的艾鲜枝,2023年她还拿过白玉兰最佳女主角,实打实的国民度超高。谁能想到她半点儿没沾的带货,口型对得上,声线还原度超高,连平时抬手捋头发的小细节都复刻得七八分像。做的人就是扒了她之前所有公开影像素材,用AI拼出来个完全不存在的假人。
![]()
角落还藏着行特别小的字,标注含AI生成内容,不仔细盯着看根本找不到,就像商家贴在犄角旮旯的内有监控告示,贴了等于没贴,根本挡不住不知情的消费者下单。发的那个花姐美肤日记账号,不光冒用吴越,后续还切了仿冒邓亚萍的脸接着卖同一款产品,邓亚萍团队当天就出来回应,从来没授权过任何AI形象做商业推广。
后来平台第一时间出手,把这个账号永久封禁,所有内容全清空。好多人以为这事到这就结束了,可账号封了,那些花出去的钱退回去了吗?吴越当初在微博里问的那句请如数奉还,根本不是情绪宣泄,是实打实给七千多个受害者追账呢。之前媒体统计过,这款精华不到一个月卖了七千多单,粗算下来销售额快五十万,七千多消费者,好多都是冲着吴越的名气下的单。
![]()
封一个花姐根本动不了这门灰色生意的根基,吴越也不是第一个被AI借脸带货的公众人物。2025年4月,演员温峥嵘半夜收工回住处,刷手机刚好刷到好几个直播间里的自己在带货,妆发不一样,卖的产品不一样,说的话术却几乎一模一样。她进直播间问了句话,当场就被主播拉黑,后来她跑了好多流程取证,年底才晒出立案告知书,公安已经刑事立案。她之前受访的时候吐槽,最难的环节居然是要证明自己是自己。
更早踩坑的公众人物数都数不过来,靳东的脸被仿冒专门坑中老年粉丝,全红婵的声音被克隆拿去卖土鸡蛋,张文宏的脸被合成进深夜直播间卖蛋白棒。只要你有国民度,大家对你的脸有信任感,分分钟就会被人扒走放进直播间变现。这些公众人物有团队有律师,维权都要靠发微博上热搜走流程,更别说普通消费者,被骗了之后连维权的门都摸不到。
![]()
整个骗局的受害方两头都亏,被冒名的明星平白无故名声受损,真金白银下单的消费者买到的都是不知道什么来路的三无产品,尤其是平时不太懂智能手机操作的老年人,他们只认眼熟的脸,根本注意不到角落那行小字。这根本不是什么简单的肖像权侵权纠纷,是一套完整的骗人流水线。
上游有人批量扒素材做AI假,中游养一堆账号铺到各个平台引流,下游挂购物链接开空壳店铺收款,封一个花姐,后面还有大把花哥花婶等着补位。直到11月6日官方通报发出来,大家才看清这套骗人流水线里藏着多少张面孔。除了假冒公众人物带货,还有人用AI造公众人物得阿尔茨海默症的谣言,冒充明星本人发内容诱导粉丝关注,甚至合成低俗画面搞恶意恶搞。微信小红书快手哔哩哔哩这些主流平台,都出现过类似的违规内容。
这次是新华社发的官方消息,记者从国家网信办拿到的信息,针对这段时间泛滥的AI假冒公众人物带货吸粉的乱象,网信部门督促各个平台集中整治,前前后后清理了4.7万多条违规内容,处置了3961个违规账号。别看数字不算特别夸张,这次的整治力度可比之前大太多。
![]()
之前大家处理这类乱象,最多就是封个账号完事,这次通报里明确说了,对问题特别突出的平台,会按法定程序直接查处。光割账号这茬野草没用,藏在底下的平台土壤不翻整,下一茬坑人的账号分分钟就长出来。
相关的规则早就落地了,深度合成管理规定和AI生成内容标识办法早就开始实施,要求各个平台必须开专门的投诉渠道,所有账号落实实名认证,涉及AI商业推广的内容必须走重点审核流程。9月底中央网信办还启动了为期两个月的专项行动,明确说不许拿AI生成当违法违规的挡箭牌。
![]()
律师也给大家把理讲得明明白白,央广网采访的律师明确说,没经过本人同意就用AI伪造他人形象声音带货,妥妥的营利性侵权,打着明星推荐的旗号卖货,还侵犯了对方的姓名权。角落那行标注AI生成的小字,根本不能当免责金牌,只说明了内容是AI做的,回答不了有没有授权、产品是不是真的这些核心问题,半点都免不了责。
从广告法层面说,这种行为属于虚假广告,最高可以罚违法所得五倍的罚款。要是虚构明星代言骗钱,金额够大的话,直接就能算成诈骗罪。现在这种单款产品卖几十万的规模,真要查实了妥妥触及刑事红线。
另一位律师还给普通消费者指了明明白白的维权路,发现被骗先录屏截图固定证据,必要的时候用区块链存证留底,先找平台投诉要求下架违规内容,让平台提供侵权账号的真实注册信息,同时直接给网信部门举报,最后走法律程序起诉索赔。你要是因为信了假的明星代言下单被骗,完全可以按消费者权益保护法的规定,要求商家退一赔三,拿惩罚性赔偿。
![]()
好多普通消费者之前根本不知道自己有这么多条维权路径,被骗了只能自认倒霉。这类骗局瞄准的从来不是什么懂行的年轻人,是那些平时看电视剧看新闻,对公众人物有信任感的群体,尤其是家里的长辈。他们不会仔细扒资质查授权,就看屏幕上的人脸熟,直接就下单了。
平台也不能把那行小小的AI生成标识当自己的免责说明书,假直播间被算法推给老人一次可能是误判,推一万次那就是平台故意的选择。做子女的平时别光往家族群里转没用的辟谣文章,多帮家里长辈筛一筛陌生的直播间,跟他们说清楚,明星根本不会蹲在不知名的小直播间里喊家人们抢福利,比你讲十遍大道理都管用。
![]()
吴越这事的最大意义,根本不是一个明星给自己出了口气,是把藏在暗处好久的灰色造假产业链直接摆到了台面上。三千九百多个违规账号被清掉,背后还不知道藏着多少没被揪出来的花姐在暗处搞小动作。技术本身从来没什么对错,拿着AI技术去坑人的那些人,欠下的账迟早有一天要算清楚。我们都盼着那一天早点来,别等更多长辈攒了好久的养老钱,莫名其妙变成陌生直播间里的限时秒杀销量。
参考资料:新华网 网信部门严查利用AI技术假冒仿冒公众人物问题
央广网 费权说法丨吴越怒斥“吴越”骗钱!律师:典型虚假广告,AI伪造代言严重者涉刑
央视网 新闻周刊|AI换脸明星带货泛滥,维权难点到底在哪?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.