10月11日,据江苏新闻、央视网等报道,音乐家刘欢离世不到半个月,社交平台上就冒出了一批“家属”——“刘欢妻子卢璐”坐在镜头前,声音颤抖地说着“老刘他走了”,转头就推荐起了“黄精五黑粉”。
![]()
对此,当事人卢璐已留言做出回应。
![]()
更离谱的是,“刘欢儿子”也来了,视频下方同样挂着购物链接,卖的也是同款产品。
但这还不是全部。小沈阳的儿子、“赵本山的前妻葛淑珍”“冯巩的妻子”……一连串“名人亲属”如雨后春笋般冒出来,用AI生成的形象和声音,干着同一件事:卖“黄精五黑粉”。
![]()
![]()
![]()
![]()
这些视频的套路高度雷同:前半段讲故事打感情牌,后半段挂小黄车卖货。
以“刘欢妻子”的视频为例,它引用了刘欢生前的表演片段,配以AI合成的“妻子”声音讲述临终情形,获得数万网友点赞、上万次转发。视频页面虽然有小字标注“内容由AI生成”,但仍有大量网友信以为真,在评论区留言安慰。
![]()
从部分视频发布者挂出的商品链接可见,带货的“黄精五黑粉”生产企业为安徽滋逸堂药业有限公司,工商信息显示,该公司连续多年0人参保,注册资本仅50万元。对此,涉事企业回应称,并不知晓某些账号冒用身份带货行为,称由平台账号所属博主自行挂载视频链接,会把这些相关信息反馈给领导。
当记者联系涉事产品所属店铺时,客服的第一反应是提醒“不要信”。店铺负责人则表示:“应该是他们(视频发布者)自己挂的,他们怎么说,我们也管不了,这得平台管。”截至目前,除了“刘欢妻儿”带货视频下架外,仍有冒充名人家属的AI带货视频留存在平台上。
![]()
而平台方的回应更耐人寻味——客服人员表示,需由权利人或其家人进行举报,平台才会处理。意思就是:没人举报就不管。
商家把责任推给平台,平台把责任推给权利人。一个完整的“甩锅闭环”就此形成。而在这过程中,观看视频的消费者、被“消费”的名人及其家属,反倒成了最没有话语权的一方。
针对这一乱象,江苏苏博律师事务所吴波律师认为:
第一,已构成侵犯肖像权和名誉权。未经权利人同意,擅自使用其形象进行商业推广,违反《中华人民共和国民法典》第一千零一十九条关于肖像权保护的规定。同时,利用名人亲属身份进行带货,可能使当事人信誉受损,构成对名誉权的侵犯。
第二,已构成消费欺诈。借虚构人设利用公众信任诱导消费,消费者可依据《中华人民共和国消费者权益保护法》第五十五条主张退一赔三。市场监管部门也可依法作出行政处罚。
第三,平台未尽审核义务。平台没有建立有效机制来识别和拦截AI生成的“名人亲属”带货内容,也未要求发布者取得权利人同意。平台如未及时采取必要措施,需对扩大的损失承担连带责任。
第四,产品质量缺乏审核。平台对带货产品是否合格负有基本审核义务,不能以“达人自行挂链”为由免责。
第五,标注“AI生成”并不能免责。即便视频标注了“内容由AI生成”,仍不能改变其伪造身份、欺诈消费者的本质。
央视网指出,当下,AI换脸换声的工具随处可见,拿公众人物的名望做虚假背书,仿冒账号批量造假,早已是分工明确的灰产生意。这已经触碰人格权侵权、虚假宣传、消费欺诈多条法律红线。
但每次被追问这类乱象的治理责任,相关平台习惯性搬出“避风港原则”作为挡箭牌。该规则原本是保护不知情的“技术中立”服务商,只要接到通知、及时删帖,就能免除相应责任。
面对涉政、涉恐这类强监管内容,平台依靠成熟的人脸识别、语义识别、风险预警技术,能够做到精准研判、即时拦截;可仿冒名人带货这类灰色内容,多数平台倾向于降低风险敏感度,采取“不告则不理”的消极态度。可见,平台审核松紧,不是能力问题,而是选择问题。
骗子固然是明面上的操作者,但真正支撑起这套骗局的,是平台“重收益、轻治理”的底层逻辑,风险甩给用户和社会,利润留在灰色链条上。这样的账本不变,删再多号,也是按下葫芦浮起瓢。
平台兼具商业与社会双重价值,它是公共文化空间、公众情绪的承载者。放任消费逝者、欺诈大众的内容传播,会侵蚀社会信任、践踏公序良俗,带来实实在在的社会成本。平台不能只算经济账、不算社会账,独享收益却把乱象代价转嫁给全社会。
平台之外,监管层面,有必要进一步明确将AI仿冒名人带货纳入强监管清单,要求平台对涉名人带货账号实行实名核验与主动标识,举证责任从“通知后删除”转向“发布前审核”。司法层面,鼓励、支持逝者近亲属依人格权主张精神损害与财产损失赔偿,对恶意牟利者适用惩罚性赔偿,从而形成真正的震慑。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.