![]()
近日刷短视频时,有没有看到一个名叫“小海”的苦孩子?他出生贫寒却自强不息、充满正义感,还一口一个“姨姨妈妈”,向屏幕这头素不相识的网友问好。小海的经历让很多“姨姨妈妈”心疼不已,更有年近八旬的老人千里迢迢乘坐火车,想去探望他。
然而,小海是“它”不是“他”——它由AI生成,是最新卖惨营销剧本中的主角。
此前,已有大量卖惨摆拍视频被监管部门和平台整治。照理说,小海也是卖惨摆拍,为什么能逃避监管,形成刷屏效应?又为什么骗取了那么多“姨姨妈妈”的同情心?
“小海”是谁?
如今,在短视频平台搜索“小海”,不再是卖惨小海,而是官方媒体发布的提示内容,提醒网友小海是AI生成的形象。不过,从媒体引用的原视频可以还原此前刷屏的小海形象:长相清秀,穿着朴素,经常对着屏幕喊“姨姨妈妈”。
这些小海在不同场合展示自己窘迫的生活,以及懂事、心疼长辈的特点:中秋节的晚上,小海眼含热泪,在没有人的教室啃馒头,一边吃一边说:“我还买了个肉包,是给姨姨妈妈的”;在田间为长辈分担农活,小海来不及擦去额头的汗珠,就对着屏幕说:“姨姨妈妈,我请您吃”……
![]()
不同账号发布的“小海”,其实AI生成的痕迹很明显(网络截屏)
在记者看来,这些视频带有很浓的“AI味”,包括人物和场景细节粗糙、情节漏洞百出。可仍有不少网友将小海当成真人,在评论区留言“好孩子,太让人心疼了”“你没钱吗?姨姨给你打点钱,吃好点”……
“相关视频存在明显的AI生成痕迹,既与发布者的制作水平有关,也可能是发布者用这类视频来‘筛人’。”从事社交账号代运营服务的王先生解释,能一眼看出小海是“假”的网友不是这类账号的围猎目标,而那些信以为真的网友往往具有“富有同情心但缺乏防备心”的特征,所以被视频发布者相中,然后被精准引向下一步——购买小海推荐的产品。
在带货视频里,小海变成了“贴心晚辈”,用“姨姨妈妈,要对自己好一点”“姨姨妈妈,支持一下小海”等话术,诱导网友下单。
业内人士指出,“小海”代表了卖惨营销的技术升级。以前,卖惨营销需要选择场地、找人摆拍,甚至要培训演技。但现在,几元钱就能买到全套的AI虚拟人模板和营销话术,批量生出成百上千个“小海”,一个人能同时运营几十个账号。但AI虚拟人卖惨带货与真人卖惨带货在法律定性上没有本质区别,都涉嫌欺诈,账号运营者应当承担法律责任。
为什么会有“小海”?
卖惨营销历来有之,真人版的“苦情戏”“假慈善”已被治理过多次。但“新瓶装旧酒”的小海说明,现有针对卖惨营销的治理方式仍有短板。
一方面,部分上了年纪的网友对AI生成技术及“内容由AI生成”标识不太熟悉。
记者看到,很多小海视频的页面都带有“AI生成”水印,有的视频发布账号名称里就包含“AI虚拟人”等提示。但有老年网友表示,他们对“AI生成”的理解与法律法规介绍的有差异。
已经退休的市民李女士经常与“小姐妹”分享各自喜欢的短视频,但坦言经常错过“AI生成”标识,“短视频节奏很快,画面细节多,主角、场景、字幕甚至弹幕,根本看不过来,很多平台的‘AI生成’水印不太明显。我自己就闹过几次笑话,把AI生成的视频当成真人演的视频。”
她还和小姐妹们错误理解了“AI生成”的意思,“我们以为部分场景无法拍摄,用AI生成,所以才打这个标签,觉得就像很多电影那样,是真人与虚构场景结合的结果。直到现在AI短剧越来越多,我们才发现,就连人物也是AI生成的。”
她推测,相信小海的人群中应该有不少与自己类似,“我们对短视频已经不陌生,但对技术的发展水平、造假手段的升级还不够了解。”
另一方面,平台针对卖惨摆拍的治理仍旧采用“打地鼠”式的事后补救模式——先有举报,才有响应。
类似小海卖惨等短视频,在发布初期通常不含推销内容,而是主打情感陪伴,与粉丝建立信任。这些视频又按规定标注“AI生成”,所以平台已有的管理机制未能及时识别。等到问题视频或套路被曝光时,小海们已经割了一批“韭菜”。
同时,AI生成降低了复制成本,使得平台治理的可持续性遭遇挑战。眼下,虽然小海被曝光了,很多账号也被封停了,但别有用心者利用AI技术,可以迅速换脸不换套路、换号不换话术,生成新的“小山”“小河”“小川”,导致违法营销屡禁不止。
最后,小海屡屡得手,还与情感空巢有关。综观近年来针对老年网友的短视频骗局,能发现很多都瞄准他们的情感需求:除了卖惨营销外,还有“霸道总裁”“暖心弟弟”等人设,都是瞄准生活孤独、缺少有效陪伴的老年人。复旦大学老龄研究院教授申琦通过调研提出,不少老年人陷入AI虚拟人设的情感叙事,并非判断力低下,而是现实世界里可供倾诉、共情的社交选择本就稀缺。
怎样预防下一个“小海”?
“眼下,很多AI短视频能被识破,是因为技术有缺陷,生成的结果不够完美。但要看到,随着AI短剧的发展,越来越多的AI生成结果可以用‘以假乱真’来形容。当我们肯定AI短剧的进步时,有没有想过,不法分子会用同样的技术,围猎上了年纪的用户?”业内人士认为,用错方向的AI生成,将造成更加严重的后果。
预防下一个“小海”,应当是从技术到内容的全面防控。
专家指出,用技术手段提高老年网友数字素养,仍有不少空间。比如,平台不仅要落实“AI生成”标识规范,还可以通过各种形式告知老年网友,这类标识意味什么,做好风险前置提醒。再如,通过算法推荐,将反诈宣传送到高风险老年群体的手机上。“平台有技术能力识别视频下的评论和老人的购物行为。这些数据可以成为精准提醒的基础。先为高风险老年群体‘画像’,再通过后台自动预警、算法推荐等,有助于防患于未然。”
在内容方面,要关注不同形式的摆拍营销。卖惨、炫富、投诉等都是社交平台的“流量密码”。在某种程度上,这些“流量密码”就好比“旧瓶装新酒”里的“旧瓶”,而类似“懂事小海”“霸道总裁”“暖心弟弟”等人设,则是瓶里的“新酒”。想从根本上杜绝摆拍欺诈,不能等到举报出现再下架视频,而是要提前识别这类套路化的叙事人设,提前掐断流量变现的链条。
申琦认为,想要堵住AI生成骗局的生存空间,还应当从技术设计到情感支持双向发力。
在技术层面,多想想老人到底要什么。有晚辈为了避免老人上当受骗,选择不让老人用数字产品,这种因噎废食的做法,只会适得其反,导致老人在自我摸索时遭遇陷阱。此外,在设计数字化应用“关怀模式”时,应更贴合老人生活场景和实际需求,而不只是简化功能,把“关怀模式”变成另一种困住老人的数字藩篱。
在情感层面,则要警惕“远程陪伴也是陪伴”的误区。有些晚辈觉得,配齐智能设备、装上监测工具,就等同于完成陪伴。这种用机器代替真人相处的想法,反而会拉开和长辈的距离,将长辈推到虚拟世界。说到底,数智养老不该让算法替代真实陪伴,而是让技术成为亲情之间的桥梁,补上现实中的情感缺口,从根源上减少虚假AI人设乘虚而入的机会。
原标题:《刷屏的苦孩子 “小海”是谁?“姨姨妈妈”为何同情“小海”?》
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.