《利剑玫瑰》豆瓣锁分有感：“流量密码”催生的AI黑灰产｜微杂谈

AI的应用是便捷，不是变滥。

今天你用AI了吗？年初DeepSeek的爆火，为生成式AI的广泛应用彻底拉开了序幕。而这种应用，在带来便捷的同时，也衍生出了新的问题，比如，虚假信息遍布，且难以分辨真假；水军信息充斥，且避无可避。那么，为什么会出现这种现象？企业该如何应对？作为冲浪的我们，该如何识别信息？

首先，我们先来看看AI应用的错误“示范”。

近期的电视剧《利剑玫瑰》大家看了吗？前几天，话题# 与# 先后登上微博热搜榜，而此前，也就是8月7日下午，豆瓣电影发布了《关于处理水军养号》的公告，公告称，发现有一批账号存在明显的养号行为，发布了大量垃圾内容，其中一些垃圾内容疑似使用AI生成。

此外，还有香港大学一男学生用AI制作女同学色情照（知微事见影响力指数64.9）；央视曝光假非遗传承人是AI生成（影响力指数65.8）。短剧《特朗普爱上在白宫当保洁的我》，被证实是这部剧压根不存在，关于该剧的视频均是AI生成的画面，以及美国某档综艺节目里的画面。但该话题却带来了“泼天的流量”，原发文章阅读量10W+，多家主流媒体跟进报道。

为什么会出现这种现象？

1. 为了起号/养号。借助AI工具，内容生产的成本约等于零，批量生成文字、图片、短视频不是梦。今年3月，《解放日报》就曾发布调查报道称，单条发布的成本低至1厘，一人可操控6000部手机，应对热点新闻，48小时炮制并发布4000多条有害信息……这是“AI水军”的战绩。

2. 为了流量。以明星、名人或知名企业为主角杜撰信息，博取关注产生流量获利。蔚来工作人员曾向媒体表示，企业曾见过疑似AI改写同一内容、相同配图大量水军账号分发，来抹黑企业的情况。

3. 为了竞争。不管是为自己的爱豆，还是为了自己的雇主，好评和拉踩都变得相当轻松且有效。因此，不止《利剑玫瑰》，很多影视剧综都遇到过类似情况。

如何整治？

今年以来，央级媒体对AI滥用现象给予了高频率关注。5月和本月，央视与新华社先后报道了AI造假起号和AI起号乱象调查。不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。

监管层面，今年4月，中央网信办部署开展“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象开展重点整治；7月24日起，中央网信办在全国范围内又启动了为期2个月的“清朗·整治‘自媒体’发布不实信息”专项行动。同时，多家互联网平台也发布了专项治理公告，重点整治AI批量造假、AI起号引流带货、转让销售AI虚拟账号等违规行为。

• 专家建议：对AI技术滥用的治理，需要多方共同打击违规行为。技术提供者强化技术的安全性和合规性研发，提供技术支持和解决方案；平台提高对深度伪造内容的检测精度，进一步完善相关规则，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号主体加大处罚力度。

企业、明星、名人该如何应对？

面对高强度、碎片化的负面攻击，除了加强舆情监测外，还可以：

01

及时辟谣

发现AI生成的虚假内容，企业要在第一时间发布真实、准确的信息进行澄清。

02

法律维权

依据《生成式人工智能服务管理办法》《人工智能生成合成内容标识办法》等，采取法律手段维护自身权益。

03

增强自身公信力

不管是明星、名人，还是企业，都需要建立良好的形象，使自身具备良好的口碑，从而产生一定的公信力，以降低AI生成的虚假内容对个人和企业声誉的影响。

冲浪的我们如何识别相关信息？

作为接收信息的我们，也需要具备一定的甄别能力，不做有心之人的“情绪助力器”：

01

看来源

判断信息发布者是否为可靠的、经过平台认证的权威机构、媒体或个人。

02

看标识

部分网络平台已经开始对AI生成内容进行标识，大家可以在浏览内容时要注意查看是否有相关标识。

03

可验证

不仅凭单一信息就做出判断，可通过多个渠道对信息进行核实，如：权威机构、媒体等。

结语

生成式AI工具的使用，在提升效率的同时，也放大了企业和个人的声誉风险。未来，在高频率的舆论监督下，从监管到技术发展，网络环境会愈发清朗。在此之前，遇到情绪煽动性较强的内容时，我们可以先冷却24小时，看看事态发展，验证下真实性，再决定是否分享。

如需各行业相关分析报告或咨询服务，请扫码添加“知小微”，也欢迎加入营销、公关专属社群进行交流。

封面图源：@电视剧利剑玫瑰官微

知微舆论场

知微事见

知微危机案例库