小红书“AI代写种草笔记”第一案：何以重塑社会认知的基础？

近日，央视新闻报道了全国首例AI代写“种草笔记”不正当竞争案的宣判结果。

据央视报道，国内知名生活分享社交平台运营方(原告)起诉B公司、C公司(被告)不正当竞争侵权。经浙江省杭州市中级人民法院审理认定，被告B公司和C公司运营的AI写作工具，以“一键生成爆款”为噱头，定向为用户提供某社交平台风格的虚假种草文案，诱导用户发布非真实体验内容，破坏了平台真实内容生态，构成不正当竞争，判决被告赔偿原告10万元。

虽然在报道中用“小某书”的字样(也就是原告)，但大家都知道这里的小某书就是小红书。

从绝对金额和影响力来看，这个案子很小，但它的意义很大：作为国内“AI代写种草笔记”第一案，标志着生成式AI在商业应用上的野蛮生长时代似乎要结束了，即将迎来它的法治时刻。

作为一名长期观察互联网内容生态的从业者，有媒体问我怎么看待此事，我说它不仅是一个法律判例，更是一面镜子，照出了当前AI技术应用中的种种乱象，以及平台、监管和我们每一个内容消费者所面临的共同挑战。

01

判例的意义：

AI不是法外之地，

虚假就是虚假

首先，我们必须为小红书的这一举动点赞。

在过去两年里，AI批量生成“种草笔记”、运营矩阵账号的现象，可以说是遍地开花。很多平台对此也是睁一只眼闭一只眼，毕竟海量的内容带来了可观的流量。久而久之，我们甚至有点习以为常了，觉得这不过是技术进步的必然代价。

但小红书打响了这“第一枪”，而且打得有理有据，理直气壮。

这个案件的典型性在于，它清晰地划出了一条红线：工具无罪，但使用工具作恶有罪。

AI本身是个好工具，咱们日常用AI来辅助生成文案、激发灵感，一点问题都没有。但问题出在哪?以这个案子为例，出在两个致命环节。

第一，生成虚假内容。这些被代写的“种草笔记”，往往不是基于真实体验，而是为了“种草”而编造的。它们可能是夸大其词，可能是无中生有，其本质就是虚假信息。AI在这里扮演的，不是效率提升者的角色，而是虚假信息的批量生产机器。

第二，引导用户发布虚假内容。这些提供代写服务的公司，不仅仅是提供了一个工具，它们还在教唆、引导用户去发布这些非真实的文案，以此来谋取商业利益。这就从单纯的工具提供方，变成了虚假内容产业链的共谋者。

所以，这个判决的意义非常重大。它向市场传递了一个明确的信号，AI不是法外之地。我们鼓励AI技术的加速应用，但前提一定是遵规守法。任何试图利用技术外衣来包装、放大传统违法行为(如虚假宣传、商业诋毁)的尝试，都将受到法律的严惩。

这起案件也意味着，我国将进一步明确生成式AI商业应用的法律边界。从几年前的《生成式人工智能服务管理暂行办法》，到这两年不断细化的平台审核机制，再到如今的司法判例，监管的脉络越来越清晰，技术可以创新，但底线不能突破。

02

乱象必须治理：

社会认知的基石被动摇

为什么这种种草乱象会如此猖獗?答案很简单：成本太低，收益太高。

我认识一些做AI批量账号的公司。他们往往有很多台机器，大规模操作，一天可能写几十几百篇文案，然后批量地发送到小红书、抖音等平台上。一个账号可能一天哪怕赚几毛钱，但几百个几千个呢?加起来就是一个很可观的收入。

也就是说，有这种乱象，本质上是商业利益所驱使的。

我周围也有一些客户鼓励我做小公司，承诺给我投放云云。也都在说明，小红书是一个蕴含商机的平台，自然会被人盯上。

这种乱象，于内容生态和消费者信用的伤害是巨大的。试想一下，当你满怀期待地点开一篇“亲测好用”的推荐，结果发现背后只是冷冰冰的算法堆砌出来的文字垃圾，那种被欺骗的感觉会极大地消解用户对平台的信任。

如果说商业诋毁和虚假宣传是直接的经济犯罪，那么AI生成内容所带来的认知污染，则是一种更隐蔽、更长期的社会危害。

尤其是很多不懂互联网的老年人，或者是我们的孩子、少年儿童，他们无法分辨这种真实虚假的边界。他们会以为，用AI生成的这种评测内容和那些种草带货内容是真实的。

所以，我们这两年经常会听到这样一种声音“别相信小红书，上面很多东西都是骗人的”“小红书上人均收入100万，脱离现实”。这种认知发酵，小红书自身也成为了受害者。

举个例子，这段时间追觅的创始人俞浩连续多日痛斥小红书，就是因为追觅长期被大量集中差评 / 黑稿困扰、申诉无效。而这些抹黑追觅的虚假内容，有相当一部分就是不法分子用AI工具生产的，然后发到了小红书。可是，小红书在这个过程中得到了什么?他们其实也不愿意看到这种垃圾黑稿发酵。

在追觅控诉小红书的这个事情中，追觅和小红书双方都是受害者。可悲的是，现在小红书承担了炮火，掩护了那些不法分子的撤退。

前几天，我还去参加一个学习机行业的活动，也是被这些AI工具生成的大量虚假文案诋毁抹黑，已经到了不得不治理的企业地步了。所以学习机行业的几大巨头聚在北京，探索解决的办法。

我和媒体朋友说，当我们的青少年看到满屏的虚假好评或恶意差评时，他们的价值观会被扭曲，他们对世界的认知会被污染，这是非常非常可怕的。

所以，治理这种乱象，不仅仅是为了保护企业的商誉，更是为了保护我们对社会认知的基石。

03

破局之道：

技术+人工的双重防线

面对如此汹涌的AI生成内容，治理的难度确实很大。从去年开始，各大平台其实已经在加大力度治理这个问题了。

以字节跳动为例，它的审核体系既有AI审核，也需要真人审核。光真人审核团队就有数万人，分布在头条、抖音、TikTok等平台。原因很简单，虚假内容太多了，光靠技术已经无法完全识别。

所以，当下的策略是“技术加人工”的双重防线。

首先，法律法规要先行。有关部门要做到有法可依、执法必严。这次小红书的胜诉是一个很好的开端，它确立了判例，让后来者有例可循。

其次，平台要强化审核机制。光靠技术识别AI生成的痕迹已经不够了，必须引入大量人工审核。小红书内部也有一支庞大的真人内容审核团队，对内容进行分级分类处理。但是目前看来这个工作不够，小红书平台抹黑追觅等企业的内容依然很多，需要小红书建立一套完善的审核标准。

最后，要构建事前、事中、事后的全链路治理体系。事前有准入机制，事中有实时监控，事后有惩戒措施。对于利用AI生成虚假内容的账号，要进行封号、限流等处理;对于提供此类服务的第三方公司，要追究法律责任。

总而言之，AI技术的发展不可阻挡，但我们不能任由它成为虚假信息的温床。这起全国首例AI代写案的宣判，不仅是对违法者的惩戒，更是对整个行业的警示。只有当技术创新、法律监管与平台治理同频共振，我们才能构建一个真实、健康、可持续的内容生态。