湖南
张书乐 人民网、人民邮电报专栏作者
形同虚设的AI伴侣“防线”，
将迎来监管火力加强版。
上有政策、下有对策，在AI领域也成为了一种套路。
7月15日晚，豆包、千问智能体相继下线。
《人工智能拟人化互动服务管理暂行办法》当天起正式施行，首次为情感陪伴类AI划下监管红线。
北京日报记者调查发现，新规落地首日，AI陪伴应用仍有不少漏洞。
部分平台的AI标识几乎隐身，部分智能体人设引发担忧。
《人工智能生成合成内容标识办法》于2025年9月正式生效，要求服务提供者对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。
《人工智能拟人化互动服务管理暂行办法》也规定，拟人化互动服务提供者应当采取有效措施，提示用户正在与人工智能服务而非自然人进行互动。
与此同时，“猫箱”“星野”“筑梦岛”“芋泥Neko”等多款应用成为讨论热度最高的新去处。
这些应用定位高度一致，都是AI陪伴应用，用户可以设定对方的外貌、性格、身份背景，也可以通过对话逐步塑造对方的行为方式。
平台换了，问题却跟着用户一起“搬家”了。
南方都市报记者实测发现，AI虚拟伴侣平台“喵呜小手机”登录流程中新增了实名认证，用户必须输入真实姓名及身份证号后，才能正常登录使用。
然而，南都记者注意到，“喵呜小手机”的系统角色中，仍存在大量含“性感黑丝”“袒露胸部”“蕾丝内衣”等低俗擦边的女性角色形象，且用户与部分角色的聊天过程中依然充斥着性暗示话语。
除了系统预设角色，“喵呜小手机”平台还公开了大量用户创作的角色，其中不乏穿着暴露、姿势动作带有明显挑逗意味的形象，有的角色设置为16岁未成年女孩。
其他用户可以直接选择这些公开的角色“添加到联系人”，此类自创的角色聊天则更为露骨，甚至出现“亲妹妹与哥哥谈恋爱”的情节。
另据北京日报·长安街知事报道，新规落地首日，AI伴侣应用连续聊4小时也收不到一条防沉迷提醒，大量涉及敏感角色设定的智能体仍在运行。
《人工智能拟人化互动服务管理暂行办法》明确，发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。
此外，一些AI伴侣应用中精密设计内置付费节点。
以“星野”为例，北京日报记者与一个新智能体对话超过10轮时，页面突然弹出“系统更新”提示，逐级点击之后要解锁相应内容，需要支付400钻石。
该记者换算了一下，400钻石折合人民币4元。
类似的付费点贯穿整个互动过程，每个剧情节点、每个隐藏信息，都等着用户充值解锁。
这类具有强游戏属性的拟人化互动服务，在防沉迷和防止过度诱导消费方面，监管部门应如何界定？
在未成年人AI陪伴沉迷问题上，平台应当承担哪些具体责任？
对此，北京日报·长安街知事记者袁璐和书乐进行了一番交流，本猴以为：
形同虚设的AI伴侣“防线”，将迎来监管火力加强版。
不得不说，AI智能体的情感陪伴或某些泛娱乐智能服务，本就是必然从初期的语音聊天，进阶到类似网游“打怪升级”的形态。
毕竟，AI陪伴的常规模式并没有多少难度和诱惑，只能通过“游戏”进一步形成差异化和获得更强的用户黏性，并开辟付费场景。
不过作为一种新兴事物，且具有快速迭代的特征，它这种“游戏进化”来的太快，也自然没有被纳入类似版号管理以及相应的防沉迷设定之中。
AI智能体运营和有效监管之间，必然存在一个“空挡”。
加上智能体此前有用户生成内容的特征，监管部门与其将其纳入网游体系管理势必更难。
但新规出台后，平台上的智能体会回归平台“自造”和有限的专业生产内容。
监管部门可以进一步进行权责划定，要求其纳入未成年人防沉迷的体系之中，并对充值消费的场景进行细分。
对于确需付费的智能体，在审核通过后，采取明码标价的“订阅制”付费模式（可根据用途层级划分价格段，类似豆包付费）。
而在现阶段场景不够明晰的当下，暂时禁止部分智能体“开局免费使用、付费解锁新功能”。
平台方则需要加大对继续留存于平台上的智能体的审核与巡查力度。
如此一来，即可确保相关其输出内容合规合法，付费场景不走向游戏诱导，以及按网络防沉迷的通用规则，防止未成年人沉迷。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
