一款交友App里,每四个匹配对象,三个是AI。
剩下那个真人呢?他未必需要自己打字,因为AI已经帮忙准备好了回复,点一下就能发送。这是一家交友软件开发团队真实采用过的运营方式。
01> 真人给AI“打辅助”
今年9月,Anthropic披露,一家中国的应用开发工作室运营着20多款交友App,对外宣称用户交流的对象都是真人,背后却混入了大量AI人设。
在今年4月的短短两周内,超过4700个AI人设就与至少2.5万名用户聊了起来,光是Claude处理的消息量达到约236万条。为了让用户相信自己遇到了真人,平台甚至专门招募真人兼职,负责视频通话、社交平台互动等AI暂时无法完成的工作。
AI负责大部分日常聊天,真人则在视频通话等关键时刻救场。看起来分工明确,配合得相当默契。只不过,用户每多聊几句,可能都要花钱。原本是来交友的,最后却可能成了一套AI聊天系统的付费用户。
![]()
图源:疯狂科技厅
今年10月7日,新加坡媒体CNA采访了两名曾使用交友App Romi的美国用户。
35岁的Max Aurel刚注册不到一分钟,就接到了一名女性的视频电话。对方看起来40岁左右,背景是一间厨房。两个人聊了起来,Aurel觉得对方是真人。可视频刚聊了两分钟,通话突然中断。App随即弹出提示:想继续视频?请购买代币。
Aurel花了2美元,试着索要对方的电话号码,却被平台告知,两人刚认识,不应该索要联系方式。他开始觉得不对劲,半天后便删掉了App。
另一名40岁的建筑工人Aurelio Calix也有类似经历。App里的交友对象看起来相当普通,聊天内容从音乐、孩子到工作,和真实的日常交流没什么两样。他因此购买了40美元的月度订阅,获得2000枚代币。
可每发送一条消息,代币就会减少。按照他的体验,10美元购买的500枚代币,大约只能聊10分钟。更奇怪的是,无论他提出交换联系方式还是线下见面,对方总希望继续留在App里。一周后他取消了订阅。
02> AI各司其职,每次互动都是收入
CNA并未确认这两名用户具体哪段对话来自AI、哪段来自真人。不过,他们描述的消费过程,与Anthropic调查发现的平台运营模式相吻合。
这门生意究竟是怎么运转的?Anthropic发现,这个开发团队并没有押宝某一个万能大模型,而是让不同的AI各干各的活。Claude负责维持大量虚拟人物的日常交流,另一种小模型负责给真人兼职提供候选回复,还有图像编辑模型负责生成虚拟人物头像。
那人类干啥呢?真人兼职会处理视频通话、社交平台回关等互动,有时连他们发送的文字,也是从AI生成的三个候选答案中选出来的。
这套系统甚至会制造虚假的点赞、访客和预录视频互动,还会记录哪些用户已经怀疑聊天对象是机器人。
![]()
图源:《她》,男主角举着手机与AI Samantha交流
于是,一款交友App里出现了一种奇怪的景象:AI在努力扮演真人,真人借助AI提高聊天效率。更关键的是,AI人设被要求不能主动透露自己的机器人身份,还要回避某些视频、照片验证要求。对用户来说,这些看起来普通的交友互动背后,究竟是谁在回复,始终是“黑盒”。
平台也未必需要等到用户被诱导投资、转账数万元才能赚钱。匹配、聊天都可能消耗额度,想要继续,就得买代币。对用户来说,这是寻找一段关系;对平台来说,每一次互动都可能变成收入。
03>公安系统人士:AI并没有改变犯罪动机
让人掏钱聊天,这门生意倒不是AI发明的。早在2024年,央视就曝光过一类付费交友App。有用户为了跟所谓的交友对象聊天,前后充值了两万多元,却始终没能约出来。警方调查发现,平台与聊天人员还会按照一定比例分享充值收入。
过去要把这门生意做大,需要不少真人干活。每天打招呼、找话题、维持人设,还得想办法让用户继续留在平台里聊天。而人总归是要休息的。想要同时维护更多关系,就需要更多聊天人员。
![]()
图源:《孤注一掷》,张艺兴饰演的潘生身处密集的电脑工位
今年夏天国际上一篇研究“爱情、谎言与语言模型”的论文研究了境外诈骗组织的运作方式。在其中一个约300人的诈骗组织分部里,大约87%的人员负责寻找目标、建立联系和长期培养信任,其余人员主要承担管理、资金收割等工作——虽然这和Anthropic披露的收费交友App不是同一种骗局,但有一点相通:想让陌生人相信一段虚构的关系,是很费时间的。这刚好是AI擅长的领域。
每天问候、顺着话题聊天、维持一个人物设定,这些事情单独看都不复杂,却需要不断重复。
论文研究人员还做过一个小实验:让22名参与者分别与AI和真人连续聊天七天。结果,AI获得的信任评分反而更高。
过去的AI主要帮聊天员翻译、修改语气、生成回复;现在,在Anthropic披露的案例中,AI已经可以直接维持大量虚拟人物的日常对话。
我们和一位曾接触相关案件的公安系统人士聊了聊,他表示,犯罪分子也在不断学习使用新技术,有些犯罪团伙还会寻找专业人员提供技术支持。在他看来,AI并没有改变犯罪动机,只是成为了可以被利用的新工具。
这当然不意味着AI能让骗局零成本地运行。模型调用、软件维护、吸引用户以及真人兼职,都需要花钱。真正发生变化的是,一些原本需要大量真人投入时间的工作,现在可以由软件持续完成,而且能够同时“服务”更多用户。
这也让一个过去很常见的识别方法,变得不再那么可靠。发现网恋对象有些可疑,怎么办?不少人的第一反应可能是:开个视频看看。但现在,即便视频里确实出现了一个真人,也不意味着此前成百上千条聊天消息都是这个人亲手发出的。
明确告诉用户对面是AI的陪伴服务,和故意假装真人、诱导用户不断充值,显然是两回事。视频里的人可能是真的,但每天陪你聊天的“那个人”,又是谁?
作者:刘瑞祺
编辑:张猛
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.