笑死，他们训了35万个AI假装被骗，让骗子白忙活17年

AI时代的骗子，正在把「演得像真的」这件事做得越来越好。

短短4天，他被转卖了3次。

2025年初，演员王星被骗至缅甸妙瓦底的案件令人震惊，等王星意识到不对劲时，人已经被带往缅泰边境，随后遭到武装人员挟持。

AI时代的骗子，正在把「演得像真的」这件事做得越来越好。

不过，一家名叫Apate.ai的澳大利亚创业公司，正在专门训练AI去「被骗」。

今年8月份，Apate完成了815万美金的种子轮融资，并且得到了来自美国的风险投资基金Lobby Capital的投资。

那句「骗子把骗子给骗了」，照进现实了。

Apate的诞生源于一次家庭野餐。

几年前，在麦考瑞大学网络安全研究部门工作的Dali Kaafar接到了一条诈骗电话，家人觉得很搞笑，但是Kaafar却从中看到了商机。

回到澳大利亚麦考瑞大学后，Kaafar展开了相关的研究，尝试用机器学习、自然语言处理以及自动化的对话技术来防范电信诈骗。到2024年的时候，这些研究成果已经实现了商业化的应用，从而成立了Apate公司。

其实用人工智能来戏弄骗子并不是什么新奇的事情了。

2024年，英国电信运营商O2就曾经推出过一个叫dAIsy的人工智能老太太。这位老奶奶的特长不是广场舞，而是和电话骗子聊天。

该系统利用了语音识别、语言模型以及语音合成等技术来实现人与机器之间的自然对话。O2希望通过这种方式来耗费骗子的时间，同时让公众意识到电话诈骗的风险。

Apate的野心显然更大一些。

除了要让骗子说破天之外，Apate还想要得到有价值的信息，例如诈骗网站、收款的银行账户、加密货币钱包地址以及冒充的机构信息等。

要达到这个目的，Apate并没有一个可以准确地识别出全球诈骗电话号码的清单，因为在真实的语境中，骗分子可以经常换号，用网络电话，假扮主叫人，还可以利用多国、多地区之间的通讯网络进行转接。

Apate提供了一个分层式的解决方案。

首先检测出有嫌疑的通讯行为，然后由人工智能进行主动交互，并且在交互的过程中收集到新的证据之后再将其传递给反诈骗系统。并不是要精确地找出每一个骗子的真实电话号码，而是和电信运营商一起把已经被判定为高风险的电话分到AI去处理。

和澳大利亚电信运营商TPG Telecom合作的时候，TPG会先用自己已经有的反诈风险检测能力来发现可疑的通讯行为，并且把其中一部分高风险的电话转给Apate的人工智能系统。

整个过程不用消费者自己去下载和安装任何软件。

根据Apate公开的技术文档可知，其语音系统可以使用SIP/RTP等VoIP通信协议接入现有的电话网，并且可以实现本地、私有云以及混合部署。

这样就可以让骗子在还没有接触到真正的受害人之前，就被AI截胡了。

该模式已经成功地吸引到了投资人的注意。

今年八月份的时候，Apate完成了大约1140万澳元（约合815万美元）的种子轮融资，由Lobby Capital领投，OIF Ventures、Investible、Concept Ventures和Baobab Ventures等多家机构共同参与，在此之前该公司已经获得了大约250万美元的投资。

新一轮融资会用来做技术研发、美国与欧洲市场扩张等事项。Apate已经按照美国特拉华州公司的形式来运作了，并且打算扩大在北美的业务规模，在伦敦设立办事处的同时，研发团队仍然留在悉尼。

到目前为止，公司的员工大约有20人左右，客户有澳大利亚联邦银行Commonwealth Bank、TPG Telecom等机构。

因为比起花大价钱请一位机器人来让骗子气得跳脚，银行以及运营商显然更愿意为了能够有效遏制诈骗的信息而付费。

这就是Apate的「生意经」。

01 和骗子聊50分钟

如果之前你拨打过客服电话的话，那么对于AI语音客服应该不陌生了。

机械的电子音、奇怪的断句、过分标准的礼貌用语，以及每次回答前恰到好处的停顿，你甚至不需要问第二句话，就知道对面不是真人。

Apate所面对的并不是希望迅速解决的普通用户，而是一群同样善于察言观色、试探对方反应的骗子。如果骗子察觉到对方使用的是人工智能的话，就会立刻挂断电话。

所以，Apate的第一个难题就是让人工智能尽可能地模仿一个真实的人。

根据WIRED于10月10日发布的消息，Apate的创始人Kaafar说公司已经创建了大约35万个人工智能虚拟身份。

它们有不同的年龄、性格、语言能力以及生活经历，并且可以进行打电话、发短信和在一些有问题的微信群里交流。有的角色说自己用了WhatsApp，有的没有；有的愿意继续聊天，有的则说要慎重考虑一下，过段时间再联系。

2025年3月，麦考瑞大学的研究人员发表了一篇题为《Bot Wars Evolved》的文章，在其中探讨了怎样用大语言模型来对付电话诈骗的问题。

文章提出了一个双层提示结构。第一层用来创建虚拟人物的身份背景，使人工智能具有相似的性格、年龄以及口吻。第二层是关于对话策略的部分，在不断变化的交流过程中维持着任务的目标，并不是简单的机械地回答前一句话。

根据GSMA发布的TPG Telecom合作案例来看，Apate曾经保持了一通长达54分钟的诈骗电话。TechCrunch提到，该公司已经完成了大约250万次的人工智能对话，并且这些对话所花费的时间加起来可以达到17年之久。

这背后也依靠这网络安全领域中一直存在的Honeypot的技术，也就是我们所说的「蜜罐」。

传统的蜜罐就是设置一个看上去有漏洞但是其实被严格监控的服务器或者系统来诱骗攻击者。黑客认为自己找到了攻击对象，但是他们所做的一切、用到的各种工具以及进行的各种攻击都会被安全人员记录下来。

蜜罐的目的并不是要让攻击者真的把数据带走，而是在于建立一个能够监控到攻击行为的受控环境，从而达到持续交互的效果。

浪费骗子的时间只是这项技术最容易被理解的一面。

Apate实际上想要做到的是，在诈骗分子还没有把钱骗走之前，就让他们自己说出自己的银行账号、加密货币钱包地址、诈骗网站链接以及所冒充的身份信息，并且把这些信息变成银行、电信运营商可以用作反诈情报的信息。

它所具有的价值不只在于「拖住骗子」，而是在于构建起一个由拦截、情报分析以及向运营商反馈规则组成的完整链条。

就连公司用来评估产品的标准也有点黑色幽默，Joffe表示，Apate会记录下骗子在聊天时骂人的情况，并且把这当作一件值得高兴的事情来庆祝。

02 用AI对抗AI

Apate的背后是一场由生成式人工智能所引起的攻击和防御的变化，在以往要依靠人工来完成的各种诈骗行为现在已经可以通过自动化的手段来降低其成本了。

但别急着宣布反诈行业已经迎来革命。

当AI由原来的报警工具发展为可以和外界进行互动的Agent之后，更多风险也随之而来。

反诈者所面临的已经不是简单的发送可疑信息的陌生账号了，在整个生产过程中都可以出现多种方式，并且可以做到实时换脸、模仿声音、保持人设以及自动管理大量的聊天对象。

独立在线媒体404Media曾调查过一款名为「昊天AI」的实时换脸软件。这套工具能够在WhatsApp、Microsoft Teams、Zoom等视频平台中替换使用者的面部，让屏幕另一端的人以为自己正在与某个真实人物通话。

AI对诈骗的改变已经不只是「换一张脸」的问题。

在东南亚的电信诈骗产业链里，AI被用来挑选受害者、保持假身份以及批量处理对话。调查所揭示出的“控天智能拓客”（KT）之类的工具可以使得操作者能够同时控制好几个社交账号，并且利用大语言模型来产生符合某个人设的聊天内容。

这就使得Apate这种主动防御的方式变得尤为重要。

对于能够实时产生回复、模仿身份并且能够适应对话变化的诈骗系统而言，只依靠关键词检测、黑名单以及事后举报的方式，可能已经不够。

Apate创始人曾经提出过一个很有趣的想法：假如未来的诈骗团伙也会训练自己的聊天机器人，并且让它们自动拨打骚扰电话、寻找目标受害者的话，那么电信运营商就会同时部署反诈骗机器人来阻止这些行为的发生。

这样一些诈骗电话就有可能变成两个机器人的对话了。

AI诈骗的攻与防，最终变成了一场用魔法打败魔法的战争。

来源 | APPSO（ID：appsolution）

作者 | 发现明日产品的 ; 编辑 | 呼呼大睡

内容仅代表作者独立观点，不代表早读课立场