悉尼教授用AI“诈骗”骗子，浪费骗子17年时间，破防骗子对AI骂了1000万次脏话……

关注天使支教并“设为星标 ★ ”一起探寻适合儿童的教育！

图片来源：Apate.ai

达利·卡法尔（Dali Kaafar）有一件T-恤，上面写着“我从事诈骗行业”（I’m in the deception business）。

这件T-恤上的文字的确是实话，只不过卡法尔的诈骗对象正是那些诈骗犯。卡法尔是澳大利亚麦考瑞大学的网络安全教授，从2024年开始，卡法尔创立了一个新的平台，让AI机器人去接听真正的诈骗电话，旨在占用这些骗子的时间，甚至从骗子那里套取他们的信息。

卡法尔的灵感来自一个温暖的下午，当时卡法尔正和妻子带着两个孩子在悉尼一座公园野餐，然后他的手机响了。只看来电号码，卡法尔就知道这是一通诈骗电话，但可能是这天的心情格外好，他决定接起电话，和这些骗子玩玩。“那时孩子们还小，”在接受《福布斯》（Forbes）采访时，卡法尔回忆道，骗子非常努力和执着，坚称卡法尔的网络太慢，因此需要远程访问卡法尔的电脑，“为了逗他们开心，我假装听不懂骗子在说什么。”

最终，卡法尔和骗子畅聊了44分钟，他和孩子们笑得前仰后合，但妻子提醒他：“那是你人生中再也找不回来的44分钟，你毁了整个野餐的体验。”卡法尔同意妻子的看法，他决定，这件事情应该让AI来做。

图片来源：麦考瑞大学

打造被骗人设

受这样的想法启发，卡法尔成立了Apate.ai公司，开发了一套利用AI回复诈骗消息的系统。公司名中的“Apate”，就取自希腊神话中的欺骗女神。

澳大利亚联邦银行（Commonwealth Bank）是Apate公司的第一个客户，他们与电信运营商合作，把识别到的诈骗电话直接转接给Apate的“AI接线员”接听，这些AI会假扮成很好骗的目标，尽可能延长与骗子通话的时间，同时试图套取骗子的诈骗套路和账户信息。

图片来源：二七

想确保这套方案能够成功，关键在于AI接线员必须得尽可能像真人，至少不能让诈骗犯听出问题。Apate.ai在官方网站上提供了几个接听示例。录音中的AI接线员有时会装磕巴，装作没听清让对方重复，或是在找东西的时候发出拉长的“嗯——”。还有一个场景让我感到格外真实：给电话对面的骗子报卡号时（当然是假的卡号），AI接线员第一遍读的比较慢，第二遍就顺畅多了——很像我们日常生活中的说话方式。

说实话，这些录音里诈骗犯甚至是听起来更人机的那一方。在其中一个案例里，骗子伪装成亚马逊公司的安全团队，称检测到用户购买了一款价值数万美元的产品，要求用户提供信用卡号和安全码。AI接线员先是假称自己不知道用的是哪张卡，要去找一找，又要求骗子反复说明自己所属的公司和部门，拖延时间。最后甚至以退为进，在看起来已经掉入陷阱，准备报出自己卡号的时候，和对方说“你们听起来真的有点奇怪”，还有“我觉得我在提供很危险的信息，我可以晚点再给你们公司打电话吗”，骗子听起来不想放弃这条鱼，只好不断重复“我们是亚马逊公司的安全团队……”和“这件事很着急，你需要尽快完成认证保护你的财产”。

视频来源：Apate.ai

为了听起来更可信，每一个AI接线员都拥有一整套“人设”：电话号码、WhatsApp账户、PayID，甚至是独特的性格、雷点和口癖。Apate公司起初创建了大约200个人设，还细致地给它们起了名字，例如Ricky或Pete。但到现在，他们已经拥有了超过25万名AI接线员，确保骗子“可以感受到像真人受害者那样的多样性”。

AI接线员的任务除了尽可能长时间地拖住骗子，白白耗费他们的时间，还会反过来将对话引向其他平台以继续互动，并试图获取有关骗子的情报，包括他们常用的手法、钓鱼URL，银行账户和加密钱包等详细信息——有了这些信息，政府机构才能更高效地追踪这些诈骗行为。

根据卡法尔在《福布斯》报道中的介绍，目前Apate公司AI接线员的最长通话记录是与诈骗犯保持通话两个小时12分钟，截止到今年10月，他们已经产生了250万次虚假对话，浪费了骗子17年的时间。

“实际上，一个正忙着和AI对话的骗子，就是一个没能向潜在受害者拨打电话的骗子。”卡法尔说道，“我们的模型会缠住他们，浪费他们的时间，并减少诈骗成功的数量，我们可以扰乱他们的商业模式，让他们更难赚到钱。”

图片来源：Unsplash

从根源反诈

一开始，卡法尔的团队先利用诈骗电话的录音、钓鱼邮件的文本，以及各种社交媒体平台的诈骗聊天记录来训练聊天机器人。而当这些AI接线员投入使用，它们与骗子的对话也会成为不断更新的真实诈骗交互数据集，提供更丰富的训练素材。

在训练中，团队依然采用了强化学习系统中常见的奖励和惩罚机制，目标是增加对话轮数，同时尽量减少敏感信息披露。例如骗子愿意继续聊下去时，模型可以获得一个小奖励，而骗子挂断电话则会获得一个大惩罚。但卡法尔还做了一些特别的设计，让AI不确定自己收到的是奖励还是惩罚。卡法尔表示，这种不确定性会使AI代理不断尝试各种聊天方式，而不是只锁定某一种成功行为。

在非常偶尔的情况下，骗子会意识到对面好像不是真人，卡法尔估计这种情况大约占2%。当骗子意识到是机器人在浪费他们的时间时，通常会骂出一系列脏话。“我们可能是唯一一家把脏话与KPI挂钩的公司，”卡法尔表示，“我们大概已经收获了1000万次F-word。”

在一些报道中，卡法尔称自己的策略称为主动反诈，他认为，相比于被动地拦截诈骗电话或信息，Apate的做法可以斩断诈骗的根基——提高他们的诈骗成本，降低诈骗收益。在Apate公司官网上的一篇博客文章中，他们称现代诈骗是一种商业模式：骗子不需要每一次都成功，只需要保证足够低的运营成本和足够高的利润，就可以维持重复运作。“这就是传统反诈的问题，”文章中写道，“拦截一笔支付或一通电话，只会阻止一次尝试。”

图片来源：Unsplash

而Apate希望他们的做法能从根本上减少诈骗，“唯一途径是侵蚀其有利可图的商业模式”，并且他们放出的诱饵越多——是的，他们甚至会主动在社交平台上钓鱼，发帖吸引骗子来聊天——获取的情报就越多，“银行便可以利用这些情报瓦解未来的诈骗活动，”卡法尔说道，“从防御性分析转向进攻性能力。”

尤其是在AI飞速发展的当下，阿法尔认为，如果诈骗犯开始使用AI，只会“进一步证明Apate这类解决方案的必要性”。因为当双方都利用先进技术时，真正的优势在于人们越来越不会直接接触到诈骗分子。随着骗子利用AI自动化其骗局，他们最终与之交互的是我们的AI机器人，而不是真实的人。“这使Apate成为关键的保护层，吸收诈骗企图并保障消费者安全。”

https://www.apate.ai/

https://www.apate.ai/post/from-detection-to-disruption-how-we-stopped-counting-scams-and-started-making-them-expensive

https://patents.google.com/patent/WO2024259486A1/en

https://www.forbes.com.au/covers/magazine/how-a-sydney-professor-built-an-ai-army-to-scam-the-scammers/

https://gulfnews.com/technology/media/ai-bots-waste-17-years-of-scammers-time-on-25-million-fake-conversations-1.500711268

https://lighthouse.mq.edu.au/article/june-2023/scamming-the-scammers

本文来自微信公众号“环球科学”，撰文 | 二七

推 荐

如果你的孩子

当前有一定学业压力；

或者对学习生活感到迷茫缺乏学习动力；

或者有积极的生活状态，

但身边又难以找到志趣相投的伙伴；

或者希望在AI时代来临之际

有机会提升自己创造力；

或者希望丰富节假日课余生活

欢迎来这里，一起探寻生命与学习的意义