北京
AI换脸到底已经发展到什么程度了？如果还把它理解成“把一张脸换到另一个人身上”，已经有些跟不上现在的诈骗手法了。最近几起公开案件放在一起看，会发现骗子正在从冒充一个真实的人，走向直接制造一个根本不存在的人。
一、骗子已经不只是“冒充人”
9月1日披露的一起婚恋诈骗案里，成都警方抓获28名犯罪嫌疑人，50多名受害者被骗100余万元。团伙用AI批量生成所谓“成功中年男性”，给他们配上有房、有车、事业稳定、年收入数百万元甚至上千万元的人设。
同一张AI生成的脸，在一个女人面前叫“李先生”，换到另一个直播间，又变成“王先生”。为了让人相信这个男人真的存在，主播还会安排所谓男嘉宾连线，再由工作人员配合变声器说话。等受害者交完婚介费，这位“完美大叔”再慢慢消失。
骗子过去需要冒充一个人，现在已经可以直接制造一个人。
今年6月，青岛胶州警方披露的另一宗案件更进一步。犯罪团伙购买姓名、身份证号码和证件照片，再利用AI把静态照片处理成会眨眼、会摇头的动态人脸，然后送进实名认证系统。警方最终查获AI合成动态人脸视频5万余个，相关团伙已经出售8万余个实名认证账号。
这意味着，不只是人会被假脸骗，连负责证明“这个人是真的”的机器，也开始被骗。
7月，宁夏中宁县警方破获一起养老直播诈骗案。主播告诉老人，买下纪念品和藏品后，公司会上门高价回收，还展示所谓“别人已经赚到钱”的视频。警方后来发现，这些成功回收的视频也是AI制作的，直播间里部分“百万现金”甚至只是练功券，案件涉案总价值约1000万元。
声音也在进入同样的诈骗链条。最高法今年公布的案件中，就出现过利用AI拟声冒充老人“孙子”的情况。以前骗子最怕一句“你声音怎么不一样”，现在连这道门槛也正在被AI消除。
二、AI把诈骗变成了一条生产线
把这些案件放在一起看，会发现现在的AI诈骗越来越像一条流水线。
有人负责收集照片、声音和个人资料，有人负责生成假脸和假视频，有人负责直播、聊天，还有人负责收款和提现。AI真正替骗子解决的，是过去最难解决的身份问题。
以前冒充一个人，需要模仿他的声音、熟悉他的经历，还要想办法解释为什么不能视频。现在，一张公开照片可以被做成动态人脸，几秒钟语音可以拿去模仿声音，公开的工作信息、家庭关系又可以被拼成一套完整身份。
骗子过去需要“演得像”，现在越来越多的部分可以直接交给AI生成。
而一旦这套方法成熟，就可以同时面对大量受害者。AI没有改变诈骗的本质，却明显降低了诈骗的制作成本，也放大了它的规模。
三、看到脸，也不再等于看到本人
值得警惕的是，我们过去依赖的身份判断方式正在失效。
以前遇到可疑电话，我们会说“开个视频看看”；遇到陌生账号，会说“让他刷个脸”。照片、声音、视频，一直被当成证明身份的重要证据。
现在，一张脸背后可能根本没有真人，熟悉的声音可能来自AI，视频里的“成功案例”也可能从未发生过。
照片是真的样子，不代表这个人存在；声音很像，不代表电话那头就是本人；视频能说话，也不能直接等同于身份确认。
四、防AI诈骗，关键不是看脸，而是验证关系
面对AI换脸和AI拟声，我们需要换一套验证方式。
涉及借钱、投资和大额转账时，不要一直留在对方提供的聊天窗口里，而要重新拨打通讯录中原本保存的电话，或者换一个社交软件联系本人。
其次，可以问一些只有双方知道的具体问题。因为AI可以复制脸和声音，它未必知道你们之间所有真实经历。
另外，凡是对方不断强调“马上转钱”“不要告诉别人”“现在必须处理”，都应该主动把节奏放慢，骗子最怕的是你去核实他的真实性。
企业的大额资金操作更不能只凭一次视频确认。即使视频会议里出现了老板本人，也应该继续依赖审批流程、多人复核和独立确认。
结语
AI换脸带来的麻烦，不止是骗子多了一件工具，而是它正在挑战我们长久以来形成的判断标准和信任关系。
互联网时代，一张脸、一段声音、一次视频通话，往往已经足够让人放下戒心。但当AI让复制、生成甚至批量制造变得容易了之后，身份确认就成了普通人，尤其是未接触Ai工具与知识的群体困局。
技术越会模仿真实，人就越需要学会验证真实。
即使你不会用Ai，也需要了解AI，Ai可以诈骗，也可以用来防诈，时代来临，谁也落不下。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
