天天315·放心365｜当“眼见不为实” AI换脸诈骗背后的技术攻防

深圳新闻网2026年3月11日讯（记者 刘惠敏 王睿 张俊达）当视频通话中的“亲人”声泪俱下地借钱，当“老同学”在手机屏幕上急切地求助转账，当短视频里的“明星”正在倾情推荐神药，你是否会怀疑自己的眼睛？

“你是温峥嵘，那我是谁？”日前，演员温峥嵘的灵魂质问，恰恰戳中了AI换脸诈骗的隐蔽与恶劣——她的形象被不法分子恶意伪造，沦为直播带货的“工具”；甄子丹、靳东等多位名人也未能幸免，同样遭遇AI换脸侵害，其中靳东的形象被不法分子仿冒后，专门用于针对中老年群体实施诈骗，让人防不胜防。

今年2月，最高人民法院披露，2021年至2025年，全国法院一审新收诈骗刑事案件增长81.2%，其中利用AI换脸、深度伪造等前沿科技实施的智能化诈骗也呈现高发多发趋势。AI技术这把双刃剑，正在成为诈骗分子手中的“新式武器”。

9块9就能“定制”一张脸

如今，AI数字人主播在电商和短视频平台已屡见不鲜。商家只需花费数百元，就能拥有一个能够24小时直播的员工，能根据用户反馈实时调整话术，达到“以假乱真”的效果。

这本是降本增效的技术应用，但技术的滥用正在从线上走向线下，从娱乐走向犯罪。有不法分子利用实时换脸、声音合成等技术，冒充亲友进行视频通话诈骗，真假难辨、防不胜防，让科技成了精准诈骗的工具。

记者在各类电商和社交平台搜索“AI换脸”“声音克隆”等关键词时，部分结果已被平台屏蔽，部分社交平台还会跳转提醒用户使用需“合法合规、注意辨别”“切勿轻信、谨防诈骗”，但一旦更换相似的关键词，仍能搜索到大量标注了“活体认证”“实时换脸”等标签信息的商品。

网络平台搜索结果。

记者进一步调查发现，AI换脸与声音克隆技术的价格从个位数到千元不等，多是由卖家代为售卖海外AI换脸软件安装包，并提供包月或买断服务。一位卖家向记者表示，可以支付288元一次买断软件技术获得某款AI换脸软件的永久代理权，记者自己也可以贴牌代理。也有卖家低价大量售卖软件安装包和教程，【9.9元】即可购得打包好的“完整教程”。从调查情况来看，这些卖家往往不在平台直接交易，而是引导买家添加微信、通过网盘传输资料，在平台监管以外完成进一步交易，相关服务显然已形成成熟的灰色产业链。

此前多地司法机关公布相关案情显示，诈骗分子在社交平台广泛搜集消费者或其亲友公开发布的清晰面部视频、语音片段，用于AI模型训练，再利用深度合成技术，合成足以以假乱真的视频或音频。结合一些精心设计的紧急情境，不法分子直接与消费者取得联系，要求向指定账户转账。

AI换脸技术还被用于侵入计算机信息系统。在2025年7月武汉警方侦破的一起案件中，犯罪嫌疑人通过AI换脸技术篡改企业法定代表人信息，对企业进行非法控制。

反制加速 在手机里装上“反诈雷达”

面对日益猖獗的AI诈骗，反制举措正在提速上线。

2025年9月，国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》施行，要求AI生成内容必须添加标识。这为网络内容治理提供了明确依据，有效规范AI生成内容传播秩序，限制了部分未合规标识的AI视频传播。

记者调研发现，部分运营商和手机厂商已开始在系统层面植入AI反诈检测技术，支持视频通话时实时检测AI换脸技术。中国移动自主研发的AI换脸鉴伪核心技术可以对伪造图像存在的局部模糊失真、边缘锐化、通道分布异常等特征，通过深度学习模型进行分类鉴别，实时鉴伪准确率超95%。以总部位于深圳的荣耀公司为例，其2024年推出的系统内置了“AI换脸检测”功能，能够在视频通话过程中实时分析画面要素。

这类技术的原理是什么？荣耀方面向记者解释：当用户与好友视频通话时，系统可在满足特定条件的情况下，自动检测对方人脸是否存在换脸风险。检测到风险时，屏幕会显示提示；用户也可主动确认检测，系统实时分析并反馈结果。

这一技术路径的关键在于“端侧”，即所有检测在手机本地完成，无需上传云端，又实现实时响应。原理上，它通过分析视频通话中的画面要素，包括像素点、纹理细节、帧率异常等，捕捉AI合成难以完美复刻的物理破绽。

看懂破绽 守住底线

技术只是防护的一部分。研究显示，在复杂场景下，现有AI检测器的准确率可能从90%骤降至60%。不法分子还可通过本地运行开源模型、修改原始素材等方式规避平台审查。因此，在技术防御之外，法律惩戒和公众意识的提升同样关键。

今年全国两会上，多位代表委员关注AI治理。全国人大代表、美的集团副总裁钟铮明确呼吁治理AIGC虚假营销和数字人违规直播乱象。广东省江门市科恒实业股份有限公司锂电材料事业部主任研发工程师丁雪梅针对谈及AI换脸侵权背后的“维权难”问题，建议推动各大平台建立AI侵权“一键投诉”功能。针对利用AI换脸造谣诽谤、伪造音视频侵害名誉、肖像等行为，平台可设立专门受理通道。四川省律师协会会长李世亮代表呼吁最高人民法院尽快出台相关司法解释，细化“AI换脸”侵权的认定标准、平台责任、精神损害赔偿等规则。

对普通消费者而言，防范AI诈骗需要牢记几个原则：涉及转账，即便看到实时视频，也要通过通讯录中留存的号码二次核实；不随意在社交平台泄露人脸、声音等敏感信息；遇到所谓“紧急情况”，务必放缓节奏，切勿冲动操作。

而对整个社会而言，AI换脸的治理注定是一场“大合唱”而非“独角戏”。全国人大代表黄勇强调，技术企业要履行主体责任，坚守科技向善的底线，主动落实数据安全和内容审核义务。网信、公安等部门则需加强联合监管，对利用AI换脸等人工智能技术实施的违法犯罪行为依法打击。