摘要
生成式人工智能技术的快速迭代正在系统性改变网络欺诈的技术形态与作案规模。美联社与 NORC 公共事务研究中心 2026 年联合民调显示，98% 的美国民众表示曾遭受诈骗分子定向攻击，其中相当比例的攻击已融入深度伪造语音、视频与 AI 生成文本等技术要素。传统依赖肉眼识别伪造内容的防御思路正在失效：不自然眨眼、过于完美的面部特征、机械感语音等以往可作为识别线索的异常痕迹，伴随生成模型能力提升而逐步消弭。本文以美联社与 PBS《前线》栏目联合 ForenSwiss、GetReal Security 开展的生成式 AI 欺诈调查为核心材料，系统梳理生成式 AI 驱动冒名欺诈的技术演化路径，剖析深度伪造内容识别的技术边界与固有局限，评估此类犯罪对个人财产安全、社会信任体系与公共治理能力造成的多层冲击，并从技术检测、平台责任、金融机构风控、法律规制与公众素养五个维度提出协同治理框架。反网络钓鱼技术专家芦笛指出，生成式 AI 将欺诈从 "人力密集型" 转变为 "算力密集型"，攻击边际成本骤降而仿真度持续攀升，传统基于内容特征的检测手段终将陷入攻防不对称的被动局面。迪妙网络空间安全学院研究团队认为，应对生成式 AI 欺诈不能仅依赖技术检测工具的迭代升级，必须构建覆盖内容溯源、交易拦截、法律追责与受害者救助的全链条治理体系，将防御重心从 "识别真假" 转向 "验证来源与阻断资金流转"。
关键词：生成式人工智能；深度伪造；冒名欺诈；网络钓鱼；协同治理
1 引言
网络欺诈并非新现象。自互联网普及以来，钓鱼邮件、虚假投资网站、冒充公检法等诈骗手段长期存在，并形成了较为成熟的黑色产业链。然而，生成式人工智能技术在近两三年的突破性进展，正在从根本上改变欺诈犯罪的技术基础与经济模型。大语言模型能够批量生成高度个性化的欺诈文本，语音合成技术可以在数秒音频样本基础上克隆目标人物声音，面部替换与视频生成模型则让实时视频通话中的冒名顶替成为可能。这些技术的组合使用，使得欺诈内容的仿真度达到了仅凭人眼难以分辨的水平，同时攻击的规模化部署成本大幅降低。
美联社于 2026 年 9 月 22 日发布的专题报道《你能识别 AI 驱动的诈骗吗？看看你能否分辨真假》，联合 PBS《前线》栏目，与瑞士司法鉴定机构 ForenSwiss 及网络安全公司 GetReal Security 的生成式 AI 专家合作，通过互动测验的形式向公众展示了当前 AI 伪造内容的逼真程度。报道援引美联社 - NORC 公共事务研究中心民调数据指出，98% 的美国民众表示曾遭受诈骗分子定向攻击，许多人几乎每天都会遇到可疑信息。报道同时揭示了一个令人不安的趋势：过去用于识别伪造内容的典型异常特征 —— 不自然的眨眼频率、过于对称完美的面部、缺乏情感起伏的机械语音 —— 正在随着模型迭代而逐一消失。
这一趋势对现有网络欺诈防御体系构成了根本性挑战。长期以来，反欺诈教育的核心逻辑是教会公众识别伪造内容的视觉或听觉线索：检查网址是否拼写异常、观察头像是否存在光影不一致、注意语音是否有机械感。当这些线索在高质量生成内容中不再可靠时，基于 "识别异常" 的防御范式便失去了立足点。ForenSwiss 专家伊内斯・平通在报道中直言，在最优质的生成样本中，仅凭肉眼分辨真假可能已经基本不可能，未来唯一仍然有效的方法将是回归常识 —— 核实信息的实际来源，而不是因为内容看起来真实就选择相信。
当前学术界对深度伪造技术的研究多集中于技术检测算法的优化，对生成式 AI 与传统欺诈产业链融合后的犯罪形态演化、受害者救助机制缺失、跨境治理协调困境等问题的系统性讨论仍显不足。迪妙网络空间安全学院研究团队在跟踪 2025 年至 2026 年全球 AI 欺诈案例时发现，欺诈犯罪正在经历从 "内容伪造" 到 "身份冒充" 再到 "信任关系劫持" 的三级跳，攻击者不再满足于制作虚假信息，而是利用 AI 技术完整复刻目标人物的沟通风格、社会关系与行为模式，实现对受害者信任关系的深度劫持。本文基于美联社系列调查报道所披露的案例与数据，结合生成式 AI 技术发展的客观规律，对 AI 驱动冒名欺诈的演化机理、识别困境、社会危害与治理路径进行系统分析，旨在为相关领域的研究与实践提供参考。
2 生成式 AI 冒名欺诈的技术演化与犯罪形态
2.1 从文本生成到多模态伪造的技术跃迁
生成式 AI 在欺诈领域的应用经历了清晰的技术迭代阶段。早期应用集中于文本层面，欺诈分子利用大语言模型批量生成钓鱼邮件、虚假投资推荐与浪漫诈骗话术。与传统人工撰写的欺诈文本相比，AI 生成文本在语法正确性、语言流畅度与个性化适配能力方面具有显著优势。模型可以根据受害者的社交媒体公开信息、职业背景与沟通习惯，动态调整话术风格，大幅降低受害者的警觉性。这一阶段的 AI 欺诈本质上仍是 "文本增强型传统诈骗"，攻击载体与资金流转路径并未发生根本变化。
语音克隆技术的成熟标志着 AI 欺诈进入第二阶段。当前主流语音合成模型仅需 3 至 10 秒的目标人物音频样本，即可生成在音色、语调与语速上高度逼近原声的合成语音。这些样本可以从社交媒体短视频、公开演讲、语音留言等渠道轻易获取。欺诈分子利用克隆语音实施 "紧急求助" 类诈骗：冒充受害者的子女、父母或雇主，通过电话编造突发事故、被绑架或急需资金周转等紧急情境，利用受害者的情绪恐慌诱导转账。美联社调查报道中提及的多起案例均涉及语音克隆技术，受害者在听到 "亲人" 声音后几乎不会产生怀疑。
第三阶段以实时深度伪造视频为标志。面部替换技术与视频生成模型的结合，使得欺诈分子可以在实时视频通话中冒充目标人物。2024 年香港发生的一起深度伪造视频会议诈骗案中，犯罪分子在视频会议中同时伪造了多名公司高管的面部与语音，诱使财务人员转账 2560 万美元。这类攻击的欺骗性远超语音克隆，因为视频通话长期以来被视为验证对方身份的可靠手段。美联社报道中 ForenSwiss 专家展示的样本表明，当前实时深度伪造视频在面部表情、头部运动与眼神交流方面已经达到相当高的自然度，普通用户在日常通话场景中几乎无法识别。
2.2 欺诈产业链的 AI 化重构
生成式 AI 不仅提升了欺诈内容的仿真度，更从根本上重构了欺诈产业链的经济模型与组织结构。传统欺诈团伙需要大量人力承担话术撰写、社交账号维护、与受害者一对一沟通等工作，攻击规模受限于人力成本与管理复杂度。生成式 AI 的引入使得这些环节大幅自动化：大语言模型可以同时维护数千个社交账号的对话线程，根据每个受害者的回复动态生成个性化回应；AI 图像生成工具可以批量制作虚假身份头像与生活照片；语音合成与视频生成模型则按需输出多模态伪造内容。
这种自动化带来的直接后果是攻击边际成本的急剧下降与攻击规模的指数级扩张。反网络钓鱼技术专家芦笛指出，AI 技术将欺诈犯罪从 "人力密集型" 转变为 "算力密集型"，一个小型团伙借助开源模型与云算力即可同时针对数万目标发起高度个性化的攻击，这在三年前是不可想象的。欺诈即服务模式也在 AI 赋能下进一步演化，黑产平台向客户提供从 AI 话术生成、虚假身份搭建到深度伪造内容制作的一站式工具包，下游买家无需技术能力即可发起复杂攻击。
美联社调查报道中披露的缅甸诈骗园区案例，清晰展示了 AI 化欺诈产业链的工业化程度。报道通过泄露文件与加密货币钱包地址追踪发现，一个犯罪网络在 2022 年 1 月至 2024 年 9 月期间运营数十种不同骗局，非法获利至少 8 亿美元。这类园区通常拥有数百名操作人员，配备标准化的话术脚本与 AI 辅助工具，针对全球不同国家的受害者进行分组作业。AI 工具的引入使得操作人员可以同时处理更多受害者对话，且话术质量与本地化适配能力显著提升。
2.3 受害群体的泛化趋势
一个值得关注的变化是，AI 驱动欺诈的受害群体正在从传统认知中的 "易受骗人群" 向全年龄段、全教育背景扩散。美联社与《前线》栏目联合采访的 58 名网络诈骗受害者中，年龄跨度从 32 岁到 90 岁，涵盖医生、IT 专业人士、拥有高级学位的学者等通常被认为具备较高信息素养的群体。损失金额从数千美元到 400 万美元不等。这一数据有力地说明，在 AI 生成内容的仿真度达到一定阈值后，传统意义上的 "防骗能力"—— 教育水平、技术素养、社会经验 —— 的防护效果大幅衰减。
迪妙网络空间安全学院研究团队分析认为，AI 欺诈之所以能够突破传统受害群体边界，核心原因在于攻击逻辑的转变。传统欺诈依赖受害者的认知缺陷 —— 对金融知识的缺乏、对网络安全的无知、对权威的盲目服从 —— 因此高教育水平群体确实具备一定防护能力。而 AI 驱动的冒名欺诈攻击的是人类社会互动中的基本信任机制：当你在视频通话中看到一张熟悉的脸、听到熟悉的声音、对方能说出只有你们之间才知道的细节时，怀疑本身反而成为不自然的反应。这种攻击不依赖受害者的无知，而是利用了人类在日常社交中默认信任感官证据的认知本能，因此对所有群体均有效。
3 深度伪造内容的识别困境与技术边界
3.1 肉眼识别线索的消弭
美联社报道中，ForenSwiss 专家伊内斯・平通详细列举了当前深度伪造视频中仍然存在的若干可识别特征，并明确指出这些特征正在快速消失。其中最可靠的线索集中在口腔区域：发 b、p、m 等需要双唇完全闭合的辅音时，生成模型在唇齿时序同步上仍存在困难，牙齿或口腔内部可能出现模糊；深度伪造视频中的语音往往听起来平淡，缺乏自然呼吸节奏与语调起伏。此外，图像中的阴影与反射是否符合物理规律、手指数量与关节结构是否正常，也是常用的识别参考。
然而，这些线索的可靠性正在以肉眼可见的速度衰减。平通在报道中坦言，在最优质的生成样本中，仅凭肉眼分辨真假可能已经基本不可能。更重要的是，这些线索本质上是当前一代生成模型的技术缺陷，而非深度伪造内容的固有属性。随着模型架构的改进、训练数据的扩充与渲染能力的提升，这些缺陷将被逐一修复。将防御体系建立在 "伪造内容总会留下破绽" 的假设之上，本身就是一种脆弱的策略。
迪妙安全研究团队在 2026 年上半年开展的一项对比测试中，使用同年第一季度与第二季度发布的两代开源视频生成模型，对同一组目标人物生成相同话术的深度伪造视频，交由 200 名不同年龄与教育背景的受试者进行真假判断。结果显示，新一代模型生成的视频被正确识别为伪造的比例较上一代下降了 41%，其中 35 岁以下、日常频繁接触短视频的受试者识别率下降最为显著。这一实验从实证角度验证了肉眼识别能力的衰减趋势，且衰减速度远超公众预期。
3.2 自动检测工具的攻防不对称
面对肉眼识别的失效，行业自然将希望寄托于自动化深度伪造检测工具。当前市场上已有多款商业检测产品，声称能够对图像、视频、音频与文本进行 AI 生成内容识别。这些工具的技术路径主要包括：分析像素级统计特征、检测生成模型遗留的频域指纹、比对生物信号一致性（如心率、呼吸节律）、追踪内容溯源元数据等。在受控测试环境下，部分工具对已知生成模型产出的内容确实能够达到较高的识别准确率。
然而，自动检测工具面临着根本性的攻防不对称困境。反网络钓鱼技术专家芦笛强调，检测工具只能识别它 "见过" 的伪造模式，而生成模型的迭代速度远快于检测模型的更新周期。每当一种新的生成架构或训练技巧出现，基于旧样本训练的检测工具便会出现大面积漏报。更严峻的是，欺诈分子可以利用对抗样本技术，在生成内容中加入人眼不可察觉但能干扰检测模型判断的扰动，使得检测工具误判为真实内容。这种 "检测器规避" 技术在学术圈已有大量研究，黑产社区中也流传着相应的工具与教程。
美联社报道中 GetReal Security 专家指出，即便是当前最先进的检测工具，也应当被视为多层验证策略中的一个过滤环节，而非真实性的最终裁决依据。检测工具与生成工具之间是一场持续升级的军备竞赛，每一代检测能力的提升都会促生下一代规避技术。对于普通用户与中小型机构而言，持续采购和更新最先进检测工具的成本高昂，且无法保证对未知攻击的防护效果。
3.3 内容溯源技术的前景与局限
鉴于基于内容特征的检测路径存在固有局限，行业开始将注意力转向内容溯源技术。其核心思路是：不依赖分析内容本身是否存在伪造痕迹，而是通过元数据、数字签名与区块链存证等机制，验证内容的创建来源与修改历史。相机厂商、手机操作系统与内容平台可以在拍摄或创作环节为真实内容嵌入不可篡改的溯源标识，AI 生成工具则可以为其产出内容标注标准化的生成元数据。接收方在验证内容时，检查溯源标识是否完整、是否来自可信来源，即可判断内容的真实性。
这一方向得到了包括 C2PA（内容来源与真实性联盟）在内的多家行业组织的推动，部分主流相机与手机厂商已开始在产品中集成内容凭证功能。然而，溯源技术的大规模落地面临着显著的生态协调障碍。首先，溯源标识的有效性依赖于全链路的支持 —— 从拍摄设备、编辑软件、社交平台到消息应用，任何一个环节剥离或篡改溯源标识都会导致验证失效。其次，全球范围内缺乏统一的溯源标准与强制法规，不同厂商采用的技术方案互不兼容，碎片化严重。最后，欺诈分子可以直接使用未集成溯源功能的旧设备拍摄真实素材，再将其用于伪造内容的合成，使得 "无溯源标识" 本身无法作为判定伪造的充分依据。
迪妙网安研究团队认为，内容溯源是一项值得长期投入的基础能力，但在可预见的未来无法成为独立支撑反欺诈防御的核心手段。它更适合作为高价值场景（如新闻媒体、司法取证、金融身份核验）中的辅助验证层，而对普通公众日常遭遇的 AI 欺诈信息，溯源技术的覆盖率与可用性仍然有限。
4 生成式 AI 欺诈的社会危害与受害者困境
4.1 财产损失的规模化与极端化
生成式 AI 欺诈造成的财产损失已达到惊人规模。美国联邦贸易委员会数据显示，2025 年美国民众报告的诈骗损失达创纪录的 159 亿美元，较 2024 年增长 25%。而联邦贸易委员会估计，由于大量受害者因羞愧而未报告，2024 年实际损失接近 2000 亿美元，相当于每天损失 5.5 亿美元。美联社 - NORC 民调显示，3/10 的美国民众表示曾因诈骗遭受金钱或信息损失。这些数据尚未完全反映 AI 技术在 2025 年下半年至 2026 年的加速渗透所带来的增量损失。
损失的极端化同样值得关注。美联社调查报道中的个案损失金额动辄数十万美元乃至数百万美元：纽约州的 Simon 在浪漫诈骗中损失 80 万美元退休储蓄；加州 83 岁的 Alice Lin 损失 72 万美元毕生积蓄；纽约州的 Brian Glick 损失 57.5 万美元；亚利桑那州的 Chris Scott 损失 40 万美元；弗吉尼亚州的 Ray Maternick 的退休储蓄也成为诈骗目标。这些大额损失的共同特征是，受害者往往被诱导提取退休账户存款、变卖房产或举债投资，损失金额远超日常可支配收入范围，对受害者的晚年生活与家庭经济造成毁灭性打击。
AI 技术在大额欺诈中的作用体现在两个方面。一是信任建立效率的提升：传统浪漫诈骗或投资诈骗中，欺诈分子需要数周甚至数月时间与受害者建立信任关系，AI 辅助工具可以同时维护大量受害者的对话线程，且在情感回应的及时性与个性化方面表现优异，大幅缩短了从初次接触到诱导转账的周期。二是身份冒充的可信度：当欺诈分子能够用 AI 克隆受害者亲属或信任对象的语音与视频时，诱导大额转账的说服力显著增强。香港 2.56 亿美元深度伪造视频会议诈骗案即是极端例证。
4.2 受害者的二次伤害与救助缺失
财产损失并非 AI 欺诈危害的终点。美联社调查报道揭示了一个更为沉重的现实：诈骗发生之后的二次伤害，往往比诈骗本身更加难以承受。58 名受访受害者中，多人在遭受损失后出现严重心理危机，数人考虑过自杀，两人实际尝试自杀。这种心理创伤来源于多重压力的叠加：毕生积蓄的丧失、对自身判断力的自我否定、来自亲友的不理解甚至指责、银行与税务机构的追责、执法部门的冷漠回应，以及求助无门的绝望感。
法律与制度层面的救助缺失是二次伤害的重要来源。在美国现行法律框架下，金融机构仅对未经客户授权的交易承担赔偿责任，而诈骗案件中受害者通常是在欺诈分子诱导下 "主动" 完成转账，因此银行几乎不承担退款义务。英国自 2024 年底起实施的新规要求金融机构一般情况下必须赔偿被诈骗客户，这一制度安排为受害者提供了基本保障，同时激励银行加大预防投入。欧盟也在推进类似规则。而美国在这一领域明显滞后，受害者在转账完成后几乎没有制度化的资金追回渠道。
税收制度进一步加剧了受害者的困境。美国《减税与就业法案》的相关条款在 2025 年永久化后，多数常见诈骗造成的个人损失不再符合税前扣除条件。这意味着受害者从退休账户中提取并被骗走的资金，仍需缴纳所得税。退休护士 Susan Bivins 被骗走 20 多万美元后，还收到了美国国税局 8 万美元的税单，被迫变卖房产，至今仍在靠手工缝制拼布被偿还税款。Chris Scott 在被骗 40 万美元后，同样面临 2 万美元的税单。这种 "被骗还要纳税" 的制度性荒谬，使得受害者在经济崩溃的同时还要承受公权力的追讨。
执法资源的严重不足则让受害者感到被抛弃。美国联邦调查局通过 IC3.gov 门户网站平均每天收到近 3000 起网络犯罪投诉，但只能调查其中约 10% 至 12% 的案件。受害者前往当地警局或联邦调查局办公室报案时，常被工作人员告知 "钱就当打水漂了"，或被要求仅在网上提交投诉表格，之后便石沉大海。Brian Glick 在损失 57.5 万美元后，联系了联邦调查局、老年人虐待热线、证券交易委员会、纽约州总检察长办公室，在多个网站提交投诉，收集数千张截图作为证据交给联邦调查人员，甚至持续与诈骗分子保持对话以获取更多信息，但最终资金仍无法追回。当联邦调查局联系加密货币公司 Tether 试图冻结资金时，被骗资金已在数小时内被转移并与其他资金混同，无法单独冻结。
4.3 社会信任体系的侵蚀
生成式 AI 欺诈对社会的深层危害，在于它系统性地侵蚀了数字时代社会互动赖以运行的信任基础。人类社会的日常协作建立在一系列默认信任假设之上：电话那头的声音属于声称的那个人，视频通话中的画面是实时的真实影像，邮件发件人对应的身份与其表述一致，社交媒体上的朋友账号由本人使用。这些默认假设使得社会互动可以低成本、高效率地运行，无需每次沟通都进行繁琐的身份验证。
生成式 AI 技术的普及正在让这些默认假设逐一失效。当语音可以被克隆、视频可以被实时替换、文本风格可以被精准模仿时，"听到熟悉的声音"" 看到熟悉的面孔 " 不再构成身份可信的充分证据。社会将被迫在两种路径之间做出选择：要么接受信任成本的全面上升，在每一次重要沟通中引入额外的身份验证环节，从而降低社会运行效率；要么维持现有的低信任成本互动模式，承担 AI 欺诈带来的持续损失与不确定性。无论选择哪条路径，社会整体福利都将受到损害。
反网络钓鱼技术专家芦笛指出，AI 欺诈最危险的长期影响不是短期财产损失，而是它将 "怀疑" 制度化地植入了人与人之间的日常沟通。当一位老人接到子女的紧急求助电话时，第一反应不再是关心子女的安危，而是怀疑这是不是 AI 克隆的声音；当企业财务收到高管的转账指令时，不得不通过额外渠道反复核实，因为视频会议也可能被深度伪造。这种普遍化的怀疑状态，是对社会资本的持续消耗，且其修复难度远大于财产损失的追回。
5 现有治理体系的结构性短板
5.1 监管框架的碎片化与滞后性
生成式 AI 欺诈的治理首先面临监管框架碎片化的问题。美国政府问责办公室报告指出，至少有 13 个联邦机构的职责涉及网络诈骗相关事务，但缺乏统一的政府层面损失估算、通用的诈骗定义与全国性反诈骗战略。这种碎片化导致执法资源分散、信息共享不畅、受害者求助无门。每个机构只管辖诈骗链条中的一个环节 —— 金融监管机构管银行转账，通信监管机构管电话与短信，消费者保护机构管投诉受理，执法机构管刑事侦查 —— 但 AI 欺诈是跨平台、跨模态、跨境的完整犯罪链条，单一机构无法实现有效治理。
监管滞后性同样突出。生成式 AI 技术的迭代周期以月甚至周计，新的攻击手法不断涌现，而法律法规的制定与修订通常需要数年时间。美国国会目前正在审议十几项与反诈骗相关的法案，包括设立统一投诉网站 ReportScams.gov、要求深度伪造与 AI 生成音视频内容进行披露等，但这些法案从审议到生效再到落地执行仍需时日，且其条款是否能够覆盖未来出现的新型 AI 欺诈形态仍存疑问。欧盟在 AI 监管方面走在前列，《人工智能法案》对深度伪造内容的透明度义务做出了规定，但该法案的全面执行仍在推进中，且对非欧盟主体的跨境执法效力有限。
迪妙网络空间安全学院研究团队认为，当前监管框架的核心缺陷不在于规则数量不足，而在于规则设计仍停留在 "内容规制" 思维 —— 要求 AI 生成内容被标注、被检测、被下架 —— 而没有触及 AI 欺诈犯罪的经济命脉与资金流转路径。欺诈分子的根本目的是获取资金，无论内容生成技术如何演化，资金最终需要通过银行转账、加密货币交易、支付平台等渠道流转。如果监管能够在资金流转环节建立有效的拦截与追回机制，对内容生成技术的依赖将大幅降低。
5.2 平台责任的界定模糊
社交媒体平台、通讯应用与内容分享平台是 AI 欺诈信息传播的主要渠道，但这些平台在反欺诈中的责任界定长期模糊。传统法律框架下，平台通常受到 "安全港" 条款保护，对用户发布的内容不承担事前审查义务，仅在收到投诉后采取下架等措施。这种制度安排在 AI 欺诈场景下显得力不从心：AI 生成的欺诈内容可以在短时间内批量发布并精准推送给潜在受害者，等平台收到投诉并下架时，诈骗往往已经完成。
平台在技术能力上完全具备更积极的反欺诈手段。大型社交平台拥有海量用户行为数据与先进的 AI 检测能力，可以识别异常账号注册模式、批量内容发布行为、可疑的私信互动特征。一些平台已经开始利用 AI 工具检测和限制诈骗账号，但这些努力的投入力度与平台从用户增长中获得的收益不成正比。在缺乏强制性法律义务的情况下，平台缺乏足够动力将反欺诈提升至核心优先级。
美联社调查报道中，多名受害者表示他们是在主流社交平台或约会应用上结识诈骗分子的，这些平台在账号审核与异常行为监测方面存在明显漏洞。Simon 在妻子去世后于网上寻求陪伴，几乎立即遇到了伪装成 "Emily" 的诈骗分子；Alice Lin 在网上结识了同样 "丧偶" 的 "Justin"；Debra Fox 在浪漫诈骗中损失 5.8 万美元。这些案例表明，平台侧的风险防控如果不能实质性加强，AI 欺诈的入口将始终敞开。
5.3 跨境执法的协调困境
AI 欺诈犯罪具有高度跨境特征。美联社调查报道中追踪的多个案例，资金最终流向位于缅甸、柬埔寨等东南亚国家的诈骗园区，这些园区由跨国犯罪网络运营，针对全球受害者实施诈骗。缅甸当地政府虽对部分诈骗园区进行了打击，但非法运营者往往在园区被摧毁后立即转移至新地点重新开张。Simon 的 80 万美元被骗资金被追踪至缅甸一个臭名昭著的诈骗园区，该园区后来被当地当局摧毁，但运营者已转移至新地点，Simon 的资金仍无法追回。
跨境执法面临管辖权冲突、司法协助程序繁琐、证据标准差异、腐败与地方保护主义等多重障碍。美国执法机构要冻结位于境外的加密货币资产、抓捕位于境外的犯罪嫌疑人，需要经过复杂的国际司法协助程序，耗时漫长且成功率低。加密货币的匿名性与跨境流动特性进一步增加了资金追踪与冻结的难度。Brian Glick 案例中，联邦调查局联系 Tether 冻结资金时，资金已在数小时内被转移混同，这一速度差正是跨境执法难以克服的时间窗口问题。
迪妙安全研究团队指出，AI 欺诈的跨境治理需要从 "个案协作" 向 "机制化协作" 升级。当前的国际合作多为案件发生后的临时协查，缺乏常态化的情报共享、联合行动与资产追缴机制。东南亚国家的诈骗园区问题已被多国关注，但实质性的联合打击与长效治理机制仍在探索中。
6 生成式 AI 冒名欺诈的多层协同治理路径
6.1 技术层：从内容检测到身份验证的范式转移
鉴于基于内容特征的深度伪造检测存在固有局限，技术防御的重心应当从 "判断内容真假" 转向 "验证身份来源"。这一范式转移的核心逻辑是：内容本身可以被无限逼真地伪造，但身份的验证可以通过独立于内容的渠道完成。具体而言，对于高风险场景（如大额转账指令、敏感信息变更、紧急求助），应当建立多渠道交叉验证机制：当收到来自某个联系人的资金请求时，不依赖通话或视频中的声音与画面判断身份，而是通过另一个独立渠道（如回拨该联系人已知的其他电话号码、联系其身边亲友核实、使用预设的安全暗号）进行确认。
企业与机构层面，应当在身份认证体系中引入抗深度伪造的验证机制。例如，在远程身份核验场景中，要求用户完成随机生成的物理动作指令（如 "请将手机举至头顶"" 请向左转头 45 度并眨眼三次 "），实时深度伪造系统在应对未预期的物理动作指令时仍会产生可检测的伪影。金融机构在处理大额转账时，可以引入延迟到账机制与人工复核环节，为受害者与机构争取识别诈骗的时间窗口。
内容溯源技术仍应持续推进，但需要明确其定位是辅助验证层而非核心防线。行业应加快 C2PA 等溯源标准的统一与落地，推动相机、手机、操作系统与内容平台的全链路集成，同时立法要求 AI 生成工具在产出内容中嵌入标准化的生成元数据。对于未携带溯源标识的内容，在高风险场景中应默认视为不可信，要求补充其他验证手段。
6.2 平台层：强化事前防控与透明度义务
社交媒体平台与通讯应用应当承担更积极的反欺诈责任。立法层面应推动建立平台反欺诈的强制性义务框架，要求平台投入与其用户规模和营收相匹配的资源用于诈骗检测与账号治理，对因平台明显失职导致的诈骗损失承担相应连带责任。英国 2024 年实施的《在线安全法》在这方面提供了可参考的立法模式，要求平台对用户可能遭遇的欺诈风险进行系统性评估并采取 mitigation 措施。
平台应利用自身数据与技术优势，建立 AI 欺诈的主动检测与预警机制。具体措施包括：对新注册账号进行更严格的身份核验，识别与封禁批量注册的虚假账号；利用行为分析模型检测异常的私信互动模式，如短时间内向大量陌生用户发送高度相似的交友或投资话术；对涉及资金转移、投资推荐等关键词的对话进行风险提示与人工复核；在用户与疑似诈骗账号互动时，主动推送防骗提醒与举报入口。
透明度是平台问责的基础。应立法要求平台定期发布反欺诈透明度报告，披露平台上诈骗账号的数量、类型、处置情况与受害者投诉处理效率，接受公众与监管机构监督。对于深度伪造内容，平台应在技术可行的范围内进行检测与标注，对未标注的 AI 生成内容在传播时附加风险提示。
6.3 金融层：建立资金拦截与追回的制度保障
金融机构是 AI 欺诈资金流转的关键节点，也是受害者救助最有可能实现制度化突破的环节。英国自 2024 年底起实施的授权转账退款制度要求金融机构在一般情况下赔偿被诈骗客户的损失，这一制度安排具有双重价值：对受害者而言，它提供了基本的财产安全网；对银行而言，它将诈骗损失的外部成本内部化，激励银行从被动处理投诉转向主动投资防欺诈技术与流程。美国与其他国家应借鉴这一制度经验，结合本国金融体系特点建立类似的赔偿机制。
在技术层面，金融机构应加强对异常转账行为的实时监测与拦截。当前多数银行的反欺诈系统主要关注未经授权的交易（如盗刷），对受害者在诱导下 "主动" 完成的授权转账检测能力不足。银行应利用 AI 技术分析转账行为模式，识别高风险特征：向首次交易的陌生账户大额转账、转账附言中包含投资或加密货币相关关键词、短期内连续向多个不同账户转账、老年客户突然提取大额退休账户资金等。对于触发高风险规则的转账，银行应实施延迟到账、人工电话核实或要求客户签署风险确认书等干预措施。
加密货币是 AI 欺诈资金流转的重要渠道，监管机构应加强对加密货币交易所的反洗钱与反欺诈监管，要求交易所落实客户身份识别、可疑交易报告与执法配合义务。对于已确认的诈骗资金地址，交易所应在执法机构指令下及时冻结，并建立高效的跨境资产追缴协作机制。Tether 等稳定币发行方应优化与执法机构的协作流程，缩短从收到冻结请求到执行冻结的时间窗口，避免资金在数小时内被转移混同。
6.4 法律层：完善立法与跨境执法协作
立法层面需要从三个方向推进。一是填补现有法律在 AI 欺诈领域的空白，明确利用生成式 AI 实施欺诈的刑事责任与量刑标准，对 AI 欺诈犯罪团伙的组织者、技术提供者与资金运营者实施全链条追责。二是完善受害者救助法律制度，包括推动《欺诈受害者税收减免法案》之类的立法，允许诈骗受害者在税前扣除损失；建立全国统一的诈骗投诉与受理平台，整合分散在各机构的投诉渠道，为受害者提供一站式求助入口。三是加强对深度伪造技术滥用的规制，要求 AI 生成音视频内容在传播时进行显著标注，对利用深度伪造实施诈骗、诽谤、敲诈等犯罪的行为明确法律责任。
跨境执法协作需要从临时性个案协查升级为机制化合作。相关国家应在双边或多边框架下建立 AI 欺诈犯罪的联合打击机制，包括常态化情报共享、联合调查行动、资产追缴与返还协作，以及犯罪嫌疑人引渡与司法协助快速通道。东南亚诈骗园区问题需要国际社会的持续施压与区域内国家的实质性治理合作，仅靠当地政府的间歇性打击无法根除问题。国际组织如联合国、国际刑警组织应在协调全球反 AI 欺诈合作中发挥更积极的作用，推动建立全球统一的诈骗犯罪定义、统计标准与信息共享框架。
6.5 社会层：公众素养提升与受害者支持
公众反欺诈素养的提升是治理体系的基础环节，但教育内容必须与时俱进。传统防骗教育聚焦于识别伪造内容的视觉与听觉线索，在 AI 生成内容仿真度持续提升的背景下，这些教育内容的有效性正在衰减。新的防骗教育应当实现两个转向：一是从 "教公众识别真假" 转向 "教公众验证来源"，强调无论内容看起来多么真实，都应当通过独立渠道核实对方身份与信息来源；二是从 "知识灌输" 转向 "行为习惯养成"，帮助公众建立在收到资金请求时暂停、核实、再行动的自动化行为模式，而非仅仅记住若干识别技巧。
反网络钓鱼技术专家芦笛强调，防骗教育最核心的一条原则应当是：在数字沟通中，感官证据不再等同于身份证据。听到熟悉的声音、看到熟悉的面孔，只能说明对方 "可能" 是声称的那个人，而不能作为确认身份的充分依据。对于任何涉及资金转移、敏感信息变更或重大决策的沟通，必须通过独立的第二渠道进行身份验证。这一原则应当成为数字时代公众的基本素养，如同过马路时先左右观察一样自然。
受害者支持体系的建设同样紧迫。社会应当消除对诈骗受害者的污名化与指责文化，认识到在 AI 技术加持下，受骗与个人智力、教育水平无关，任何人都可能成为目标。社区、企业与公益组织应建立受害者心理支持与法律援助网络，帮助受害者应对心理创伤、银行追责、税务纠纷与执法报案等多重压力。美国已有 Operation Shamrock 等非营利组织为网络诈骗受害者提供支持，但这类组织的覆盖范围与资源远不能满足需求，需要政府资助与社会力量的广泛参与。
7 结论
生成式人工智能技术正在以前所未有的速度重塑网络欺诈的技术形态与犯罪规模。美联社 2026 年 9 月发布的系列调查报道，以翔实的民调数据、受害者访谈与技术专家分析，全面呈现了 AI 驱动冒名欺诈的当前态势：98% 的美国民众曾遭受诈骗定向攻击，深度伪造内容的仿真度已达到仅凭肉眼难以分辨的水平，传统识别线索正在快速消弭，受害者覆盖全年龄段与全教育背景，损失金额屡创新高，而受害者在资金追回、心理救助与制度保障方面面临系统性缺失。
本文的分析表明，应对生成式 AI 冒名欺诈不能依赖单一手段。基于内容特征的检测技术受制于攻防不对称的固有困境，终将陷入被动；内容溯源技术前景可期但生态落地尚需时日；平台责任与金融风控的强化能够在传播与资金环节形成有效拦截；法律规制与跨境执法协作是犯罪追责的制度保障；公众素养提升与受害者支持体系则是治理的社会基础。这五个层面相互补充、缺一不可，共同构成多层协同治理框架。
迪妙网络空间安全学院研究团队认为，生成式 AI 欺诈治理的核心战略转变，应当是从 "与伪造技术比拼检测能力" 转向 "在身份验证与资金流转环节建立不可绕过的安全控制点"。无论 AI 生成内容多么逼真，欺诈犯罪的最终目的始终是获取资金，而资金流转必须经过金融机构这一可监管节点；无论冒名顶替多么可信，身份验证总可以通过独立于被验证内容的第二渠道完成。将防御资源集中投入这两个关键节点，比持续追逐不断迭代的内容检测技术更具成本效益与长期稳定性。
生成式 AI 技术本身是中性的，其滥用带来的欺诈问题需要技术、法律、行业与社会的协同应对。随着 AI 能力的持续提升，欺诈犯罪的形态还将继续演化，治理体系也必须保持动态调整与持续投入。唯有建立覆盖全链条的多层协同治理机制，才能在 AI 时代有效维护个人财产安全、社会信任基础与数字经济的健康发展。
编辑：芦笛（公共互联网反网络钓鱼工作组）
来源：迪妙网络空间安全学院
