摘要
生成式人工智能降低欺诈攻击的技术门槛，推动各类社会工程欺诈走向规模化、高仿真化。基于 Experian 公开调研数据，企业层面欺诈损失较往年出现上升态势，AI 生成钓鱼攻击被受访企业列为排名首位的 AI 赋能欺诈风险，其次为 AI 辅助第一方欺诈、AI 文档伪造、自动化机器人攻击、深度伪造音视频欺诈等威胁。当前市场环境下，普通终端用户对 AI 欺诈手段认知度有所提升，但主观上感受到自身遭受欺诈的风险同步加大，真伪识别困境成为各类 AI 欺诈的底层共性问题。本文以调研披露的六类 AI 赋能欺诈风险为研究对象，解析各类威胁的攻击特征与现实危害，分析传统企业安全防御体系面对 AI 驱动欺诈所暴露的结构性短板，厘清用户认知提升却难以有效规避欺诈的内在矛盾，从技术检测机制、业务流程管控、人员安全能力建设、跨主体威胁情报协同、欺诈事件闭环处置等维度构建适配 AI 时代的企业综合防御框架。研究表明，AI 赋能欺诈并不单一指向某项全新攻击手段，而是对传统社会工程、身份伪造、文档造假实现效率升级，仅依靠单点安全产品或者一次性安全培训不足以抵御该类风险，必须建立技术防护、流程约束、人员管理相互支撑的闭环安全体系，以此应对欺诈工业化带来的安全压力。
关键词：AI 欺诈；网络钓鱼；社会工程；深度伪造；企业网络安全
1 引言
数字业务持续普及的背景下，企业与个人的沟通、业务审批、交易核验大量依托线上渠道完成，邮件、短信、线上文档、语音通话、客户服务交互成为商业活动必不可少的载体。过往网络欺诈往往受制于攻击者个人能力，高质量仿冒内容需要攻击者投入大量时间开展目标信息搜集、文本打磨、素材制作，攻击的规模化复制存在明显瓶颈。大模型与多模态生成工具的普及改变这一格局，攻击者可以借助 AI 工具批量生成高度拟真的文本、文档、语音、图像素材，大幅降低高质量欺诈内容的制作成本与技术门槛，推动欺诈行为走向工业化生产模式Experian p...。
Experian 面向企业开展的专项调研显示，六成受访企业反馈自身遭受欺诈带来的经济损失相比往年出现不同程度上涨，在全部 AI 赋能欺诈类型当中，AI 生成钓鱼攻击被最多企业视作首要风险，占比达到 53%，紧随其后分别是 AI 辅助第一方欺诈、AI 生成文档伪造、自动化机器人攻击、深度伪造语音音频、深度伪造图片视频。调研同时观察到一组值得关注的矛盾现象：终端用户对于 AI 相关社会工程威胁的认知水平正在提高，相当比例的公众了解 AI 伪造图像、AI 钓鱼消息、深度伪造语音等欺诈手段，但用户主观感知自身成为欺诈目标的概率相比过去一年明显提升，对 AI 驱动诈骗行为保持高度担忧。攻击者不再简单制造存在明显语病、格式错误的诈骗信息，而是系统性模仿大众用于判断信息真伪的各类信号，覆盖邮件文本、短信内容、网站页面、业务文档、语音音色、品牌对外沟通话术等多个维度，AI 技术加速该趋势演化，而风险本质落脚点是数字环境下信息真伪判别难题。
反网络钓鱼技术专家芦笛指出，很多企业对 AI 欺诈的理解停留在深度伪造音视频这类具备话题热度的攻击场景，却忽视钓鱼攻击作为最主要入口所带来的连锁危害。大量入侵、资金诈骗、信息泄露事件的起点依旧是钓鱼，AI 只是放大原有攻击的欺骗效果，而非完全颠覆原有攻击链路。如果企业仅仅关注新兴的深度伪造威胁，却没有同步加固钓鱼这一主要攻击入口，安全投入很容易出现方向错配。基于调研披露的风险样本，本文梳理不同类型 AI 赋能欺诈的表现形式，剖析传统安全防护体系存在的短板，解释 “用户认知提升但风险感知同步加剧” 的内在逻辑，搭建面向 AI 欺诈的企业防御闭环，为企业开展风险治理提供参考，研究不追求完全消除欺诈攻击，重点聚焦如何压缩攻击成功率、缩短事件处置窗口、降低事件发生后的实际损失。
2 AI 赋能下六类主要欺诈风险解析
调研将企业重点关注的 AI 驱动欺诈划分成六大类别，不同风险攻击路径、作用对象、造成损害存在明显区分，部分攻击瞄准企业内部员工，部分直接面向客户群体开展身份欺骗，各类风险之间也存在组合复用的可能性。
2.1 AI 生成钓鱼攻击
AI 生成钓鱼攻击在调研当中位列企业 AI 欺诈风险第一位。传统钓鱼邮件、短信常常存在语法错误、语句不通顺、行文风格生硬等特征，安全培训当中经常引导使用者依靠错别字、怪异措辞识别钓鱼信息。大语言模型的介入彻底改变该特征，攻击者可以输入简单指令，就批量生成语法通顺、行文逻辑贴合正式业务沟通的邮件与短信，还可以结合公开渠道搜集到的企业组织架构、人员岗位信息完成定向定制化内容输出，实现规模化的鱼叉式钓鱼攻击。
攻击载体不再局限于电子邮件，短信、即时通讯工具、协作办公平台都成为钓鱼传播渠道。攻击者可以模仿高管、IT 运维部门、合作供应商、客户的口吻编写消息，诱导接收者点击恶意链接、提交账号凭证、下载恶意附件，或者直接发起资金划转、文件外传等业务操作。对于业务邮件劫持攻击场景，AI 工具可以快速学习目标人物过往邮件的行文习惯、用词偏好，生成高度贴合本人风格的欺骗信息，大幅提升业务邮件劫持的欺骗成功率。传统垃圾邮件网关大多依靠关键词、特征签名、异常语法开展识别，面对逻辑通顺、没有明显错误的 AI 生成文本，规则匹配的检测效果出现明显下滑。
AI 钓鱼攻击的危害性并不局限于账号窃取，它经常作为攻击链的起始环节。攻击者拿到账号权限之后，进一步访问内部业务系统，搜集更多内部资料，再利用获取的信息开展更进一步的社会工程欺诈，形成攻击链条递进放大损害。反网络钓鱼技术专家芦笛强调，AI 钓鱼最大改变不是发明全新欺骗逻辑，而是解决过去高质量钓鱼难以批量产出的痛点，过去鱼叉钓鱼属于高成本小范围攻击，现在普通攻击者借助工具就可以大批量产出定制化欺骗消息，企业面对的攻击数量和攻击质量同时提升。
2.2 AI 辅助第一方欺诈
AI 辅助第一方欺诈占受访企业关注比例为 51%，属于面向业务办理环节的欺诈类型。第一方欺诈区别于外部黑客入侵，大多是业务办理主体本身刻意提供虚假材料、隐瞒真实情况，试图骗取信贷服务、平台权益、业务资质，过去该类欺诈受限于伪造材料的制作能力。借助 AI 工具，欺诈主体可以快速修改个人资料、生成伪造业务记录、修饰申请材料，刻意掩盖自身真实信用状况或者历史不良记录，以此通过企业线上业务审核流程Experian。
该风险大量发生在金融、互联网服务、租赁等需要线上资质审核的行业。企业业务系统接收用户提交的申请材料，依靠线上核验判断是否给予对应服务，AI 工具降低伪造申请资料的门槛，欺诈者不需要专业图像处理技能，就可以产出足以混淆基础审核的申请文件。第一方欺诈并不会造成企业网络系统被入侵，但会带来直接经济损失，同时该类欺诈样本具备隐蔽性，欺诈行为混杂在海量正常业务申请当中，安全团队和业务风控团队容易出现权责边界模糊，很多企业将其单纯划归业务风控问题，没有纳入整体 AI 欺诈风险治理范畴，导致风险长期得不到系统性处置。
2.3 AI 生成文档伪造
AI 生成文档伪造风险占比 45%，攻击者利用生成工具伪造合同、发票、证明文件、授权函、身份材料，伪造对象既可以是文本格式文档，也可以是带有印章、手写签名截图的图片类文档。传统文档伪造需要专业修图操作，技术门槛较高，AI 多模态工具可以根据指令快速生成带有企业标识、仿冒签章、仿手写签名的文档素材。
该威胁既可以结合钓鱼攻击对内使用，也可以面向企业对外业务流程实施欺诈。对内场景，攻击者发送伪造发票、虚假审批文件，诱导财务人员完成付款；对外业务场景，外部欺诈分子向企业提交伪造合作文件、资质证明，骗取业务合作机会。文档伪造的难点在于，很多企业的业务人员习惯于依靠视觉特征判断文件真伪，比如印章样式、排版格式，AI 生成的伪造文档在外观层面高度逼近真实文件，单纯依靠肉眼比对很难分辨。文档伪造还可以和钓鱼攻击组合使用，钓鱼邮件附件搭载 AI 伪造的虚假文件，接收者看到文档格式完整、排版规范，降低戒备心理，进而按照文档要求开展业务操作。
2.4 自动化机器人攻击
自动化机器人攻击占比 40%，攻击者结合大模型能力与自动化脚本，开展批量账号注册、表单提交、客服对话、业务查询操作。区别于早期简单脚本机器人，搭载大模型的机器人可以处理自然语言交互，绕过简单验证码、基础问答校验，模拟普通人对话逻辑和企业在线客服开展沟通，绕过初级反机器人防护。
该类攻击带来多重损害：批量注册虚假账号占用企业业务资源，抓取公开业务数据，暴力尝试账号登录，扰乱线上业务正常运行；同时机器人可以结合社会工程逻辑，自动生成话术和内部员工、客服开展对话，套取业务信息。很多企业部署的反机器人防护更多针对传统脚本，面对具备自然语言理解能力的 AI 机器人，原有校验机制有效性下降。自动化机器人攻击还经常作为辅助手段，配合钓鱼、身份伪造开展组合式欺诈。
2.5 深度伪造语音音频欺诈
深度伪造语音音频欺诈占比 37%，攻击者基于少量目标人物公开语音样本，利用 AI 语音克隆技术复刻目标音色、语气节奏，通过电话、语音通话渠道实施欺骗。该攻击模式已经出现多起现实案例，攻击者模仿企业高管、合作方负责人的声音，通过电话向财务或者业务人员下达转账、资料传递指令。
语音深度伪造的特殊难点在于，传统邮件安全网关、网页防护工具完全无法覆盖电话语音信道。企业过往安全建设重点大多集中在邮件、内网系统，对于语音通话渠道的欺诈缺少对应的技术管控手段，防御责任主要落在接听电话的工作人员身上。部分企业内部缺少统一的语音通话核验流程，员工接到仿冒语音来电时，没有标准化流程用于确认通话对象真实身份。需要明确，深度伪造语音攻击并不需要获取海量原始录音，少量社交平台公开语音片段就足以完成音色复刻，进一步扩大该威胁的攻击面。
2.6 深度伪造视频图像欺诈
深度伪造视频图像占全部受访企业关注比例的 35%，攻击者生成伪造视频、图片素材，用于仿冒企业负责人、员工、合作客户，在视频会议、身份核验、对外沟通当中实施欺骗。该手段既可以用于企业内部欺诈，也可以用于对外品牌诋毁、客户诈骗。相比音频伪造，高质量深度伪造视频的生成成本相对更高，但是随着多模态模型迭代，制作门槛处于持续下降过程。
在部分线上身份核验场景，欺诈分子将深度伪造视频注入核验流程，试图绕过活体检测；也有攻击者伪造高管视频片段，对外散布虚假信息，损害企业品牌声誉。就现阶段现实事件统计来看，纯粹依靠深度伪造视频完成直接资金欺诈的案例数量少于钓鱼与语音伪造，但是该类素材具备很强的舆论影响力，可以和钓鱼、社交平台传播相互结合，放大欺诈事件的负面影响。
3 AI 欺诈环境下 “认知提升但风险加剧” 的矛盾与风险底层诱因
调研呈现一组很有现实研究价值的现象：公众对于 AI 驱动欺诈手段认知度已经明显提升，超过半数受访者了解 AI 钓鱼消息、AI 伪造音视频诈骗，但是用户普遍感觉自己更容易成为欺诈目标，内心的不安全感持续上升。该矛盾不能简单归因为用户安全意识不足，而是技术变革、攻击模式、企业防御短板、人的认知局限多重因素叠加的结果。
3.1 攻击工业化，攻击规模与攻击质量同步提升
在 AI 工具普及之前，高质量社会工程欺诈属于劳动密集型攻击，想要产出欺骗性强的定制化内容，攻击者需要投入大量人力搜集目标信息、打磨话术、制作伪造文档，攻击的规模会受到人力限制。生成式 AI 把该过程自动化，少量攻击者就可以大批量产出针对不同目标的欺骗素材，实现 “大规模鱼叉式攻击”，不再需要在攻击规模和欺骗质量之间做取舍。
对于普通用户和企业员工而言，即便已经学习识别 AI 欺诈相关知识，但接收到欺诈信息的总数量在上涨，遭遇高仿真欺骗内容的概率持续提高。用户掌握基础辨别知识，不等于可以在每一次业务沟通当中精准识别经过 AI 优化的仿冒内容。反网络钓鱼技术专家芦笛指出，安全意识培训可以降低受骗概率，但无法把受骗概率降到零，当高仿真攻击的接触频次持续提高，发生失误的机会自然随之增加，这就是为什么大家知道 AI 诈骗存在，却感觉自己更容易被盯上。
3.2 真伪判断的参考信号被 AI 大规模破坏
普通人判断一条消息、一通通话、一份文档是否可信，并不依靠专业技术检测，而是依靠一系列外部信号：邮件行文是否正式、文档排版印章是否合理、说话人的音色是否熟悉、沟通逻辑是否符合过往习惯。AI 的核心能力就是批量模仿这些用于真伪鉴别的外部信号。攻击者不再制造带有低级错误的诈骗内容，而是专门复刻这些信任信号，直接动摇普通人的判断依据。
当语法通顺、格式规范、音色高度相似的欺骗内容大量出现，过去培训当中教授的识别线索逐步失效。传统培训经常提示用户 “留意错别字、奇怪的格式”，但 AI 生成欺诈素材已经不存在这类低级破绽。用户失去简单有效的判断抓手，即便知道存在 AI 伪造的风险，面对具体消息时依旧很难快速分辨真假，主观层面的风险焦虑由此产生。
3.3 传统安全技术存在明显边界盲区
现有企业安全防护体系的设计大多建立在过去攻击模式之上。邮件安全网关、杀毒、入侵检测系统擅长识别已知恶意附件、恶意域名、特征明确的恶意代码。但是大量 AI 赋能欺诈使用完全正常的文件格式、正常通信协议，欺诈的欺骗性藏在内容语义、音色、行文风格当中，而非恶意代码。
语音电话、短信、第三方社交平台属于企业安全设备管控边界之外的信道，企业部署的邮件安全产品无法监控员工私人手机接收的短信、外部来电。深度伪造语音、短信钓鱼发生在企业 IT 基础设施之外，技术工具无法直接拦截，防御压力全部转移到人员个体。很多企业的安全预算集中于内网边界防护，对于跨信道社会工程欺诈缺少对应的技术投入，形成防护缺口。
3.4 业务流程优先，校验机制存在缺位
商业业务运转强调效率，大量线上审批、付款、对外合作流程高度追求流转速度，部分核验环节被简化。很多业务场景当中，核验仅仅依靠收到的文档、消息本身，缺少独立于消息渠道之外的二次确认机制。例如收到一封邮件下达付款指令，只核对邮件内容和附件文档，不通过独立的电话、线下见面完成身份复核。
AI 放大该流程缺陷带来的危害，当伪造内容足够逼真，业务流程缺少独立校验环节，仅仅依靠材料外观判断真伪，欺诈就有机会成功。很多企业将风控校验集中放在系统登录环节，却忽略登录之后业务指令、业务材料本身的真实性校验，假设登录账号可信就默认全部业务请求可信，这一假设在 AI 欺诈环境下不再成立。
3.5 企业内部风险治理存在认知偏差与权责割裂
不少企业对于 AI 欺诈的认知出现两极分化，一部分机构过度渲染深度伪造音视频的威胁，把全部注意力放在话题热度高的场景，却忽略钓鱼作为最高发入口的现实；另一部分企业简单认为 AI 欺诈只是员工意识问题，全部解决方案等同于开展安全培训，缺少配套技术管控与流程约束。
同时，不同类型欺诈分属不同部门管辖：钓鱼攻击划归网络安全团队，第一方欺诈属于业务风控部门，文档伪造分散在财务、法务、采购各个业务部门，深度伪造舆论风险交由品牌公关部门。部门之间缺少统一的 AI 欺诈风险协同治理机制，风险数据、攻击样本不能共享，风险处置碎片化，无法形成完整闭环。安全团队很难完整掌握发生在业务端、客服端的欺诈事件，很多欺诈事件不会上报至网络安全部门，风险无法被纳入整体安全评估。
4 面向 AI 赋能欺诈的企业闭环防御体系构建
应对 AI 驱动的多元化欺诈风险，不存在单一产品可以实现全部风险阻断，不能寄希望于只依靠技术或者只依靠人员培训解决问题。需要从技术检测、业务流程重构、人员安全能力建设、威胁情报协同、事件闭环处置多个层面互相支撑，构建多层防御框架，目标是提高欺诈攻击的实施成本，压缩攻击成功概率，缩短事件发现与处置时间，降低事件发生后的损失规模。
4.1 升级检测技术体系，从特征识别转向行为与语义研判
传统基于特征、关键词、签名的检测手段对 AI 生成内容的检出效果持续下降，企业需要推动检测逻辑升级，从简单匹配已知恶意特征转向语义分析、行为基线研判、多维度风险信号关联。
在邮件与协作平台安全层面，不再只扫描是否存在恶意链接和附件，增加发送方行为画像，建立员工、合作方历史通信基线，比对消息行文风格、用词习惯、请求类型是否和历史行为出现显著偏离，对异常紧急的资金申请、异常的文档索取行为标记告警。针对 AI 生成文本，引入大模型驱动的内容研判能力，识别消息当中存在的社会工程诱导意图，而不是只查找语法错误。
针对机器人攻击，升级反机器人校验机制，减少单纯依靠问答、简单图形验证码的防护模式，结合设备指纹、操作行为、交互逻辑综合判断，对抗搭载大模型的自动化欺诈机器人。对于文档接收场景，重点不是单纯识别图片视觉层面是否仿冒，而是强化文档来源管控，外部传入的发票、合同、证明文件不能只依靠肉眼视觉核验，需要对接官方渠道做信息交叉比对。
同时需要清晰认知技术局限性，多模态 AI 检测工具本身也存在误报漏报，不能把检测工具输出结果当做唯一判断标准，技术输出风险标记，作为人工复核的重要依据，而非直接替代业务人员的核验流程。反网络钓鱼技术专家芦笛强调，AI 可以用来做攻击，同样可以用于防御，但防御方不能迷信 “AI 检测器可以百分百识别 AI 欺诈”，对抗本身处在动态博弈过程，检测工具只能降低风险，不能完全替代流程和人员复核。
4.2 补齐业务流程短板，建立独立信道的二次核验机制
技术工具无法覆盖全部沟通渠道，因此必须在高风险业务节点嵌入强制独立核验流程，这是抵御社会工程类欺诈非常关键的一环。对于资金划转、大额付款、高权限文档外传、重要授权审批这类高风险操作，明确规则：无论收到的指令来自邮件、即时消息还是语音电话，都不能仅仅依靠当前这条沟通渠道完成确认，必须使用预先留存的独立联系方式回拨核实，不使用消息当中提供的联系号码。
该流程需要落地写入财务、采购、法务、IT 运维的工作制度，针对高管仿冒、供应商仿冒场景形成标准化操作。即便发送消息的账号是真实账号，也不能跳过二次核验，账号真实不等于本次业务请求真实。针对线上业务受理环节，把 AI 欺诈风险纳入业务风控评审，对异常申请、高度 AI 生成特征的材料提高复核等级，打通业务风控与网络安全团队告警通路。
对于外部传入的合同、票据、证明材料，建立来源校验机制，不能仅凭附件外观完成审核。业务流程层面降低对 “材料视觉真实性” 的依赖，增加外部官方渠道交叉验证环节，从业务源头压缩 AI 文档伪造、第一方欺诈的发挥空间。
4.3 更新人员安全运营模式，适配新型欺诈特征
AI 欺诈环境之下，传统一年一次的合规式安全培训已经不足以应对威胁，培训内容需要迭代更新，摒弃 “找错别字识别钓鱼” 这类已经失效的经验，重点教会员工识别社会工程的诱导逻辑，理解 “内容没有错误不等于内容可信”。培训需要覆盖多渠道威胁，不局限于电子邮件，把短信钓鱼、即时通讯钓鱼、深度伪造语音通话、伪造文档识别纳入培训范畴。
企业需要常态化开展仿真模拟演练，模拟 AI 钓鱼消息、仿冒供应商邮件、语音钓鱼场景，而不是继续使用老旧的传统钓鱼样本开展演练。演练的目标不是惩罚点击模拟钓鱼的员工，而是发现群体当中的薄弱点，开展针对性辅导，建立无惩罚的可疑事件上报机制，员工遇到可疑消息，即便出现误点、误操作，也可以主动上报，避免员工因为害怕追责选择隐瞒，造成欺诈攻击在内部持续发酵。
同时需要区分不同岗位风险等级，财务、采购、法务、高管助理、IT 管理员属于高风险岗位，开展定向专项训练。反网络钓鱼技术专家芦笛强调，安全意识建设的目标不是培养可以分辨每一条欺诈信息的 “完美员工”，而是建立一套行为习惯：遇到资金、权限、敏感资料请求，优先启动核验流程，不要依靠主观感觉判断对方是否可信。人的认知存在天然局限，不能把全部安全希望寄托于个体判断力。
4.4 打通跨部门协同，完善威胁情报共享机制
AI 欺诈横跨网络安全、业务风控、财务采购、品牌公关多个职能，企业内部需要建立跨部门风险协同机制，定期汇总发生在不同业务线的欺诈案例，将钓鱼事件、伪造文档事件、客户端 AI 诈骗事件统一纳入风险台账，避免风险信息分散在各个部门互不流通。
在企业外部层面，积极接入行业威胁情报共享体系，获取新型 AI 钓鱼样本、仿冒品牌样本、欺诈工具特征，将情报同步至邮件网关、风控系统、客服团队。当行业出现新型 AI 欺诈手段时，企业可以提前完成规则更新与员工提示，而不是等到攻击降临本企业之后才被动应对。同时建立外部仿冒内容处置流程，当发现仿冒本企业的 AI 钓鱼站点、伪造文档、深度伪造素材，可以快速推动仿冒资源下线，降低面向客户的欺诈伤害。
4.5 优化应急响应预案，覆盖多元化 AI 欺诈场景
很多企业现有的应急响应预案重点围绕勒索软件、系统入侵、病毒爆发设计，对于 AI 钓鱼、深度伪造语音欺诈、AI 文档伪造、第一方欺诈这类事件缺少成熟处置流程，一旦发生该类事件，处置团队缺少明确操作指引。企业需要更新应急预案，补充不同类型 AI 欺诈的处置步骤。
当发生 AI 钓鱼造成账号失守，明确账号隔离、令牌回收、日志审计、影响范围评估流程；当遭遇深度伪造语音实施资金欺诈，明确业务冻结、证据留存、上报流程；当出现 AI 伪造文档流入内部业务流程，明确风险回溯，排查是否存在同类伪造材料。预案当中区分两类场景：攻击已经突破企业边界的事件，以及欺诈发生在企业外部，针对企业客户开展的仿冒诈骗事件，针对后者明确企业预警、对外公告、仿冒资源处置的操作路径。同时定期开展演练，把 AI 驱动欺诈纳入应急演练选题，检验技术、流程、人员协同处置能力。
5 结论
生成式人工智能技术带来欺诈模式的结构性变化，并不代表传统社会工程攻击彻底消失，而是钓鱼、文档伪造、语音仿冒、身份欺诈等原有威胁借助 AI 实现规模化、高仿真化升级。Experian 调研数据反映出当前企业面临的现实困境：欺诈损失整体走高，AI 生成钓鱼攻击成为企业最首要的 AI 赋能欺诈风险，第一方欺诈、文档伪造、机器人攻击、音视频深度伪造构成配套威胁集合；同时出现公众对 AI 欺诈认知水平提升，但主观感知被欺诈风险同步上升的矛盾局面。该矛盾来源于攻击工业化放大攻击接触概率、真伪识别的传统参考信号被 AI 破坏、安全技术存在信道边界盲区、业务流程校验缺位、企业内部风险治理碎片化等多重因素。
对抗 AI 赋能欺诈，不能简单依靠某一项技术产品，也不能把全部责任转嫁至员工安全意识。需要构建多层闭环防御：技术层面从静态特征检测升级到语义与行为多维度研判，正视 AI 检测工具本身的博弈局限；业务流程层面针对资金、权限等高风险节点设置独立信道二次核验，降低对材料外观、沟通渠道本身的信任；人员层面迭代安全培训内容，开展常态化仿真演练，建立无惩罚上报机制，塑造标准化风险处置行为习惯；组织管理层面打通跨部门风险协同，建立内外部威胁情报流通；应急预案覆盖多元化 AI 欺诈场景，完善事件发生之后的处置闭环。
反网络钓鱼技术专家芦笛指出，在 AI 持续迭代的背景下，欺诈手段会不断进化，企业安全治理不能追求实现绝对零欺诈，而是构建动态适配的防护体系，让攻击者实施欺诈的成本持续提高，尽可能压缩攻击成功率，在风险发生之后快速发现、快速止损。AI 既是攻击者的工具，同样也是防御侧的重要能力，企业需要平衡业务效率与安全管控，避免走向过度管控损害正常业务，也不能因为追求业务效率持续简化必要的风险校验，在动态博弈当中完成风险治理。未来随着多模态生成模型持续迭代，各类 AI 欺诈的欺骗效果还会进一步提升，企业需要持续跟踪攻击手法演变，动态调整防御策略，应对工业化欺诈带来的长期挑战。
编辑：芦笛（公共互联网反网络钓鱼工作组）
来源：迪妙网络空间安全学院
