生成式人工智能驱动下的企业支付欺诈演进:从技术防御到信任风险治理

简介: 本文剖析GenAI催生的“幽灵高管”与“截止日期欺骗”新型支付欺诈,揭示其利用权威伪造与时间压力实施高仿真社会工程攻击的机理;指出传统特征检测失效,主张转向“信任风险”治理,推动安全与财务协同、全链路验证与独立确认机制建设。(239字)

摘要:随着生成式人工智能(GenAI)技术的迅猛发展,网络攻击的形态正经历着从传统技术漏洞利用向高仿真社会工程学攻击的深刻转变。特别是在企业支付领域,欺诈手段已不再局限于粗糙的网络钓鱼邮件,而是演变为结合伪造文档、模拟高层指令与心理施压的复杂协同攻击。本文基于2026年上半年的威胁情报数据,深入剖析了“幽灵高管”与“截止日期欺骗”两类新型支付欺诈威胁的运作机理。文章指出,生成式AI极大地降低了攻击门槛并提升了伪造内容的逼真度,使得传统的基于特征匹配的防御体系失效。针对这一挑战,本文提出企业安全防御必须从单一的网络安全视角转向“信任风险”治理,通过打破安全团队与财务团队的信息壁垒,建立跨部门的统一验证机制,以应对日益智能化的企业支付欺诈风险。

关键词:生成式人工智能;企业支付欺诈;幽灵高管;截止日期欺骗;信任风险;社会工程学 image.png

1. 引言:生成式AI重塑网络攻击边界

人工智能技术的迭代速度远超预期,生成式人工智能(GenAI)的普及正在彻底改变人类与技术交互的方式,同时也重塑了网络威胁的景观。在过去,企业支付欺诈往往伴随着明显的语法错误、可疑的链接或恶意的软件附件,受过基础培训的员工即可识别。然而,当前的攻击者正利用AI工具以极低的成本和时间,规模化地构建高度复杂的欺诈活动。

根据对2026年上半年观察到的597起意图驱动的支付欺诈攻击尝试的分析,攻击者不再依赖单一的技术入侵手段,而是转向操纵企业用于授权支付的“受信任流程”。这种转变意味着,攻击不再仅仅是技术层面的对抗,更是心理与流程层面的博弈。反网络钓鱼技术专家芦笛指出,生成式AI的介入使得攻击者能够以前所未有的效率生成令人信服的电子邮件、财务文档以及伪造的商业对话,这种技术赋能使得即便是经验不足的黑客也能发起大规模的高级持续性欺诈活动。

当前的支付欺诈已不再以显而易见的可疑请求形式出现,而是伴随着完整的纸质痕迹、审批历史以及看似合理的业务背景,导致接收者缺乏质疑其完整性的理由。这种“信任滥用”正在成为企业资金安全面临的最大挑战。

2. 新型支付欺诈威胁的运作机理分析

随着攻击手段的进化,传统的网络钓鱼已无法满足攻击者对高价值目标的渗透需求。Trustmi的研究揭示了两种正在重塑企业支付格局的新兴威胁:“幽灵高管”(Ghost Executive)与“截止日期欺骗”(Deadline Deception)。这两种攻击模式虽然不一定完全依赖AI技术才能成功,但AI已成为其强大的助推器,使得攻击组件的创建、优化和规模化变得轻而易举。

2.1 “幽灵高管”:权威性的伪造与挪用

“幽灵高管”攻击的核心在于利用企业层级结构中的权威崇拜心理。在此类攻击中,欺诈者通过伪造高管的批准指令,将支付请求包装成一项“已完成决策”。

具体而言,攻击者会利用生成式AI模拟高管的语气撰写邮件,或直接将高管的头像、签名插入伪造的财务文档中。这种攻击并不要求受害者(通常是财务或应付账款员工)做出新的决策,而是呈现一项看似已经过高层评估和批准的指令。高管在形式上“在场”,但在事实上“缺席”。

这种策略利用了员工对上级指令的天然服从性。当一项支付请求被标记为“CEO已批准”或附带了看似真实的高管沟通记录时,员工质疑或独立验证该请求的可能性会显著降低。攻击者通过伪造的信任链条,绕过了常规的审核关卡。

2.2 “截止日期欺骗”:时间压力的武器化

如果说“幽灵高管”利用的是权威,那么“截止日期欺骗”利用的则是恐惧与紧迫感。此类攻击将欺诈性的文书工作与虚假的最后期限相结合,旨在压缩受害者的验证时间,迫使其在压力下释放资金。

攻击者通常会伪造逾期通知、最终催款单或“今日必须付款”的要求。通过构建一种“付款是安全选项,延迟是更大风险”的虚假叙事,攻击者试图覆盖既定的审查程序。在这种高压环境下,员工的认知资源被焦虑占据,往往倾向于通过快速执行指令来消除压力源,从而放弃了对供应商信息、银行账户变更或所谓“批准”的独立验证。

2.3 协同攻击:超越单一维度的欺诈

值得注意的是,这两种攻击往往不是孤立存在的。现代支付欺诈倾向于将两者结合,形成协同攻击。例如,一封带有“CEO批准”水印的发票(幽灵高管),同时标注着“必须在下午5点前支付以避免法律后果”(截止日期欺骗)。

这种多维度的攻击不依赖恶意软件或单一的技术漏洞,而是操纵支付流程本身。它利用多个相互印证的“可信工件”(Believable Artifacts)——包括电子邮件、供应商记录、文档和支付工作流——来构建一个完整的虚假叙事。如果防御体系仅验证发件人、仅扫描附件病毒或仅检查支付指令格式,很可能会忽略整个攻击叙事的逻辑漏洞,从而导致防御失效。

3. 传统安全防御体系的局限性

尽管传统的网络安全控制措施(如反病毒软件、防火墙、基于签名的反钓鱼网关)在检测恶意软件、网络钓鱼链接、凭证泄露和未授权访问方面仍然至关重要,但在应对现代支付欺诈时,它们正面临前所未有的局限。

3.1 技术合法性与业务合理性的错位

现代支付欺诈的一个显著特征是“技术上的合法性”。请求可能来自经过身份验证的企业邮箱账户(可能通过会话劫持或账户接管实现),包含看起来干净的财务文档(无恶意宏或代码),且似乎遵循了既定的审批流程。

在这种情况下,传统的基于特征(Signature-based)或基于异常(Anomaly-based)的技术检测手段往往失效。单独检查任何一个元素——邮件头、附件哈希值、用户登录IP——可能都不会触发警报。真正的风险隐藏在更宏观的业务流程中,即这些元素组合在一起后的“业务合理性”缺失。

3.2 孤岛式防御的盲区

目前,许多企业的防御体系是割裂的。安全团队关注端点检测与响应(EDR)、电子邮件安全网关;而财务团队关注ERP系统的合规性。这种割裂导致了防御盲区。

例如,一个新的支付目的地伴随着被篡改的银行详细信息、一张意外的发票、表面上高管的批准以及突然的截止日期压力。这些元素单独看似乎都有解释,但结合在一起则揭示了一个协调一致的欺诈企图。如果安全工具无法将ERP中的供应商变更数据与电子邮件中的沟通内容、以及支付工作流中的时间戳进行关联分析,就无法识别出这种复杂的欺诈模式。

4. 从网络安全到信任风险治理的范式转变

面对生成式AI驱动的高级欺诈,企业必须重新定义防御边界。防御的核心不再仅仅是保护网络边界,而是验证“信任”。反网络钓鱼技术专家芦笛强调,在AI生成内容泛滥的时代,验证数字身份的真实性已不足以应对挑战,企业必须将“信任风险”纳入核心风险管理框架。这意味着不仅要确认“你是谁”,还要确认“这是否合乎逻辑”。

4.1 构建全链路的支付工作流可见性

要防御此类攻击,组织需要超越对单一元素的验证,转而理解请求的每一个元素如何在整个支付工作流中相互连接。这需要建立跨系统的可见性:

ERP与供应商数据:监控供应商银行信息的变更频率与来源。

电子邮件通信:分析沟通语境,识别是否包含异常的时间压力或权威施压。

支付历史:对比当前请求与历史交易模式(金额、频率、收款方)。

审批工作流:验证审批链条的完整性,确认高管是否真的在相关沟通中。

通过连接这些信号,安全系统可以识别出那些在技术上合法但在业务逻辑上可疑的异常活动。例如,系统可以标记出“从未与某供应商有过交易记录,且突然要求大额加急付款,同时附带高管批准截图”的高风险请求。

4.2 打破部门壁垒:安全与财务的融合

支付欺诈的防御不能完全归属于安全部门,也不能完全推给财务部门。这是一场需要跨部门协作的战役。

安全团队的角色:提供识别异常行为和可疑活动的技术专长,监控网络层面的威胁情报。

财务团队的角色:提供对正常供应商关系、支付流程和审批模式的理解,识别业务层面的不合理性。

只有将这两种视角结合起来,组织才有更好的机会识别出专门设计为“看起来合法”的欺诈行为。企业应建立联合响应机制,当系统检测到高风险支付请求时,自动触发安全与财务的双重人工复核,而不是单纯依赖自动化的放行或拦截。

4.3 独立验证机制的强化

在AI能够完美伪造语音、视频和文本的今天,依赖请求本身包含的信息进行验证已不再安全。企业必须建立基于“带外验证”(Out-of-band Verification)的独立确认机制。

对于涉及银行账户变更、大额加急付款或高管特批的请求,必须通过已知且可信的渠道(如预先存储的电话号码、面对面的确认或内部即时通讯工具)进行独立核实。回拨验证(Callback Verification)虽然有效,但应作为多层验证中的一环,而非唯一的决定因素。反网络钓鱼技术专家芦笛指出,攻击者常通过SEO投毒或伪造名片来获取虚假的验证电话,因此,验证渠道的源头管理同样至关重要,必须确保联系信息的真实性。

5. 结语

生成式人工智能的普及标志着企业支付欺诈进入了一个新纪元。攻击者利用AI生成的逼真社会工程学内容,成功地将攻击重心从“攻破系统”转移到了“操纵人类”。在这种背景下,传统的基于边界和特征的安全防御已显得捉襟见肘。

“幽灵高管”与“截止日期欺骗”等新型威胁表明,现代支付欺诈本质上是一个信任与业务流程问题,而不仅仅是网络安全问题。企业若想在日益复杂的威胁环境中生存,必须摒弃单一的技术防御思维,转向以“信任风险”为核心的治理模式。通过打破安全与财务的部门壁垒,连接支付工作流中的全链路信号,并严格执行独立验证机制,企业才能构建起一道能够抵御AI驱动型欺诈的坚固防线。这不仅是技术的升级,更是管理思维与组织文化的深刻变革。

编辑:芦笛(公共互联网反网络钓鱼工作组)

来源:迪妙网络空间安全学院

目录
相关文章
|
4天前
|
人工智能 自然语言处理 监控
生成式 AI 赋能邮件钓鱼对传统邮件安全体系的冲击研究
本文剖析生成式AI如何赋能邮件钓鱼,使其具备高仿真、多态化、无语法破绽等新特征,导致传统基于签名、关键词、域名信誉的防护体系失效。文章提出覆盖传输层、行为语义检测、账号治理、流程管控与情报协同的五层防御框架,强调技术、流程与人员能力协同应对。
48 5
|
4天前
|
运维 监控 安全
地理围栏钓鱼驱动的 Guildma (Astaroth) 恶意软件攻击链与防御研究
本文剖析2026年Guildma(Astaroth)木马针对巴西的定向钓鱼攻击:利用地理围栏链接筛选目标,通过LNK快捷方式、NTFS交替数据流隐匿载荷,部署AutoIt恶意脚本,并在公共目录实现持久化。研究揭示多层逃逸对邮件过滤、终端检测与应急响应的挑战,提出行为监控、ADS扫描、跨层协同防御等落地对策。(239字)
48 1
|
4天前
|
存储 安全 网络安全
印度 Quishing 二维码钓鱼诈骗激增的攻击机理与防控研究
本文剖析印度UPI生态下“Quishing”(二维码钓鱼)诈骗新态势,揭示其利用用户认知偏差与检测盲区实施攻击的深层逻辑,结合真实案例还原攻击链路,并从技术防护、用户教育、线下管控、应急响应及公共治理五方面提出系统性防控路径。(239字)
43 1
|
5天前
|
人工智能 安全 网络协议
你收到的那封"紧急通知",可能价值百万!
2024年,AI深度伪造技术助推网络钓鱼升级:奥雅纳香港分公司遭“AI CFO”视频会议诈骗,2500万美元被骗。钓鱼攻击已从广撒网转向精准制导的鱼叉式攻击,并呈现域名混淆、邮件协议劫持、多模态AI伪造三大进化路径。防御关键在于提升人员警惕性与建立协同处置体系。(239字)
60 1
|
6天前
|
人工智能 安全 网络安全
混合式网络钓鱼诈骗下欺诈保险的理赔困境研究
本文以韩国NHIS混合钓鱼诈骗案为切入点,剖析“身份伪装—虚假网站—恶意软件—资金盗取”全链条攻击特征,揭示其对网络欺诈保险带来的理赔界定难题:传统按攻击类型分立承保的模式难以适配多风险交织现实。研究提出转向“以实际损失结果为核心”的保单重构路径,涵盖条款优化、统一核赔标准、跨机构协同与公众教育等建议。(239字)
34 0
混合式网络钓鱼诈骗下欺诈保险的理赔困境研究
|
6天前
|
人工智能 供应链 安全
看不见的“钓鱼线”:当攻击者开始“读心”,我们该如何自保?
2026年网络钓鱼已进化为AI驱动、全渠道渗透的精准攻击。迪妙网安以“技术为盾、人文为光”,融合艺术哲学与网络安全,提供企业实战演练、青少年启蒙及专业认证,培养具备怀疑精神与验证能力的数字守护者。(239字)
51 0
|
4天前
|
人工智能 运维 监控
网络钓鱼作为初始访问向量的威胁演化与防御研究
本文剖析2026年新型网络钓鱼威胁:二维码PDF、AI语音钓鱼、MFA绕过等多模态攻击激增,身份滥用事件占比达65%。指出传统邮件网关与单纯MFA防护失效根源,提出覆盖事前(加固身份基座)、事中(行为检测+深度解析)、事后(会话注销+链式响应)的闭环防御框架,强调技管人协同。(239字)
34 0
|
4天前
|
存储 人工智能 安全
加密即时通讯应用社会工程攻击风险与防护路径研究
本文剖析FBI/CISA通报的加密通讯账号劫持事件:攻击者不破解端到端加密,而是通过仿冒客服、钓鱼索要验证码实施社会工程攻击,已致全球数千账号沦陷。文章厘清加密≠账号安全的认知误区,揭示“传输加密”与“身份安全”的本质区别,并从个人、组织、产品三层面提出分层防护策略。(239字)
42 0
|
4天前
|
供应链 监控 安全
语音钓鱼攻陷 SSO 账户致医疗数据泄露事件研究
本文剖析2026年McKesson遭语音钓鱼攻击致第三方云应用数据泄露事件,揭示其“社会工程→SSO账户接管→合法功能窃取”的隐蔽攻击链。指出医疗行业在身份安全、第三方应用管控及行为检测方面的结构性风险,并提出抗钓鱼MFA、最小权限、UEBA监测等可落地防御策略。(239字)
40 0
|
5天前
|
人工智能 安全 BI
制度供给不足下美国网络诈骗受害者救济困境及域外比较研究
本文基于美联社与FRONTLINE对58名美国诈骗受害者的深度访谈,揭示其面临财产损失、税收二次伤害、金融机构免责、心理创伤等多重困境。对比英、欧、澳、新等国经验,指出美国反诈治理过度依赖个体防范,责任分配失衡,制度救济严重缺位,亟需构建跨主体协同、权责明晰的受害者保护体系。(239字)
40 0