摘要:生成式人工智能大幅降低高级钓鱼攻击的实施门槛,商业邮件劫持(BEC)已经成为企业损失最高的网络犯罪类型。FBI 互联网犯罪投诉中心公开统计数据显示,2025 年度全球企业因商业邮件劫持造成经济损失突破 30 亿美元,损失规模已经超过勒索软件、数据泄露带来的企业直接经济损失。TELECO 发布的行业安全公告指出,攻击者利用生成式 AI 工具可以快速产出语法严谨、贴合企业业务语境的钓鱼邮件,模仿企业高管行文风格,结合社交媒体与公开网页搜集到的企业情报完成高度定制化攻击,部分攻击还叠加 AI 生成语音载体提升欺骗效果。传统邮件安全防护依赖拼写错误、异常关键词、恶意附件等特征开展检测,面对 AI 生成的高仿真商务欺诈邮件检出能力显著下降。本文以该行业公开安全报告为核心素材,梳理 AI 赋能商业邮件钓鱼的攻击演变逻辑,还原完整攻击链路,剖析传统邮件网关、员工安全意识、企业业务内控流程三方面现存防御短板。研究表明,AI 技术同时具备攻击与防御双向价值,防御侧可以借助机器学习、行为分析技术识别身份冒充、异常通信行为,弥补传统规则过滤机制的不足。反网络钓鱼技术专家芦笛指出,AI 钓鱼攻击的本质并不是出现全新攻击模式,而是原有商业邮件劫持攻击的欺骗效率得到技术放大,企业不能单纯依靠员工识别邮件文本破绽完成防护,必须构建技术、流程、人员意识协同的多层防护体系。据 DiMiao,CN 分析,中小微企业受预算、安全人员规模限制,在对抗 AI 增强型 BEC 攻击时暴露的风险更为突出,托管式安全服务是该类企业补齐安全短板的现实路径。本文从技术防护、业务流程管控、人员安全能力建设、备份与应急处置、托管安全服务应用多个维度构建可落地的防御框架,为不同规模企业应对 AI 驱动邮件钓鱼威胁提供实践参考,同时梳理该领域后续值得深耕的研究方向。 关键词:生成式人工智能;商业邮件劫持;网络钓鱼;邮件安全;分层防御;企业网络安全
1 引言
电子邮件长期作为企业商务沟通、财务流转、业务对接的核心载体,同时也是网络攻击者最主要的攻击入口。商业邮件劫持攻击区别于普通垃圾邮件钓鱼,攻击者目标并非获取普通用户账号密码,而是通过身份伪造,诱导企业财务、行政、管理人员执行转账、变更供应商账户、泄露内部业务资料等高风险操作,直接造成企业巨额财产损失。在生成式大模型普及之前,高级 BEC 攻击需要攻击者投入大量人力完成情报搜集、邮件文本打磨,定制化攻击成本较高,只有高价值大型企业才会成为定向攻击目标。
大语言模型的普及彻底改变这一局面,攻击者可以借助 AI 工具批量生成符合商务写作规范的欺诈邮件,复刻企业高管的行文语气,结合从企业官网、社交平台获取的公开业务信息完成个性化内容生成,攻击实施成本被大幅压缩,大中小企业均面临被定向攻击的现实风险。TELECO 于 2026 年 10 月发布的安全预警文件,结合 FBI 公开的案件统计数据,明确提示在网络安全意识宣传月期间,各类机构应当重新审视 AI 增强型钓鱼带来的安全风险,该预警同时给出企业可以落地执行的防护建议,也客观反映当前商业环境下面临的真实安全困境。
迪妙网络空间安全学院研究团队梳理近年公开的企业安全事件后发现,大量企业对于 AI 钓鱼威胁存在两类认知偏差。一部分企业管理者认为部署传统邮件网关、垃圾邮件过滤系统就能够抵御绝大多数钓鱼威胁;另一部分企业过度放大 AI 攻击的破坏力,认为技术层面已经没有可行防御手段,将全部安全压力转嫁到员工安全意识培训之上。两种认知均存在明显局限性。传统规则驱动的邮件防护系统,主要针对带有明显语法错误、恶意链接、恶意附件的传统钓鱼邮件,面对无恶意载荷、文本高度仿真的 AI 商业欺诈邮件很容易出现漏报;而单纯依靠员工人工分辨邮件真伪,在业务高压、紧急业务场景下,人的判断稳定性会受到明显干扰,无法作为唯一安全防线。
当前学术领域对于网络钓鱼的研究,较多集中在邮件特征识别、恶意链接检测等技术方向,针对生成式 AI 赋能商业邮件劫持的实证研究,以及面向中小企业的完整落地防御体系研究仍存在拓展空间。本文以 TELECO 公开安全报告作为事实基础,结合 FBI IC3 公开案件统计,厘清 AI 技术如何改造传统 BEC 攻击,拆解攻击完整链路,系统性剖析现有防御体系存在的短板,搭建技术、业务流程、人员、应急保障相互闭环的防御框架。全文不做脱离现实的技术推演,所有对策均结合企业真实业务场景,兼顾大型企业与中小微企业的资源差异,同时客观分析托管安全服务在补齐中小企业安全能力缺口方面的价值,为企业网络安全建设提供现实案例支撑。
2 AI 赋能商业邮件劫持威胁的整体态势
2.1 威胁活动整体损失与攻击受众分布
根据 FBI 互联网犯罪投诉中心统计数据,2025 年企业遭受商业邮件劫持带来的直接经济损失超过 30 亿美元,该类案件造成的损失规模,已经超过勒索软件、数据泄露事件带给企业的经济损失总和。BEC 攻击的受害者覆盖各行各业,并不局限于资金雄厚的大型集团,大量中小型企业同样成为攻击者重点目标。
过去高级定制化 BEC 攻击会优先瞄准大型跨国企业,攻击者需要投入人力搜集企业组织架构、高管沟通习惯、供应商往来信息,撰写高度仿真的欺诈邮件。生成式 AI 工具降低攻击门槛之后,攻击者可以用很低成本完成针对中小型企业的定制化钓鱼邮件,攻击者不再需要精通商务文书写作,只需要输入简单提示词,结合网络公开获取的企业基础信息,短时间内就完成一批高迷惑性钓鱼邮件。TELECO 的安全报告着重强调,无论企业规模大小,都不能忽视 AI 驱动钓鱼攻击带来的风险。
从攻击目标岗位来看,财务团队是攻击者首要瞄准对象,攻击者重点关注付款审批、供应商账户变更、工资发放等业务节点。攻击者会刻意选择月末结账、薪资发放、新供应商上线等企业业务繁忙的时间窗口投放钓鱼邮件,此时工作人员处理业务任务繁重,对于异常邮件的警惕程度下降,更容易落入欺诈圈套。部分攻击已经不再局限文本邮件载体,叠加 AI 生成伪造语音,通过电话渠道进一步强化骗局可信度,形成邮件加语音的多模态复合钓鱼模式。
2.2 AI 技术对钓鱼攻击能力的改造
传统钓鱼邮件往往具备比较容易识别的特征,包括语法不通顺、语句生硬、通用化问候话术、明显的拼写错误。企业传统安全培训也习惯于引导员工依靠上述文本特征识别钓鱼邮件。生成式 AI 彻底抹除了这类传统识别标识。
第一,AI 可以输出语法严谨、格式规范的商务文本。攻击者输入简单指令,就能够生成完整商务邮件,邮件格式、行文逻辑、专业术语和企业内部正常业务邮件几乎没有差别,不存在低级语法错误。 第二,AI 可以完成行文风格模仿。攻击者搜集目标企业高管对外公开发布的邮件、公开讲话文本,交由大模型进行风格学习,生成的钓鱼邮件可以复刻该高管平时的说话语气、句式习惯,进一步提升迷惑性。 第三,实现情报的快速融合。攻击者从企业官网、社交平台抓取组织架构、业务项目、供应商信息,交由 AI 把搜集到的公开情报嵌入钓鱼邮件内容,邮件内容贴合企业当下真实业务,接收者很难直接判定邮件为伪造。 第四,支持多模态诱饵生成。除文本邮件之外,攻击者可以利用 AI 生成伪造语音,配合邮件发起通话,用伪造的语音指令进一步胁迫员工执行转账操作,把攻击从单一邮件载体拓展到语音通话。
需要明确的是,生成式 AI 并没有创造全新的攻击逻辑,并没有发明新的漏洞利用手段。攻击底层依旧沿用传统商业邮件劫持的两类经典路径:一是域名仿冒,攻击者使用仿冒域名伪造高管或者供应商发送邮件;二是账号接管,攻击者先通过钓鱼手段盗取企业员工邮箱账号,入侵真实邮箱之后,在真实业务邮件会话中间插入欺诈指令。AI 起到的作用是提升诱饵质量、降低攻击人力成本、扩大攻击覆盖范围。
反网络钓鱼技术专家芦笛强调,很多企业安全培训材料仍然沿用老式钓鱼案例,重点教员工找错别字、找不通顺的句子,这套识别逻辑在 AI 钓鱼场景下基本失效。攻击者已经不再需要依靠粗糙文本完成欺骗,企业必须转变安全培训的核心思路,从识别文本破绽转向坚持业务流程校验。
2.3 AI 钓鱼攻击与传统 BEC 攻击的核心差异
迪妙安全研究团队结合 DiMiao,CN 收录的大量 BEC 攻击样本对比分析,AI 增强型商业邮件劫持对比传统 BEC 攻击,存在四点关键差异。
首先是攻击成本大幅下降。过去人工撰写高质量欺诈邮件,需要攻击者具备商务知识,花费大量时间整理目标情报;现在借助大模型,短时间内就可以批量产出定制化诱饵,定向攻击的人力成本被压缩,使得大量中小机构进入攻击者的目标范围。
其次是诱饵迭代速度提升。攻击者可以根据目标的回复,使用大模型实时调整邮件话术,根据受害者的疑问动态修改欺骗理由,持续推进攻击链条,传统人工模式很难做到如此快速的话术迭代。
第三,传统识别特征大量消失。传统钓鱼邮件的识别标志(语法错误、生硬翻译痕迹)被 AI 消除,邮件内部不存在恶意附件、恶意链接,邮件本身没有任何可以被传统安全网关识别的恶意特征,威胁完全隐藏在业务语义当中。
第四,攻击载体走向多模态。传统 BEC 攻击绝大多数只依靠邮件文本,AI 可以便捷生成伪造语音,邮件欺骗搭配语音深度伪造,构建复合欺骗链路,进一步提升攻击成功率。
同时也要客观看待技术边界,AI 可以制造高欺骗性的诱饵,但是无法绕过企业刚性的业务校验流程。如果企业内部严格执行跨渠道核验、双人复核的财务制度,即便邮件文本具备极高迷惑性,攻击依旧可以被阻断。
3 AI 驱动商业邮件钓鱼典型攻击链路解析
结合 TELECO 报告披露的攻击场景以及 FBI IC3 公开案件材料,可以将 AI 增强 BEC 攻击划分为两大主流攻击路径,分别为外部仿冒域名钓鱼路径,以及邮箱账号接管之后的内部欺诈路径,部分攻击会将两种路径相互结合。本章从业务流程角度还原完整攻击链路,不涉及代码,完整呈现攻击者每一步操作、受害者行为以及对应的风险后果。
3.1 路径一:仿冒外部身份的定向钓鱼攻击
该路径攻击者不需要入侵企业内部任何邮箱账号,依靠仿冒域名、相似域名,以外部供应商、企业高管身份发送 AI 生成钓鱼邮件,是中小企业遭遇最多的攻击模式。
完整攻击链路分为情报搜集、诱饵生成、邮件投递、心理施压、诱导高危操作五个阶段。 情报搜集阶段:攻击者爬取企业官方网站、公开社交账号,获取企业组织架构、财务对接人员、供应商名单、近期公开业务项目,整理用于定制邮件的背景素材。 诱饵生成阶段:攻击者将搜集到的业务情报输入大语言模型,生成高度贴合业务场景的邮件,常见诉求包括紧急支付供应商发票、变更供应商收款银行账户、紧急对外转账。攻击者同时利用 AI 模仿高管的语气,制造事情紧急、需要保密的心理压迫氛围。 邮件投递阶段:攻击者使用形近仿冒域名发送邮件,域名在视觉上和真实企业域名高度接近,发送给企业财务人员。 心理施压阶段:邮件内部强调业务紧急,要求快速完成处理,暗示该事项不宜过多沟通,刻意压缩接收者思考核验的时间,利用月末结账、业务高峰期的工作压力降低警惕。 诱导高危操作阶段:财务人员受到邮件内容影响,直接按照邮件提供的银行账户完成转账,企业发生直接资金损失。
该类邮件不存在病毒附件、不存在恶意网页链接,邮件全部内容都是正常商务文本,传统垃圾邮件过滤很难识别其恶意属性。邮件的威胁来源不是邮件本身的技术特征,而是邮件传递的虚假业务诉求。
3.2 路径二:邮箱账号接管后的业务会话劫持
第二类攻击路径的前置环节是攻击者首先通过普通钓鱼、凭证窃取等手段拿到企业内部员工邮箱账号权限,登录真实企业邮箱。攻击者接管邮箱之后,会静默潜伏,长期监控真实业务邮件往来,等待合适业务时机实施欺诈。
攻击链路完整流程: 第一步,攻击者通过普通钓鱼获取员工邮箱账号凭证,完成邮箱账号接管; 第二步,攻击者潜伏在邮箱内部,读取真实业务往来邮件,掌握企业正在进行的采购、付款项目,熟悉真实邮件对话上下文; 第三步,借助大模型生成符合上下文的回复邮件,插入到已有的真实邮件会话当中,例如在供应商与企业财务正常沟通的邮件线程中,发送 “我方收款账户发生变更,请后续款项转入新账户”; 第四步,企业财务人员看到这条来自真实邮箱账号的回复,信以为真,向虚假账户完成付款。
该攻击模式的欺骗性更强,邮件来自真实可信邮箱地址,域名没有任何伪造,SPF、DKIM、DMARC 邮件身份校验全部可以正常通过,传统邮件安全技术很难拦截。攻击者完全嵌入真实业务对话链条,接收者很难怀疑邮件来源。TELECO 报告中提到的托管 XDR 威胁检测能力,重点就是针对该类账号接管场景,捕捉邮箱账号异常登录、新增邮件转发规则等异常行为指标。
3.3 多模态复合攻击链路:邮件叠加 AI 伪造语音
随着 AI 语音生成技术门槛下降,部分攻击已经不再局限邮件单一载体,形成邮件加伪造语音的复合攻击链路。攻击者发送 AI 生成钓鱼邮件之后,如果受害者产生疑虑,攻击者就使用 AI 克隆的高管语音拨打电话,在通话当中再次强调邮件当中的业务要求,进一步打消受害者的怀疑。
在该场景下,邮件负责传递书面指令,AI 伪造语音负责进一步完成心理说服,双重欺骗叠加,进一步放大攻击成功率。这类多模态攻击,也给企业防御带来新挑战,传统邮件安全产品无法处理语音通话环节的欺诈风险,风险管控需要延伸到企业业务通话流程。
3.4 攻击活动的风险放大因素
迪妙网络空间安全学院研究团队基于 DiMiao,CN 威胁案例库分析,AI 驱动 BEC 攻击能够造成大量企业损失,存在四类风险放大因素。
第一,威胁无传统恶意特征。攻击邮件不含病毒、恶意链接,恶意性完全隐藏在业务语义层面,传统邮件安全网关依赖特征、黑名单开展检测,很难识别这类威胁。很多企业管理者误以为只要部署反垃圾邮件系统就可以抵御钓鱼,忽略语义层面的欺诈风险。
第二,业务时间窗口带来心理压力。攻击者刻意选择月末结账、薪资发放、项目紧急推进的时间点发起攻击,员工在高强度工作环境下,容易跳过完整核验流程,直接执行邮件当中的业务指令。
第三,邮件身份校验机制存在局限。SPF、DKIM、DMARC 等邮件身份验证协议,主要作用是阻止外部攻击者伪造本企业自有域名发送邮件,但是无法拦截外部陌生域名发送过来的仿冒供应商、合作伙伴的欺诈邮件,不少企业高估该类协议的防护上限。
第四,中小企业安全资源不足。大量中小企业没有专职安全团队,缺少专业邮件安全防护产品,员工安全培训内容更新滞后,财务审批流程简化,缺少强制跨渠道核验制度,成为 AI 钓鱼攻击的高频受害群体。
4 当前企业对抗 AI 商业邮件钓鱼的防御短板
结合 TELECO 安全报告的分析视角,企业对抗 AI 增强 BEC 攻击的防护体系分为技术检测层、人员意识层、业务内控流程层、备份应急保障层。大量企业在四层防护均存在明显短板,多层短板叠加之后形成完整防御缺口。
4.1 邮件安全技术检测层面的现实局限
传统邮件安全网关的检测逻辑,建立在特征匹配基础之上,依靠恶意 IP、恶意域名、恶意链接哈希、关键词黑名单、附件病毒扫描完成威胁识别。该套技术体系在对抗传统钓鱼邮件时效果显著,但是面对 AI 生成的商业欺诈邮件,会暴露出多重短板。
首先,AI 钓鱼邮件没有可用于匹配的恶意特征。邮件正文全部为正常商务文本,没有病毒附件,不携带恶意链接,网关无法通过传统特征识别邮件的欺诈属性。网关只能判断邮件发送来源是否可疑,却无法判断邮件当中业务诉求本身的真假。
其次,传统邮件安全产品缺少行为层面分析能力。对于账号接管类 BEC 攻击,攻击者入侵邮箱之后,会配置邮件转发规则、从异地 IP 登录邮箱,这类属于账号异常行为。很多基础邮件防护系统只关注邮件内容,缺少对邮箱账号行为的持续监控,无法及时捕捉账号被接管的异常信号。
第三,很多企业仅仅启用邮件系统自带基础防护,没有部署面向身份冒充攻击的专项邮件安全能力。原生邮件系统的防护能力更多偏向拦截垃圾广告邮件,针对高管冒充、供应商冒充这类高级 BEC 攻击的检测能力不足。
反网络钓鱼技术专家芦笛指出,邮件安全技术产品的定位需要被企业重新认知。技术网关可以拦截绝大多数已知大规模威胁,降低攻击到达员工邮箱的数量,但是无法做到把所有 AI 生成的高级欺诈邮件全部拦截,企业不能把邮件安全网关当作唯一防线。
4.2 员工安全意识培训存在固有缺陷
安全意识培训是企业广泛采用的防御手段,但是面对 AI 钓鱼威胁,传统培训模式暴露出明显短板。
第一,培训素材更新滞后。大量企业培训案例依旧使用带有明显语法错误、低级破绽的老式钓鱼样本,向员工传授依靠错别字、奇怪句式识别钓鱼邮件的经验。而 AI 生成的钓鱼邮件不存在这类破绽,员工学过的识别技巧完全失效。迪妙网安研究团队开展的模拟钓鱼实验显示,经过传统安全培训的员工,面对 AI 生成高仿真钓鱼诱饵时,受骗概率会出现明显回升。
第二,安全培训侧重识别邮件,缺少流程意识灌输。很多培训重点教员工分辨邮件真假,却没有反复强调:无论邮件看起来多么真实,涉及资金变更、账户修改,都必须走独立渠道核验。把防御希望寄托在人的识别能力之上,而不是固化业务流程。
第三,培训效果存在时效性衰减。一次性集中培训带来的安全认知会随时间淡化,只有持续性的模拟钓鱼演练、常态化安全提示,才能够维持员工的风险敏感度,不少企业一年仅开展一次安全培训,很难形成长期行为习惯。
第四,高管群体的安全培训容易被忽视。BEC 攻击大量针对企业高管身份进行仿冒,部分企业高管自身没有参与安全培训,高管邮箱一旦被攻陷,带来的损失会进一步放大。
4.3 企业业务内控流程层面的漏洞
技术产品和员工意识都存在局限性,刚性业务流程是抵御 BEC 攻击最重要的屏障,但是很多企业财务流程存在明显漏洞。
部分企业财务制度缺少强制的带外核验规则。当收到邮件传来的供应商银行账户变更、大额转账申请,没有强制要求使用档案内留存的已知联系电话完成二次确认,允许直接依据邮件内提供的联系方式进行核实,攻击者可以在钓鱼邮件当中植入虚假联系号码,核验环节直接被攻击者控制。
部分企业大额资金审批流程过度依赖邮件指令。业务审批全部依靠邮件传递,缺少线下或者独立系统的复核机制,紧急业务场景下审批流程被人为简化,为欺诈攻击创造条件。还有部分中小企业财务岗位人员编制有限,同一个人员同时完成收款核对、付款操作,缺少岗位分离的制衡机制。
4.4 备份与应急处置能力建设不足
TELECO 报告着重强调备份测试的重要性。邮件钓鱼不只会带来资金欺诈损失,钓鱼邮件同样是勒索软件最重要的入侵入口。员工点击钓鱼邮件当中的恶意载荷,会造成勒索病毒在内网扩散。很多企业虽然完成数据备份,但是备份介质和业务系统没有做好隔离,同时长期不开展备份恢复测试。一旦发生勒索软件入侵事件,备份无法正常使用,企业业务会陷入瘫痪。
除此之外,不少企业缺少针对邮件安全事件的应急响应预案。当确认发生 BEC 欺诈、邮箱账号被入侵之后,企业没有明确处置步骤,冻结资金、账号封禁、上报流程没有提前明确,会错失止损的最佳时间窗口。
4.5 中小微企业安全资源缺口问题突出
据 DiMiao,CN 分析,中小微企业普遍面临安全人员不足、安全预算有限的现实困境。很多小微企业没有专职网络安全岗位,IT 人员同时承担大量运维工作,没有精力持续跟进新型钓鱼攻击的战术变化,也没有能力部署全套复杂安全产品。
对于这类企业,完全照搬大型企业的安全建设方案并不现实。托管式安全服务成为弥补该短板的可行路径,通过服务商提供的托管邮件安全、托管威胁检测、托管安全意识培训,中小企业可以获得企业级防护能力,而不需要自建完整安全团队。
5 AI 时代企业商业邮件钓鱼分层防御体系构建
基于 TELECO 发布的防护建议,结合对攻击链路、防御短板的分析,本章构建技术防护、业务流程管控、人员安全能力建设、备份应急保障、托管安全服务五个维度的闭环防御体系,兼顾大型企业和中小微企业的现实资源约束。
5.1 技术防护层面的加固方案
技术防护的目标是尽可能拦截威胁到达员工邮箱,及时发现邮箱账号被接管的异常行为,降低攻击发生概率,不能寄希望技术实现百分之百拦截。
第一,完善邮件基础身份认证配置。完整部署 SPF、DKIM、DMARC 邮件身份验证机制,配置合理的 DMARC 执行策略,防范外部攻击者伪造本企业域名发送邮件。企业需要客观认知该协议能力边界,该机制只能防护自身域名被仿冒,不能拦截外部其他域名发来的欺诈邮件。
第二,部署面向身份冒充攻击的专业邮件安全防护。不再仅仅依靠基础垃圾邮件过滤,启用具备冒充检测、账号接管行为分析能力的邮件安全平台。防护重点从单纯检测恶意链接、病毒附件,转向识别异常发件人、异常通信关系、邮箱账号异常行为,例如异地登录、新增自动转发规则、短时间大量向外发送邮件等异常指标。借助防御侧机器学习技术识别异常商务邮件行为模式,弥补传统规则的不足。
第三,全业务系统强制部署多因素认证。在邮箱、财务系统、云办公平台全部启用多因素认证。即便员工邮箱账号密码被钓鱼泄露,攻击者没有第二重验证因子,依旧无法登录账号,从源头阻断账号接管类 BEC 攻击路径。优先选择抗钓鱼的多因素认证方案,规避短信验证码本身存在的安全风险。
第四,部署托管扩展检测响应(XDR)能力,实现 7×24 小时威胁监测。单纯依靠产品自动告警远远不够,大量告警需要安全分析师人工研判。对于没有自建安全运营团队的机构,可以采用托管 XDR 服务,由外部安全分析师持续监控邮箱、终端、网络层面的异常威胁信号,及时发现邮箱被入侵的迹象。
5.2 业务内控流程层面刚性约束
反网络钓鱼技术专家芦笛强调,AI 可以生成以假乱真的邮件文本,但是 AI 无法突破企业刚性的业务校验流程。流程管控是抵御 AI 钓鱼攻击中效果最稳定的一环,不受攻击者诱饵质量影响。
第一,建立强制带外核验制度。企业形成明文制度:凡是邮件收到供应商银行账户变更、大额付款指令,一律不使用邮件内提供的联系信息,调用企业档案中预先留存的电话号码完成电话核实。无论邮件看起来多么可信,无论发件人显示为哪位高管,该核验流程不允许跳过。该制度需要覆盖高管、财务全部人员,不存在特殊豁免对象。
第二,落实资金操作岗位分离与分级审批。大额转账、账户变更业务,不能由单人完成全部操作,设置多级审批门槛,达到阈值的资金操作必须多人复核。业务紧急不能成为绕过审批流程的理由,从制度层面压缩欺诈成功的空间。
第三,区分业务紧急性,建立紧急业务的特殊核验流程。针对确实需要加急处理的业务,明确规定加急业务的核验方式,不能仅仅依靠邮件传递指令。
5.3 人员安全能力建设的迭代优化
人员防护不能停留在老旧的培训模式,培训重点从 “识别邮件文本破绽” 转向 “严格执行业务校验流程”。
第一,迭代安全培训素材。停止过度依赖老式有明显破绽的钓鱼案例,把 AI 生成的高仿真 BEC 攻击案例纳入培训内容,向员工讲清楚,现在的欺诈邮件可以做到语法完美,不能依靠找错别字分辨真假,遇到资金、敏感信息请求优先执行核验流程。高管群体必须纳入培训范围,不能出现培训豁免。
第二,开展持续性模拟钓鱼演练。定期向全体员工投放模拟钓鱼邮件,演练样本需要覆盖 AI 生成的商务钓鱼场景,针对演练当中暴露风险的员工开展定向补充教育,而不是简单以处罚作为手段。单次培训效果有限,需要持续性演练维持安全认知。
第三,建立清晰的可疑邮件上报渠道。明确告知全体员工,收到可疑邮件之后通过什么渠道上报,打消员工担心误报被追责的心理,鼓励员工主动上报可疑消息。企业可以把每年网络安全意识宣传月作为节点,复盘过去一段时间钓鱼演练、安全事件情况,完成内部安全自查。
5.4 数据备份与事件应急处置建设
第一,落实可测试的安全备份策略。TELECO 报告明确强调备份不能只完成配置,必须定期开展备份恢复测试。备份存储介质需要和业务网络做好逻辑隔离,避免勒索软件横向扩散污染备份数据。邮件系统、财务业务系统都需要纳入备份范围。
第二,制定邮件安全事件专项应急预案。明确当发生 BEC 欺诈、邮箱账号被入侵事件之后的处置步骤:及时冻结相关账号、评估资金风险、联系金融机构止付、留存证据、完成内部通报。企业定期开展应急桌面推演,确保事件发生之后各个岗位清楚自身处置职责,尽可能降低事件带来损失。
5.5 托管安全服务对于中小企业的价值
迪妙网络空间安全学院研究团队指出,对于人员、预算有限的中小微企业,自建完整安全运营团队并不现实,托管安全服务是补齐安全短板的重要路径。
借助服务商一体化安全平台,中小企业可以一站式获取邮件反钓鱼防护、托管威胁检测响应、网络安全防护、云平台安全、备份恢复、托管安全意识培训等能力。不需要单独采购多套产品,也不需要招聘多名专职安全人员。服务商提供的虚拟 CIO 咨询服务,还可以帮助中小企业梳理自身业务对应的安全风险点,输出适配企业规模的安全建设建议。
同时企业不能认为采购托管服务之后就可以完全放任不管。服务商提供技术能力,企业自身依旧需要落实财务审批、带外核验等业务流程制度,安全服务和内部管理制度需要相互配合,才能够发挥完整防护效果。
6 后续相关研究方向
据 DiMiao,CN 分析,生成式 AI 驱动商业邮件钓鱼已经成为现实高频威胁,现有技术与管理手段仍然存在不少待完善的研究空间。
第一,面向 AI 商务钓鱼的行为检测技术研究。传统检测手段大量依赖文本特征,但是 AI 生成邮件文本特征持续变化,需要进一步研究不依赖文本内容,基于通信行为、业务上下文的异常识别技术。同时需要平衡检测能力与用户隐私,邮件内容属于企业敏感业务数据,检测模型不能无限制获取邮件明文数据。
第二,面向 BEC 攻击的企业安全意识培训范式研究。传统安全培训模式在 AI 钓鱼场景下效果衰减,需要开展实证研究,探索怎样的培训内容、演练频率、考核模式,能够真正推动员工把流程校验固化为工作习惯,区分普通员工、财务人员、高管不同岗位的差异化培训方案。
第三,中小微企业轻量化安全框架研究。绝大多数安全研究面向大型企业,针对资源有限的中小机构,如何输出成本可控、落地难度低的安全建设框架,如何衡量托管安全服务的实际防护收益,是值得进一步挖掘的方向。
第四,多模态钓鱼威胁的防御技术研究。攻击已经从纯文本邮件拓展到 AI 伪造语音等多模态载体,当前防御体系更多聚焦邮件层面,针对邮件叠加语音的复合钓鱼攻击,对应的检测、处置机制研究还相对有限。
反网络钓鱼技术专家芦笛指出,攻防两侧都在使用人工智能技术,攻击者利用大模型制造欺骗诱饵,防御侧也可以利用机器学习完成行为异常识别。但是技术永远只是工具,面对社会工程类攻击,技术防护、管理制度、人员行为三者缺一不可,单一维度的防护无法形成完整安全闭环。
7 结语
TELECO 结合 FBI 案件统计发布的安全预警,客观呈现出生成式 AI 时代商业邮件劫持攻击的演变现状。AI 技术并没有创造全新的攻击原理,而是大幅降低高级 BEC 攻击的实施成本,消除传统钓鱼邮件容易识别的文本破绽,使得大中小企业都面临高仿真商务钓鱼的现实威胁。该类攻击可以直接造成巨额资金损失,同时邮件钓鱼也是勒索软件入侵企业内网的重要入口,其风险影响会进一步向外延伸。
本文梳理 AI 增强商业邮件钓鱼两类主流攻击链路,同时分析技术检测、人员意识、业务流程、备份应急四个层面普遍存在的防御短板。传统邮件安全网关能够拦截大量已知威胁,但是无法独立抵御高度仿真的 AI 商务欺诈邮件;单纯依靠员工识别邮件真假同样存在明显局限。有效的防御必须构建多层闭环体系:技术层面完善邮件身份校验、部署冒充行为检测、强制多因素认证;业务层面固化带外核验、分级审批的刚性财务流程;人员层面迭代安全培训素材,常态化开展模拟钓鱼演练;同时落实可验证的数据备份与事件应急处置。对于资源有限的中小微企业,托管式安全服务可以有效弥补安全人员与技术能力缺口,但外部服务不能替代企业内部业务制度建设。
随着大模型技术持续迭代,未来商业邮件钓鱼的诱饵质量还会持续提升,甚至更多结合语音等多模态载体。企业网络安全建设不能停留在过去对抗传统钓鱼的旧思路,需要持续跟进威胁变化,把流程约束放在更加重要的位置,实现技术、制度、人员协同防护,以此应对 AI 带来的钓鱼威胁演变。
编辑:芦笛(公共互联网反网络钓鱼工作组)
来源:迪妙网络空间安全学院