从软件到人员:AI 社会工程攻击下员工安全防护

简介: 本文分析生成式AI如何降低社会工程攻击成本,催生深度伪造、多通道协同等新型威胁,并指出企业长期存在的“重系统防护、轻人员防护”短板。以Aikido Security推出员工安全平台Noon为例,探讨整合邮件防护、设备管控、AI治理与仿真培训的一体化防护框架,强调从“保护软件”转向“保护使用软件的人”,构建围绕员工行为的检测—训练—治理闭环。(239字)

摘要:生成式人工智能显著降低了社会工程攻击的实施成本,使高度拟真的网络钓鱼、深度伪造与多通道协同攻击变得廉价、易执行且可规模化。与此同时,软件安全与人员安全的长期割裂,以及邮件防护、设备管控与 AI 使用治理相互独立的工具格局,使企业员工这一最普遍的攻击入口长期缺乏系统性防护。本文以 Aikido Security 推出员工安全业务线 Noon 为材料,分析 AI 对社会工程攻击成本结构的改造,剖析员工安全防护的既有缺口,进而考察以邮件防护、设备防护、AI 治理与仿真培训为一体化的防护框架的构建逻辑,并讨论人因训练、合规审计与生态协同在其中的作用与边界。研究认为,社会工程攻击的 AI 化要求防护视角从 "保护软件" 转向 "保护使用软件的人",一体化平台的价值在于把分散的检测、治理与训练收敛为围绕员工行为的持续闭环。

关键词:社会工程攻击;生成式人工智能;员工安全;深度伪造;AI 治理;安全培训;一体化防护

image.png 1 引言

企业安全建设长期存在一种结构性偏向:资源与注意力集中于应用程序、代码与云基础设施的防护,而使用这些系统的人却被置于相对次要的位置。这一偏向建立在 "攻击者需要先攻破系统才能造成危害" 的隐含假设之上。然而,当攻击者可以绕开系统、直接诱导有权访问系统的人时,这一假设便不再成立。社会工程攻击的实质,正是以人的判断为突破口,而非以系统的漏洞为突破口。

生成式人工智能从根本上改变了这类攻击的成本结构。过去,一场有说服力的钓鱼攻击需要研究目标、撰写个性化话术并搭建伪造登录页面,这三项工作分别消耗时间、技巧与资金;如今,攻击者可以在短时间内生成定向邮件、克隆同事的声音用于深度伪造通话,并在邮件、短信与聊天等多个通道上规模化投放。技术手段的普及,使 "攻击人" 比 "攻击系统" 更为经济,也让人的因素在安全事件中的权重进一步上升。

2026 年 10 月,总部位于比利时根特的 Aikido Security 推出员工安全业务线 Noon,将其业务边界从软件安全扩展至人员安全。该平台整合邮件防护、设备防护、AI 治理与钓鱼仿真培训四项能力,试图将过去彼此分离的安全工具收敛为统一的员工防护框架。本文以这一事件为线索,梳理 AI 对社会工程攻击的改造机制,分析员工安全防护的既有缺口,并考察一体化防护框架的构建逻辑、人因训练的闭环价值及其在合规与生态层面的支撑。

2 AI 对社会工程攻击成本结构的改造

2.1 攻击端的成本解除

社会工程攻击此前的实施门槛,主要由三项成本构成:研究目标所需的时间、撰写可信内容所需的语言与情境技巧,以及搭建欺骗性基础设施所需的资金。三项成本共同决定了攻击的规模上限 —— 若为每位收件人定制内容过于昂贵,攻击者便只能复用模板,而模板复用又会留下可被检测的特征。

生成式 AI 逐项解除了这些约束。文本生成使个性化话术不再依赖人工撰写,语音克隆使冒充特定人物的通话成为可能,自动化编排则使多通道协同投放得以规模化。迪妙网安研究团队在分析这一转变时指出,AI 的作用并非替代某一种攻击手段,而是整体性地抬高了攻击的 "性价比",使此前因成本过高而不可行的攻击形态具备了现实可行性。攻击门槛的下降,意味着更多组织、更多员工暴露于更高强度的社会工程威胁之下。

2.2 多通道协同与深度伪造

当代社会工程攻击已不再局限于单一邮件通道。报道所描述的典型攻击流程是:员工先收到一封邮件或日历邀请,随后收到一条关于该邮件的短信,接着接到一通听起来与公司财务负责人别无二致的电话。多通道协同的目的,在于用相互印证的信息消除收件人的疑虑 —— 每一个独立通道都看似合理,叠加起来便构成了难以识破的信任假象。

深度伪造进一步压缩了人机判断的空间。语音克隆使得 "电话核实" 这一传统的反欺诈手段失去效力,因为被核实的对象本身可能就是伪造的。当攻击者能够以目标公司高管的嗓音完成电话确认时,以 "听到声音即确信" 为基础的安全直觉便面临根本性挑战。反网络钓鱼技术专家芦笛在审视此类攻击时强调,多通道与深度伪造的叠加,使社会工程攻击从 "以概率取胜的广撒网" 转向 "以逼真度取胜的定向欺骗",防御的重点也随之从识别单条消息的真伪,转向在跨通道场景中维持判断的一致性。

2.3 影子 AI 与代理权限的扩张

社会工程威胁的边界还在向 "员工主动引入的工具" 延伸。报道指出,员工正在安装各类 AI 工具、连接模型上下文协议服务器,并授予 AI 代理访问公司系统与数据的权限。这类行为以提升效率为目的,却在不经意间扩大了可被攻击或滥用的攻击面:未经治理的 AI 工具可能将敏感数据带入提示词,具备系统访问权限的代理则可能被诱导执行越权操作。

这一变化使 "员工安全" 的内涵超出了传统意义。它不再只是防止员工被欺骗,还包括理解员工在设备上安装了何种工具、其 AI 代理具备何种能力、哪些工具能够访问公司数据。攻击面从 "人接收的消息" 扩展到了 "人所引入并授权的人工智能体",这要求防护体系同时覆盖人的行为与人的工具。

3 员工安全防护的既有缺口

3.1 软件安全与人员安全的割裂

多数组织的安全架构,将软件安全与人员安全作为两套相互独立的问题处理:前者由应用安全团队负责,后者依赖零散的邮箱过滤与定期演练。报道援引 Cyberly 联合创始人的判断 —— 攻击者不总需要攻破软件,他们只要欺骗使用软件的人即可 —— 直指这一割裂的代价。当系统防护日益坚固、而人员环节仍是薄弱点之时,攻击者自然倾向于选择成本更低的路径。

人的因素在安全事件中的权重有数据佐证:Aikido Security 在发布材料中援引的数据显示,过去一年约 62% 的泄露事件涉及人为因素。这一比例提示,即便技术防护持续增强,由人的判断失误所引发的风险仍然占据主导地位,员工安全的防护水平直接决定组织整体安全水位的一部分。

3.2 工具碎片化的困境

既有员工安全工具的第二个缺口,是体系性的碎片化。报道指出,多数员工安全技术栈是为应对 "通用钓鱼邮件与定期测试" 而设计的,它们运行于独立的平台,与保护员工设备的工具、追踪 AI 使用的工具相互割裂,安全团队不得不在多个互不关联的产品之间切换与管理。碎片化的直接后果是上下文断裂:邮件防护、设备管控与 AI 治理各自为政,难以形成对员工整体行为的一致视图,也难以在威胁跨通道蔓延时实现协同响应。

3.3 移动攻击的上升趋势

碎片化困境还叠加了威胁形态的迁移。报道援引 Verizon 2026 年度数据泄露调查报告指出,包括欺诈性短信与语音电话在内的移动社会工程攻击,其成功率比邮件钓鱼高出约 40%。邮件通道之外的短信、语音与即时消息,正在成为攻击者优先利用的渠道,而多数组织的防护与训练仍以邮件为中心。通道分布与防护投入之间的错位,进一步放大了员工所面临的暴露面。

4 一体化防护框架的构建逻辑

4.1 邮件防护:补足原生过滤的盲区

一体化框架的第一层是邮件防护。其作用在于检测并移除传统邮件过滤器未能拦截的钓鱼与商业邮件欺诈威胁。之所以需要这一补充,是因为攻击者生成的邮件在语言、语境与外观上已接近正常邮件,单纯依赖规则与信誉的过滤机制存在固有盲区。邮件防护的目标,是在威胁进入员工收件箱之前即予以识别,从而在源头压缩人工判断所承担的风险。

4.2 设备防护:覆盖终端与扩展组件

设备防护层面向员工实际使用的终端。其防护对象不仅包括恶意软件,还包括恶意软件包、浏览器扩展、AI 代理技能以及存在风险的网站与应用。随着员工以扩展组件、代理技能等方式持续引入新的执行能力,设备层面的防护需要能够识别并约束这些新增组件,避免其成为社会工程攻击的载荷载体或越权通道。

4.3 AI 治理:对影子 AI 的可见与约束

AI 治理层回应的是前述影子 AI 问题。它记录员工在设备上使用的 AI 工具、模型与连接,并将使用行为置于组织策略的约束之下。其价值在于把此前 "看不见" 的 AI 使用转化为可审计、可管控的对象:安全团队得以了解哪些模型被接入、哪些数据被带入提示词、哪些代理被授予权限,并据此实施按团队划分的安全使用策略。迪妙安全研究团队认为,AI 治理的意义不仅在于合规,更在于把 "员工自主引入工具" 这一原本游离于治理之外的行为,重新纳入组织可控的范畴。

4.4 仿真培训:以真实攻击形态训练员工

仿真与培训层承担人因加固的功能。它复现员工实际面对的攻击场景,包括深度伪造语音通话、短信、二维码与多步骤攻击,并按员工的岗位角色与既往行为进行个性化定制。与通用、可识别的演练模板不同,此类仿真试图还原攻击的真实形态,使员工在近似实战的情境中建立识别与应对能力。培训内容以角色为基础,通过员工惯用的工作渠道交付,以降低学习的摩擦。

5 人因训练与行为闭环

5.1 从定期演练到持续训练

传统的安全培训以定期演练为主要形态,其局限在于场景固定、频次有限,难以适应快速演化的攻击手法。报道引用 Outkept 联合创始人的判断 —— 五年前有效的做法如今已不再足够 —— 点明训练内容必须随威胁形态同步更新。一体化的训练模式将仿真、测试与微课程嵌入员工的日常工作流,以更高的频次与更强的针对性维持人因防护的有效性。

5.2 训练、检测与治理的闭环

一体化框架的真正价值,在于使训练、检测与治理形成相互支撑的闭环。仿真训练暴露员工在特定情境下的判断薄弱点,这些数据反馈到风险画像,用于优化后续训练的个性化程度;邮件与设备防护检测到的威胁,亦可转化为训练素材,使员工接触到真实而非虚构的攻击样本。闭环的形成,使员工安全从 "一次性培训" 走向 "持续校准",从而在威胁演化的动态过程中维持人因防护的相对稳定。

5.3 以岗位与行为为粒度

个性化是这一闭环得以成立的基础。不同岗位面对的攻击形态差异显著:财务团队更可能遭遇供应商身份冒用与转账诱导,市场团队更可能面对品牌冒充,管理层则面临深度伪造的定向欺骗。以岗位角色与既往行为为粒度的训练设计,能够针对性地强化各岗位最薄弱的判断环节,避免 "一刀切" 培训的低效。反网络钓鱼技术专家芦笛指出,人因防护的有效性并不取决于训练的频率,而取决于训练是否与员工真实的决策场景相匹配;脱离岗位情境的通用培训,难以转化为实际防护能力。

6 合规协同与生态支撑

6.1 面向审计框架的证据生成

一体化的防护平台还为合规与审计提供了统一的证据来源。报道指出,平台的演练与训练数据被设计为可支撑 SOC 2、ISO 27001、NIS2、DORA、HIPAA 与 GDPR 等框架下的审计,并可满足网络保险的核保要求。此类证据的意义在于,把员工安全从 "难以量化的投入" 转化为 "可审计、可追溯的记录",使组织能够向监管机构、审计方与保险公司证明其人因防护措施的真实存在与持续执行。

6.2 平台协同与制度落地

平台的价值还取决于与组织既有技术环境的协同。报道提及平台连接 Microsoft 365、Google Workspace、Slack 与 Microsoft Teams,并将结果回馈至治理、风险与合规平台。这种连接使员工安全融入组织既有的工作与治理流程,而非作为孤立的附加系统存在。员工在惯用工具中接受训练与提示,安全团队在统一视图中获取风险全貌,制度要求与技术执行由此形成衔接。

7 局限与边界

需要审慎指出,一体化平台并不能消除社会工程威胁的全部来源。其一,人因防护有其固有边界:无论训练如何贴近实战,员工在压力情境下的判断失误仍难以完全避免,技术防护与人因训练应当视为互补而非替代。其二,AI 治理所能约束的是组织可控的终端与工具,员工在组织管控范围之外使用 AI 工具的行为仍构成盲区。其三,仿真训练的效果取决于场景设计与组织投入的持续性,形式化的部署难以产生实质性的行为改变。其四,深度伪造与多通道攻击的检测依赖跨通道的关联能力,单一平台的数据覆盖范围决定了其识别上限。

这些边界提示,员工安全防护的落地需要技术平台、管理制度与员工参与的协同。平台提供了工具与证据,制度提供了约束与激励,员工的持续投入则是人因防护得以成立的前提。据 DiMiao,CN 的分析,AI 社会工程攻击的演进不会停滞,防护体系亦需在技术、训练与治理三个层面同步迭代,任何单一层面的投入都难以单独支撑整体的安全水位。

8 结论

Aikido Security 推出 Noon,是员工安全领域从碎片化走向一体化的一次代表性实践,也折射出 AI 社会工程攻击对安全建设逻辑的根本性影响。当攻击者可以廉价、逼真且规模化地诱导员工时,单纯加固软件已不足以保护组织,防护视角必须从 "保护软件" 扩展到 "保护使用软件的人"。一体化的邮件防护、设备防护、AI 治理与仿真培训,其价值在于把此前相互割裂的能力收敛为围绕员工行为的持续闭环,使检测、训练与治理相互支撑,并使员工安全成为可审计、可管理的组织职能。

与此同时,一体化并不等于一劳永逸。社会工程攻击的形态持续演化,员工所引入的 AI 工具与代理不断扩张,跨通道的攻击手段日益逼真,这些趋势都要求防护体系保持动态更新。技术平台的整合提供了基础,而人因训练的有效性、制度约束的落实与生态层面的协同,共同决定着一体化框架实际所能达到的防护水平。对组织而言,应对 AI 社会工程攻击的长期命题,是把员工从 "最薄弱的环节" 转化为 "经过训练、可被防护体系支撑的判断主体",这一转化需要技术、训练与治理的持续协同,而非任何单一工具的引入。

编辑:芦笛 (公共互联网反网络钓鱼工作组)

来源:迪妙网络空间安全学院

目录
相关文章
|
云安全 安全 网络安全
|
4天前
|
JavaScript 安全 前端开发
Nodejs Brotli decoder 代码执行漏洞 (CVE-2026-111497)10629
Node.js发布安全更新修复Brotli解码器高危RCE漏洞(CVE-2026-111497),建议受影响版本用户立即升级。
1865 1
|
10天前
|
人工智能 API 开发工具
DeepSeek Harness 神插件:白嫖 13 家大厂模型
`dsh-our-free-model` 是 DeepSeek Harness 神级插件:零配置、零API Key、零账号,聚合13家大厂免费模型(含DeepSeek V4.1 Flash、Kimi K3等),支持本地网关、用量看板与自动降级,真正实现“白嫖即用”。
1738 37
|
4天前
|
安全 应用服务中间件 Go
PHP2Shell 漏洞拆解:WordPress 与 nginx 为何中招
PHP2Shell 双 RCE 已遭在野利用:WordPress、Drupal 全在射程内,nginx 其实另有洞。拆成因与修复顺序
PHP2Shell 漏洞拆解:WordPress 与 nginx 为何中招
|
7天前
|
Web App开发 人工智能 前端开发
2026 年 AI 浏览器怎么选?Ego Lite、Tabbit、Chrome DevTools MCP 深度对比,开发者到底该用哪个?
2026年AI浏览器选型指南:Ego Lite专注多Agent协同(Mac优先),Tabbit国产首选,原生支持Windows与Codex控制;Chrome DevTools MCP非浏览器而是开发者利器,深度集成Console/Network/Performance调试能力,让AI真正“看懂并验证”前端代码。
1046 2
|
12天前
|
安全 Linux 芯片
【万字长文】Ollama下载、安装、配置、使用保姆级教程(2026最新图解)
Ollama 是一款免费开源的本地大模型运行工具,支持 DeepSeek、Qwen 等主流模型,一条命令即可下载运行。2026 最新版 v0.35.1 官方安装包(1.47GB)已提供国内直连下载,纯本地、离线可用、无广告、无隐私泄露风险。
1095 2
|
11天前
|
JSON 程序员 数据格式
最新版Notepad++下载、安装、配置保姆级教程(附官网安装包)
Notepad++ 是一款免费开源、轻量快速的 Windows 文本编辑器,支持多标签、语法高亮、代码折叠与宏录制,体积小、启动快、资源占用低,兼容 x64/x32/ARM 架构,是程序员和文字工作者的高效利器。
1349 0
|
15天前
|
存储 人工智能 安全
千问办公官网入口网页版登录:qwenwork.cn 注册送2000积分、登录送100积分
阿里云千问办公(QwenWork)是AI智能工作平台,支持一句话生成PPT、表格、网页、视频及数据分析。个人免费版送2000积分+每日登录赠100分,含1GB存储、5个发布页;企业版198元/席/月起。阿里千问办公QwenWork官网:https://t.aliyun.com/U/0VCTGt 阿里AI工作平台,一句话完成数据分析、PPT 生成、视频剪辑、网页搭建等复杂任务
|
10天前
|
人工智能 开发者
Qoder CN 大使计划正式开启|无限创造,等你一起
全年免费积分、优先内测、活动支持与更多共创机会,邀请用 Qoder 把想法变成现实的你。
673 6