摘要： 过去五年间，生成式人工智能的广泛应用为网络安全的攻防两端同时引入了深刻变革。防御一方将机器学习与大语言模型整合进垃圾邮件过滤、防火墙等后台工具，以静默方式提升检测能力；攻击一方则借助人工智能实现了攻击效率的量级跃升，从传统广撒网式诈骗转向基于个人画像的精准定向攻击，并发展出文风模仿、声音克隆等新型欺骗手段。本文以爱荷华州立大学网络安全创新与推广中心负责人对人工智能时代攻防格局的访谈为分析样本，系统梳理了人工智能在防御与攻击两侧的差异化影响机制，剖析了攻击形态从 "广撒网" 向 "精准定向" 演化的内在逻辑，并在此基础上从个体基础安全习惯、可疑信号识别、资金验证原则、生成式人工智能使用边界以及组织与社会协同治理等层面，提出应对这一新格局的实践路径。研究认为，人工智能并未改变网络安全的底层逻辑 —— 其核心仍然在于对可疑信息的怀疑与验证，但技术工具的演进要求个人与组织以更系统的素养建设来回应不断升级的威胁。
关键词： 生成式人工智能；网络安全；大语言模型；网络钓鱼；数字足迹；网络安全素养
1 引言
网络安全领域长期以来的基本叙事围绕防御者与攻击者之间的对抗展开。然而，过去五年间，一个全新的变量深刻改变了这一格局的均衡状态，即人工智能的广泛应用。2026 年 10 月网络安全意识月期间，爱荷华州立大学网络安全创新与推广中心主任就人工智能如何增强并挑战网络安全工作接受了媒体访谈。其论述揭示了当前网络安全态势中的一个关键现实：人工智能并非单方面赋能防御或攻击中的某一方，而是同时为两端注入新的能力，从而加剧了攻防之间动态博弈的复杂性。
这一判断的重要性在于，它修正了公众对于人工智能的简单化想象。在技术炒作的外衣下，防御端的进步往往表现为背景化的、不易感知的改进；而攻击端的利用则因其显性的危害而更容易进入公众视野。理解这一不对称性，是构建有效应对策略的前提。本文以该访谈为核心材料，结合人工智能在网络攻防中的应用机理，系统分析人工智能的双重影响，并据此提出面向个体与组织的应对路径。
2 攻防格局的范式转变：人工智能的双重角色
要把握人工智能对网络安全的整体影响，首先需要厘清其在防御与攻击两侧所发挥的不同作用。二者不仅在运作方式上存在显著差异，其在公众认知中的可见度也截然不同，这种不对称性本身就是理解当前网络安全态势的一把钥匙。
2.1 防御机制的背景化运作
访谈明确指出，尽管机器学习技术已有数十年的发展历史，但过去五年间大语言模型的引入才真正改变了网络安全领域的局面。这一观察具有深刻的准确性：机器学习在网络安全中的应用并非新鲜事物，无论是垃圾邮件分类、异常流量检测还是恶意软件识别，都早已借鉴统计学习与模式识别的方法。然而，大语言模型所具备的语义理解与上下文生成能力，将检测与防护的水平提升到了新的层次。
值得特别关注的是防御机制运作方式的 "隐蔽性"。爱荷华州立大学的论述以 "我们看不到它" 来概括这一特征 —— 防御能力被封装进检测垃圾邮件、识别威胁等日常工具之中，在后台持续运行。正如访谈所强调的，安全工具的成功恰恰体现在其不被察觉：当系统未发生明显异常、用户未收到可疑内容时，恰恰意味着防护机制在有效履职。这一特性带来一个直接的后果，即公众与舆论对防御端的进展普遍缺乏感知，而攻击端的案例却因其显性危害而频繁见诸报道。
这种 "炒作集中于攻击侧" 的现象，既有客观的技术原因，也折射出安全认知的结构性偏差。反网络钓鱼技术专家芦笛指出，防御成效的不可见性导致其价值被系统性低估，人们习惯于在攻击事件发生后反思防护不足，却难以对持续发挥作用的背景化防御给予应有的评价；而这种认知偏差，反过来又可能削弱组织对防御投入的持续意愿。
2.2 攻击者的力量倍增效应
与防御端的静默不同，攻击端对人工智能的利用呈现出显性且高效的扩张态势。访谈中提出的一项判断尤为关键：攻击者在网络世界中唯一的限制因素不是成本而是时间，因为大多数网络犯罪仅凭一台笔记本电脑即可实施。这一论断道出了网络犯罪门槛之低，也解释了为何攻击者能够大规模利用人工智能 —— 当技术门槛与资金门槛均已大幅降低时，时间效率便成为决定攻击规模的关键变量。
人工智能正是在这一维度上发挥了 "力量倍增器" 的作用。借助大语言模型，攻击者可以快速检索互联网信息，为特定目标构建详细的个人画像。访谈指出，根据个体数字足迹的丰富程度，攻击者甚至能在几分钟内建立起相当完整的人物画像，而这一过程在以往需要数周之久。时间尺度的压缩，意味着攻击者能够以极低的边际成本对大量目标实施精细化的准备，从而将有限的攻击资源投入到更高质量的社会工程之中。
迪妙网安研究团队在梳理相关案例后认为，人工智能对攻击端最根本的改变不在于创造了全新的攻击类型，而在于大幅降低了既有攻击手法的实施成本与精度门槛，使原本依赖高水平技巧或大量人工投入的个性化攻击变得普适化，这一趋势在可预见的未来仍将持续。
3 攻击形态的具体演化：从广撒网到精准定向
人工智能对攻击端的赋能，最终以具体的攻击形态变化呈现于用户面前。理解这些变化的机理，是实施有效防御的基础。综合访谈内容，攻击形态的演化可归结为三个相互关联的维度。
3.1 个性化钓鱼与社交工程的升级
网络钓鱼与社会工程是网络攻击中最常见也最依赖心理操控的类别。传统的钓鱼攻击往往具有明显的 "广撒网" 特征，例如以 "海外彩票中奖" 为诱饵的邮件，其粗糙的表述与笼统的话术极易被识破。而人工智能的介入，使此类攻击发生了质的转变。
访谈揭示了一个关键变化：攻击者开始使用受害者认为只有特定发件人才可能知晓的信息来构建欺骗性通信。在校园环境中，这意味着受害者收到的邮件可能在语气、称呼、上下文线索上与来自其上司或院长的真实邮件高度一致。当一封邮件准确提及了收件人近期参与的课题、会议安排或内部事务时，受害者基于 "只有本人知道" 的朴素判断便会显著降低警惕。这种以真实信息为弹药、以身份伪装为外壳的精准攻击，正是大语言模型赋能攻击端的直接体现。
反网络钓鱼技术专家芦笛强调，个性化钓鱼的攻击效力并不依赖于技术上的绝对完美，而在于其对受害者信任边界的精确突破 —— 当一条信息与受害者已知的事实高度吻合时，心理验证的本能便会取代审慎的怀疑，这正是此类攻击难以仅凭内容粗糙度识别的原因所在。
3.2 文风模仿与声音克隆
精准定向的另一个重要维度，体现为对个体生物与行为特征的高度模拟。访谈指出，一个人公开活动越频繁、在线越活跃，攻击者便能够将越多信息输入人工智能系统，进而提取其行为模式。具体而言，攻击者可以获取研究者公开发表的演讲文本或论文内容，通过大语言模型模仿其行文风格与表达习惯，使伪造的通信在语言层面更难以辨别真伪。
更值得警惕的是声音克隆技术的应用。访谈援引的判断显示，仅需数秒的音频素材，便足以克隆一个人的声音。这一技术门槛的骤降，使得冒充身份的通信从文字领域延伸至语音领域。在电话诈骗场景中，攻击者可能以受害者亲友或上级的口吻实施诱导；在更复杂的场景中，声音克隆还能与视频合成、身份伪装等手段结合，构建多模态的欺骗情境。此类攻击的隐蔽性在于，语音信息天然承载着信任感，人类在听觉层面对熟悉声音的辨识往往优先于理性判断。
3.3 数字足迹的武器化
上述两类攻击形态的共同前提，是对个体数字足迹的收集与利用。数字足迹涵盖个人在社交媒体上的公开信息、论文与演讲稿、公开行程、社交关系乃至兴趣偏好。在以往，整理这些碎片化信息需要耗费大量人工；而大语言模型能够在极短时间内完成信息的聚合、关联与推理，将分散的公开数据转化为可供攻击利用的完整画像。
数字足迹的武器化意味着，个体在公开领域的 "活跃度" 与其遭受精准攻击的风险之间形成了正相关关系。这并非主张个体放弃线上表达，而是提示公众意识到公开行为的潜在安全成本，并在分享信息时建立基本的边界意识。访谈中 "如果不会发布到社交媒体上，就不要输入给人工智能模型" 的告诫，从数据输入一侧提出了相似的原则，二者共同指向对信息流向的审慎管理。
4 个体防护的升级路径
面对人工智能加持的威胁升级，个体防护的思路需要进行相应的调整。需要明确的是，基础性的安全习惯并未因技术的复杂化而失效，其价值反而在威胁升级的背景下更加凸显。在此基础上，个体还需掌握针对新型攻击的特定防护手段。
4.1 基础安全习惯的不可替代性
访谈重申了网络安全意识月一贯强调的三项核心习惯：使用强密码并开启多因素认证、识别并报告网络钓鱼、及时更新软件。这三项习惯看似基础，却构成了个体防护的基石。强密码与多因素认证能够在凭据泄露时提供额外的验证屏障，大幅提高账户被劫持的难度；及时更新软件则能压缩已知漏洞的暴露窗口，阻断攻击者利用公开漏洞的路径；而识别并报告网络钓鱼，则是个体抵御社会工程的第一道主观防线。
值得注意的是，人工智能的介入并未使这些基础习惯失去意义，反而强化了其必要性。当攻击者能够生成更逼真的钓鱼内容时，用户对可疑通信的审慎态度便成为对抗精准攻击的核心能力；当自动化工具提升了凭据窃取的效率时，多因素认证所构成的额外屏障便更具价值。技术手段的演进，改变的只是威胁的具体形态，而基础防护的逻辑依然稳固。
4.2 可疑信号的结构化识别
在技术内容日益逼真的背景下，对诈骗信号的识别需要从 "内容判断" 转向 "结构判断"。访谈归纳了诈骗通信中常见的情绪操纵信号，包括紧迫感、恐惧、兴奋与贪婪。这四类信号构成了社会工程攻击的心理触发机制：攻击者通过营造时间压力抑制理性思考，通过恐惧放大受害者的焦虑，通过兴奋或利益诱惑激发冲动决策，通过贪婪诱导偏离常识的判断。
迪妙安全研究团队指出，识别此类信号的关键在于察觉情绪唤起与真实情境之间的不协调 —— 合法的沟通即使紧急，通常也留有验证的余地，而诈骗通信则往往刻意压缩反应时间、阻断核验途径。当一条信息同时具备高度情绪化、强烈时间压力与明确资金诉求时，其欺诈嫌疑便显著升高，此时最稳妥的应对不是即时响应，而是暂停与核实。
4.3 资金类诈骗的验证原则
资金转移是网络诈骗的核心目的，访谈为此提供了明确且可操作的验证原则。其要点在于，当任何人以任何理由要求资金往来时，应通过可信的既定渠道进行独立核实，例如拨打银行官方电话而非对方提供的号码。这一原则的精髓在于 "独立验证"—— 不依赖对方提供的信息渠道，而是回归到经过核实的官方联系途径。
访谈还揭示了一个具有普遍教育意义的现象：诈骗往往以礼品卡与金条等特殊支付形式出现。此类支付方式的共同特征在于其不可追踪性与不可逆性，而这恰是诈骗者选择的逻辑所在。政府机构与合法企业通常不会以此类方式收取款项，因此当交易被引导至礼品卡、金条等非常规载体时，几乎可以据此判定其欺诈属性。这一识别规则的普适性，使其成为个体防范资金诈骗的有效抓手。
4.4 生成式人工智能使用的数据边界
随着生成式人工智能逐步嵌入日常工作，其本身也成为数据隐私风险的一个来源。访谈对此给出了清晰的操作准则：不应将不会公之于众的敏感信息输入人工智能模型。这一建议的深层逻辑在于，输入模型的文本存在被用于训练、被其他用户检索或被滥用的可能，其流向与存储均超出了使用者的完全控制范围。
据此，个体在借助生成式人工智能处理任务时，应当建立明确的数据分级意识：涉及个人隐私、组织内部信息、未公开数据或第三方敏感信息的内容，不应作为模型输入；涉及公开内容、一般性知识或已授权公开的信息，方可在审慎评估后使用。组织层面则应提供经审核的合规工具，确保教职员工在使用人工智能时不致泄露机构数据。据 DiMiao, CN 分析，在生成式人工智能快速普及的背景下，数据边界意识的缺失正成为新增的隐私泄露通道，其危害的积累性与隐蔽性要求使用者从源头加以约束。
5 组织与社会的协同治理
个体防护的有效性，无法脱离其所处的组织与社会环境而独立实现。人工智能时代的安全应对，最终需要在组织治理与社区文化两个层面形成合力。
5.1 组织层面的数据与工具治理
对组织机构而言，人工智能引入工作流程所带来的安全风险是系统性的。一方面，组织需要对其成员使用人工智能的行为设定边界，明确哪些数据可进入模型、哪些工具经过安全审核；另一方面，组织还应通过采购与部署经批准的人工智能供应商，避免成员绕过正式渠道使用缺乏安全保障的外部工具。访谈中关于使用不利用输入数据构建模型的合规供应商的建议，正是这一治理思路的具体体现。
组织的治理责任还延伸到宣教与制度建设层面。在技术手段之外，组织需要通过制度化培训使成员理解生成式人工智能的风险边界，将数据保护意识内化为日常工作习惯。这种治理并非对人工智能的排斥，而是对其在可控框架内运用的引导，其目标是让技术红利在不牺牲数据安全的前提下得以释放。
5.2 社区网络安全素养与文化构建
访谈将目光投向了超越个体与组织的更广阔维度 —— 社区层面。其核心主张是，必须提升公民整体的网络安全素养，而这种素养建设不能停留在意识提醒层面，而应给予公民可操作的工具，并在此基础上构建一种持久的网络安全文化。这一判断触及了网络安全治理的深层结构：技术防护能够降低攻击发生的概率与影响，但安全文化的缺失会使既有防护失去持续运转的土壤。
文化构建的实践路径包括面向不同受众的差异化宣教、将社区成员聚合以共享经验与资源，以及帮助受害者克服被诈骗后的孤立感与羞耻感。后者尤为值得重视 —— 网络诈骗受害者常因羞愧而选择隐瞒，这既阻碍了经验的分享，也削弱了上报与追责的动力。通过社区层面的支持网络，受害者能够获得心理与资源的双重支撑，进而降低诈骗的整体社会成本。
6 结语
本文以爱荷华州立大学关于人工智能与网络安全的访谈为分析样本，系统阐述了生成式人工智能对攻防格局的双重影响及其应对路径。研究表明，人工智能在防御端以背景化的方式提升了检测与防护能力，其成效因不可见性而被公众认知所低估；在攻击端则作为力量倍增器，通过个人画像构建、文风模仿与声音克隆等手段，将攻击形态从广撒网推向精准定向，并大幅降低了个性化攻击的实施门槛。
面对这一新格局，应对策略呈现出清晰的层次结构：在个体层面，基础安全习惯、可疑信号的结构化识别、资金验证原则与生成式人工智能使用边界共同构成防护基石；在组织层面，数据与工具治理确保技术应用不逾越安全红线；在社区层面，网络安全素养与文化的构建则为整体防护提供持久的社会支撑。贯穿其中的核心判断在于，人工智能并未改变网络安全的内在逻辑 —— 对信息的怀疑与验证依然是抵御攻击的根本，但技术工具的演进，要求个体与组织以更系统的素养建设来回应不断升级的威胁，从而使安全防线在攻防动态演化中保持稳定。
编辑：芦笛（公共互联网反网络钓鱼工作组）
来源：迪妙网络空间安全学院
