A Survey of LLM Code Security and Vulnerability Repair Methods |LLM 代码安全与漏洞修复方法综述 |arxivreview

简介: 大语言模型(LLM)在软件开发中的大规模应用,使其生成的代码安全性成为软件工程领域的核心关切。早期研究聚焦于代码生成的功能正确性,但 Pearce 等人(2022)揭示的约 40% 漏洞率,将研究重心从“能否生成”转向“是否安全”。这一发现确立了安全作为独立评估维度的必要性,并引发了从静态模式匹配向动态执行与形式化验证的范式转移。随着代码代理(Code Agents)的兴起,问题边界进一步扩展至多轮交互中的安全退化、间接提示注入及供应链依赖风险。各技术路线在表示质量、适应效率与计算成本之间做出了不同取舍,由此形成当前涵盖评估、生成、修复及攻防对抗的多元方法格局。

综述原文见 ArxivReview

导读

大语言模型(LLM)在软件开发中的大规模应用,使其生成的代码安全性成为软件工程领域的核心关切。早期研究聚焦于代码生成的功能正确性,但 Pearce 等人(2022)揭示的约 40% 漏洞率,将研究重心从“能否生成”转向“是否安全”。这一发现确立了安全作为独立评估维度的必要性,并引发了从静态模式匹配向动态执行与形式化验证的范式转移。随着代码代理(Code Agents)的兴起,问题边界进一步扩展至多轮交互中的安全退化、间接提示注入及供应链依赖风险。各技术路线在表示质量、适应效率与计算成本之间做出了不同取舍,由此形成当前涵盖评估、生成、修复及攻防对抗的多元方法格局。本综述梳理这条从功能正确到安全可信的因果演进链条,为读者提供一张领域认知地图。全文按问题演化与路线取舍组织,覆盖该领域从奠基到当前的主要工作。

1. 研究背景、问题结构与演进脉络

LLM 代码安全领域的兴起,源于大语言模型在软件开发中的大规模应用及其带来的系统性风险。早期研究主要关注代码生成的功能正确性,假设只要代码能运行即视为有效,忽视了代码中潜在的安全漏洞引入风险。这一假设在 2022 年被 Pearce 等人的里程碑工作打破,他们揭示了 GitHub Copilot 生成的代码中约 40% 存在可利用漏洞。这一发现将研究重心从“能否生成代码”转向“生成的代码是否安全”,确立了安全作为独立评估维度的必要性,并引发了对模型内部安全对齐机制的深入探究。

问题的形式化定义经历了从单一功能指标到联合安全-功能指标的演化。在 N-way K-shot 设定下,早期基准如 HumanEval 仅通过单元测试评估功能正确性,其核心指标为 Pass@k。随着安全维度的引入,问题定义转变为在满足功能约束 $f(x) \approx y$ 的同时,最小化安全漏洞风险 $V(x)$。这一转变催生了 SecurePass@k 等联合指标,要求代码同时通过功能测试和安全检查。子问题之间呈现紧密的依赖关系:安全基准构建是评估其他方法的前提,没有可靠的安全基准(如 SecCodeBench-V2),就无法准确评估安全生成方法的有效性;安全代码生成与漏洞修复则是解决安全问题的两条互补路径,前者侧重预防,后者侧重补救;攻击与对抗研究为防御机制提供威胁模型,三者共同构成闭环。

范式边界在 2020 至 2026 年间经历了显著的约束演化。2021 至 2023 年,领域处于奠基阶段,以 HumanEval 和 CodeLMSec 为代表,主要依赖静态分析工具(SAST)进行事后检测,缺乏对安全约束的显式建模。2024 至 2025 年,随着 AgentDojo 等基准揭示代理安全威胁,研究重心转向动态执行与 PoC 验证,以解决静态分析高误报率导致的评估失真问题。2026 年至今,问题边界扩展至代码代理生态,关注多轮交互中的安全退化、间接提示注入及供应链依赖风险,从单点代码安全转向系统级安全。这一演进过程反映了从静态模式匹配到动态协同防御的技术路线转变。

当前形态下,领域面临的核心矛盾是功能性与安全性的权衡(Functionality-Security Paradox)。现有安全对齐方法往往以牺牲功能正确性为代价提升安全性,导致模型生成的代码虽安全但无法通过功能测试。根本原因在于安全约束与功能逻辑在模型内部表示中的冲突。此外,安全评估的假阳性与假阴性问题、多轮交互中的安全退化现象、针对代码代理的间接提示注入攻击,以及漏洞修复的语义保持挑战,共同构成了当前的研究瓶颈。这些问题的存在,使得领域在追求更高安全性的同时,必须兼顾功能的完整性和系统的鲁棒性。

如果用一个核心问题概括该领域,那便是:如何在保证代码功能正确性的前提下,消除 LLM 生成或修复代码中的安全漏洞,并抵御针对代码代理的动态攻击。

2. 方法体系

  • 2021:HumanEval——奠定代码生成功能评估基线

  • 2022:CodeLMSec——确立安全代码生成评估维度

  • 2023:SVEN——开创参数高效安全对齐先河

  • 2024:SafeCoder——集成安全中心指令调优

  • 2025:RESCUE——引入检索增强安全生成框架

  • 2025:SecureFixAgent——混合 LLM 代理自动化修复

  • 2026:SecCoderX——在线强化学习解决功能-安全悖论

  • 2026:ContraFix——差分运行时证据代理修复

这条时间线勾勒了该领域方法演进的代表性节点:从 2021 年的 HumanEval 奠定该领域方法基线,经 2022 年 CodeLMSec 的推进,到 2026 年的 SecCoderX 代表当前前沿。各节点对应的技术路线、取舍与关联,详见后续小节。

2.1 安全代码生成基准

安全代码生成基准的构建是评估其他方法的前提,其演进反映了从静态模式匹配到动态执行验证的范式转移。早期基准如 CodeLMSec(Hajipour et al., 2022)聚合了多种安全敏感场景并引入静态分析器,揭示了 LLM 在安全代码生成上的系统性缺陷。然而,静态分析的高误报率导致评估失真,促使研究者转向动态执行与 PoC 验证。DUALGAUGE(Pathak et al., 2025)提出了自动化联合安全-功能基准测试框架,通过动态执行验证功能行为,并引入专门的安全测试用例检测漏洞,定义了 secpass@1 指标,揭示了功能正确率与安全正确率之间的巨大差距。SecCodeBench-V2(Chen et al., 2026)进一步提出了功能-安全验证协议,在隔离容器环境中运行功能测试和专用 PoC 测试,防止潜在利用,确保安全结果反映真实安全属性而非构建错误。这些基准的演进,为后续安全生成方法提供了更可靠的评估环境。

2.2 安全代码生成方法

安全代码生成方法经历了从参数高效微调(PEFT)到检索增强(RAG)再到强化学习(RL)的演进,核心取舍在于以训练成本换取泛化能力,以外部知识换取内部对齐,以计算开销换取功能保持。SVEN(He and Vechev, 2023)通过训练连续前缀向量引导代码生成模型输出安全代码,无需重新训练整个模型,开创了参数高效安全对齐的先河,但受限于单一前缀对多样漏洞类型的泛化能力。SafeCoder(He et al., 2024)通过集成安全中心指令调优和主动偏好学习将安全意识嵌入模型参数,显著提升了生成代码的安全性,但面临数据策展成本高和功能性潜在损失的问题。RESCUE(Shi and Zhang, 2025)构建了分层安全知识库并设计多面检索机制,在生成前注入安全上下文以引导 LLM,无需微调即可提升安全性,解决了传统检索缺乏安全语义的问题。SecCoderX(Wu et al., 2026)利用漏洞奖励模型提供可扩展的安全监督,通过在线 RL 循环对齐代码 LLM,解决了功能-安全悖论,实现了保持功能性的安全代码生成。这些方法的演进,反映了从静态对齐到动态协同的技术路线转变。

2.3 漏洞检测与评估

漏洞检测与评估研究旨在提升 LLM 对代码中安全漏洞的识别能力,其核心挑战在于解决静态分析的高误报率和动态测试的覆盖不足问题。VulDeePecker(Li et al., 2024)基于 BiLSTM 自动从代码片段中学习漏洞模式,奠定了深度学习在漏洞检测领域的基础,但受限于对复杂语义和长距离依赖的捕捉能力。MulVul(Wu et al., 2026)提出了检索增强多代理漏洞检测框架,采用粗到细策略结合路由器与专用检测器,通过跨模型提示进化自动化生成专用提示,解决了单一模型难以捕捉多样漏洞模式的问题。Sequential Multi-Stage Approach(2025)设计了避免多 LLM 开销的序列多阶段决策,结合置信度阈值和协作机制,平衡检测准确性和计算成本。这些方法的演进,反映了从单一模型到多代理协作的技术路线转变。

2.4 漏洞修复与补丁

漏洞修复与补丁研究旨在利用 LLM 自动识别并修补代码中已存在的安全漏洞,其核心挑战在于保证修复后功能不变。SecureFixAgent(Gajjar et al., 2025)集成静态分析与本地 LLM 进行迭代检测-修复-验证,通过重复静态重验证确保补丁正确性,实现了隐私合规和低延迟的自动化漏洞修复。ContraFix(Liu et al., 2026)利用差分运行时证据和技能重用,通过对比执行轨迹定位漏洞根因,显著提升了修复成功率,展示了代理架构在复杂修复任务中的优势。SynthFix(Zhang et al., 2026)结合监督微调(SFT)和奖励微调(RFT),通过符号奖励模型提供细粒度补丁评估,引导 RFT 过程,解决了单一训练策略局限性。这些方法的演进,反映了从单一补丁生成到神经符号混合的技术路线转变。

2.5 安全攻击与对抗

安全攻击与对抗研究旨在揭示 LLM 代码生成与检测系统的脆弱性,并为防御机制提供威胁模型。AgentDojo(Debenedetti et al., 2023)展示了工具调用中嵌入恶意内容可触发间接提示注入攻击,揭示了 LLM 代理在外部工具交互中的安全脆弱性。QueryIPI(Xie et al., 2025)提出了查询无关间接提示注入攻击,通过嵌入恶意内容劫持编码代理行为,无需特定触发查询即可执行恶意负载,展示了代理系统在高权限环境下的严重安全风险。RedCodeAgent(2026)针对多样代码代理进行自动化红队测试,通过记忆模块检索相似风险场景并优化攻击轨迹,实现了大规模、多样化的安全攻击自动化。这些方法的演进,反映了从静态攻击到动态代理攻击的技术路线转变。

3. 关键共识、分歧与开放问题

3.1 领域共识

LLM 生成的代码普遍存在安全漏洞,且漏洞率显著高于人类编写的代码基线,约 40% 的生成代码包含可利用漏洞(支撑证据:P10、P11、P25)。这一共识在多个基准上被反复验证,如 CodeLMSec 和 CyberSecEval SCG 上的结果均显示,未经安全对齐的模型安全性能较低。与此相关的另一个共识是,仅关注功能正确性的评估是不充分的,必须将安全性作为与功能性同等重要的核心评估指标(支撑证据:P11、P25、P45)。DUALGAUGE 和 SecCodeBench-V2 等基准的提出,正是为了确立联合评估的必要性。静态分析工具(如 CodeQL、Semgrep)是评估 LLM 代码安全性的主要手段,但需结合动态执行或人工审计以降低误报率(支撑证据:P25、P45、P48)。检索增强生成(RAG)和外部安全知识注入能有效提升 LLM 的安全代码生成能力,且无需重新训练模型(支撑证据:P7、P19、P27)。

3.2 观点分歧

安全对齐是否必然导致功能性能下降(功能-安全权衡)是领域内的核心分歧。PEFT/微调派认为,通过高质量数据策展和偏好学习可以缓解,但承认存在权衡(支撑证据:P2、P46)。RL/动态派认为,通过在线 RL 和漏洞奖励模型可以解决悖论,实现功能保持的安全生成(支撑证据:P24、P26)。现有证据偏向 RL 方法,SecCoderX 在 CWEval 上达到 0.55 Effective Safety Rate,高于 SafeCoder 的 0.42。但 RL 方法在大规模真实场景下的泛化性尚未充分验证。这一分歧的背后,是另一个更根本的争论:安全评估应侧重静态 SAST 还是动态 PoC 验证。静态派认为 SAST 可扩展性强,适合大规模评估,误报可通过人工审计降低(支撑证据:P10、P48)。动态派认为动态 PoC 是确证漏洞可利用性的唯一标准,静态分析存在假阳性(支撑证据:P25、P11)。动态验证在准确性上占优,但成本高。静态验证在可扩展性上占优。现有 SOTA 方法多在动态验证基准上表现更好,但静态基准仍被广泛使用。

3.3 其他开放问题

最紧迫的工程问题是自动化红队测试框架的实现,如 RedCodeAgent 所示,需要评估代码代理在多步骤规划和工具使用场景下的安全性(支撑证据:P47、P8)。关键困难在于攻击面的动态性和复杂性,研究路径包括构建自适应攻击策略生成器和执行感知的安全评估流水线。最根本的研究问题是多轮交互中的安全漂移机制,即代码编辑过程中安全属性的连续变化(支撑证据:P44)。关键困难在于缺乏细粒度的风险量化指标,研究路径包括开发连续风险表示模型和基于静态/动态信号的混合漂移度量框架。此外,LLM 生成代码的软件供应链安全风险,包括依赖项劫持、配置错误和插件注入,也是重要的开放问题(支撑证据:P1、P5)。已知的是 LLM 代码普遍不安全且需联合评估,争议的是功能-安全权衡的解决路径和静态与动态评估的权重,未知的是大规模真实场景下的泛化性和代理级动态安全的防御机制。

4. 总结与展望

LLM 代码安全领域的核心矛盾是功能性与安全性的权衡,现有安全对齐方法往往以牺牲功能正确性为代价提升安全性。从 PEFT 到 RAG 再到 RL 的方法演进,反映了以训练成本换取泛化能力、以外部知识换取内部对齐、以计算开销换取功能保持的取舍逻辑。核心瓶颈在于缺乏统一的大规模真实世界漏洞数据集,且不同 CWE 类型的漏洞对评估方法敏感度不同,导致现有基准多为合成或短代码片段。

未来可能突破的方向包括:开发能够同时优化功能正确性与安全性的联合训练范式,解决当前指令微调往往牺牲安全性以换取任务完成度的问题(支撑证据:P24、P26);构建基于真实世界漏洞场景和动态执行验证的基准数据集,克服现有基准过于依赖静态模式匹配和短代码片段的局限(支撑证据:P25、P45);研究 LLM 生成代码中的安全漂移现象,即代码编辑过程中安全属性的连续变化(支撑证据:P44)。对进入者最值得做的一件事是,在统一骨干与统一预训练条件下,重评测代表性方法在动态 PoC 验证基准上的表现,以厘清方法贡献与预训练贡献的边界。

以上为节选,完整内容见ArxivReview

目录
相关文章
|
7天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
8875 23
|
7天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2679 12
|
2天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1279 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
5天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
10天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
10天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
23天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
11059 59
|
3天前
|
人工智能 弹性计算 IDE
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
适合团队落地代码规范,每次提交自动生成评审报告,降低人工CR工作量。同时支持自定义技能脚本,接入团队内部SDK说明文档,让Codex生成符合团队编码规范的代码。Codex三大客户端覆盖本地开发、服务器远程编码、自动化流水线场景,搭配阿里云百炼的Token Plan、Coding Plan,能够低成本搭建稳定可控的AI编码助手。新手建议先从IDE插件入手,熟悉交互逻辑,再尝试CLI版本部署在阿里云ECS,实现云上项目远程编码、批量脚本处理。只要按照步骤完成环境准备、版本选型、密钥对接、项目初始化,就可以把Codex融入日常开发流程,大幅提升代码编写、问题排查、项目重构的效率。
935 0
|
6天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1283 1
|
9天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。