联邦学习系统攻击与防御技术研究综述

简介: 联邦学习作为新兴技术,能解决分布式数据隐私泄露问题,广泛应用于各领域。但其在数据收集、训练和推理阶段存在安全与隐私威胁。本文围绕机密性、完整性和可用性,定义联邦学习的安全属性,系统综述攻击方式(投毒、对抗样本、推理攻击等)及防御手段(鲁棒性提升、隐私增强技术),并提出未来研究方向。

联邦学习作为一种使用分布式训练数据集构建机器学习模型的新兴技术,可有效解决不同数据用户之间因联合建模而导致的本地数据隐私泄露问题,从而被广泛应用于多个领域并得到迅速发展。然而,现有的联邦学习系统已被证实在数据收集阶段、训练阶段和推理阶段都存在潜在威胁,危及数据的隐私性和系统的鲁棒性。本文从安全威胁和隐私威胁两类潜在威胁入手,围绕机密性、完整性和可用性(CA三元组)给出了联邦学习场景中安全属性的详细定义,并对联邦学习中各类攻击方式和防御手段进行了系统全面综述。首先,本文对横向、纵向联邦学习过程,以及潜在威胁分别进行了概述,并从对抗性攻击和非对抗性攻击两个角度,分析了投毒攻击、对抗样本攻击和推理攻击等常见攻击的基本概念、实施阶段和现有方案。进一步地,依据不同的攻击方式,将防御手段划分为鲁棒性提升方法和隐私性增强技术两类:鲁棒性提升方法主要防御系统遭受的对抗性攻击,包括有数据消毒、鲁棒性聚合、异常检测、对抗训练、知识蒸馏、剪枝和其他方法等,隐私性增强技术主要防御系统遭受的非对抗性攻击,包括有同态加密、安全多方计算、差分隐私和区块链等。最后,本文给出了联邦学习中鲁棒性和隐私性方面的未来研究方向。

相关文章
|
缓存 负载均衡 算法
“软件系统三高问题”高并发、高性能、高可用系统设计经验
​ 总的来说解决三高问题核心就是 “分字诀” 业务分层、系统分级、服务分布、数据库分库/表、动静分离、同步拆分成异步、单线程分解成多线程、原数据缓存分离、分流等等。。。。 直观的表述就是:从前端用的CDN、动静分离,到后台服务拆分成微服务、分布式、负载均衡、缓存、池化、多线程、IO、分库表、搜索引擎等等。都是强调一个“分”字。
5019 0
“软件系统三高问题”高并发、高性能、高可用系统设计经验
|
9月前
|
人工智能 安全 网络安全
科技云报到:2026网络安全六大新趋势:AI重构攻防,信任成为新防线
2026年,网络安全迈入“数字信任”时代。AI驱动下,AI Agent身份认证、API攻击泛滥、智能体基础设施风险等新威胁涌现,推动安全从被动防御转向主动信任重构。融合AI的主动防护、数据治理与合规体系,将成为企业构建可信数字生态的核心竞争力。(238字)
1816 0
|
6月前
|
运维 安全 API
CCF推荐A类会议和期刊总结:计算机体系结构/并行与分布计算/存储系统领域
中国计算机学会(CCF)2022年版推荐目录涵盖了计算机体系结构、并行与分布计算、存储系统领域的多个A类会议和期刊。本文汇总了这些顶级资源的全称、出版社、dblp网址及领域。包括《ACM计算机系统汇刊》、《ACM存储汇刊》等期刊,以及ACM PPoPP、USENIX FAST等会议,为研究人员提供了重要学术参考。
15013 64
CCF推荐A类会议和期刊总结:计算机体系结构/并行与分布计算/存储系统领域
|
5月前
|
人工智能 编解码 算法
农场畜牧目标检测数据集(15000张高质量标注)|YOLO训练数据集
本数据集含15000张高质量农场实景图像,涵盖奶牛、马、猪、绵羊及干扰目标共5类,YOLO标准格式标注,适配YOLOv5/v8等模型。覆盖露天牧场、圈舍等多场景,支持光照变化、密集遮挡、多姿态检测,助力智慧养殖数量统计、行为分析与健康监测。
|
6月前
|
机器学习/深度学习 人工智能 编解码
羊行为识别检测数据集(约4500张图片已标注)| YOLO训练数据集 AI视觉检测
本数据集含约4500张真实牧场场景图像,精准标注“活动”“进食”“躺卧”三类羊行为,采用YOLO标准格式(归一化坐标),覆盖多天气、多姿态、群组与单只场景,适用于智慧养殖、健康监测及YOLO系列模型训练,开箱即用。
|
小程序 JavaScript 前端开发
基于微信小程序的宠物寄养平台(毕业设计,附源码,教程)
基于微信小程序的宠物寄养平台(毕业设计,附源码,教程)
1265 82
|
存储 关系型数据库 MySQL
什么是联合索引
【10月更文挑战第15天】什么是联合索引
1446 4