《中国人工智能学会通讯》——10.19 安全挑战

简介: 本节书摘来自CCAI《中国人工智能学会通讯》一书中的第10章,第10.19节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。

10.19 安全挑战

通过上节对当前复杂网络化系统安全控制研究现状的综述,可以发现大量的工作还处于探索阶段,并不能系统地解决复杂网络化系统安全问题。究其原因,主要有来自复杂网络化系统自身和网络攻击两方面的挑战。

1 . 复杂网络化系统自身特点带来的安全挑战
在深度融合通信与计算技术的背景下,复杂网络化系统既有传统工业系统控制特点,也有计算和通信技术带来的新特点,其安全控制和防御必然面临更多的挑战与困难,主要包括:

• 复杂网络化系统外部边界模糊——向互联网全面开放,3C 各层面、各层次、各环节均可能受到多源攻击。为实现生产效率提高等可持续发展目标,在新一代通信技术支撑下,复杂网络化系统已逐步面向互联网全面开放,对系统的访问不再受有限的几台关键工业路由器和交换机限制。然而,这种开放特性在大大提高系统易操作性的同时,也使系统边界变得十分模糊且难于控制,导致面向复杂网络化系统的攻击多样、多层次且排查困难。传统信息系统中面向边界的安全防御技术(如工业防火墙[82] 、白名单等)很难在复杂网络化系统中得到有效应用,复杂网络化系统中计算、通信和控制设备均有可能直接受到来自网络空间的恶意攻击。此外,由于这些设备的运算能力、能源续航能力、可扩展能力以及对实时性、稳定性、连续性、安全性等各方面的要求都不尽相同,在系统中对所有设备提供足够的设备级安全防护十分困难。这种弱防护特点使得系统在 3C 各层面、全局和局部各层次,以及局部系统内部各环节都有可能受到攻击,是近年来工业安全事件频发[5-6]的主要原因。

• 复杂网络化系统内部结构庞杂、异构——来自 3C 的大量异构设备产生安全隐患的机理不同,使湮没在海量数据中的攻击数据识别困难。在复杂网络化系统中,计算、通信和控制设备由于所执行的任务不同,往往由完全不同的软硬件构成,同时不同设备间的相互协作关系也由于系统的庞大而变得十分复杂,有时还可能动态变化,这导致对系统进行安全隐患分析变得十分困难。传统的信息系统安全技术之所以不能直接用来解决复杂网络化系统安全问题,是因为在其设计时缺乏对控制系统内的控制总线协议、软硬件特点及物理机理的深度把握,同时没有考虑 3C 耦合时相互之间产生的复杂关联关系及对安全隐患在三者之间相互转换与渗透的影响。因此,理清三者各自的安全问题及其相互之间的安全耦合关系是研究复杂网络化系统安全控制所面临的一个重大挑战。特别是,在工业生产过程伴随着海量数据的背景下,工业数据已经成为入侵者最感兴趣的攻击目标之一。这类攻击往往通过控制复杂网络化系统中防御较弱的传感设备和无线设备,将事先构造好的恶意数据注入到系统中,并利用这些数据来达到控制工业生产的目的,从而对系统造成潜在而隐蔽的危害[10] 。在缺乏对 3C 异构设备安全机理深刻理解情况下,恶意数据注入攻击很难从海量工业数据中检测出来,这是当前工业安全领域的研究难点之一,目前尚未得到根本性解决[38] 。

• 复杂网络化系统中攻击危害层次化且易传播——攻击对系统全局和局部两个层次造成的危害不同,攻击危害在 3C 耦合中可相互转化引起连锁反应。复杂网络化系统本质上是一个典型“系统的系统”(System of Systems),由众多功能独立同时又相互影响的子系统组成,部分子系统遭到破坏并不一定导致全局系统崩溃。因此,既要有全局思想也要立足各个局部子系统,这对复杂网络化系统安全控制的设计提出了更高要求。除此之外,复杂网络化系统在看似松散的网络拓扑结构下,信息层面却高度耦合。任意环节的攻击导致 3C 设备的故障,可相互转化并引起连锁反应,安全危害能迅速在系统中蔓延。2014 年的 Havex 病毒正是利用这一特点[37] ,通过最初感染的几台含有 OPC(过程控制通信标准链接库)缺陷的电力数据采集和监控(SCADA) 设备,迅速在欧洲多个国家的电网系统内部扩散,使电网系统面临全面瘫痪的严重威胁。

2 . 网络攻击建模困难带来的安全挑战
在传统的故障诊断和容错控制中,由于考虑的是系统自身的故障,一般可以假设其符合某种先验分布或统计规律,然后通过概率论的方法(如贝叶斯推理、马尔科夫估计等)进行诊断。而网络攻击往往是由攻击者有针对性的发起,并不存在先验分布和统计规律。更为严重的是,由于攻击者可以有目的地设计其攻击策略来躲避已有的攻击检测与安全评估措施,其攻击手法和造成的危害往往非常隐蔽,很难在安全控制策略的设计初始阶段被发现。因此,针对复杂网络化系统的安全攻击具有很强的难以预测性,对其进行建模非常困难。这一挑战是复杂网络化系统安全控制研究中的一个开放性问题,现阶段极大的阻碍了该领域的研究进展。

相关文章
|
5月前
|
传感器 人工智能 运维
拔俗AI巡检系统:让设备“会说话”,让隐患“早发现”,打造更安全高效的智能运维
AI巡检系统融合AI、物联网与大数据,实现设备7×24小时智能监测,自动识别隐患并预警,支持预测性维护,提升巡检效率5倍以上,准确率超95%。广泛应用于工厂、电力、交通等领域,推动运维从“被动响应”转向“主动预防”,降本增效,保障安全,助力数字化转型。(238字)
738 0
|
6月前
|
传感器 人工智能 监控
建筑施工安全 “智能防线”!AI 施工监测系统,全方位破解多场景隐患难题
AI施工监测系统通过多场景识别、智能联动与数据迭代,实现材料堆放、安全通道、用电、大型设备及人员行为的全场景智能监管。实时预警隐患,自动推送告警,联动现场处置,推动建筑安全从“人工巡查”迈向“主动防控”,全面提升施工安全管理水平。
1164 15
|
6月前
|
人工智能 安全 网络安全
从不确定性到确定性,“动态安全+AI”成网络安全破题密码
2025年国家网络安全宣传周以“网络安全为人民,靠人民”为主题,聚焦AI安全、个人信息保护等热点。随着AI技术滥用加剧,智能化攻击频发,瑞数信息推出“动态安全+AI”防护体系,构建“三层防护+两大闭环”,实现风险前置识别与全链路防控,助力企业应对新型网络威胁,筑牢数字时代安全防线。(238字)
350 1
|
6月前
|
人工智能 安全 网络安全
阿里云亮相2025国家网安周 | 首次提出AI全栈安全
了解阿里云最新的AI安全产品技术
1554 1
人工智能 安全 Ubuntu
1404 0
|
6月前
|
人工智能 运维 安全
从“裸奔”到“金钟罩”:AI身份凭据安全的进化之路
构建身份权限安全,护航企业数据合规
1686 37
|
7月前
|
人工智能 安全 测试技术
RidgeBot 5.4.5 - 基于 AI 的主动安全验证平台
RidgeBot 5.4.5 - 基于 AI 的主动安全验证平台
254 2
RidgeBot 5.4.5 - 基于 AI 的主动安全验证平台
|
7月前
|
人工智能 安全 算法
四位大咖齐聚 《AI 进化论》第二期揭秘专有云 OS 安全信任基石重构之道
《AI 进化论:智算时代操作系统的破局之路》系列直播第二期「重构专有云操作系统安全信任基石」将于 8 月 13 日 14:00 开始。
|
7月前
|
云安全 机器学习/深度学习 人工智能
阿里云安全Black Hat技术开源大揭秘,AI安全检测的工程化实践
阿里云安全 LLMDYara框架开源核心思路,赋能云安全产品!
2146 15
|
7月前
|
人工智能 安全 算法
龙蜥专家等共同揭秘专有云 OS 安全信任基石重构之道 |《AI 进化论》第二期
探讨如何通过 TEE、国产 OS 与芯片协同、国密算法、SLSA/SBOM 等技术,从底层操作系统重构信任,帮助用户应对复杂的云上威胁。