网络流量监测与调度技术研究

本文涉及的产品
网络型负载均衡 NLB,每月750个小时 15LCU
传统型负载均衡 CLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
简介: 网络流量监测与调度技术研究

网络流量监测与调度技术研究

学习目标:流量监测

学习内容:

  • 流量管理:路由技术(Segment-Route、IS-IS、BGP)、负载均衡、拥塞控制、流量控制、流量监测

流量监测

流量监测的主要方法:分为主动方式和被动方式


主动的方式是通过监测仪器向网络路径上主动的发送有针对性的探测包,通过对探测包的分析可以得到一些网络性能参数,例如延迟、RTT等。主动测量可以得到不同粒度的端到端QoS,但是它的开销很大,并且会带来附加的流量,


在采用主动方式监测网络时,要充分考虑到监测流量对网络造成的影响,一方面要保证监测结果准确无误。另一方面要考虑降低监测流量对正常流量的影响被动测量是在网络中以某种设备或技术收集经过的流量信息进行测量,可以测量节点的详细信息,相对于主动测量方法,被动测量没有附加流量而干扰测量结果的问题。但是正因为如此,很多端到端的网络性能参数无法或者很难使用被动测量的方法获得。


被动测量技术目前广泛的用在网络中关键路由或交换节点,对经过的网络流量进行数据的采集或统计,得到如数据包的协议分布统计、网络流量的数据流矩阵等信息,但是它的准确性很大程度的依赖于测量装置的性能,同吋也需要复杂的分析机制高速处理网络流量数据。在SDN中,被动方法通过包采样或用统计的方法了解流量的状态,是一种非侵入式的并且不需要产生额外流量的方法,减轻控制器压力的同时又不会对正常的网络流产生影响。但采样可能会使小的流被错过,SDN路径上的多层监测节点也可能会采样重复的包,这将导致测量的不准确。


利用OpenFlow控制消息与询问消息机制设计一种主动与被动相结合的数据收集方案主动方式则通过对数据流的行为分析,利用线性预测以合适的频率向维持了各个流表、端口或接口信息的OpenFlow交换机发出询问,以减小开销,减轻控制器的压力。


流量监测的设计框架

下面是几种流量监测的设计框架


框架一


9e425a7e9def48b7bd8a8ead568e9ac3.png


整个系统分为四部分:流量监测机制、动态负载均衡与节能路由和流调度机制(简称路由和流调度机制)、OpenFlow协议部分和基础设施部分.流量监测机制首先利用 OpenFlow 协议根据设定的自适应轮询算法向基础设施的交换机发出Query请求,然后根据接收到的 Reply消息对每个数据流进行速率监测,同时将与路由和流调度机制进行交互.路由和流调度机制首先根据流速率计算网络链路利用率并且构建链路利用率矩阵,然后再依据偏好计算方法将利用率矩阵转化为链路的偏好矩阵.偏好矩阵同时兼顾了负载均衡与节能的目标,将作为路由与流调度机制的基础数据.当控制器收到PacketIn消息后,路由机制将为数据流提供合理的初始路径,并将新的路径通过 OpenFlow 协议安全通道安装到交换机上.同样当数据流被调度时,控制器将通过流调度模块为数据流计算新的转发路径,并通过 OpenFlow 协议更新到交换机.OpenFlow 协议作为数据平面与控制平面交互的中介,不但需要将每个数据流路径的添加、更新真实地反映到基础设施的交换机上,而且需要作为通道帮助控制器收集数据流信息.


[1]鲁垚光,王兴伟,李福亮,黄敏.软件定义网络中的动态负载均衡与节能机制[J].计算机学报,2020,43(10):1969-1982.


框架二

cb46e05a586a440593b7e9f2e83cd1d9.png


该模块需要感知整个网络的拓扑以及各OpenFlow交换机的配置信息,根据交换机的配置信息来生成测量需求,控制器与OpenFlow交换机第一次建立连接时,控制器向OpenFlow交换机发功能请求消息,即OFPT_FRATURES_REQUEST消息,该消息可以获取交换机的配置、性能以及功能等信息参数,交换机则会回复OFPT_FEATURES_REPLY消息,通过回复消息,控制器会记录datapathID以及流表数等信息,datapathID从根本上来说就是交换机的ID,用于辨别数据路径,当交换机信息发送改变,该信息也会进行相应的更新。


当需要对流进行删除时,OpenFlow交换机会向控制器发送Flow_Removed消息,控制器因此可以获取该流被删除的相关信息,例如流表编号、流存在的时间以及被删除的原因、流空闲时间等,通过对Flow_Removed消息的处理,可以及时调整监测路径,例如当链路中某些流被删除时,那么监测路径也要随时进行调整。


[1]蔡杰. 基于OpenFlow网络的流量监测关键技术研究[D].湖南大学,2016.


框架三

a13d0ad9afe44119a2eff2400114061c.png


SDN网络基于线性预测的监测系统架构主要由事件处理模块(Flow Statistics Analyzer)、流数据收集模块(Flow Statistics)、流数据分析模块(Flow Statistics Analyzer)、线性预测询问模块(Linear Prediction)四大模块组成,下面对每个模块进行分析。


事件处理模块:这个部分主要负责捕获控制信息,并将它交给流数据收集模块。SDN网络中存在很多控制信息,这个模块收集能表示流开始和终止的Packet-In和Flow-Removed消息,如果在收到Packet-In消息一段时间内没有收到Flow-Removed消息,这个模块也将负责向指定的交换机发送一个询问信息FlowRequest,并且捕获交换机回复给控制器的信息FlowReply。


流数据收集模块:这个部分负责搜集分析控制信息所包含的数据,包括这个条流已通过的字节数、数据包个数以及持续时间,然后利用吞吐量计算公式(3。1)、(3。2)计算这条流的吞吐量。利用丢包率计算公式(3。3)、(3。4)计算这条流丢包率。


流数据分析模块:网络中同一条链路上可能不止一条活动流存在,对于吞吐量我们必须统计同一时刻链路上所有活动流的吞吐量之和才能得到整条链路的吞吐量。通过前三个模块可计算出每条流的吞吐量,数据分析模块主要负责在每个收到Flow-Removed和FlowReply消息的时间监测点合并活动流的吞吐量,得到整条链路的吞吐量


线性预测询问模块:此模块根据流数据收集模块搜集到的最近N次询问得到的数据计算r,r与当前询问时间间隔通过匹配规则计算出下一次询问的时间间隔。


优点:设计了针对SDN的网络流量智能监测模块,提出利用OpenFlow控制信息零开销的监测持续时间较短的流,同时利用主动询问交换机的方式得到持续时间较长的流的信息,实现了吞吐量与丢包率的测量。另外,为了减小询问所产生的开销,设计了基于线性预测自适应询问的算法,根据询问得到的数据流比特数与预测值进行比较,由比较后得到的参数来判定网络流是否活跃,然后再智能的改变询问的时间间隔。


不足:本文中两种自适应询问的参数需要对网络数据流进行分析,才能最佳的把握网络流量的特征又不増加开销,人为的参数设置势必会带来诸多问题,下一步研宄自动检测流量的情况,自适应的调节监测模块的参数,达到更加智能的效果。设计的基于SDN的网络流量监测模块只在单控制器且主机较少的小型OpenFlow网络环境下完成验证,在多控制器的大型网络上监测性能的验证有待进一步实验和探索。


[1]胡芬. SDN流量智能监测技术研究[D].湖南大学,2017.


参考论文:


[1] Amin Hodaei,Shahram Babaie. A Survey on Traffic Management in Software-Defined Networks: Challenges, Effective Approaches, and Potential Measures[J]. Wireless Personal Communications,2021(prepublish)


(软件定义网络中的流量管理综述:挑战、有效方法和潜在措施)


[2] A Framework for Classification and Visualization of Elephant Flows in SDN-Based Networks


(基于SDN的网络中大象流的分类和可视化框架)


[3] 软件定义网络中的动态负载均衡与节能机制


[4] SDN流量智能监测技术研究_胡芬


[5] 基于OpenFlow网络的流量监测关键技术研究_蔡杰


[6] 软件定义网络环境下DoS攻防实验设计_陈镭


[7] SDN网络流量监测与调度技术研究_张恒


[8] 面向SDN网络的QoS优化解决方案综述_孙瑞娜


[9] 软件定义网络环境下的低速率拒绝服务攻击检测方法_刘向举


–end–


相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
25天前
|
存储 监控 安全
单位网络监控软件:Java 技术驱动的高效网络监管体系构建
在数字化办公时代,构建基于Java技术的单位网络监控软件至关重要。该软件能精准监管单位网络活动,保障信息安全,提升工作效率。通过网络流量监测、访问控制及连接状态监控等模块,实现高效网络监管,确保网络稳定、安全、高效运行。
48 11
|
11天前
|
负载均衡 网络协议 网络性能优化
动态IP代理技术详解及网络性能优化
动态IP代理技术通过灵活更换IP地址,广泛应用于数据采集、网络安全测试等领域。本文详细解析其工作原理,涵盖HTTP、SOCKS代理及代理池的实现方法,并提供代码示例。同时探讨配置动态代理IP后如何通过智能调度、负载均衡、优化协议选择等方式提升网络性能,确保高效稳定的网络访问。
78 2
|
17天前
|
机器学习/深度学习 安全 网络安全
网络安全词云图与技术浅谈
### 网络安全词云图与技术浅谈 本文介绍了通过词云图展示网络安全关键术语的方法,并探讨了构建现代网络安全体系的关键要素。词云图利用字体大小和颜色突出高频词汇,如恶意软件、防火墙、入侵检测系统等。文中提供了生成词云图的Python代码示例,包括安装依赖库和调整参数。此外,文章详细讨论了恶意软件防护、加密技术、身份验证、DDoS防御、社会工程学防范及威胁情报等核心技术,强调了多层次、多维度的安全策略的重要性。
55 11
网络安全词云图与技术浅谈
|
16天前
|
存储 安全 物联网
浅析Kismet:无线网络监测与分析工具
Kismet是一款开源的无线网络监测和入侵检测系统(IDS),支持Wi-Fi、Bluetooth、ZigBee等协议,具备被动监听、实时数据分析、地理定位等功能。广泛应用于安全审计、网络优化和频谱管理。本文介绍其安装配置、基本操作及高级应用技巧,帮助用户掌握这一强大的无线网络安全工具。
44 9
浅析Kismet:无线网络监测与分析工具
|
25天前
|
机器学习/深度学习 算法 PyTorch
基于图神经网络的大语言模型检索增强生成框架研究:面向知识图谱推理的优化与扩展
本文探讨了图神经网络(GNN)与大型语言模型(LLM)结合在知识图谱问答中的应用。研究首先基于G-Retriever构建了探索性模型,然后深入分析了GNN-RAG架构,通过敏感性研究和架构改进,显著提升了模型的推理能力和答案质量。实验结果表明,改进后的模型在多个评估指标上取得了显著提升,特别是在精确率和召回率方面。最后,文章提出了反思机制和教师网络的概念,进一步增强了模型的推理能力。
53 4
基于图神经网络的大语言模型检索增强生成框架研究:面向知识图谱推理的优化与扩展
|
1月前
|
存储 安全 网络安全
云计算与网络安全:技术融合的双刃剑
在数字化浪潮中,云计算如同一股不可阻挡的力量,推动着企业和个人用户步入一个高效、便捷的新时代。然而,随之而来的网络安全问题也如影随形,成为制约云计算发展的阿喀琉斯之踵。本文将探讨云计算服务中的网络安全挑战,揭示信息保护的重要性,并提供实用的安全策略,旨在为读者呈现一场技术与安全的较量,同时指出如何在享受云服务带来的便利的同时,确保数据的安全和隐私。
28 6
|
1月前
|
存储 人工智能 安全
云计算与网络安全:技术融合与挑战
在数字化时代的浪潮中,云计算和网络安全已成为推动社会进步的两大关键技术。本文将探讨云计算服务的发展,网络安全的重要性,以及信息安全技术的演进。我们将通过实例分析,揭示云服务如何增强数据保护,网络安全措施如何应对新兴威胁,以及信息安全技术的创新如何为企业带来竞争优势。文章旨在为读者提供对云计算和网络安全领域的深入理解,并展示它们如何共同塑造我们的未来。
|
1月前
|
监控 安全 网络安全
云计算与网络安全:技术挑战与解决方案
随着云计算技术的飞速发展,其在各行各业的应用越来越广泛。然而,随之而来的网络安全问题也日益凸显。本文将从云服务、网络安全和信息安全等技术领域出发,探讨云计算面临的安全挑战及相应的解决方案。通过实例分析和代码示例,旨在帮助读者更好地理解云计算与网络安全的关系,提高网络安全防护意识。
|
1月前
|
存储 监控 安全
云计算与网络安全:云服务、网络安全、信息安全等技术领域的融合与挑战
本文将探讨云计算与网络安全之间的关系,以及它们在云服务、网络安全和信息安全等技术领域中的融合与挑战。我们将分析云计算的优势和风险,以及如何通过网络安全措施来保护数据和应用程序。我们还将讨论如何确保云服务的可用性和可靠性,以及如何处理网络攻击和数据泄露等问题。最后,我们将提供一些关于如何在云计算环境中实现网络安全的建议和最佳实践。
|
1月前
|
存储 安全 网络安全
云计算与网络安全:云服务、网络安全、信息安全等技术领域的融合与挑战
随着云计算技术的飞速发展,越来越多的企业和个人开始使用云服务。然而,云计算的广泛应用也带来了一系列网络安全问题。本文将从云服务、网络安全、信息安全等方面探讨云计算与网络安全的关系,分析当前面临的挑战,并提出相应的解决方案。
66 3