时间序列异常检测:MSET-SPRT组合方法的原理和Python代码实现

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
实时数仓Hologres,5000CU*H 100GB 3个月
智能开放搜索 OpenSearch行业算法版,1GB 20LCU 1个月
简介: MSET-SPRT是一种结合多元状态估计技术(MSET)与序贯概率比检验(SPRT)的混合框架,专为高维度、强关联数据流的异常检测设计。MSET通过历史数据建模估计系统预期状态,SPRT基于统计推断判定偏差显著性,二者协同实现精准高效的异常识别。本文以Python为例,展示其在模拟数据中的应用,证明其在工业监控、设备健康管理及网络安全等领域的可靠性与有效性。

在异常检测领域,尤其针对工业机械、核反应堆和网络安全等复杂系统,传统方法往往难以有效处理高维度且相互关联的数据流。多元状态估计技术(MSET)序贯概率比检验(SPRT) 的组合方法在此类场景中展现出显著优势。

MSET-SPRT是一种结合机器学习状态估计与统计假设检验的混合技术框架,通过其高精度和稳健性,被广泛应用于关键任务系统的监控与分析。该方法能够实时识别系统行为的微小偏差,为预防性维护和异常事件预警提供可靠依据。

MSET-SPRT理论基础

多元状态估计技术(MSET)原理

MSET作为一种非参数非线性回归技术,通过历史观测数据构建系统正常状态模型。其核心工作机制包括:

建立包含历史正常系统状态的记忆矩阵,作为参考基准;利用学习到的历史状态间关系计算加权组合,从而估计当前系统的预期状态;通过对比观测值与估计值,计算系统行为偏差,为异常检测提供基础指标。

序贯概率比检验(SPRT)方法

SPRT是一种基于统计推断的序贯假设检验方法,专用于确定系统行为偏差是否具有统计显著性。其主要功能为:

持续评估残差误差(实际观测值与模型估计值之间的差异),并根据预设的统计模型进行假设检验;当检测到的偏差超过统计置信阈值时,系统能够及时发出预警信号,同时控制虚警率在可接受范围内。

MSET-SPRT框架通过上述两种技术的协同作用,为多元数据异常检测提供了准确且高效的解决方案,特别适用于高维度、高相关性的时间序列数据分析。

Python实现MSET-SPRT异常检测

下面通过一个精简的示例来演示MSET-SPRT方法在Python中的实现过程。

导入必要的库

import numpy as np
import scipy.stats as stats
import matplotlib.pyplot as plt

生成模拟数据集

构建一个多元正态分布数据集,用于模拟正常运行状态下的系统行为:

# Simulating normal system behavior (3 correlated sensors)
np.random.seed(42)
mean = [50, 75, 100]  # Mean values for three sensors
cov = [[10, 5, 2], [5, 15, 3], [2, 3, 20]]  # Covariance matrix

# Generate 500 normal operation samples
normal_data = np.random.multivariate_normal(mean, cov, size=500)

实现MSET算法

采用基于加权最近邻的方法实现MSET算法,用于估计系统的预期行为:

class MSET:
    def __init__(self, memory_matrix):
        self.memory_matrix = memory_matrix  # Store normal system states

    def estimate(self, input_vector):
        """
        Estimates the expected state based on historical data.
        Uses nearest neighbors to compute weighted estimation.
        """
        weights = np.exp(-np.linalg.norm(self.memory_matrix - input_vector, axis=1))
        weights /= np.sum(weights)
        return np.dot(weights, self.memory_matrix)

初始化MSET模型,将正常运行数据作为记忆矩阵:

# Initialize MSET with normal data as memory
mset_model = MSET(memory_matrix=normal_data)

计算残差

计算实际观测值与MSET估计值之间的残差,作为异常检测的基础:


# Simulated test data (normal + some anomalies)
test_data = np.vstack([
    np.random.multivariate_normal(mean, cov, size=450),  # Normal
    np.random.multivariate_normal([70, 50, 130], cov, size=50)  # Anomalies
])

# Compute estimated values
estimated_data = np.array([mset_model.estimate(x) for x in test_data])
# Compute residuals
residuals = np.linalg.norm(test_data - estimated_data, axis=1)

应用SPRT进行异常检测

基于似然比检验原理实现SPRT算法,用于判定残差是否表示异常状态:

# Define thresholds for SPRT
alpha = 0.05  # False positive rate
beta = 0.05   # False negative rate
mu_0, sigma_0 = np.mean(residuals[:450]), np.std(residuals[:450])  # Normal behavior
mu_1 = mu_0 + 3 * sigma_0  # Anomalous mean shift

# SPRT decision function
def sprt_test(residual):
    """ Sequential Probability Ratio Test for anomaly detection """
    likelihood_ratio = stats.norm(mu_1, sigma_0).pdf(residual) / stats.norm(mu_0, sigma_0).pdf(residual)
    return likelihood_ratio > (1 - beta) / alpha
# Apply SPRT
anomalies = np.array([sprt_test(res) for res in residuals])
# Plot results
plt.figure(figsize=(12, 5))
plt.plot(residuals, label="Residuals", color="blue")
plt.axhline(mu_1, color="red", linestyle="dashed", label="Anomaly Threshold")
plt.scatter(np.where(anomalies)[0], residuals[anomalies], color="red", label="Detected Anomalies", zorder=2)
plt.xlabel("Time")
plt.ylabel("Residual Magnitude")
plt.legend()
plt.title("MSET-SPRT Anomaly Detection")
plt.show()

结果分析与解释

图中数据可视化结果展示了MSET-SPRT方法的异常检测效果:

蓝色曲线表示系统状态残差时间序列,反映了实际观测值与估计值之间的偏差大小;红色虚线标示出异常检测阈值,该阈值基于正常运行数据的统计特性计算得出;红色标记点则代表被SPRT算法判定为异常的时间点,这些点的残差值显著高于正常波动范围。

分析结果表明,MSET-SPRT方法能够有效区分正常系统波动与异常行为,提供了一种可靠的多元时间序列异常检测方案。该方法特别适用于需要高精度异常检测的工业监控、设备健康管理和网络安全等领域。

https://avoid.overfit.cn/post/dc95da86cabf4ebb88e711bfa2196abc

作者:Abish Pius

目录
相关文章
|
1月前
|
SQL 自然语言处理 数据库
【Azure Developer】分享两段Python代码处理表格(CSV格式)数据 : 根据每列的内容生成SQL语句
本文介绍了使用Python Pandas处理数据收集任务中格式不统一的问题。针对两种情况:服务名对应多人拥有状态(1/0表示),以及服务名与人名重复列的情况,分别采用双层for循环和字典数据结构实现数据转换,最终生成Name对应的Services列表(逗号分隔)。此方法高效解决大量数据的人工处理难题,减少错误并提升效率。文中附带代码示例及执行结果截图,便于理解和实践。
|
9天前
|
Python
解决Python报错:DataFrame对象没有concat属性的多种方法(解决方案汇总)
总的来说,解决“DataFrame对象没有concat属性”的错误的关键是理解concat函数应该如何正确使用,以及Pandas库提供了哪些其他的数据连接方法。希望这些方法能帮助你解决问题。记住,编程就像是解谜游戏,每一个错误都是一个谜题,解决它们需要耐心和细心。
49 15
|
16天前
|
Python
[oeasy]python086方法_method_函数_function_区别
本文详细解析了Python中方法(method)与函数(function)的区别。通过回顾列表操作如`append`,以及随机模块的使用,介绍了方法作为类的成员需要通过实例调用的特点。对比内建函数如`print`和`input`,它们无需对象即可直接调用。总结指出方法需基于对象调用且包含`self`参数,而函数独立存在无需`self`。最后提供了学习资源链接,方便进一步探索。
53 17
|
10天前
|
存储 缓存 文件存储
uv安装python及其依赖的加速方法
国内在使用uv的时候,可能会涉及到装python的速度太慢的问题,为了解决这个问题,可以使用`UV_PYTHON_INSTALL_MIRROR`这个环境变量。除此以外,对于多人协作场景,`UV_CACHE_DIR`也是一个有用的环境变量。本文会介绍这两个变量。
294 10
|
8天前
|
Python
如何处理python的常见异常问题
在Python语言中,python异常处理机制主要依赖try、except、else、finally和raise五个关键字。本篇文章将为大家详细讲解一下如何处理python的常见异常问题。
|
22天前
|
开发者 索引 Python
从命名约定到特殊方法,Python下划线符号的妙用!
下划线(`_`)是Python开发者日常接触的重要符号,其含义和应用场景多样。本文全面解析了Python中下划线的不同用法,包括单下划线作为临时变量、国际化翻译函数、交互式解释器特殊变量;单下划线前缀表示保护成员;单下划线后缀避免关键字冲突;双下划线前缀触发名称改写;双下划线前后缀定义特殊方法等。此外,还介绍了数字分隔符、模式匹配通配符等新特性,并总结了下划线使用的最佳实践与常见问题解答。通过本文,读者可深入了解下划线在Python中的多重角色及其设计哲学。
58 2
|
1天前
|
机器学习/深度学习 数据可视化 算法
Python数值方法在工程和科学问题解决中的应用
本文探讨了Python数值方法在工程和科学领域的广泛应用。首先介绍了数值计算的基本概念及Python的优势,如易学易用、丰富的库支持和跨平台性。接着分析了Python在有限元分析、信号处理、优化问题求解和控制系统设计等工程问题中的应用,以及在数据分析、机器学习、模拟建模和深度学习等科学问题中的实践。通过具体案例,展示了Python解决实际问题的能力,最后总结展望了Python在未来工程和科学研究中的发展潜力。
|
2天前
|
开发框架 Java .NET
Python中main函数:代码结构的基石
在Python中,`main`函数是程序结构化和模块化的重要组成部分。它实现了脚本执行与模块导入的分离,避免全局作用域污染并提升代码复用性。其核心作用包括:标准化程序入口、保障模块复用及支持测试驱动开发(TDD)。根据项目复杂度,`main`函数有基础版、函数封装版、参数解析版和类封装版四种典型写法。 与其他语言相比,Python的`main`机制更灵活,支持同一文件作为脚本运行或模块导入。进阶技巧涵盖多文件项目管理、命令行参数处理、环境变量配置及日志集成等。此外,还需注意常见错误如全局变量污染和循环导入,并通过延迟加载、多进程支持和类型提示优化性能。
21 0
|
11月前
|
Python 数据可视化 索引
PYTHON用GARCH、离散随机波动率模型DSV模拟估计股票收益时间序列与蒙特卡洛可视化
PYTHON用GARCH、离散随机波动率模型DSV模拟估计股票收益时间序列与蒙特卡洛可视化
PYTHON用GARCH、离散随机波动率模型DSV模拟估计股票收益时间序列与蒙特卡洛可视化
|
11月前
|
数据可视化 数据挖掘 Python
Python用 tslearn 进行时间序列聚类可视化
Python用 tslearn 进行时间序列聚类可视化
下一篇
oss创建bucket