使用LSTM预测结果为一条直线原因总结

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 使用LSTM预测结果为一条直线原因总结

前言

👑 最近很多订阅了🔥《深度学习时间序列预测案例》🔥的用户私信我,向我咨询为什么我的模型预测出来是一条直线或者是一条波浪线,几乎没有任何趋势,为了统一进行解答,特写本篇文章进行说明。

对于时间序列数据预测结果为一条直线这在时序任务中是很常见的,对于出现这种问题的原因有很多,本篇举例一些常见的影响因素。

  • 有些伙伴私信我,说这有可能是模型过大,内部一些参数过多,这种可以尝试简单一点的模型试一下
  • 模型训练过程中一些神经元死掉了,或者是梯度爆炸或者消失的问题,这种情况尝试一下使用不同的激活函数,建议使用各种的 RELU 变体函数
  • 学习率过大或者过小,可以尝试调整不同的学习率,或者使用学习率自定义衰减,模型训练不同阶段使用不同的学习率,靠近鞍点调小学习率
  • 适当增加 dropout ,减少模型过拟合
  • 时间片 timestep 设置的过大,容易导致模型预测结果波动不大
  • 数据集过小,这会导致模型学习不出时间序列的变化趋势
  • 适当减小一下 batch_size
  • 可以在不同的模块(层)之间添加 normalization 归一化
  • 模型过小,拟合时序的变化趋势能力较差,尝试大模型
  • 还有一些就是你模型内部模块的一些参数问题,例如你的模型中使用了LSTM,可能LSTM的层数和隐层维度都会有影响,这些参数问题是不太容易发现的
  • 使用的数据集的问题,可能数据中的时序信息不明显,使用模型很难拟合捕捉,尝试换一个时序效果好的数据集,因为不是任何数据集都会训练好的

以上是一些新手遇到较为常见的原因,如果遇到该问题可以尝试找找以上的原因调整一下自己的项目,这里说明一下你的预测结果为一条直线的原因可能不是由上述原因导致的,所以上面原因仅供参考调试,这个问题不太好定位分析,因为导致原因太多,需要小伙伴多尝试多分析。

上述原因可能是一些较为经典的原因,其实原因还有很多(类似于最后一个原因,与你使用的模块的内部参数有关,这类原因就太多了,需要经验来定位),对于新手小白来说了解上述几点原因即可。


目录
相关文章
|
机器学习/深度学习 数据采集 数据处理
掌握时间序列特征工程:常用特征总结与 Feature-engine 的应用
本文介绍了时间序列特征工程,包括滚动统计量、滞后特征、差分和变换等技术,用于提升机器学习模型性能。文章还推荐了Python库`feature-engine`,用于简化特征提取,如处理缺失值、编码分类变量和进行时间序列转换。示例代码展示了如何使用`feature-engine`提取时间戳信息、创建滞后特征和窗口特征。通过创建管道,可以高效地完成整个特征工程流程,优化数据预处理并提高模型效果。
2718 15
|
机器学习/深度学习 测试技术
ChronosX: 可使用外生变量的时间序列预测基础模型
时间序列预测中,基础模型虽在单变量任务中表现出色,但引入协变量支持仍面临挑战。Chronos研究团队提出ChronosX架构,通过适配器层有效整合历史与未来协变量信息,适用于任何单变量模型。实验表明,ChronosX显著提升预测性能,尤其在复杂数据集上优势明显。消融研究进一步验证了协变量模块的重要性。尽管需要轻量训练,但其灵活性和通用性为时间序列建模提供了新思路,未来或可通过类似LLM提示机制实现更高效的协变量处理。
1110 16
ChronosX: 可使用外生变量的时间序列预测基础模型
|
机器学习/深度学习 算法
LSTM时间序列预测中的一个常见错误以及如何修正
在使用LSTM进行时间序列预测时,常见错误是混淆回归和预测问题。LSTM需将时间序列转化为回归问题,通常使用窗口或多步方法。然而,窗口方法中,模型在预测未来值时依赖已知的未来值,导致误差累积。为解决此问题,应采用迭代预测和替换输入值的方法,或者在多步骤方法中选择合适的样本数量和训练大小以保持时间结构。编码器/解码器模型能更好地处理时间数据。
1279 1
|
机器学习/深度学习 PyTorch 算法框架/工具
神经网络中的分位数回归和分位数损失
在使用机器学习构建预测模型时,我们不只是想知道“预测值(点预测)”,而是想知道“预测值落在某个范围内的可能性有多大(区间预测)”。例如当需要进行需求预测时,如果只储备最可能的需求预测量,那么缺货的概率非常的大。但是如果库存处于预测的第95个百分位数(需求有95%的可能性小于或等于该值),那么缺货数量会减少到大约20分之1。
1227 2
|
开发工具 C++ git
五分钟看懂推送本地项目到 GitHub新手菜鸡
五分钟看懂推送本地项目到 GitHub新手菜鸡
|
机器学习/深度学习 算法 数据处理
一文讲懂“预测滞后性”:详细解析
本文介绍了预测分析中常见的“预测滞后性”现象及其原因,包括数据收集延迟、模型训练耗时、预测算法延迟及模型特性等。文章还提供了应对策略,如实时数据处理、选择合适模型、在线学习及多方法结合,并附有使用简单移动平均法进行时间序列预测的Python代码示例,帮助读者理解和优化预测过程。
|
机器学习/深度学习 资源调度 自然语言处理
长短时记忆网络(LSTM)完整实战:从理论到PyTorch实战演示
长短时记忆网络(LSTM)完整实战:从理论到PyTorch实战演示
20997 0
|
机器学习/深度学习 自然语言处理 算法
深度学习基础知识:介绍深度学习的发展历程、基本概念和主要应用
深度学习基础知识:介绍深度学习的发展历程、基本概念和主要应用
7541 0
|
PyTorch 算法框架/工具
时间序列预测:CNN+LSTM+Attention模型实战
时间序列预测:CNN+LSTM+Attention模型实战
2359 0