ML之回归预测:利用6个单独+2个集成模型(LassoR、KernelRidgeR、ElasticNetR、GBR、XGBR、LGBMR,Avg、Stacking)对自动驾驶数据集【5+1】回归预测

简介: ML之回归预测:利用6个单独+2个集成模型(LassoR、KernelRidgeR、ElasticNetR、GBR、XGBR、LGBMR,Avg、Stacking)对自动驾驶数据集【5+1】回归预测

利用6个单独+2个集成模型(LassoR、KernelRidgeR、ElasticNetR、GBR、XGBR、LGBMR,Avg、Stacking)对自动驾驶数据集【5+1】进行回归预测

输出结果

image.png

image.png


A号

采用

A号

当前执行文件: A

数据集维度: (976, 6)

LassoR 5f-CV: 0.4462 (0.0563)

LassoR02 5f-CV: 0.5456 (0.0715)

LassoR02,train数据集 0.5526179336472097

LassoR02,test数据集  0.6732089198088576

-------------------------------------

KernelRidgeR 5f-CV: 0.6642 (0.0730)

KernelRidgeR,train数据集 0.6805860822980461

KernelRidgeR,test数据集  0.7405846022727811

-------------------------------------

ElasticNetR 5f-CV: 0.4462 (0.0569)

ElasticNetR02 5f-CV: 0.5456 (0.0715)

ElasticNetR02,train数据集 0.5526178479012465

ElasticNetR02,test数据集  0.6731992550553381

ElasticNetR02,新数据test数据集 -0.3208470395653842

-------------------------------------

GBR 5f-CV: 0.7282 (0.0836)

GBR,train数据集 0.8345981026354394

GBR,test数据集  0.8836426919685801

GBR,新数据test数据集 0.5423980510823256

-------------------------------------

XGBR 5f-CV: 0.5968 (0.1598)

XGBR,train数据集 0.9498792703466663

XGBR,test数据集  0.5294274976732699

-------------------------------------

LGBMR 5f-CV: 0.6800 (0.0813)

LGBMR,train数据集 0.752736654063432

LGBMR,test数据集 0.8351338223270363

LGBMR,新数据test数据集 0.13807006975794722

-------------------------------------

AverageModels:LassoR,ElasticNetR,GBR,对基模型进行集成之后的得分:0.6125 (0.0745)

Avg_models,train数据集 0.6522572454986824

Avg_models,test数据集 0.7573889394793365

Avg_models,新数据test数据集 0.28916724655645554

-------------------------------------

StackingAverageModels:对基模型进行集成之后的得分:0.7343 (0.0869)

stacked_averaged_model,train数据集 0.8151478562063295

stacked_averaged_model,test数据集 0.88386196685559

stacked_averaged_model,新数据test数据集 0.5691878150702203

采用datetime方法,run time: 0:01:01.575381

B号


B号

当前执行文件: B

数据集维度: (976, 6)

LassoR 5f-CV: 0.8682 (0.0181)

LassoR02 5f-CV: 0.9002 (0.0174)

LassoR02,train数据集 0.9044985042907371

LassoR02,test数据集  0.8673000279695428

-------------------------------------

KernelRidgeR 5f-CV: 0.9258 (0.0078)

KernelRidgeR,train数据集 0.9315871006958186

KernelRidgeR,test数据集  0.8942765729762692

-------------------------------------

ElasticNetR 5f-CV: 0.8347 (0.0172)

ElasticNetR02 5f-CV: 0.9002 (0.0174)

ElasticNetR02,train数据集 0.9044982115579915

ElasticNetR02,test数据集  0.8672996184647543

ElasticNetR02,新数据test数据集 0.8674386633384231

-------------------------------------

GBR 5f-CV: 0.9401 (0.0107)

GBR,train数据集 0.9755252565420509

GBR,test数据集  0.8996646737870632

GBR,新数据test数据集 0.9427855469298937

-------------------------------------

XGBR 5f-CV: 0.9101 (0.0097)

XGBR,train数据集 0.9897386330527567

XGBR,test数据集  0.8868620964266498

-------------------------------------

LGBMR 5f-CV: 0.9273 (0.0098)

LGBMR,train数据集 0.945565822230994

LGBMR,test数据集 0.9016106378522288

LGBMR,新数据test数据集 0.912239659510246

-------------------------------------

AverageModels:LassoR,ElasticNetR,GBR,对基模型进行集成之后的得分:0.9055 (0.0121)

Avg_models,train数据集 0.9212338840029927

Avg_models,test数据集 0.863624230603216

Avg_models,新数据test数据集 0.8975084453268236

-------------------------------------

StackingAverageModels:对基模型进行集成之后的得分:0.9311 (0.0075)

stacked_averaged_model,train数据集 0.9599075263022011

stacked_averaged_model,test数据集 0.889341316554694

stacked_averaged_model,新数据test数据集 0.9325797993358927

采用datetime方法,run time: 0:01:02.191890


C号


C号

当前执行文件: C  

数据集维度: (992, 6)

LassoR 5f-CV: 0.9162 (0.0212)

LassoR02 5f-CV: 0.9394 (0.0170)

LassoR02,train数据集 0.9421471737329558

LassoR02,test数据集  0.9487974269403479

-------------------------------------

KernelRidgeR 5f-CV: 0.9493 (0.0162)

KernelRidgeR,train数据集 0.9540306526082301

KernelRidgeR,test数据集  0.9596055911175015

-------------------------------------

ElasticNetR 5f-CV: 0.8827 (0.0224)

ElasticNetR02 5f-CV: 0.9394 (0.0170)

ElasticNetR02,train数据集 0.9421469155702737

ElasticNetR02,test数据集  0.948805353495871

ElasticNetR02,新数据test数据集 0.8962208077263352

-------------------------------------

GBR 5f-CV: 0.9522 (0.0178)

GBR,train数据集 0.9812404272642893

GBR,test数据集  0.9628921396241023

GBR,新数据test数据集 0.9286964893022183

-------------------------------------

XGBR 5f-CV: 0.9415 (0.0138)

XGBR,train数据集 0.9935321998599262

XGBR,test数据集  0.9428326454095193

-------------------------------------

LGBMR 5f-CV: 0.9490 (0.0138)

LGBMR,train数据集 0.9631366427757451

LGBMR,test数据集 0.9541622027766108

LGBMR,新数据test数据集 0.9235228606241966

-------------------------------------

AverageModels:LassoR,ElasticNetR,GBR,对基模型进行集成之后的得分:0.9345 (0.0177)

Avg_models,train数据集 0.9460855063551356

Avg_models,test数据集 0.9457779219867603

Avg_models,新数据test数据集 0.8446597495667174

-------------------------------------

StackingAverageModels:对基模型进行集成之后的得分:0.9460 (0.0164)

stacked_averaged_model,train数据集 0.9599739253607553

stacked_averaged_model,test数据集 0.9557181998955516

stacked_averaged_model,新数据test数据集 0.8723757365944271

采用datetime方法,run time: 0:01:08.054631


D号


D号

当前执行文件: D

数据集维度: (976, 6)

LassoR 5f-CV: 0.9282 (0.0068)

LassoR02 5f-CV: 0.9461 (0.0061)

LassoR02,train数据集 0.9471148715997768

LassoR02,test数据集  0.9429608871646722

-------------------------------------

KernelRidgeR 5f-CV: 0.9565 (0.0074)

KernelRidgeR,train数据集 0.9598698223204599

KernelRidgeR,test数据集  0.9591428004019469

-------------------------------------

ElasticNetR 5f-CV: 0.8893 (0.0113)

ElasticNetR02 5f-CV: 0.9461 (0.0061)

ElasticNetR02,train数据集 0.9471145971130267

ElasticNetR02,test数据集  0.9429656516481226

ElasticNetR02,新数据test数据集 0.8777321831171115

-------------------------------------

GBR 5f-CV: 0.9663 (0.0075)

GBR,train数据集 0.9918880970087767

GBR,test数据集  0.9658277751143205

GBR,新数据test数据集 0.9352642469253626

-------------------------------------

XGBR 5f-CV: 0.9604 (0.0086)

XGBR,train数据集 0.9944473922887758

XGBR,test数据集  0.955746276336988

-------------------------------------

LGBMR 5f-CV: 0.9553 (0.0100)

LGBMR,train数据集 0.9702793029760722

LGBMR,test数据集 0.9650928908111341

LGBMR,新数据test数据集 0.9020016455510226

-------------------------------------

AverageModels:LassoR,ElasticNetR,GBR,对基模型进行集成之后的得分:0.9456 (0.0074)

Avg_models,train数据集 0.9562357762096392

Avg_models,test数据集 0.9508352738032931

Avg_models,新数据test数据集 0.8901985855607647

-------------------------------------

StackingAverageModels:对基模型进行集成之后的得分:0.9620 (0.0063)

stacked_averaged_model,train数据集 0.9799219877896265

stacked_averaged_model,test数据集 0.9649203326842157

stacked_averaged_model,新数据test数据集 0.9204436346295952

采用datetime方法,run time: 0:01:02.149102


E号


E号

当前执行文件: E

数据集维度: (981, 6)

LassoR 5f-CV: 0.9284 (0.0107)

LassoR02 5f-CV: 0.9640 (0.0083)

LassoR02,train数据集 0.9658976879702919

LassoR02,test数据集  0.9746237435933648

-------------------------------------

KernelRidgeR 5f-CV: 0.9720 (0.0076)

KernelRidgeR,train数据集 0.976488382261757

KernelRidgeR,test数据集  0.9829086884762668

-------------------------------------

ElasticNetR 5f-CV: 0.8831 (0.0137)

ElasticNetR02 5f-CV: 0.9640 (0.0083)

ElasticNetR02,train数据集 0.9658973583247863

ElasticNetR02,test数据集  0.9746148277482753

ElasticNetR02,新数据test数据集 0.8972363606065893

-------------------------------------

GBR 5f-CV: 0.9800 (0.0050)

GBR,train数据集 0.9949604446786614

GBR,test数据集  0.9851938616003065

GBR,新数据test数据集 0.9414241262215136

-------------------------------------

XGBR 5f-CV: 0.9760 (0.0053)

XGBR,train数据集 0.996190501087066

XGBR,test数据集  0.9817664166540716

-------------------------------------

LGBMR 5f-CV: 0.9710 (0.0053)

LGBMR,train数据集 0.9797176065207025

LGBMR,test数据集 0.9809832229901967

LGBMR,新数据test数据集 0.919767401386678

-------------------------------------

AverageModels:LassoR,ElasticNetR,GBR,对基模型进行集成之后的得分:0.9502 (0.0089)

Avg_models,train数据集 0.9580133569841862

Avg_models,test数据集 0.9571445156072284

Avg_models,新数据test数据集 0.9199032589012549

-------------------------------------

StackingAverageModels:对基模型进行集成之后的得分:0.9707 (0.0076)

stacked_averaged_model,train数据集 0.9830711403871105

stacked_averaged_model,test数据集 0.9788245785417383

stacked_averaged_model,新数据test数据集 0.9568397587253009

采用datetime方法,run time: 0:01:03.587847



实现代码


更新……


相关文章
|
16天前
|
机器学习/深度学习 Python
堆叠集成策略的原理、实现方法及Python应用。堆叠通过多层模型组合,先用不同基础模型生成预测,再用元学习器整合这些预测,提升模型性能
本文深入探讨了堆叠集成策略的原理、实现方法及Python应用。堆叠通过多层模型组合,先用不同基础模型生成预测,再用元学习器整合这些预测,提升模型性能。文章详细介绍了堆叠的实现步骤,包括数据准备、基础模型训练、新训练集构建及元学习器训练,并讨论了其优缺点。
33 3
|
4月前
|
API UED 开发者
如何在Uno Platform中轻松实现流畅动画效果——从基础到优化,全方位打造用户友好的动态交互体验!
【8月更文挑战第31天】在开发跨平台应用时,确保用户界面流畅且具吸引力至关重要。Uno Platform 作为多端统一的开发框架,不仅支持跨系统应用开发,还能通过优化实现流畅动画,增强用户体验。本文探讨了Uno Platform中实现流畅动画的多个方面,包括动画基础、性能优化、实践技巧及问题排查,帮助开发者掌握具体优化策略,提升应用质量与用户满意度。通过合理利用故事板、减少布局复杂性、使用硬件加速等技术,结合异步方法与预设缓存技巧,开发者能够创建美观且流畅的动画效果。
88 0
|
4月前
|
开发者 算法 虚拟化
惊爆!Uno Platform 调试与性能分析终极攻略,从工具运用到代码优化,带你攻克开发难题成就完美应用
【8月更文挑战第31天】在 Uno Platform 中,调试可通过 Visual Studio 设置断点和逐步执行代码实现,同时浏览器开发者工具有助于 Web 版本调试。性能分析则利用 Visual Studio 的性能分析器检查 CPU 和内存使用情况,还可通过记录时间戳进行简单分析。优化性能涉及代码逻辑优化、资源管理和用户界面简化,综合利用平台提供的工具和技术,确保应用高效稳定运行。
87 0
|
4月前
|
机器学习/深度学习
【机器学习】模型融合Ensemble和集成学习Stacking的实现
文章介绍了使用mlxtend和lightgbm库中的分类器,如EnsembleVoteClassifier和StackingClassifier,以及sklearn库中的SVC、KNeighborsClassifier等进行模型集成的方法。
60 1
|
4月前
|
存储 人工智能 关系型数据库
PolarDB 与 AI/ML 集成的应用案例
【8月更文第27天】随着大数据和人工智能技术的发展,越来越多的企业开始探索将关系型数据库与 AI/ML 技术相结合的方式,以提高数据分析效率和业务智能化水平。阿里云的 PolarDB 是一款高性能的关系型数据库服务,支持多种数据库引擎,如 MySQL、PostgreSQL 和 Oracle。通过与阿里云的其他 AI/ML 服务集成,PolarDB 能够为企业提供端到端的数据处理和分析解决方案。
138 0
|
5月前
|
机器学习/深度学习 分布式计算 算法
Java中的机器学习模型集成与训练实践
Java中的机器学习模型集成与训练实践
|
6月前
|
机器学习/深度学习 人工智能 Java
Java与AI集成开发:机器学习模型部署
Java与AI集成开发:机器学习模型部署
|
5月前
|
机器学习/深度学习 数据采集 TensorFlow
深度学习与传统模型的桥梁:Sklearn与Keras的集成应用
【7月更文第24天】在机器学习领域,Scikit-learn(Sklearn)作为经典的传统机器学习库,以其丰富的预处理工具、模型选择和评估方法而闻名;而Keras作为深度学习领域的明星框架,以其简洁易用的API,支持快速构建和实验复杂的神经网络模型。将这两者结合起来,可以实现从传统机器学习到深度学习的无缝过渡,充分发挥各自的优势,打造更强大、更灵活的解决方案。本文将探讨Sklearn与Keras的集成应用,通过实例展示如何在Sklearn的生态系统中嵌入Keras模型,实现模型的训练、评估与优化。
130 0
|
6月前
|
机器学习/深度学习 人工智能 自然语言处理
【机器学习】集成语音与大型语音模型等安全边界探索
【机器学习】集成语音与大型语音模型等安全边界探索
272 5
|
5月前
|
机器学习/深度学习 PyTorch TensorFlow
在深度学习中,数据增强是一种常用的技术,用于通过增加训练数据的多样性来提高模型的泛化能力。`albumentations`是一个强大的Python库,用于图像增强,支持多种图像变换操作,并且可以与深度学习框架(如PyTorch、TensorFlow等)无缝集成。
在深度学习中,数据增强是一种常用的技术,用于通过增加训练数据的多样性来提高模型的泛化能力。`albumentations`是一个强大的Python库,用于图像增强,支持多种图像变换操作,并且可以与深度学习框架(如PyTorch、TensorFlow等)无缝集成。