ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

简介: ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)


目录

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1、LiR 线性回归算法

2、kNNR k最近邻算法

3、SVMR 支持向量机算法

4、DTR 决策树算法

5、RFR 随机森林算法

6、ExtraTR 极端随机树算法

7、SGDR 随机梯度上升算法

8、GBR 提升树算法

9、LightGBMR 算法

10、XGBR 算法

模型评估效果综合比较

模型推理预测综合比较


 

 

 

 

相关文章

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)实现

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1. 数据集的描述:  
2.  .. _boston_dataset:
3. 
4. Boston house prices dataset
5. ---------------------------
6. 
7. **Data Set Characteristics:**  
8. 
9.     :Number of Instances: 506
10. 
11.     :Number of Attributes: 13 numeric/categorical predictive. Median Value (attribute 14) is usually the target.
12. 
13.     :Attribute Information (in order):
14.         - CRIM     per capita crime rate by town
15.         - ZN       proportion of residential land zoned for lots over 25,000 sq.ft.
16.         - INDUS    proportion of non-retail business acres per town
17.         - CHAS     Charles River dummy variable (= 1 if tract bounds river; 0 otherwise)
18.         - NOX      nitric oxides concentration (parts per 10 million)
19.         - RM       average number of rooms per dwelling
20.         - AGE      proportion of owner-occupied units built prior to 1940
21.         - DIS      weighted distances to five Boston employment centres
22.         - RAD      index of accessibility to radial highways
23.         - TAX      full-value property-tax rate per $10,000
24.         - PTRATIO  pupil-teacher ratio by town
25.         - B        1000(Bk - 0.63)^2 where Bk is the proportion of blacks by town
26.         - LSTAT    % lower status of the population
27.         - MEDV     Median value of owner-occupied homes in $1000's
28. 
29.     :Missing Attribute Values: None
30. 
31.     :Creator: Harrison, D. and Rubinfeld, D.L.
32. 
33. This is a copy of UCI ML housing dataset.
34. https://archive.ics.uci.edu/ml/machine-learning-databases/housing/
35. 
36. 
37. This dataset was taken from the StatLib library which is maintained at Carnegie Mellon University.
38. 
39. The Boston house-price data of Harrison, D. and Rubinfeld, D.L. 'Hedonic
40. prices and the demand for clean air', J. Environ. Economics & Management,
41. vol.5, 81-102, 1978.   Used in Belsley, Kuh & Welsch, 'Regression diagnostics
42. ...', Wiley, 1980.   N.B. Various transformations are used in the table on
43. pages 244-261 of the latter.
44. 
45. The Boston house-price data has been used in many machine learning papers that address regression
46. problems.   
47.      
48. .. topic:: References
49. 
50.    - Belsley, Kuh & Welsch, 'Regression diagnostics: Identifying Influential Data and Sources of Collinearity', Wiley, 1980. 244-261.
51.    - Quinlan,R. (1993). Combining Instance-Based and Model-Based Learning. In Proceedings on the Tenth International Conference of Machine Learning, 236-243, University of Massachusetts, Amherst. Morgan Kaufmann.
52. 
53. 数据的初步查验:输出回归目标值target的差异
54. target_max 50.0
55. target_min 5.0
56. target_avg 22.532806324110677

 

1、LiR 线性回归算法

1. LiR Score value: 0.6757955014529482
2. LiR R2    value: 0.6757955014529482
3. LiR MAE   value: 3.5325325437053974
4. LiR MSE   value: 25.13923652035344

 

2、kNNR k最近邻算法

 

3、SVMR 支持向量机算法

 

 

4、DTR 决策树算法

 

5、RFR 随机森林算法

 

6、ExtraTR 极端随机树算法

 

7、SGDR 随机梯度上升算法

 

 

 

8、GBR 提升树算法

 

 

9、LightGBMR 算法

 

10、XGBR 算法

 

 

模型评估效果综合比较

 

模型推理预测综合比较

 

相关文章
|
10月前
|
存储 机器学习/深度学习 监控
网络管理监控软件的 C# 区间树性能阈值查询算法
针对网络管理监控软件的高效区间查询需求,本文提出基于区间树的优化方案。传统线性遍历效率低,10万条数据查询超800ms,难以满足实时性要求。区间树以平衡二叉搜索树结构,结合节点最大值剪枝策略,将查询复杂度从O(N)降至O(logN+K),显著提升性能。通过C#实现,支持按指标类型分组建树、增量插入与多维度联合查询,在10万记录下查询耗时仅约2.8ms,内存占用降低35%。测试表明,该方案有效解决高负载场景下的响应延迟问题,助力管理员快速定位异常设备,提升运维效率与系统稳定性。
384 4
|
10月前
|
开发框架 算法 .NET
基于ADMM无穷范数检测算法的MIMO通信系统信号检测MATLAB仿真,对比ML,MMSE,ZF以及LAMA
简介:本文介绍基于ADMM的MIMO信号检测算法,结合无穷范数优化与交替方向乘子法,降低计算复杂度并提升检测性能。涵盖MATLAB 2024b实现效果图、核心代码及详细注释,并对比ML、MMSE、ZF、OCD_MMSE与LAMA等算法。重点分析LAMA基于消息传递的低复杂度优势,适用于大规模MIMO系统,为通信系统检测提供理论支持与实践方案。(238字)
|
监控 算法 安全
基于 C# 基数树算法的网络屏幕监控敏感词检测技术研究
随着数字化办公和网络交互迅猛发展,网络屏幕监控成为信息安全的关键。基数树(Trie Tree)凭借高效的字符串处理能力,在敏感词检测中表现出色。结合C#语言,可构建高时效、高准确率的敏感词识别模块,提升网络安全防护能力。
315 2
|
机器学习/深度学习 算法 搜索推荐
决策树算法如何读懂你的购物心理?一文看懂背后的科学
"你为什么总能收到刚好符合需求的商品推荐?你有没有好奇过,为什么刚浏览过的商品就出现了折扣通知?
388 0
|
监控 算法 数据处理
基于 C++ 的 KD 树算法在监控局域网屏幕中的理论剖析与工程实践研究
本文探讨了KD树在局域网屏幕监控中的应用,通过C++实现其构建与查询功能,显著提升多维数据处理效率。KD树作为一种二叉空间划分结构,适用于屏幕图像特征匹配、异常画面检测及数据压缩传输优化等场景。相比传统方法,基于KD树的方案检索效率提升2-3个数量级,但高维数据退化和动态更新等问题仍需进一步研究。未来可通过融合其他数据结构、引入深度学习及开发增量式更新算法等方式优化性能。
334 17
|
存储 机器学习/深度学习 算法
KMP、Trie树 、AC自动机‌ ,三大算法实现 优雅 过滤 netty 敏感词
KMP、Trie树 、AC自动机‌ ,三大算法实现 优雅 过滤 netty 敏感词
KMP、Trie树 、AC自动机‌ ,三大算法实现 优雅 过滤 netty  敏感词
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
|
机器学习/深度学习 分布式计算 算法
大模型开发:你如何确定使用哪种机器学习算法?
在大型机器学习模型开发中,选择算法是关键。首先,明确问题类型(如回归、分类、聚类等)。其次,考虑数据规模、特征数量和类型、分布和结构,以判断适合的算法。再者,评估性能要求(准确性、速度、可解释性)和资源限制(计算资源、内存)。同时,利用领域知识和正则化来选择模型。最后,通过实验验证和模型比较进行优化。此过程涉及迭代和业务需求的技术权衡。
901 2
|
机器学习/深度学习 数据采集 算法
构建高效机器学习模型:从数据处理到算法优化
【2月更文挑战第30天】 在数据驱动的时代,构建一个高效的机器学习模型是实现智能决策和预测的关键。本文将深入探讨如何通过有效的数据处理策略、合理的特征工程、选择适宜的学习算法以及进行细致的参数调优来提升模型性能。我们将剖析标准化与归一化的差异,探索主成分分析(PCA)的降维魔力,讨论支持向量机(SVM)和随机森林等算法的适用场景,并最终通过网格搜索(GridSearchCV)来实现参数的最优化。本文旨在为读者提供一条清晰的路径,以应对机器学习项目中的挑战,从而在实际应用中取得更精准的预测结果和更强的泛化能力。
|
机器学习/深度学习 自然语言处理 算法
【机器学习】包裹式特征选择之拉斯维加斯包装器(LVW)算法
【机器学习】包裹式特征选择之拉斯维加斯包装器(LVW)算法
847 0

热门文章

最新文章