ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

简介: ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)


目录

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1、LiR 线性回归算法

2、kNNR k最近邻算法

3、SVMR 支持向量机算法

4、DTR 决策树算法

5、RFR 随机森林算法

6、ExtraTR 极端随机树算法

7、SGDR 随机梯度上升算法

8、GBR 提升树算法

9、LightGBMR 算法

10、XGBR 算法

模型评估效果综合比较

模型推理预测综合比较


 

 

 

 

相关文章

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)实现

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1. 数据集的描述:  
2.  .. _boston_dataset:
3. 
4. Boston house prices dataset
5. ---------------------------
6. 
7. **Data Set Characteristics:**  
8. 
9.     :Number of Instances: 506
10. 
11.     :Number of Attributes: 13 numeric/categorical predictive. Median Value (attribute 14) is usually the target.
12. 
13.     :Attribute Information (in order):
14.         - CRIM     per capita crime rate by town
15.         - ZN       proportion of residential land zoned for lots over 25,000 sq.ft.
16.         - INDUS    proportion of non-retail business acres per town
17.         - CHAS     Charles River dummy variable (= 1 if tract bounds river; 0 otherwise)
18.         - NOX      nitric oxides concentration (parts per 10 million)
19.         - RM       average number of rooms per dwelling
20.         - AGE      proportion of owner-occupied units built prior to 1940
21.         - DIS      weighted distances to five Boston employment centres
22.         - RAD      index of accessibility to radial highways
23.         - TAX      full-value property-tax rate per $10,000
24.         - PTRATIO  pupil-teacher ratio by town
25.         - B        1000(Bk - 0.63)^2 where Bk is the proportion of blacks by town
26.         - LSTAT    % lower status of the population
27.         - MEDV     Median value of owner-occupied homes in $1000's
28. 
29.     :Missing Attribute Values: None
30. 
31.     :Creator: Harrison, D. and Rubinfeld, D.L.
32. 
33. This is a copy of UCI ML housing dataset.
34. https://archive.ics.uci.edu/ml/machine-learning-databases/housing/
35. 
36. 
37. This dataset was taken from the StatLib library which is maintained at Carnegie Mellon University.
38. 
39. The Boston house-price data of Harrison, D. and Rubinfeld, D.L. 'Hedonic
40. prices and the demand for clean air', J. Environ. Economics & Management,
41. vol.5, 81-102, 1978.   Used in Belsley, Kuh & Welsch, 'Regression diagnostics
42. ...', Wiley, 1980.   N.B. Various transformations are used in the table on
43. pages 244-261 of the latter.
44. 
45. The Boston house-price data has been used in many machine learning papers that address regression
46. problems.   
47.      
48. .. topic:: References
49. 
50.    - Belsley, Kuh & Welsch, 'Regression diagnostics: Identifying Influential Data and Sources of Collinearity', Wiley, 1980. 244-261.
51.    - Quinlan,R. (1993). Combining Instance-Based and Model-Based Learning. In Proceedings on the Tenth International Conference of Machine Learning, 236-243, University of Massachusetts, Amherst. Morgan Kaufmann.
52. 
53. 数据的初步查验:输出回归目标值target的差异
54. target_max 50.0
55. target_min 5.0
56. target_avg 22.532806324110677

 

1、LiR 线性回归算法

1. LiR Score value: 0.6757955014529482
2. LiR R2    value: 0.6757955014529482
3. LiR MAE   value: 3.5325325437053974
4. LiR MSE   value: 25.13923652035344

 

2、kNNR k最近邻算法

 

3、SVMR 支持向量机算法

 

 

4、DTR 决策树算法

 

5、RFR 随机森林算法

 

6、ExtraTR 极端随机树算法

 

7、SGDR 随机梯度上升算法

 

 

 

8、GBR 提升树算法

 

 

9、LightGBMR 算法

 

10、XGBR 算法

 

 

模型评估效果综合比较

 

模型推理预测综合比较

 

相关文章
|
2月前
|
存储 算法 Java
Set接口及其主要实现类(如HashSet、TreeSet)如何通过特定数据结构和算法确保元素唯一性
Java Set因其“无重复”特性在集合框架中独树一帜。本文解析了Set接口及其主要实现类(如HashSet、TreeSet)如何通过特定数据结构和算法确保元素唯一性,并提供了最佳实践建议,包括选择合适的Set实现类和正确实现自定义对象的hashCode()与equals()方法。
40 4
|
4月前
|
搜索推荐 算法 Java
现有一个接口DataOperation定义了排序方法sort(int[])和查找方法search(int[],int),已知类QuickSort的quickSort(int[])方法实现了快速排序算法
该博客文章通过UML类图和Java源码示例,展示了如何使用适配器模式将QuickSort类和BinarySearch类的排序和查找功能适配到DataOperation接口中,实现算法的解耦和复用。
47 1
现有一个接口DataOperation定义了排序方法sort(int[])和查找方法search(int[],int),已知类QuickSort的quickSort(int[])方法实现了快速排序算法
|
4月前
|
机器学习/深度学习 算法
【机器学习】SVM面试题:简单介绍一下SVM?支持向量机SVM、逻辑回归LR、决策树DT的直观对比和理论对比,该如何选择?SVM为什么采用间隔最大化?为什么要将求解SVM的原始问题转换为其对偶问题?
支持向量机(SVM)的介绍,包括其基本概念、与逻辑回归(LR)和决策树(DT)的直观和理论对比,如何选择这些算法,SVM为何采用间隔最大化,求解SVM时为何转换为对偶问题,核函数的引入原因,以及SVM对缺失数据的敏感性。
80 3
|
4月前
|
机器学习/深度学习 运维 算法
深入探索机器学习中的支持向量机(SVM)算法:原理、应用与Python代码示例全面解析
【8月更文挑战第6天】在机器学习领域,支持向量机(SVM)犹如璀璨明珠。它是一种强大的监督学习算法,在分类、回归及异常检测中表现出色。SVM通过在高维空间寻找最大间隔超平面来分隔不同类别的数据,提升模型泛化能力。为处理非线性问题,引入了核函数将数据映射到高维空间。SVM在文本分类、图像识别等多个领域有广泛应用,展现出高度灵活性和适应性。
174 2
|
4月前
|
机器学习/深度学习 算法
【机器学习】解释对偶的概念及SVM中的对偶算法?(面试回答)
解释了对偶的概念,指出对偶性在优化问题中的重要性,尤其是在强对偶性成立时可以提供主问题的最优下界,并且详细阐述了支持向量机(SVM)中对偶算法的应用,包括如何将原始的最大间隔优化问题转换为对偶问题来求解。
97 2
|
4月前
|
机器学习/深度学习 算法
【机器学习】支持向量机SVM、逻辑回归LR、决策树DT的直观对比和理论对比,该如何选择(面试回答)?
文章对支持向量机(SVM)、逻辑回归(LR)和决策树(DT)进行了直观和理论上的对比,并提供了在选择这些算法时的考虑因素,包括模型复杂度、损失函数、数据量需求、对缺失值的敏感度等。
65 1
|
4月前
|
数据采集 算法 数据可视化
基于K-Means聚类算法对球员数据的聚类分析,可以自主寻找最优聚类数进行聚类
本文介绍了一个基于K-Means聚类算法的NBA球员数据分析项目,该项目通过采集和分析球员的得分、篮板、助攻等统计数据,使用轮廓系数法和拐点法确定最优聚类数,将球员分为不同群组,并提供了一个可视化界面以便直观比较不同群组的球员表现。
基于K-Means聚类算法对球员数据的聚类分析,可以自主寻找最优聚类数进行聚类
|
5月前
创建KNN类
【7月更文挑战第22天】创建KNN类。
35 8
|
5月前
|
算法 数据库
|
6月前
|
数据采集 算法 安全
CVPR 2024:给NeRF开透视眼!稀疏视角下用X光进行三维重建,9类算法工具包全开源
【6月更文挑战第28天】CVPR 2024亮点:SAX-NeRF框架开源!融合X光与NeRF,提升3D重建效果。X3D数据集验证,Lineformer+MLG策略揭示物体内部结构,增强几何理解。虽有计算成本及泛化挑战,但为计算机视觉和医学影像开辟新路径。[论文链接](https://arxiv.org/abs/2311.10959)**
183 5