ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

简介: ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)


目录

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1、LiR 线性回归算法

2、kNNR k最近邻算法

3、SVMR 支持向量机算法

4、DTR 决策树算法

5、RFR 随机森林算法

6、ExtraTR 极端随机树算法

7、SGDR 随机梯度上升算法

8、GBR 提升树算法

9、LightGBMR 算法

10、XGBR 算法

模型评估效果综合比较

模型推理预测综合比较


 

 

 

 

相关文章

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)实现

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1. 数据集的描述:  
2.  .. _boston_dataset:
3. 
4. Boston house prices dataset
5. ---------------------------
6. 
7. **Data Set Characteristics:**  
8. 
9.     :Number of Instances: 506
10. 
11.     :Number of Attributes: 13 numeric/categorical predictive. Median Value (attribute 14) is usually the target.
12. 
13.     :Attribute Information (in order):
14.         - CRIM     per capita crime rate by town
15.         - ZN       proportion of residential land zoned for lots over 25,000 sq.ft.
16.         - INDUS    proportion of non-retail business acres per town
17.         - CHAS     Charles River dummy variable (= 1 if tract bounds river; 0 otherwise)
18.         - NOX      nitric oxides concentration (parts per 10 million)
19.         - RM       average number of rooms per dwelling
20.         - AGE      proportion of owner-occupied units built prior to 1940
21.         - DIS      weighted distances to five Boston employment centres
22.         - RAD      index of accessibility to radial highways
23.         - TAX      full-value property-tax rate per $10,000
24.         - PTRATIO  pupil-teacher ratio by town
25.         - B        1000(Bk - 0.63)^2 where Bk is the proportion of blacks by town
26.         - LSTAT    % lower status of the population
27.         - MEDV     Median value of owner-occupied homes in $1000's
28. 
29.     :Missing Attribute Values: None
30. 
31.     :Creator: Harrison, D. and Rubinfeld, D.L.
32. 
33. This is a copy of UCI ML housing dataset.
34. https://archive.ics.uci.edu/ml/machine-learning-databases/housing/
35. 
36. 
37. This dataset was taken from the StatLib library which is maintained at Carnegie Mellon University.
38. 
39. The Boston house-price data of Harrison, D. and Rubinfeld, D.L. 'Hedonic
40. prices and the demand for clean air', J. Environ. Economics & Management,
41. vol.5, 81-102, 1978.   Used in Belsley, Kuh & Welsch, 'Regression diagnostics
42. ...', Wiley, 1980.   N.B. Various transformations are used in the table on
43. pages 244-261 of the latter.
44. 
45. The Boston house-price data has been used in many machine learning papers that address regression
46. problems.   
47.      
48. .. topic:: References
49. 
50.    - Belsley, Kuh & Welsch, 'Regression diagnostics: Identifying Influential Data and Sources of Collinearity', Wiley, 1980. 244-261.
51.    - Quinlan,R. (1993). Combining Instance-Based and Model-Based Learning. In Proceedings on the Tenth International Conference of Machine Learning, 236-243, University of Massachusetts, Amherst. Morgan Kaufmann.
52. 
53. 数据的初步查验:输出回归目标值target的差异
54. target_max 50.0
55. target_min 5.0
56. target_avg 22.532806324110677

 

1、LiR 线性回归算法

1. LiR Score value: 0.6757955014529482
2. LiR R2    value: 0.6757955014529482
3. LiR MAE   value: 3.5325325437053974
4. LiR MSE   value: 25.13923652035344

 

2、kNNR k最近邻算法

 

3、SVMR 支持向量机算法

 

 

4、DTR 决策树算法

 

5、RFR 随机森林算法

 

6、ExtraTR 极端随机树算法

 

7、SGDR 随机梯度上升算法

 

 

 

8、GBR 提升树算法

 

 

9、LightGBMR 算法

 

10、XGBR 算法

 

 

模型评估效果综合比较

 

模型推理预测综合比较

 

相关文章
|
21天前
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
|
2天前
|
机器学习/深度学习 算法 数据挖掘
PYTHON银行机器学习:回归、随机森林、KNN近邻、决策树、高斯朴素贝叶斯、支持向量机SVM分析营销活动数据|数据分享-2
PYTHON银行机器学习:回归、随机森林、KNN近邻、决策树、高斯朴素贝叶斯、支持向量机SVM分析营销活动数据|数据分享
24 1
|
14天前
|
机器学习/深度学习 自然语言处理 算法
|
1天前
|
机器学习/深度学习 算法 搜索推荐
Python用机器学习算法进行因果推断与增量、增益模型Uplift Modeling智能营销模型
Python用机器学习算法进行因果推断与增量、增益模型Uplift Modeling智能营销模型
27 12
|
7天前
|
算法 数据可视化 Python
Python中LARS和Lasso回归之最小角算法Lars分析波士顿住房数据实例
Python中LARS和Lasso回归之最小角算法Lars分析波士顿住房数据实例
13 0
|
8天前
电信公司churn数据客户流失k近邻(knn)模型预测分析
电信公司churn数据客户流失k近邻(knn)模型预测分析
18 0
|
9天前
|
机器学习/深度学习 人工智能 分布式计算
R和Python机器学习:广义线性回归glm,样条glm,梯度增强,随机森林和深度学习模型分析
R和Python机器学习:广义线性回归glm,样条glm,梯度增强,随机森林和深度学习模型分析
14 0
|
30天前
|
机器学习/深度学习 分布式计算 算法
大模型开发:你如何确定使用哪种机器学习算法?
在大型机器学习模型开发中,选择算法是关键。首先,明确问题类型(如回归、分类、聚类等)。其次,考虑数据规模、特征数量和类型、分布和结构,以判断适合的算法。再者,评估性能要求(准确性、速度、可解释性)和资源限制(计算资源、内存)。同时,利用领域知识和正则化来选择模型。最后,通过实验验证和模型比较进行优化。此过程涉及迭代和业务需求的技术权衡。
|
1月前
|
机器学习/深度学习 存储 搜索推荐
利用机器学习算法改善电商推荐系统的效率
电商行业日益竞争激烈,提升用户体验成为关键。本文将探讨如何利用机器学习算法优化电商推荐系统,通过分析用户行为数据和商品信息,实现个性化推荐,从而提高推荐效率和准确性。
|
1月前
|
机器学习/深度学习 算法 数据可视化
实现机器学习算法时,特征选择是非常重要的一步,你有哪些推荐的方法?
实现机器学习算法时,特征选择是非常重要的一步,你有哪些推荐的方法?
27 1