机器学习算法竞赛实战--3,数据探索

简介: 数据探索可以帮助回答以上这3点,并能够保证竞赛的最佳结果,它是一种总结,可视化和熟悉数据集中重要特征的方法。数据探索有利于我们发现数据的一些特征,数据之间的关联性有助于后续的特征构建

数据挖掘是竞赛的核心模块之一,贯彻竞赛始终也是很多竞赛胜利的关键那么数据探索又是什么呢?可以解决哪些问题?首先应该明确3点,即如何确保自己准备好竞赛使用的算法模型如何为数据集选择最合适的算法如何定义可用于算法模型的特征变量


数据探索可以帮助回答以上这3点,并能够保证竞赛的最佳结果,它是一种总结,可视化和熟悉数据集中重要特征的方法。数据探索有利于我们发现数据的一些特征,数据之间的关联性有助于后续的特征构建


数据初探可以看做赛前数据探索主要包含分析思路,分析方法和目的通过系统化的探索,我们可以加深对数据的理解


在实际竞赛中,最好使用多种探索之路和方法来探索每个变量并比较结果在完全理解数据集后就可以进入数据预处理阶段和特征提取阶段的以便根据所期望的业务结果转化数据集此步骤的目的是确信数据集已准备好应用于机器学习算法


不单是针对每个变量,更是分析变量之间的联系,以及变量和标签的相关性并进行假设检验帮助我们提取有用特征


相关性分析只能比较数值特征,所以对于字母或字符串特征需要先进行编码并将其转化为数值,然后再看特征之间到底有什么关联,在实际竞赛中相关性分析可以很好的过滤掉与标签没有直接关系的特征并且这种方式在很多竞赛中均有很好的效果


数据探索的目的是帮助我们了解数据,并且构建有效特征


单变量分析太过单一不足以挖掘变量之间的内在联系获取更加细腻度的信息,所以多变量分析就变成了必须


分析特征变量与特征变量之间的关系有助于构建更好的特征,同时降低构件冗余特征的概率


学习曲线是机器学习中被广泛使用的效果评价工具能够反映训练集和验证集在训练迭代中分数的变化情况,帮助我们快速了解模型的学习效果



我们可以通过学习曲线来观察模型是否过拟合,通过判断拟合程度来确定如何改进模型


f79a7cbe97244846bab10677b9e9d14d.png


4.4.2分类模型评判指标(一) - 混淆矩阵(Confusion Matrix)_进击的橘子猫的博客-CSDN博客_混淆矩阵

https://blog.csdn.net/Orange_Spotty_Cat/article/details/80520839

画混淆矩阵sklearn_爱学习的大白菜的博客-CSDN博客_画混淆矩阵

https://blog.csdn.net/csdnliwenqi/article/details/120759519


混淆矩阵Confusion Matrix - 知乎 (zhihu.com)

https://zhuanlan.zhihu.com/p/111234566


【知识】六种基本图表的特点和适用场合 - 腾讯云开发者社区-腾讯云 (tencent.com)

https://cloud.tencent.com/developer/article/1044115


统计图表的分类和各种图表的优势? - 知乎 (zhihu.com)

https://www.zhihu.com/question/278758088


17种数据可视化图表,有哪些适用场景和局限 - 知乎 (zhihu.com)

https://zhuanlan.zhihu.com/p/54849856

目录
相关文章
|
27天前
|
机器学习/深度学习 数据采集 算法
Machine Learning机器学习之K近邻算法(K-Nearest Neighbors,KNN)
Machine Learning机器学习之K近邻算法(K-Nearest Neighbors,KNN)
|
19天前
|
机器学习/深度学习 自然语言处理 算法
|
1天前
|
机器学习/深度学习 监控 算法
|
2天前
|
机器学习/深度学习 数据采集 算法
Python用逻辑回归、决策树、SVM、XGBoost 算法机器学习预测用户信贷行为数据分析报告
Python用逻辑回归、决策树、SVM、XGBoost 算法机器学习预测用户信贷行为数据分析报告
10 1
|
2天前
|
机器学习/深度学习 人工智能 算法
探索机器学习中的支持向量机(SVM)算法
【4月更文挑战第28天】 在数据科学和人工智能的世界中,支持向量机(SVM)以其强大的分类能力而著称。本文将深入探讨SVM的数学原理、关键概念以及实际应用案例。我们将通过直观的解释和示例来揭示SVM如何找到最优决策边界,以及如何通过核技巧处理非线性可分问题。此外,我们还将讨论SVM在现实世界问题中的效能及其局限性。
|
7天前
|
机器学习/深度学习 算法 搜索推荐
Python用机器学习算法进行因果推断与增量、增益模型Uplift Modeling智能营销模型
Python用机器学习算法进行因果推断与增量、增益模型Uplift Modeling智能营销模型
33 12
|
11天前
|
机器学习/深度学习 人工智能 算法
探索机器学习中的支持向量机(SVM)算法
【4月更文挑战第19天】在数据科学和人工智能的广阔天地中,支持向量机(SVM)以其卓越的分类能力成为机器学习领域的重要算法之一。本文旨在剖析SVM的核心原理,探讨其高级应用技巧,并通过实例演示如何在复杂数据集中实现高效准确的分类。我们将深入理解SVM背后的数学机制,包括核技巧与对偶问题的概念,以及如何通过调整参数优化模型性能。文章最后将讨论SVM在现实世界问题中的实际应用案例,为读者提供即学即用的知识。
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
|
23天前
|
机器学习/深度学习 数据采集 算法
机器学习实战第3天:手写数字识别
机器学习实战第3天:手写数字识别
24 0
|
10天前
|
机器学习/深度学习 人工智能 算法
基于DCT和扩频的音频水印嵌入提取算法matlab仿真
本文介绍了结合DCT和扩频技术的音频水印算法,用于在不降低音质的情况下嵌入版权信息。在matlab2022a中实现,算法利用DCT进行频域处理,通过扩频增强水印的隐蔽性和抗攻击性。核心程序展示了水印的嵌入与提取过程,包括DCT变换、水印扩频及反变换步骤。该方法有效且专业,未来研究将侧重于提高实用性和安全性。