字段3 是分类特征字段，但是呢，在分类算法里不能直接用。所以，必须要转换为数值字段才能够被分类算法使用。
本文转自大数据躺过的坑博客园博客，原文链接：http://www.cnblogs.com/zlslch/p/7450754.html，如需转载请自行联系原作者
Spark Mllib里如何将trainDara训练数据的分类特征字段转换为数值字段（图文详解）
2017-11-14
1405
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
目录
相关文章
|
6月前
|
机器学习/深度学习
分布式计算
算法
|
10天前
|
分布式计算
Java
开发工具
阿里云MaxCompute-XGBoost on Spark 极限梯度提升算法的分布式训练与模型持久化oss的实现与代码浅析
本文介绍了XGBoost在MaxCompute+OSS架构下模型持久化遇到的问题及其解决方案。首先简要介绍了XGBoost的特点和应用场景，随后详细描述了客户在将XGBoost on Spark任务从HDFS迁移到OSS时遇到的异常情况。通过分析异常堆栈和源代码，发现使用的`nativeBooster.saveModel`方法不支持OSS路径，而使用`write.overwrite().save`方法则能成功保存模型。最后提供了完整的Scala代码示例、Maven配置和提交命令，帮助用户顺利迁移模型存储路径。
34
1
1
|
6月前
|
SQL
分布式计算
关系型数据库
使用 Spark 抽取 MySQL 数据到 Hive 时某列字段值出现异常（字段错位）
在 MySQL 的 `order_info` 表中，包含 `order_id` 等5个字段，主要存储订单信息。执行按 `create_time` 降序的查询，显示了部分结果。在 Hive 中复制此表结构时，所有字段除 `order_id` 外设为 `string` 类型，并添加了 `etl_date` 分区字段。然而，由于使用逗号作为字段分隔符，当 `address` 字段含逗号时，数据写入 Hive 出现错位，导致 `create_time` 值变为中文字符串。问题解决方法包括更换字段分隔符或使用 Hive 默认分隔符 `\u0001`。此案例提醒在建表时需谨慎选择字段分隔符。
108
6
6
|
6月前
|
机器学习/深度学习
分布式计算
算法
【机器学习】Spark ML 对数据特征进行 One-Hot 编码
One-Hot 编码是机器学习中将离散特征转换为数值表示的方法，每个取值映射为一个二进制向量，常用于避免特征间大小关系影响模型。Spark ML 提供 OneHotEncoder 进行编码，输入输出列可通过 `inputCol` 和 `outputCol` 参数设置。在示例中，先用 StringIndexer 对类别特征编码，再用 OneHotEncoder 转换，最后展示编码结果。注意 One-Hot 编码可能导致高维问题，可结合实际情况选择编码方式。
75
6
6
|
分布式计算
算法
大数据
|
6月前
|
机器学习/深度学习
分布式计算
算法
|
6月前
|
机器学习/深度学习
分布式计算
搜索推荐
|
6月前
|
机器学习/深度学习
分布式计算
前端开发
【大数据技术】Spark MLlib机器学习线性回归、逻辑回归预测胃癌是否转移实战（附源码和数据集）
【大数据技术】Spark MLlib机器学习线性回归、逻辑回归预测胃癌是否转移实战（附源码和数据集）
73
0
0
|
6月前
|
机器学习/深度学习
分布式计算
大数据
【大数据技术】Spark MLlib机器学习特征抽取 TF-IDF统计词频实战（附源码和数据集）
【大数据技术】Spark MLlib机器学习特征抽取 TF-IDF统计词频实战（附源码和数据集）
70
0
0
|
6月前
|
机器学习/深度学习
分布式计算
算法
热门文章
最新文章
1
Spark MLlib中的协同过滤
2
Apache Spark源码走读（十一）浅谈mllib中线性回归的算法实现&Spark MLLib中拟牛顿法L-BFGS的源码实现
3
《Spark 官方文档》机器学习库（MLlib）指南
4
协同过滤算法 R/mapreduce/spark mllib多语言实现
5
10月15日社区直播【Intel MLlib：构建平台优化的Spark机器学习】
6
Spark MLlib架构解析（含分类算法、回归算法、聚类算法和协同过滤）
7
Apache Spark机器学习.1.4 MLlib
8
基于Spark的机器学习实践 (二) - 初识MLlib
9
【Spark Summit East 2017】使用Spark MLlib和Apache Solr构建实时实体类型识别系统
10
【Spark Summit EU 2016】物联网中的Lambda架构——使用Spark Streaming与MLlib进行快速数据分析
1
DAG（有向无环图）在Spark中的应用
417
2
scala-spark中的groupby、like等的用法
214
3
spark执行sql的原理是什么
118
4
容器服务Kubernetes版产品使用合集之怎么实现把 spark 跑在k8s
86
5
spark用于分析数据并将数据保存到数据库中是
69
6
数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析
87
7
如何解决Spark在深度学习中的资源消耗问题？
85
8
Spark在深度学习中的优缺点是什么？
226
9
使用Spark进行机器学习
67
10
Spark是一个基于内存的通用数据处理引擎，可以进行大规模数据处理和分析
126