我的大数据入门经验

简介:

大数据基础环境学习:

因为大数据相关技术很多,就说一下我自己的学习过程吧,希望能给大家一些帮助。我一开始是自己感兴趣看了一些文章,也在本机用虚机搭了个环境自己自娱自乐,主要是用的CDH,把相关功能都用了一遍,有了第一印象。后来又参与了一个大数据项目的实施工作,有了实践经验,又把相关论文都重看了一遍,感觉自己算是入了门。后来有看了很多阿里云的资料,参加阿里云的培训,通过学习飞天里面的各部分技术,比如盘古,伏羲,女娲等,感觉对于大数据技术又是一次互相印证。

我刚才看了一下,这部分的视频,阿里云栖社区上还能找到,就是在阿里云大学的云计算学习路线图:

https://edu.aliyun.com/promotion/28?spm=5176.8764702.aliyun-edu-developer-banner.2.ibTeJX

的最后一部分:技术深入。这里面把大数据平台也是云平台里面最关键的几个技术都进行了深入浅出的说明,建议初学者去听一下。包括:

分布式调度系统(6课时)

分布式存储系统(15课时)

分布式数据库(7课时)

分布式计算(9课时)

分布式系统应用架构(9课时)

算法学习:

现在机器学习及深度学习算法的资料很多,我看的部分内容包括:

书:李航的《数理统计》,周志华的《机器学习》,《机器学习实践应用》都不错。还有《R in action》, 《利用Python进行数据分析》等等也都还可以。

网上资料:可以在阿里云栖社区上有无数的资料,可以看网易公开课上看吴恩达的《机器学习》,斯坦福的那几门课程,GITHUB上看大神参加各个比赛的代码。

可以说现在互联网时代,资料是十分丰富的。不过我觉得要想真正掌握算法和技术,还是要多进行实践。要是现在工作中没有实际的应用可以做,参加大数据比赛也是一个不错的办法。我从今年初开始学习机器学习,一边学习一边参加天池比赛进行练习,整体效果还不错,自己感觉进步很快。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
存储 分布式计算 Hadoop
大数据之hadoop3入门到精通(一)
大数据之hadoop3入门到精通(一)
937 1
|
SQL 存储 分布式计算
ODPS开发大全:入门篇(3)
ODPS开发大全:入门篇
1392 19
|
SQL 存储 分布式计算
ODPS开发大全:入门篇(1)
ODPS开发大全:入门篇
2199 14
|
数据采集 分布式计算 大数据
不会Python,还敢说搞大数据?一文带你入门大数据编程的“硬核”真相
不会Python,还敢说搞大数据?一文带你入门大数据编程的“硬核”真相
372 1
|
分布式计算 大数据 数据处理
Python入门与大数据处理环境配置指南
**Python入门与大数据处理环境配置** Python作为高级编程语言,因其简洁语法和丰富库资源,成为数据处理、AI和大数据分析首选。本文旨在介绍Python基础和环境配置,特别是针对大数据处理的环境搭建。首先,讲解Python语言基础,包括语言概述、基本语法(变量、数据类型、控制流语句、函数和模块)。接着,讨论如何安装Python环境,以及安装NumPy、Pandas等大数据处理库。对于大数据处理,可以选择本地环境或搭建分布式环境,如Hadoop和Spark,并提供相关API示例。最后,列出环境配置中可能遇到的问题及解决方案,如版本不兼容、库安装失败等,并提供参考资料以供深入学习。
595 3
|
分布式计算 Hadoop 分布式数据库
Hadoop生态系统介绍(二)大数据技术Hadoop入门理论系列之一----hadoop生态圈介绍
Hadoop生态系统介绍(二)大数据技术Hadoop入门理论系列之一----hadoop生态圈介绍
1196 2
|
SQL 分布式计算 大数据
SparkSQL 入门指南:小白也能懂的大数据 SQL 处理神器
在大数据处理的领域,SparkSQL 是一种非常强大的工具,它可以让开发人员以 SQL 的方式处理和查询大规模数据集。SparkSQL 集成了 SQL 查询引擎和 Spark 的分布式计算引擎,使得我们可以在分布式环境下执行 SQL 查询,并能利用 Spark 的强大计算能力进行数据分析。
|
数据采集 数据可视化 大数据
Python入门修炼:开启你在大数据世界的第一个脚本
Python入门修炼:开启你在大数据世界的第一个脚本
347 6
|
分布式计算 大数据 Java
问我大数据怎么入门,我总结了亲身体验的学习路线推荐给她【推荐收藏】
问我大数据怎么入门,我总结了亲身体验的学习路线推荐给她【推荐收藏】
406 0
|
SQL 分布式计算 MaxCompute
ODPS开发大全:入门篇(2)
ODPS开发大全:入门篇
1336 14