轻松入门学习大数据——冬季实战营第五期学习报告

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 动手实战、专家带练。由浅及深,了解学习大数据。

前言

总共五期的冬季实战营来到最后一期了,本期的实战着重于大数据,同上期一样共分成了三个实战训练和两次直播学习。在不知不觉中,它已经改变了人们的生活、工作以及思考的方式。


1.基于EMR离线数据分析

EMR是云原生开源大数据平台,向客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、Clickhouse、Delta、Hudi等开源大数据计算和存储引擎。这个实战介绍了如何登录EMR集群、如何上传数据到HDFS以及如何使用hive创建表,并从hadoop文件系统加载数据三个方面内容,让我们对EMR产品有了初步的了解。

2.使用阿里云Elasticsearch快速搭建智能运维系统

这个实战让我了解了阿里云Elasticsearch集群创建登录的基础操作。实战结束后我学会了采集系统数据和Nginx服务数据和配置指标分析看板,体验了数据分析和运维的过程,特别是其中数据采集、分析的过程和操作方式。

3.使用协同过滤实现商品推荐

实战利用了机器学习PAI平台,指导我们搭建一个基于协同过滤算法的商品推荐系统。很多时候看似不相关的两种产品,却会存在这某种神秘的隐含关系,获取这种关系将会对提高销售额起到推动作用,然而有时这种关联是很难通过经验分析得到的。这时候我们需要借助数据挖掘中的常见算法-协同过滤来实现。

4.“利用湖仓一体架构快速搭建企业数据中台”直播带练

直播主要涉及湖仓一体架构及其应用,这个架构力图结合数据仓库的弹性和数据湖的灵活性,那么如何结合数据仓库和数据湖的优点,同时最大程度地减少每种模式自身的弊端就是一个问题,直播探讨了该问题的解答,同时以搭建企业数据中台为实例进行了具体讲解。

5.“基于Elasticsearch+Fink的日志全观测最佳实践”直播带练

直播主要介绍了一个名词“全观测”,那么什么是全观测呢?它是对传统运维的一个改进,将日志指标APM等数据汇总到统一的平台上,让研发、运维、业务人员等在上面对所有的数据用一个统一的视角去做一个综合的分析,通过这样的方式极大的提高了效率。


总结

五期的学习实战结束了,经过这几次实战训练,特别是最后这一期实战,我掌握了很多与大数据有关的知识,可以说大数据进入了入门阶段,有了不错的掌握,感谢阿里云给我们这样的学习机会。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
3月前
|
存储 分布式计算 算法
大数据-106 Spark Graph X 计算学习 案例:1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例:1图的基本计算、2连通图算法、3寻找相同的用户
86 0
|
3月前
|
数据采集 数据可视化 大数据
大数据体系知识学习(三):数据清洗_箱线图的概念以及代码实现
这篇文章介绍了如何使用Python中的matplotlib和numpy库来创建箱线图,以检测和处理数据集中的异常值。
81 1
大数据体系知识学习(三):数据清洗_箱线图的概念以及代码实现
|
3月前
|
存储 SQL 分布式计算
大数据学习
【10月更文挑战第15天】
79 1
|
3月前
|
分布式计算 大数据 Linux
大数据体系知识学习(二):WordCount案例实现及错误总结
这篇文章介绍了如何使用PySpark进行WordCount操作,包括环境配置、代码实现、运行结果和遇到的错误。作者在运行过程中遇到了Py4JJavaError和JAVA_HOME未设置的问题,并通过导入findspark初始化和设置环境变量解决了这些问题。文章还讨论了groupByKey和reduceByKey的区别。
51 1
|
3月前
|
分布式计算 Hadoop 大数据
大数据体系知识学习(一):PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的,主要介绍了Apache Spark的基本概念、特点、组件,以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码,帮助读者搭建和测试大数据环境。
105 1
|
3月前
|
存储 机器学习/深度学习 分布式计算
大数据技术——解锁数据的力量,引领未来趋势
【10月更文挑战第5天】大数据技术——解锁数据的力量,引领未来趋势
|
2月前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
577 7
|
2月前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
71 2
|
16天前
|
分布式计算 Shell MaxCompute
odps测试表及大量数据构建测试
odps测试表及大量数据构建测试
|
2月前
|
数据采集 监控 数据管理
数据治理之道:大数据平台的搭建与数据质量管理
【10月更文挑战第26天】随着信息技术的发展,数据成为企业核心资源。本文探讨大数据平台的搭建与数据质量管理,包括选择合适架构、数据处理与分析能力、数据质量标准与监控机制、数据清洗与校验及元数据管理,为企业数据治理提供参考。
124 1

热门文章

最新文章