极客时间架构师训练营 - week12 - 作业 2

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 极客时间架构师训练营 - week12 - 作业 2

根据当周学习情况,完成一篇学习总结

本周的架构师课程,主要讲的是大数据相关的内容。首先是大数据的发展历程,了解其历程,有助于我们更深刻地理解相关技术。几年之前还是高新技术的大数据技术,现在已经深深扎根于各行各业,推动了各行各业的发展与进步。大数据技术的基础是 HDFS,理解其高可用架构设计,对于我们设计架构有指导性价值。接着而来的是 MapReduce 大规模数据处理技术。前一阵子,公司刚用上开源的定时任务框架,PowerJob,其中的分布式计算方法就是借鉴 MapReduce 的,在理解了 MapReduce 计算思想之后,便能很快的上手其他类似框架。MapReduce 计算里很重要的一点是,如何设计和组合 Map/Reduce 两个阶段。随后讲的是 Yarn 框架,同样的,作为架构师,应该理解其工作流程与原理,思考其在架构层面的设计。随后是 Hive,Hive 主要是讲复杂的 MapReduce 转化为开发者最熟悉的 SQL 来执行。随后是 Spark 架构,RDD 概念,Spark 计算过程与执行过程,分析了 Spark 的性能优势等。

通过本次课程,我深刻理解到,组件在架构层面的设计,例如,高可用设计等,是每个想成为架构师的技术人该总结与归纳吸收的。技术是不断迭代更新的,我们应该站到更多层次去看待问题,思考解决方案。


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
7月前
|
机器学习/深度学习 算法 安全
隐私计算训练营第三讲-详解隐私计算的架构和技术要点
SecretFlow 是一个隐私保护的统一框架,用于数据分析和机器学习,支持MPC、HE、TEE等隐私计算技术。它提供设备抽象、计算图表示和基于图的ML/DL能力,适应数据水平、垂直和混合分割场景。产品层包括SecretPad(快速体验核心能力)和SecretNote(开发工具)。算法层涉及PSI、PIR、数据分析和联邦学习(水平、垂直、混合)。此外,SecretFlow还有YACL密码库和Kusica任务调度框架,Kusica提供轻量化部署、跨域通信和统一API接口。
226 0
|
消息中间件 缓存 NoSQL
|
消息中间件 存储 关系型数据库
极客时间架构实战营作业八
极客时间架构实战营作业八
164 0
|
消息中间件 Java 中间件
极客时间架构实战营作业六
极客时间架构实战营作业六
122 0
|
资源调度 分布式计算 调度
Fink--3、Flink运行时架构(并行度、算子链、任务槽、作业提交流程)
Fink--3、Flink运行时架构(并行度、算子链、任务槽、作业提交流程)
|
容灾 网络协议
极客时间架构实战营模块 7 作业
极客时间架构实战营模块 7 作业
87 0
|
存储 缓存 负载均衡
极客时间架构实战营作业五
极客时间架构实战营作业五
130 0
|
存储 JSON NoSQL
极客时间架构实战营作业四
极客时间架构实战营作业四
116 0
|
25天前
|
缓存 负载均衡 JavaScript
探索微服务架构下的API网关模式
【10月更文挑战第37天】在微服务架构的海洋中,API网关犹如一座灯塔,指引着服务的航向。它不仅是客户端请求的集散地,更是后端微服务的守门人。本文将深入探讨API网关的设计哲学、核心功能以及它在微服务生态中扮演的角色,同时通过实际代码示例,揭示如何实现一个高效、可靠的API网关。
|
6天前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。