AI 助理
备案控制台
开发者社区 人工智能 文章 正文

大数据入门学习实验报告

2022-03-05 198
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云原生大数据计算服务 MaxCompute，5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute，500CU*H 100GB 3个月
简介： EMR离线数据分析HDFS ElasticsearchPAI基于协同过滤算法

1.基于EMR离线数据分析

 使用Firefox ESR浏览器和阿里云提供子账号的登录阿里云；上传数据到HDFS；使用hive创建表；从hadoop文件系统加载数据到hive数据表，然后对表进行基本参操作

2.使用阿里云Elasticsearch快速搭建智能运维系统

  学习阿里云Elasticsearch集群创建登录的基础操作；登录Kibana，开启自动创建索引功使用Metricbeat采集ECS上的系统数据，选用Metricbeat采集器，按照操作安装并运行，使用Filebeat采集ECS上的Nginx服务数据，学会配置指标分析看板，体验数据分析和运维的过程

3.使用协同过滤实现商品推荐

开通机器学习PAI服务，在PAI管理控制台创建PAI Studio项目，并根据提示搭建一个基于协同过滤算法的商品推荐系统，并运行试验系统查看实验结果

文章标签：
云原生大数据计算服务 MaxCompute
应用服务中间件
机器学习/深度学习
数据挖掘
搜索推荐
弹性计算
SQL
运维
nginx
HIVE
算法
关键词：
云原生大数据计算服务 MaxCompute学习
云原生大数据计算服务 MaxCompute入门
云原生大数据计算服务 MaxCompute实验
云原生大数据计算服务 MaxCompute入门学习
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析，通过分析能得到用户群体年龄分布，性别分布，地理位置分布，以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品，是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法，从场景到实践，体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库，助力开发者学习了解先进的技术栈，并能在实际业务中敏捷的进行大数据分析，赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景，可应用MaxCompute实现数仓搭建，快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理，需要搭建数据仓库？学它！ 没有足够人员和经验来运维大数据平台，不想自建IDC买机器，需要免运维的大数据平台？会SQL就等于会大数据？学它！ 想知道大数据用得对不对，想用更少的钱得到持续演进的数仓能力？获得极致弹性的计算资源和更好的性能，以及持续保护数据安全的生产环境？学它！ 想要获得灵活的分析能力，快速洞察数据规律特征？想要兼得数据湖的灵活性与数据仓库的成长性？学它！ 出品人：阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
WK
目录
相关文章
武子康
|
29天前
|
分布式计算 大数据 Java
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
大数据-87 Spark 集群 案例学习 Spark Scala 案例 手写计算圆周率、计算共同好友
武子康
45 5
武子康
|
29天前
|
分布式计算 关系型数据库 MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
武子康
46 3
武子康
|
29天前
|
存储 分布式计算 算法
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
武子康
54 0
zzy的aly
|
25天前
|
数据采集 数据可视化 大数据
大数据体系知识学习（三）：数据清洗_箱线图的概念以及代码实现
这篇文章介绍了如何使用Python中的matplotlib和numpy库来创建箱线图，以检测和处理数据集中的异常值。
zzy的aly
37 1
大数据体系知识学习（三）：数据清洗_箱线图的概念以及代码实现
小Lee
|
16天前
|
存储 SQL 分布式计算
大数据学习
【10月更文挑战第15天】
小Lee
23 1
zzy的aly
|
25天前
|
分布式计算 大数据 Linux
大数据体系知识学习（二）：WordCount案例实现及错误总结
这篇文章介绍了如何使用PySpark进行WordCount操作，包括环境配置、代码实现、运行结果和遇到的错误。作者在运行过程中遇到了Py4JJavaError和JAVA_HOME未设置的问题，并通过导入findspark初始化和设置环境变量解决了这些问题。文章还讨论了groupByKey和reduceByKey的区别。
zzy的aly
23 1
zzy的aly
|
25天前
|
分布式计算 Hadoop 大数据
大数据体系知识学习（一）：PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的，主要介绍了Apache Spark的基本概念、特点、组件，以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码，帮助读者搭建和测试大数据环境。
zzy的aly
47 1
武子康
|
29天前
|
消息中间件 大数据 Kafka
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现（二）
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现（二）
武子康
26 2
武子康
|
30天前
|
存储 Prometheus NoSQL
大数据-44 Redis 慢查询日志 监视器 慢查询测试学习
大数据-44 Redis 慢查询日志 监视器 慢查询测试学习
武子康
22 3
武子康
|
29天前
|
消息中间件 NoSQL 大数据
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现（一）
大数据-77 Kafka 高级特性-稳定性-延时队列、重试队列 概念学习 JavaAPI实现（一）
武子康
32 1

热门文章

最新文章

  • 1
    使用MaxCompute访问TableStore（OTS） 简明手册
  • 2
    Hadoop迁移MaxCompute神器之DataX-On-Hadoop使用指南
  • 3
    丰富、连接、待集成—MaxCompute 生态再出发
  • 4
    日交易笔百万级，Ping++的大数据平台架构
  • 5
    别奢望大数据会为你做这10件事儿！
  • 6
    好程序员大数据培训分享之HDFS设计思想和相关概念
  • 7
    湖北省加快推进云计算标准化促大数据产业发展
  • 8
    十款卓越工具助力大数据与分析技术
  • 9
    大数据分析与云技术结合
  • 10
    《大数据原理：复杂信息的准备、共享和分析》一一第1章 为非结构化数据提供结构
  • 1
    大数据组件之storm简介
    149
  • 2
    高效处理大数据集合：JavaStreamAPI
    62
  • 3
    java与大数据：Hadoop与MapReduce
    56
  • 4
    python大数据分析处理
    60
  • 5
    Mysql大数据批量插入方法
    99
  • 6
    AI时代Python金融大数据分析实战：ChatGPT让金融大数据分析插上翅膀
    317
  • 7
    MaxCompute的应用
    78
  • 8
    大数据基础工程技术团队4篇论文入选ICLR，ICDE，WWW
    641
  • 9
    【经验分享】用Linux脚本管理虚拟机下的大数据服务
    56
  • 10
    常用大数据组件的Web端口号总结
    181

    • 相关课程

    更多
  • 大数据Spark2020最新课程（知识精讲与实战演练）第二阶段
  • 大数据Spark2020版（知识精讲与实战演练）第三阶段
  • 大数据Spark2020版（知识精讲与实战演练）第四阶段
  • 2020版大数据实战项目之DMP广告系统（第四阶段）
  • 2020版大数据实战项目之DMP广告系统（第六阶段）
  • 2020版大数据实战项目之DMP广告系统（第七阶段）

    • 相关电子书

    更多
  • Data+AI时代大数据平台应该如何建设
  • 大数据AI一体化的解读
  • 极氪大数据 Serverless 应用实践

    • 相关实验场景

    更多
  • 数据库实验室挑战任务-中级任务
  • 数据库实验室挑战任务-初级任务
  • 函数计算实战-云开发创建视觉AI应用
  • 虎虎生威，挑战云上魔方
  • 助力游戏运营数据分析
  • 零基础入门Serverless：基于函数计算快速搭建基于人工智能的目标检测系统
    • 下一篇
    DataWorks智能数据建模全面公测开始啦！