大数据-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

大数据

2019-10-30 14:07:55 2375 1

学习大数据之前需要学习那些知识,最后还要学习那些关于大数据知识?

取消 提交回答
全部回答(1)
  • 游客z26npzhujwpdw
    2019-10-30 20:58:09
    1. Java编程 编程是大数据开发的基础,大数据中很多技术都是使用Java编写的,例如Hadoop、Spark、MapReduce等,因此,想要学大数据,Java编程是必备技能之一

    2. Linux 运维企业大数据开发往往是在Linux操作系统下完成的,因此,想从事大数据相关工作,需要掌握Linux系统操作方法和相关命令。

    3. ZooKeeper ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

    4. Hadoop Hadoop是一个能够对大量数据进行分布式处理的软件框架,HDFS和MapReduce是其核心设计,HDFS为海量的数据提供了存储,MapReduce为海量的数据提供了计算,是大数据开发必不可少的框架技能。

    5. Hive Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行,十分适合数据仓库的统计分析。

    6. Hbase 这是Hadoop生态体系中的NOSQL数据库,他的数据是按照key和value的形式存储的并且key是唯一的,所以它能用来做数据的排重,它与MYSQL相比能存储的数据量大很多

    7. Kafka Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据,通过Hadoop的并行加载机制来统一线上和离线的消息处理,通过集群来提供实时的消息。

    8. Spark Spark是专为大规模数据处理而设计的快速通用的计算引擎,拥有Hadoop MapReduce所具有的优点,但不同于MapReduce的是Job中间输出结果可以保存在内存中,从而不再需要读写HDFS,因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。

    0 0
相关问答

1

回答

大数据提问答疑专栏

2020-01-10 17:53:09 2221浏览量 回答数 1

1

回答

处理大数据场景

2019-11-29 14:29:47 538浏览量 回答数 1

2

回答

大数据时代

2018-12-23 00:59:13 1376浏览量 回答数 2

2

回答

大数据时代

2018-06-06 18:00:09 5186浏览量 回答数 2

0

回答

大数据分析

2017-10-17 15:04:08 1303浏览量 回答数 0

1

回答

大数据是什么?

2017-03-12 22:28:56 2183浏览量 回答数 1

5

回答

大数据是什么?

2017-03-08 17:55:16 2385浏览量 回答数 5

2

回答

大数据如何查询?

2016-11-07 08:36:23 1643浏览量 回答数 2

2

回答

第一题数据

2016-06-12 11:51:32 4240浏览量 回答数 2

2

回答

数据

2016-03-30 10:13:50 3780浏览量 回答数 2
文章
问答
问答排行榜
最热
最新
相关电子书
更多
大数据在新制造领域的应用
立即下载
点融网金融科技的大数据解决方案
立即下载
大数据在旅游业中的应用初探
立即下载