这些技术可能会阻碍你在大数据征程上的步伐

简介:

那些技术升级或更换至关重要,这关系到大数据项目获得成功,还是你在今后几年通过行动让大家原谅你的过失。下面是你应该开始考虑更换掉的大数据架构中的一些要素。

我们踏上这个大数据征程已有一段时日了。一切不再依然光鲜亮丽。实际上,一些技术可能会阻碍你的步伐。切记,大数据是企业技术行业发展最快的一个领域,快得一些软件还没有站稳脚跟,更好的技术就已扑面而来。

那些技术升级或更换至关重要,这关系到大数据项目获得成功,还是你在今后几年通过行动让大家原谅你的过失。下面是你应该开始考虑更换掉的大数据架构中的一些要素。

MapReduce

MapReduce速度很慢。它也很少是着手处理问题的最好方法。还有其他算法可供选择,最常见的算法是DAG,MapReduce被认为是DAG的一个子集。如果你处理过一批自定义的MapReduce任务,就会发觉与Spark相比性能差多了,值得投入成本和精力来更换MapReduce。

Storm

我倒不是说,Spark 会称霸数据流领域,不过它可能会,但是由于Apex和Flink之类的技术,外头有些Spark的替代方案比Storm更出色,而且延迟更低。除此之外,你应该评估对延迟的容忍程度,你编写的那些较低级较复杂的代码中的缺陷是不是值得延迟多几毫秒。Storm并没有得到应有的支持,Hortonworks是唯一真正的支持者,由于Hortonworks面临越来越大的市场压力,Storm不太可能得到更多人的关注。

Pig

Pig形势有点不妙。你可以用Spark或其他技术做Pig所做的任何事情。起初,Pig似乎是一种很好的“面向大数据的PL/SQL”,但你很快发现它有点怪异。

Java

不,这里说的不是Java虚拟机(JVM),而是Java这种语言。语法对大数据任务来说很笨重。另外,像Lambda这些更新颖的构件以一种有点笨拙的方式事后扩充上去。大数据世界已经很大程度上迁移到了Scala和Python(如果你承受得了性能影响,又需要Python库,或者拥有大量的Python开发人员,就使用Python)。当然,你可以使用R用于统计数据,直到你用Python来改写,因为R没有所有好玩的规模特征。

Tez

这是Hortonworks的另一个宠物项目。它是一种DAG实现,但是与Spark不同,Tez被其中一个开发人员描述为像是用“汇编语言”编写。目前,借助Hortonworks发行版,你最后得在Hive及其他工具后面使用Tez,但是你可能已经使用Spark作为其他发行版中的引擎。不管怎么说,Tez始终有不少缺陷。同样,这是一家厂商的项目,不像其他技术那样得到行业或社区的广泛支持。相比其他解决方案,它也没有任何压倒性的优势。这是我期望合并掉的一种引擎。

Oozie

我很早以前就不喜欢Oozie。它不是什么了不起的工作流引擎,也不是什么了不起的调度器,不过它想搞好这两者,却都搞不好!然而,它有一大堆的软件缺陷,这款软件编写起来不该很难。面对StreamSets、DAG实现以及其他一切,你应该有的是办法来处理Oozie处理的大部分任务。

Flume

在StreamSets、Kafka 及其他解决方案之间,你可能有Flume的替代方案。2015年5月20日发布的这个版本看起来有点过气了。你可以跟踪分析较上年同期的活动强度。许多人离它远去,也许是该翻篇的时候了。

也许到2018年……

还剩下什么?一些技术日渐老朽,但是完全切实可行的替代方案还没有问世。不妨事先想想更换掉这些技术:

Hive

有点过于吹毛求疵了,但是Hive好比是市面上性能最低下的分布式数据库。要是我们整个行业没有认定关系数据库管理系统(RDBMS)是自切片面包以来这40年来最出色的技术,那么我们果真会开发出这种怪兽?

HDFS

用Java编写一种系统级服务不是最好的想法。Java的内存管理也使得传送大量字节有点慢。HDFS NameNode的工作方式对任何任务来说不是很理想,造成了瓶颈。各家厂商拿出了变通方法,改善这种情况,但是坦率地说,市面上有更好的技术。还有其他分布式文件系统。MaprFS就是一种设计相当出色的分布式文件系统。还有Gluster及另外一批文件系统。

着眼于未来,是时候剔除一批看起来大有希望,但是已变得落后或过气的技术了。这是我的全文,还有什么技术是我要补充上去的吗?

本文转自d1net(转载)

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
6月前
|
存储 人工智能 大数据
云栖2025|阿里云开源大数据发布新一代“湖流一体”数智平台及全栈技术升级
阿里云在云栖大会发布“湖流一体”数智平台,推出DLF-3.0全模态湖仓、实时计算Flink版升级及EMR系列新品,融合实时化、多模态、智能化技术,打造AI时代高效开放的数据底座,赋能企业数字化转型。
1249 0
|
8月前
|
数据采集 人工智能 分布式计算
ODPS在AI时代的发展战略与技术演进分析报告
ODPS(现MaxCompute)历经十五年发展,从分布式计算平台演进为AI时代的数据基础设施,以超大规模处理、多模态融合与Data+AI协同为核心竞争力,支撑大模型训练与实时分析等前沿场景,助力企业实现数据驱动与智能化转型。
553 4
|
6月前
|
数据可视化 大数据 关系型数据库
基于python大数据技术的医疗数据分析与研究
在数字化时代,医疗数据呈爆炸式增长,涵盖患者信息、检查指标、生活方式等。大数据技术助力疾病预测、资源优化与智慧医疗发展,结合Python、MySQL与B/S架构,推动医疗系统高效实现。
|
8月前
|
SQL 分布式计算 大数据
我与ODPS的十年技术共生之路
ODPS十年相伴,从初识的分布式计算到共生进化,突破架构边界,推动数据价值深挖。其湖仓一体、隐私计算与Serverless能力,助力企业降本增效,赋能政务与商业场景,成为数字化转型的“数字神经系统”。
|
8月前
|
存储 人工智能 算法
Java 大视界 -- Java 大数据在智能医疗影像数据压缩与传输优化中的技术应用(227)
本文探讨 Java 大数据在智能医疗影像压缩与传输中的关键技术应用,分析其如何解决医疗影像数据存储、传输与压缩三大难题,并结合实际案例展示技术落地效果。
|
8月前
|
机器学习/深度学习 算法 Java
Java 大视界 -- Java 大数据在智能物流运输车辆智能调度与路径优化中的技术实现(218)
本文深入探讨了Java大数据技术在智能物流运输中车辆调度与路径优化的应用。通过遗传算法实现车辆资源的智能调度,结合实时路况数据和强化学习算法进行动态路径优化,有效提升了物流效率与客户满意度。以京东物流和顺丰速运的实际案例为支撑,展示了Java大数据在解决行业痛点问题中的强大能力,为物流行业的智能化转型提供了切实可行的技术方案。
|
9月前
|
数据采集 自然语言处理 分布式计算
大数据岗位技能需求挖掘:Python爬虫与NLP技术结合
大数据岗位技能需求挖掘:Python爬虫与NLP技术结合
|
7月前
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
503 14
|
9月前
|
数据采集 分布式计算 DataWorks
ODPS在某公共数据项目上的实践
本项目基于公共数据定义及ODPS与DataWorks技术,构建一体化智能化数据平台,涵盖数据目录、归集、治理、共享与开放六大目标。通过十大子系统实现全流程管理,强化数据安全与流通,提升业务效率与决策能力,助力数字化改革。
335 4
|
8月前
|
机器学习/深度学习 运维 监控
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
673 0