cdh4.6.0升级测试1

简介:
线上使用了cdh4.2.0,这个版本有几个比较严重的bug,jt 内存泄露和distribute cache阻塞的bug.
(MAPREDUCE-2479和MAPREDUCE-5508)
相关patch:
最近计划升级至4.6.0,,对4.6.0和4.2.0做了相关的对比测试
数据校验和组件兼容性测试:
测试方法:

1impala测试升级前后数据准确性和性能

结论:

前后结果完全一样(select * order by /count(1) /count(1)+group by

性能变化不大。

wKiom1NX1iGT-U0MAACAlQs1qVk578.jpg

2hive测试升级前后数据准确性和性能(因为时间有限,没有做TPC的测试)

(text gz/rcfile/sequencefile)

load 4Gtext gz文件,分布清洗成rcfilesequencefile

结论:

hive测试数据正常(count(1) /count(1)+group by

性能变化不大,其中因为从text gz清洗至rcfilesequencefile时不能split,只能一个map做处理,耗时比较长,没有取多次的平均值。

其他数据是取多次的平均值。

wKiom1NX1xjAOIR0AADbX35NLsc377.jpg

3flume测试写入

升级前后flume hdfs sink有效性。

结论:

升级前后flume写入hdfs正常,可以直接使用4.2.0hadoop lib做写入操作。



本文转自菜菜光 51CTO博客,原文链接:http://blog.51cto.com/caiguangguang/1401406,如需转载请自行联系原作者

相关文章
|
存储 消息中间件 运维
架构升级的救星!流量回放自动化测试的必备指南
大家好,我是小米,一名29岁的技术宅。今天分享一个物联网领域的实用技能——流量回放自动化测试。系统重构后,测试工作量巨大,本文介绍如何通过日志收集和数据回放进行自动化测试,包括离线、实时和并行回放模式,帮助快速定位Bug,提升测试效率和系统稳定性。欢迎关注我的微信公众号“软件求生”,获取更多技术干货!
466 3
|
算法
测试工程师的技能升级:LeetCode算法挑战与职业成长
这篇文章通过作者亲身体验LeetCode算法题的过程,探讨了测试工程师学习算法的重要性,并强调了算法技能对于测试职业成长的必要性。
239 1
测试工程师的技能升级:LeetCode算法挑战与职业成长
|
关系型数据库 MySQL 测试技术
数据库升级是一个涉及数据备份、新版本安装、数据迁移和测试等关键环节的复杂过程
【7月更文挑战第21天】数据库升级是一个涉及数据备份、新版本安装、数据迁移和测试等关键环节的复杂过程
361 1
|
运维 测试技术
测试如何快速升级打怪?
测试如何快速升级打怪?
133 1
测试如何快速升级打怪?
|
架构师 安全 测试技术
软件测试新手打怪升级攻略
软件测试新手打怪升级攻略
134 0
|
存储 Kubernetes 安全
虚拟机测试Windows Server 2016原地升级2019,应用和数据完美保留
Windows Server 2016可以无缝升级到2019版本,确保应用程序和数据在原地升级过程中完整保留。
1001 0
|
数据管理
速来测试|你所在企业的数智化升级到位了吗?
速来测试|你所在企业的数智化升级到位了吗?
203 0
|
Oracle jenkins Java
【2023新windows电脑部署测试环境系列-04】Jenkins问题实测整理(升级jenkins到最新)
【2023新windows电脑部署测试环境系列-04】Jenkins问题实测整理(升级jenkins到最新)
【2023新windows电脑部署测试环境系列-04】Jenkins问题实测整理(升级jenkins到最新)
|
前端开发 测试技术 数据库
测试思想-系统测试 软件版本升级测试(摘录)
测试思想-系统测试 软件版本升级测试(摘录)
296 0