@dailidong@_个人页

Tumblr：150亿月浏览量背后的架构挑战

Tumblr：150亿月浏览量背后的架构挑战 2013/04/08 · IT技术, 开发 · 9.9K 阅读 · HBase, Tumblr, 架构 英文原文：High Scalability，编译：CSDN 导读：和许多新兴的网站一样，著名的轻博客服务Tumblr在急速发展中面临了系统架构的瓶颈。

hadoop删除节点和添加节点

从hadoop移除机器把需要移除的机器增加到exclueds文件中，强制刷新datanode列表，等待decommission 状态正常后，即可停机下架，如有必要在namenode执行balancer操作。

线程数对系统性能的影响图

Kafka配置文档

http://kafka.apache.org/08/configuration.html

Kafka Tools

参考， https://cwiki.apache.org/confluence/display/KAFKA/System+Tools https://cwiki.apache.

Kafka深度解析

Kafka深度解析 By Jason Guo 2015-01-02 Updated:2015-05-31 Contents 1.背景介绍 1.1.Kafka简介 1.

hadoop更换硬盘

hadoop服务器更换硬盘操作步骤(datanode hadoop目录${HADOOP_HOME}/bin    日志位置:/var/log/hadoop)1.登陆服务器，切换到mapred用户，执行jps命令，查看是否有TaskTracker进程。

linux内存条排查

已发现2个内存错误，应用名称（kernel:）,日志内容(hangzhou-jishuan-DDS0248 kernel: sbridge: HANDLING MCE MEMORY ERROR hangzhou-jishuan-DDS0248 kernel...

gitlab迁移升级

一、迁移步骤 1.首先安装最新版本gitlab（gitlab7.2安装） 2.停止旧版本gitlab服务 3.将旧的项目文件完整导入新的gitlab   bundle exec rake gitlab:import:repos RAILS_ENV=...

linux 监控网卡实时流量iftop

一、安装iftop Centos也可以直接yum install iftop -y http://www.tcpdump.org/release/ 到如下获取libpcap、tcpdump iftop安装非常简单#tar xzvf iftop-0.

gitlab7.2安装

系统：centos6.4 1.安装依赖包  导入epel： useradd git     wget http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.

为首次部署MongoDB做好准备：容量计划和监控

为首次部署MongoDB做好准备：容量计划和监控 作者Mat Keep ，译者孙镜涛如果你已经完成了自己新的MongoDB应用程序的开发，并且现在正准备将它部署进产品中，那么你和你的运营团队需要讨论一些关键的问题： 最佳部署实践是什么？ 为了确保应用程序满足它所必须的服务层次我们需要监控哪些关键指标？ 如何能够确定添加分片的时机？ 有哪些工具可以对数据库进行备份和恢复？ 怎样才能安全地访问所有新的实时大数据？ 本文介绍了硬件选择、扩展、HA和监控。

hive subprocess failed with code X 的错误码对应信息

PipeMapRed.waitOutputThreads(): subprocess failed with code X ，这里code X对应的信息如下：error code 1: Operation not permittederror code 2: No...

Spark实战

                                                                               1.Spark简介 什么是Spark?   Spark是UC BerkeleyAmp实验室开源的类Hado...

PowerDesigner列名、注释内容互换

http://my.oschina.net/chwencong/blog/52652

ZooKeeper Watcher注意事项

zookeeper watch的定义如下：watch事件是一次性触发器，当watch监视的数据发生变化时，通知设置了该watch的client，即watcher。

架构中常见的开源模块

负载均衡: LVS（Layer 4）, HAProxy（Layer 4、 7）,Nginx（Layer 7） 虚拟化: LXC、KVM、Xen HA：Keepalived、Heartbeat 分布式缓存: Memcache, Redis ...

Linux内存 性能调优

内存是影响Linux性能的主要因素之一，内存资源的充足与否直接影响应用系统的使用性能。 free命令：监控Linux内存使用状况。 由上图可知，空闲内存是free+buffers+cached=155MB 一般来说如果空闲内存/物理内存>70%，内存性能优；如果小于20%，则性能差，需要添加内存。

设计模式（Design Patterns）

一、设计模式的分类 总体来说设计模式分为三大类： 创建型模式，共五种：工厂方法模式、抽象工厂模式、单例模式、建造者模式、原型模式。 结构型模式，共七种：适配器模式、装饰器模式、代理模式、外观模式、桥接模式、组合模式、享元模式。

com.mongodb.MongoException$CursorNotFound: cursor not found on server异常处理

java链接MongoDB处理大量数据时经常碰到cursor not found 的异常,其实是超时所致 Exception in thread "main" com.

Every Programmer Should Know These Latency Numbers

Every Programmer Should Know These Latency Numbers 1秒=1000毫秒(ms) 1秒=1,000,000 微秒(μs) 1秒=1,000,000,000 纳秒(ns) 1秒=1,000,000,000,000 皮秒(ps) L1 cache reference .

ERROR: Found lingering reference file hdfs

Found lingering reference异常 ERROR: Found lingering reference file hdfs://jiujiang1:9000/hbase/month_hotstatic/5af24d51488823419d155283441c2d0f/c/9b58bc5e853f445e9f28b98a36da6d04.

There is an overlap in the region chain修复

ERROR: (region day_hotstatic,860010-2355010000_20140417_12_entry_00000000321,1400060700465.

There is an overlap in the region chain

ERROR: (regions day_hotstatic,860010-2355010000_20140417_12_entry_00000000321,1398674475358.

region xx not deployed on any region server

ERROR: Region { meta => month_hotstatic,860010-2288000000_201405_5_exit_00000047486,1400144486405.

Error in deleting blocks.

2014-08-24 22:15:21,714 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Error processing datanode Commandjava.

org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in receiveBlock for block

Hbase依赖的datanode日志中如果出现如下报错信息：DataXceiverjava.io.EOFException: INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in receiveBlock for block  解决办法：Hbase侧配置的dfs.socket.timeout值过小，与DataNode侧配置的 dfs.socket.timeout的配置不一致，将hbase和datanode的该配置调成大并一致。

480000 millis timeout while waiting for channel to be ready for write异常处理

 2014-08-25 15:35:05,691 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: DatanodeRegistration(10.

missing blocks错误

Datanode的日志中看到: 10/12/14 20:10:31 INFO hdfs.DFSClient: Could not obtain block blk_XXXXXXXXXXXXXXXXXXXXXX_YYYYYYYY from any node: java.

Hbase写入量大导致region过大无法split问题

最近在线上往hbase导数据，因为hbase写入能力比较强，没有太在意写的问题。让业务方进行历史数据的导入操作，中间发现一个问题，写入速度太快，并且业务数据集中到其中一个region，这个region无法split掉，处于不可用状态。

hbase集群写不进去数据的问题追踪过程

hbase从集群中有8台regionserver服务器，已稳定运行了5个多月，8月15号，发现集群中4个datanode进程死了，经查原因是内存 outofMemory了(因为这几台机器上部署了spark，给spark开的-Xmx是32g)，然后对从集群进行了恢复...

如何给系统升级

系统的升级涉及各个架构组件，细节很多。常年累月的修修补补使老系统积累了很多问题。 系统升级则意味着需要repair之前埋下的雷，那为何还要升级，可以考虑以下几个方面 成熟老系统常见问题： 1. 缺乏文档（这应该是大小公司都存在的问题。

为何需要总结

总结和计划总是让人喜悦或镇痛，一方面以前一段时间没有荒废，能给现在的行动以信心，另一方面看到一年的时间并不能完成很多事情，需要抓紧时间。按优先级和重要性安排自己的时间 让自己清醒总是好的。

备忘

python十进制转16进制：python -c "print hex(28285)" 程序远程调试:-Xdebug -Xrunjdwp:transport=dt_socket,server=y,address="8000"程序运行时间：ps -eo pid,ls...

基于ZooKeeper实现分布式锁

ZooKeeper 保证了数据的强一致性，  zk集群中任意节点（一个zkServer）上的相同znode下的数据一定是相同的。使用zookeeper可以非常简单的实现分布式锁， 其基本逻辑如下： 客户端调用create()方法创建名为“locknode/lock”的节点，需要注意的是，这里节点的创建类型需要设置为EPHEMERAL_SEQUENTIAL。

线程的状态转换

线程的状态有：new、runnable、running、waiting、timed_waiting、blocked、dead 当执行new Thread(Runnabler)后，新创建出来的线程处于new状态，这种线程不可能执行 当执行thread.start()后，线程处于runnable状态，这种情况下只要得到CPU，就可以开始执行了。

使用MAT分析内存泄露

使用MAT分析内存泄露 对于大型服务端应用程序来说，有些内存泄露问题很难在测试阶段发现，此时就需要分析JVM Heap Dump文件来找出问题。随着单机内存越来越大，应用heap也开得越来越大，动辄十几G的Dump也不足为奇了。

使用fuser查询文件、目录、socket端口的占用进程

fuser可用于查询文件、目录、socket端口和文件系统的使用进程 1.查询文件和目录使用者 fuser最基本的用法是查询某个文件或目录被哪个进程使用： # fuser -v .

CentOS 64位上编译 Hadoop2.6.0

由于hadoop-2.6.0.tar.gz安装包是在32位机器上编译的，64位的机器加载本地库.so文件时会出错，比如： java.lang.UnsatisfiedLinkError: org.

BS架构下使用消息队列的工作流程

异步通信 对于BS(Browser-Server 浏览器)架构，很多情景下server的处理时间较长。 如果浏览器发送请求后，保持跟server的连接，等待server响应，那么一方面会对用户的体验有负面影响； 另一方面，很有可能会由于超时，提示用户服务请求失败。

HBase并行写机制(mvcc)

HBase在保证高性能的同时，为用户提供了便于理解的一致性数据模型MVCC (Multiversion Concurrency Control)，即多版本并发控制技术，把数据库的行锁与行的多个版本结合起来，从而去提高数据库系统的并发性能。

namenode磁盘满引发recover edits文件报错

      前段时间公司hadoop集群宕机，发现是namenode磁盘满了, 清理出部分空间后，重启集群时，重启失败。 又发现集群Secondary namenode 服务也恰恰坏掉，导致所有的操作log持续写入edits.new 文件，等集群宕机的时候文件大小已经达到了丧心病狂的70G+..重启集群报错 加载edits文件失败。

Out of memory due to hash maps used in map-side aggregation解决办法

在运行一个group by的sql时，抛出以下错误信息： Task with the most failures(4):  -----Task ID:  task_201411191723_723592_m_000004URL:  http://DDS0204.

hbase监控实现

目前实现的监控概览               

架构设计要点

1.尽可能地了解需求，系统层面适用开闭原则 2.模块化，低耦合，能快速响应变化，也可以避免一个子系统的问题波及整个大系统 3.面向接口，业务数据的以接口服务方式开放出来，并尽量简单，避免依赖 4.

hbase的Region分裂代码分析

region分裂有2种触发情景：1是用户手动触发(参见HRegionServer的splitRegion方法)，2是后台flush线程flush完一个region的memstore时，会去检查这个region是否需要分裂(参见MemStoreFlushe的flushRegion方法)。

zookeeper源码分析之leader选举

zookeeper提供顺序一致性、原子性、统一视图、可靠性保证服务zookeeper使用的是zab(atomic broadcast protocol)协议而非paxos协议zookeeper能处理并发地处理多个客户端的写请求，并且以FIFO顺序commit这些写...

hbase监控简单实用脚本

我们以前使用过的对hbase和hdfs进行健康检查，及剩余hdfs容量告警，简单易用 1.针对hadoop2的脚本： #/bin/bashbin=`dirname $0`bin=`cd $bin;pwd`STATE_OK=0STATE_WARNING=1STATE...

Hbase万亿级存储性能优化总结

背景       hbase主集群在生产环境已稳定运行有1年半时间，最大的单表region数已达7200多个，每天新增入库量就有百亿条，对hbase的认识经历了懵懂到熟的过程。

TCP洪水攻击（SYN Flood）的诊断和处理

TCP洪水攻击（SYN Flood）的诊断和处理 Posted by  海涛  on 2013 年 7 月 11 日 Tweet1 ​1. SYN Flood介绍 前段时间网站被攻击多次，其中最猛烈的就是TCP洪水攻击，即SYN Flood。