Netty原理篇-ByteBuf-阿里云开发者社区

开发者社区> 小飞哥1112> 正文

Netty原理篇-ByteBuf

简介: NIO ByteBuffer的概述。 Netty ByteBuf的详细讲述,包括读、写、扩容、mark、reset、duplicate等操作。 核心类的源码分析。 堆内存缓冲区、直接内存缓冲区。 实际上7种基本类型boolean除外都有自己的缓冲区实现不过因为功能、方法、原理基本一致所以仅讨论ByteBuffer。
+关注继续查看


实际上,7种基本类型(boolean除外)都有自己的缓冲区实现,不过因为功能、方法、原理基本一致,所以仅讨论ByteBuffer。

Netty Api地址:http://netty.io/5.0/api/

 

一 内容概述

NIO ByteBuffer的概述。

Netty ByteBuf的详细讲述,包括读、写、扩容、mark、reset、duplicate等操作。

核心类的源码分析。

堆内存缓冲区、直接内存缓冲区。

 

二 NIO ByteBuffer的局限性

1. 长度固定

ByteBuffer一旦分配完成,他的容量不能动态扩展和收缩,当需要编码的POJO对象大于ByteBuffer容量是,会发生索引越界异常。

2. 使用复杂

ByteBuffer只有一个标识位置的指针position,读写的时候需要手工调用flip()和rewind()等方法,使用时需要非常谨慎的使用这些api,否则很容出现错误

3. API功能有限

一些高级、实用的特性,ByteBuffer不支持,需要开发者自己编程实现。

 

为了弥补这些不足,Netty提供了自己的ByteBuf实现。

 

 

三 ByteBuf原理

1. 基本功能

java 7种基本类型、byte数组、ByteBuffer等的读写

java 7种基本类型、byte数组、ByteBuffer等的读写

缓冲区资深的copy和slice等

设置网络字节序

构造缓冲区实例

操作位置指针等方法

 

2. NIO的flip

1) 示例代码


ByteBuffer buffer = ByteBuffer.allocate(1024) ;

String content = "伍正飞";

buffer.put(content.getBytes()) ;

buffer.flip() ;

byte[] newArray = new byte[buffer.remaining()] ;

buffer.get(newArray) ;

String value = new String(newArray);

System.err.println(value);

 

 

2)  flip操作

a) Flip之前

d9cba54935235f3740bec9e8a6dfdfaa4c371f66

b) Flip之后

65176438381698b364a8fa3bca2223e889a4f8e5

读取的内容是从position到limit之间的内容,所以每次写完缓冲区以后,都需要调用flip才能正确的读取数据

 

3. Netty的ByteBuf 

1) 简介

ByteBuf通过两个指针协助读写操作,读操作使用readerIndex,写操作使用writerIndex。

readerIndex、writerIndex初始值是0,写入数据时writerIndex增加,读取数据时readerIndex增加,但是readerIndex不会超过writerIndex。

读取之后,0-readerIndex之间的空间视为discard的,调用discardReadByte方法可以释放这一部分空间,作用类似于ByteBuffer的compact方法。

readerIndex-writerIndex之间的数据是可读的,等价于ByteBuffer中position-limit之间的数据。

writerIndex-capacity之间的空间是可写的,等价于ByteBuffer中limit-capacity之间的空间。

读只影响readerIndex、写只影响writerIndex,读写之间不需要调整指针位置,所以相较于NIO的ByteBuffer,可以极大的简化读写操作。

 

2) 读写操作

a) 初始化

2ea32ea0cc99c51fff8924c41c0478e44034cc61

b) 写入N个字节以后

4f17f2bb5c51b90b75dc9a783c014d17a295e68b

c) 写入N个字节,读取M个字节以后

13610bb391748657b97e4a3308ba88bae3ca1620

d) 写入N个字节,读取M个字节,调用discardReadBytes以后

ee2face99ad1c086924aee1d8f89b26ea986fe7f

调用discardReadBytes会发生字节数组的内存复制,所以频繁调用会导致性能下降。

e) clear以后

26fdfe2ce0b9022446d67f21bc6c8cb5b7e75a2f

 

3) 动态扩容

a) NIO的ByteBuffer

写数据时,如果buffer的空间不足,会抛出BufferOverflowException,以下为ByteBuffer中的put源码:

public ByteBuffer put(byte[] src, int offset, int length) {

    checkBounds(offset, length, src.length);

    if (length > remaining())

        throw new BufferOverflowException();

    int end = offset + length;

    for (int i = offset; i < end; i++)

        this.put(src[i]);

    return this;

}



为了避免抛出BufferOverflowException异常,通常在put前都需要对剩余空间进行校验,并将之前ByteBuffer中的数据复制到新的缓冲区中,然后释放之前ByteBuffer的空间,示例代码如下:

int needSize = 1024 ;

if( buffer.remaining() < needSize ){

    int extraSize = needSize > 128 ? needSize : 128 ;

    ByteBuffer newByteBuffer = ByteBuffer.allocate(buffer.capacity() + extraSize ) ;

    buffer.flip() ;

    newByteBuffer.put(buffer) ;

    buffer = newByteBuffer ;

}

 

b) Netty的ByteBuf

ByteBuf对write操作进行了封装,有ByteBuf的write操作负责进行剩余咳哟好难过空间的校验,如果可用缓冲区不足,ByteBuf会自动进行动态扩展。对于使用者而言不需要关心底层的校验和扩展细节,只需要不超过capacity即可。

ByteBuf中writeBytes示例代码如下(以下代码摘抄自AbstractByteBuf,为ByteBuf的子类)。

public ByteBuf writeBytes(byte[] src) {

    writeBytes(src, 0, src.length);

    return this;

}

 

public ByteBuf writeBytes(byte[] src, int srcIndex, int length) {

    ensureWritable(length);

    setBytes(writerIndex, src, srcIndex, length);

    writerIndex += length;

    return this;

}

 

public ByteBuf ensureWritable(int minWritableBytes) {

    if (minWritableBytes < 0) {

        throw new IllegalArgumentException(

                String.format("minWritableBytes: %d (expected: >= 0)", minWritableBytes));

    }

    ensureWritable0(minWritableBytes);

    return this;

}

 

final void ensureWritable0(int minWritableBytes) {

    ensureAccessible();

    if (minWritableBytes <= writableBytes()) {

        return;

    }

 

    if (minWritableBytes > maxCapacity - writerIndex) {

        throw new IndexOutOfBoundsException(

                String.format("writerIndex(%d) + minWritableBytes(%d) exceeds maxCapacity(%d): %s", writerIndex,

                        minWritableBytes, maxCapacity, this));

    }

 

    // Normalize the current capacity to the power of 2.

    int newCapacity = alloc().calculateNewCapacity(writerIndex + minWritableBytes, maxCapacity);

 

    // Adjust to the new capacity.

    capacity(newCapacity);

}



 

4) Mark和Reset

对缓冲区进行读操作时,有的时候我们需要对之前的操作进行回滚,读操作并不会改变缓冲区的内容,回滚主要是重新设置索引信息。

 

a) NIO的Mark和Reset

Mark:将当前的位置指针被分到mark变量中。

Reset:恢复位置指针为mark中的变量值。

源码如下:    

public final Buffer mark() {

        mark = position;

        return this;

}

 

    public final Buffer reset() {

        int m = mark;

        if (m < 0)

            throw new InvalidMarkException();

        position = m;

        return this;

    }


 

b) Netty的mark和reset

ByteBuf有readerIndex、writerIndex,所以有四个相应的方法

markReaderIndex: 将当前readerIndex备份到markedReaderIndex中

resetReaderIndex: 将当前readerIndex设置为markedReaderIndex

markWriterIndex: 将当前readerIndex备份到markedWriterIndex中

resetWriterIndex: 将当前readerIndex设置为markedWriterIndex

 

示例代码    

    public ByteBuf markReaderIndex() {

        markedReaderIndex = readerIndex;

        return this;

    }

 

    @Override

    public ByteBuf resetReaderIndex() {

        readerIndex(markedReaderIndex);

        return this;

    }

 

    @Override

    public ByteBuf markWriterIndex() {

        markedWriterIndex = writerIndex;

        return this;

    }

 

    @Override

    public ByteBuf resetWriterIndex() {

        writerIndex = markedWriterIndex;

        return this;

    }


 

5) duplicate、copy、slice、nioBuffer

a) duplicate

返回当前ByteBuf的复制对象,复制后返回的ByteBuf和当前操作的ByteBuf共享缓冲区,但维护自己独立的读写索引。当修改其中一个ByteBuf的内容时,另一个也会改变,即双方持有的是同一个对象的引用。

b) copy

复制一个新的ByteBuf对象,和原有的ByteBuf完全独立,修改以后不会影响两外一个。

c) slice

返回当前ByteBuf的可读子缓冲区,即从readerIndex到writerIndex的ByteBuf,返回的ByteBuf和原有缓冲区共享内容,但是维护独立的索引。当修改其中一个ByteBuf的内容时,另一个也会改变,即双方持有的是同一个对象的引用。

 

d) nioBuffer

将当前ByteBuf可读的缓冲区转换成NIO的ByteBuffer,两者持有相同同内容的引用,对ByteBuffer的读写操作不会修改原ByteBuf的读写索引


四 源码分析

1. ByteBuf的类结构

06b85222a4d5a9c07ef739690aa6750372f14b81

a) AbstractByteBuf

ByteBuf的公共属性和功能都会在AbstractByteBuf中实现。

b) AbstractReferenceCountedByteBuf

主要是对引用进行计数,类似于JVM内存回收的对象引用计数器,用于跟踪对象的分配和销毁,作自动内存回收。

c) UnpooledHeapByteBuf

UnpooledHeapByteBuf是基于堆内存进行内存分配的字节缓冲区,没有使用基于对象池计数实现,所以每次I/O的读写都会创建一个新的UnpooledHeapByteBuf。注意,频繁的进行大块内存的分配和回收对性能会造成一定影响。

相比于PooledHeapByteBuf,UnpooledHeapByteBuf的实现更加简单,也不容易出现内存管理的问题,所以才性能满足的情况下,推荐使用UnpooledHeapByteBuf

 

2. 堆内存和直接内存

1) 堆内存字节缓冲区(HeapByteBuf)

内存的分配和回收速度快,可以被JVM自动回收,缺点是如果进行socket的I/O读写,需要额外做一次内存复制,将堆内存对应的字节缓冲区复制到内核Channel中,性能会有一定的下降

 

2) 直接内存字节缓冲区(DirectByteBuf)

非堆内存,它在堆外进行内存分配,相比于堆内存,它的分配和回收速度会慢一些,但是将他写入或者从SocketChannel中读取出是,由于少了一次内存复制,速度比堆内存快。

3) ByteBuf的最佳实践

在I/O通信线程的读写缓冲区中使用DirectByteBuf,后端业务消息的编码使用HeapByteBuf,这样的组合性能最优

 

 

3.  基于对象池的ByteBuf

基于对象池的ByteBuf可以重用ByteBuf对象,他自己维护了一个内存池,可以循环利用创建的ByteBuf,提升内处的使用效率,降低由于高负载导致的频繁GC。测试表明使用内存池的Netty在高负载、大并发的冲击下内存和GC更加平稳。

使用基于对象池的ByteBuf,内存池的管理和维护变得更加复杂,使用时需要谨慎。

 

 

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
Netty原理篇-ByteBuf
NIO ByteBuffer的概述。 Netty ByteBuf的详细讲述,包括读、写、扩容、mark、reset、duplicate等操作。 核心类的源码分析。 堆内存缓冲区、直接内存缓冲区。 实际上7种基本类型boolean除外都有自己的缓冲区实现不过因为功能、方法、原理基本一致所以仅讨论ByteBuffer。
5668 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
4617 0
RocketMQ源码分析之RocketMQ事务消息实现原理上篇(二阶段提交)
初步展示了事务消息的发送流程,总的说来,RocketMQ的事务消息发送使用二阶段提交思路,首先,在消息发送时,先发送消息类型为Prepread类型的消息,然后在将该消息成功存入到消息服务器后,回调TransactionListener#executeLocalTransaction,执行本地事务状态回调函数,然后根据该方法的返回值,结束事务。
2739 0
一起谈.NET技术,DataTable 深入解析数据源绑定原理之高级篇
  前言   在上篇写了篇 实战系列之天气预报实时采集 ,有个别同志认为没技术含量,也许正如所说。 只是人各有看法,当我写出一篇文章时,我只是希望:1:如果你还不懂,请看写法,了解想法。2:如果你已懂,略过写法,请看想法。
695 0
【Kubernetes系列】第10篇 网络原理解析(下篇)
3. 覆盖网络 - Overlay Network 覆盖网络(overlay network)是将TCP数据包装在另一种网络包里面进行路由转发和通信的技术。Overlay网络不是默认必须的,但是它们在特定场景下非常有用。
1107 0
阿里云服务器安全组设置内网互通的方法
虽然0.0.0.0/0使用非常方便,但是发现很多同学使用它来做内网互通,这是有安全风险的,实例有可能会在经典网络被内网IP访问到。下面介绍一下四种安全的内网互联设置方法。 购买前请先:领取阿里云幸运券,有很多优惠,可到下文中领取。
9513 0
Netty原理篇-ChannelPipeline、ChannelHandler
ChannelPipeline的职责与工作原理。 ChannelHandler的作用。 常用ChannelHandler的源码解读。
2100 0
Netty原理篇-Channel、Unsafe
Channel的主要方法介绍。 Channel的继承结构,以及核心类核心代码分析。 Unsafe的继承结构,以及核心类核心代码分析。
2283 0
阿里云ECS云服务器初始化设置教程方法
阿里云ECS云服务器初始化是指将云服务器系统恢复到最初状态的过程,阿里云的服务器初始化是通过更换系统盘来实现的,是免费的,阿里云百科网分享服务器初始化教程: 服务器初始化教程方法 本文的服务器初始化是指将ECS云服务器系统恢复到最初状态,服务器中的数据也会被清空,所以初始化之前一定要先备份好。
3664 0
+关注
小飞哥1112
java,架构相关技术专家
47
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载