大型分布式C++框架《三:序列化与反序列化》

本文涉及的产品
全局流量管理 GTM,标准版 1个月
云解析 DNS,旗舰版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介:

一、前言 

 


    个人感觉序列化简单来说就是按一定规则组包。反序列化就是按组包时的规则来接包。正常来说。序列化不会很难。不会很复杂。因为过于复杂的序列化协议会导致较长的解析时间,这可能会使得序列化和反序列化阶段成为整个系统的瓶颈。就像压缩文件、解压文件,会占用大量cpu时间。

    所以正常的序列化会在时间和空间上考虑。个人感觉对于电商业务时间应该是相对重要些。毕竟用户没有那么多时间等你解析。
 
           我们是用thrift来序列化的。一份thrift文件生成2份。一份是c++生成的用来编写服务接口。一份是php生成的。所有请求都会先落到前端机器。然后前端机器用php调用服务端函数接口。返回处理结果。这其实是远程调用rpc。
 

二、分配序列化空间的大小


说序列化之前先说下平台给序列化分配的buf的空间大小

1、每个协程会分配大概固定包头(56个字节)+特殊buf(200个字节)的空间来保存包头。所以首先如果收到的包特殊buf(就是放sessionkey和uid等信息)大于200个字节。会报错不处理。但是并不会给netio 返回一个错误包消息。所以客户端 会一直等到客户端设置的超时时间
2、每个container会分配3M的空间来处理数据。所以去掉包头和特殊buf.剩下的就是可以用来序列化的空间 3*1024*1024-固定包头-特殊buf。   所以最少会有 3*1024*1024-56-200的空间
        这里其实可以看到协程的好处。这个3M的空间。对于每个协程来说是共享的。因为我们是协程的方式,其实是一种顺序流程,没有协程会跟你竞争使用这个buf的资源。因为可以自己手动控制协程的切换。
        如果是多线程的话。可能就要对这个buf加锁。竞争这一个全局资源来处理数据。这也是多线程编程被诟病的一个地方,需要加锁。
 
 

三、序列化步骤

 


1、我们先看下请求。

复制代码
复制代码
    oCntlInfo.setOperatorUin(10458);
    oCntlInfo.setOperatorKey("abcde");
    oCntlInfo.setRouteKey(1234);
 
    std::string source = "aaaaa";
    std::string inReserve;
    std::string errmsg;
    std::string outStr;
 
 
    std::string machineKey;
    for(int i =0;i<500*1024;i++)
    {
        machineKey.append("a");
    }
 
 
    AoActionInfo oActionInfo;
    oActionInfo.SetDisShopId(1111);
    oActionInfo.SetDistributorId(2222);
 
    uint32_t dwResult = Stub4App.AddActionSupplier(
                oCntlInfo,
                machineKey,
                source,
                1,
                1,
                oActionInfo,
                inReserve,
                errmsg,
                outStr);
    if(dwResult == 0)
    {
        std::cout << "Invoke OK!" << std::endl;
        std::cout << "Invoke OK!" << std::endl;
 
    }
复制代码
复制代码

客户端直接调用函数接口。到服务端请求结果

最后需要序列化的东西如下是类_Cao_action_AddActionSupplier_Req

函数的入参都是我们需要序列化的内容。注意这里是rpc调用的一个关键点。

2、序列化开始

a)    先看下我们的thritf

如果下图。发现我们的函数入参也是打上了tag标志的。作用跟我们在结构体中打tag标志是一样的。为了标识一个字段的含义。

序列化的时候把这些tag序列化进去。 然后反序列化的时候靠这些tag来解析

 

b ) 先把图贴出来。按着图来讲更清晰些

 

 

c)   首先我们会创建一个CByteStream的类来。序列化内容。在CByteStream的构造函数会自动写入一个字节的序列化包头。值为1
CByteStream(char* pStreamBuf = NULL, uint32_t nBufLen = 0,bool bStore=truebool bRealWrite = true);
pStreamBuf  是序列化buf指针
pStreamBuf  是序列化的长度
bStore  true表示是否需要包数据存储下来。  false表示不需要把数据存下来
bRealWrite 表示是否支持读写buf
d)   接着就开始写类_Cao_action_AddActionSupplier_Req的成员变量。其实就是函数入参。写的时候是先协tag就是下图中的fid。  其实就是在thrift中已经写好的函数入参的tag值。
具体写的过程我们先看简单基本类型。比如strMachineKey
      1)先写tag。  strMachineKey 的tag为1.  程序里规定tag占两个字节。所以函数入参可以是0xffff个。
     2 ) 接着会写4个固定的字节。用来存储后面紧跟着数据的值。这里strMachineKey的长度是512000.
     3 ) 写内容 。  把strMachineKey的内容写入紧跟着的buf
 
针对整形和长整形就不说了
大同小异
 
e) 接着我们关注下 是怎么写结构体oActionInfo的。 
 
      1)先写tag。  oActionInfo 的tag为5.  程序里规定tag占两个字节。
     2 ) 接着针对结构体这里 会写4个固定的字节用来存结构体序列化长度。因为开始不知道所以值为0。
      3 ) 接着写字段 DistributorId。  它在oActionInfo结构体中的tag值为6.类型为int64. 所以先写tag=6占两个字节,接着分配4个字节存长度。最后分配8个字节存内容
     4)跟着写DisShopId字段。就不细说了
     5)最后写了2个字节包尾
     6)最后 回写结构体的长度 
 
这里注意下写结构体时候的写法。不注意的话会看错。
1)这里先拿到开始写结构体的buf指针。注意这里是用的int32_t。占四个字节。跟前面保持一直。这里用来的存后面总序列虚化结构体提的总长度。
2)由于刚开始的时候  并不知道后面的结构体会序列化多少个字节。所以这里先写4个字节。
同时把这便宜的4个字节的内存值 设置为0 
bs<<0;  (这里其实建议写成  bs<<int32_t(0) 会好一点。开起来一致)
这里开始没注意。以为写4个字节值为0的 结构体的头。其实这里是放结构体长度的
3)最后第5步。 重新赋值 结构体的长度
1)int32_t* pLen = (int32_t*)bs.getRawBufCur();
2)bs << 0;
3)int32_t iLen=bs.getWrittenLength();
4)Serialize_w(bs);
5)*pLen = bs.getWrittenLength() - iLen;

f)最后对整个_Cao_action_AddActionSupplier_Req写了两个字节的包尾

g) 我么可以看到oActionInfo其实有一堆的字段。但是我们在请求的时候只写了两个字段。所有在序列化的时候也只序列化了两个字段

 

其实我们可以看到我们的这种序列化,很整齐。很规则。比较紧凑。但是并不节省空间。这个里面有很多数据可以压缩的。但是压缩带来一个问题就是解压的时候很消耗cpu的。跟我的业务场景不服和。也没必要。

 

四、序列化解析


其实知道了数据是怎么写入的  解析起来就很容易了。其实这种序列化就是两边约定规则。知道规则以后就可以解析了
        解析的具体步骤就不详细说了。这里说下解析的时候几个特殊的地方

1、因为tag占2个字节。所以函数入参不能大于0xffff. 一个结构体的字段个数不能大于0xffff
 
2、假如前端传入的tag在解析端找不到。解析端会偏移处理下一个tag。所以这是为什么我们可以删除字段的原因。
比如前端传入的结构如下
struct A{
 1:int  aa
 2:int  bb
}
但是服务端后台编译后删除了一个字段
struct A{
    1:int  aa
}
a)如果前端只填了字段aa。  那么解析起来没有任何问题.因为不会把字段bb的任何信息序列化进去。
b)假如前端填了 aa 和 bb字段。
那么服务端在解析的时候。拿到tag2。发现找不到对应的数据。
那么它会偏移4个字节取tag2对应字段内容所占的字节数。比如这里是4.
接着它发现是4.就偏移4个字节。不处理字段值内容。直接取下一个tag进行处理
 
这也就是我们为什么能删除字段的原因。
这样看来我们的函数入参其实也是可以删除的
 
3、我们服务端新增字段重新编译。前端没有对应的tag。根本不会序列化进来。这也是我们可以增加字段的原因。
 
4、解析的时候如果发现tag为0.则会是认为解析结束。所以我们的tag是不能为0的
 
5、这样我们也就能为服务端函数增加入参的。 同一个函数比如前端的入参是4个。服务端可以增加N个. 但是注意不能占用   函数已经用的tag。否则会有问题。而且为了保证函数的统一性。最好别这么做。
 
6、到这里已经很清晰了。 最后再说一次不能改tag对应的类型。
 
 

五、话外

我们的这一套就是远程调用rpc服务。通过我们的序列化。

其实就能了解所谓的RPC服务是什么样的。

说白了,远程调用就是将对象名、函数名、参数等传递给远程服务器,服务器将处理结果返回给客户端。

为了能解析出这些信息。在入参的时候做上标识(这里是打tag).

 

谷歌的protobuf也用过。跟thrift其实差不多但是序列化和反序列的话的具体实现是有些不同的。

谷歌的protobuf更节省空间

 

以前具体看过序列化的源码。觉得序列化反序列化以及rpc很神秘。现在看了源码才发现确实写的确实好,

但是没那么神秘里。其实就是按一定规则组包。所以还是要多看源码啊。

 

我们用的thrift就是 facebook的thrift。但是改了些东西。大体是一样的。

目录
相关文章
|
1月前
|
Java 数据库
在Java中使用Seata框架实现分布式事务的详细步骤
通过以上步骤,利用 Seata 框架可以实现较为简单的分布式事务处理。在实际应用中,还需要根据具体业务需求进行更详细的配置和处理。同时,要注意处理各种异常情况,以确保分布式事务的正确执行。
|
1月前
|
消息中间件 Java Kafka
在Java中实现分布式事务的常用框架和方法
总之,选择合适的分布式事务框架和方法需要综合考虑业务需求、性能、复杂度等因素。不同的框架和方法都有其特点和适用场景,需要根据具体情况进行评估和选择。同时,随着技术的不断发展,分布式事务的解决方案也在不断更新和完善,以更好地满足业务的需求。你还可以进一步深入研究和了解这些框架和方法,以便在实际应用中更好地实现分布式事务管理。
|
7天前
|
分布式计算 大数据 数据处理
技术评测:MaxCompute MaxFrame——阿里云自研分布式计算框架的Python编程接口
随着大数据和人工智能技术的发展,数据处理的需求日益增长。阿里云推出的MaxCompute MaxFrame(简称“MaxFrame”)是一个专为Python开发者设计的分布式计算框架,它不仅支持Python编程接口,还能直接利用MaxCompute的云原生大数据计算资源和服务。本文将通过一系列最佳实践测评,探讨MaxFrame在分布式Pandas处理以及大语言模型数据处理场景中的表现,并分析其在实际工作中的应用潜力。
34 2
|
1月前
|
存储 Java 关系型数据库
在Spring Boot中整合Seata框架实现分布式事务
可以在 Spring Boot 中成功整合 Seata 框架,实现分布式事务的管理和处理。在实际应用中,还需要根据具体的业务需求和技术架构进行进一步的优化和调整。同时,要注意处理各种可能出现的问题,以保障分布式事务的顺利执行。
51 6
|
1月前
|
数据库
如何在Seata框架中配置分布式事务的隔离级别?
总的来说,配置分布式事务的隔离级别是实现分布式事务管理的重要环节之一,需要认真对待和仔细调整,以满足业务的需求和性能要求。你还可以进一步深入研究和实践 Seata 框架的配置和使用,以更好地应对各种分布式事务场景的挑战。
29 6
|
28天前
|
消息中间件 运维 数据库
Seata框架和其他分布式事务框架有什么区别
Seata框架和其他分布式事务框架有什么区别
25 1
|
1月前
|
JSON 数据格式 索引
Python中序列化/反序列化JSON格式的数据
【11月更文挑战第4天】本文介绍了 Python 中使用 `json` 模块进行序列化和反序列化的操作。序列化是指将 Python 对象(如字典、列表)转换为 JSON 字符串,主要使用 `json.dumps` 方法。示例包括基本的字典和列表序列化,以及自定义类的序列化。反序列化则是将 JSON 字符串转换回 Python 对象,使用 `json.loads` 方法。文中还提供了具体的代码示例,展示了如何处理不同类型的 Python 对象。
|
1月前
|
机器学习/深度学习 自然语言处理 并行计算
DeepSpeed分布式训练框架深度学习指南
【11月更文挑战第6天】随着深度学习模型规模的日益增大,训练这些模型所需的计算资源和时间成本也随之增加。传统的单机训练方式已难以应对大规模模型的训练需求。
146 3
|
1月前
|
存储 安全 Java
Java编程中的对象序列化与反序列化
【10月更文挑战第22天】在Java的世界里,对象序列化和反序列化是数据持久化和网络传输的关键技术。本文将带你了解如何在Java中实现对象的序列化与反序列化,并探讨其背后的原理。通过实际代码示例,我们将一步步展示如何将复杂数据结构转换为字节流,以及如何将这些字节流还原为Java对象。文章还将讨论在使用序列化时应注意的安全性问题,以确保你的应用程序既高效又安全。
|
1月前
|
机器学习/深度学习 并行计算 Java
谈谈分布式训练框架DeepSpeed与Megatron
【11月更文挑战第3天】随着深度学习技术的不断发展,大规模模型的训练需求日益增长。为了应对这种需求,分布式训练框架应运而生,其中DeepSpeed和Megatron是两个备受瞩目的框架。本文将深入探讨这两个框架的背景、业务场景、优缺点、主要功能及底层实现逻辑,并提供一个基于Java语言的简单demo例子,帮助读者更好地理解这些技术。
101 2