【Protobuf】Protobuf快速使用 Java版、Python版

简介:  Protocol Buffers(简称为ProtoBuf)是一种用于序列化、结构化数据的语言无关、平台无关、可扩展的机制。它由Google开发并于2008年开源发布。

【Protobuf】Protobuf快速使用 Java版、Python版


Protobuf介绍


快速使用(Java版)


创建 .proto文件,定义数据结构


安装Protobuf编译器(二选一)


使用IDEA编译(二选一)


使用编译后的文件


快速使用(Python版)


创建 .proto文件,定义数据结构


安装Protobuf编译器


使用编译后的Python文件


Protobuf中的Message语法规范


Protobuf介绍


Protobuf介绍


 Protocol Buffers(简称为ProtoBuf)是一种用于序列化、结构化数据的语言无关、平台无关、可扩展的机制。它由Google开发并于2008年开源发布。


 Protocol Buffers通过使用结构化的消息定义文件(.proto文件)来描述数据结构,然后利用特定的编译器将这些消息定义文件编译成相应编程语言的类。这些生成的类提供了一组API,用于在不同的平台和编程语言之间进行数据的序列化、传输和反序列化操作。


 Protobuf支持生成代码的语言包括Java、Python、C++、Go、Ruby、C#。


 官网地址:https://developers.google.com/protocol-buffers/


 官方开源地址 :https://github.com/protocolbuffers/protobuf


 语法指南:https://developers.google.com/protocol-buffers/docs/proto


 Portobuf的序列化的结果体积要比XML、JSON小很多,XML和JSON的描述信息比较多,而且是文本存储格式,导致消息要大;Portobuf的存储格式是二进制。此外Portobuf还使用了Varint 编码,减少数据对空间的占用。


Portobuf序列化和反序列化速度比XMLJSON快很多,是直接把对象和字节数组做转换,而XMLJSON还需要构建成XML或者JSON对象结构。


  但是Portobuf自解耦性差,以二进制数据流方式存储(不可读),需要通过.proto文件才能了解到数据结构。


快速使用(Java版)


创建 .proto文件,定义数据结构


  使用ProtoBuf,首先需要通过ProtoBuf语法定义数据结构(消息),这些定义好的数据结构保存在.proto为后缀的文件中。


   server.proto


// 指定protobuf的版本,proto3是最新的语法版本
syntax = "proto3";
// 定义数据结构message
message Server{
  string host = 1;   // 定义一个string类型的字段,字段名字为host, 序号为1
  int32 code = 2;   // 定义一个int32类型的字段,字段名字为code , 序号为2
}


proto文件中,字段后面的序号,不能重复,定义了就不能修改,可以理解成字段的唯一ID。


安装Protobuf编译器(二选一)


 Protobuf的github发布地址:https://github.com/protocolbuffers/protobuf/releases


 Protobuf的编译器叫protoc,在上面的网址中找到最新版本的安装包,下载安装。


image.png


这里下载的是:protoc-23.2-win64.zip,下载后,解压到你想要的安装目录即可。


可以把protoc下的bin目录路径添加到环境变量,否则要输入全部bin目录写命令操作。


 protoc编译器支持将proto文件编译成多种语言版本的代码,这里以java为例。


 切换到proto文件所在的目录, 执行下面命令


protoc --java_out=. server.proto


  然后在当前目录生成了一个Server.javajava类文件,这个就是我们刚才用protobuf语法定义的数据结构对应的java类文件,通过这个类文件我们就可以操作定义的数据结构。


使用IDEA编译(二选一)


  引入pom依赖


<dependency>
    <groupId>com.google.protobuf</groupId>
    <artifactId>protobuf-java</artifactId>
    <version>3.6.1</version>
</dependency>


  设置build代码


<build>
     <extensions>
         <extension>
             <groupId>kr.motd.maven</groupId>
             <artifactId>os-maven-plugin</artifactId>
             <version>1.5.0.Final</version>
         </extension>
     </extensions>
     <plugins>
         <plugin>
             <groupId>org.xolstice.maven.plugins</groupId>
             <artifactId>protobuf-maven-plugin</artifactId>
             <version>0.5.0</version>
             <configuration>
                 <!--suppress UnresolvedMavenProperty -->
                 <protocArtifact>com.google.protobuf:protoc:3.6.1:exe:${os.detected.classifier}</protocArtifact>
                 <pluginId>grpc-java</pluginId>
                 <!--suppress UnresolvedMavenProperty -->
                 <pluginArtifact>io.grpc:protoc-gen-grpc-java:1.14.0:exe:${os.detected.classifier}</pluginArtifact>
             </configuration>
             <executions>
                 <execution>
                     <goals>
                         <goal>compile</goal>
                         <goal>compile-custom</goal>
                     </goals>
                 </execution>
             </executions>
         </plugin>
     </plugins>
 </build>


  配置好以后,将对应的proto文件放到新创建的proto文件下,在maven中执行compile/protobuf就可以,在target中我们可以找到对应的pb文件。


image.png


使用编译后的文件


  记得导入protobuf基础类库:


<dependency>
    <groupId>com.google.protobuf</groupId>
     <artifactId>protobuf-java</artifactId>
     <version>3.9.1</version>
</dependency>


  Protocol Buffers把生成的Server类复制到当前目录,然后写个demo


Server.Response.Builder builder = Server.Response.newBuilder();
// 设置字段值
builder.setHost("localhost");
builder.setCode(200);
 Server.Response response = builder.build();
 // 将数据根据protobuf格式,转化为字节数组
 byte[] byteArray  = response.toByteArray();
// 反序列化,二进制数据
try {
    Server.Response newResponse = Server.Response.parseFrom(byteArray);
    System.out.println(newResponse.getHost());
    System.out.println(newResponse.getCode());
} catch (Exception e) {
}


快速使用(Python版)


创建 .proto文件,定义数据结构


  使用ProtoBuf,首先需要通过ProtoBuf语法定义数据结构(消息),这些定义好的数据结构保存在.proto为后缀的文件中。


   server.proto


// 指定protobuf的版本,proto3是最新的语法版本
syntax = "proto3";
// 定义数据结构message
message Server{
  string host = 1;   // 定义一个string类型的字段,字段名字为host, 序号为1
  int32 code = 2;   // 定义一个int32类型的字段,字段名字为code , 序号为2
}


proto文件中,字段后面的序号,不能重复,定义了就不能修改,可以理解成字段的唯一ID。


安装Protobuf编译器


 Protobuf的github发布地址:https://github.com/protocolbuffers/protobuf/releases


 Protobuf的编译器叫protoc,在上面的网址中找到最新版本的安装包,下载安装。


image.png


这里下载的是:protoc-23.2-win64.zip,下载后,解压到你想要的安装目录即可。


可以把protoc下的bin目录路径添加到环境变量,否则要输入全部bin目录写命令操作。


 protoc编译器支持将proto文件编译成多种语言版本的代码,这里以java为例。


 切换到proto文件所在的目录, 执行下面命令


protoc --python_out=. server.proto


 然后在当前目录生成了一个server_pb2.py的python文件,这个就是我们刚才用protobuf语法定义的数据结构对应的python文件,通过这个文件我们就可以操作定义的数据结构。


使用编译后的Python文件


 记得把server.proto、server_pb2.py放入一个目录下,然后写python代码访问Server:


import server_pb2   # 导入生成的Python文件
from google.protobuf import json_format   # 导入protobuf的JSON格式转换库(可选)
# 创建一个新的消息对象
message = server_pb2.Response()
# 设置字段值
message.host = "172.0.0.1"
message.code = 100
# 将消息序列化为字节串
serialized_data = message.SerializeToString()
# 将字节串反序列化为消息
deserialized_message = server_pb2.Response()
deserialized_message.ParseFromString(serialized_data)
# 将消息对象转换为JSON字符串
json_string = json_format.MessageToJson(message)
# 将JSON字符串转换为消息对象
json_message = server_pb2.Response()
print(json_format.Parse(json_string, json_message))



相关文章
|
5月前
|
机器学习/深度学习 JSON Java
Java调用Python的5种实用方案:从简单到进阶的全场景解析
在机器学习与大数据融合背景下,Java与Python协同开发成为企业常见需求。本文通过真实案例解析5种主流调用方案,涵盖脚本调用到微服务架构,助力开发者根据业务场景选择最优方案,提升开发效率与系统性能。
1432 0
|
10月前
|
JavaScript 前端开发 Java
通义灵码 Rules 库合集来了,覆盖Java、TypeScript、Python、Go、JavaScript 等
通义灵码新上的外挂 Project Rules 获得了开发者的一致好评:最小成本适配我的开发风格、相当把团队经验沉淀下来,是个很好功能……
1657 103
|
5月前
|
jenkins Shell 测试技术
|
5月前
|
安全 jenkins Java
Java、Python、C++支持jenkins和SonarQube(一)
Jenkins 是一个开源的 持续集成(CI)和持续交付(CD) 工具,用于自动化构建、测试和部署软件项目。它基于 Java 开发,支持跨平台运行,并拥有丰富的插件生态系统,可以灵活地扩展功能
384 5
|
5月前
|
jenkins Java Shell
Java、Python、C++支持jenkins和SonarQube(全集)
Jenkins 是一个开源的持续集成(CI)和持续交付(CD)工具,用于自动化构建、测试和部署软件项目。它基于 Java 开发,支持跨平台运行,并拥有丰富的插件生态系统,可以灵活地扩展功能
533 1
|
5月前
|
jenkins Java 持续交付
Java、Python、C++支持Jenkins和SonarQube(三)
Python与Jenkins和SonarQube
236 1
|
5月前
|
jenkins Java 测试技术
|
7月前
|
人工智能 Java 测试技术
Java or Python?测试开发工程师如何选择合适的编程语言?
测试工程师如何选择编程语言?Java 还是 Python?多位资深专家分享建议:Python 入门简单、开发效率高,适合新手及自动化测试;Java 生态成熟,适合大型项目和平台开发。建议结合公司技术栈、个人基础及发展方向选择。长远来看,两者兼通更佳,同时关注 Go 等新兴语言。快速学习与实践才是关键。
|
9月前
|
数据采集 自然语言处理 Java
Playwright 多语言一体化——Python/Java/.NET 全栈采集实战
本文以反面教材形式,剖析了在使用 Playwright 爬取懂车帝车友圈问答数据时常见的配置错误(如未设置代理、Cookie 和 User-Agent),并提供了 Python、Java 和 .NET 三种语言的修复代码示例。通过错误示例 → 问题剖析 → 修复过程 → 总结教训的完整流程,帮助读者掌握如何正确配置爬虫代理及其它必要参数,避免 IP 封禁和反爬检测,实现高效数据采集与分析。
606 3
Playwright 多语言一体化——Python/Java/.NET 全栈采集实战
|
7月前
|
JSON JavaScript 前端开发
Python+JAVA+PHP语言,苏宁商品详情API
调用苏宁商品详情API,可通过HTTP/HTTPS发送请求并解析响应数据,支持多种编程语言,如JavaScript、Java、PHP、C#、Ruby等。核心步骤包括构造请求URL、发送GET/POST请求及解析JSON/XML响应。不同语言示例展示了如何获取商品名称与价格等信息,实际使用时请参考苏宁开放平台最新文档以确保兼容性。

热门文章

最新文章

推荐镜像

更多