在NodeJS中玩转Protocol Buffer

系统管理员 2022-07-27 16:34 236阅读 0赞

*  Protocol Buffer入门教程
    
     *  Protocol Buffer是个什么鬼
     *  NodeJS开发者为何要跟Protocol Buffer打交道
     *  在NodeJS中实践Protocol Buffer协议
        
         *  选择支持protobuf的NodeJS第三方模块
         *  一个栗子
            
             *  书写proto文件
             *  编译 proto 文件
             *  编写 Writer
             *  编写Reader
             *  运行结果
         *  再举一个栗子
            
             *  编写proto
             *  编写client
             *  书写server
             *  运行结果
         *  其他高级特性
            
             *  嵌套Message
             *  Import Message
     *  总结一下
        
         *  优点
            
             *  简洁
             *  快
         *  缺点
     *  参考文档

# Protocol Buffer入门教程 #

## Protocol Buffer是个什么鬼？ ##

Protocol Buffer(下文简称protobuf)是Google提供的一种数据序列化协议，下面是我从网上找到的Google官方对protobuf的定义：

> Protocol Buffers 是一种轻便高效的结构化数据存储格式，可以用于结构化数据序列化，很适合做数据存储或 RPC 数据交换格式。它可用于通讯协议、数据存储等领域的语言无关、平台无关、可扩展的序列化结构数据格式。目前提供了 C++、Java、Python 三种语言的 API。

道理我们都懂，然后并没有什么卵用，看完上面这段定义，对于protobuf是什么我还是一脸懵逼~

![理都懂][20160325101815944]

## NodeJS开发者为何要跟Protocol Buffer打交道 ##

作为JavaScript开发者，对我们最友好的数据序列化协议当然是大名鼎鼎的JSON啦！我们本能的会想protobuf是什么鬼？还我JSON！  
这就要说到protobuf的历史了。  
Protobuf由Google出品，08年的时候Google把[这个项目开源了][Link 1]，官方支持C++，Java，C\#，Go和Python五种语言，但是由于其设计得很简单，所以衍生出很多第三方的支持，基本上常用的PHP，C，Actoin Script，Javascript，Perl等多种语言都已有第三方的库。  
由于protobuf协议相较于之前流行的XML更加的简洁高效(后面会提到这是为什么)，因此许多后台接口都是基于protobuf定制的数据序列化协议。而作为NodeJS开发者，跟C++或JAVA编写的后台服务接口打交道那是家常便饭的事儿，因此我们很有必要掌握protobuf协议。

为什么说使用使用类似protobuf的二进制协议通信更好呢？

1.  二进制协议对于电脑来说更容易解析，在解析速度上是http这样的文本协议不可比拟的。
2.  有tcp和udp两种选择，在一些场景下，udp传输的效率会更高。
3.  在后台开发中，后台与后台的通信一般就是基于二进制协议的。甚至某些native app和服务器的通信也选择了二进制协议（例如腾讯视频）。但由于web前端的存在，后台同学往往需要特地开发维护一套http接口专供我们使用，如果web也能使用二进制协议，可以节省许多后台开发的成本。

在大公司，最重要的就是优化效率、节省成本，因此二进制协议明显优于http这样的文本协议。

下面举两个简单的例子，应该有助于我们理解protobuf。

## 在NodeJS中实践Protocol Buffer协议 ##

### 选择支持protobuf的NodeJS第三方模块 ###

*  [protobuf.js][]  
    ![protobuf.js][protobuf.js 1]
 *  [Google protobuf js][]  
    ![google protobuf js][]
 *  [protocol-buffers][]  
    ![protocol-buffers][protocol-buffers 1]  
    根据star数和文档完善程度两方面综合考虑，我们决定选择[protobuf.js][]

### 一个栗子 ###

![举个栗子][20160403174424388]  
我打算使用 Protobuf 和NodeJS开发一个十分简单的例子程序。  
该程序由两部分组成。第一部分被称为 Writer，第二部分叫做 Reader。  
Writer 负责将一些结构化的数据写入一个磁盘文件，Reader 则负责从该磁盘文件中读取结构化数据并打印到屏幕上。  
准备用于演示的结构化数据是 HelloWorld，它包含两个基本数据：

*  ID，为一个整数类型的数据
 *  Str，这是一个字符串

#### 书写.proto文件 ####

首先我们需要编写一个 proto 文件，定义我们程序中需要处理的结构化数据，在 protobuf 的术语中，结构化数据被称为 Message。proto 文件非常类似 java 或者 C 语言的数据定义。代码清单 1 显示了例子应用中的 proto 文件内容。  
**清单 1. proto 文件**

package lm; 
    message helloworld 
    { 
       required int32     id = 1;  // ID 
       required string    str = 2;  // str 
       optional int32     opt = 3;  //optional field 
    }

一个比较好的习惯是认真对待 proto 文件的文件名。比如将命名规则定于如下：

packageName.MessageName.proto

在上例中，package 名字叫做 lm，定义了一个消息 helloworld，该消息有三个成员，类型为 int32 的 id，另一个为类型为 string 的成员 str。opt 是一个可选的成员，即消息中可以不包含该成员。1、2、3这几个数字是这三个字段的唯一标识符，这些标识符是用来在消息的二进制格式中识别各个字段的，一旦开始使用就不能够再改变。

#### 编译 .proto 文件 ####

我们可以使用protobuf.js提供的[命令行工具][Link 2]来编译 .proto 文件  
用法:

# pbjs <filename> [options] [> outFile]

我们来看看options:

--help, -h        Show help  [boolean] 查看帮助
      --version, -v     Show version number  [boolean] 查看版本号
      --source, -s      Specifies the source format. Valid formats are:
    
                           json       Plain JSON descriptor
                           proto      Plain .proto descriptor
    指定来源文件格式，可以是json或proto文件
    
      --target, -t      Specifies the target format. Valid formats are:
    
                           amd        Runtime structures as AMD module
                           commonjs   Runtime structures as CommonJS module
                           js         Runtime structures
                           json       Plain JSON descriptor
                           proto      Plain .proto descriptor
    指定生成文件格式，可以是符合amd或者commonjs规范的js文件，或者是单纯的js/json/proto文件。
    
      --using, -u       Specifies an option to apply to the volatile builder
                        loading the source, e.g. convertFieldsToCamelCase.
      --min, -m         Minifies the output.  [default: false] 压缩生成文件
      --path, -p        Adds a directory to the include path.
      --legacy, -l      Includes legacy descriptors from google/protobuf/ if
                        explicitly referenced.  [default: false]
      --quiet, -q       Suppresses any informatory output to stderr.  [default: false]
      --use, -i         Specifies an option to apply to the emitted builder
                        utilized by your program, e.g. populateAccessors.
      --exports, -e     Specifies the namespace to export. Defaults to export
                        the root namespace.
      --dependency, -d  Library dependency to use when generating classes.
                        Defaults to 'protobufjs' for CommonJS, 'ProtoBuf' for
                        AMD modules and 'dcodeIO.ProtoBuf' for classes.

重点关注- -target就好，由于我们是在Node环境中使用，因此选择生成符合commonjs规范的文件，命令如下：

# ./pbjs ../../lm.message.proto -t commonjs > ../../lm.message.js

得到编译后的符合commonjs规范的js文件：

module.exports = require("protobufjs").newBuilder({})['import']({
        "package": "lm",
        "messages": [
            {
                "name": "helloworld",
                "fields": [
                    {
                        "rule": "required",
                        "type": "int32",
                        "name": "id",
                        "id": 1
                    },
                    {
                        "rule": "required",
                        "type": "string",
                        "name": "str",
                        "id": 2
                    },
                    {
                        "rule": "optional",
                        "type": "int32",
                        "name": "opt",
                        "id": 3
                    }
                ]
            }
        ]
    }).build();

#### 编写 Writer ####

#### 编写Reader ####

var HelloWorld = require('./lm.helloworld.js')['lm']['helloworld'];
    var fs = require('fs');
    
    var buffer = fs.readFile('./test.log', function(err, data) { 
        if(!err) {
            console.log(data); // 来看看Node里的Buffer对象长什么样子。
            var message = HelloWorld.decode(data);
            console.log(message);
        }
    })

#### 运行结果 ####

![运行结果][20160403174201559]  
由于我们没有在Writer中给可选字段opt字段赋值，因此Reader读出来的opt字段值为 `null`。  
![然并卵][20160403174347997]  
这个例子本身并无意义，但只要您稍加修改就可以将它变成更加有用的程序。比如将磁盘替换为网络 socket，那么就可以实现基于网络的数据交换任务。而存储和交换正是 Protobuf 最有效的应用领域。

### 再举一个栗子 ###

俗话说得好：“世界上没有什么技术问题是不能用一个helloworld的栗子解释清楚的，如果不行，那就用两个！”

![举个栗子][20160403174424388]  
在这个栗子中，我们来实现基于网络的数据交换任务。

#### 编写.proto ####

**cover.helloworld.proto文件：**

package cover;
    
    message helloworld {
    
        message helloCoverReq { required string name = 1; }
    
        message helloCoverRsp {
            required int32 retcode = 1;
            optional string reply = 2;
        }
    }

#### 编写client ####

一般情况下，使用 Protobuf 的人们都会先写好 .proto 文件，再用 Protobuf 编译器生成目标语言所需要的源代码文件。将这些生成的代码和应用程序一起编译。  
可是在某些情况下，人们无法预先知道 .proto 文件，他们需要动态处理一些未知的 .proto 文件。比如一个通用的消息转发中间件，它不可能预知需要处理怎样的消息。这需要动态编译 .proto 文件，并使用其中的 Message。  
我们这里决定利用protobuf文件可以**动态编译**的特性，在代码中直接读取proto文件，动态生成我们需要的commonjs模块。  
**client.js**

#### 书写server ####

**server.js**

#### 运行结果 ####

![client.js][]  
![server.js][]

### 其他高级特性 ###

#### 嵌套Message ####

message Person { 
      required string name = 1; 
      required int32 id = 2;        // Unique ID number for this person. 
      optional string email = 3; 
    
      enum PhoneType { 
       MOBILE = 0; 
       HOME = 1; 
       WORK = 2; 
      } 
    
      message PhoneNumber { 
        required string number = 1; 
        optional PhoneType type = 2 [default = HOME]; 
      } 
      repeated PhoneNumber phone = 4; 
     }

在 Message Person 中，定义了嵌套消息 PhoneNumber，并用来定义 Person 消息中的 phone 域。这使得人们可以定义更加复杂的数据结构。

#### Import Message ####

在一个 .proto 文件中，还可以用 Import 关键字引入在其他 .proto 文件中定义的消息，这可以称做 Import Message，或者 Dependency Message。  
比如下例：

import common.header; 
    
     message youMsg{ 
      required common.info_header header = 1; 
      required string youPrivateData = 2; 
     }

其中 ,common.info\_header定义在common.header包内。  
Import Message 的用处主要在于提供了方便的代码管理机制，类似 C 语言中的头文件。您可以将一些公用的 Message 定义在一个 package 中，然后在别的 .proto 文件中引入该 package，进而使用其中的消息定义。  
Google Protocol Buffer 可以很好地支持嵌套 Message 和引入 Message，从而让定义复杂的数据结构的工作变得非常轻松愉快。

## 总结一下 ##

### 优点 ###

简单说来 Protobuf 的主要优点就是：简洁，快。  
为什么这么说呢？

#### 简洁 ####

因为Protocol Buffer 信息的表示非常紧凑，这意味着消息的体积减少，自然需要更少的资源。比如网络上传输的字节数更少，需要的 IO 更少等，从而提高性能。  
对于代码清单 1 中的消息，用 Protobuf 序列化后的字节序列为：

08 65 12 06 48 65 6C 6C 6F 77

而如果用 XML，则类似这样：

31 30 31 3C 2F 69 64 3E 3C 6E 61 6D 65 3E 68 65 
     6C 6C 6F 3C 2F 6E 61 6D 65 3E 3C 2F 68 65 6C 6C 
     6F 77 6F 72 6C 64 3E 
    
    一共 55 个字节，这些奇怪的数字需要稍微解释一下，其含义用 ASCII 表示如下：
     <helloworld> 
        <id>101</id> 
        <name>hello</name> 
     </helloworld>

我相信与XML一样同为文本序列化协议的JSON也不会好到哪里去。

#### 快 ####

首先我们来了解一下 XML 的封解包过程。XML 需要从文件中读取出字符串，再转换为 XML 文档对象结构模型。之后，再从 XML 文档对象结构模型中读取指定节点的字符串，最后再将这个字符串转换成指定类型的变量。这个过程非常复杂，其中将 XML 文件转换为文档对象结构模型的过程通常需要完成词法文法分析等大量消耗 CPU 的复杂计算。  
反观 Protobuf，它只需要简单地将一个二进制序列，按照指定的格式读取到编程语言对应的结构类型中就可以了。而消息的 decoding 过程也可以通过几个位移操作组成的表达式计算即可完成。速度非常快。

### 缺点 ###

作为二进制的序列化协议，人眼不可读！

## 参考文档 ##

[Google Protocol Buffer 的使用和原理][Google Protocol Buffer]  
[Protobuf 语法指南][Protobuf]

[20160325101815944]: /images/20220727/1d15a3c872b74932acf8a5dcad78da37.png
[Link 1]: https://github.com/google/protobuf
[protobuf.js]: https://github.com/dcodeIO/ProtoBuf.js
[protobuf.js 1]: /images/20220727/4b9508a5e16d4af49c5cde180735eebe.png
[Google protobuf js]: https://github.com/google/protobuf/tree/master/js
[google protobuf js]: /images/20220727/b5b85c1974634c4488965c7b6bea2aa4.png
[protocol-buffers]: https://github.com/mafintosh/protocol-buffers
[protocol-buffers 1]: /images/20220727/8a6b603c71d94f1d9d9cf51b1c573563.png
[20160403174424388]: /images/20220727/418fa459de104e4d98646eb9943ba2bd.png
[Link 2]: https://github.com/dcodeIO/ProtoBuf.js/wiki/pbjs
[20160403174201559]: /images/20220727/72741bec387e4c3a93adbaa58908a0ad.png
[20160403174347997]: /images/20220727/9a4cdaf1887c4cfd9da59b96de9fe658.png
[client.js]: /images/20220727/3b800997524e4c1b9bceda1bcf8aa364.png
[server.js]: /images/20220727/7868bf8b390a4de4a83c4c81ac5a6d06.png
[Google Protocol Buffer]: https://www.ibm.com/developerworks/cn/linux/l-cn-gpb/
[Protobuf]: http://colobu.com/2015/01/07/Protobuf-language-guide/