【原创】modb 功能设计之“支持部分MySQL客户端协议”-1

本文涉及的产品
云数据库 RDS SQL Server,独享型 2核4GB
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介:
      最初的想法是,rabbitmq 客户端从 queue 消费到了包含 sql 语句的消息后,需要提取并分析该 sql 后,通过 MySQL 协议再要求数据库执行该 sql 语句。这就要求我这个 demo 必须实现了 MySQL 客户端侧所需的协议部分。要实现这个,有三种途径:      
  • 利用公司已有的 dbi 的库实现 MySQL 访问
  • 基于 mysqlclient 库做开发实现 MySQL 客户端侧协议
  • 自己实现 MySQL 客户端侧需要的协议
我的选择: 
      不打算用公司的 dbi 库,首先,该库基于了其他的公司库,而我并不想使用;其次,该库封装的也不是很好,之前我还查出了 4 处崩溃,不排除还有其他问题;最后,该库其实也是在 mysqlclient 上做的封装,和上面第 2条其实是一样的。所以,最终我决定选择第 2 种方式,自己搞个“山头”出来。
PS:其实开始的时候也想过采用上面的第 3 种方式,自己从底层开始实现如何支持 MySQL 客户端协议,结果“呵呵”了,难度和工作量不是一般的大~~
  

确定基于什么来做开发后,该做下一步目标选择了:
  • 直接使用 mysqlclient 提供的 API 实现常规阻塞式调用能满足我的要求么?
  • 是否需要基于 libevent 实现事件驱动式的调用模式?难度大么? 
  • 是否有合适的开源 MySQL 客户端实现来启发我的思路?供我参考? 
      不要以为我啥都知道,可以坦白的讲,做这个开发之前,我对上述的问题一无所知,不过我从不担心自己的学习能力,  于是乎开始各种搜索……  

可以参考的客户端实现(似乎)有:  

4.5. MySQL Client Programs  
4.5.1. mysql — The MySQL Command-Line Tool  
4.5.2. mysqladmin — Client for Administering a MySQL Server  
4.5.3. mysqlcheck — A Table Maintenance Program  
4.5.4. mysqldump — A Database Backup Program  
4.5.5. mysqlimport — A Data Import Program  
4.5.6. mysqlshow — Display Database, Table, and Column Information  
4.5.7. mysqlslap — Load Emulation Client  

      其中 mysql、mysqladmin、mysqlshow 和 mysqlslap 看起来很值得研究。   于是开始研究如何在 Linux下用 C 语言 API 连接 MySQL 数据库。  

      在 MySQL 官网上找到了如下内容,对基于 MySQL C API 实现客户端应用程序的说明(个人总结)  
================================  
22.8.1. MySQL C API Implementations  

MySQL C API 为客户端应用程序提供了用于和 MySQL server 通信使用的基于 C 的 API。  
提供了两种版本的库供使用:libmysqlclient(客户端版本)和 libmysqld(嵌入式服务器版本)。  

在 Unix (以及 Unix-like)系统上,静态库为 libmysqlclient.a,动态库为 libmysqlclient.so 。  
带 _r 后缀的库的含义:在 MySQL 5.5 以前,带 _r 后缀的库为 thread-safe (re-entrant) 的库,否则,则不是。而在 MySQL 5.5 版本之后,带不带 _r 后缀都是 thread-safe (re-entrant) 的库了,所以理论上讲,已经不需要带 _r 的库了。  

22.8.2. Simultaneous MySQL Server and MySQL Connector/C Installations  
这个主要讲同时安装 MySQL server 和 MySQL Connector/C 的问题,和我要搞的事情无关  

22.8.3. Example C API Client Programs  
这个本应该给出如何使用 C API 来编写客户端程序的,但是其只是告诉你可以参考 client 文件夹下的源码。大概扫了一下,可以参考的,且代码量较小的是 mysqlshow.c 。  

22.8.4. Building and Running C API Client Programs  
这个主要讲如何构建和运行 C API 的客户端程序了,主要分为3部分说明:  

22.8.4.1. Building C API Client Programs  
示例说明如何编译客户端程序  
shell> gcc -c `mysql_config --cflags` progname.c  
shell> gcc -o progname progname.o `mysql_config --libs`  

22.8.4.2. Writing C API Threaded Client Programs  
讨论如何在调用 C API 的时候保证线程安全  

22.8.4.3. Running C API Client Programs  
避免由于系统升级导致的头文件 mysql.h 和库 libmysqlclient.a 的不匹配问题,出现问题则需要使用新的头文件和库重新编译。若依赖动态库,当出现主版本好变更的时候(如 libmysqlclient.so.17 到 libmysqlclient.so.18),则需要重新编译。  

22.8.5. C API Data Structures  
这里开始介绍各种数据结构(略)  
================================  

      好吧,反正哪一个对我来说都是陌生的,那么就研究其中的 mysqlshow 试试看。   首先要干的事情就是,自己要能成功编译 mysqlshow 。

(...省略中间过程中的唧唧歪歪...)  

自建工程目录如下  
?
1
2
3
4
5
6
7
[root@Betty mysql_client_test] # ll
总计 116
-rw-r--r-- 1 root root   4130 10-25 14:33 client_priv.h
-rw-r--r-- 1 root root   2124 10-25 15:01 my_default.h
-rw-r--r-- 1 7161 wheel 25393 10-25 15:03 mysqlshow.c
-rw-r--r-- 1 root root   1686 10-25 15:01 welcome_copyright_notice.h
[root@Betty mysql_client_test] #

成功编译

?
1
2
3
4
5
6
7
8
9
[root@Betty mysql_client_test] # gcc mysqlshow.c -o mysqlshow `mysql_config --cflags` `mysql_config --libs` -DDBUG_OFF 
[root@Betty mysql_client_test] # ll
总计 116
-rw-r--r-- 1 root root   4130 10-25 14:33 client_priv.h
-rw-r--r-- 1 root root   2124 10-25 15:01 my_default.h
-rwxr-xr-x 1 root root  66953 10-25 16:23 mysqlshow
-rw-r--r-- 1 7161 wheel 25393 10-25 15:03 mysqlshow.c
-rw-r--r-- 1 root root   1686 10-25 15:01 welcome_copyright_notice.h
[root@Betty mysql_client_test] #

执行

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
[root@Betty mysql_client_test] # ./mysqlshow --help
. /mysqlshow  Ver 9.10 Distrib 5.6.10, for Linux (x86_64)
Copyright (c) 2000, 2013, Oracle and /or its affiliates. All rights reserved.
 
Oracle is a registered trademark of Oracle Corporation and /or its
affiliates. Other names may be trademarks of their respective
owners.
 
Shows the structure of a MySQL database (databases, tables, and columns).
 
Usage: . /mysqlshow [OPTIONS] [database [table [column]]]
 
If last argument contains a shell or SQL wildcard (*,?,% or _) then only
what's matched by the wildcard is shown.
If no database is given then all matching databases are shown.
If no table is given, then all matching tables in database are shown.
If no column is given, then all matching columns and column types in table
are shown.
 
Default options are read from the following files in the given order:
/etc/my .cnf /etc/mysql/my .cnf /usr/local/mysql/etc/my .cnf ~/.my.cnf 
The following groups are read : mysqlshow client
The following options may be given as the first argument:
--print-defaults        Print the program argument list and exit .
--no-defaults           Don't read default options from any option file ,
                         except for login file .
--defaults- file = #       Only read default options from the given file #.
--defaults-extra- file = # Read this file after the global files are read.
--defaults-group-suffix= #
                         Also read groups with concat(group, suffix)
--login-path= #          Read this path from the login file.
   --bind-address=name IP address to bind to.
   -c, --character-sets- dir =name 
                       Directory for character set files.
   --default-character- set =name 
                       Set the default character set .
   --count             Show number of rows per table (may be slow for non-MyISAM
                       tables).
   -C, --compress      Use compression in server /client protocol.
   - #, --debug[=name]  Output debug log. Often this is 'd:t:o,filename'.
   --debug-check       Check memory and open file usage at exit .
   --debug-info        Print some debug info at exit .
   --default-auth=name Default authentication client-side plugin to use.
   -?, --help          Display this help and exit .
   -h, --host=name     Connect to host.
   -i, --status        Shows a lot of extra information about each table.
   -k, --keys          Show keys for table.
   -p, --password[=name] 
                       Password to use when connecting to server. If password is
                       not given, it's solicited on the tty .
   --plugin- dir =name   Directory for client-side plugins.
   -P, --port= #        Port number to use for connection or 0 for default to, in
                       order of preference, my.cnf, $MYSQL_TCP_PORT,
                       /etc/services , built- in default (3306).
   --protocol=name     The protocol to use for connection (tcp, socket, pipe,
                       memory).
   -t, --show-table- type 
                       Show table type column.
   -S, --socket=name   The socket file to use for connection.
   -u, --user=name     User for login if not current user.
   - v , --verbose       More verbose output; you can use this multiple times to
                       get even more verbose output.
   -V, --version       Output version information and exit .
 
Variables (--variable-name=value)
and boolean options {FALSE|TRUE}  Value (after reading options)
--------------------------------- ----------------------------------------
bind-address                      (No default value)
character-sets- dir                (No default value)
default-character- set             auto
count                             FALSE
compress                          FALSE
debug-check                       FALSE
debug-info                        FALSE
default-auth                      (No default value)
host                              (No default value)
status                            FALSE
keys                              FALSE
plugin- dir                        (No default value)
port                              0
show-table- type                   FALSE
socket                            (No default value)
user                              (No default value)
[root@Betty mysql_client_test] #

      确实和源码编译 MySQL 得到的 mysqlshow 一致,到此暂时走出了研究 MySQL 客户端实现的第一步。可以稍微总结一下了:

  • 直接使用 MySQL C API 来编写程序是阻塞的还是非阻塞的? 
  • MySQL C API 能够和 libevent 结合在一起么? 或者说哪些 API 可以?
  • 是否需要基于 libevent 的 MySQL 协议实现?

上述问题需要综合整体设计来给结论(读者自己先思考下)。
相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
目录
相关文章
|
22天前
|
SQL 关系型数据库 MySQL
免费MySQL数据库客户端推荐
免费MySQL数据库客户端推荐
27 0
|
23天前
|
SQL 关系型数据库 MySQL
MySQL数据库免费客户端简介
MySQL数据库免费客户端简介
23 0
|
26天前
|
关系型数据库 MySQL 分布式数据库
PolarDB MySQL企业版与标准版功能对比:如何选择适合您的版本?
随着数字化时代的到来,企业对于数据处理的需求越来越高,而数据库作为数据处理的核心,其性能和成本成为了企业关注的焦点。阿里云全新推出的PolarDB MySQL企业版和标准版,以全新的架构和优化,为企业提供了高性能、低成本的数据库解决方案。但在功能上,这两个版本有很多差异,我们该如何选择呢?
14 2
|
1月前
|
JavaScript 关系型数据库 MySQL
基于JavaWeb和mysql实现网上书城前后端管理系统(源码+数据库+开题报告+论文+答辩技巧+项目功能文档说明+项目运行指导)
基于JavaWeb和mysql实现网上书城前后端管理系统(源码+数据库+开题报告+论文+答辩技巧+项目功能文档说明+项目运行指导)
|
1月前
|
关系型数据库 MySQL 分布式数据库
PolarDB MySQL版:强大功能,超高性能,满足企业级需求
PolarDB MySQL版:强大功能,超高性能,满足企业级需求 在当今信息化社会,企业对于数据处理的需求日益增长,如何选择一款高性能、高可靠性且成本合理的数据库成为了一大挑战。阿里巴巴的PolarDB MySQL版应运而生,它不仅兼容MySQL,还具备传统数据库所不具备的优势,为企业提供了更高效、更可靠的数据处理方案。
100 3
|
2月前
|
关系型数据库 MySQL Shell
百度搜索:蓝易云【Shell脚本实现Mysql持续kill功能】
将以上代码保存为一个名为 `kill_mysql.sh`的文件,并确保该文件具有执行权限(可以使用 `chmod +x kill_mysql.sh`命令赋予执行权限)。然后在终端中运行该脚本即可实现MySQL的持续kill功能。
43 0
|
2月前
|
SQL Java 关系型数据库
在IDEA中配置MySQL数据库连接以及在使用mybatis时设置sql语句的代码提示功能
在IDEA中配置MySQL数据库连接以及在使用mybatis时设置sql语句的代码提示功能
|
2月前
|
SQL 关系型数据库 MySQL
⑩⑨【Tool】MySQL常用客户端管理工具:mysql、mysqladmin、mysqlbinlog、mysqlshow、mysqldump、mysqlimport、source
⑩⑨【Tool】MySQL常用客户端管理工具:mysql、mysqladmin、mysqlbinlog、mysqlshow、mysqldump、mysqlimport、source
28 0
|
2月前
|
关系型数据库 MySQL 数据库连接
只用了nacos配置功能,多个nacos server连同一个mysql数据库会有啥问题吗?
只用了nacos配置功能,多个nacos server连同一个mysql数据库会有啥问题吗?
48 6
|
2月前
|
存储 缓存 关系型数据库
MySQL处理客户端请求
可以提高系统性能,但是也因此需要维护这块缓存而造成一些开销。比如每次都要去查询缓存中检索、请求处理完后需要更新查询缓存等。从MySQL5.7开始不推荐使用查询缓存,在MySQL8.0中查询缓存被删除。