SMProxy,让你的数据库操作快三倍!

SMProxy

GITHUB : https://github.com/louislivi/smproxy

中文 | English

  /$$$$$$  /$$      /$$ /$$$$$$$                                        
 /$$__  $$| $$$    /$$$| $$__  $$                                       
| $$  \__/| $$$$  /$$$$| $$  \ $$ /$$$$$$   /$$$$$$  /$$   /$$ /$$   /$$
|  $$$$$$ | $$ $$/$$ $$| $$$$$$$//$$__  $$ /$$__  $$|  $$ /$$/| $$  | $$
 \____  $$| $$  $$$| $$| $$____/| $$  \__/| $$  \ $$ \  $$$$/ | $$  | $$
 /$$  \ $$| $$\  $ | $$| $$     | $$      | $$  | $$  >$$  $$ | $$  | $$
|  $$$$$$/| $$ \/  | $$| $$     | $$      |  $$$$$$/ /$$/\  $$|  $$$$$$$
 \______/ |__/     |__/|__/     |__/       \______/ |__/  \__/ \____  $$
                                                               /$$  | $$
                                                              |  $$$$$$/
                                                               \______/

SMProxy

Swoole MySQL Proxy

一个基于 MySQL 协议,Swoole 开发的MySQL数据库连接池。

原理

将数据库连接作为对象存储在内存中,当用户需要访问数据库时,首次会建立连接,后面并非建立一个新的连接,而是从连接池中取出一个已建立的空闲连接对象。
使用完毕后,用户也并非将连接关闭,而是将连接放回连接池中,以供下一个请求访问使用。而连接的建立、断开都由连接池自身来管理。

同时,还可以通过设置连接池的参数来控制连接池中的初始连接数、连接的上下限数以及每个连接的最大使用次数、最大空闲时间等等。
也可以通过其自身的管理机制来监视数据库连接的数量、使用情况等。超出最大连接数会采用协程挂起,等到有连接关闭再恢复协程继续操作。

特性

  • 支持读写分离
  • 支持数据库连接池,能够有效解决 PHP 带来的数据库连接瓶颈
  • 支持 SQL92 标准
  • 采用协程调度
  • 支持多个数据库连接,多个数据库,多个用户,灵活搭配
  • 遵守 MySQL 原生协议,跨语言,跨平台的通用中间件代理
  • 支持 MySQL 事务
  • 支持 HandshakeV10 协议版本
  • 完美兼容 MySQL4.1 - 8.0
  • 兼容各大框架,无缝提升性能

设计初衷

PHP 没有连接池,所以高并发时数据库会出现连接打满的情况,Mycat 等数据库中间件会出现部分 SQL 无法使用,例如不支持批量添加等,而且过于臃肿。
所以就自己编写了这个仅支持连接池和读写分离的轻量级中间件,使用 Swoole 协程调度 HandshakeV10 协议转发使程序更加稳定,不用像 Mycat 一样解析所有 SQL 包体,增加复杂度。

环境

  • Swoole 2.1+ [图片上传失败...(image-c13ab-1544177392934)]
  • PHP 7.0+ [图片上传失败...(image-e473d0-1544177392935)]

安装

(推荐)直接下载最新发行版的 PHAR 文件,解压即用:

https://github.com/louislivi/smproxy/releases/latest

或者使用 Git 切换任意版本:

git clone https://github.com/louislivi/smproxy.git
composer install --no-dev # 如果你想贡献你的代码,请不要使用 --no-dev 参数。

运行

需要给予 bin/SMProxy 执行权限。

  SMProxy [ start | stop | restart | status | reload ] [ -c | --config <configuration_path> ]
  SMProxy -h | --help
  SMProxy -v | --version

Options:

  • start 运行服务
  • stop 停止服务
  • restart 重启服务
  • status 查询服务运行状态
  • reload 平滑重启
  • -h --help 帮助
  • -v --version 查看当前服务版本
  • -c --config <configuration_path> 设置配置项目录

SMProxy连接测试

测试SMProxy与测试MySQL完全一致,MySQL怎么连接,SMProxy就怎么连接。

推荐先采用命令行测试:
(请勿使用MYSQL8.0客户端链接测试)

mysql -uroot -p123456 -P3366 -h127.0.0.1

也可采用工具连接。

没用框架的 PHP 7.2.6

PHP7.2.6

没用:0.15148401260376,用了:0.040808916091919

未使用连接池: 0.15148401260376

ab

使用连接池: 0.040808916091919

ab

ThinkPHP 5.0

ThinkPHP5

未使用连接池:

ab

使用连接池:

ab

Laravel 5.7

Laravel5.7

未使用连接池:

ab

使用连接池:

ab

MySQL 连接数

未使用连接池:

MySQL

使用连接池:

MySQL

请以实际压测为准,根数据量,网络环境,数据库配置有关。
测试中因超出最大连接数会采用协程挂起 等到有连接关闭再恢复协程继续操作,
所有并发量与配置文件maxConns设置的不合适,会导致比原链接慢,主要是为了控制连接数。

交流

QQ群:722124111

配置文件

  • 配置文件位于 smproxy/conf 目录中,其中大写 ROOT 代表当前 SMProxy 根目录。

database.json

{
  "database": {
    "account": {
      "自定义用户名": {
        "user": "必选,数据库账户",
        "password": "必选,数据库密码"
      },
      "...": "必选1个,自定义用户名 与serverInfo中的account相对应"
    },
    "serverInfo": {
      "自定义数据库连接信息": {
        "write": {
          "host": "必选,写库地址 多个用[]表示",
          "port": "必选,写库端口",
          "timeout": "必选,写库连接超时时间(秒)",
          "account": "必选,自定义用户名 与 account中的自定义用户名相对应"
        },
        "read": {
          "host": "可选,读库地址 多个用[]表示",
          "port": "可选,读库端口",
          "timeout": "可选,读库连接超时时间(秒)",
          "account": "可选,自定义用户名 与 account中的自定义用户名相对应"
        }
      },
      "...": "必选1个,自定义数据库连接信息 与databases中的serverInfo相对应,read读库可不配置"
    },
    "databases": {
      "数据库名称": {
        "serverInfo": "必选,自定义数据库连接信息 与serverInfo中的自定义数据库连接信息相对应",
        "maxConns": "必选,该库服务最大连接数,支持计算",
        "maxSpareConns": "必选,该库服务最大空闲连接数,支持计算",
        "startConns": "可选,该库服务默认启动连接数,支持计算",
        "maxSpareExp": "可选,该库服务空闲连接数最大空闲时间(秒),默认为0,支持计算",
        "charset": "可选,该库编码格式"
      },
      "...": "必选1个,数据库名称 多个数据库配置多个"
    }
  }
}
  • maxConns,maxSpareConns,startConns
    • 推荐设置为server.json中配置的worker_num的倍数swoole_cpu_num()*N
  • 多个读库,写库
    • 目前采取的是随机获取连接,推荐将maxConnsstartConnsstartConns至少设置为max(读库,写库)*worker_num 的1倍以上

server.json

{
  "server": {
    "user": "必选,SMProxy服务用户",
    "password": "必选,SMProxy服务密码",
    "charset": "可选,SMProxy编码,默认utf8mb4",
    "host": "可选,SMProxy地址,默认0.0.0.0",
    "port": "可选,SMProxy端口,默认3366 如需多个以`,`隔开",
    "mode": "可选,SMProxy运行模式,SWOOLE_PROCESS多进程模式(默认),SWOOLE_BASE基本模式",
    "sock_type": "可选,sock类型,SWOOLE_SOCK_TCP tcp",
    "logs": {
      "open":"必选,日志开关,true 开 false 关",
      "config": {
        "system": {
          "log_path": "必选,SMProxy系统日志目录",
          "log_file": "必选,SMProxy系统日志文件名",
          "format": "必选,SMProxy系统日志目录日期格式"
        },
        "mysql": {
          "log_path": "必选,SMProxyMySQL日志目录",
          "log_file": "必选,SMProxyMySQL日志文件名",
          "format": "必选,SMProxyMySQL日志目录日期格式"
        }
      }
    },
    "swoole": {
      "worker_num": "必选,SWOOLE worker进程数,支持计算",
      "max_coro_num": "必选,SWOOLE 协程数,推荐不低于3000",
      "pid_file": "必选,worker进程和manager进程pid目录",
      "open_tcp_nodelay": "可选,关闭Nagle合并算法",
      "daemonize": "可选,守护进程化,true 为守护进程 false 关闭守护进程",
      "heartbeat_check_interval": "可选,心跳检测",
      "heartbeat_idle_time": "可选,心跳检测最大空闲时间",
      "reload_async": "可选,异步重启,true 开启异步重启 false 关闭异步重启",
      "log_file": "可选,SWOOLE日志目录"
    },
    "swoole_client_setting": {
      "package_max_length": "可选,SWOOLE Client 最大包长,默认16777216MySQL最大支持包长"
    },
    "swoole_client_sock_setting": {
      "sock_type": "可选,SWOOLE Client sock 类型,默认tcp 仅支持tcp"
    }
  }
}
  • user,password,port,host
    • SMProxy的账户|密码|端口|地址(非Mysql数据库账户|密码|端口|地址)
    • 可随意设置用于SMProxy登录验证
    • 例如默认配置登录为mysql -uroot -p123456 -P 3366 -h 127.0.0.1
    • SMProxy登录成功MySQL COMMIT会提示Server version: 5.6.0-SMProxy
  • worker_num
    • 推荐使用swoole_cpu_num()swoole_cpu_num()*N

MySQL8.0

  • SMProxy1.2.4及以上可直接使用
  • SMProxy1.2.4以下需要做兼容处理
    MySQL-8.0默认使用了安全性更强的caching_sha2_password插件,其他版本如果是从5.x升级上来的, 可以直接使用所有MySQL功能, 如是新建的MySQL, 需要进入MySQL命令行执行以下操作来兼容:
ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY 'password';
flush privileges;

将语句中的 'root'@'%' 替换成你所使用的用户, password 替换成其密码.

如仍无法使用, 应在my.cnf中设置 default_authentication_plugin = mysql_native_password

其他学习资料

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,847评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,208评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,587评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,942评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,332评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,587评论 1 218
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,853评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,568评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,273评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,542评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,033评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,373评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,031评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,073评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,830评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,628评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,537评论 2 269

推荐阅读更多精彩内容