docker安装pxc集群

前言

现在mysql自建集群方案有多种,keepalived、MHA、PXC、MYSQL主备等,但是目前根据自身情况和条件,选择使用pxc的放来进行搭建,最大的好处就是,多主多备,即主从一体,没有同步延时问题,方便易用。

本人使用过,直接安装pxc和docker容器方式的安装,个人觉得docker下安装更为方便,也更易维护,所以也推荐大家使用此方式。

搭建环境

环境
centos7
pxc版本镜像:最新版,目前为8.0+
主机ip 部署 swarm
172.16.9.40 pxc1 manager
172.16.9.41 pxc2 worker
172.16.9.42 pxc3 worker
172.16.9.48 nginx 做负载

前期准备

linux需要关闭防火墙,或者开启某些需要的端口;pxc会自带mysql,版本是对应一致的,所以机子上不需要mysql;最好关闭SELINUX,linux自带的安全增强。

注意这些配置,三台机子上都要操作。

1、开放pxc所需端口

端口 功能
3306 mysql数据库
4567 pxc cluster 相互通讯端口
4444 sst全量传输
4568 ist增量传输

这里给出一些linux下防火墙的命令相关

# 查询防火墙状态
systemctl status firewalld
# 查询防火墙状态
firewall-cmd --state
# 查询8080端口是否开放
firewall-cmd --query-port=8080/tcp
# 开放80端口
firewall-cmd --permanent --add-port=80/tcp
# 移除端口
firewall-cmd --permanent --remove-port=8080/tcp
清理防火墙
iptables -F

2、关闭SELINUX、关闭mysql

永久关闭:

vi /etc/selinux/config

设置SELINUX为disable,然后reboot机子

临时关闭:

setenforce 0

关闭mysql

systemctl status mysql
systemctl stop mysql

3、创建docker swarm集群

swarm也需要一些端口的开放,当然如果你是关闭防火墙就无需多言

端口 功能
2377 用于集群通信
4789 容器覆盖网络
7946 容器网络发现

我这里是172.16.9.40作为主节点

docker swarm init 主节点的初始化

docker swarm join --token xxxx xxxx  其他节点的加入

40主节点 init之后,控制台就会出现 docker swarm join --token xxxx xxxx

然后41,42机子,就调用对应的命令,即可加入swarm集群

docker node ls 

可以查看现在的node信息,如下

root@srig config]# docker node ls
ID                            HOSTNAME                STATUS    AVAILABILITY   MANAGER STATUS   ENGINE VERSION
vk3kzrob1b8jvjq9bxia8lwa7 *   srig.dcmp.database.m1   Ready     Active         Leader           20.10.3
4s0pj57d43hm71wipnnbckfkt     srig.dcmp.database.m2   Ready     Active                          20.10.3
ub1fe2qms2rlhmj9zlap20bsq     srig.dcmp.database.s1   Ready     Active                          20.10.3
docker node rm -f xxx 强制删除节点
docker swarm leave -f 主节点强制离开swarm集群
docker swarm leave 从节点离开swarm集群

4、创建虚拟网络

docker network create -d overlay --attachable xxxxx

其他相关命令

docker network inspect xxxx 查看改网络信息
docker network ls 查看所有网络信息
docker network rm xxxx 删除网络

这里网络名就叫,swarm_mysql,创建好了网络之后,docker network inspect swarm_mysql 查看(我这里是节点建立好了之后,就可以看到,有三台机子)

5、创建目录及cert证书

如果你是8.0+且没有使用相同的证书,那么你肯定会遇到一个ssl相关的错误

“error:0407008A:rsa routines:RSA_padding_check_PKCS1_type_1:invalid padding”

这是因为8.0后,是ssl来连接,三台机子,就必须保持密钥的一致性才可以通信。

这是官方的解决方案,生成证书,大家使用同一套。

创建目录

一般情况下我们最好看一下系统磁盘的分区情况,然后把mysql的数据要放到大的磁盘上

df -h

我这里/home下面最大,所以我的数据都是在/home下面

!注意这里的目录在三台机子上都要做相同的操作创建

cd /home
mkdir -m 777 pxc_cert       证书
mkdir -m 777 pxc_config     mysql自定义配置文件
mkdir -m 777 pxc_data      数据

注意:这里需要给予权限,不然很多地方会报错

创建custom.cnf
cd /home/pxc_config
vi custom.cnf

输入内容 这里我们

[mysqld]
lower_case_table_names=1
sql_mode=STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_ENGINE_SUBSTITUTION
ssl-ca = /cert/ca.pem
ssl-cert = /cert/server-cert.pem
ssl-key = /cert/server-key.pem

[client]
ssl-ca = /cert/ca.pem
ssl-cert = /cert/client-cert.pem
ssl-key = /cert/client-key.pem

[sst]
encrypt = 4
ssl-ca = /cert/ca.pem
ssl-cert = /cert/server-cert.pem
ssl-key = /cert/server-key.pem

我这里需要设置数据库不区分大小写 和 8.0以后 可以使用group by

创建cert证书
docker run --name pxc-cert --rm -v /home/pxc_cert:/cert \
percona/percona-xtradb-cluster:8.0 mysql_ssl_rsa_setup -d /cert

就能在/home/pxc_cert目录下创建证书文件

!注意这里的证书创建好,需要拷贝到其他两台机子上的相应目录去

scp -r root@172.16.9.40:/home/pxc_cert /Users/jafir/downloads/pxc_cert

下载到本地

scp -r /Users/jafir/Downloads/pxc_cert root@172.16.9.41:/home/
scp -r /Users/jafir/Downloads/pxc_cert root@172.16.9.42:/home/

上传到41 42其他两台机子

!注意:三台机子都需要给你证书文件权限

cd /home/pxc_cert
chmod 777 *

搭建pxc集群

1、安装镜像

docker pull percona/percona-xtradb-cluster

名字有点长,可以tag重命名

docker tag percona/percona-xtradb-cluster pxc

删除原来的

docker rmi percona/percona-xtradb-cluster

2、多台机子创建容器

我这里是40主节点,其他是丛节点,所以40先开始创建

172.9.16.40主节点
docker run -d -p 3306:3306 --net=swarm_mysql  \
-e MYSQL_ROOT_PASSWORD=asdw@123  \
-e CLUSTER_NAME=pxc_cluster \
-e XTRABACKUP_PASSWORD=asdw@123  \
-v /home/pxc_data:/var/lib/mysql  \
-v /home/pxc_cert:/cert \
-v /home/pxc_config/:/etc/percona-xtradb-cluster.conf.d  \
--privileged --name=pxc1  pxc

命令解读:

docker run -d 
-p 3306:3306  3306端口映射
--net=swarm_mysql  虚拟网络名字
-e MYSQL_ROOT_PASSWORD=asdw@123  数据库初始密码
-e CLUSTER_NAME=pxc_cluster 集群名字
-e XTRABACKUP_PASSWORD=asdw@123  备份密码
-v /home/pxc_cert:/cert 证书路径映射
-v /home/pxc:/var/lib/mysql  pxc路径映射 
-v /home/pxc/config/:/etc/percona-xtradb-cluster.conf.d  mysql配置文件路径映射
--privileged 给予权限
--name=pxc1  pxc

可以docker logs pxc1看看日志是否报错等

如果成功,你可以用Navicat连接看看是否成功启动了mysql,启动了之后再安装从节点。

172.9.16.41节点
docker run -d -p 3306:3306 --net=swarm_mysql  \
-e MYSQL_ROOT_PASSWORD=asdw@123  \
-e CLUSTER_NAME=pxc_cluster \
-e XTRABACKUP_PASSWORD=asdw@123  \
-v /home/pxc_data:/var/lib/mysql  \
-v /home/pxc_cert:/cert \
-v /home/pxc_config/:/etc/percona-xtradb-cluster.conf.d  \
-e CLUSTER_JOIN=pxc1 \
--privileged --name=pxc2  pxc

这里跟上面比起来,多了一句 -e CLUSTER_JOIN=pxc1 ,表示加入pxc1。
为第2台机子可以知道pxc1呢?就是因为swarm集群的建立,让彼此可以相互通信。

172.9.16.42节点
docker run -d -p 3306:3306 --net=swarm_mysql  \
-e MYSQL_ROOT_PASSWORD=asdw@123  \
-e CLUSTER_NAME=pxc_cluster \
-e XTRABACKUP_PASSWORD=asdw@123  \
-v /home/pxc_data:/var/lib/mysql  \
-v /home/pxc_cert:/cert \
-v /home/pxc_config/:/etc/percona-xtradb-cluster.conf.d  \
-e CLUSTER_JOIN=pxc1 \
--privileged --name=pxc3  pxc

注意:如果你是8.0+那么你肯定会遇到一个ssl相关的错误

“error:0407008A:rsa routines:RSA_padding_check_PKCS1_type_1:invalid padding”

这是因为8.0后,是ssl来连接,三台机子,就必须保持密钥的一致性才可以通信。

这是官方的解决方案,生成证书,大家使用同一套。我这边,就简单点,直接把主机点那台的文件考出来,然后传输给其他两台机子,覆盖之后,重启即可。

server-key.pem、server-cert.pem、client-key.pem、client-cert.pem、ca.pem

scp -r root@172.16.9.40:/home/pxc /Users/jafir/Downloads/pxc

从40节点,把数据拷贝下来,然后删除里面除了那5个文件的其他文件

scp -r /Users/jafir/Downloads/pxc root@172.16.9.41:/home

再上传到41、42上面去覆盖,然后重启即可

成功

如果三台都成功了,再确认一下。

主节点进入容器,再进入mysql查看

docker exec -it pxc1 sh
mysql -uroot -p 
show status like 'wsrep%';  

不出意外,这里cluster size就是3台

docker network inspect xxx

网络也是3个

校验

你可以在其中一台上Navicat 创建一个数据库,一张表等,就可以看到3台都同步了!

nginx负载

nginx我是放在172.16.9.48上面的

如果没有nginx.conf配置文件,可以先随便建一个,然后把配置考出来

自建/nginx/log /nginx/etc/nginx.conf等

docker run -d -name nginx nginx
docker cp nginx:/etc/nginx/nginx.conf  拷贝出来
docker rm -f nginx
nginx.conf的配置修改

在最后一行添加,也就是和http同级

stream {
    upstream pxc {
        server 172.16.9.40:3306;
        server 172.16.9.41:3306;
        server 172.16.9.42:3306;
    }
    server {
        listen 3306;
        proxy_pass pxc;
    }
}
docker run --net=host  --name nginx -v /nginx/log/:/var/log/nginx -v /nginx/etc/nginx.conf:/etc/nginx/nginx.conf -d nginx

然后Navicat连接http://172.16.9.48:3306也可以连上数据库啦

关于作者

作者是一个热爱学习、开源、分享,传播正能量,喜欢打篮球、头发还很多的程序员-。-

热烈欢迎大家关注、点赞、评论交流!

简书:https://www.jianshu.com/u/d234d1569eed

github:https://github.com/fly7632785

CSDN:https://blog.csdn.net/fly7632785

掘金:https://juejin.im/user/5efd8d205188252e58582dc7/posts

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,233评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,013评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,030评论 0 241
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,827评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,221评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,542评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,814评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,513评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,225评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,497评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,998评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,342评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,986评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,055评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,812评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,560评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,461评论 2 266

推荐阅读更多精彩内容