详解MySQL主从复制及读写分离
作者:都不懂的运维 发布时间:2024-01-21 12:27:14
前言
在企业实际应用中,成熟的业务通常数据量都比较大,而单台MySQL服务器在安全性、高可用性和高并发方面都无法满足实际的需求,我们可以在多台MySQL服务器(Master-Slave)部署 主从复制来实现同步数据,再通过 读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。
一、相关概述
主从复制:主数据库(Master)发送更新事件到从数据库(Slave),从数据库读取更新记录,并执行更新记录,使得从数据库的内容与主数据库保持一致。
(一)MySQL 支持的复制类型
基于语句的复制(STATEMENT)。在主库上执行的 SQL 语句,在从库上执行同样的语句。MySQL 默认采用基于语句的复制,效率比较高。
基于行的复制(ROW)。把改变的内容复制过去,而不是把命令在从库上执行一遍。
混合类型的复制(MIXED)。默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。
(二)MySQL主从复制的工作过程
1.Master 服务器保存记录到二进制日志
MySQL主库上进行的增、删、改的数据更新,都会按顺序写入到自己的
二进制日志(Binary log)当中
2.Slave 服务器复制Master 服务器的日志
然后MySQL从库开始一个
I/O线程连接主库,读取主库的
二进制日志,备份到从服务器的==中继日志(Relay log)==当中。如果已经跟上主库,它会睡眠并等待Master 产生新的事件,I/O线程将这些事件写入中继日志
3.Slave 服务器重放复制过来的日志
然后从库打开
SQL线程,SQL线程读取I/O线程写入的
中继日志,并且根据中继日志的内容更新从库的数据,使其与主库中的数据一致
重点:复制过程有一个很重要的限制,即复制在 Slave 上是串行化的,也就是说Master 上的并行更新操作不能在 Slave 上并行操作
二、读写分离
(1)读写分离的概念
读写分离:读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
(2)读写分离的作用
因为数据库的"写"(写10000条数据可能要3分钟)操作是比较耗时的。但是数据库的"读"(读10000条数据可能只要5秒钟)。
所以读写分离,解决的是,数据库的写入,影响了查询的效率。注意:数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能
(3)MySQL 读写分离原理
读写分离就是只在主服务器上写,只在从服务器上读
基本的原理是让主数据库处理事务性查询,而从数据库处理 select 查询
数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库
(4)常见的 MySQL 读写分离
1)基于程序代码内部实现
1.在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。
2.优缺点:
优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;
缺点是需要开发人员来实现,运维人员无从下手。
3.并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。
2)基于中间代理层实现
1.代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序:
MySQL-Proxy:MySQL-Proxy 为 MySQL 开源项目,通过其自带的 lua 脚本进行SQL 判断。
Atlas:是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程。
Amoeba:由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。
2.由于使用MySQL Proxy需要写大量的Lua脚本,这些Lua脚本不是现成的,而需要自己编写,这对于并不熟悉MySQL Proxy内置变量和MySQL Protocol的人来说是非常困难的。
3.Amoeba是一个非常容易使用,可移植性非常强的软件,因此它在生产环境中被广泛用于数据库的代理层。
三、MySQL主从复制实验部署
需要的相关软降包
amoeba-mysql-binary-2.2.0.tar.gz
jdk-6u14-linux-x64.bin
mysql压缩包
(1)主从复制实验步骤及准备
实验步骤
第一步:客户端client访问代理服务器amoeba
第二步:代理服务器读写判断
写操作:写入到主服务器
第三步:主服务器将增删改写入自己二进制日志
第四步:从服务器将主服务器的二进制日志同步至自己中继日志
第五步:从服务器重放中继日志到数据库中
读操作:直接访问从服务器
最终结果:降低负载,起到负载均衡作用
主机 操作系统 IP地址 所需工具/软件/安装包
Amoeba CentOS7 | 192.168.71.10 | jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz |
Master CentOS7 | 192.168.71.12 | ntp 、 mysql-boost-5.7.20.tar.gz |
Slave1 CentOS7 | 192.168.71.13 | ntp 、ntpdate 、 mysql-boost-5.7.20.tar.gz |
Slave2 CentOS7 | 192.168.71.14 | ntp 、ntpdate 、mysql-boost-5.7.20.tar.gz |
客户端 CentOS7 | 192.168.71.15 |
1.关闭防火墙及安全机制
四台服务器都要关闭
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
2.安装时间同步服务ntp
(1)主服务器
yum -y install ntp
vim /etc/ntp.conf
##---------末尾添加---------
server 127.127.71.0 #设置本地是时钟源,注意修改网段
fudge 127.127.71.0 stratum 8 #设置时间层级为8(限制在15内)
service ntpd start
(2)两个从服务器
yum -y install ntp ntpdate
service ntpd start
/usr/sbin/ntpdate 192.168.71.12 #进行时间同步,指向Master服务器IP
crontab -e #设置计划任务每个半个小时同步一次时间
*/30 * * * * /usr/sbin/ntpdate 192.168.71.12
3.主服务器的mysql配置
vim /etc/my.cnf
server-id = 1
log-bin=master-bin #添加,主服务器开启二进制日志
log-slave-updates=true #添加,允许从服务器更新二进制日志
systemctl restart mysqld
mysql -u root -p
grant replication slave on *.* to 'myslave'@'192.168.71.%' identified by '123'; #对从服务器提权
#grant 授权
#replication 复制
#允许网段为192.168.71的使用密码123对所有表库都可以复制
flush privileges;
show master status;
#File 列显示日志名,Fosition 列显示偏移量
4.从服务器的mysql配置
Slave1服务器:192.168.163.13
Slave2服务器:192.168.163.14
1)修改配置文件
vim /etc/my.cnf
#修改,注意id与Master的不同,两个Slave的id也要不同
server-id = 2
#添加,开启中继日志,从主服务器上同步日志文件记录到本地
relay-log=relay-log-bin
#添加,定义中继日志文件的位置和名称
relay-log-index=slave-relay-bin.index
systemctl restart mysqld
slave1
slave2
2)从服务器 对数据库进行操作
mysql -u root - p123
change master to master_host='192.168.71.12',master_user='myslave',master_password='123',master_log_file='master-bin.000002',master_log_pos=306; #show master status;所输出的二进制文件和位置点一样
#配置同步,注意master_log_file 和master_log_pos的值要与Master查询的一致
start slave; #启动同步,如有报错执行reset slave;
show slave status\G; #查看Slave 状态
//确保 IO 和 SQL 线程都是Yes,代表同步正常。
Slave_IO_Running:Yes #负责与主机的io通信
Slave_SQL_Running:Yes #负责自己的slave mysql进程
5.验证结果
主服务器上创建一个库验,在从服务器上查看
四、MySQL读写分离实验
Amoeba服务器(192.168.153.30)
安装Java 环境
因为Amoeba 基于是jdk1.5 开发的,所以官方推荐使用jdk1.5或1.6版本,高版本不建议使用。
1)创建jdk java环境
cd /opt/
#将jdk-6u14-linux-x64.bin 和 amoeba-mysql-binary-2.2.0.tar.gz上传到/opt目录下
cp jdk-6u14-linux-x64.bin /usr/local/
cd /usr/local/
chmod +x jdk-6u14-linux-x64.bin
./jdk-6u14-linux-x64.bin
//按yes,按enter
mv jdk1.6.0_14/ /usr/1ocal/jdk1.6
vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=SCLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
source /etc/profile
java -version
2)安装 Amoeba软件
mkdir /usr/local/amoeba
tar zxvf /opt/amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
chmod -R 755 /usr/local/amoeba/
/usr/local/amoeba/bin/amoeba
//如显示amoeba start|stop 说明安装成功
3)在主从服务器的mysql上授权
Master服务器:192.168.71.12
Slave1服务器:192.168.71.13
Slave2服务器:192.168.71.14
先在Master、Slave1、Slave2 的mysql上开放权限给 Amoeba 访问
grant all on *.* to 'test'@'192.168.163.%' identified by 'abc123';
4)配置amoeba服务在阿米巴上配置
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak #对配置文件备份
vim amoeba.xml #修改amoeba配置文件
<property name="user">amoeba</property> #30行修改
<property name="password">abc123</property> #32行修改 客户端连接amoeba服务器的密码
<property.name="defaultPool">master</property> #115行修改 设置默认池
<property name="writePool">master</property> #117行去掉注释 设置master为写池
<property name="readPool">slaves</property> #slaves 为读池
cp dbServers.xml dbServers.xml.bak
vim dbServers.xml #修改数据库配置文件
<!-- <property name="schema"> test</property> --> #23行,注释掉 作用: 默认进入test库以防mysql 中没有test库时,会报错
<property name="user">test</property> #26行,修改主从服务器上提权的用户和密码
<property.name-"password">123</property> #28-30行,去掉注释
<dbServer name= "master" parent="abstractServer"> #45行,修改,设置主服务器的名Master
<property name= "ipAddress">192.168.71.12</property> #48行,修改,设置主服务器的地址
<dbServer name="slave1" parent="abstractServer"> #52行,修改,设置从服务器的名slave1
<property.name="ipAddress">192.168.71.13</property> #55行,修改,设置从服务器1的地址
<dbServer name="slave2 " parent="abstractserver"> #59行,复制上面6行粘贴,设置从服务器2的名slave2和地址
<property, name="ipAddress">192.168.71.14</property>
<dbServer name="slaves" virtual="true"> #65行,修改
<property name="poolNames">slave1,slave2</property> #71行,修改
/usr/local/amoeba/bin/amoeba start& #启动Amoeba软件,按ctrl+c 返回
netstat -anpt | grep java #查看8066端口是否开启,默认端口为TCP 8066
5)测试读写分离
在客户端服务器上测试
yum install -y mysql mysql-server #快速安装mysql,也可以选择编译安装
mysql -u amoeba -pabc123 -h 192.168.71.20 -P8066
主从服务 v器上都可以看到该表
通过amoeba服务器代理访问mysql ,在通过客户端连接mysql后写入的数据只有主服务会记录,然后同步给从服务器
stop slave; #关闭同步写入数据
use school;
//在slave1上:
insert into test1 values('1','slave1');
//在slave2上:
insert into test1 values('2','slave2');
在主服务器上插入数据
insert into test1 values('3','master');
在客户端中向表插入数据
//在客户端服务器上:
use school;
select * from test1; //客户端会分别向slave1和s1ave2读取数据,显示的只有在两个从服务器上添加的数据,没有在主服务器上添加的数据
insert into test1 values('4','climet'); //只有主服务器上有此数据
在主服务器上查看数据
同时开启两个从服务器,查看表格记录
来源:https://blog.csdn.net/weixin_53567573/article/details/116012652
猜你喜欢
- 一、前言传统上,开发人员在 JavaScript 类中为实例中可能需要的任何数据创建属性。对于在构造函数中随时可用的小块数据来说,这不是问题
- 从而使得有些字符(尤其是宽字符)无法正确地显示,即不再是utf-8格式了。解决办法:打开输出文件时即指定编码格式,就不会出现输出文件打开以后
- 全国抗"疫"这么久终于见到曙光,在家待了将近一个月,现在终于可以去上班了,可是却发现出门必备的口罩却一直买不到。最近看到
- 说来惭愧,以前在去掉数组的空值是都是强写foreach或者while的,利用这两个语法结构来删除数组中的空元素,简单代码如下:<?ph
- 从物理意义上来讲,InnoDB表由共享表空间文件(ibdata1)、独占表空间文件(ibd)、表结构文件(.frm)、以及日志文件(redo
- 一、数据获取数据获取范围为2022年一月一日到2022年2月25日,获取的数据为俄罗斯黄金,白银,石油,银行,天然气:# 导入模块
- 一、实例代码HTML:<!DOCTYPE html><html lang="en"><he
- 作为收费应用方面的数据库管理员(DBA),公司首席信息官(CIO)经常邀请我与Sarbanes-Oxley审查员开会讨 * 司数据的安全与整合
- What's more important to your web site: pictures or text? If you h
- 前言kettle是一款免费开源的、可视化的、国际上比较流行的、功能强大的ETL必备工具,在ETL这一方面做的还不错,下面介绍一下基于win1
- 本文实例讲述了mysql实现合并同一ID对应多条数据的方法。分享给大家供大家参考,具体如下:如 :CREATE TABLE `c_class
- 八卦是种优良品质,特别是用在技术上时。来看几个Reset CSS的八卦问题吧:你知道世界上第一份reset.css在哪么?*&nb
- 单例模式单例模式是一种常用的模式,有一些对象我们往往只需要一个,比如线程池、全局缓存、浏览器中的 window 对象等。在 JavaScri
- 一个封装好的链接Mysql数据库的工具类,可以方便的获取Connection对象关闭Statement、ResultSet、Statment
- 以下代码比较简单,对python实现ftp上传文件相关知识感兴趣的朋友可以参考下#encoding=utf8from ftplib impo
- 这带来了很多好处,但是也要求学习一些新的概念、命令、使用和管理任务。所以在投入你的生产系统之前,看看它解决什么、管理什么,以及对它的正反面评
- XHTML结构: <div id="myFocus-wrap"> <div id="myFo
- 很多次遇到在pycharm中无法安装第三方库的情况,今天我就遇到了,找了很多办法都没用但是在pycharm中配置anaconda环境之后再从
- TO_DATE格式(以时间:2007-11-02 13:45:25为例)1. 日期和字符转换函数用法(to_date,to_char)sel
- URLURL 是统一资源定位符,对可以从互联网上得到的资源的位置和访问方法的一种简洁的表示,是互联网上标准资源的地址。互联网上的每个文件都有