天天看点

性能测试之数据库调优

作者:lT点工小橙子

调优方向

硬件:选择磁盘IO读写性能高,磁盘空间大的

操作系统:优先选择linux ,且在ulimit -n中修改打开文件的数量和线程数

查看数据库本身的配置 show variables ;

性能测试之数据库调优

数据库本身的配置项

max_connections :MySQL的最大连接数,默认151,并发高时可以适当调高此值,以增加并行连接数里,因MySQL会为每个连接提供连接缓冲区,就会开销越多的内存,所以要适当调整该值。可通过Conn%通配符查看当前状态的连接数量,确定该值的大小

性能测试之数据库调优

最大连接数默认151

open_files_limit:MySQL打开的文件描述符限制:当此值没有被配置的时候,比较max_connections*5 和ulimit -n 的值,选择两者大的 。当此值被配置的时,比较open_files_limit和 max_connections*5 的值,哪个大用哪个

性能测试之数据库调优

ulimit -n的值

性能测试之数据库调优

table_open_cache :MySQL每打开一个表,都会读入一些数据到Table open cache缓存中,当MySQL在这个缓存中找不到相应信息时,才会去磁盘上读取,若系统有200并发连接,则需将此参数设置为20*N(N为每个连接所需的文件描述符数);若设置为过大大,系统处理不了那么多文件描述符,会导致出现客户端失效,连接不上

性能测试之数据库调优

max_heap_table_size:定义了用户可以创建的内存表(memory table)的大小。这个值用来计算内存表的最大行数值。默认16M

tmp_table_size :临时表大小

read_buffer_size:读入缓冲区大小。对表进行顺序扫描的请求将分配一读入缓冲区,MySQL会为它分配一段内存缓冲区read bufer size变里控制这一缓冲区的大小;如果对表的顺序扫描请求非常频繁,并且你认为频繁扫描进行得太慢,可以通过增加read_buffer_size和内存缓冲区天小可以提高扫描性能

sort_buffer_size:控制排序使用的缓冲大小。如果想要增加ORDER BY的速度,首先看是否可以让MySQL使用索引而不是额外的排序阶段,如果不能,可以尝试增加sort_buffer_size 变量的大小

性能测试之数据库调优

join_buffer_size :联合查询操作所能使用的缓冲区大小,和sort_buffer_size一样,该参数对应的分配内存也是连接独享

slow_query_log:是否开启慢查询日志

slow_query_log_file 慢查询开关开启启,慢查询脚本会自动写入文件

long_query_time :慢查询阀值时间 sql的执行时间超过这个设定时间,就是慢查询。单位: 秒

innodb_open_files:限制innodb能打开的表数据

wait_timeout: 服务器关交互连接之前等待活动的秒数。在线程启动时,根据全局wat tmeout值或全局interacive tmeout值初始化会wat timeout值,取决于客户端类型(由mysal real connect)的连接选项CLIENT INTERACTIVE定义)。参数默认值:28800秒(8小时)

模拟慢查询

获取到慢查询脚本的方法

1.开启 slow_query_log 开关,现在是关闭状态,需要操作配置文件进行修改

性能测试之数据库调优

2,通过docker exec -it 容器名称 /bin/bash 进去数据库容器内部

找到容器中 mysql的配置文件路径 /etc/mysql/mysql.cnf

性能测试之数据库调优

进入alternatives目录,查看到my.cnf 已经软链接到容器内的/etc/mysql 目录下

性能测试之数据库调优
性能测试之数据库调优

3. 从容器中,拷贝路径下 mysql.cnf文件到本机linux外

执行命令:docker cp 容器名称 :/etc/mysql/mysql.cnf $PWD

性能测试之数据库调优

4.修改文件添加内容 :

slow_query_log=ON #开关

long_query_time=1 #超时1s

5.把修改好的mysqld.cnf文件,再次复制到容器中去 (cp 源 路径)

docker cp mysqld.cnf centos7_mysql57:/etc/mysql/mysql.conf.d/mysqld.cnf

性能测试之数据库调优

复制号的路径和配置文件

6.重启容器之后,日志,就根据long_query_time的时间,判断,超过这个时间,那么就会写入slow_query_log_file文件中去

性能测试之数据库调优

开启成功

编写压测脚本对服务器进行压测

性能测试之数据库调优

将慢sql日志文件复制出来 :docker cp 容器名称:/var/lib/mysql/e2d0077fb342-slow.log $PWD

性能测试之数据库调优

生成的慢查询的日志

常见错误: Too many connections

需要适当调整 max_connections的值

查看最大配置的最大连接数:show variables like 'max_connections%';

性能测试之数据库调优

查看用户已建立的连接数:show GLOBAL status like 'max_used_connections%';

性能测试之数据库调优

若:max_connections的值和 max_used_connections的值接近说明数据库连接数不足,需要进行以下操作

调整参数:适当修改max connections值 200-1000 的区间。

调整项目本身的配置,如连接池

性能测试之数据库调优
  • initialSize 初始化连接数
  • maxActive 连接池的最大连接数,0表示无限制
  • maxldle 最大空闲连接,暂时不断开,随时待命
  • minldle 最小空闲连接
  • maxWait 超时等待时间,毫秒;-1表示无限等待,直到超时

在数据库机器执行下面的命令,可以看到数据库总连接数

性能测试之数据库调优

本机数据库端口3337

netstat -ano|grep 数据库端口|grep ESTABLISHED |wc -l

在数据库机器中执行 可以看到 应用程序与 数据库建立连接数有多少

netstat -ano|grep 数据库端口|grep 服务端ip|grep ESTABLISHED |wc -l