欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识！
您现在的位置是： 首页  >  IT编程

数据库性能测试之sysbench工具的安装与用法详解

程序员文章站 2022-07-05 17:16:51
1.简介和安装 sysbench是一个开源的、模块化的、跨平台的多线程性能测试工具，可以用来进行cpu、内存、磁盘i/o、线程、数据库的性能测试。目前支持的数据库有mys...

1.简介和安装

sysbench是一个开源的、模块化的、跨平台的多线程性能测试工具，可以用来进行cpu、内存、磁盘i/o、线程、数据库的性能测试。目前支持的数据库有mysql、oracle和postgresql。

  • 官方站点：https://github.com/akopytov/sysbench/
  • rpm包下载：https://packagecloud.io/akopytov/sysbench/packages/el/7/sysbench-1.0.15-1.el7.centos.x86_64.rpm
  • 源码包下载：https://github.com/akopytov/sysbench/archive/1.0.15.tar.gz
  • 本地下载：

如果是编译安装，需要先安装好mysql的开发包(尽管编译错误时提示的是缺少mysql库文件)。

yum -y install mysql-community-devel

tar xf 1.0.15.tar.gz
cd sysbench-1.0.15
./autogen.sh
./configure
make -j
make install

安装后，只有一个二进制文件sysbench，还提供了很多个lua脚本。

[root@s1 ~]# rpm -ql sysbench | grep 'bin\|lua' 
/usr/bin/sysbench
/usr/share/sysbench/bulk_insert.lua
/usr/share/sysbench/oltp_common.lua
/usr/share/sysbench/oltp_delete.lua
/usr/share/sysbench/oltp_insert.lua
/usr/share/sysbench/oltp_point_select.lua
/usr/share/sysbench/oltp_read_only.lua
/usr/share/sysbench/oltp_read_write.lua
/usr/share/sysbench/oltp_update_index.lua
/usr/share/sysbench/oltp_update_non_index.lua
/usr/share/sysbench/oltp_write_only.lua
/usr/share/sysbench/select_random_points.lua
/usr/share/sysbench/select_random_ranges.lua
/usr/share/sysbench/tests/include/inspect.lua
/usr/share/sysbench/tests/include/oltp_legacy/bulk_insert.lua
/usr/share/sysbench/tests/include/oltp_legacy/common.lua
/usr/share/sysbench/tests/include/oltp_legacy/delete.lua
/usr/share/sysbench/tests/include/oltp_legacy/insert.lua
/usr/share/sysbench/tests/include/oltp_legacy/oltp.lua
/usr/share/sysbench/tests/include/oltp_legacy/oltp_simple.lua
/usr/share/sysbench/tests/include/oltp_legacy/parallel_prepare.lua
/usr/share/sysbench/tests/include/oltp_legacy/select.lua
/usr/share/sysbench/tests/include/oltp_legacy/select_random_points.lua
/usr/share/sysbench/tests/include/oltp_legacy/select_random_ranges.lua
/usr/share/sysbench/tests/include/oltp_legacy/update_index.lua
/usr/share/sysbench/tests/include/oltp_legacy/update_non_index.lua

本文介绍的是新版本sysbench oltp lua脚本的用法(/usr/share/sysbench/*.lua)，所以不涉及传统的lua(tests/include/oltp_legacy/*.lua)，如果想要了解这些传统lua脚本的用法，网上随便找。

2.sysbench使用方法

以下列出了sysbench对测试mysql时常用的选项。

[root@xuexi ~]# sysbench --help
usage:
 sysbench [options]... [test_lua] [lua_options] [command]

commands implemented by most tests: prepare run cleanup help

通用选项：以下中括号中的值表示默认值

  --threads=n                     指定线程数[1]
  --events=n                      限制最大请求数，0表示不限制[0]
  --time=n                        限制最长执行时间，0表示不限制[10]
                    --events和--time二者选一即可
  --forced-shutdown=string        达到最长执行时间后还需等待多久关闭sysbench
                                  off表示禁用该功能[off]
  --thread-stack-size=size        每个线程使用的栈空间大小[64k]
  --rate=n                        平均事务处理速率，0表示不限制[0]
  --report-interval=n             每隔几秒报告一次结果，0表示禁用间隔报告[0]
  --config-file=filename          从文件中读取命令行选项
  --tx-rate=n                     已废弃，是--rate的别名[0]
  --max-requests=n                已废弃，是--events的别名[0]
  --max-time=n                    已废弃，是--time的别名[0]
  --num-threads=n                 已废弃，是--threads的别名[1]

mysql相关选项：

  --mysql-host=[list,...]          mysql server host [localhost]
  --mysql-port=[list,...]          mysql server port [3306]
  --mysql-socket=[list,...]        mysql socket
  --mysql-user=string              mysql user [sbtest]
  --mysql-password=string          mysql password []
  --mysql-db=string                mysql database name [sbtest]
  --mysql-ignore-errors=[list,...] 要忽略的错误代码，值可为"all" [1213,1020,1205]

compiled-in tests:
  fileio - file i/o test
  cpu - cpu performance test
  memory - memory functions speed test
  threads - threads subsystem performance test
  mutex - mutex performance test

其中，command部分有4类：prepare run cleanup和help：

  • prepare：准备数据的命令。例如，在sysbench压力测试之前，需要先准备好测试库、测试表以及测试表中的数据。具体用法见后文。
  • run：表示进行压力测试。
  • cleanup：清除测试时产生的数据。
  • help：输出给定lua脚本的帮助信息。

test_lua是想要使用的lua脚本，如果是rpm包安装的sysbench，则这些脚本都是/usr/share/sysbench目录下。对于一般的数据库测试，只需使用和oltp有关的lua脚本就足够。

options和lua_options是不同的，options是sysbench的选项，lua_options是lua脚本的选项，lua_options应该要放在test_lua的后面(非必需，但建议)。

例如，要查看oltp_common.lua的用法，可以：

sysbench /usr/share/sysbench/oltp_common.lua help

3.准备测试数据

首先创建sysbench所需数据库sbtest(这是sysbench默认使用的库名，必须创建测试库)。

mysqladmin -h127.0.0.1 -uroot -pp@ssword1! -p3306 create sbtest;

然后，准备测试所用的表，这些测试表放在测试库sbtest中。这里使用的lua脚本为/usr/share/sysbench/oltp_common.lua。

sysbench --mysql-host=127.0.0.1 \
   --mysql-port=3306 \
   --mysql-user=root \
   --mysql-password=p@ssword1! \
   /usr/share/sysbench/oltp_common.lua \
   --tables=10 \
   --table_size=100000 \
   prepare

其中--tables=10表示创建10个测试表，--table_size=100000表示每个表中插入10w行数据，prepare表示这是准备数的过程。

mysql> show tables from sbtest;
+------------------+
| tables_in_sbtest |
+------------------+
| sbtest1   |
| sbtest10   |
| sbtest2   |
| sbtest3   |
| sbtest4   |
| sbtest5   |
| sbtest6   |
| sbtest7   |
| sbtest8   |
| sbtest9   |
+------------------+

mysql> select count(*) from sbtest.sbtest1;
+----------+
| count(*) |
+----------+
| 100000 |
+----------+

如果想要清除这10个表，可使用cleanup命令。

sysbench --mysql-host=127.0.0.1 \
   --mysql-port=3306 \
   --mysql-user=root \
   --mysql-password=p@ssword1! \
   /usr/share/sysbench/oltp_common.lua \
   --tables=10 \
   cleanup

4.数据库测试和结果分析

稍微修改下之前准备数据的语句，就可以拿来测试了。

需要注意的是，之前使用的lua脚本为oltp_common.lua，它是一个通用脚本，是被其它lua脚本调用的，它不能直接拿来测试。

所以，我这里用oltp_read_write.lua脚本来做读、写测试。还有很多其它类型的测试，比如只读测试、只写测试、删除测试、大批量插入测试等等。可找到对应的lua脚本进行调用即可。

sysbench --threads=4 \
   --time=20 \
   --report-interval=5 \
   --mysql-host=127.0.0.1 \
   --mysql-port=3306 \
   --mysql-user=root \
   --mysql-password=p@ssword1! \
   /usr/share/sysbench/oltp_read_write.lua \
   --tables=10 \
   --table_size=100000 \
   run

以下是测试返回的结果：

initializing worker threads...

threads started!


####以下是每5秒返回一次的结果，统计的指标包括：
#### 线程数、tps(每秒事务数)、qps(每秒查询数)、
#### 每秒的读/写/其它次数、延迟、每秒错误数、每秒重连次数
[ 5s ] thds: 4 tps: 130.16 qps: 2606.30 (r/w/o: 1824.51/520.66/261.13) lat (ms,95%): 104.84 err/s: 0.00 reconn/s: 0.00
[ 10s ] thds: 4 tps: 126.74 qps: 2539.17 (r/w/o: 1778.17/507.52/253.47) lat (ms,95%): 108.68 err/s: 0.00 reconn/s: 0.00
[ 15s ] thds: 4 tps: 136.54 qps: 2736.34 (r/w/o: 1915.25/548.01/273.07) lat (ms,95%): 102.97 err/s: 0.00 reconn/s: 0.00
[ 20s ] thds: 4 tps: 107.44 qps: 2148.65 (r/w/o: 1505.60/428.17/214.89) lat (ms,95%): 132.49 err/s: 0.00 reconn/s: 0.00

sql statistics:
    queries performed:
        read:          35098   # 执行的读操作数量
        write:         10028   # 执行的写操作数量
        other:         5014    # 执行的其它操作数量
        total:         50140
    transactions:      2507   (124.29 per sec.)    # 执行事务的平均速率
    queries:           50140  (2485.82 per sec.)   # 平均每秒能执行多少次查询
    ignored errors:    0      (0.00 per sec.)
    reconnects:        0      (0.00 per sec.)

general statistics:
    total time:                  20.1694s     # 总消耗时间
    total number of events:      2507         # 总请求数量(读、写、其它)

latency (ms):
         min:                            2.32
         avg:                           32.13
         max:                          575.78
         95th percentile:              118.92    # 采样计算的平均延迟
         sum:                        80554.96

threads fairness:
    events (avg/stddev):           626.7500/2.49
    execution time (avg/stddev):   20.1387/0.04

5.cpu/io/内存等测试

sysbench内置了几个测试指标。

compiled-in tests:
  fileio - file i/o test
  cpu - cpu performance test
  memory - memory functions speed test
  threads - threads subsystem performance test
  mutex - mutex performance test

可直接help输出测试方法。例如，fileio测试。

[root@xuexi ~]# sysbench fileio help
sysbench 1.0.15 (using bundled luajit 2.1.0-beta2)

fileio options:
 --file-num=n     number of files to create [128]
 --file-block-size=n   block size to use in all io operations [16384]
 --file-total-size=size  total size of files to create [2g]
 --file-test-mode=string  test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}
 --file-io-mode=string   file operations mode {sync,async,mmap} [sync]
 --file-async-backlog=n  number of asynchronous operatons to queue per thread [128]
 --file-extra-flags=[list,...] list of additional flags to use to open files {sync,dsync,direct} []
 --file-fsync-freq=n   do fsync() after this number of requests (0 - don't use fsync()) [100]
 --file-fsync-all[=on|off]  do fsync() after each write operation [off]
 --file-fsync-end[=on|off]  do fsync() at the end of test [on]
 --file-fsync-mode=string  which method to use for synchronization {fsync, fdatasync} [fsync]
 --file-merged-requests=n  merge at most this number of io requests if possible (0 - don't merge) [0]
 --file-rw-ratio=n    reads/writes ratio for combined test [1.5]

例如，创建5个文件，总共1g，每个文件大概200m。

sysbench fileio --file-num=5 --file-total-size=1g prepare

[root@xuexi ~]# ls -lh test*
-rw------- 1 root root 205m jul 8 12:15 test_file.0
-rw------- 1 root root 205m jul 8 12:15 test_file.1
-rw------- 1 root root 205m jul 8 12:15 test_file.2
-rw------- 1 root root 205m jul 8 12:15 test_file.3
-rw------- 1 root root 205m jul 8 12:15 test_file.4

然后，运行测试。

sysbench --events=5000 \
   --threads=16 \
   fileio \
   --file-num=5 \
   --file-total-size=g \
   --file-test-mode=rndrw \
   --file-fsync-freq=0 \
   --file-block-size=16384 \
   run

结果：

file operations:
    reads/s:                      98.67
    writes/s:                     66.85
    fsyncs/s:                     6.26

throughput:     # 吞吐量
    read, mib/s:                  1.54  # 表示读的带宽
    written, mib/s:               1.04  # 表示读的带宽

general statistics:
    total time:                   12.7426s
    total number of events:       2117

latency (ms):
         min:                          0.00
         avg:                         86.66
         max:                       2919.41
         95th percentile:            646.19
         sum:                     183460.80

threads fairness:
    events (avg/stddev):          132.3125/24.19
    execution time (avg/stddev):  11.4663/1.09

再比例cpu性能测试：

[root@xuexi ~]# sysbench cpu --threads=40 --events=10000 --cpu-max-prime=20000 run
sysbench 1.0.15 (using bundled luajit 2.1.0-beta2)

running the test with following options:
number of threads: 40
initializing random number generator from current time


prime numbers limit: 20000

initializing worker threads...

threads started!

cpu speed:
 events per second: 2127.81

general statistics:
 total time:       4.986s
 total number of events:    10000

latency (ms):
   min:         1.72
   avg:         18.16
   max:         302.17
   5th percentile:      110.66
   sum:        181628.49

threads fairness:
 events (avg/stddev):   250.0000/30.81
 execution time (avg/stddev): 4.5407/0.10

总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，如果有疑问大家可以留言交流，谢谢大家对的支持。

上一篇： MySQL8新特性：持久化全局变量的修改方法

下一篇： MySQL子查询操作实例详解

推荐阅读