MySQL数据库在IO性能优化方面的设置选择(硬件)
提起mysql数据库在硬件方面的优化无非是cpu、内存和io。下面我们着重梳理一下关于磁盘i/o方面的优化。
1.磁盘冗余阵列raid
raid(redundant array of inexpensive disk)的基本目的是把小型廉价的硬盘合并成一块大容量的硬盘,用于解决数据冗余性并降低成本,且提高数据处理性能。
1.1 raid的优点
raid的优点可以从高传输速率和容错两方面来阐述:
(1)提高传输速率。raid通过在多个磁盘上同时存储和读取数据来大幅提高存储系统的数据吞吐量(throughput)。在raid中,可以让很多磁盘驱动器同时传输数据,而这些磁盘驱动器在逻辑上又是一个磁盘驱动器,所以使用raid可以达到单个磁盘驱动器几倍、几十倍甚至上百倍的速率。这也是raid最初想要解决的问题。因为当时cpu的速度增长很快,而磁盘驱动器的数据传输速率无法大幅提高,所以需要有一种方案解决二者之间的矛盾。
(2)通过数据校验提供容错功能。普通磁盘驱动器无法提供容错功能,如果不包括写在磁盘上的crc(循环冗余校验)码的话。raid容错是建立在每个磁盘驱动器的硬件容错功能之上的,所以它提供更高的安全性。在很多raid模式中都有较为完备的相互校验/恢复的措施,甚至是直接相互的镜像备份,从而大大提高了raid系统的容错度,提高了系统的稳定冗余性。
1.2raid常见类别
raid0 数据在从内存缓冲区写入磁盘时,根据磁盘数量将数据分成n份,这些数据同时并发写入n块磁盘,使得数据整体写入速度是一块磁盘的n倍。读取时也是一样的。因此raid0具有极快的数据读写速度。但是raid0不做数据冗余,n块磁盘中只要一块损坏,数据完整性就被破坏,所有的数据都会损坏,即任何一块硬盘的损坏都将导致数据的丢失。
raid1 数据在写入磁盘时,将一份数据同时写入两块磁盘,这样任何一块磁盘损坏都不会导致数据丢失,插入一块新磁盘就可以通过复制数据的方式自动修复,具有极高的可靠性。但对应的存储能力有所降低,如两块相同硬盘组成的raid1,则容量为其中一块硬盘的大小,即磁盘利用率为50%。
raid5 raid5也是一种普遍使用的raid类型,是一种存储性能、数据安全和存储成本兼顾的存储解决方案。磁盘空间利用率要比raid1高,存储成本相对较低。raid5 和raid4、raid3相比,校验数据分布在阵列中的所有磁盘上,而没有采用专门的校验磁盘。对于数据和校验数据,它们的写操作可以同时发生在完全不同的磁盘上。因此, raid5 不存在 raid4 中的并发写操作时的校验盘性能瓶颈问题。另外, raid5 还具备很好的扩展性。当阵列磁盘 数量增加时,并行操作量的能力也随之增长,可比 raid4 支持更多的磁盘,从而拥有更高的容量以及更高的性能。raid5 的磁盘上同时存储数据和校验数据,数据块和对应的校验信息存保存在不同的磁盘上,当一个数据盘损坏时,系统可以根据同一条带的其他数据块和对应的校验数据来重建损坏的数据。与其他 raid 等级一样,重建数据时, raid5 的性能会受到较大的影响。
说明:图中零散分布 ap bp cp dp 为校验数据
raid10 结合raid0和raid1两种方案。raid 10其实结构非常简单,首先创建2个独立的raid1,然后将这两个独立的raid1组成一个raid0,当往这个逻辑raid中写数据时,数据被有序的写入两个raid1中。磁盘1和磁盘2组成一个raid1,磁盘3和磁盘4又组成另外一个raid1;这两个raid1组成了一个新的raid0。如写在硬盘1上的数据0、2、4、6 写在硬盘2中则为数据0、2、4、6,硬盘3中的数据为1、3、5、7,硬盘4中的数据则为1、3、5、7,因此数据在这四个硬盘上组合成raid10,且具有raid0和raid1两者的特性。虽然raid10方案造成了50%的磁盘浪费,但是它提供了200%的速度和单磁盘损坏的数据安全性,并且当同时损坏的磁盘不在同一raid1中,就能保证数据安全性。假如磁盘中的某一块盘坏了,整个逻辑磁盘仍能正常工作的。 当我们需要恢复raid 10中损坏的磁盘时,只需要更换新的硬盘,按照raid10的工作原理来进行数据恢复,恢复数据过程中系统仍能正常工作。原先的数据会同步恢复到更换的硬盘中。
1.3 总结
为数据库服务器配置raid的时候,建议采用raid10配置,尽管raid10会更浪费空间,但它提供了更好的性能。直观地将,采用raid5时,由于需要更新校验数据信息,所以每写一次数据,都需要读取数据奇偶信息,经过计算后,再更新校验数据,让后再写入实际数据,而raid10则是直接写入数据。
2. 尽可能地使用ssd硬盘
ssd(solid state disk 或 solid state drive 固态硬盘)是一种基于永久性存储器的计算机外部存储设备。
与传统磁盘相比,其性能非常惊艳。
特点 | 数据对比 |
高iops | iops 即1秒内能够完成的读写次数,是存储性能的最直接的表现。传统磁盘每秒差不多可以完成200次io请求,而ssd每秒钟可以高达60万次。 |
低延迟 | 低延迟 即主机下达存储指令后,存储介质完成存储并返回正确应答的时间。传统磁盘由于驱动马达转动盘片和摇动磁头手臂,完成单个io需要2000微妙左右,而ssd只需要不到100微妙。 |
低功耗 | 如果使用传统的磁盘来创建接近ssd性能的磁盘阵列总功耗高达几百到上千瓦;而一块pcie ssd的功耗不会超过25瓦。 |
大容量 | 传统磁盘容量在4tb以下,并且增长困难,而pcie ssd已有单盘 12.8tb的容量,并且增长趋势可期。 |
故障率低且可预测 | 传统磁盘由于是机械部件,故障不可预测,年故障率在百分之三左右,而ssd的故障可以预测,年故障率在千分之五以内。 |
抗震能力强,且无噪音 | 传统磁盘是机械旋转设备,对震动敏感,甚至引发磁盘停转,同时马达也会发出噪音;而ssd完全是电子元件,抗震能力强,且不噪声。 |
3 io调度策略--ssd推荐设置为noop,sata为deadline
3.1 io调度器
每个块设备或者块设备的分区,都对应有自身的请求队列(request_queue),而每个请求队列都可以选择一个i/o调度器来协调所递交的request。i/o调度器的基本目的是将请求按照它们对应在块设备上的扇区号进行排列,以减少磁头的移动,提高效率。每个设备的请求队列里的请求将按顺序被响应。实际上,除了这个队列,每个调度器自身都维护有不同数量的队列,用来对递交上来的request进行处理,而排在队列最前面的request将适时被移动到请求队列中等待响应。
io调度器在内核栈中所处位置如下:
3.2 调度算法
内核中实现的io调度器主要有四种--noop,deadline,cfg, anticipatory。
如果简单概括总结的的话:1.noop 先进先出 2.deadline 截止时间调度程序 3.cfq 完全公平排队i/o调度程序 4.as(预料i/o调度程序) .
noop调度算法是内核中最简单的io调度算法。noop调度算法也叫作电梯调度算法,它将io请求放入到一个fifo队列中,然后逐个执行这些io请求,当然对于一些在磁盘上连续的io请求,noop算法会适当做一些合并。这个调度算法特别适合那些不希望调度器重新组织io请求顺序的应用。
deadline算法的核心在于保证每个io请求在一定的时间内一定要被服务到,以此来避免某个请求饥饿。
cfq(completely fair queuing)算法,顾名思义,绝对公平算法。它试图为竞争块设备使用权的所有进程分配一个请求队列和一个时间片,在调度器分配给进程的时间片内,进程可以将其读写请求发送给底层块设备,当进程的时间片消耗完,进程的请求队列将被挂起,等待调度。 每个进程的时间片和每个进程的队列长度取决于进程的io优先级,每个进程都会有一个io优先级,cfq调度器将会将其作为考虑的因素之一,来确定该进程的请求队列何时可以获取块设备的使用权。
anticipatory算法的核心是局部性原理,它期望一个进程做完一次io请求后还会继续在此处做io请求。在io操作中,有一种现象叫“假空闲”(deceptive idleness),它的意思是一个进程在刚刚做完一波读操作后,看似是空闲了,不读了,但是实际上它是在处理这些数据,处理完这些数据之后,它还会接着读,这个时候如果io调度器去处理另外一个进程的请求,那么当原来的假空闲进程的下一个请求来的时候,磁头又得seek到刚才的位置,这样大大增加了寻道时间和磁头旋转时间。所以,anticipatory算法会在一个读请求做完后,再等待一定时间t(通常是6ms),如果6ms内,这个进程上还有读请求过来,那么我继续服务,否则,处理下一个进程的读写请求。
对于一些非旋转磁头氏的存储设备,使用noop的效果更好。因为对于旋转磁头式的磁盘来说,io调度器的请求重组要花费一定的cpu时间,但是对于ssd磁盘来说,这些重组io请求的cpu时间可以节省下来,因为ssd提供了更智能的请求调度算法,不需要内核去画蛇添足。
3.3 性能对比
以下性能report是在ssd存储介质下,各调度策略的性能表现。
通过数据对比,我们也可以发现:ssd推荐设置为noop。
(网上还有一个别人相关的测试报告,大家可以参阅 https://www.percona.com/blog/2009/01/30/linux-schedulers-in-tpcc-like-benchmark/)
4.其它的注意事项
例如:进程打开文件数:65535 ;文件系统:选xfs(centos7已经默认是xfs了)等等。
参考文献:
1. https://www.cnblogs.com/cobbliu/p/5389556.html
2.《mysql 运维内参》
3. 网络分享
本文版权归作者所有,未经作者同意不得转载,谢谢配合!!!
上一篇: Linux中删除特殊名称文件的多种方式
下一篇: 查看命令