Mysql5.6启动内存占用过高解决方案
程序员文章站
2023-12-20 14:03:22
最近把mysql升级到了5.6版本,无意中在任务管理器发现mysql内存占用达到400+m,这是怎么回事呢?以前的版本可没有遇到过这种情况啊。开始的时候还以为是缓存了某个数...
最近把mysql升级到了5.6版本,无意中在任务管理器发现mysql内存占用达到400+m,这是怎么回事呢?以前的版本可没有遇到过这种情况啊。开始的时候还以为是缓存了某个数据量较大的表的数据。于是重启mysql服务,但结果出乎意料,mysql服务一起启动,内存就又飙升到400+m。心想,这肯定不是缓存的那个表数据的问题了。接下来就是寻找解决mysql 5.6 内存占用过高这个问题的解决方案了。 经过实验测试,修改一下my.ini这个配置文件的配置选项是可以限制mysql5.6内存占用过高这一问题的,具体修改选项如下:
performance_schema_max_table_instances=400
table_definition_cache=400
table_open_cache=256
你如果在my.ini这个文件没中找到以上配置选项,则追加到该文件中即可。 完成以上配置的修改,重启mysql服务。这个mysql的内存占用从修改前的400+m直接降到40+m。 再也不会担心mysql占用内存过高的问题啦^_^
vps的内存为512m,安装好nginx,php等启动起来,mysql死活启动不起来看了日志只看到对应pid被结束了,后跟踪看发现是内存不足被killed;
调整my.cnf 参数,重新配置(系统默认配置太高直接占用400m内存,小玩家玩不起呢)即可
performance_schema_max_table_instances=200 table_definition_cache=200 table_open_cache=128
下面附一个相关的my.cnf配置文件的说明
[client] port = 3306 socket = /tmp/mysql.sock [mysqld] port = 3306 socket = /tmp/mysql.sock basedir = /usr/local/mysql datadir = /data/mysql pid-file = /data/mysql/mysql.pid user = mysql bind-address = 0.0.0.0 server-id = 1 #表示是本机的序号为1,一般来讲就是master的意思 skip-name-resolve # 禁止mysql对外部连接进行dns解析,使用这一选项可以消除mysql进行dns解析的时间。但需要注意,如果开启该选项, # 则所有远程主机连接授权都要使用ip地址方式,否则mysql将无法正常处理连接请求 #skip-networking back_log = 600 # mysql能有的连接数量。当主要mysql线程在一个很短时间内得到非常多的连接请求,这就起作用, # 然后主线程花些时间(尽管很短)检查连接并且启动一个新线程。back_log值指出在mysql暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。 # 如果期望在一个短时间内有很多连接,你需要增加它。也就是说,如果mysql的连接数据达到max_connections时,新来的请求将会被存在堆栈中, # 以等待某一连接释放资源,该堆栈的数量即back_log,如果等待连接的数量超过back_log,将不被授予连接资源。 # 另外,这值(back_log)限于您的操作系统对到来的tcp/ip连接的侦听队列的大小。 # 你的操作系统在这个队列大小上有它自己的限制(可以检查你的os文档找出这个变量的最大值),试图设定back_log高于你的操作系统的限制将是无效的。 max_connections = 1000 # mysql的最大连接数,如果服务器的并发连接请求量比较大,建议调高此值,以增加并行连接数量,当然这建立在机器能支撑的情况下,因为如果连接数越多,介于mysql会为每个连接提供连接缓冲区,就会开销越多的内存,所以要适当调整该值,不能盲目提高设值。可以过‘conn%‘通配符查看当前状态的连接数量,以定夺该值的大小。 max_connect_errors = 6000 # 对于同一主机,如果有超出该参数值个数的中断错误连接,则该主机将被禁止连接。如需对该主机进行解禁,执行:flush host。 open_files_limit = 65535 # mysql打开的文件描述符限制,默认最小1024;当open_files_limit没有被配置的时候,比较max_connections*5和ulimit -n的值,哪个大用哪个, # 当open_file_limit被配置的时候,比较open_files_limit和max_connections*5的值,哪个大用哪个。 table_open_cache = 128 # mysql每打开一个表,都会读入一些数据到table_open_cache缓存中,当mysql在这个缓存中找不到相应信息时,才会去磁盘上读取。默认值64 # 假定系统有200个并发连接,则需将此参数设置为200*n(n为每个连接所需的文件描述符数目); # 当把table_open_cache设置为很大时,如果系统处理不了那么多文件描述符,那么就会出现客户端失效,连接不上 max_allowed_packet = 4m # 接受的数据包大小;增加该变量的值十分安全,这是因为仅当需要时才会分配额外内存。例如,仅当你发出长查询或mysqld必须返回大的结果行时mysqld才会分配更多内存。 # 该变量之所以取较小默认值是一种预防措施,以捕获客户端和服务器之间的错误信息包,并确保不会因偶然使用大的信息包而导致内存溢出。 binlog_cache_size = 1m # 一个事务,在没有提交的时候,产生的日志,记录到cache中;等到事务提交需要提交的时候,则把日志持久化到磁盘。默认binlog_cache_size大小32k max_heap_table_size = 8m # 定义了用户可以创建的内存表(memory table)的大小。这个值用来计算内存表的最大行数值。这个变量支持动态改变 tmp_table_size = 16m # mysql的heap(堆积)表缓冲大小。所有联合在一个dml指令内完成,并且大多数联合甚至可以不用临时表即可以完成。 # 大多数临时表是基于内存的(heap)表。具有大的记录长度的临时表 (所有列的长度的和)或包含blob列的表存储在硬盘上。 # 如果某个内部heap(堆积)表大小超过tmp_table_size,mysql可以根据需要自动将内存中的heap表改为基于硬盘的myisam表。还可以通过设置tmp_table_size选项来增加临时表的大小。也就是说,如果调高该值,mysql同时将增加heap表的大小,可达到提高联接查询速度的效果 read_buffer_size = 2m # mysql读入缓冲区大小。对表进行顺序扫描的请求将分配一个读入缓冲区,mysql会为它分配一段内存缓冲区。read_buffer_size变量控制这一缓冲区的大小。 # 如果对表的顺序扫描请求非常频繁,并且你认为频繁扫描进行得太慢,可以通过增加该变量值以及内存缓冲区大小提高其性能 read_rnd_buffer_size = 8m # mysql的随机读缓冲区大小。当按任意顺序读取行时(例如,按照排序顺序),将分配一个随机读缓存区。进行排序查询时, # mysql会首先扫描一遍该缓冲,以避免磁盘搜索,提高查询速度,如果需要排序大量数据,可适当调高该值。但mysql会为每个客户连接发放该缓冲空间,所以应尽量适当设置该值,以避免内存开销过大 sort_buffer_size = 8m # mysql执行排序使用的缓冲大小。如果想要增加order by的速度,首先看是否可以让mysql使用索引而不是额外的排序阶段。 # 如果不能,可以尝试增加sort_buffer_size变量的大小 join_buffer_size = 8m # 联合查询操作所能使用的缓冲区大小,和sort_buffer_size一样,该参数对应的分配内存也是每连接独享 thread_cache_size = 8 # 这个值(默认8)表示可以重新利用保存在缓存中线程的数量,当断开连接时如果缓存中还有空间,那么客户端的线程将被放到缓存中, # 如果线程重新被请求,那么请求将从缓存中读取,如果缓存中是空的或者是新的请求,那么这个线程将被重新创建,如果有很多新的线程, # 增加这个值可以改善系统性能.通过比较connections和threads_created状态的变量,可以看到这个变量的作用。(–>表示要调整的值) # 根据物理内存设置规则如下: # 1g —> 8 # 2g —> 16 # 3g —> 32 # 大于3g —> 64 query_cache_size = 8m #mysql的查询缓冲大小(从4.0.1开始,mysql提供了查询缓冲机制)使用查询缓冲,mysql将select语句和查询结果存放在缓冲区中, # 今后对于同样的select语句(区分大小写),将直接从缓冲区中读取结果。根据mysql用户手册,使用查询缓冲最多可以达到238%的效率。 # 通过检查状态值‘qcache_%‘,可以知道query_cache_size设置是否合理:如果qcache_lowmem_prunes的值非常大,则表明经常出现缓冲不够的情况, # 如果qcache_hits的值也非常大,则表明查询缓冲使用非常频繁,此时需要增加缓冲大小;如果qcache_hits的值不大,则表明你的查询重复率很低, # 这种情况下使用查询缓冲反而会影响效率,那么可以考虑不用查询缓冲。此外,在select语句中加入sql_no_cache可以明确表示不使用查询缓冲 query_cache_limit = 2m #指定单个查询能够使用的缓冲区大小,默认1m key_buffer_size = 4m #指定用于索引的缓冲区大小,增加它可得到更好处理的索引(对所有读和多重写),到你能负担得起那样多。如果你使它太大, # 系统将开始换页并且真的变慢了。对于内存在4gb左右的服务器该参数可设置为384m或512m。通过检查状态值key_read_requests和key_reads, # 可以知道key_buffer_size设置是否合理。比例key_reads/key_read_requests应该尽可能的低, # 至少是1:100,1:1000更好(上述状态值可以使用show status like ‘key_read%‘获得)。注意:该参数值设置的过大反而会是服务器整体效率降低 ft_min_word_len = 4 # 分词词汇最小长度,默认4 transaction_isolation = repeatable-read # mysql支持4种事务隔离级别,他们分别是: # read-uncommitted, read-committed, repeatable-read, serializable. # 如没有指定,mysql默认采用的是repeatable-read,oracle默认的是read-committed log_bin = mysql-bin binlog_format = mixed expire_logs_days = 30 #超过30天的binlog删除 log_error = /data/mysql/mysql-error.log #错误日志路径 slow_query_log = 1 long_query_time = 1 #慢查询时间 超过1秒则为慢查询 slow_query_log_file = /data/mysql/mysql-slow.log performance_schema = 0 explicit_defaults_for_timestamp #lower_case_table_names = 1 #不区分大小写 skip-external-locking #mysql选项以避免外部锁定。该选项默认开启 default-storage-engine = innodb #默认存储引擎 innodb_file_per_table = 1 # innodb为独立表空间模式,每个数据库的每个表都会生成一个数据空间 # 独立表空间优点: # 1.每个表都有自已独立的表空间。 # 2.每个表的数据和索引都会存在自已的表空间中。 # 3.可以实现单表在不同的数据库中移动。 # 4.空间可以回收(除drop table操作处,表空不能自已回收) # 缺点: # 单表增加过大,如超过100g # 结论: # 共享表空间在insert操作上少有优势。其它都没独立表空间表现好。当启用独立表空间时,请合理调整:innodb_open_files innodb_open_files = 500 # 限制innodb能打开的表的数据,如果库里的表特别多的情况,请增加这个。这个值默认是300 innodb_buffer_pool_size = 64m # innodb使用一个缓冲池来保存索引和原始数据, 不像myisam. # 这里你设置越大,你在存取表里面数据时所需要的磁盘i/o越少. # 在一个独立使用的数据库服务器上,你可以设置这个变量到服务器物理内存大小的80% # 不要设置过大,否则,由于物理内存的竞争可能导致操作系统的换页颠簸. # 注意在32位系统上你每个进程可能被限制在 2-3.5g 用户层面内存限制, # 所以不要设置的太高. innodb_write_io_threads = 4 innodb_read_io_threads = 4 # innodb使用后台线程处理数据页上的读写 i/o(输入输出)请求,根据你的 cpu 核数来更改,默认是4 # 注:这两个参数不支持动态改变,需要把该参数加入到my.cnf里,修改完后重启mysql服务,允许值的范围从 1-64 innodb_thread_concurrency = 0 # 默认设置为 0,表示不限制并发数,这里推荐设置为0,更好去发挥cpu多核处理能力,提高并发量 innodb_purge_threads = 1 # innodb中的清除操作是一类定期回收无用数据的操作。在之前的几个版本中,清除操作是主线程的一部分,这意味着运行时它可能会堵塞其它的数据库操作。 # 从mysql5.5.x版本开始,该操作运行于独立的线程中,并支持更多的并发数。用户可通过设置innodb_purge_threads配置参数来选择清除操作是否使用单 # 独线程,默认情况下参数设置为0(不使用单独线程),设置为 1 时表示使用单独的清除线程。建议为1 innodb_flush_log_at_trx_commit = 2 # 0:如果innodb_flush_log_at_trx_commit的值为0,log buffer每秒就会被刷写日志文件到磁盘,提交事务的时候不做任何操作(执行是由mysql的master thread线程来执行的。 # 主线程中每秒会将重做日志缓冲写入磁盘的重做日志文件(redo log)中。不论事务是否已经提交)默认的日志文件是ib_logfile0,ib_logfile1 # 1:当设为默认值1的时候,每次提交事务的时候,都会将log buffer刷写到日志。 # 2:如果设为2,每次提交事务都会写日志,但并不会执行刷的操作。每秒定时会刷到日志文件。要注意的是,并不能保证100%每秒一定都会刷到磁盘,这要取决于进程的调度。 # 每次事务提交的时候将数据写入事务日志,而这里的写入仅是调用了文件系统的写入操作,而文件系统是有 缓存的,所以这个写入并不能保证数据已经写入到物理磁盘 # 默认值1是为了保证完整的acid。当然,你可以将这个配置项设为1以外的值来换取更高的性能,但是在系统崩溃的时候,你将会丢失1秒的数据。 # 设为0的话,mysqld进程崩溃的时候,就会丢失最后1秒的事务。设为2,只有在操作系统崩溃或者断电的时候才会丢失最后1秒的数据。innodb在做恢复的时候会忽略这个值。 # 总结 # 设为1当然是最安全的,但性能页是最差的(相对其他两个参数而言,但不是不能接受)。如果对数据一致性和完整性要求不高,完全可以设为2,如果只最求性能,例如高并发写的日志服务器,设为0来获得更高性能 innodb_log_buffer_size = 2m # 此参数确定些日志文件所用的内存大小,以m为单位。缓冲区更大能提高性能,但意外的故障将会丢失数据。mysql开发人员建议设置为1-8m之间 innodb_log_file_size = 32m # 此参数确定数据日志文件的大小,更大的设置可以提高性能,但也会增加恢复故障数据库所需的时间 innodb_log_files_in_group = 3 # 为提高性能,mysql可以以循环方式将日志文件写到多个文件。推荐设置为3 innodb_max_dirty_pages_pct = 90 # innodb主线程刷新缓存池中的数据,使脏数据比例小于90% innodb_lock_wait_timeout = 120 # innodb事务在被回滚之前可以等待一个锁定的超时秒数。innodb在它自己的锁定表中自动检测事务死锁并且回滚事务。innodb用lock tables语句注意到锁定设置。默认值是50秒 bulk_insert_buffer_size = 8m # 批量插入缓存大小, 这个参数是针对myisam存储引擎来说的。适用于在一次性插入100-1000+条记录时, 提高效率。默认值是8m。可以针对数据量的大小,翻倍增加。 myisam_sort_buffer_size = 8m # myisam设置恢复表之时使用的缓冲区的尺寸,当在repair table或用create index创建索引或alter table过程中排序 myisam索引分配的缓冲区 myisam_max_sort_file_size = 10g # 如果临时文件会变得超过索引,不要使用快速排序索引方法来创建一个索引。注释:这个参数以字节的形式给出 myisam_repair_threads = 1 # 如果该值大于1,在repair by sorting过程中并行创建myisam表索引(每个索引在自己的线程内) interactive_timeout = 28800 # 服务器关闭交互式连接前等待活动的秒数。交互式客户端定义为在mysql_real_connect()中使用client_interactive选项的客户端。默认值:28800秒(8小时) wait_timeout = 28800 # 服务器关闭非交互连接之前等待活动的秒数。在线程启动时,根据全局wait_timeout值或全局interactive_timeout值初始化会话wait_timeout值, # 取决于客户端类型(由mysql_real_connect()的连接选项client_interactive定义)。参数默认值:28800秒(8小时) # mysql服务器所支持的最大连接数是有上限的,因为每个连接的建立都会消耗内存,因此我们希望客户端在连接到mysql server处理完相应的操作后, # 应该断开连接并释放占用的内存。如果你的mysql server有大量的闲置连接,他们不仅会白白消耗内存,而且如果连接一直在累加而不断开, # 最终肯定会达到mysql server的连接上限数,这会报‘too many connections‘的错误。对于wait_timeout的值设定,应该根据系统的运行情况来判断。 # 在系统运行一段时间后,可以通过show processlist命令查看当前系统的连接状态,如果发现有大量的sleep状态的连接进程,则说明该参数设置的过大, # 可以进行适当的调整小些。要同时设置interactive_timeout和wait_timeout才会生效。
[mysqldump] quick max_allowed_packet = 16m #服务器发送和接受的最大包长度 [myisamchk] key_buffer_size = 8m sort_buffer_size = 8m read_buffer = 4m write_buffer = 4m
以上所述是小编给大家介绍的mysql5.6启动内存占用过高解决方案,希望对大家有所帮助