Mysql数据库性能优化一
今天,数据库的操作越来越成为整个应用的性能瓶颈了,这点对于web应用尤其明显。关于数据库的性能,这并不只是dba才需要担心的事,而这更是我们程序员需要去关注的事情。当我们去设计数据库表结构,对操作数据库时(尤其是查表时的sql语句),我们都需要注意数据操作的性能。这里,我们不会讲过多的sql语句的优化,而只是针对mysql这一web应用最多的数据库。
mysql的性能优化无法一蹴而就,必须一步一步慢慢来,从各个方面进行优化,最终性能就会有大的提升。
mysql数据库的优化技术
对mysql优化是一个综合性的技术,主要包括
•表的设计合理化(符合3nf)
•添加适当索引(index) [四种: 普通索引、主键索引、唯一索引unique、全文索引]
•分表技术(水平分割、垂直分割)
•读写[写: update/delete/add]分离
•存储过程 [模块化编程,可以提高速度]
•对mysql配置优化 [配置最大并发数my.ini, 调整缓存大小 ]
•mysql服务器硬件升级
•定时的去清除不需要的数据,定时进行碎片整理(myisam)
数据库优化工作
对于一个以数据为中心的应用,数据库的好坏直接影响到程序的性能,因此数据库性能至关重要。一般来说,要保证数据库的效率,要做好以下四个方面的工作:
① 数据库设计
② sql语句优化
③ 数据库参数配置
④ 恰当的硬件资源和操作系统
此外,使用适当的存储过程,也能提升性能。
这个顺序也表现了这四个工作对性能影响的大小
数据库表设计
通俗地理解三个范式,对于数据库设计大有好处。在数据库设计中,为了更好地应用三个范式,就必须通俗地理解三个范式(通
俗地理解是够用的理解,并不是最科学最准确的理解):
第一范式:1nf是对属性的原子性约束,要求属性(列)具有原子性,不可再分解;(只要是关系型数据库都满足1nf)
第二范式:2nf是对记录的惟一性约束,要求记录有惟一标识,即实体的惟一性;
第三范式:3nf是对字段冗余性的约束,它要求字段没有冗余。 没有冗余的数据库设计可以做到。
但是,没有冗余的数据库未必是最好的数据库,有时为了提高运行效率,就必须降低范式标准,适当保留冗余数据。具体做法是: 在概念数据模型设计时遵守第三范式,降低范式标准的工作放到物理数据模型设计时考虑。降低范式就是增加字段,允许冗余。
☞ 数据库的分类
关系型数据库: mysql/oracle/db2/informix/sysbase/sql server
非关系型数据库: (特点: 面向对象或者集合)
nosql数据库: mongodb(特点是面向文档)
举例说明什么是适度冗余,或者说有理由的冗余!
上面这个就是不合适的冗余,原因是:
在这里,为了提高学生活动记录的检索效率,把单位名称冗余到学生活动记录表里。单位信息有500条记录,而学生活动记录在
一年内大概有200万数据量。 如果学生活动记录表不冗余这个单位名称字段,只包含三个int字段和一个timestamp字段,只占用了16字节,是一个很小的表。而冗余了一个 varchar(32)的字段后则是原来的3倍,检索起来相应也多了这么多的i/o。而且记录数相差悬殊,500 vs 2000000 ,导致更新一个单位名称还要更新4000条冗余记录。由此可见,这个冗余根本就是适得其反。
订单表里面的price就是一个冗余字段,因为我们可以从订单明细表中统计出这个订单的价格,但是这个冗余是合理的,也能提升查询性能。
从上面两个例子中可以得出一个结论:
1---n 冗余应当发生在1这一方.
sql语句优化
sql优化的一般步骤
1.通过show status命令了解各种sql的执行频率。
2.定位执行效率较低的sql语句-(重点select)
3.通过explain分析低效率的sql
4.确定问题并采取相应的优化措施
-- select语句分类 select dml数据操作语言(insert update delete) dtl 数据事物语言(commit rollback savepoint) ddl数据定义语言(create alter drop..) dcl(数据控制语言) grant revoke -- show status 常用命令 --查询本次会话 show session status like 'com_%'; //show session status like 'com_select' --查询全局 show global status like 'com_%'; -- 给某个用户授权 grant all privileges on *.* to 'abc'@'%'; --为什么这样授权 'abc'表示用户名 '@' 表示host, 查看一下mysql->user表就知道了 --回收权限 revoke all on *.* from 'abc'@'%'; --刷新权限[也可以不写] flush privileges;
sql语句优化-show参数
mysql客户端连接成功后,通过使用show [session|global] status 命令可以提供服务器状态信息。其中的session来表示当前的连接的统计结果,global来表示自数据库上次启动至今的统计结果。默认是session级别的。
下面的例子:
show status like 'com_%';
其中com_xxx表示xxx语句所执行的次数。
重点注意:com_select,com_insert,com_update,com_delete通过这几个参数,可以容易地了解到当前数据库的应用是以插入更新为主还是以查询操作为主,以及各类的sql大致的执行比例是多少。
还有几个常用的参数便于用户了解数据库的基本情况。
connections:试图连接mysql服务器的次数
uptime:服务器工作的时间(单位秒)
slow_queries:慢查询的次数 (默认是慢查询时间10s)
show status like 'connections' show status like 'uptime' show status like 'slow_queries'
如何查询mysql的慢查询时间
show variables like 'long_query_time';
修改mysql 慢查询时间
set long_query_time=2
sql语句优化-定位慢查询
问题是: 如何从一个大项目中,迅速的定位执行速度慢的语句. (定位慢查询)
首先我们了解mysql数据库的一些运行状态如何查询(比如想知道当前mysql运行的时间/一共执行了多少次
select/update/delete.. / 当前连接)
为了便于测试,我们构建一个大表(400 万)-> 使用存储过程构建
默认情况下,mysql认为10秒才是一个慢查询.
修改mysql的慢查询.
show variables like 'long_query_time' ; //可以显示当前慢查询时间 set long_query_time=1 ;//可以修改慢查询时间
构建大表->大表中记录有要求, 记录是不同才有用,否则测试效果和真实的相差大.创建:
create table dept( /*部门表*/ deptno mediumint unsigned not null default 0, /*编号*/ dname varchar(20) not null default "", /*名称*/ loc varchar(13) not null default "" /*地点*/ ) engine=myisam default charset=utf8 ; create table emp (empno mediumint unsigned not null default 0, /*编号*/ ename varchar(20) not null default "", /*名字*/ job varchar(9) not null default "",/*工作*/ mgr mediumint unsigned not null default 0,/*上级编号*/ hiredate date not null,/*入职时间*/ sal decimal(7,2) not null,/*薪水*/ comm decimal(7,2) not null,/*红利*/ deptno mediumint unsigned not null default 0 /*部门编号*/ )engine=myisam default charset=utf8 ; create table salgrade ( grade mediumint unsigned not null default 0, losal decimal(17,2) not null, hisal decimal(17,2) not null )engine=myisam default charset=utf8;
测试数据
insert into salgrade values (1,700,1200); insert into salgrade values (2,1201,1400); insert into salgrade values (3,1401,2000); insert into salgrade values (4,2001,3000); insert into salgrade values (5,3001,9999);
为了存储过程能够正常执行,我们需要把命令执行结束符修改delimiter $$
创建函数,该函数会返回一个指定长度的随机字符串
create function rand_string(n int) returns varchar(255) #该函数会返回一个字符串 begin #chars_str定义一个变量 chars_str,类型是 varchar(100),默认值'abcdefghijklmnopqrstuvwxyzabcdefjhijklmnopqrstuvwxyz'; declare chars_str varchar(100) default 'abcdefghijklmnopqrstuvwxyzabcdefjhijklmnopqrstuvwxyz'; declare return_str varchar(255) default ''; declare i int default 0; while i < n do set return_str =concat(return_str,substring(chars_str,floor(1+rand()*52),1)); set i = i + 1; end while; return return_str; end
创建一个存储过程
create procedure insert_emp(in start int(10),in max_num int(10)) begin declare i int default 0; #set autocommit =0 把autocommit设置成0 set autocommit = 0; repeat set i = i + 1; insert into emp values ((start+i) ,rand_string(6),'salesman',0001,curdate(),2000,400,rand()); until i = max_num end repeat; commit; end #调用刚刚写好的函数, 1800000条记录,从100001号开始 call insert_emp(100001,4000000);
这时我们如果出现一条语句执行时间超过1秒中,就会统计到.
如果把慢查询的sql记录到我们的一个日志中
在默认情况下,低版本的mysql不会记录慢查询,需要在启动mysql时候,指定记录慢查询才可以
bin\mysqld.exe - -safe-mode - -slow-query-log [mysql5.5 可以在my.ini指定]
bin\mysqld.exe –log-slow-queries=d:/abc.log [低版本mysql5.0可以在my.ini指定]
该慢查询日志会放在data目录下[在mysql5.0这个版本中时放在 mysql安装目录/data/下],在 mysql5.5.19下是需要查看
my.ini 的 datadir="c:/documents and settings/all users/application data/mysql/mysql server 5.5/data/“来确定.
在mysql5.6中,默认是启动记录慢查询的,my.ini的所在目录为:c:\programdata\mysql\mysql server 5.6,其中有一个配置项
slow-query-log=1
针对 mysql5.5启动慢查询有两种方法
bin\mysqld.exe - -safe-mode - -slow-query-log
也可以在my.ini 文件中配置:
[mysqld] # the tcp/ip port the mysql server will listen on port=3306 slow-query-log
通过慢查询日志定位执行效率较低的sql语句。慢查询日志记录了所有执行时间超过long_query_time所设置的sql语句。
show variables like 'long_query_time'; set long_query_time=2;
为dept表添加数据
desc dept; alter table dept add id int primary key auto_increment; create primary key on dept(id); create index idx_dptno_dptname on dept(deptno,dname); insert into dept(deptno,dname,loc) values(1,'研发部','康和盛大厦5楼501'); insert into dept(deptno,dname,loc) values(2,'产品部','康和盛大厦5楼502'); insert into dept(deptno,dname,loc) values(3,'财务部','康和盛大厦5楼503');update emp set deptno=1 where empno=100002;
****测试语句***[对emp表的记录可以为3600000 ,效果很明显慢]
select * from emp where empno=(select empno from emp where ename='研发部')
如果带上order by e.empno 速度就会更慢,有时会到1min多.
测试语句
select * from emp e,dept d where e.empno=100002 and e.deptno=d.deptno;
查看慢查询日志:默认为数据目录data中的host-name-slow.log。低版本的mysql需要通过在开启mysql时使用- -log-slow-queries[=file_name]来配置
sql语句优化-explain分析问题
explain select * from emp where ename=“wsrcla”
会产生如下信息:
select_type:表示查询的类型。
table:输出结果集的表
type:表示表的连接类型
possible_keys:表示查询时,可能使用的索引
key:表示实际使用的索引
key_len:索引字段的长度
rows:扫描出的行数(估算的行数)
extra:执行情况的描述和说明
explain select * from emp where ename='jkloip'
如果要测试extra的filesort可以对上面的语句修改
explain select * from emp order by ename\g
explain详解
id
select识别符。这是select的查询序列号
id 示例
select * from emp where empno = 1 and ename = (select ename from emp where empno = 100001) \g;
select_type
primary :子查询中最外层查询
subquery : 子查询内层第一个select,结果不依赖于外部查询
dependent subquery:子查询内层第一个select,依赖于外部查询
union :union语句中第二个select开始后面所有select,
simple
union result union 中合并结果
table
显示这一步所访问数据库中表名称
type
对表访问方式
all:
select * from emp \g
完整的表扫描 通常不好
select * from (select * from emp where empno = 1) a ;
system:表仅有一行(=系统表)。这是const联接类型的一个特
const:表最多有一个匹配行
possible_keys
该查询可以利用的索引,如果没有任何索引显示 null
key
mysql 从 possible_keys 所选择使用索引
rows
估算出结果集行数
extra
查询细节信息
no tables :query语句中使用from dual 或不含任何from子句
using filesort :当query中包含 order by 操作,而且无法利用索引完成排序,
impossible where noticed after reading const tables: mysql query optimizer
通过收集统计信息不可能存在结果
using temporary:某些操作必须使用临时表,常见 group by ; order by
using where:不用读取表中所有信息,仅通过索引就可以获取所需数据;
以上所述是小编给大家介绍的mysql数据库性能优化一 ,下篇文章继续给大家介绍,希望大家持续关注本站最新内容!
推荐阅读
-
Mysql数据库性能优化一
-
文盲的数据库指令优化心得:第一部分,关于索引
-
@Maked-mysql使用规范 博客分类: 数据库 优化索引sql
-
MySQL Explain 详解(优化MySQL性能第一步) 数据库mysql
-
概括数据库应用系统的性能优化 博客分类: mysql
-
mysql向hsql迁移的一些经验 博客分类: 数据库 MySQLhsql数据库迁移
-
Mysql分区技术(一)--创建分区表 博客分类: 数据库知识 Mysql分区技术
-
jdbc获取mysql、oracle数据库的表、字段、主键、唯一索引
-
通过注解切换数据源(更换数据库)同一个项目使用多个数据库(支持MySQL、Oracle同时使用)
-
MySQL数据库,从一个数据库中复制指定表到另一个数据库中