【MySql】11 笔记给字符串字段加索引
一、背景知识
1、系统支持邮箱登录,如何在邮箱这样的字段上建立合理的索引?
2、用户名登陆
> create table User (
id bigint unsigned primary key,
email varchar(64),
...
) engine=innodb;
3、查询语句
> select f1, f2 from User where email='XXX';
4、如果 email 这个字段上没有索引,那 么这个语句就只能做全表扫描。
5、MySQL 是支持前缀索引的,创建索引的语句不指定前缀长度,那么索引就会包含整个字符串。
> alter table User add index index1(email);
> alter table User add index index2(email(6)); //对于每个记录都是只取前 6 个字节
6、两条语句区别
- index1 执行顺序
a: 从 index1 索引树找到满足索引值是’XXXX@xxx.com’的这条记录,取得 ID 的值;
b: 到主键上查到主键值是 ID 的行,判断 email 的值是正确的,将这行记录加入结果集;
c: 取 index1 索引树上刚刚查到的位置的下一条记录,发现已经不满足email='XXXX@xxx.com’的条件了,循环结束。
- index2 执行顺序
a: 从 index2 索引树找到满足索引值是’XXXX’的记录,找到的第一个是 ID;
b: 到主键上查到主键值是 ID 的行,判断出 email 的值不是’XXXXA@xxx.com’,这行记录丢弃;
c: 取 index2 上刚刚查到的位置的下一条记录,发现仍然是’XXXX’,取出 ID,再到ID 索引上取整行然后判断,这次值对了,将这行记录加入结果集;
d: 重复上一步,直到在 idxe2 上取到的值不是’XXXX’时,循环结束。
e: 使用前缀索引后,可能会导致查询语句读数据的次数变多。
f: 如果使用前缀索引,定义好长度,就可以做到既节省空间,又不用额外增加太多的查询成本。
二、如何合理创建前缀索引
// 查看这个列上有多少个不同的值
> select count(distinct email) as L from User;
// 依次选取不同长度的前缀来看这个值
> select
count(distinct left (email,4)) as L4,
count(distinct left (email,5)) as L5,
count(distinct left (email,6)) as L6,
count(distinct left (email,7)) as L7,
count(distinct left (email,8)) as L8,
from User;
// 找出不小于 L * 95% 的值
三、前缀索引对覆盖索引的影响
1、例子
// 使用 index1(即email整个字符串的索引结构)的话,可以利用覆盖索引,从index1 查到结果后直接就返回了,不需要回到 ID 索引再去查一次
> select id,email from User where email ='haoflame.@qq.com';
// 使用index2 即使的前缀索引已经包含了所有的信息,但InnoDB还是要回到id 索引再查一下,因为系统并不确定前缀索引的定义是 否截断了完整信息。
> select id,name,email from User where email ='haoflame.@qq.com';
2、使用前缀索引就用不上覆盖索引对查询性能的优化了,选择时需要做合理考虑。
四、使用倒序存储,使用hash字段
1、前缀的区分度好的情况时使用比较合适
2、身份证建前缀索引不是很有用 ,一共 18 位,其中前 6 位是地址码,所以同一个县的人的身份 证号前 6 位一般会是相同的。
3、索引选取的越长,占用的磁盘空间就越大,相同的数据页能放下的索引值就越少,搜索的效率也就会越低。
4、倒序存储:如果你存储身份证号的时候把它倒过来存。
// 使用后面的区分 使用 count(distinct) 方法去做验证
> select field_list from t where id_card = reverse('input_id_card_string');
5、hash字段:在表上再创建一个整数字段,来保存身份证的校验码,同时在这个字段上创建索引。
每次插入新记录的时候,都同时用hash函数得到校验码填到这个新字段。由于校验码可能存在冲突,也就是说两个不同的身份证号通过 hash函数得到的结果可能是相同的,所以的查询语句where部分要判断id_card的值是否精确相同。
> alter table t add id_card_crc int unsigned, add index(id_card_crc);
6、比较
- 都不支持范围查询。倒序存储的字段上创建的索引是按照倒序字符 串的方式排序的,没有办法利用索引方式查出身份证号码在 [ID_X, ID_Y] 的所有市民。同样地,hash 字段的方式也只能支持等值查询。
- 从占用的额外空间来看,倒序存储方式在主键索引上,不会消耗额外的存储空间,而 hash 字段方法需要增加一个字段。当然,倒序存储方式使用如果再长一点,这个消耗跟额外这个 hash 字段也差不多抵消了。
- 在 CPU 消耗方面,倒序方式每次写和读的时候,都需要额外调用一次 reverse 函数,而 hash 字段的方式需要额外调用一次 hash。如果只从这两个函数的计算复杂度来 看的话,reverse 函数额外消耗的 CPU 资源会更小些。
- 从查询效率上看,使用 hash 字段方式的查询性能相对更稳定一些。因为 hash 算出来 的值虽然有冲突的概率,但是概率非常小,可以认为每次查询的平均扫描行数接近 1。 而倒序存储方式毕竟还是用的前缀索引的方式,也就是说还是会增加扫描行数。
五、总结
-
直接创建完整索引,这样可能比较占用空间;
-
创建前缀索引,节省空间,但会增加查询扫描次数,并且不能使用覆盖索引;
-
倒序存储,再创建前缀索引,用于绕过字符串本身前缀的区分度不够的问题;
-
创建 hash 字段索引,查询性能稳定,有额外的存储和计算消耗,不支持范围扫描。
本文地址:https://blog.csdn.net/qq_40996741/article/details/107310224