MySQL MEM_ROOT详解及实例代码
mysql mem_root详解
这篇文章会详细解说mysql中使用非常广泛的mem_root的结构体,同时省去debug部分的信息,仅分析正常情况下,mysql中使用mem_root来做内存分配的部分。
在具体分析之前我们先例举在该结构体使用过程中用到的一些宏:
#define malloc_overhead 8 //分配过程中,需要保留一部分额外的空间 #define alloc_max_block_to_drop 4096 //后续会继续分析该宏的用途 #define alloc_max_block_usage_before_drop 10 //后续会继续分析该宏的用途 #define align_size(a) my_align((a),sizeof(double)) #define my_align(a,l) (((a) + (l) - 1) & ~((l) - 1)) #define alloc_root_min_block_size (malloc_overhead + sizeof(used_mem) + 8) /* define some useful general macros (should be done after all headers). */ /*作者:www.manongjc.com */ #define my_max(a, b) ((a) > (b) ? (a) : (b)) //求两个数值之间的最大值 #define my_min(a, b) ((a) < (b) ? (a) : (b)) //求两个数值之间的最小值
下面再来看看mem_root结构体相关的信息:
typedef struct st_mem_root { used_mem *free; /* free block link list的链表头指针 */ used_mem *used; /* used block link list的链表头指针 */ used_mem *pre_alloc; /* 预先分配的block */ size_t min_malloc; /* 如果block剩下的可用空间小于该值,将会从free list移动到used list */ size_t block_size; /* 每次初始化的空间大小 */ unsigned int block_num; /* 记录实际的block数量,初始化为4 */ unsigned int first_block_usage; /* free list中的第一个block 测试不满足分配空间大小的次数 */ void (*error_handler)( void ); /* 分配失败的错误处理函数 */ } mem_root;
以下是分配具体的block信息.
typedef struct st_used_mem { struct st_used_mem *next; //指向下一个分配的block unsigned int left; //该block剩余的空间大小 unsigned int size; //该block的总大小 } used_mem;
其实mem_root在分配过程中,是通过双向链表来管理used和free的block:
mem_root的初始化过程如下:
void init_alloc_root( mem_root *mem_root, size_t block_size, size_t pre_alloc_size __attribute__( (unused) ) ) { mem_root->free = mem_root->used = mem_root->pre_alloc = 0; mem_root->min_malloc = 32; mem_root->block_size = block_size - alloc_root_min_block_size; mem_root->error_handler = 0; mem_root->block_num = 4; /* we shift this with >>2 */ mem_root->first_block_usage = 0; }
初始化过程中,block_size空间为block_size-alloc_root_min_block_size。因为在内存不够,需要扩容时,是通过mem_root->block_num >>2 * block_size 来扩容的,所以mem_root->block_num >>2 至少为1,因此在初始化的过程中mem_root->block_num=4(注:4>>2=1)。
下面来看看具体分配内存的步骤:
void *alloc_root( mem_root *mem_root, size_t length ) { size_t get_size, block_size; uchar * point; reg1 used_mem *next = 0; reg2 used_mem **prev; length = align_size( length ); if ( (*(prev = &mem_root->free) ) != null ) { if ( (*prev)->left < length && mem_root->first_block_usage++ >= alloc_max_block_usage_before_drop && (*prev)->left < alloc_max_block_to_drop ) { next = *prev; *prev = next->next; /* remove block from list */ next->next = mem_root->used; mem_root->used = next; mem_root->first_block_usage = 0; } for ( next = *prev; next && next->left < length; next = next->next ) prev = &next->next; } if ( !next ) { /* time to alloc new block */ block_size = mem_root->block_size * (mem_root->block_num >> 2); get_size = length + align_size( sizeof(used_mem) ); get_size = my_max( get_size, block_size ); if ( !(next = (used_mem *) my_malloc( get_size, myf( my_wme | me_fatalerror ) ) ) ) { if ( mem_root->error_handler ) (*mem_root->error_handler)(); dbug_return( (void *) 0 ); /* purecov: inspected */ } mem_root->block_num++; next->next = *prev; next->size = get_size; next->left = get_size - align_size( sizeof(used_mem) ); /* bug:如果该block是通过mem_root->block_size * (mem_root->block_num >> 2)计算出来的,则已经去掉了align_size(sizeof(used_mem),这里重复了。 */ *prev = next; } point = (uchar *) ( (char *) next + (next->size - next->left) ); /*todo: next part may be unneded due to mem_root->first_block_usage counter*/ /* 作者:www.manongjc.com */ if ( (next->left -= length) < mem_root->min_malloc ) { /* full block */ *prev = next->next; /* remove block from list */ next->next = mem_root->used; mem_root->used = next; mem_root->first_block_usage = 0; } }
上述代码的具体逻辑如下:
1.查看free链表,寻找满足空间的block。如果找到了合适的block,则:
1.1 直接返回该block从size-left处的初始地址即可。当然,在free list遍历的过程中,会去判断free list
中第一个block中left的空间不满足需要分配的空间,且该block中已经查找过了10次
(alloc_max_block_usage_before_drop)都不满足分配长度,且该block剩余空间小于
4k(alloc_max_block_to_drop),则将该block 移动到used链表中。
2.如果free链表中,没有合适的block,则:
2.1 分配 mem_root->block_size * (mem_root->block_num >> 2)和length+align_size(sizeof(used_mem))
中比较大的作为新的block内存空间。
2.2 根据该block的使用情况,将该block挂在used或者free链表上。
这里需要注意的是二级指针的使用:
for (next= *prev ; next && next->left < length ; next= next->next) prev= &next->next; }
prev指向的是最后一个block的next指向的地址的地址:
所以将prev的地址替换为new block的地址,即将该new block加到了free list的结尾:*prev=next;
总结:
mem_root的内存分配采用的是启发式分配算法,随着后续block的数量越多,单个block的内存也会越大:block_size= mem_root->block_size * (mem_root->block_num >> 2) .
感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!