使用Huagepage和PGO来提升PHP7的执行性能

hugepage
php7刚刚发布了rc4, 包含一些bug修复和一个我们最新的性能提升成果， 那就是”hugepagefy php text segment”， 通过启用这个特性，php7会把自身的text段（执行体）”挪“到huagepage上，之前的测试，我们能稳定的在wordpress上看到2%~3%的qps提升。

关于hugepage是啥，简单的说下就是默认的内存是以4kb分页的，而虚拟地址和内存地址是需要转换的， 而这个转换是要查表的，cpu为了加速这个查表过程都会内建tlb（translation lookaside buffer）， 显而易见如果虚拟页越小，表里的条目数也就越多，而tlb大小是有限的，条目数越多tlb的cache miss也就会越高， 所以如果我们能启用大内存页就能间接降低这个tlb cache miss，至于详细的介绍，google一搜一大堆我就不赘述了，这里主要说明下如何启用这个新特性， 从而带来明显的性能提升。

新的kernel启用hugepage已经变得非常容易了，以我的开发虚拟机为例(ubuntu server 14.04，kernel 3.13.0-45), 如果我们查看内存信息：

$ cat /proc/meminfo | grep huge

anonhugepages:  444416 kb
hugepages_total:    0
hugepages_free:    0
hugepages_rsvd:    0
hugepages_surp:    0
hugepagesize:    2048 kb

可见一个hugepage的size是2mb, 而当前并没有启用hugepages. 现在让我们先编译php rc4, 记得一定不要加： –disable-huge-code-pages （这个新特性是默认启用的， 你加了这个就关了）

然后配置opcache, 从php5.5开始opcache已经是默认启用编译的，但是是编译动态库的， 所以我们还是要在php.ini中配置加载下。

zend_extension=opcache.so

这个新特性是做在opcache里的，所以也要通过opcache启用这个特性（通过设置opcache.huge_code_pages=1）， 具体的配置：

opcache.huge_code_pages=1

现在让我们配置os， 分配一些hugepages：

$ sudo sysctl vm.nr_hugepages=128
vm.nr_hugepages = 128

现在让我们再次检查内存信息:

$ cat /proc/meminfo | grep huge

anonhugepages:  444416 kb
hugepages_total:   128
hugepages_free:   128
hugepages_rsvd:    0
hugepages_surp:    0
hugepagesize:    2048 kb

可以看到我们分配的128个hugepages已经就绪了， 然后我们来启动php-fpm:

$ /home/huixinchen/local/php7/sbin/php-fpm

[01-oct-2015 09:33:27] notice: [pool www] 'user' directive is ignored when fpm is not running as root
[01-oct-2015 09:33:27] notice: [pool www] 'group' directive is ignored when fpm is not running as root

现在， 再次检查内存信息:

$ cat /proc/meminfo | grep huge

anonhugepages:  411648 kb
hugepages_total:   128
hugepages_free:   113
hugepages_rsvd:    27
hugepages_surp:    0
hugepagesize:    2048 kb

说到这里，如果hugepages可用， 其实opcache也会用hugepages来存储opcodes缓存， 所以为了验证opcache.huge_code_pages确实生效， 我们不妨关闭opcache.huge_code_pages, 然后再启动一次后看内存信息：

$ cat /proc/meminfo | grep huge

anonhugepages:  436224 kb
hugepages_total:   128
hugepages_free:   117
hugepages_rsvd:    27
hugepages_surp:    0
hugepagesize:    2048 kb

可见开启了huge_code_pages以后， fpm启动后多用了4个pages, 现在我们检查下php-fpm的text大小：

$ size /home/huixinchen/local/php7/sbin/php-fpm

  text    data     bss     dec     hex   filename
10114565   695200   131528   10941293   a6f36d   /home/huixinchen/local/php7/sbin/php-fpm

可见text段有10114565个字节大小， 总共需要占用4.8个左右的2m的pages， 考虑到对齐以后（尾部不足2m page部分不挪动）， 申请4个pages， 正好和我们看到的相符。

说明配置成功！ enjoy :)

但是有言在先， 启用此特性以后， 会造成一个问题就是你如果尝试通过perf report/anno 去profiling的时候， 会发现符号丢失(valgrind, gdb不受影响), 这个主要原因是perf的设计采用监听了mmap，然后记录地址范围， 做ip到符号的转换， 但是目前hugetlb只支持map_anon， 所以导致perf认为这部分地址没有符号信息，希望以后版本的kernel可以修复这个限制吧..

gcc pgo
pgo正如名字所说(profile guided optimization 有兴趣的可以google), 他需要用一些用例来获得反馈, 也就是说这个优化是需要和一个特定的场景绑定的.

你对一个场景的优化, 也许在另外一个场景就事与愿违了. 它不是一个通用的优化. 所以我们不能简单的就包含这些优化, 也无法直接发布pgo编译后的php7.

当然, 我们正在尝试从pgo找出一些共性的优化, 然后手工apply到php7上去, 但这个很明显不能做到针对一个场景的特别优化所能达到的效果, 所以我决定写这篇文章简单介绍下怎么使用pgo来编译php7, 让你编译的php7能特别的让你自己的独立的应用变得更快.

首先, 要决定的就是拿什么场景去feedback gcc, 我们一般都会选择: 在你要优化的场景中: 访问量最大的, 耗时最多的, 资源消耗最重的一个页面.

拿wordpress为例, 我们选择wordpress的首页(因为首页往往是访问量最大的).

我们以我的机器为例:

       intel(r) xeon(r) cpu           x5687  @ 3.60ghz x 16(超线程),
       48g memory
php-fpm 采用固定32个worker, opcache采用默认的配置(一定要记得加载opcache)

以wordpress 4.1为优化场景..

首先我们来测试下目前wp在php7的性能(ab -n 10000 -c 100):

$ ab -n 10000 -c 100 http://inf-dev-maybach.weibo.com:8000/wordpress/

this is apachebench, version 2.3 <$revision: 655654 $>
copyright 1996 adam twiss, zeus technology ltd, http://www.zeustech.net/
licensed to the apache software foundation, http://www.apache.org/
 
benchmarking inf-dev-maybach.weibo.com (be patient)
completed 1000 requests
completed 2000 requests
completed 3000 requests
completed 4000 requests
completed 5000 requests
completed 6000 requests
completed 7000 requests
completed 8000 requests
completed 9000 requests
completed 10000 requests
finished 10000 requests
 
server software:    nginx/1.7.12
server hostname:    inf-dev-maybach.weibo.com
server port:      8000
 
document path:     /wordpress/
document length:    9048 bytes
 
concurrency level:   100
time taken for tests:  8.957 seconds
complete requests:   10000
failed requests:    0
write errors:      0
total transferred:   92860000 bytes
html transferred:    90480000 bytes
requests per second:  1116.48 [#/sec] (mean)
time per request:    89.567 [ms] (mean)
time per request:    0.896 [ms] (mean, across all concurrent requests)
transfer rate:     10124.65 [kbytes/sec] received

可见wordpress 4.1 目前在这个机器上, 首页的qps可以到1116.48. 也就是每秒钟可以处理这么多个对首页的请求,

现在, 让我们开始教gcc, 让他编译出跑wordpress4.1更快的php7来, 首先要求gcc 4.0以上的版本, 不过我建议大家使用gcc-4.8以上的版本(现在都gcc-5.1了).

第一步, 自然是下载php7的源代码了, 然后做./configure. 这些都没什么区别

接下来就是有区别的地方了, 我们要首先第一遍编译php7, 让它生成会产生profile数据的可执行文件:

$ make prof-gen

注意, 我们用到了prof-gen参数(这个是php7的makefile特有的, 不要尝试在其他项目上也这么搞哈 :) )

然后, 让我们开始训练gcc:

$ sapi/cgi/php-cgi -t 100 /home/huixinchen/local/www/htdocs/wordpress/index.php >/dev/null

也就是让php-cgi跑100遍wordpress的首页, 从而生成一些在这个过程中的profile信息.

然后, 我们开始第二次编译php7.

$ make prof-clean
$ make prof-use && make install

好的, 就这么简单, pgo编译完成了, 现在我们看看pgo编译以后的php7的性能:

$ ab -n10000 -c 100 http://inf-dev-maybach.weibo.com:8000/wordpress/

this is apachebench, version 2.3 <$revision: 655654 $>
copyright 1996 adam twiss, zeus technology ltd, http://www.zeustech.net/
licensed to the apache software foundation, http://www.apache.org/
 
benchmarking inf-dev-maybach.weibo.com (be patient)
completed 1000 requests
completed 2000 requests
completed 3000 requests
completed 4000 requests
completed 5000 requests
completed 6000 requests
completed 7000 requests
completed 8000 requests
completed 9000 requests
completed 10000 requests
finished 10000 requests
 
server software:    nginx/1.7.12
server hostname:    inf-dev-maybach.weibo.com
server port:      8000
 
document path:     /wordpress/
document length:    9048 bytes
 
concurrency level:   100
time taken for tests:  8.391 seconds
complete requests:   10000
failed requests:    0
write errors:      0
total transferred:   92860000 bytes
html transferred:    90480000 bytes
requests per second:  1191.78 [#/sec] (mean)
time per request:    83.908 [ms] (mean)
time per request:    0.839 [ms] (mean, across all concurrent requests)
transfer rate:     10807.45 [kbytes/sec] received

现在每秒钟可以处理1191.78个qps了, 提升是~7%. 还不赖哈(咦, 你不是说10%么? 怎么成7%了? 呵呵, 正如我之前说过, 我们尝试分析pgo都做了些什么优化, 然后把一些通用的优化手工apply到php7中. 所以也就是说, 那~3%的比较通用的优化已经包含到了php7里面了, 当然这个工作还在继续).

于是就这么简单, 大家可以用自己的产品的经典场景来训练gcc, 简单几步, 获得提升, 何乐而不为呢