CPU工作方式、多核心、超线程技术详解[转贴]

原文地址：

cpu是一台电脑的灵魂，决定电脑整体性能。现在的主流cpu都是多核的，有的运用了多线程技术（hyper-threading，简称ht）。多核可能还容易理解些，相信不少玩家都能说出个所以然。但超线程是个什么东西，究竟有什么实际意义，一个支持超线程的cpu开启和关闭ht有什么不同，能解释清楚的人可能就不太多了。为此，我特地开此贴给大家介绍一下双核、超线程技术。此贴结合我平时自己工作中的积累、同厂商（英特尔）的交流经验、以及私下里作为一个diy玩家的认识，力争做到最权威、最准确，同时保证通俗易懂，希望能用几个简单的例子让你迅速达到硬件专家的认识水平 。

 

不过事先说一下，

1）这是论坛帖子不是论文发表，有些知识点真的只能是点到为止。

2）有些只能是尽量准确，为保证通俗易懂，可能达不到学术级别的精准度。

3）本帖强调知识和理解。而现实中，究竟是花六七百买个i3，还是一千多买个i5，这个要具体情况具体分析，没有固定答案。

4）如果是土豪，只图一个‘爽’字。不求划算，只求最贵。这个帖子建议也不用看了，因为所有的理论都无法解释为什么挂qq需要用到4核8线程的i7。

  

希望你看完此文后，从此装机选u不再困扰！！！！！

  

有经验的玩家应该都知道下面最常见的五种英特尔消费级cpu，说它们是消费级是为了和企业级处理器xeon(志强)区分：

 

- 赛扬是双核，不支持超线程 - 入门玩家

- 奔腾是双核，不支持超线程 - 中低端玩家

- i3是双核，支持超线程 - 中端玩家

- i5是4核，不支持超线程 - 中高端玩家

- i7是4核，支持超线程 - 高端玩家

 

而志强的一些低端cpu，普通玩家也可以用，比如

- e3是4核，支持超线程 - 高端玩家

 

当然，变态级i7 extreme可以达到6核12线程，8核16线程，不过一般都是发烧友买的，普通玩家中并不常见。

一些入门的e3，其实方案基本就是沿用i7，比如备受推崇的e3 1231v3，这个u性价比很高，其实就是去了集显、不能手动超频的i7。但价格却便宜了不少，所谓i5的价格，i7的性能。

 

cpu架构

要谈超线程和多核，就不得不谈cpu的架构和逻辑。无关的技术细节太多，这里略去。我们重点谈一下cpu中两个相关的模块：

1）processing unit（运算处理单元），简称pu

2）architectual state（架构状态单元），简称as

pu一般就是执行运算，比如算数运算加减乘除。as执行一些逻辑和调度方面的操作，比如控制内存访问等。

  

单核cpu（先从简单的谈起）

一般一块传统意义的cpu上会有一个pu、一个as。

 

比喻：一个小饭馆（单核cpu），夫妻老婆店，老板兼大厨厨房炒菜，老板娘兼服务员点单。这不，来了一个客人，首先，走到老板娘的收银台前，看菜单准备点单。差不多5分钟后，客人点完了一份盖浇饭。老板娘抄好了单，递给了在后厨的老公。老公开始炒菜。在这个例子中，老板娘可以理解成as，老板/大厨可以理解称pu（干实事的）。

  

多核cpu

这里说的多核，是多个物理核，比如i3的双核，i5的4核。这中架构下，每一个物理核都有一个pu和一个as。所以。对于i3来说，就有总共两个pu，两个as。对于i5来说，就有总过4个pu，4个as。

 

比喻：上面小饭馆的列子，对于5、6个客人可能还能忙的过来。但设想一下子来他个16个客人，这队估计要排到街上了。如果再告诉你，每10分种就有16个新客人过来点单。。。完了。生意估计是做不下去了 - 老板、老板娘忙到死。

这时，我们就需要一个更大的单位食堂（多核cpu）。有4个服务生、4个大厨。4个服务生同时点单，4个大厨同时开炒（1号服务生专给一号大厨下单，二号服务神生专给二号大厨下单。。。以此类推）。这样相比小饭馆一个老板娘、一个客人队列，这里成了4个队列，效率顿时比小饭馆提高4倍。16个客人，平均分配成4个队列，每个队列就只有4个客人了，情况是不是好了很多？

 

这个应该还是比较容易理解的。

  

超线程技术(ht)

重头戏来了，超线程是个啥玩意。他是我们平时说的多线程吗？

超线程(ht)并不是我们一般说的多线程。我们一般说的多线程（multi-threading）是指程序方面的，简单的说就是‘软’的，代码级别的。而超线程一般指的是硬件架构方面的，是‘硬’的：通过调整as而模拟出来的‘逻辑核’。

简单的说吧，超线程就是一个物理核里面，有两个as，一个pu。两个as共享一个pu。为什么这么做，看下面的例子：

 

比喻：刚刚那个单位食堂，4个服务生，4个大厨，4个队列。会不会效率问题？

有！

设想每个客人都有看单选单的时候，你能保证每个客人都看两眼就下单？有的客人难免会磨磨蹭蹭，问东问西，一个菜点它个15分钟。而设想大厨平均炒一个菜只要10分种。那剩下的那5分钟呢？大厨在厨房闲着没事干，喝茶看报纸。时间全被客人-服务生点菜这个环节给浪费掉了。

 

那有没有解决方法？我想大家应该都能猜出来了 

--- 增加服务生！

 

这时候，我们给每个大厨多增加一个服务生，从一个服务生变成了两个服务生（as），服务生1a和服务生1b开两个队列，同时给一个大厨（pu）下单。这样，当出现服务生1a的客人15分钟单子都没有下完的情况下，1b的客人单子很有可能3分钟下好送给大厨开炒了（pu），这样大厨就不会站在厨房傻等1a客人的订单。这样，最大限度地榨干大厨的劳动力 （大厨估计要骂娘了），而对于cpu来说，最大限度的提高了cpu的使用率，减少了cpu的（idle）空闲时间。有的时候，真不能怪大厨（pu）不卖力，而是你服务生（as）叫单太墨迹。

  

在下图中，橙色和蓝色表明大厨（pu/cpu）是在工作的，白色格子表明大厨（pu）是空闲的。a图是单核没有没有用超线程，b图双核没有超线程，图c是单核启用了超线程。可以清晰地看到，从单核增加到双核（在没有超线程的情况下），cpu使用率并没有增加。而用了超线程后，整体cpu使用率提高了，虽然只是一个核。

 

  

左边的图是单核超线程，右边的图是双核，不带超线程。看出区别了吧？

  

现在来看实际中多核和超线程的相关问题：

1）i3 双核4线程，和i5 4核4线程，是一回事吗？

首先先说一下i3，i3是双核，开了ht以后，变成4个逻辑核（4线程）。最新的win10我不知道，但在win7里面逻辑核是被显示成物理核的，和i5一样。那i3和i5一回事吗？如果你觉得是一回事，那我上面的东东全都是白写了。

i3是4个服务生两个厨子，i5是4个服务生4个厨子，你觉得一样吗？？？？

 

2）那i5 4核4线程，相比较开了ht的i7（4核8线程）一样吗？

i5是4个服务生4个厨子。i7如果开了ht，是8个服务生4个厨子。当然从cpu利用率尤其是运行多进程/线程程序上面来看，是开了ht的i7好。

 

3）那i5 4核4线程，相比较关了ht的i7（4核4线程）一样吗？

i5是4个服务生4个厨子。i7如果关了ht，也是4个服务生4个厨子。乍一看差不多，至少在大厨（pu）、服务生（as）的数量上打成平手。但是i7的单核处理能力要稍强于i5，也就是说i7的厨子是特级厨子，i5的厨子的一级厨子。所以其实i5和i7还是有差距，但是从理论上来说，差距并不是特别大。

 

总结：理论上来说，i3和i5的差距是相当的大。而i5和i7差距主要是厨子（pu）质量的好坏和多出的那4个服务生。其实差距并不是像i5-i3之间的差距那么大。

 

4）那对与同一个cpu，比如i7，开了ht有什么优点：

- 并行能力增强：处理多进程/线程的能力加强，对于支持多线程的游戏提供比较明显。

- cpu利用率增高：一般理论上，总体性能提高差不多20%-30%。从这个角度上看，i3开启了超线程，提高了20%-30%整体水平。但是，这就意味着能和i5打成平手了？？？ 如果这是真的话，i5也不要卖了。两个大厨(i3)，不是我等拿个鞭子抽抽就能顶的上4个大厨(i5)的。。。。

  

5） 开ht有什么缺点

- 单核性能下降：

一般在5%-15%之间，主要表现在运行单线程程序。两个as的额外开销比一个as的开销要大

比喻：只有一个客人来点餐，指定一号大厨，但你两个服务生站在那儿，而这个客人可能就会过一下脑子，想想，我是找服务生1a呢，还是服务生1b呢？？ 这么一想，半分钟过去了。。。是不是还不如只有一个服务生来的简单。

所以现实中我们超算系统测试跑分的时候一般都是要ht关掉的，因为追求极限性能。现在最新的cpu可以做到5%-15%的性能损耗，而老的超线程cpu，比如10几年前的老奔腾4/志强，我见过单核性能超过50%的性能损耗的，启动ht的额外开销极大。

 

- 电费增加，一般功耗平均上升30%。你多请的4个服务生，不用给工钱？？？

 

- 在核特别多的情况下，比如双槽服务器的情况下，容易发生拥塞。

比喻：试想一个超大的食堂，有56个服务员（双cpu，28核，56线程至强e5系列cpu），来了几百个人过来，是不是会乱了套？大家刚进食堂一开始都不知道该排哪个队了（一般决定排哪个队，是操作系统定下的）。（在操作系统的安排下）一个客人，把56个队列一条一条地查一遍，看看哪条队客人最少就排哪条。。。。

我想问的是，现实中你去食堂打饭，假设有56个队，你会一条一条的检查，找出人最少的队，然后再做决定吗？估计你56条队查完，15分钟过去了，你的小伙伴饭都吃完了。这时候，是不是我将队伍减少到28个队，对你来说会相对容易一些？（当然28队也还还是够累的）

 

- 老系统支持的差

比如老的win2008，win2000，对超线程支持比较差。

比喻：如果食堂比较空，没人。这时候来了两个客人a和b来订餐，结果两个人分别跑到同一个大厨的两个服务生1a和1b上排队（一般这都是操作系统干的好事），你能发现哪儿不对劲吗？

正确的做法应该是a去一号大厨（1号物理核），b去二号大厨（2号物理核）。你让a，b都挤到一号大厨那里，二号、三号、四号大厨啥事没有，闲到死，有意义吗？

其实问题就在于，操作系统不能分辨物理核和逻辑核。看那里有两个服务生，两个队列，就以为有两个大厨，所以把客人a和b分别打发到1a和1b去排队，完全不知道后厨的实际情况 - 究竟有几个大厨。

  

回到现实，我究竟需要什么样的cpu？

这里，我分情况讨论。

 

1）上网，聊qq，简单的办公用（比如office文档处理），老人机

赛扬其实就可以了。赛扬是2核2线程，其实和2核4线程的i3相比，在对付这类应用时候，抛去主频，缓存的区别，i3的优势完全发挥不出来。注意i3的价格差不多是赛扬的3倍。

还有一个就是奔腾，奔腾其实就是主频稍高，缓存稍大的赛扬。同样是2核2线程，性能比赛扬只高一点点，但价格差不多可以买1.5个赛扬。个人觉得没什么意思，多出这钱，真不如买个高级点的键盘、鼠标、显示器。至少，使用方面的体验是实实在在的。

  

2）轻量级游戏，平面图形工作者（比如ps）

i3其实挺适合。小游戏，还有一些网页游戏，ps什么的，虽然是多线程程序（比如ps），但其实对cpu的负担不会特别重。反而瓶颈有可能是磁盘i/o速度等。所以开了超线程的i3对付这类情况，其实问题不大。

  

3）重量级大型3d游戏

现在的3d游戏，会将很多比如3d加速的任务交由gpu去做，gpu工作的时候，一般cpu都会处于blocking(中断等待)状态，直到gpu指令执行完毕，cpu再继续。所以这里就会出现两个瓶颈，一个来自cpu，一个来自gpu。

 

对于3d游戏来说，一般来看i5完全可以胜任，你说要不要上i7？当然，你腰包鼓上i7没问题，跑分肯定会提高。但如果预算有限的话，可能将钱投入到升级显卡上面来的更简单直接。比如，i5配中高端显卡比如970这种比较均衡，相对于i7+950。

  

拥有i7性能的e3值不值得入手？当然值得入手。但如果e3 1231v3价格被js价格炒过了头，还不如用i5算了。

  

4） 3d图形工作者

 

如果工作中出现很多3d建模，渲染啥的。cpu很重要，gpu也重要。cpu（逻辑）核越多越好，因为各种渲染的方法，从算法上来说，都是可以高度并行的。每个逻辑核，都可以给你任务队列塞得满满的，最大程度的榨干cpu的性能。绝对不会出现偌大一个食堂，只有一两个顾客这种情况。而这时候，e3/i7，和i5的区别就有可能非常大。

 

gpu负担也重，而且普通的游戏显卡比如gtx980这种有可能不能胜任，而需要quadro图形卡。不是说980不够强悍，而是因为一些图形相关的驱动/库是没有被加入gtx980这种游戏卡的，没驱动就没法在gpu上面跑，跑不了就只能依靠cpu来模拟运行。结果就是，cpu本身的逻辑要跑，而gpu跑不了的，最后也是通通让你cpu跑。你说cpu不足够强悍，还能活命吗？

所以这类应用，一定要挑一个强悍的cpu，比如i7, e3这种，甚至是中档志强e3系列 - 6核12线程，8核16线程的cpu。

   

进阶篇 - 为什么系统跑分测试的时候，我们是关闭超线程的

 

这时候你可能会问，既然ht能提高系统的性能，尤其是处理多线程程序的能力，为什么你们系统测试时要关掉。比如一个4核8线程的e3 1231v3关掉ht后，只剩4核4线程，也就是4个服务员，4个大厨，4个队列。性能不是会变差吗？cpu空闲时间不是会高吗？

 

这其实是个很实际、很有趣的问题，按道理来说我们应该开超线程。

 

例子：

比如来了64个客人，每个人都要一个盖浇饭，两种情况

1）到了一个8个服务生、8个队列的、4个大厨的食堂，每个队列有几个客人？ - 8个。

2）到了一个4个服务生、4个队列的、4个大厨的食堂，每个队列有几个客人？ - 16个。

哪个快？应该是第一个，因为同时8个服务生，交错开接单，当然能减少某个客人犹豫、磨磨叽叽带来的延迟。让4个大厨忙个不停。

 

别忘了，我们之前已经探讨了，开启超线程以后，因为增加了4个服务员，会带来额外的开销 - 每个客人入队前都会犹豫，都要花时间思考 - “两个队我究竟应该怎么排？哪个队人少？哪个服务生看的养眼？。。。。”。这种额外的开销（处理延迟，性能损耗）是硬件级别的，是英特尔设计cpu的时候就规定死了的。我们任何事都无法解决硬件方面的问题。而唯一的办法就只能是 ---->  关掉ht。但关掉ht，每个队列变成16个客人，而每个服务生，从接待8个客人，增加到16个客人（as延迟从8份，增加到了16份），怎么破？？？？

 

重头戏来了，硬件我们当然无法改动，但是软件程序上我们可以进行优化，我们可以重写程序的并行调度算法，使得程序最大程度上针对cpu天生的硬件架构进行优化。具体的算法上细节太专业不容易懂，我举下面这个例子一说，你可能明白了：

 

例子：

比如来了64个客人，每个人都想吃一个盖浇饭。来到一个4个服务生、4个队列的、4个大厨的食堂。每个队列会有几个客人？ - 16个。

 

好，对于每一个队，现在我不让这16个人都去排队，而是从队里面推选出1名代表，让这个代表代替16个人去向服务生点单。一个单子上16份盖浇饭，其余15人退后。这样一来，总共只有4个客人（代表）点单，其余的60个人在下面歇息。而点单速度方面，每个队最多也就（一个代表）磨叽一次。后堂大厨接到16份盖浇饭的订单，也只有拼命做的份。你总不能炒一个盖浇饭歇5分钟吧。。。

 

瞧， 是不是问题解决了？

1）既避免了8个服务员、开8个队列所带来的as额外开销

2）也最大程度的利用了大厨（减少了pu的闲置时间）

 

作为一个超算系统，大家都在追求极限性能。世界上每年都会进行500强超级计算机性能排名，一点点的性能差异都有可能会让你的排名退后不少，所以大家都需要尽可能地压榨系统的最后一点性能。

 

同时，这个实例也告诉diy玩家们，硬件重要，软件也重要。硬件强悍的同时，软件（驱动）也要进行相关的优化。如果软件没有针对性的优化，再强的硬件也发挥不出100%的威力。这个也从侧面解释了为什么有些硬件，属于跑分王类型。比如测试3dmark这种，得分暴高，而一到实际游戏中，表现一塌糊涂。

 

买硬件，要买用的人多的，不要搞太小众的东西。

 

软硬兼施，不仅硬件性能要强，软件优化也要做到位 

 

1）相对于4核8线程(开超线程)，4核4线程(关超线程)后在处理（调度）多线程方面的劣势，我们完全可以通过修改源代码，把这个劣势给抵消掉。而8线程（多了4个硬件as）所带来的硬件架构方面的额外开销，这个可以理解成集成电路级别的，我们无能为力。

 

所以就像华山的剑宗和气宗。

剑宗就是：简单的增加程序线程的数量，同时打开cpu超线程功能。

气宗就是：修改程序，做算法上面的改变，手动的计算运算周期，调整并行策略，将延迟隐藏掉。

剑宗速成，气宗慢成。同样练1年，剑宗练到6级威力，而气宗只能是3级。但是如果给足够时间，剑宗的极限只能练成9级，就无法突破了。而气宗最终可以练到10级。

 

2）还有就是优化。这里面牵涉到一个平衡的问题。性能 vs 通用性。

 

举个简单例子，如果给你一个加法运算：

1+1+1+1+1+1+1+1 （8个1相加，当然现实中，这么小颗粒度的运算根本没有必要进行并行，不值得。这里是为了举例需要。）

 

第一种方案 （性能低下+通用性最高）：

什么优化都不做，程序员只要小学一年级毕业就行了。程序太简单明了了，一行搞定，扔给cpu，做了7次运算，算一次1秒钟，这样就是7秒钟。多核一点用都没有，完全是拼单核性能。强调一句：一个单序程序（serial program）比如8个1相加，你不在代码级别做并行化，它不会自己变成一个多核程序。也就是说：它只会用一个核！！！这里，没有奇迹，没有魔术！怎么做并行化？改你的程序，用上pthread, fork, mpi, openmp。。。等很多种方法，具体细节不多说了。感兴趣的话求助一下度娘。

 

总时间：7秒钟

  

第二种方案 （良好性能+高通用性）

做并行优化：

1）首先，数一下你的机器有几个核，这里假设只有物理核。好，数好了，有4个核，花费0.5秒钟 （时间值只是举例）。

2）这时，我可以根据核的数量（=4），把运算劈成4份，产生4个（程序上的）线程，变成下面形式，从而和硬件核心个数（=4）进行1：1匹配。这样的调度开销0.5秒钟，

3）然后，开始下面的计算

（1+1） （1+1） （1+1） （1+1）第一轮每个核都是一次运算，共1秒钟

（2+2） （2+2）                             第二轮1号2号核都是一次运算，共1秒钟

（4+4）                                           第三轮只有1号核工作   共1秒钟

 花了1+1+1=3秒。而且这个也是有数学证明的（divide and conquer问题，具体细节不多说了。感兴趣的话求助一下度娘）， 相信大家都学过对数，log28 = 3 。                      

        

总时间：0.5+0.5+3=4秒钟

   

第三种方案，比较极端 （极限性能+低通用性）

如果，我知道我的系统里面有4个核，是不是：1）数多少个核 2）调度开销 全都可以省了？好，这些费时间的步骤全部去掉。直接奔步骤3）。

---->  这样，最终只要3秒钟。

但是，这种方法只适合4核的机器，如果你给他双核或者8核的机器，整体速度会大打折扣，还不如第二种方案，因为第二种方案带有一定的通用性和自适应性。而第三种方案是“死”的，无脑的。也就是编程时候的hard coding (翻译过来叫死码或硬码)，这种编程习惯不推荐，因为写出来的程序实用性会很差。

 

现在不知道你看出点端倪来了没有？

 

其实，我们系统测试追求的是第三种方案，因为我们非常清楚自己系统的架构。完全不用考虑什么比如双核和4核cpu的情况（我们一般多用8核的u）。cpu中二级三级缓存的大小都是固定的。也就是说我们的代码优化可以是非常极端的，完全面向特定型号硬件的优化。这样的优化换来的就是低通用性，也就是说我们所达到的指标性能，只有在我们的系统上才行。

  

再举个有趣的例子：

fermi一代的nvidia显卡，也就是gtx460这种，基本上是在300个左右的cuda core（可以理解成流处理器）。而fermi下一代是开普勒(kepler)，也就是gtx660这种，相比460，性能差不多翻倍。但是怎么翻倍的，你知道吗？gtx660的流处理器增加到了1000个左右。但是单个流处理器的性能，660只有460差不多1/2。所以660全靠数量打赢的。

 

结果，问题来了。我们的一个用户，同样一个gpu程序（gromacs）分别放在fermi卡上和kepler卡上跑（tesla计算卡，差不多就等同于460和660），结果kepler反而比fermi慢了不少，运行时间多了一倍。按道理来说不应该啊，用户求助我们。我们检查后确定不是硬件故障，两个卡都工作正常，nv驱动也正常。然后，我就开始看程序的源代码，花了一番功夫后找到了原因！！！ 那个程序里面调用的线程数是死的！设置成了最大产生256的线程（至于为什么是256而不是257，因为cuda里面有个thread wrap（线程包）的概念，一个包是32个，所以一般总线程数习惯都是32的倍数。具体不多说了，感兴趣的可以看一下《gpu高性能编程cuda实战》）。这样的话，在300个核的fermi上，基本整个卡的流处理器（几乎）全部跑满了。但是对于1000个流处理器的kepler，256等于只用了差不多1/4，有700多个流处理器从头到尾就是空闲的。别忘了，kepler单核性能=50%fermi单核性能。所以，这样一来，为什么kepler卡跑得慢，就可以解释了。

 

我们不知道gromacs这个软件的逻辑，其实也没有必要知道，因为我们并不是计算分子动力学专家。所以后来，我们把我们的发现，汇报给gromacs程序的开发者，让他们对程序进行了优化和改进，重新改进了并行算法，增加了线程数，下个版本更新时终于把这个问题解决掉了，使得kepler这代的显卡可以完美地得到支持。

 

可见，有针对性的程序优化是多么的重要！

  

（下面是我作为玩家的理解，不一定专业和准确）

 

实际消费市场中，一个消费级产品，尤其是它的硬件驱动，采取第三种思路，就很有可能会出现‘跑分王’现象。这里，我举显卡的例子，可能大家更容易理解些。像很多年前的ati显卡，硬件驱动针对那些跑分软件比如3dmark，很有可能做了极度的优化。为什么会这样？有大程度上是因为ati（第二种方案）拼不过nvidia (第二种方案)，而这些厂商深知道消费者买显卡之前都是看评测跑分的，那好，我就给你来这套 田忌赛马：ati（第三种方案）去和nvidia拼 。结果跑分上面不落下峰了，但通用性可能大大下降。实际运用中，遇到各种各样的游戏，如果游戏没有进一步对显卡驱动进行匹配优化，就会导致性能大减。所以这里是一个： 游戏程序 <--> 硬件驱动 <--> 硬件架构 三者相互匹配、相互优化调度的问题。（当然，现实中可能还会多出游戏引擎这个环节，也就是4者）。

  

crysis(孤岛危机)这类的游戏开发者 （包括cryengine这种3d引擎开发者），和开发硬件驱动的厂家，思路一般是不太一样的。也就是说孤岛的开发者肯定要考虑平台的通用性，一般不会采取特别极端的开发思路（比如第三种方案）。实际中，游戏速度慢，卡顿，一般怪的多的是厂商（ati，nv），怪产品不给力，但你会怪游戏开发者写的代码垃圾吗？就算孤岛一向被称为是硬件杀手，那又能怎么样呢？作为消费者，你只能不断的掏钱升级显卡。。。。

 

如果孤岛采取的第二种方案思路，那就说的通了。2核4线程、4核4线程、4核8线程当然是不一样的。因为你从来都不会有绝对性能上的标杆 - 孤岛究竟应该多快多流畅，究竟有没有把gtx980这个硬件的绝对性能榨干到极致。而你只可能有相对的感受 - 用核少的i3打孤岛，肯定没有核多的i7打孤岛那么爽。