Intel发射全新架构“火箭”！两年“登月”
本周四，intel架构日用长达近两个半小时的时间介绍了其在架构创新以及相关新产品方面的进展。intel高级副总裁兼加速计算系统和图形事业部总经理raja koduri说：“架构是硬件和软件的‘炼金术’。”
intel高级副总裁兼加速计算系统和图形事业部总经理raja koduri
2016年，amd发布全新cpu微架构zen，帮助其在桌面cpu市场几年间迅速接近甚至超越intel。今天，intel发布了全新的cpu架构和两个核心，将移动soc中已广泛应用的cpu大小核（big.little）架构率先引入桌面级cpu中。
intel在升级“看家”产品cpu的同时，也带来了独立gpu更详细的信息。特别值得关注的是，intel首次展示了耗时近两年，堪比登月难度创新后的产品ponte vecchio gpu，包含1000亿个晶体管，这是intel迄今为止最高的计算密度产品，能提供业界最*的ai性能。
不止于此，intel还进一步介绍了全新的基础设施处理器（ipu）。
从cpu到gpu再到ipu，每一个新的架构和产品都是其xpu架构战略的体现，也用实际产品证明了芯片异构的时代，软件优先的重要性。无论如何，intel全新的cpu值得消费者期待，而其gpu以及ipu，也将成为竞争对手重点关注的产品。
4年处理能力提升1000倍
ai、元宇宙、ar，都需要超高性能的处理器。每一位追求创新的客户都给intel一个问题，到2025，intel能让我们的工作负载处理能力有1000x（千倍级）的提升吗？
“这个要求只给了我们4年时间，而1000倍可是摩尔定律的5次方。” raja说，“为了在2025年满足1000x（千倍级）提升的需求，我们要在每个技术领域，实现至少4倍左右的摩尔定律提升，这些领域包括制程工艺、封装、内存和互连，架构是将它们与软件结合起来的‘炼金术’。这些技术的集合可以作为乘法因子，与4倍的提升相结合，就能提供处理繁重的工作负载所需的千倍提升，这同时例证了为何如今是成为架构师的大好时代。”
2019年，两位图灵奖得主 john l. hennessy 和 david a. patterson发表长报告展望，未来的十年将是计算机体系架构领域的“新的黄金十年”。
已经准备好先进制程（intel7、intel4、intel3、intel20a，以及外部代工厂），先进封装技术（emib、foveros），内存（傲腾）和互联技术的intel，处理能力可以像火箭一样跃升吗？
这需要先看intel的看家本领——cpu。
要以大小核的方法，夺回cpu领先优势
“我们的首要目标是，打造世界上极高能效的x86 cpu内核。与此同时大幅缩小芯片尺寸，以便多核工作负载可以根据需要，使用尽可能多的内核进行拓展。我们还希望提供更宽的频率范围，以满足更高需求的工作负载。”intel院士，intelx86能效核的首席架构师stephen robinson介绍，
“基于全新的微架构，全新的cpu内核在多核性能方面实现了突破，首款产品是alder lake。”
alder lake是intel首个性能混合架构，采用intel7制程，搭载两款新一代x86内核以及智能intel硬件线程调度器。
先看能效核，也叫e-core。与intel迄今为止最多产的cpu微架构skylake相比，其可在相同功耗下提升40%的单线程性能，或者在提供同样性能时，功耗仅为skylake的40%不到。如果看吞吐量，与运行四个线程的两个skylake内核相比，四个能效核在性能提升80%的同时功耗更低，或者在提供相同吞吐量性能时，功耗降低80%。
实际上，intel是利用各种技术，在不耗费处理器功率的情况下对工作负载进行优先级排序，并通过每周期指令数（ipc）改进功能直接提高性能，具体的功能包括：
拥有5000个条目的分支目标缓存区，实现更准确的分支预测
64kb指令缓存，在不耗费内存子系统功率的情况下保存可用指令
intel的首款按需指令长度解码器，可生成预解码信息
intel的簇乱序执行解码器，可在保持能效的同时，每周期解码多达6条指令
后端宽度（wide back end）具备5组宽度分配（five-wide allocation）和8组宽度引退、256个乱序窗口入口和17个执行端口
支持intel?控制流强制技术和intel?虚拟化技术重定向保护等功能
实现了avx指令集以及支持整数人工智能操作的新扩展
再看性能核，也叫p-core，这是intel迄今为止性能最高的cpu内核，它是一个更宽、更深、更智能的架构，展现出更高的并行性，提高执行并行性，降低时延，提升通用性能。
更宽、更深、更智能的性能核架构具体的体现是：
更宽：解码器由4个增至6个，6?op 缓存增至8?op，分配由5路增至6路，执行端口由10个增至12个
更深：更大的物理寄存器文件（physical register files），拥有512条目的重排序缓冲区
更智能：提高了分支预测准确度，降低了有效的一级时延，优化了二级的全写入预测带宽
与第11代酷睿架构（cypress cove内核）相比，在相同频率下，性能核在一系列工作负载上平均提升了约19%。
拥有ai硬件加速器是intelcpu独有的功能，这一特性在性能核上进一步通过软件结合硬件来提升。凭借intel高级矩阵扩展（amx）来执行矩阵乘法运算，ai加速可以提升约8倍（每个内核每周期可进行2048次int8运算）。amx可是用过软件的方法，由此就不难理解intel一直强调软件优先的原因。
“能效核并不意味着性能就低，只是其优化的方向与性能核不同。”intel研究院副总裁、intel中国研究院院长宋继强告诉雷锋网。
拥有了不同的内核，就像是拥有了更多武器，能够充分发挥武器的杀伤力才是高手称霸的关键。所以，intel开发了独特的硬件线程调度器，能够从开始就动态、智能地分配工作负载，从而优化系统以在真实场景中实现更高的性能和效率。
“intel硬件线程调度器与其它调度器一个非常大的区别就是动态、智能地分配工作负载，在合适的时间把合适的线程分配给合适的内核，同时还与操作系统无缝配合。”宋继强指出。
全新性能混合alder lake架构cpu由于采用了单一、高度可扩展的soc架构，这就让其可以支持从超便携式笔记本，到发烧级，到商用台式机的所有客户端设备。
全新的性能核微架构也会用于利润丰厚的数据中心cpu市场，也就是下一代intel至强可扩展处理器，代号sapphire rapids，其核心是一个分区块、模块化的soc架构，采用intel的嵌入式多芯片互连桥接（emib）封装技术，在保持单晶片cpu接口优势的同时，具有显著的可扩展性。
可见，amd用zen赶超intel，如今intel要用alder lake反超。这也让我们更期待今年底将会出货的搭载alder lake cpu的pc产品。同样，intel捍卫其在服务器cpu市场的领导力，代号sapphire rapids的下一代至强可扩展处理器也非常重要。
再入独立gpu市场，挑战登月级难度
相比看家本领的cpu产品，intel过去两次挑战独立gpu市场，都以失败告终。再一次进入独立gpu市场的intel面临的是更大的挑战。
“我们面临的是将近持续十年之久的问题。intel在吞吐量计算密度和对高带宽内存的支持方面都落后。这两者都是 hpc和ai的基本指标，也是gpu架构的基石。”raja给出了图表展示intel与业界领先水平的差距。
raja还同时说，“当2017年gpu架构开始为ai数据类型的矩阵处理添加特殊引擎时，问题变得更糟。我们真的很想尽快缩小这个差距，所以我们需要一个堪比登月难度的创新产品。”
今天intel架构日上，详细介绍的全新的独立显卡微架构xe hpg，采用新的xe内核，聚焦计算、可编程、可扩展，并全面支持directx 12 ultimate。基于全新独立显卡微架构xe hpg的首款产品是alchemist，alchemist soc能够提供出色的可扩展性和计算效率，并拥有以下关键架构特征：
多达8个具有固定功能的渲染切片，专为directx 12 ultimate设计
全新xe内核，拥有16个矢量引擎和16个矩阵引擎（被称为xmx，即xe matrix extension）、高速缓存和共享内部显存
支持directx raytracing（dxr）和vulkan ray tracing的新光线追踪单元
通过架构、逻辑设计、电路设计、制程工艺技术和软件优化，相比xe lp微架构实现1.5倍的频率提升和1.5倍的每瓦性能提升1
使用台积电的n6制程节点（通常叫做台积电6nm）上进行制造
与全新的cpu微架构一样，intel全新的gpu微架构也采用了软件优先设计的方法。
“intel很早就与开发者、api 和领先的游戏引擎厂商展开合作，共同为游戏发烧友设计intel新款独立gpu。这款全新可扩展xe hpg架构，采用了软件优先的设计方法，从而为游戏玩家和创作者带来高性能表现并减少画面卡顿。” intelceo 帕特·基辛格表示。
雷锋网(公众号：雷锋网)了解到，intel已完成了内核显卡驱动程序组件的重新架构，特别是内存管理器和编译器，使计算密集型游戏的吞吐量提高了15%（至多80%），游戏加载时间缩短了25%。同样能体现软件优先的特性是xess。
xess与cpu中的amx一样可以进行ai加速，利用alchemist的内置xmx ai加速，带来了一种可实现高性能和高保真视觉的全新升频技术，让那些只能在低画质设置或低分辨率下玩的游戏也能在更高画质设置和分辨率下顺利运行。
从正在试产阶段的alchemist soc的演示视频可以看到，包括真实游戏展示，虚幻引擎5测试良好。想要用上intel全新的alchemist gpu，最早一批要到2022年第一季度上市，错过了圣诞季的消费热潮，不知能否赶上春节。
除了确定性较高的alchemist，intel还规划了battlemage、celestial和druid 的消费级独立gpu产品，intel还为这一系列产品推出了全新的品牌名称锐炫。
但最能展现intel在独立、高性能gpu市场决心的产品还是基于xe hpc微架构的ponte vecchio，这是intel迄今为止最复杂的soc，包含1000亿个晶体管，提供业界领先的浮点运算和计算密度，以加速人工智能、高性能计算和高级分析工作负载。
“不到两年前，我分享了我们为ponte vecchio设定的目标。看到这样非凡的芯片工程以及雄心勃勃的软件计划在我们的实验室内成为现实，这对于我们来说是令人难以置信的时刻。对于我们来说，这已经不再是似乎不可能的登月难度的创新产品。”raja同时也表示，
“整个项目尚未成功，我们还有很多工作要做。但是，我们迫不及待地希望大家加入我们的旅程，在明年初把这个架构带给所有客户。”
之所以说ponte vecchio的难度堪比登月，是因为要设计这样一款产品难在从无到有，面对的是新的soc架构、新的ip 架构、新的内存架构、新的i/o架构、新的封装技术、新的供电技术、新的互连、新的信号完整性技术、新的可靠性方法、全新的软件、以及新的验证方法。
“保守地说，ponte vecchio是我在30年的芯片开发生涯中开发的最复杂的芯片。实际上，我甚至不确定把它称为芯片是否准确，它是包含诸多芯片的集合。”intelponte vecchio首席架构师masooma bhaiwala感叹。
架构日上，masooma bhaiwalaintel展示了早期的ponte vecchio芯片就已经显示出领先的性能，在一个流行的ai基准测试上创造了推理和训练吞吐量的行业纪录。基于ponte vecchio的a0芯片已经实现了超过每秒45万亿次浮点运算的fp32吞吐量，超过5 tbps的持续内存结构带宽以及超过 2 tbps的连接带宽。
雷锋网了解到，基础单元是ponte vecchio的连接组织，它是基于intel 7制程工艺的大型芯片，针对foveros技术进行了优化。xe 链路单元提供了gpu之间的连接，支持每单元8个链路，该单元已被添加到“极光”（aurora）百亿亿次级超级计算机的扩展解决方案中。
异构时代的ipu
ipu（基础设施处理器）是cpu和gpu之外，intel架构日的第三个重要产品。intel在不久前提出ipu的概念，这一产品的目标是使云和通信服务提供商减少在*处理器（cpu）方面的开销。
intel数据平台事业部首席技术官guido appenzeller介绍，intel认识到单一产品无法满足所有需求，因此对其ipu架构进行了更深入的研究，并推出了以下ipu家族的新成员。目前的ipu基本上使用两类架构：一类是专用asic ipu；一类是基于fpga的ipu。
基于fpga的ipu能快速实施新协议，应对不断变化的要求或新协议。例如，在这些fpga上实现未公开的专有协议。专用asic ipu可以实现性能和效率的最大化。
“两者实际上都不同于经典的smartnic，后者缺乏执行基础设施控制面的能力。对于不同类型的基础设施加速，没有适用所有情况的方案。因此，intel将继续投资于这两类ipu以及smartnic。”guido appenzeller同时表示。
mount evans是intel的首个asic ipu。据悉，这是intel与一家一流的云服务提供商共同设计和开发的，融合了多代fpga smartnic的经验。
“接下来将迎来两款基fpga的ipu新产品，分别面向云（oak springs canyon）和通信（arrow creek）市场。” guido appenzeller介绍，
oaks springs canyon是基于fpga的ipu，采用了intel的agilex fpga 和至强d片上系统。还采用了intel开放式fpga开发堆栈(intelofs)，这是一个可扩展、开源软硬件基础设施堆栈，能够满足新兴云服务提供商对于部署100gb工作负载的需求。oak springs canyon还包括一个加固的加密模块，以线速性能保护所有基础设施流量、存储和网络。
arrow creek是一个加速开发平台，基于agilex fpga和e810 100gb以太网控制器。它源自intelpac-n3000，后者目前已经被全球各地的*通信服务提供商所采用，arrow creek将帮助电信运营商提供灵活的加速工作负载。
成就异构芯片时代——oneapi
“在软件领域，要开启堪比登月难度的创新计划。我们需要一个编程框架，让软件开发者在编程时无需考虑不同的cpu和加速器组合，很多人认为这是不可能的任务，我们创造了oneapi，让开发者能够摆脱专有语言和编程模型。”raja说，
“oneapi行业计划提供了一个开放、基于标准、跨架构、跨矢量的统一软件堆栈。这个行业规范的第一个版本已于去年9月发布，其中规定了一个通用硬件抽象层、数据并行编程语言以及全面的高性能函数库，涉及数学、深度学习、数据分析和视频处理领域。
目前，nvidia gpu、amd gpu和arm cpu均有data parallel c++（dpc++）和oneapi库。oneapi工具包拥有超过20万次单独安装，市场上部署的300多个应用程序采用了 oneapi的统一编程模型。
据悉，临时的oneapi 1.1版已经在5月发布，增加了面向深度学习工作负载和高级光线追踪函数库的全新图形接口。预计oneapi1.1正式版将在今年末之前完成。
写在最后
从cpu到gpu再到ipu，从微架构到封装、存储、互联再到软件，从六大技术支柱到异构再到软件优先。intel正在用全新的产品组合，技术路线和策略面对ai和5g时代的竞争。
接下来的市场竞争格局的变化，难以准确预测。但intel有勇气说出自己在技术上的巨大挑战，以及宣布idm 2.0，都释放出积极的信号，一个更加开放的intel正在积极拥抱新的市场和竞争。
- the end -