AMD EPYC的模块化和NUMA之路

看起来似乎有强行把芯片设计和数据中心建设拉到一起尬聊的感觉，但世间也没有那么多的一见如故，一些有意义的讨论未尝不是从尬聊开始的。

就我个人而言，今年已经多次在关于数据中心的文章和（线上）分享中提到AMD：“从1月29日开始到2月6日，腾讯会议每天都在进行资源扩容，日均扩容云主机接近1.5万台，8天总共扩容超过10万台云主机，共涉及超百万核的计算资源投入，全部由腾讯云自研的服务器星星海提供支撑。”这款服务器基于AMD去年8月发布的代号Rome（罗马）的第二代EPYC处理器，最大的特点就是核多——双路配置再算上超线程，一台采用腾讯云定制版EPYC处理器的星星海服务器可以为云服务器提供多达180个核——也就是说，这100万核服务器资源，“只”需要不到6000台该款自研服务器即可满足。

腾讯云星星海SA2服务器采用2U高度结合类似远程散热片（remote heat-sink）的设计，配合6个60mm风扇，据称可以支持2个300W级别的CPU（AMD第二代EPYC处理器公开版本最高TDP为280W）

实际上，官方名称为AMD EPYC 7002系列的第二代EPYC处理器最多能提供64个核芯、128个线程，腾讯云定制版本选择了48核芯（96线程）而已。至少在CPU的核数（core count）上，AMD给Intel（英特尔，昵称“大英”）造成了很大的压力。上个月英特尔发布了代号为Cooper Lake的第三代至强可扩展处理器（Xeon Scalable Processor，XSP），主打四路和八路市场，四路配置可提供112核芯224线程，核数上堪与双路EPYC 7002系列抗衡，为10nm制程的Ice Lake争取时间。

摩尔定律难以延续的后果就是CPU的功耗持续攀升，第一代至强可扩展处理器（公开版）里TDP最高的205W，到第三代已是寻常，250W算是克制——毕竟要考虑四路的散热需求

话说上一次AMD搞得大英如此狼狈，还要追溯到本世纪初的64位路线之争。众所周知，英特尔是x86及其生态（特别是软件生态）的缔造者，属于“亲妈”级别，AMD充其量是个“后妈”。但是，x86几十年的发展史证明，“亲妈”未必就比“后妈”更了解孩子的发展潜力。也可以前一阵大火的剧集《隐秘的角落》为例，看完就会发现，对于朱朝阳的隐藏能力，后妈的认知似乎先于亲妈。

Cooper Lake：你看我还有机会吗？

简单的说，Intel建立发展x86生态，AMD坚定捍卫x86路线——不断改造作为生态核心的x86处理器，焕颜新生

盛衰无常：架构与制程的双簧

虽然已经在过去十年中逐渐沦为爱好者口中的“牙膏厂”，但在历史上，英特尔一直不乏创新精神。对待x86的态度可以算是这种精神的一个体现，起码在进入64位时代之前，英特尔其实不太瞧得上x86，总觉得这个娃太low——可能是亲妈更了解孕育过程中的种种先天不足吧——几次三番地在重大的转折点，想要“与时俱进”，重起炉灶，带给用户“船新体验”。反而是AMD屡屡在关键时刻出来捍卫x86，通过翻新加盖来维持其生命力。

64位是关键的转折点。上世纪九十年代末，还是32位的x86刚“插足”服务器市场不久，英特尔选择与惠普（HP）联手开发基于IA-64架构的Itanium（安腾）作为接班人，与已经64位了的RISC阵营大佬们对抗。然而，AMD认为x86还可以抢救一下，决定通过64位扩展来“续命”，并在2003年4月发布首款64位x86处理器Opteron，两年后又把x86(-64)带入多核时代。

此时，英特尔已经在IA-64的路上走了十多年。时过境迁，当初设定的目标并没有实现，而x86扩展到64位和多核之后，不仅软件和应用的生态系统得到了完整的继承，性能也完全可以一战。用户用脚投票，大英不得不从。

第二代EPYC处理器发布会上，Google出示2008年7月9日上线的其第100万台服务器的照片，追诉与AMD的革命友情……还是台四路服务器

英特尔痛定思痛，决定用架构和制程构筑双保险，在2007年提出了Tick-Tock（取自于时钟的“嘀-嗒”周期）量产模式，即先通过制程升级将芯片面积缩小，是为Tick；再基于操练纯熟的制程改用新的微架构，是为Tock。当时的英特尔工厂在技术和产能上都占据明显优势，只要架构上回到正轨，左右手组合拳一出，产量受限的AMD哪里支撑得住？在2008年推出Nehalem微架构之后，英特尔终于夺回主动权。

在英特尔施加的强大压力下，AMD在处理器架构上也犯了错误，2011年推出的Bulldozer（推土机）架构采用了即使现在看来也过于激进的模块化设计。随着2012年英特尔开启至强E5时代，AMD在节节失利后不得不退出服务器市场，上一个巅峰期彻底结束。

有道是：福兮祸所依，祸兮福所伏。先贤曾经曰过：纵有架构、制程双保险，奈何CEO是单点。2016年英特尔推出最后一代至强E5/E7（v4），这是英特尔首批采用14nm制程的服务器CPU，同时也宣告了Tick-Tock模式的终结，改用Process–Architecture–Optimization （制程-架构-优化）的三步走模式。

在这个可以简称为PAO的模式里，虽然仍是先制程、后架构的节奏，但新加入的优化不管是针对两者中的哪一个还是兼而有之，都起到了拉长制程换代周期的效果。第三代至强可扩展处理器已经是第四波采用14nm制程的服务器CPU，14nm后面的“+”都数不清楚有几个了——还好预计年底发布的Ice Lake将终止这个“土拨鼠之日”式的制程循环。

架构层面上，从代号Skylake的初代至强可扩展处理器开始，由环形总线改为6×6的2D-mesh，然后持续“优化”。在架构的角度，Mesh和环形总线都属于所谓传统的单片（Monolithic）式架构，优点是整体性好，涉及到I/O的性能比较有保证；缺点是对制程不太友好，随着规模的扩大，譬如核数和Cache的增加，良率上的挑战很大，高端产品的成本下不来，这对于追求高核数的云计算服务提供商显然不是个好消息。

至强E5/E7 v4的四环（2组双向环形总线）与至强SP的6×6 Mesh架构

关键时刻，又是沉寂多年的AMD挺身而出，接盘Tick-Tock，以自己的方式“维护”摩尔定律。

这个方式，就是模块化。

MCM：同构对等模块化的利与弊

先简单回顾一下AMD之前的模块化设计为什么会失败。 Bulldozer架构的模块化设计，建立在AMD对未来应用趋势的不靠谱假设上，即整数（Integer，INT）运算将占据绝对主导地位，结论是增加整数运算单元，减少浮点（Floating Point，FP）运算单元。 于是，Bulldozer架构很“鸡贼”的采用了两个（具有完整整数运算单元的）核芯共用一个浮点运算单元的模块化设计，两个模块就可以提供4个核芯（但只有2个浮点运算单元），6核以此类推。

模块化本身并没有错，Intel Nehalem的模块化设计就很成功。Bulldozer错在“拆东墙补西墙”，结果连补强都算不上

不用放马后炮，这也是一个妄揣用意（用户意志）的行为。即使是在AI大行其道的今天，第二代英特尔至强可扩展处理器已经支持INT8加速推理运算，也不能和通常意义上CPU的整数运算划等号。贸然押宝，错了当然怪不得别人。

不难看出，Bulldozer的模块化，与之前Intel Nehalem架构的模块化设计，只限于架构层面，并不是为制程考虑——CPU不论几个模块多少核，都是作为一个整体（die）来制造的，毕竟十年前制程还没到瓶颈。

然而，到了AMD以代号Naples的（第一代）EPYC处理器重返服务器市场的2017年，摩尔定律放缓的迹象已很明显。同样的14nm（可能还没有英特尔的先进）制程，AMD如何以更低的成本提供更多的核芯？

EPYC系列处理器基于AMD的Zen系列架构，从Zen、Zen+到Zen 2，以及规划中的Zen 3的发展路线，有点像前面提到的Tick-Tock：开发一个良好的基础然后交替演进，不断优化。

与先辈们不同，Zen系列的模块化明显侧重于解决制程面对的挑战，即芯片在物理上被切割为多个die（比较小的芯片更容易制造，良率有保证，有利于降低成本），通过Infinity Fabric（IF）互连为一个整体，所以每个die就是一个模块，但不一定是模块化设计的最小单位。

第一代EPYC处理器的4个die及Infinity Fabric示意

还是从初代EPYC处理器所采用的Zen架构说起。Zen确立了该系列计算单元模块化的最小单位CCX（Core Complex，核芯复合体），每个CCX包括4个Zen核芯（Core），以及8 MiB共享L3 Cache，每核芯2 MiB。

从AMD公开的示意图来看，各片（Slice）L3 Cache之间的连接方式像是full-mesh（全网状，即每两个点之间都有直接连接，无需跳转），CCX内部的跨核芯L3 Cache访问是一致的

Zen的CCD里除了2个CCX，还有2个DDR内存控制器（各对应1个内存通道），用于片上（die之间）互连的Infinity Fabric（IF On-Package，IFOP），而CPU之间互连的Infinity Fabric（IF Inter-Socket，IFIS）与对外的PCIe通道是复用的——这个知识点在后面会用到。

芯片层面的模块是CCD（Core Complex Die），包括2个CCX，共8个Core、4 MiB L2 Cache、16 MiB L3 Cache。官方名称为AMD EPYC 7001系列的第一代EPYC处理器只有CCD这一种（die层面的）模块，所以每个CCD除了2个CCX，还有大量I/O接口器件，包括DDR、Infinity Fabric/PCIe控制器，CCX占CCD面积的比例只比一半略多（56%）。

这个多芯片模块（multi-chip module，MCM）架构的代号为Zeppelin（齐柏林），四个这样的“复合型”CCD构成完整的第一代EPYC处理器，最多能提供32核芯、64 MiB L3 Cache，直接减少CCD的数量就会得到面向PC市场的高端（2×CCD）和主流产品（单CCD）。

按照AMD提供的数据：每个die的面积为213mm²（平方毫米），4个die的MCM封装总面积为852mm²，如果要用大型单一芯片来实现，面积可以缩小到777mm²，大约节省10%，但是制造和测试成本要提高约40%，完全32核的收益下降约17%、成本提高约70%。投入产出比当然非常划算，也变相的说出了大英的苦衷——可是，后者为什么还在坚持单片路线呢？

MCM这种完全对称的模块化方案，如果套用到数据中心领域，相当于一个园区，几栋建筑结构和功能完全一样，都包含了机房、变配电、柴发、冷站、办公和接待区域等。好处当然是彼此之间没有硬性依赖，每栋建筑都可以独立作为数据中心使用，照此复制就可成倍扩大规模；缺点是没有其他类型的建筑，而有些功能还是需要专门的建筑集中和分区管理的，譬如人员办公和统一接待……

如果一个数据中心园区只有黄框里这一种建筑（模块）……实际上，加上左边的66KV变电站，这里也只是整个园区的一角

况且，与绝大多数的数据中心园区不同，CPU对各模块之间的耦合度要求高得多，否则无法作为一个整体来运作，分工合作快速完成数据处理等任务。而这，正是MCM方案的局限性所在。

第一代EPYC的每个CCD都有“自己的”内存和I/O（主要是PCIe）通道，加上CCD之间的互连，每个CCD的外部I/O都很“重度”

多芯片（对称）设计、全“分布式”架构的特点是内存和I/O扩展能力与CCD数量同步，随着核芯数量的增加，内存和I/O的总“容量”（包括带宽）会增加，这当然是优点，但缺点也随之而来：

首先是局部性（locality）会降低I/O的性能，主要是跨CCD的内存访问时延（latency）明显上升。因为每组（2个）CCX都有自己的本地内存，如果要访问其他CCD上连接的内存，要额外花费很多时间，即所谓的NUMA（Non-Uniform Memory Access，非一致性内存访问）。虽然Zen的CCD上有足够多的IFOP，让4个CCD之间能组成全连接（full-mesh），无需经其他CCD跳转（类似于CCX内4个核芯之间的状况），但I/O路径毕竟变长了；如果要访问其他CPU（插槽）连接的内存，还要经过IFIS，时延会进一步上升。

CCD里的两个CCX也通过Infinity Fabric连接，同样会增加跨CCX的Cache访问时延

根据AMD提供的数据，不同内存访问的时延水平大致如下：

随着访问路径变长和复杂，时延以大约一半的比例增加，这个幅度还是很明显的。

同一个CCD里的内存访问没有明显差异，而跨CCD的内存访问，时延增加就很明显了

然后是PCIe，前面已经有图说明，Zen用于CPU之间互连的IFIS与PCIe通道是复用的，即单路（单CPU）的情况下全都用于PCIe通道，共有128个；双路（双CPU）的情况下每个CPU都要拿出一半来作为（两者之间的）IFIS，所以（对外的）PCIe通道数量仍然是128个，没有随着CPU数量的增加而增长。

简单归纳一下，Zen架构的问题是：核数越多，内存访问的一致性越差；CPU数量增加，外部I/O的扩展能力不变——NUMA引发的跨CPU访问时延增长问题还更严重。

单CPU就能提供128个PCIe 3.0通道原本是第一代EPYC处理器的一大优势，但双CPU仍然是这么多，就略显尴尬了

核数进一步增加的困难很大，不论是增加每个CCD的核数，还是增加CCD的数量，都要面临互连的复杂度问题，也会进一步恶化一致性。

说得更直白一些，就是Zen架构的扩展能力比较有限，难以支持更大的规模。

既然双路配置有利有弊，AMD又是时隔多年重返服务器市场，单路一度被认为是EPYC的突破口，譬如戴尔（Dell）在2018年初推出三款基于第一代EPYC的PowerEdge服务器，其中就有两款是单路。

1U的R6415和2U的R7415都是单路服务器

类似的情况在通常用不到那么多核及I/O扩展能力的PC市场体现得更为明显，在只需要一到两个CCD即可的情况下，消费者更多感受到的是低成本带来的高性价比，所以“AMD Yes!”的鼓噪主要来自个人用户，服务器市场在等待EPYC的进一步成熟。

只有1个die的Ryzen将Zen架构的缺点最小化，获得个人用户的喜爱也就不足为奇了

Chiplet：异构混合模块化的是与非

时隔两年之后，AMD推出基于Zen 2架构的第二代EPYC处理器，通过架构与制程一体优化，达到最高64核、256 MiB L3 Cache，分别是第一代EPYC的2倍和4倍，内存访问一致性和双路的扩展性也有不同程度的改善，终于获得了一众云服务提供商（CSP）的青睐。

Zen 2的整体设计思维是Zen的延续，但做了很多明显的改进，配合制程（部分）升级到7nm，突破了Zen和Zen+在规模扩展上的限制。

首先，Zen2架构延续了Zen/Zen+架构每个CCD有2个CCX、每个CCX有4个核芯共享L3 Cache的布局，但是每个核芯的L3 Cache增大一倍，来到4MiB，每个CCX有16 MiB L3 Cache，是Zen/Zen+架构的两倍。

CCD层面的主要变化是把DDR内存、对外的Infinity Fabric（IFOP/IFIS）和PCIe控制器等I/O器件剥离，以便于升级到7nm制程。AMD表示，第一代EPYC中，上述I/O器件占CCD芯片面积的比例达到44%，从制程提高到7nm中获益很小；而第二代EPYC的7nm CCD中，CPU和L3 Cache这些核心计算、存储器件的占比，高达86%，具有很好的经济性。

被从CCD中拿出来的DDR内存控制器、Infinity Fabric和PCIe控制器等I/O器件，组成了一个单独的I/O芯片，即I/O Die，简称IOD，仍然采用成熟的14nm工艺。

自左至右，分别是传统单片式、第一代EPYC的MCM、第二代EPYC的Chiplet三种架构的示意图

一个IOD居中，最多8个CCD围绕着它，AMD把这种做法称为Chiplet（小芯片）。

如果继续拿数据中心的模块化来强行类比，相当于把整个园区内的变电站、柴发、冷站、办公和接待区域都整合到一个建筑里，位于园区中央，周围是构造完全相同的一座座机房楼……你说，这样一个所有机房楼都离不开的建筑，该有多重要？

仅从布局看，和第二代EPYC处理器有点像的数据中心，但变电站在园区外，制冷也是分布式的（与4个机房模块在一起），中间的建筑并没有上面设想的那么重要

第一代EPYC处理器（Naples）与第二代EPYC处理器（Rome）的片上布局对比，后者是1个IOD + 8个CCD，共9个小芯片组成的混合多die设计

因为CCD的数量增加一倍，所以Rome的核数可以达到Naples的两倍；因为每个CCX/CPU核芯的L3 Cache容量也增加了一倍，所以Rome的L3 Cache总容量可以达到Naples的四倍。

14nm IOD + 7nm CCD的组合——因为不是全部升级到7nm，所以我更愿意称之为制程的“优化”——体现了更高的扩展性和灵活性，使第二代EPYC能够以较低的制造成本提供更丰富的产品组合，提高了市场竞争力。但是，事情并没有看起来这么简单，要了解产品的具体构成和预期的性能表现，您还需要继续往下看。

2019年8月，第二代EPYC正式发布后不久，AMD在Hot Chips大会上介绍了Zen 2产品的Chiplet设计。可能是之前有Zen+架构采用12nm制程的缘故吧，IOD的制程被写成了12nm，其他场合的官方材料都是14nm，所以我们还是以后者为准

今年2月IEEE的ISSCC（International Solid-State Circuits Conference，国际固态电路峰会）2020上，AMD更详细的介绍了Zen 2这一代产品的设计。结合前一幅图可以看到，第二代EPYC的IOD具有83.4亿晶体管，数量与同样采用14nm制程的英特尔Skylake/Cascade Lake相当——虽然两者的晶体管类型构成有很大差别，但可以作为一个参照，说明这个IOD自身的规模和复杂度。

从红框中的选项来看，EPYC 7302 CPU有4个CCD，每个CCX有2个核芯，可以选择各启用1个

IOD集中所有I/O器件的一个好处是，CPU能提供的内存通道数量与CCD的数量无关。E企实验室前一阵测试了基于第二代EPYC处理器的Dell PowerEdge R7525服务器，送测配置包括2个AMD EPYC 7302处理器，从PowerEdge R7525的BIOS设置中可以看到，这款16核的CPU有4个CCD（而不是8个），应该对应下图中右二的情形：

上方柱状图是AMD列出7+14nm Chiplet方案与假设的单片7nm方案相比，成本优势可以达到一半以上（64核没有假设，可能是指单片式很难制造）；下方从左至右依次是8、6、4、2个CCD的布局，原则是尽可能的对称

虽然7302在EPYC 7002系列产品中定位偏低端，只有16个核芯，用4个CCX就能满足，但是它拥有128MiB的L3 Cache，这又需要8个CCX才可以。因此，7302的每个CCX只有2个核芯，享受原本属于4个核芯的16 MiB L3 Cache。

从EPYC 7002系列的配置表中可以看出，7302下面72开头的产品才是真正的低端，譬如同样是16核的7282，不仅L3 Cache容量只有7302的一半（倒是符合每核4 MiB的“标配”），而且仅支持4个内存通道，也是7302等产品的一半——说明其CCD数量是2个，就像前一幅图右下方所示的情况——4个内存通道配置的运行频率也低，只有DDR4-2667，与标准的8通道DDR4-3200相比，理论内存带宽仅为40%多

Dell PowerEdge R7525用户手册里对内存条的安装位置有很详细的说明，毕竟插满8个内存通道和只用4个内存通道，性能差距太大

IOD集中所有I/O对性能也有好处，因为内存控制器集中在一个芯片上，有助于降低内存访问的局部性（NUMA）。不过，AMD在很多场合放出的示意图很有误导性，容易让人以为，对Rome（下图右侧）来说，同一个CPU上的内存访问是不存在NUMA的。

从上面的数据来看，第二代EPYC处理器的“本地”内存访问时延有所增长，毕竟内存控制器和CCX不在一个die上了；收益是跨CPU内存访问的时延有所下降，总体更为平均

好在，稍微详细一点的架构示意图表明，一个EPYC 7002系列CPU内部的内存访问仍然会有“远近”之分：

Dell PowerEdge R7525的BIOS配置中，可以在L3 Cache的NUMA设置为Enabled之后，看到每个CPU内部其实还是可以像EPYC 7001系列一样，分成4个不同的NUMA区域

这时学术性会议的价值就体现出来。AMD在ISSCC 2020上的演讲表明，完整版的Server IOD要承载的功能太多，已经有太多的晶体管，中间都被Infinity Fabric和PCIe相关的I/O所占据，内存控制器只能两两一组布置在IOD的四角，每2个CCD就近共享2个内存控制器。由于中间已经没有走线空间，只能构成一个没有对角线连接的2D-mesh拓扑——仅从拓扑角度而论，还不如EPYC 7001系列4个CCD的full-mesh连接方式。所以，临近的访问有长短边造成的延迟差异，对角线的内存访问因为要走过一长一短两条边，没有捷径可走，自然要更慢一些。

注意放大看IOD布局示意图和右侧1～4的不同等级时延注解，可以理解为每个CPU内部仍然分为4个NUMA区域：本地、短边、长边、（拐个弯才能抵达的）对角线

Hot Chips大会上的这张示意图突出了不同功能的Infinity Fabric导致的IOD中部拥挤，和DDR内存控制器都被挤到边角上的感觉。结合前一张图，不难理解，像EPYC 7282这样只有2个CCD对角线布置的低端SKU，另一条对角线上的4个DDR内存控制器主要起增加内存容量的作用，不如只保留CCD就近的4个内存通道

总之，不管是EPYC 7001系列的MCM，还是EPYC 7002系列的Chiplet，随着芯片数量的增长，性能肯定会受到越来越明显的影响（而不是近乎线性的同步提升），只是好的架构会延缓总体性能增长的衰减速度。

这里我们可以回过头来看看同样基于Zen 2架构的第三代AMD Ryzen处理器，主流PC产品没有那么多核数要求，只用2个CCD即可满足，所以其配套的Client IOD（cIOD）正好是Server IOD的四分之一，从前面图中晶体管数量的对比（20.9亿 vs. 83.4亿）也可以看出来。

代号“Matisse”的第三代Ryzen，仍然可以看到两个DDR4内存控制器偏居一隅的“遗存”，但对两个CCD已经公平了很多，基本不存在NUMA问题。也就难怪“AMD真香”党在消费类用户中比例要大得多

尽管CCD升级到了7nm，但更多核芯、更大得多的L3 Cache，意味着整体功耗的上升，譬如同样16核的7302和7282，前者Cache大一倍，频率略有提高，默认TDP就来到了155W，Dell为送测的R7525配备了180W的散热器——而EPYC 7282的TDP则“只有”120/150W。当然，CCD应用7nm的效果还是比较明显的，同样16核、L3 Cache只有7302四分之一，运行频率还低500MHz的7301，TDP也有150/170W，基本与7302相当。

为了满足云计算、高性能计算（HPC）和虚拟化等场景的用户需求，AMD又向EPYC 7002系列CPU中增加了大量多核大(L3) Cache以及核数虽少但频率很高的型号（如今年初发布的7Fx2系列），导致全系列产品中TDP在200W以上的SKU占比很高，也给服务器的散热设计带来了更高的挑战。

200W+的CPU将越来越常见

EPYC 7002系列的另一大改进是PCIe从3.0升级到4.0，单路仍然是128个通道，但双路可以支持多达160个通道（譬如Dell PowerEdge R7525的特定配置）——在主板支持的情况下。第一代EPYC处理器推出时的一个卖点是，为其设计的主板也可以支持第二代EPYC处理器。没有广而告之的是，要支持PCIe 4.0，主板需要重新设计。用老主板可以更快的把第二代EPYC处理器推向市场，却不能充分发挥新CPU的全部能力。

不过，PCIe 4.0本身就是一个很大的话题，留待以后（有机会的话）专文讨论。

3月23日下午，腾讯控股发布2021年度第四季度及全年财报。

根据财报显示，2021全年，腾讯营收达5601. 2亿元，同比增长16%， 公司年度盈利2278.10亿元，同比增长42%；非国际财务报告准则（Non-IFRS）下，公司权益持有人应占盈利为1237.88亿元，同比微增1%，为近十年来净利增幅最低。而在第四季度，腾讯净利润（Non-IFRS）为248.8亿元，同比下滑25%，已经连续两个季度出现净利下滑。

其中， 游戏 和社交网络业务的收入依然占比较大，截止2021年12月31日，腾讯2021年度社交网络收入1173亿元，同比增长8%。

腾讯增值服务业务年度收入为2916亿元，同比增长10%。其中本土市场全年 游戏 收入1288亿元，同比增长6%。国际市场全年 游戏 收入455亿元，同比增长31%。

第四季度，腾讯营收1442亿元，市场预期1453亿元，同比增长8%；净利润949.6亿元，同比增长60%。其中，网络广告收入215亿元，预估234. 6亿元；增值服务业务收入719亿元，预估727. 3亿元；个人电脑客户端 游戏 收入106亿元，预估104亿元。金融 科技 及企业服务收入479. 58亿元，同比增长25%。

未成年人防沉迷方面， 2021年第四季，腾讯未成年人 游戏 总时长同比减少88%，占本土市场 游戏 总时长的0.9%。未成年人总流水同比减少73%，占本土市场 游戏 总流水的1.5%。

用户数方面， 截至2021年12月31日，微信及WeChat合并月活跃账户数12. 68亿，同比增长3.5%。QQ移动端月活跃账户数5. 52亿，同比下降7.2%。腾讯视频的付费会员数同比增长1%至1. 24亿，音乐付费会员数同比增长36%至7600万。

财报还披露，截止2021年12月31日，腾讯拥有112771名员工，同比增长31.3%。2021年度总酬金为955.23亿元，同比增长37.1%。据此推算，腾讯员工人均月薪资达7.05万。

在财报后的业绩发布会上，腾讯公司董事会主席兼CEO马化腾表示：“2021年是充满挑战的一年，我们积极拥抱变化，执行了加强公司长期可持续发展的举措，但影响收入增速放缓。尽管财务受到影响，我们在业务上继续取得战略性进展，包括普及我们的企业软件及效率办公工具的使用，增加视频号的内容创作及观看量，拓展国际市场 游戏 业务。我们相信，中国互联网行业正在结构性地迈向更 健康 的模式，回归以用户价值、 科技 创新及 社会 责任为中心的本源。我们正在积极适应新环境，降本增效，聚焦重点战略领域，争取长期可持续增长。”

本土 游戏 收入增速慢于海外

腾讯的 游戏 收入包括本土和国际两部分，2021年这两项收入分别为1288亿元和455亿元。 同比去年的增速分别为6%和31%，整体 游戏 业务增速约为12%。四季度，腾讯本土 游戏 收入增长仅为1%，海外 游戏 收入增速则达到34%。海外 游戏 增长动力更为强劲，本土则相对疲软。

财报称，本土 游戏 收入增长主要受《王者荣耀》《使命召唤手游》《天涯明月刀》收入增长推动，但部分被《DnF》和《和平精英》收入减少抵销。海外 游戏 增长则由《PUBG Mobile》、《Valorant》、《荒野乱斗》及《部落冲突》等 游戏 拉动。

未成年人 游戏 限制方面，财报称2021年四季度未成年人总 游戏 时长同比减少88%，占本土 游戏 总时长的0.9%，未成年人总流水同比减少73%，占本土 游戏 总流水的1.5%。

腾讯公司总裁刘炽平在财报电话会中表示，未成年人保护对收入增长的影响将在2022年内消化，新的 游戏 版号发布后，也会获得对应新收入。

自去年7月开始，国产网络 游戏 版号审批名单就未更新，这对腾讯的新 游戏 上线也有明显限制。

刘炽平也表示，目前由于新版号尚未公布，国内 游戏 业务收入并没有太高的可预见性。但腾讯会加快国际 游戏 投资和发布脚步，增加现有IP的渗透度，并持续发布新的 游戏 。

值得注意的是，国际 游戏 的高增速是腾讯财报亮点之一。 据App Annie去年12 月《中国 游戏 厂商出海收入排行榜》显示，腾讯位居榜单第三。

腾讯 游戏 海外投资动作频繁，其中包括《饥荒》《缺氧》开发商Klei Entertainment、《麻布仔大冒险》开发商母公司Sumo Group，以及曾开发《喋血复仇》、《求生之路》等知名 游戏 的工作室Turtle Rock Studios的母公司Slamfire等。

此外，腾讯还在去年年底成立了海外 游戏 品牌 Level Infinite，同时公布《王者荣耀国际版》、《饥荒：新家园》手游、《重生边缘》、《GTFO》等多款 游戏 产品，Level Infinite 将发行腾讯 游戏 旗下工作室及其它第三方工作室出品的 游戏 作品，并为海外合作工作室提供技术和研发支持。

数实经济收入成新的增长引擎

由于监管趋严和宏观经济及部分广告主行业的疲软，腾讯2021年广告业务收入同比增速降至个位数7.8%，而2020年这一增速为20%。

其中，社交媒体及其他广告收入同比增长11%至753亿元，媒体广告收入则下降7%至33亿元。财报介绍，前者由微信朋友圈小程序广告主增长带动，后者则受宏观环境和内容发布延迟等。

在线教育是腾讯广告主要客户，双减政策大幅影响该部分收入。 腾讯首席战略官James Mitchell在电话会中表示：“过去几个季度里，相比整个行业而言，腾讯的广告业务受到的影响更大，主要原因跟我们的广告客户构成有关，尤其是在线教育行业，一年之前在腾讯广告营收中的占比为10%-15%，而目前去年四季度只有1%-3%，这也解释了四季度广告营收同比下降的原因。”但他预期，随着对新的监管环境的适应，广告业务将在2022年下半年恢复增长。

腾讯的金融 科技 和企业服务首次成为腾讯最主要收入来源。 2021年四季度，腾讯金融 科技 和企业服务板块的营收同比增长25%，达到了479.58亿元，数实经济（To B）收入首度超越网络 游戏 板块，成为腾讯营收贡献最大的业务板块。 这意味着，以服务B端为主的数实经济收入已经成为腾讯新的增长引擎。

金融 科技 服务收入的增长主要反映了商业支付金额的增加。企业服务收入同比快速增长，乃由于传统产业的数字化及互联网行业的视频化趋势，以及自2020年11月合并易车的企业服务收入的贡献。

马化腾此前曾表示，自2015年以来，腾讯就开始进行互联网和行业融合，2018年，公司进行了“930”架构调整后，正式拥抱产业互联网。在这个过程中，腾讯的定位是数字化助手，为各行各业提供数字化服务。

2019年一季度，腾讯控股首次单独披露金融 科技 与企业服务板块收入数据，当季该板块收入217.89亿元，占整体营收25.5%，网络 游戏 板块占比则为33.4%。近年来，腾讯加大拥抱产业互联网，并在政务、金融、教育、交通出行、医疗、智慧零售、工业、能源等诸多领域，形成产业数字化方案。

财报显示，2021年，腾讯金融 科技 与企业服务板块的收入成本为1208亿元，同比增长32%，该板块同样是腾讯成本投入增速最快的业务板块。现阶段，腾讯正积极参与到“东数西算”的建设中，在贵阳、重庆、广东、江苏等地都投入了大型数据中心建设。

过去一年，腾讯云在印尼、泰国、德国、日本、中国香港等地的国际数据中心相继开服，整体全球运营的可用区达到70个，覆盖27个地理区域，运营着超过100万台服务器，为国内外企业数字化转型提供了技术支撑。

研发投入三年翻倍

2021年，腾讯研发投入再创新高，同比增长33%，达到518亿元。而在2018年，公司的研发投入仅为229.36亿元。这就意味着，在三年的时间里，腾讯的研发投入已经实现了翻倍。

2021年，腾讯持续发力核心技术自主研发，在芯片、操作系统、数据库、服务器等技术领域，实现多项突破。

芯片方面，面向AI计算、视频处理、高性能网络三大场景，腾讯自研了AI推理芯片紫霄、视频编解码芯片沧海、智能网卡芯片玄灵，产品性能业界领先。

同时，腾讯与多家芯片企业深度合作，自研星星海服务器。结合云计算的丰富场景，实现整机性能业界最强，可靠性翻倍。过去一年，星星海快速迭代，支持全平台、多场景，规模增长高达400倍，成为了业内上线后增长最快的服务器产品。

2021年，腾讯还发布了第六代100G云服务器，采用全面自研技术架构，计算性能最大提升220%、网络转发性能最大提升300%，已在电商、社交、 游戏 等业务场景大规模应用。

在软硬件基础设施之上，腾讯通过公有云、私有云以及客户本地集群构建了无所不在的云服务。去年11月，腾讯云正式发布行业首家全域治理的分布式云操作系统遨驰。遨驰单集群支持10万级服务器、百万级容器规模，管理的CPU核数超过1亿。

数据库领域，腾讯云数据库TDSQL发布全新的Oracle兼容引擎，满足金融核心快速上线要求；以及TDSQL金融级全自研新敏态引擎，可实现无限扩展、在线变更，适配金融敏态业务。

目前，腾讯云数据库TDSQL已成功服务客户数超50万，涵盖金融、政府、电商、 游戏 ，助力金融机构实现核心系统国产化，服务近半国内TOP 20银行。

音视频领域，腾讯云音视频覆盖国内90%音视频客户，拥有100+项新一代国际编解码专利。2021年，TRTC后台架构技术获得“中国专利金奖”，超低延时直播产品“快直播”将直播延时降低90%以上，综合服务质量（QoS）远超标准直播。

根据腾讯控股最新发布的2021年研发大数据报告显示，2021年腾讯研发人员数量同比增长41%。新增研发项目超6000个，增量同比2020年增长51%。过去三年，腾讯控股研发投入已经超过1200亿元。

2022年人员仍会增长

早前有消息称腾讯对外招聘计划正在紧缩，部分事业群开启“优化”。

2021年4月，腾讯以腾讯视频、微视以及应用宝为基础组建“在线视频BU”，通过内容生产、分发和应用渠道的整合，减少资源消耗的而同时继续深耕视频赛道。

2022年2月，腾讯影业的主体部分将从平台与内容事业群（PCG）被调整到企业发展事业群（CDG），原有的强商业属性的IP影视化开发工作交由阅文集团旗下的新丽传媒、阅文影视，以及PCG旗下的腾讯动漫负责。这对后者而言也是一种资源整合，充分挖掘阅文集团IP的价值。

这些业务调整不一定意味着人员整体缩减，但增长会相对有限。财报显示，截止2021年12月31日，腾讯拥有11.27万名员工，同比增长31.3%。

“今年的员工增长会大幅下降，增幅远低于前两年。”刘炽平说，腾讯的减员计划和组织调整是有关联的。“组织上的优化（不意味着投入缩减），处于优势的核心业务会继续加大投入，边缘和亏损的、可缩减的业务会减少招聘。”他说，腾讯依然持续引进核心 科技 人才和优秀的应届毕业生，预计2022年人员仍会增长。

今年以来，多家互联网公司和 科技 公司推动股票回购，阿里昨日就宣布上调回购规模至250亿美元，是其有史以来最大规模的回购计划。腾讯今年1月进行了一波密集回购，从1月5日至1月20日共计回购了11次，合计回购483.14万股。

减持京东是腾讯“主动”战略的另一侧面。 去年年底，腾讯以中期派息的方式将其持有的近4.6亿股京东集团A类普通股发放给合格股东，持有京东的股权将从16.9%降至2.2%，刘炽平也卸任京东董事。

James Mitchell称，腾讯过去几年有几百亿不同方向的投资，“撤资并不是大事”。他表示，腾讯投资会更偏向于选择没有上市的私有化公司，帮助他们扩张上市。

财报显示，截止2021年12月31日，腾讯于上市投资公司（不包括附属公司）的权益公允价值为9828亿元，接近万亿规模。

对此，刘炽平称，2020年和2021年都是腾讯的转折之年，行业的竞争也非常激烈，腾讯采取了“激进的市场营销措施应对竞争”，但随着互联网行业出现的范式转变等根本性变化，腾讯会进行全盘的成本优化，他预测2023年的利润率会好转。

截至3月23日收盘，腾讯股价微涨，报389港元，港股市值为37391亿元。美股方面，腾讯股价46.88美元低开，截至发稿拉升至47.70美元。

---