NVIDIA (NVDA US) 2025 GTC Review – Is Amphenol (APH US) Dead Beyond NVL72?

笔者最早在今年2月份的时候写过一篇NVIDIA 2025 GTC Preview（NVIDIA (NVDA US) 2025 GTC Preview -- An Update on its Latest CPO Switch and NVL288 Design）。也许有的读者要问：GTC大会3月就已经开完了，为何现在才写GTC review？答案是：我比较懒……（开玩笑）其实我本来没有计划要再写review的文章，但看到Substack上有不少博主都陆陆续续写了GTC review，所以我想就不免俗也来写一篇。

由于提笔写的时间较晚，NVIDIA 2025 GTC上发布的内容都已经被大家分析的差不多了。因此我今天就另辟蹊径，来介绍一个目前为止还比较少有人谈论的话题：即安费诺（APH US）在NVIDIA未来AI server product roadmap中的content dollar问题。笔者最早提及安费诺是在去年九月初的一篇文章中（Is Amphenol Overpass Replaced by PCB? – All you need to know about GB200 NVSwitch tray redesign issue），自那时起市场便开始担忧安费诺在NVIDIA server rack中content dollar逐渐减少的问题。除了GB200/ GB300中NVSwitch tray将会移除overpass改用PCB design之外，在今年GTC大会上NVIDIA展出的下一世代概念机Kyber 3则完全没看到有采用任何的overpass和cable cartrige（见下图），这更加深了投资人对安费诺在NVIDIA未来AI server产品中丧失content dollar的担忧：

我们知道，Kyber 3 rack总共包含有4个canister，每个canister前面有18个计算刀片，每个刀片上放有两个GB200，每个GB200里有两个Blackwell GPU，所以整个rack有4 x 18 x 2 x 2 = 288张Blackwell GPU，这便是原本NVIDIA 288 GPU dense rack的concept（NVIDIA (NVDA US) GB300, Vera Rubin & Beyond – An Update on Future PCB/CCL and Power Design Change）。但根据NVIDIA最新的命名规则，现在需要把每颗GPU die单独分开来算，而每张Blackwell GPU包含两颗GPU die，因此Kyber 3 rack如今也被称为288 x 2 = NVL576 rack。

但这里有一个问题不知道读者朋友们注意到没有：上图中只展示了单个canister内72张Blackwell GPU（即Kyber Compute Blade）经正交背板（即Kyber Midplane PCB）连接NVSwitches（即Kyber NVLink Switch Blade）达到NVL72互联，但GTC大会上并没有展示出整个Kyber rack里4个canisters之间是如何互联，从而达到NVL288/ NVL576的。如果我们再细看GTC上展出的这个Kyber rack，就会看到每个canister的后面总共插有8个blades，其中6个是NVLink Switch Blades，每块交换板上有三颗交换芯片；而在左右两侧各有一个Management Blade，管理板与NVLink无关，是独立存在用于系统管理的（见下图，绿框为NVLink Switch Blades，红框为Management Blades）：

从上图中我们可以清晰地看到，不管是NVLink Switch Blades还是Management Blades，其后端都仅留有管理接口，而没有NVLink上行接口。因此，今年GTC上展出的这款Kyber rack与其说是NVL288/ NVL576倒不如说是NVL72 x 4：它的四个canister完全是分开独立运作的，每个canister后方的NVSwitch Blades只在其前端留有NVLink 的下行接口，通过高速连接器连接到Midplane PCB，再与前方的Compute Blades相连，从而完成NVL72互联。但在当前架构中，每个canister/ 每一组72张GPU是独立存在的，并没有通过NVLink进行跨区域连接。

那真正完全体的Kyber rack是如何做到NVL288/ NVL576互联的呢？且听笔者在后文中展开细讲：