NVIDIA造出16核心全球最大GPU,靠的就是它!( 九 )

为“世界上最大的GPU”而生

NVSwitch解析

为了解决这个问题,英伟达设计了一种取巧的方法:既然GPU之间的两两互联难以完成,那么可以设计一个交换芯片,让所有的GPU都连接至交换芯片上,再由交换芯片实现数据的互联互通,这颗交换芯片的名称就叫NVSwitch。

NVSwitch是一个专用的NVlink交换器,每个NVSwitch芯片拥有18个NVlink端口,在连接NVlink 2.0总线的时候,每个端口的双向带宽为50GB/s,整个NVSwitch的总带宽高达900GB/s。由于带宽巨大、连接接口多,NVSwitch芯片的体积与功耗都比较夸张。

根据英伟达数据,NVSwitch内部集成了20亿个晶体管,在采用了台积电12nm FFN工艺(和GV100工艺相同)后功耗依然高达100W,需要采用主动散热方案才能正常运行。在封装方面,NVSwitch采用的是1940针的4平方厘米BGA封装方案,其中576个引脚分配给NVLink总线,其余的引脚用作电源、PCIe、I2C以及GPIO等其他用途,规模巨大。

英伟达还公布了NVSwitch芯片的结构图,其中大量的面积被两侧的NVLink总线占据,中央部分则由上部的NVlink总线和中间用作数据交换的XBAR以及下部的控制部分占据。从结构图来看,NVSwitch芯片大量的晶体管被用在连接和数据通道上,其设计还是相当复杂的。