700W功耗撑不住了!NVIDIA计算卡第一次上液冷:节能30% 计算节丝毫没有提及

时间:2024-04-27 17:03:59 来源:卡盟排行榜

对于下一代显卡,耗撑AMD、不住NVIDIA在台北电脑展期间都三缄其口,计算节丝毫没有提及。卡第AMD只讲处理器,次上NVIDIA则只说数据中心GPU、液冷CPU。耗撑

NVIDIA宣布,不住Ampere架构的计算节计算卡A100、桌面超算HGX A100,卡第Hopper架构的次上计算卡H100、桌面超算HGX H100,液冷将在该系列中首次引入液冷散热,耗撑从而提高散热效率、不住降低能耗、计算节节省空间和成本。NVIDIA表示,它们都采用了Direct-to-Chip冷却技术。

HGX A100、HGX H100系统采用的都是SXM样式计算卡,在机架内直接整合液冷散热系统,绝地求生黑号取代传统的系统风冷散热,体积更加紧凑,前者现已出货,后者今年第四季度。

A100 PCIe(80GB)、H100 PCIe独立计算卡则有些类似桌面液冷显卡,整合水冷头,不过接口放置在尾部,以便对接液冷系统,前者今年第三季度出货,后者明年初。

数据中心服务商Equinix正在实验室中测试自己的首款液冷GPU方案,结果发现,采用液冷技术的数据中心工作负载可与风冷设施持平,同时消耗的能源减少了约30%。

同时,液冷版的A100/H100 PCIe只需占用一个插槽位,相比传统两个插槽位的风冷版,霸气Ai助手可以节省最多66%的机架空间。

NVIDIA估计,液冷数据中心的PUE(电源使用效率)可能达到1.15,远低于风冷的PUE 1.6。

NVIDIA GH100核心采用台积电4nm工艺制造、CoWoS 2.5D晶圆级封装,集成800亿个晶体管、18432个CUDA核心、576个Tensor核心、60MB二级缓存,可搭配6144-bit HBM2e/HBM3高带宽内存。

H100计算卡支持SXM、PCIe 5.0两种形态,其中后者功耗高达史无前例的700W,相比A100多了整整300W。SXM5版本只开启15872个CUDA核心、528个Tensor核心、50MB二级缓存。PCIe 5.0版本则只有14952个CUDA核心、456个Tensor核心。绝地求生黑号

推荐内容