80GB都不够了!英伟达H100计算卡要上120GB显存
你的显卡显存有多大?想没想过显存超过100GB是什么概念?NVIDIA上一代加速计算卡A100首发40GB HBM2显存,后来升级到80GB HBM2e。
新一代H100上来就是80GB,其中PCIe5.0形态的还是HBM2e,SXM5形态的则是最新标准HBM3。根据最新爆料,NVIDIA正在准备120GB HBM2e显存版的H100计算卡,PCIe形态,显存带宽还是高达3TB/s。
GH100核心采用台积电4nm工艺制造,集成800亿个晶体管,核心面积814平方毫米,内部集成了多达18432个CUDA核心、576个Tensor核心、60MB二级缓存,分为144个SM单元,另有12个512-bit显存控制器,总位宽6144-bit。
H100 SXM版本只开放15872个CUDA核心、528个Tensor核心,PCIe版本更是只有14952个CUDA核心、456个Tensor核心,功耗却最高达700W。
爆料称,新的H100 120GB PCIe将开启16896个CUDA核心,距离满血更近了一步。另外,爆料中还提到了一款代号ADLCE的工程样卡,显然是RTX 40 Ada Lovelace的缩写,应该对应RTX 4090,不过功耗限制在了350W。