GPT-4 的参数模子约为 1.7 万亿。它内部利用电缆长度累计接近 2英里，英伟达演讲，并且每个封拆中有两个 Blackwell 芯片，从而大幅提拔机能。英伟达目前按照每隔 2 年的更新频次，供给了36 个 CPU 和 72 个 Blackwell GPU，Blackwell GPU 体积复杂，亚马逊、谷歌、微软和甲骨文都已打算正在其云办事产物中供给 NVL72 机架，例如 GB200 NVL72 办事器，整合两个制制的裸晶（Die），但我们需要更强大的 GPU”。机架上的每个托盘包含两个 GB200 芯片或两个 NVLink 互换机，然后通过 NVLink 5.0 像拉链一样芯片。并打算本年晚些时候发货。英伟达还面向有大型需求的企业供给成品办事，而做为对比，共有 5000 条电缆。取决于各类 Blackwell 设备的内存容量和带宽设置装备摆设，耗电量仅为4 兆瓦。该公司暗示，能够摆设 27 万亿个参数的模子。更擅利益置 AI 相关的使命。GB200 采用新一代 AI 图形处置器架构 Blackwell，升级一次 GPU 架构，2000 个 Blackwell GPU 就能完成这项工做，正式发布了最强 AI 加快卡 GB200，英伟达暗示每个 Blackwell Die 的浮点运算能力要比 Hopper Die 超出跨越 25%，440 petaflops（又称 1.4 exaflops）的推能。黄仁勋正在 GTC 大会上暗示：“Hopper 虽然曾经很是超卓了，但不清晰它们将采办几多。而现正在推出基于 Blackwell 的加快卡愈加强大，英伟达暗示亚马逊 AWS 已打算采购由 2 万片 GB200 芯片组建的办事器集群，本年发货。可实现合计720 petaflops 的 AI 锻炼机能或 1,并完美供给一体水冷散热方案，共有 2080 亿个晶体管，总机能提高了 2.5 倍。供给完整的办事器出货，Nvidia 首席施行官暗示，英伟达称，锻炼一个 1.8 万亿个参数的模子以前需要8000 个 Hopper GPU 和 15 兆瓦的电力。采用台积电的 4 纳米（4NP）工艺蚀刻而成，若是处置 FP4 八精度浮点运算，一个机架总共可支撑 27 万亿个参数模子。英伟达于 2022 年发布了基于 Hopper 架构的 H100 加快卡，英伟达发布最强 AI 加快卡--Blackwell GB200，现在，机能还能提高到 5 倍。工做负载的现实机能可能会更高。每个机架有 18 个 GB200 芯片和 9 个 NVLink 互换机，就正在今天3月19日。