根据 1M AI News 的监测,Groq 3 LPU(Language Processing Unit)是 NVIDIA 在去年 12 月以约 200 亿美元收购的 AI 推理芯片初创公司 Groq 推出的第一款芯片,预计将从今年第三季度开始出货。Groq 3 LPX 机架可容纳 256 颗 LPU,配备 128GB 片上静态随机存取存储器(SRAM),以及每秒 640TB 的扩展互连带宽。官方表示,当 LPX 与 Vera Rubin NVL72 部署时,每兆瓦的推理吞吐量可提升高达 35 倍,同时释放出在万亿参数和百万令牌上下文推理场景中的营收潜力。黄仁勋将这两款处理器描述为“极端差异但相互补充:一个追求高吞吐量,一个追求低延迟”,而 LPX 的片上内存大幅扩展了模型可用的总内存容量。LPX 机架计划将于今年下半年与 Vera Rubin 平台一同上市。
在大会上,黄仁勋还展示了代号 Kyber 的下一代机架架构原型。Kyber 将在 Vera Rubin 的继任平台 Vera Rubin Ultra 上取代将 144 颗 GPU 的计算托盘改为垂直排列,以提升物理密度和减少延迟,预计将于 2027 年推出。