Ускорители NVIDIA Rubin появятся в формате PCIe-плат
Компания NVIDIA изначально представляла архитектуру Rubin как основу для специализированных вычислительных стоек NVL72. В таких системах ускорители соединяются через NVLink, используют память HBM4 и требуют специализированного шасси с жидкостным охлаждением. Однако подобные решения подходят не для всех дата-центров: многим заказчикам нужны ускорители, которые можно установить в стандартные серверные стойки с воздушным или гибридным охлаждением.
Подтверждение подготовки такого варианта обнаружилось в материалах дорожной карты Hewlett Packard Enterprise. В презентации, посвящённой будущему серверу HPE ProLiant DL585a Gen13, упоминаются модификации NVIDIA Rubin в формате PCIe. Официальные характеристики самих плат пока не раскрыты.
Сервер HPE с поддержкой восьми ускорителей
HPE ProLiant DL585a Gen13 выполнен в форм-факторе 10U и рассчитан на установку до восьми двухслотовых графических ускорителей. Сервер получит два процессорных разъёма для чипов AMD EPYC 9006, каждый из которых сможет содержать до 256 ядер.
Подсистема памяти включает 32 слота DIMM. Максимальный объём составит до 8 ТБ при использовании DDR5-8000 либо до 4 ТБ при установке MRDIMM с эффективной скоростью 12 800 МТ/с. Для взаимодействия компонентов предусмотрена шина PCIe 6.0. В перечне совместимых решений также указаны NVIDIA RTX PRO 6000 Server Edition на архитектуре Blackwell, NVIDIA H200 NVL и ускорители AMD.
Какими будут PCIe-версии Rubin
Флагманские конфигурации Rubin проектируются с учётом использования HBM4 и 2048-битного интерфейса на стек. В системе NVIDIA NVL72 на один чип приходится 288 ГБ такой памяти. При переходе к формату PCIe разработчикам придётся учитывать ограничения по энергопотреблению, охлаждению и пропускной способности внешнего интерфейса.
Для сравнения, текущий NVIDIA H200 в исполнении PCIe с воздушным охлаждением рассчитан на тепловой пакет до 600 Вт. Решения в формате SXM потребляют заметно больше энергии, поэтому PCIe-вариант Rubin может получить сниженные рабочие частоты, меньшее число активных вычислительных блоков или оптимизированную конфигурацию кристалла. При этом новое поколение, вероятно, будет требовательнее к питанию, чем современные ускорители. Серверы уровня ProLiant DL585a Gen13 могут проектироваться с запасом и потенциально поддерживать платы мощностью до 700 Вт, однако окончательные параметры зависят от спецификаций NVIDIA.
Ещё одно ограничение связано с пропускной способностью. PCIe 6.0 с кодированием PAM4 обеспечивает для слота x16 до 128 ГБ/с в одном направлении и до 256 ГБ/с в двунаправленном режиме. Это существенно меньше показателя NVLink, который для Rubin заявлен на уровне до 3,6 ТБ/с.
Поэтому PCIe-ускорители, вероятно, будут ориентированы прежде всего на автономные серверы, дообучение моделей и обучение систем меньшего масштаба, а не на построение единой вычислительной фабрики для распределённых сверхкрупных моделей. Дополнительную масштабируемость могут обеспечить мосты NVLink. В поколении H200 они позволяют объединять до четырёх карт в кластер, и для топовых PCIe-ускорителей Rubin может появиться аналогичная возможность — возможно, с поддержкой большего числа GPU.
Сроки появления
Выход HPE ProLiant DL585a Gen13 запланирован на март 2027 года. Коммерческие поставки PCIe-плат NVIDIA Rubin могут начаться в другие сроки: NVIDIA обычно сначала направляет флагманские стойки и SXM-модули крупнейшим облачным провайдерам, а затем расширяет линейку за счёт плат расширения для корпоративного рынка.
Таким образом, упоминание Rubin в спецификации HPE подтверждает интерес производителей серверов к более универсальному формату ускорителей, но не раскрывает их точные характеристики. Объём памяти, число вычислительных блоков и итоговый тепловой пакет PCIe-версий пока остаются неизвестными.
