Подберите платформу под нужный формат GPU
В каталоге представлены серверные платформы с поддержкой NVIDIA. Тип процессора Intel или AMD не меняет семейство установленного ускорителя: сервер на AMD EPYC может работать с GPU NVIDIA.
PCIe-платформа
Для совместимых карт расширения. Проверяем физические слоты, линии PCIe, кабели питания и охлаждение.
HGX / SXM
GPU-модули установлены на специализированной платформе. Топология обмена и состав узла проектируются вместе.
Готовая конфигурация
Подтверждённая спецификация определяет CPU, RAM, SSD, GPU, сеть, блоки питания и комплект поставки.
Серверные платформы NVIDIA в QBS
Supermicro SYS-420GP-TNAR
Платформа HGX A100. Важно подтвердить исполнение и память GPU в предлагаемой системе.
Supermicro SYS-421GU-TNXR (EOL)
GPU-сервер 4U. Совместимые ускорители и их количество проверяются по комплектации.
Supermicro AS-5126GS-TNRT
Платформа 5U на AMD EPYC для GPU PCIe. Выбор CPU и GPU — разные части спецификации.
| Вариант | Примеры из каталога | Что проверить |
|---|---|---|
| PCIe-сервер | Dell PowerEdge R760xa; ASUS ESC8000-E11P | Поддержку точной GPU-карты, количество слотов, лимит мощности и схему охлаждения. |
| HGX H100 / H200 | Supermicro SYS-821GE-TNHR | Исполнение HGX, состав GPU, межсоединение и требования к стойке. |
| HGX B200 | Supermicro SYS-A22GA-NBRT | Полную спецификацию платформы, питание и возможности размещения. |
Как выбрать число GPU и объём памяти
Для инференса учитывают веса модели, KV-кэш, контекст и параллельные запросы. Для обучения дополнительно нужны память под активации, градиенты и состояния оптимизатора. Суммарная память нескольких GPU не становится автоматически единым адресным пространством: распределение модели зависит от ПО и схемы обмена.
Сначала рассчитывают требования нагрузки, затем выбирают число ускорителей и способ их соединения. Нельзя гарантировать скорость модели только по количеству GPU в названии.
Что означают PCIe, SXM, HGX и DGX
PCIe обозначает интерфейс карты расширения; SXM — формат специализированного GPU-модуля. HGX — платформа для многопроцессорных GPU-систем партнёров NVIDIA. DGX — семейство готовых систем NVIDIA. Сервер Supermicro на HGX не следует автоматически называть DGX.
PCIe-сервер и HGX решают разные задачи
Платформа PCIe удобна, когда проект строится на поддерживаемых картах расширения. Для неё проверяют не только число слотов, но и их расположение, линию подключения к CPU, допустимую мощность и охлаждение. Несколько GPU могут обслуживать независимые запросы либо совместно выполнять одну модель — это разные режимы использования.
HGX с SXM-модулями рассматривают для задач, которым нужен интенсивный обмен между ускорителями. В SYS-821GE-TNHR предусмотрена платформа HGX H100/H200 с восемью GPU и NVLink/NVSwitch. Карта H100 PCIe из каталога не является заменой её SXM-модуля.
Как сравнить два предложения
Сначала приведите предложения к одной модели GPU, точности вычислений и объёму памяти. Затем сравните CPU, RAM, накопители, сеть и условия гарантии. В результатах теста должны совпадать модель нейросети, длина входа и ответа, число одновременных запросов и версия ПО. Пиковые показатели вычислений не дают готового ответа о скорости вашего приложения.
Документация для проверки проекта: Supermicro SYS-821GE-TNHR.
Подобрать оборудование под вашу задачу
Укажите модель нейросети, сценарий работы, число пользователей, требования к размещению и бюджет. Если нужен конкретный товар — приложите артикул или спецификацию.
Обсудить конфигурациюОтправить техническое заданиеТехнические сведения: NVIDIA HGX. Исполнение и совместимость проверяются по конкретному артикулу.
