NVIDIA H100: PCIe, SXM и NVL
H100 применяют для обучения, инференса и вычислительных нагрузок. При выборе сравнивайте конкретные исполнения: имя серии не определяет объём памяти, способ установки и межсоединение GPU.
Объём на GPU зависит от исполнения.
Разные форматы серверной интеграции.
Конфигурация и комплект соединения требуют проверки.
Сравнение исполнений и критерии выбора
| Исполнение / параметр | Характеристика | Что проверить |
|---|---|---|
| H100 PCIe | 80 ГБ | Карта расширения для совместимого сервера. |
| H100 SXM | 80 ГБ | Модуль для специализированной платформы HGX. |
| H100 NVL | 94 ГБ на GPU | PCIe-исполнение; число карт и наличие мостов уточняются по комплекту. |
188 ГБ для пары H100 NVL — суммарная память двух GPU, а не память одной карты.
Артикулы из каталога QBS
| Товар | Партномер | Условия предложения |
|---|---|---|
| H100 PCIe 80 ГБ | 900-21010-0000-000 | Точный комплект, состояние, гарантия и наличие — по запросу. |
| H100 NVL 94 ГБ | 900-21010-0020-000 | Точный комплект, состояние, гарантия и наличие — по запросу. |
Когда важен NVLink?
При разделении модели или обучении на нескольких GPU обмен между ними может влиять на время выполнения. Нужны поддержка со стороны платформы и программного стека, подходящая топология и совместимые соединительные компоненты. Само наличие нескольких карт не гарантирует их соединения через NVLink.
Подобрать сервер для этой серии
Пример платформы из каталога: Supermicro SYS-821GE-TNHR. Перед заказом проверяем поддержку конкретного исполнения GPU и полный состав поставки.
H100 PCIe, NVL или SXM: порядок выбора
Для модернизации сервера сначала определите поддерживаемое исполнение. Память 80 ГБ встречается у H100 PCIe и SXM, но устанавливаются они по-разному. В предложении H100 NVL важно отдельно проверить память одной карты, количество GPU и соединительные компоненты. Обозначение серии не подтверждает поставку пары.
Для новой системы выбор зависит от того, помещается ли модель на одном GPU и насколько часто ускорителям нужен обмен. При независимых копиях модели требования к межсоединению отличаются от распределения одной модели между несколькими GPU. Выбор подтверждают тестом с вашей длиной контекста и параллельностью.
Что означает ссылка на сервер HGX
SYS-821GE-TNHR в этом разделе — пример системы с H100/H200 SXM. Это не сервер для установки отдельно выбранной H100 PCIe-карты. Для PCIe-предложения требуется собственная проверка совместимости по артикулу и комплектации сервера.
Подобрать оборудование под вашу задачу
Укажите модель нейросети, сценарий работы, число пользователей, требования к размещению и бюджет. Если нужен конкретный товар — приложите артикул или спецификацию.
Обсудить конфигурациюОтправить техническое заданиеТехнические сведения: NVIDIA H100. Исполнение и совместимость проверяются по конкретному артикулу.
