Новости

ASUS ESC8000-E12P: когда сервер на восемь GPU оправдывает закупку

Дмитрий Потоцкий 1 мин чтения
ASUS ESC8000-E12P: когда сервер на восемь GPU оправдывает закупку

Восемь ускорителей по 600 Вт и два процессора по 350 Вт дают 5,5 кВт: (8 × 600 + 2 × 350). Это не потребление готового сервера, а сумма предельных паспортных значений компонентов. Память, накопители, сетевые карты и десять вентиляторов в расчёт не вошли.

ASUS ESC8000-E12P стоит включать в закупку, если тебе нужен один узел на пять-восемь PCIe-ускорителей для обучения модели или высокопоточного инференса. Для одного-двух GPU, 1С, файлового хранилища и обычной виртуализации этот 4U-сервер избыточен: ты заплатишь за восемь GPU-слотов, пять слотов под NIC или DPU и четыре блока питания, которые нагрузка не использует.

MGX задаёт компоновку, но не гарантирует скорость модели

NVIDIA называет MGX открытой модульной референс-архитектурой. Производители берут её за основу и собирают системы с разными CPU, GPU, DPU и сетевыми адаптерами. Это не отдельный ускоритель и не показатель производительности ESC8000-E12P.

Четыре линии питания у стойки

У ASUS архитектура воплощена в схеме 2–8–5: два процессора, восемь GPU и пять сетевых карт либо DPU. По спецификации ESC8000-E12P от ASUS, восемь слотов PCIe 5.0 x16 рассчитаны на двухслотовые ускорители, ещё пять линий Gen5 x16 — на NIC или NVIDIA BlueField-3.

В списке совместимых ускорителей ASUS указывает NVIDIA H200, RTX PRO 6000 Blackwell Server Edition, RTX PRO 4500 Blackwell Server Edition и Intel Gaudi 3 PCIe. Для H200 доступны мосты NVLink 2-Way и 4-Way. NVIDIA отдельно заявляет, что архитектура MGX охватывает PCIe-системы поколений Blackwell и Rubin, но это не обещание совместимости каждой будущей карты с этой моделью ASUS. Перед заказом нужна матрица совместимости на конкретный артикул ускорителя.

Если ты ещё не выбрал класс системы, сначала сопоставь варианты GPU-узлов с характером вычислений. ESC8000-E12P закрывает верхнюю часть этой развилки — плотную установку ускорителей, а не любую задачу со словом «ИИ».

Восемь GPU оправданы после проверки приложения

Допустим, команда уже испытала обучение или инференс на восьми H200. Профилирование показало, что задача загружает все ускорители, а обмен между ними и внешним хранилищем требует нескольких высокоскоростных интерфейсов. Тогда компоновка ESC8000-E12P совпадает с нагрузкой: восемь Gen5 x16 под GPU, до пяти Gen5 x16 под сеть или BlueField-3 и варианты NVLink для связи ускорителей.

Без такого испытания восемь слотов остаются дорогим запасом. Если приложение устойчиво работает на двух GPU, покупка узла на восемь не ускорит его автоматически. Сначала проверь масштабирование на своей модели: время обработки на одной, двух, четырёх и восьми картах, загрузку GPU, объём переданных данных и задержки обмена.

Восемь фронтальных отсеков 2,5 дюйма поддерживают NVMe, ещё два разъёма M.2 Gen5 x4 подходят под системные накопители. Но восемь дисков не превращают сервер в универсальное хранилище. Их задача здесь — подавать данные ускорителям, размещать локальный кэш и временные наборы. Долговременное хранение обучающих данных лучше считать отдельно по объёму, пропускной способности и требованиям к восстановлению.

Для первичной оценки состава узла пригодится материал о том, из каких компонентов складывается локальная ИИ-система. Он поможет отделить требования модели от запаса, который продавец добавляет без расчёта.

Два Xeon 6 обслуживают ускорители

ESC8000-E12P принимает два Intel Xeon 6500 или 6700 с P-ядрами. Верхняя граница — 86 ядер на сокет, то есть 172 ядра в двухпроцессорной конфигурации. Intel подтверждает этот предел в описании Xeon 6700/6500, а ASUS — для своей платформы.

Покупать эту модель только ради нового Xeon 6 нет смысла. Предмет закупки здесь — восемь ускорителей и пять высокоскоростных сетевых карт или DPU. Процессоры готовят данные, обслуживают ввод-вывод и выполняют части приложения, которые не ушли на GPU. Если задача работает преимущественно на CPU, нужен другой класс узла.

Платформа содержит 32 слота DDR5 RDIMM и принимает до 4 ТБ памяти. По спецификации ASUS, скорость достигает 6400 МТ/с при одном модуле на канал и 5200 МТ/с при двух. Заполнять все слоты ради круглого объёма не стоит: снижение частоты памяти способно ухудшить подачу данных ускорителям.

Конкретную модель CPU выбирают по профилю приложения, а не по максимальному числу ядер. Для разбора соседних линеек и обозначений смотри состав актуальной линейки Xeon.

Машинный зал может исключить сервер до запроса цены

Корпус занимает 4U и имеет размеры 800 × 439,5 × 175 мм. Масса без процессоров, памяти и накопителей — 42 кг. До коммерческого предложения проверь полезную глубину шкафа, направляющие, допустимую нагрузку и путь доставки до стойки.

С питанием требования жёстче. ASUS ставит четыре блока по 3200 Вт с сертификатом 80 PLUS Titanium в схеме 3+1. Для них заявлен вход 220–240 В, 16 А × 4. Четыре разъёма ещё не означают четыре независимых линии: попроси инженера площадки подтвердить разводку по вводам, автоматам и PDU, а также поведение схемы при потере одного канала.

Расчёт 5,5 кВт годится только для первичного отсева: восемь ускорителей с допустимой мощностью до 600 Вт плюс два CPU с TDP до 350 Вт. Он не учитывает остальную начинку и не показывает реальное потребление выбранной конфигурации. Для проекта нужны паспортные данные готовой сборки и замер под твоей нагрузкой.

Рабочий диапазон температуры, заявленный ASUS, — от 10 до 35 °C. Внутри стоят пять вентиляторов GPU и пять системных. Если сервер добавляется к существующей стойке, считай не только мощность розеток, но и отвод тепла при отказе одного блока питания или кондиционера.

Когда один узел превращается в проект стойки, требования меняются. На примере следующего поколения MGX видно, какие ограничения появляются у машинного зала при росте плотности: массу, питание и маршрут доставки приходится проверять до выбора оборудования.

Спецификация под задачу

Считаем конфигурацию для одного локального узла обучения или высокопоточного инференса. Приложение уже протестировано на восьми H200 и показало прирост на всех восьми ускорителях. Размер модели, объём набора данных и сетевой профиль пока неизвестны, поэтому объём памяти, ёмкость NVMe и состав сетевых карт нельзя честно вывести одной цифрой.

КомпонентЧто запроситьПочему
КорпусASUS ESC8000-E12P, 4UВмещает восемь двухслотовых ускорителей и пять NIC или DPU
Ускорители8 × NVIDIA H200 совместимого с сервером исполненияИсходный сценарий уже проверен на восьми H200
Процессоры2 × Intel Xeon 6500/6700 с P-ядрамиДва сокета обслуживают ввод-вывод и CPU-часть приложения; конкретную модель выбирают по профилированию
ПамятьDDR5 RDIMM, объём по замеру приложения, максимум 4 ТБНужны память процесса, системный запас и буферы загрузки; при 2DPC скорость по спецификации снижается до 5200 МТ/с
Системные диски2 × M.2 Gen5 x4Разделяют ОС и рабочие NVMe
Рабочие накопителиДо 8 × 2,5-дюймовых NVMeЛокальный набор данных, кэш и временные результаты; число и ёмкость зависят от объёма данных
СетьNIC или BlueField-3 в слотах Gen5 x16 по результатам замера обменаШтатные 2 × 10GbE подходят для управления и умеренного трафика, но не заменяют расчёт канала к хранилищу
Питание4 × 3200 Вт, схема 3+1Сервер требует четыре подключения 220–240 В, 16 А
РазмещениеСтойка с глубиной под корпус 800 мм и запасом для кабелейОдин только корпус весит 42 кг без CPU, памяти и дисков

В запрос поставщику добавь испытание именно твоей модели: продолжительность задачи, загрузку каждого GPU, потребление узла, температуру на входе, сетевой трафик и скорость чтения с NVMe. Название MGX и восемь установленных H200 этих результатов не заменяют.

Если нужны пять-восемь ускорителей, стойка принимает корпус глубиной 800 мм, а площадка подтверждает четыре линии питания, ESC8000-E12P можно передавать на расчёт цены и испытание. Для одного-двух GPU ищи менее плотный узел. Для 1С, хранения или обычной виртуализации исключай эту модель из списка: её дорогая часть останется без работы.