Новости

AMD EPYC 9006 для ИИ-сервера: когда нужны SP7 и SP8

Дмитрий Потоцкий 1 мин чтения
AMD EPYC 9006 для ИИ-сервера: когда нужны SP7 и SP8

В ИИ-сервере процессор не сидит без дела, пока GPU выполняют модель. CPU принимает запросы, ведёт векторный поиск, обращается к корпоративным базам и готовит данные. Именно такой контур AMD использовала в тестах EPYC 9006: NGINX, FAISS, производные TPC-H и TPC-C, TPCx-AI и процесс с несколькими ИИ-агентами.

Поэтому EPYC 9006 — не замена ускорителю, а платформа вокруг него. Новое поколение имеет смысл, когда узел одновременно нагружает процессорные ядра, память и PCIe. Если вся работа помещается на одной-двух GPU, а CPU лишь передаёт им данные, смена платформы может ничего не изменить.

Вердикт: EPYC 9006 нужен сервисам вокруг модели

EPYC 9006 подходит для ИИ-узла, на котором одновременно работают разные нагрузки:

Стойка с силовыми кабелями
  • векторная база ищет контекст для запросов;
  • веб-сервис принимает десятки или сотни одновременных обращений;
  • транзакционная база хранит состояние агентов;
  • аналитические запросы обрабатывают историю;
  • CPU готовит данные для нескольких GPU;
  • на том же узле работают контейнеры или виртуальные машины корпоративных систем.

Такой набор близок к тестовому контуру, который AMD собрала для agentic AI в сентябре 2026 года. В разборе методики AiCybr перечислены NGINX, FAISS, производные тестов TPC и процесс с несколькими агентами. Здесь проверяли инфраструктуру вокруг модели, а не скорость самой нейросети на GPU.

Для обычного сервера 1С, файлового хранилища или пары малонагруженных ИИ-сервисов причин переходить на EPYC 9006 пока нет. Опубликованные данные не показывают, что такие системы упираются в 16 каналов памяти или PCIe 6.0. Тут полезнее сопоставить серверные CPU с рабочей нагрузкой, а не выбирать поколение по номеру архитектуры.

Пропускная способность памяти отделяет SP7 от обычного обновления CPU

По архитектурному описанию AMD, EPYC 9006 поддерживает DDR5 до 12 800 МТ/с и пропускает через память до 1,6 ТБ/с на сокет. Для EPYC 9005 заявлены 12 каналов DDR5-6400 и 614 ГБ/с.

Разница — примерно в 2,6 раза:

1,6 ТБ/с ÷ 0,614 ТБ/с ≈ 2,6

Но вся ИИ-система не станет быстрее в 2,6 раза. Этот запас проявится, когда несколько процессов одновременно читают большие наборы данных: векторный поиск, подготовка батчей для GPU, аналитика, десятки виртуальных машин. Если данные помещаются в памяти ускорителя, а CPU почти не участвует в обработке, дополнительные каналы простаивают.

SP7 даёт 16 каналов памяти, SP8 — восемь. Поэтому выбор между платформами начинается не с числа ядер. Сначала посчитай, сколько потоков одновременно забирают данные из оперативной памяти.

PCIe 6.0 полезен только при плотном вводе-выводе

EPYC 9006 поддерживает PCIe 6.0 со скоростью 64 GT/s на линию. У EPYC 9005 интерфейс PCIe 5.0 передаёт 32 GT/s. Скорость выросла вдвое, но сервер почувствует разницу лишь при плотном обмене между CPU, GPU, NVMe и сетевыми адаптерами.

Типичный сценарий — один узел с несколькими GPU, быстрым хранилищем и сетью, которая подаёт данные ускорителям. Здесь широкая шина позволяет разместить устройства и не упереться во ввод-вывод раньше времени.

Для сервера с одной GPU и двумя системными накопителями PCIe 6.0 — слабый довод в пользу замены платформы. Сначала нужно выбрать компоновку GPU-узла под вычисления. Потом — проверить, хватает ли линий и пропускной способности.

256 ядер нужны не каждой ИИ-системе

Старшие модели SP7 рассчитаны на плотную параллельную нагрузку. EPYC 9996 получил 256 ядер Zen 6c, 512 потоков, 1024 МБ кэша L3 и базовую частоту 2,55 ГГц. Мощность процессора по умолчанию — 600 Вт.

Такой CPU уместен, если на одном узле работают десятки контейнеров, API, баз и агентов. В программе с лицензированием по ядрам или при нескольких тяжёлых однопоточных задачах 256 ядер, напротив, поднимут стоимость без сопоставимого прироста скорости.

Для нагрузки, чувствительной к частоте одного ядра, у SP8 есть модели F с частотой до 5 ГГц. Платформа охватывает конфигурации от 8 до 128 ядер, а модели P предназначены для односокетных серверов. Компромисс — восемь каналов памяти против шестнадцати у SP7.

Заявленные AMD преимущества в 2,4–3,7 раза нельзя переносить на весь ИИ-контур. Эти числа относятся к отдельным тестам Java, OpenSSL, MongoDB, Redis и NGINX. В сравнении SPEC использовались разные версии GCC. Преимущество в 3,3 раза на стойку при лимите 100 кВт AMD получила моделированием, а не прямым измерением двух одинаковых производственных стоек.

Спецификация под задачу

Берём типовую нагрузку: один 2U-узел обслуживает до трёх GPU, а процессоры параллельно ведут векторный поиск, веб-сервинг, транзакционные и аналитические запросы. Объём моделей и базы, а также требуемое время ответа неизвестны. Поэтому фиксировать память и ёмкость накопителей нельзя — получатся выдуманные числа.

Доступная референсная компоновка под такую задачу — ASUS RS720A-E14B на SP8. По спецификации ASUS шасси занимает 2U и поддерживает:

КомпонентКонфигурацияЗачем она здесь
Процессоры2 × EPYC 9006 SP8, каждый до 400 ВтОтдельные ядра для баз, поиска, API и подготовки данных
Память32 слота DDR5 DIMMМожно наращивать объём, не заменяя первые установленные модули
Скорость памятидо 8000 МТ/с с RDIMM или 11 200 МТ/с с MRDIMMНужна, когда несколько сервисов одновременно забирают данные
Расширениедо 10 слотов PCIe 6.0Для GPU, быстрых сетевых адаптеров и контроллеров хранения
Ускорителидо 3 двухслотовых GPU по 450 ВтДля нескольких моделей либо разделения инференса и дообучения
Форм-фактор2UВмещает три двухслотовых ускорителя, но требует расчёта охлаждения стойки

Это конфигурация SP8. Выбирай её, если нужны несколько GPU, высокая частота отдельных ядер или двухсокетная система без предельной нагрузки на память.

SP7 нужен, когда узлу требуются 16 каналов памяти и до 256 ядер. Например, векторный поиск и подготовка данных делят память с десятками CPU-сервисов. Конкретное шасси под SP7 придётся запросить у OEM: ASUS RS720A-E14B рассчитан на SP8.

Накопители, сеть и объём памяти выбирают после четырёх замеров: размера рабочего набора векторной базы, потока данных к GPU, числа одновременных запросов и объёма данных, который должен храниться локально. Без этих исходных нельзя честно решить, нужно ли 512 ГБ или несколько терабайт памяти, сеть на 100 или 400 Гбит/с, четыре или восемь NVMe.

Питание и охлаждение придётся считать до заказа

Два процессора по 400 Вт и три GPU по 450 Вт дают до 2150 Вт:

2 × 400 Вт + 3 × 450 Вт = 2150 Вт

Это сумма только для CPU и GPU, а не потребление всего сервера. Добавь память, накопители, сетевые карты и вентиляторы. Мощность блоков питания, схему резервирования и допустимую тепловую нагрузку стойки нужно сверять с полной конфигурацией OEM.

Компромисс простой. Один плотный 2U-узел занимает меньше места, но требует больше мощности и отвода тепла на каждый юнит. Два сервера обойдутся дороже по шасси и сети, зато отказ одного узла не остановит одновременно модели, векторную базу и API.

Когда включать EPYC 9006 в закупку

Закладывай EPYC 9006, если проект одновременно нагружает хотя бы два ресурса из трёх:

  • CPU обслуживает много параллельных сервисов;
  • несколько потоков читают большие объёмы из оперативной памяти;
  • GPU, NVMe и сеть создают плотный обмен через PCIe.

Если система упирается в вычислительную мощность GPU или объём видеопамяти, новый CPU её не ускорит. Сначала выбери ускоритель и число карт. Затем собирай платформу вокруг них.

Срок поставки тоже меняет решение. Системы SP7 ожидались в IV квартале 2026 года, SP8 — в первой половине 2027-го. Анонс процессора не означает, что нужное шасси уже прошло квалификацию и появилось у поставщика. Перед переносом закупки проверь условия, при которых ожидание EPYC 9006 оправдано.

Правило для RFP: не обещай директору прирост в 2,4–3,7 раза. Зафиксируй число GPU, объём рабочего набора, поток данных, количество параллельных CPU-сервисов и срок поставки платформы. EPYC 9006 оправдан, если ускорителям мешают подача данных и соседние сервисы. Без такого упора новое поколение останется дорогим запасом.