Компания Giga Computing — дочернее подразделение тайваньского гиганта Gigabyte — официально анонсировала выход нового флагманского сервера TO86-SD1, разработанного специально для задач искусственного интеллекта (ИИ), машинного обучения (ML), инференса и высокопроизводительных вычислений (HPC). Новинка основана на архитектуре NVIDIA HGX B200 и представляет собой одну из самых мощных систем в своём классе, ориентированную на современные дата-центры и исследовательские центры.
Архитектура и форм-фактор: OCP ORv3 для масштабируемости
Сервер TO86-SD1 выполнен в форм-факторе 8OU и полностью соответствует стандарту OCP Open Rack v3 (ORv3). Это означает, что он оптимизирован для размещения в крупных дата-центрах, где важны стандартизация, энергоэффективность и удобство обслуживания. Формат ORv3 позволяет упростить горизонтальное масштабирование, улучшить воздушный поток и снизить общую стоимость владения (TCO).
Поддержка OCP делает TO86-SD1 особенно привлекательным для облачных провайдеров, телеком-операторов и корпоративных ИТ-инфраструктур, стремящихся к унификации оборудования и автоматизации управления.
Процессорная платформа: Intel Xeon 6500P/6700P (Granite Rapids-SP)
В основе вычислительной мощи сервера — два процессора Intel Xeon 6500P/6700P из семейства Granite Rapids-SP. Эти чипы поддерживают тепловыделение до 350 Вт, что говорит о высокой плотности ядер и тактовых частотах, необходимых для параллельной обработки данных и координации работы GPU-ускорителей.
Granite Rapids-SP — это следующее поколение серверных CPU от Intel, построенное на передовых техпроцессах и оптимизированное для ИИ-нагрузок. Они обеспечивают высокую пропускную способность памяти и ввода-вывода, что критично при работе с массивами данных и распределёнными моделями.
Для пользователей, выбирающих комплектующие для собственных решений, актуальна информация о совместимости с современными серверными процессорами, включая поддержку новых интерфейсов и протоколов.
Память: до 32 слотов DDR5 и поддержка CXL 2.0
Система оснащена 32 слотами для оперативной памяти DDR5, что позволяет использовать как RDIMM-6400, так и более быстрые MRDIMM-8000 модули. Это обеспечивает не только огромный объём ОЗУ (до нескольких терабайт), но и рекордную пропускную способность, необходимую для работы с большими моделями ИИ и HPC-задачами.
Особое внимание заслуживает поддержка стандарта CXL 2.0 (Compute Express Link). Эта технология позволяет создавать когерентную память между CPU, GPU и другими ускорителями, что кардинально улучшает эффективность обмена данными и снижает задержки. CXL открывает путь к динамическому распределению памяти и совместному использованию ресурсов в масштабах сервера или даже кластера.
Для специалистов, проектирующих ИИ-инфраструктуру, важно понимать, как правильно подобрать серверную оперативную память под конкретные задачи — от обучения LLM до обработки медицинских изображений.
Хранилище: NVMe PCIe 5.0 и горячая замена
В передней части корпуса расположены отсеки для восьми SFF-накопителей с интерфейсом PCIe 5.0 NVMe. Это обеспечивает максимальную скорость чтения/записи, критически важную при загрузке датасетов и сохранении результатов вычислений. Поддержка горячей замены позволяет обслуживать систему без остановки работы — ключевое требование для production-сред.
Дополнительно предусмотрен слот M.2 2280/22110 с поддержкой PCIe 5.0 x4, который может использоваться для загрузочного диска, кэширования или хранения служебных данных.
Выбор надёжных и быстрых накопителей — неотъемлемая часть построения ИИ-сервера. Подробнее о совместимых решениях можно узнать в разделе внутренние жёсткие диски и SSD.
Графические ускорители: NVIDIA HGX B200 (Blackwell)
Сердце TO86-SD1 — это конфигурация из восьми GPU NVIDIA B200 в форм-факторе SXM, объединённых в платформу HGX Blackwell. Это новейшее поколение ускорителей от NVIDIA, разработанное специально для масштабного обучения и инференса ИИ-моделей.
Каждый B200 оснащён памятью HBM3E, а суммарный объём памяти системы достигает 1,4 ТБ. Это позволяет загружать в память гигантские модели целиком, избегая частых обменов с диском и значительно ускоряя вычисления.
Архитектура Blackwell также обеспечивает рекордную вычислительную мощность в FP4, FP8 и INT8 — форматах, используемых в современных ИИ-фреймворках. Благодаря NVLink и NVSwitch, GPU обмениваются данными на скоростях до нескольких терабит в секунду, минимизируя узкие места при распределённом обучении.
Расширение и сетевые возможности
Сервер предлагает 12 слотов PCIe 5.0 x16 для карт расширения типа FHHL (Full Height, Half Length), доступных через лицевую панель. Это позволяет гибко настраивать систему под нужды пользователя — от установки дополнительных DPU до специализированных ускорителей.
TO86-SD1 заявлен как совместимый с:
- NVIDIA BlueField-3 DPU — для разгрузки CPU от сетевых и безопасных задач;
- NVIDIA ConnectX-7 NIC — для подключения к высокоскоростным сетям InfiniBand или Ethernet (до 400 Гбит/с).
Встроенные сетевые интерфейсы включают:
- 2 порта 10GbE на базе контроллера Intel X710-AT2;
- 1 выделенный порт управления 1GbE для out-of-band доступа.
Такая конфигурация обеспечивает полную гибкость при интеграции в существующую ИТ-инфраструктуру — от локальных кластеров до гибридных облаков.
Система охлаждения и условия эксплуатации
Учитывая тепловыделение в 350 Вт на CPU и ещё больше — на GPU, инженеры Giga Computing разработали продвинутую систему воздушного охлаждения:
- 4 вентилятора 92 мм в зоне материнской платы;
- 12 вентиляторов 92 мм в GPU-секции.
Это обеспечивает стабильную работу даже при максимальной нагрузке. Сервер рассчитан на эксплуатацию при температуре окружающей среды от +10 °C до +35 °C, что соответствует требованиям большинства дата-центров в России и СНГ.
Программная совместимость и управление
TO86-SD1 поддерживает широкий спектр операционных систем и гипервизоров:
- Windows Server;
- Red Hat Enterprise Linux (RHEL);
- Ubuntu;
- Citrix;
- VMware ESXi.
Управление осуществляется через встроенный контроллер ASPEED AST2600, который обеспечивает функции IPMI 2.0, включая удалённый мониторинг, перезагрузку, виртуальный KVM и управление питанием. Для удобства администраторов доступны порты USB 3.2 Gen1 Type-C, Micro-USB и Mini-DP.
Как собрать аналогичный ИИ-сервер самостоятельно?
Хотя TO86-SD1 — это готовое OEM-решение, многие компании предпочитают собирать серверы под свои задачи. В этом случае важно учитывать совместимость компонентов и баланс между CPU, GPU, памятью и хранилищем.
Например, для построения мощной ИИ-платформы в России можно использовать:
- Серверные процессоры Intel Xeon Scalable или AMD EPYC;
- Оперативную память DDR5 RDIMM/MRDIMM с поддержкой ECC;
- GPU NVIDIA A100/H100 или, в будущем, B200;
- SSD NVMe PCIe 4.0/5.0 с поддержкой power-loss protection.
Компания Server360.ru предлагает как готовые сборки, так и компоненты для самостоятельной сборки. Особенно популярны решения из раздела готовая сборка, где уже учтены все нюансы совместимости и охлаждения.
FAQ: Вопросы и ответы о сервере TO86-SD1
Для каких задач подходит сервер TO86-SD1?
Сервер предназначен для обучения и инференса больших языковых моделей (LLM), компьютерного зрения, обработки естественного языка (NLP), научных расчётов, симуляций, а также для HPC-задач в нефтегазовой, фармацевтической и финансовой сферах.
Можно ли использовать TO86-SD1 в обычном серверном шкафу?
Нет, сервер разработан под стандарт OCP Open Rack v3 и требует специализированной стойки. Для традиционных дата-центров лучше рассмотреть аналогичные модели в форм-факторе 4U или 5U с поддержкой NVIDIA HGX.
Поддерживает ли сервер работу с фреймворками TensorFlow и PyTorch?
Да, при условии установки драйверов NVIDIA и CUDA Toolkit. Все современные ИИ-фреймворки полностью совместимы с архитектурой Blackwell и HGX-платформами.
Как обеспечивается отказоустойчивость хранилища?
Сервер поддерживает программные RAID-массивы (через ОС или гипервизор) и горячую замену накопителей. Для аппаратного RAID можно установить соответствующую карту расширения в один из слотов PCIe.
Чек-лист: Что проверить перед покупкой ИИ-сервера
Как выбрать сервер для ИИ-задач
- Определите тип нагрузки: обучение, инференс или HPC.
- Оцените требования к объёму GPU-памяти (HBM) и количеству ускорителей.
- Проверьте совместимость CPU и GPU (пропускная способность PCIe, поддержка CXL).
- Убедитесь, что объём и скорость ОЗУ соответствуют размеру ваших датасетов.
- Оцените возможности хранилища: интерфейс NVMe, количество слотов, поддержка горячей замены.
- Проверьте условия эксплуатации: охлаждение, уровень шума, требования к электропитанию.
- Убедитесь в наличии поддержки нужных ОС и программного стека.
- Рассчитайте TCO: стоимость, энергопотребление, обслуживание, масштабируемость.
Сравнение TO86-SD1 с другими ИИ-серверами (2024)
| Параметр | Giga TO86-SD1 | Dell PowerEdge XE9680 | HPE Apollo 6500 Gen10 Plus |
|---|---|---|---|
| Форм-фактор | 8OU (OCP ORv3) | 6U | 4U |
| GPU | 8× NVIDIA B200 (HGX) | 8× NVIDIA H100 | 8× NVIDIA H100 |
| CPU | 2× Intel Xeon 6500P/6700P | 2× Intel Xeon Sapphire Rapids | 2× AMD EPYC 9004 |
| Память | 32× DDR5 (до MRDIMM-8000) | 32× DDR5 | 24× DDR5 |
| Хранилище | 8× SFF NVMe + M.2 | 16× E3.S NVMe | 24× NVMe U.2 |
| CXL 2.0 | Да | Да | Да |
| Охлаждение | Воздушное (16 вентиляторов) | Воздушное / Жидкостное | Воздушное / Жидкостное |