Nvidia показала GPU для моделей со сверхдлинным контекстом: что меняет Rubin CPX в мире ИИ и инфраструктуры

Что такое Rubin CPX и зачем нужен GPU для миллионов токенов

Компания Nvidia официально представила новый графический процессор — Rubin CPX, созданный специально для задач инференса (вывода) в языковых и мультимодальных моделях, где требуется обработка контекста длиной более миллиона токенов. Это прорыв не только с технологической, но и с прикладной точки зрения: ранее такие объёмы данных были практически недоступны для реального времени использования даже на самых мощных GPU.

Для сравнения: современные LLM вроде GPT-4 или Claude 3.5 способны работать с контекстами до 200 тысяч токенов, что уже считается высоким показателем. Однако это ограничение создаёт барьеры для применения ИИ в юридических документах, медицинских исследованиях, аналитике кода и генерации видео. Rubin CPX решает эту проблему на архитектурном уровне, делая возможным работу с полными базами знаний, целыми проектами программного обеспечения или часами видеопотока без потери связи между частями.

Главное отличие нового чипа — его фокус на инференсе, а не обучении. Если предыдущие поколения GPU (включая Hopper и Blackwell) были направлены на ускорение тренировки моделей, то Rubin CPX оптимизирован именно под выполнение запросов к уже обученным системам. Это означает, что он будет особенно востребован в дата-центрах, корпоративных ИТ-инфраструктурах и облачных платформах, где важна скорость отклика, масштабируемость и энергоэффективность.

Архитектура disaggregated inference: как работает распределённый вывод

Центральное новшество Rubin CPX — реализация концепции disaggregated inference (распределённого вывода). Вместо того чтобы загружать весь контекст на один GPU, система разбивает задачу на части и распределяет их между несколькими вычислительными узлами. Каждый процессор обрабатывает свою часть запроса, после чего результаты агрегируются в единый ответ.

Этот подход решает ключевую проблему: нехватку памяти на одном устройстве. Даже самые производительные серверные GPU сегодня имеют ограниченный объём VRAM (до 184 ГБ у H100), что не позволяет хранить миллион токенов в активной памяти. С Rubin CPX эта проблема обходится за счёт:

• Низколатентной коммутации между GPU через NVLink и InfiniBand;
• Оптимизации алгоритмов внимания (attention mechanisms), которые теперь могут эффективно работать с фрагментированным контекстом;
• Специализированной памяти с поддержкой быстрого доступа к удалённым блокам (remote memory access).

Распределённый вывод особенно эффективен в сценариях, где важно сохранять глобальную связность — например, при анализе судебного дела из сотен страниц, генерации длинного видео по текстовому описанию или работе с многомодульным кодом. Благодаря этому, модели смогут «помнить» всё, что было сказано или показано ранее, не теряя нить рассуждений.

Преимущества disaggregated inference перед классическими подходами

Параметр	Классический инференс (H100)	Disaggregated inference (Rubin CPX)
Максимальный контекст	до 200 тыс. токенов	свыше 1 млн токенов
Задержка (latency)	высокая при больших запросах	оптимизирована за счёт параллелизма
Использование VRAM	ограничено одним GPU	распределено между узлами
Масштабируемость	ограниченная	высокая, горизонтальная
Стоимость владения	высокая (нужны дорогие GPU)	ниже за счёт эффективности

Где будет применяться Rubin CPX: от юриспруденции до IT-инфраструктуры

Выход Rubin CPX — это не просто технический апгрейд, а возможность для бизнеса перестроить процессы вокруг ИИ. Рассмотрим ключевые отрасли, которые получат наибольшую выгоду.

Юридические и консалтинговые компании

Юристы ежедневно работают с огромными массивами законов, прецедентов, договоров и регуляторных документов. Сегодня поиск нужной информации занимает часы, а риск упустить важный фрагмент остаётся высоким. С GPU Rubin CPX можно загрузить сразу несколько томов кодексов, судебных решений и экспертных заключений в контекст одной модели.

Например, при подготовке иска по сложному налоговому спору модель сможет:

• Проанализировать всю историю изменений Налогового кодекса;
• Сравнить текущее дело с сотнями аналогичных прецедентов;
• Выявить противоречия в позициях налоговых органов;
• Сформулировать обоснованный правовой аргумент.

Такой уровень анализа невозможен без миллиона токенов в контексте. Это повышает качество решений и снижает риски ошибок.

Медицина и биотехнологии

В медицине каждое решение зависит от множества факторов: анамнеза пациента, результатов анализов, исследований, клинических рекомендаций и научных публикаций. Современные ИИ-ассистенты часто работают с фрагментарной информацией, что ограничивает их полезность.

С Rubin CPX становится возможным создание «цифровых двойников» пациентов — комплексных моделей, включающих:

• Полный медицинский архив (включая МРТ, ЭКГ, лабораторные данные);
• Геномную информацию;
• Историю лечения и реакции на препараты;
• Актуальные клинические протоколы.

Модель сможет не просто диагностировать, а прогнозировать развитие болезни, предлагать персонализированные схемы лечения и оценивать риски побочных эффектов — всё в режиме реального времени.

IT и разработка ПО

Для разработчиков работа с большими кодовыми базами — постоянный вызов. Современные AI-ассистенты (вроде GitHub Copilot) помогают писать код, но часто теряют контекст при переходе между файлами или модулями.

С Rubin CPX ИИ сможет:

• Анализировать весь проект целиком — от фронтенда до микросервисов и баз данных;
• Выявлять архитектурные уязвимости и технический долг;
• Автоматически генерировать документацию;
• Переписывать устаревший код с учётом всех зависимостей.

Это особенно актуально для компаний, использующих серверные платформы для внутренней разработки. Интеграция Rubin CPX в собственную инфраструктуру позволит ускорить delivery, повысить качество кода и снизить нагрузку на команды.

Мультимедиа и креативные индустрии

Генерация видео, музыки и интерактивного контента требует не просто обработки данных, а понимания структуры и смысла. Сегодня ИИ может создать 10-секундный ролик, но не может удержать сюжетную линию в двухминутном видео.

С миллионным контекстом это становится возможным. Модели смогут:

• Генерировать фильмы по сценарию с сохранением характеров героев;
• Создавать музыкальные композиции с развитием темы;
• Строить интерактивные миры для игр и метавселенных.

Такой уровень креатива открывает новые возможности для студий, рекламных агентств и стриминговых платформ.

Как подготовиться к внедрению Rubin CPX: требования к инфраструктуре

Хотя массовые поставки Rubin CPX начнутся только в конце 2026 года, компаниям уже сейчас стоит задуматься о готовности своей ИТ-инфраструктуры. Новый GPU потребует не просто замены видеокарт, а переосмысления архитектуры серверов и сетей.

Процессоры и материнские платы

Rubin CPX будет работать в связке с высокопроизводительными CPU, поддерживающими PCIe 6.0 и CXL 3.0. Для эффективного распределённого вывода потребуются многоядерные процессоры с высокой пропускной способностью памяти. Подойдут как решения Intel Xeon Scalable 7-го поколения, так и AMD EPYC 9004 серии.

Подробнее о совместимых серверных процессорах можно узнать в каталоге Server360.

Оперативная память

Для работы с миллионами токенов потребуется не менее 1 ТБ DDR5 ECC памяти на сервер, а в некоторых сценариях — до 4 ТБ. Важно использовать модули с высокой пропускной способностью (до 8400 MT/s) и поддержкой RDIMM/LRDIMM.

Выбор качественной серверной оперативной памяти напрямую влияет на стабильность и производительность ИИ-систем.

Накопители

Хранение моделей размером в десятки и сотни гигабайт требует быстрых SSD. Рекомендуется использовать NVMe U.2 диски с интерфейсом PCIe 5.0 и скоростью чтения от 7 ГБ/с. Для кэширования часто используемых фрагментов контекста подойдут устройства с высокой долговечностью (DWPD > 3).

В каталоге внутренних жёстких дисков и SSD представлены решения, совместимые с будущими серверами на Rubin CPX.

Сеть и коммутация

Disaggregated inference требует сверхнизких задержек между GPU. Поэтому обязательным условием станет использование InfiniBand NDR (400 Гбит/с) или Ethernet 800GbE. Коммутаторы должны поддерживать RoCEv2 и иметь задержку менее 1 мкс.

HowTo: Как построить серверную платформу для Rubin CPX уже сегодня

Готовые решения: когда нет времени на сборку

Не все компании могут позволить себе проектировать и тестировать серверы самостоятельно. Для них есть альтернатива — готовые серверные сборки, оптимизированные под ИИ-нагрузки. Такие системы уже включают:

• Совместимые процессоры и материнские платы;
• Сертифицированную оперативную память;
• Быстрые NVMe накопители;
• Поддержку многопортовых GPU и высокоскоростной сети.

Готовые решения сокращают время выхода на рынок, минимизируют риски несовместимости и дают гарантию стабильной работы. Они особенно актуальны для стартапов, университетов и среднего бизнеса.

FAQ: Ответы на главные вопросы о Rubin CPX