Российский облачный провайдер «Турбо Облако», входящий в ГК РТК-ЦОД, расширил линейку графических ускорителей (GPU) для задач искусственного интеллекта и высокопроизводительных вычислений. В сервисе «Виртуальная инфраструктура с GPU» стала доступна NVIDIA RTX PRO 6000 Blackwell Server Edition — ускоритель нового поколения на архитектуре Blackwell.
NVIDIA RTX PRO 6000 получил тензорные ядра пятого поколения и поддерживает несколько форматов вычислений. GPU можно использовать для запуска больших языковых моделей, включая локальный инференс моделей до 70 млрд параметров, а также для их адаптации и тонкой настройки под конкретные задачи. Среди возможных сценариев — квантование моделей, разработка RAG-систем и ИИ-ассистентов. При этом ускоритель рассчитан не только на машинное обучение: его можно применять для профессиональной графики, 3D-визуализации, рендеринга и обработки видео.
Ключевая особенность RTX PRO 6000 Blackwell — 96 ГБ видеопамяти. Такой объём позволяет размещать крупные ИИ-модели на одном GPU, сохраняя память для выполнения вычислений. В ряде сценариев это позволяет избежать распределения одной модели между несколькими ускорителями и тем самым упростить конфигурацию инфраструктуры.
Ускоритель также поддерживает аппаратные вычисления в формате FP4 — с меньшей разрядностью, чем FP8 и FP16. Использование FP4 в подходящих сценариях позволяет снизить требования к памяти и повысить эффективность вычислений. Одновременно RTX PRO 6000 поддерживает FP8, FP16 и FP32, что делает его подходящим для различных типов вычислительных нагрузок.
В «Турбо Облаке» можно создать виртуальную машину с конфигурацией от одного до восьми RTX PRO 6000 Blackwell. Для GPU предусмотрен выделенный доступ без соседних нагрузок на инстансе, а также высокопроизводительное хранилище и скоростной сетевой интерфейс. Для ИИ-задач доступны готовые образы с CUDA, PyTorch, TensorFlow, vLLM и Triton Inference Server. Это позволяет использовать привычный программный стек без самостоятельной настройки базового окружения.
NVIDIA RTX PRO 6000 Blackwell дополняет другие GPU, доступные в «Турбо Облаке», включая L40S и H200. L40S ориентирован на инференс моделей среднего размера, графические задачи и рендеринг. H200 рассчитан на более ресурсоёмкие нагрузки, в том числе обучение и инференс крупных моделей в составе ИИ-кластеров. Таким образом, линейка позволяет подбирать конфигурацию инфраструктуры в зависимости от размера модели и характера вычислительной задачи.