«Турбо Облако» усилил инфраструктуру для ИИ-задач графическими ускорителями нового поколения
Вслед за растущим спросом на вычислительные ресурсы для задач искусственного интеллекта и высокопроизводительных вычислений российский облачный провайдер «Турбо Облако», входящий в ГК «РТК-ЦОД», расширяет линейку доступных графических ускорителей (GPU). В сервисе «Виртуальная инфраструктура с GPU» появился ускоритель нового поколения Nvidia RTX Pro 6000 Blackwell Server Edition. Об этом CNews сообщил представитель «Турбо Облака».
Nvidia RTX Pro 6000 построен на архитектуре Blackwell, получил тензорные ядра пятого поколения и поддерживает разные форматы вычислений. GPU подходит для запуска больших языковых моделей, включая локальный инференс моделей до 70 млрд параметров, а также для их адаптации и более тонкой настройки под конкретные задачи в рамках одного узла, квантования, разработки RAG-систем и ИИ-ассистентов. При этом возможности графического ускорителя не ограничиваются машинным обучением: он рассчитан также на профессиональную графику, 3D-визуализацию, рендеринг и обработку видео.
Одна из главных особенностей RTX Pro 6000 Blackwell — 96 ГБ видеопамяти, которые позволяют размещать ИИ-модели на одном GPU и оставлять достаточно памяти для его работы. В некоторых сценариях это снижает необходимость распределять одну модель между несколькими ускорителями и упрощает конфигурацию инфраструктуры.
Ещё одна особенность RTX Pro 6000 Blackwell — аппаратная поддержка FP4. Это формат вычислений с меньшей разрядностью, чем FP8 и FP16. Меньшая разрядность позволяет снизить требования к памяти и в подходящих сценариях повысить эффективность вычислений. При этом ускоритель поддерживает и другие форматы — FP8, FP16 и FP32, поэтому его можно использовать для разных вычислительных нагрузок.
В «Турбо Облаке» доступны конфигурации от одного до восьми RTX Pro 6000 Blackwell в одной виртуальной машине. Для GPU предусмотрен выделенный доступ без соседей на инстансе, высокопроизводительное хранилище и высокоскоростной сетевой интерфейс. Для работы с ИИ в сервисе доступны готовые образы с CUDA, PyTorch, TensorFlow, vLLM и Triton Inference Server — можно использовать привычный стек без самостоятельной подготовки базового окружения.
Nvidia RTX Pro 6000 Blackwell дополняет доступные в «Турбо Облаке» L40S и H200. Ускоритель L40S ориентирован на инференс моделей среднего размера, графику и рендеринг, а H200 рассчитан на более ресурсоёмкие сценарии, включая крупномасштабное обучение и инференс тяжёлых моделей в составе ИИ-кластеров.
Татьяна Миронова, директор по продуктам компании «Турбо Облако», сказала: «Мы расширяем GPU-инфраструктуру, чтобы клиенты могли выбирать вычислительные ресурсы под конкретные задачи и не переплачивать за избыточную мощность. RTX Pro 6000 Blackwell занимает отдельную нишу между универсальными GPU для инференса и профессиональной графики и более мощными ускорителями для тяжёлых ИИ-нагрузок. Это позволяет использовать одну инфраструктуру для разных этапов работы — от разработки и тестирования до запуска продуктивных нагрузок. При этом клиентам не нужно заранее инвестировать в собственную ресурсы: необходимые мощности можно получить в облаке и масштабировать их по мере роста нагрузки».