


| Состояние | Новое |
|---|
Специализированная энергоэффективная модификация Max-Q Workstation / Server на архитектуре NVIDIA Blackwell с контролируемым энергопотреблением 300 Вт. Оснащена 96 ГБ памяти GDDR7 ECC с пропускной способностью до 1.8 ТБ/с и тензорной производительностью до 4 PTOPS (FP4). Спроектирована для многопроцессорных конфигураций до 8 GPU в одном корпусе/стойке без перегрева и избыточной нагрузки на систему электропитания.
📦 Условия оптового заказа и Lead Time:
| Архитектура GPU | NVIDIA Blackwell (2-е поколение Transformer Engine с нативной поддержкой FP4/FP8) |
| Объем и тип видеопамяти | 96 ГБ GDDR7 с аппаратной коррекцией ошибок (ECC) |
| Шина и пропускная способность | 512-bit / до 1.8 ТБ/с |
| Вычислительные ядра | 24 064 CUDA ячеек, 752 Tensor ядра, 188 RT ядер 4-го поколения |
| Производительность ИИ | 4 PTOPS (FP4) / 120 TFLOPS (FP32) / 355 TFLOPS (RT Core) |
| Интерфейс подключения | PCIe Gen 5 x16 |
| Форм-фактор и энергопотребление | Dual-slot, Энергоэффективный профиль Max-Q (300 Вт TGP) для высокоплотных сборок до 8 карт |
| Разъем питания | 12V-2x6 PCIe Gen 5 Power Connector |
| Видеовыходы | 4x DisplayPort 2.1b |
Сравнение различных архитектурных подходов для локального запуска больших языковых моделей (LLM) и задач машинного обучения в зависимости от масштаба компании.
| Класс решения | Характеристики | Целевые задачи и инференс Llama 3.3 70B | Технические особенности |
|---|---|---|---|
| Кастомный ПК Базовый уровень |
2x GeForce RTX 5090 32GB VRAM: 64 ГБ GDDR7 (суммарно) TDP: ~1200 Вт |
Неудобно для крупных моделей Модель Llama 3.3 70B / Qwen 3.6 72B (INT8) требует от 78 ГБ VRAM, поэтому не помещается в 64 ГБ памяти. Приходится запускать сжатые 4-битные квантования (с потерей точности) или выносить часть слоев на CPU, что снижает скорость до <2-3 токенов/сек. Подходит для мелких моделей (8B/13B/27B). | Нет физического NVLink. Драйверы потребительских карт блокируют vGPU (виртуальное разделение). Задачи нельзя легко распараллелить — деление ресурсов идет по принципу «одна задача — одна физическая карта», что требует сложной настройки CUDA-конвейера (Tensor Parallelism). Риск перегрева в ПК. |
| Рабочая станция Сбалансированное |
1x RTX PRO 6000 Blackwell VRAM: 96 ГБ GDDR7 TDP: 600 Вт (Workstation Edition) |
Оптимально для одной LLM Квантованная модель (Llama 3.3 70B / Qwen 3.6 72B INT8) полностью умещается в VRAM одной карты. Выдает стабильные 15–20 токенов/сек. Система работает плавно и без задержек. | Готовое бесшумное решение для офиса «из коробки». Нативная поддержка Ollama, vLLM и TensorRT-LLM без костылей и сложного кода. Подключается к обычной розетке 220V, не требует серверной комнаты. |
| Сервер 2U Корпоративный класс |
2x RTX PRO 6000 Blackwell VRAM: 192 ГБ GDDR7 (суммарно) TDP: 2x 300 Вт (Max-Q) или 2x 600 Вт |
Многопоточный инференс Позволяет запускать Llama 3.3 70B в чистом формате FP16 без сжатия или ускорять инференс до 40+ токенов/сек при INT8 тензорном распараллеливании. Подходит для дообучения (QLoRA) и запуска ИИ-агентов. | Установка в стойку ЦОД или серверную комнату. Контролируемый тепловой пакет (Max-Q исполнение на 300 Вт). Полная отказоустойчивость, поддержка удаленного управления IPMI, горячая замена дисков и блоков питания. |
| Сервер 4U+ Supercomputing |
8x RTX PRO 6000 Blackwell VRAM: 768 ГБ GDDR7 (суммарно) TDP: до 4800 Вт (только GPU) |
Параллельные 70B потоки / MoE Разработан для высоконагруженных систем инференса, запуска нескольких параллельных копий Llama 3.3 70B / Qwen 3.6 72B или распределенной работы с Llama 4 Scout. Обеспечивает отказоустойчивость и максимальную скорость генерации при сотнях одновременных запросов. | Шина PCIe Gen5 с максимальной пропускной способностью между картами. Резервируемые блоки питания от 3000 Вт до 6000 Вт (требуется 3-фазное питание). Размещается исключительно в ЦОД. |
⚠️ Дефицит и восстановленные чипы
Рынок ускорителей NVIDIA Blackwell испытывает острый дефицит. Под видом новых карт нередко предлагаются восстановленные (refurbished) чипы после тяжелого майнинга, перепаянные компоненты памяти или старые платы с перепрошитым модифицированным BIOS.
🛡️ Экспортный контроль и таможня
Графические процессоры RTX PRO 6000 относятся к технологиям двойного назначения и подлежат строгому экспортному контролю. Импорт в РК требует лицензий, оформления ГТД и валютного контроля. «Серый» ввоз ведет к конфискации оборудования или потере гарантии.
✅ Endpoint осуществляет исключительно легальные прямые поставки профессионального оборудования в Республику Казахстан с полным пакетом необходимых документов и предоставляет официальную авторизованную гарантию.