Вы просматриваете сервера только с GPU: NVIDIA H100 PCIE
Сбросьте фильтр, чтобы увидеть все доступные конфигурации.
Серверы с NVIDIA H100 PCIE сейчас недоступны
Такое бывает, когда все машины этого типа заняты. Вы можете выбрать другой GPU или вернуться в общий каталог.
Использование серверов с NVIDIA H100 PCIE
NVIDIA H100 PCIe — флагман архитектуры Hopper. Тензорные ядра 4-го поколения и Transformer Engine обеспечивают рекордную скорость для обучения и инференса моделей LLM и научных симуляций.
techSpecs &&
Для каких задач подходит NVIDIA H100 PCIE?
- ✓Учебные эксперименты с Llama 3 70B на одной карте без кластера
- ✓Высоконагруженный инференс чат-сервиса при 1000 RPS
- ✓CFD-симуляции в OpenFOAM с прямым вычислением на CUDA
- ✓Обработка больших графов в Deep Graph Library
- ✓Распределённое обучение BERT Large на 4–8 GPU по NVLink
Частые вопросы
В чём преимущество H100 перед A100?
H100 обучает AI до 9× быстрее и инференс LLM до 30× быстрее благодаря Transformer Engine с FP8/FP16.
Что такое Transformer Engine?
Технология, автоматически применяющая смешанную точность для ускорения трансформеров без потери качества.