Supermicro ARS-111GL-SHR (GH200 96GB, RAM 480GB)

<p>Supermicro ARS-111GL-SHR - это компактная 1U-платформа для инференса / развертывания, RAG-систем, дообучения моделей и научных расчётов. В сервере установлен один модуль NVIDIA GH200, который объединяет 72-ядерный процессор NVIDIA Grace и ускоритель Hopper, поэтому система получает 96GB ECC HBM3 и 480GB ECC LPDDR5X. Такой сервер хорошо подходит для крупных моделей, длинного контекста и задач, где важен не только объём видеопамяти, но и большой общий объём быстрой памяти рядом с ускорителем.</p>
<p>По данным Supermicro, платформа уже включает встроенный процессор NVIDIA Grace CPU on GH200 Grace Hopper Superchip, поддерживает до 480GB ECC LPDDR5X, имеет 96GB ECC HBM3, а для накопителей доступны 8 фронтальных hot-swap E1.S NVMe и 2 слота M.2 NVMe. От версии NHR эта модель отличается именно подсистемой накопителей - у SHR предусмотрено 8 E1.S, что делает систему удобнее для быстрого локального хранилища в плотном 1U-формате.</p>
<br>
<h3>Производительность GPU</h3>
<div>
<table border="0" cellpadding="0" cellspacing="0" style="border-collapse: collapse;">
          <tbody>
            <tr><td style="border-image: initial;"><b>Тип точности</b><td style="border-image: initial;"><b>Mощность GH200</b></td></tr>
      <tr><td style="border-image: initial;">FP8 Tensor Core</td><td style="border-image: initial;"> 3958TFLOPS</td></tr>    
      <tr><td style="border-image: initial;">BF16 / FP16 Tensor Core</td><td style="border-image: initial;">1979 TFLOPS</td></tr>
      <tr><td style="border-image: initial;">TF32 Tensor Core</td><td style="border-image: initial;">989 TFLOPS</td></tr>
      <tr><td style="border-image: initial;">FP32</td><td style="border-image: initial;">67 TFLOPS</td></tr>
      <tr><td style="border-image: initial;">FP64 Tensor Core</td><td style="border-image: initial;">67 TFLOPS</td></tr>
     <tr><td style="border-image: initial;">INT8 Tensor Core</td><td style="border-image: initial;">3958 TOPS</td></tr>
     </tbody>
         </table>
</div>
<br>
<h3>Совместимость с LLM-моделями</h3> <div> <table border="0" cellpadding="0" cellspacing="0" style="border-collapse: collapse;"> <tbody> <tr> <td style="border-image: initial;"><b>Модель</b></td> <td style="border-image: initial;"><b>Тип квантизации</b></td> <td style="border-image: initial;"><b>Требуется VRAM</b></td> <td style="border-image: initial;"><b>Совместимость</b></td> <td style="border-image: initial;"><b>Примечание</b></td> </tr> <tr> <td style="border-image: initial;">DeepSeek-R1-Distill-Qwen-32B</td> <td style="border-image: initial;">Нет</td> <td style="border-image: initial;">Примерно 65.5GB</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Уверенно работает на GH200 96GB и оставляет запас памяти под длинный контекст и рабочие задачи.</td> </tr> <tr> <td style="border-image: initial;">Qwen3.5-35B-A3B</td> <td style="border-image: initial;">Нет</td> <td style="border-image: initial;">Примерно 71.9GB</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Подходит для этой платформы, но для стабильной работы лучше использовать умеренный контекст и аккуратный размер батча.</td> </tr> <tr> <td style="border-image: initial;">gpt-oss-120b-GGUF</td> <td style="border-image: initial;">Q4_K_M</td> <td style="border-image: initial;">Примерно 62.8GB</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Хороший вариант для Supermicro ARS-111GL-SHR - модель помещается с запасом под служебные данные и рабочий контекст.</td> </tr> </tbody> </table> </div> <h3>Совместимость с диффузионными моделями</h3> <div> <table border="0" cellpadding="0" cellspacing="0" style="border-collapse: collapse;"> <tbody> <tr> <td style="border-image: initial;"><b>Модель</b></td> <td style="border-image: initial;"><b>Тип</b></td> <td style="border-image: initial;"><b>Совместимость</b></td> <td style="border-image: initial;"><b>Примечание</b></td> </tr> <tr> <td style="border-image: initial;">stable-diffusion-3.5-medium</td> <td style="border-image: initial;">Текст в изображение</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Подходит для генерации изображений в высоком разрешении и комфортной работы с повседневными задачами.</td> </tr> <tr> <td style="border-image: initial;">FLUX.2-klein-9B</td> <td style="border-image: initial;">Текст в изображение</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Подходит для сложной генерации изображений, но лучше использовать аккуратные настройки качества и размера батча.</td> </tr> <tr> <td style="border-image: initial;">Kandinsky-5.0-T2I-Lite-sft-Diffusers</td> <td style="border-image: initial;">Текст в изображение</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Лёгкая модель для этой платформы - можно повышать разрешение и запускать несколько задач подряд.</td> </tr> <tr> <td style="border-image: initial;">Kandinsky-5.0-T2V-Lite-sft-5s-Diffusers</td> <td style="border-image: initial;">Текст в видео</td> <td style="border-image: initial;">✅</td> <td style="border-image: initial;">Подходит для коротких роликов и пакетной обработки без жёстких ограничений по памяти.</td> </tr> </tbody> </table> </div>
<br>
<h3>Технические характеристики</h3>
<div>
<table border="0" cellpadding="0" cellspacing="0" style="border-collapse: collapse;">
          <tbody>
            <tr><td style="border-image: initial;">Платформа</td><td style="border-image: initial;">Supermicro ARS-111GL-SHR</td></tr>
          
            <tr><td style="border-image: initial;">Видеокарта / Процессор</td><td style="border-image: initial;">1x NVIDIA GH200 (Grace Hopper) 96GB HBM3</td></tr>
          
            <tr><td style="border-image: initial;">Оперативная память</td><td style="border-image: initial;">480GB LPDDR5X</td></tr>        

            <tr><td style="border-image: initial;">SSD накопитель</td><td style="border-image: initial;">8x E1.S NVMe
<br>2x M.2 NVMe (M-key)</a>

</td></tr>
      
           </tbody>
         </table>
</div>
<p>Если нужна конфигурация на эту платформу под ваши задачи - свяжитесь с менеджером, и мы предложим подходящий вариант под бюджет и требования.</p>