Вышла новая версия популярного движка инференса vLLM v0.19.0.
Блог
Google выпустила новые открытые ИИ-модели семейства Gemma 4.
Гайд по llama.cpp и vLLM на ROCm с тестом AI PRO R9700 и Instinct MI100
IBM — компания, которая сто лет меняла компьютеры, серверы и ИИ.
Сравниваем vGPU, MIG и SR-IOV по задержке, изоляции и цене
Как установить ComfyUI на Ubuntu 24.04.4 LTS вручную и через Docker