Вышла новая версия популярного движка инференса vLLM v0.19.0.
Блог
Google выпустила новые открытые ИИ-модели семейства Gemma 4.
Гайд по llama.cpp и vLLM на ROCm с тестом AI PRO R9700 и Instinct MI100
Как установить ComfyUI на Ubuntu 24.04.4 LTS вручную и через Docker
Google представила алгоритм экстремального сжатия ИИ-моделей TurboQuant.
В отрытый доступ вышла ИИ-модель daVinci-MagiHuman с 15 миллиардами параметров, которая генерирует высококачественные видео всего на 1 Nvidia H100 80 GB.