Представлен открытый движок инференса диффузионных моделей SGLang Diffusion.
Нейросети
Kimi-K2-Thinking: новый лидер open-source моделей.
EmbeddingGemma – компактная модель для локальной векторизации текстов.
Обзор технологии KV Cache для ускорения современных LLM.
Обзор SGLang: открытый движок инференса, конкурирующий vLLM.
У движка инференса ИИ llama.cpp появился встроенный веб-интерфейс.