LM Studio 0.4.0: новый headless-режим для запуска на серверах

Команда LM Studio представила версию 0.4.0, которая переводит продукт из категории десктопных приложений для локальных языковых моделей в полноценную серверную платформу инференса. Обновление затрагивает архитектуру, API и обработку запросов, позволяя использовать LM Studio в headless-режиме, на серверах, в облаке и в CI-пайплайнах без графического интерфейса.

Главное новшество — серверное ядро llmster, работающее независимо от пользовательского интерфейса. Это позволяет запускать модели локально на Linux, в облаке или на любом GPU, полностью отделяя вычислительную часть от десктопного клиента.

Параллельные запросы с непрерывной пакетной обработкой заменяют классическую очередь, повышая пропускную способность и снижая простой оборудования. Новый REST API с эндпоинтом /v1/chat поддерживает отслеживание состояния диалогов и интеграцию с локальными MCP, делая платформу удобной для агентных и инструментальных сценариев.

Десктопное приложение тоже получило обновления: разделенный экран, режим разработчика, встроенная документация и возможность экспорта чатов. UI теперь выступает скорее как клиент к серверному ядру, а не как монолитное приложение.

Релиз LM Studio 0.4.0 формально превращает продукт в универсальный инфраструктурный инструмент для развертывания ИИ на серверах. Поддержка headless-режима, параллельного инференса и расширенного API позволяет использовать LM Studio как основу для локальных агентных систем и серверного инференса, закрывая нишу между простыми десктопными клиентами и тяжелыми серверными решениями.