Локальные модели (LM Studio / Ollama) 🌀 Bulka

Чат Bulka на локальной модели

Чат-агент Bulka может работать на локальной модели — через LM Studio, Ollama или любой другой OpenAI-совместимый сервер на твоём ПК. Без облака, без ключей, с полным набором инструментов (модель сама пишет код и запускает музыку). Работает в десктоп-версии.

Быстрый старт

  1. Запусти локальный сервер модели:
    • LM Studio → вкладка DeveloperLocal ServerStart. Адрес: http://localhost:1234/v1.
    • Ollama → запускается сам. Адрес: http://localhost:11434/v1.
  2. В Bulka: вкладка Chat → настройки → провайдер «Локально (LM Studio / Ollama)».
  3. Укажи адрес сервера (есть кнопки-пресеты LM Studio / Ollama), нажми «Загрузить модели», выбери модель.
  4. Общайся — модель будет писать код и управлять музыкой прямо в редакторе.

Как это устроено

Запрос идёт через встроенный сервер Bulka к твоему локальному серверу (server-to-server), поэтому CORS не мешает (браузер напрямую к LM Studio/Ollama режется политикой CORS). Ключ обычно не нужен, но поле для него есть.

Рекомендации

  • Для управления Bulka нужна модель с поддержкой function calling (инструментов) — например, Qwen 3 / Qwen 2.5, Llama 3.x, Mistral. Проверено на Qwen 3.8 27B: сам ставит код и запускает трек.
  • Модели с рассуждением (reasoning) покажут свои мысли в чате — сворачиваемым блоком.
  • Чем больше модель, тем осмысленнее музыка, но тем выше требования к железу.