Unsloth
Открытая платформа для запуска, дообучения и экспорта языковых и диффузионных моделей на личном железе, с веб-интерфейсом Studio и библиотекой.
- Можно попробовать бесплатно
- Да
- Без регистрации
- Да
- Работает с русским языком
- Да
- Разработчик
- Unsloth AI
- Страна
- США
Unsloth — открытая платформа для работы с ИИ-моделями на собственном компьютере. Она позволяет запускать, дообучать и экспортировать большие языковые модели, а также диффузионные, аудио- и embedding-модели. Есть три способа работы: десктопное приложение, веб-интерфейс Unsloth Studio без кода и библиотека Unsloth Core для Python. Поддерживаются видеокарты NVIDIA, AMD и Intel, процессоры и Apple Silicon. Дообучение заявлено как до 2 раз более быстрое с экономией до 70% видеопамяти по сравнению со стандартными методами. Работают LoRA, QLoRA, полное дообучение, обучение с подкреплением (GRPO, DPO), а Studio отдаёт модели через OpenAI-совместимый API.
Возможности
Дообучение моделей
LoRA, QLoRA и полное дообучение, а также обучение с подкреплением (GRPO, DPO). Заявлено ускорение до 2 раз и экономия до 70% видеопамяти.
Локальный запуск моделей
Модели в форматах GGUF и MLX запускаются на своём компьютере, в Studio с ними можно общаться в чате и сравнивать ответы.
Диффузионные модели
Поддерживается запуск и обучение моделей генерации изображений вроде FLUX, а также аудио- и embedding-моделей.
Наборы данных из файлов
Data Recipes собирают обучающие датасеты из PDF, CSV и DOCX.
OpenAI-совместимый API
Studio отдаёт локальные модели по API, совместимому с OpenAI, с доступом по сети или через защищённую ссылку Cloudflare.
Подключение агентов
Локальные модели можно подключить к Claude Code, OpenAI Codex, OpenCode, VS Code и другим агентным инструментам, есть поддержка MCP.
Экспорт моделей
Готовые модели выгружаются в GGUF, Safetensors, LoRA и NVFP4 для llama.cpp, Ollama и vLLM.
Библиотека Unsloth Core
Установка через uv pip install unsloth даёт код-ориентированный доступ к обучению; работает вместе с Hugging Face transformers и TRL.
Кому подойдёт
- Разработчики
Дообучение и запуск открытых моделей на своём железе, экспорт в GGUF и подключение к кодовым агентам.
- Исследователи и учёные
Эксперименты с обучением с подкреплением и дообучением моделей на ограниченной видеопамяти.
- Предприниматели и руководители
Собственные модели на корпоративных данных без отправки их в облако.
- Студенты и школьники
Освоение дообучения LLM на домашней видеокарте через бесплатные ноутбуки и интерфейс без кода.
Как начать
- Скачать десктопное приложение или установить Studio скриптом, через Docker, Homebrew либо Winget.
- Запустить Unsloth Studio командой unsloth studio и открыть веб-интерфейс.
- Выбрать модель, например Qwen, Gemma или DeepSeek, и загрузить её.
- Подготовить датасет из PDF, CSV или DOCX и запустить дообучение.
- Экспортировать результат в GGUF или подключить модель через OpenAI-совместимый API.
Тарифы
Ядро распространяется под лицензией Apache-2.0, интерфейс Studio и часть опциональных компонентов — под AGPL-3.0. Есть бесплатные ноутбуки для Colab.
Ограничения
- Возможности обучения зависят от видеопамяти и оборудования
- Цифры ускорения и экономии памяти приводит сам разработчик
- Серверные инструменты Studio включены по умолчанию, при открытии доступа извне рекомендуется флаг --disable-tools
- Часть компонентов Studio лицензирована под AGPL-3.0
Платформы и интеграции
Соседи по смыслу
за последний месяц