Language Model Builder
Бесплатное приложение для Mac: интерактивный учебник и мастерская, где можно с нуля обучить небольшую языковую модель.
- Можно попробовать бесплатно
- Да
- Без регистрации
- Да
- Разработчик
- Felix Rieseberg
Language Model Builder — нативное приложение для macOS, которое сочетает интерактивный учебник и рабочую среду для обучения модели. Пользователь проходит путь от токенизатора до диалога с собственной моделью: выбирает данные, выполняет предобучение и дообучение, затем общается с результатом. Вводная часть занимает около 90 минут и не требует навыков программирования, математики или машинного обучения. Всё работает локально на Apple Silicon через фреймворк MLX, модели и датасеты остаются на компьютере. Приложение бесплатное, аккаунт не нужен. Фронтирную модель так не получить, но связный текст из нескольких абзацев модель выдаёт примерно за сутки обучения.
Возможности
Интерактивный учебник
Восемь тем: от предсказания следующего слова, токенизации и эмбеддингов до внимания, архитектуры трансформера и дообучения. Опыт программирования и математики не нужен.
Предобучение и дообучение
Рабочая среда выполняет предобучение, SFT и DPO. Видны loss, скорость обучения, валидация, сохранённые примеры и история контрольных точек.
Каталог датасетов
Готовый набор данных для предобучения и дообучения, среди них Everyday Conversations, No Robots, Dolly и GSM8K. Можно подключить собственные датасеты.
Чат с собственной моделью
Можно разговаривать с обученной моделью или включить режим X-ray, где видны вероятности токенов и варианты, которые модель не выбрала.
Настройка сэмплирования
Доступны temperature, top-k, top-p и min-p, чтобы увидеть, как параметры влияют на генерацию.
Локальная работа
Обучение идёт на самом Mac без облака. Модели, датасеты и история обучения остаются на устройстве.
Контрольные точки и обмен
Обучение можно приостановить и продолжить позже или сравнить с прежней точкой. Модели сохраняются в формате safetensors и открываются в других приложениях.
Кому подойдёт
- Студенты и школьники
Наглядно разобраться, как устроены токенизация, внимание и обучение языковых моделей, без математической подготовки.
- Исследователи и учёные
Быстро получить практическое представление о полном цикле обучения небольшой модели: данные, предобучение, SFT, DPO.
- Преподаватели
Готовый интерактивный курс для объяснения устройства языковых моделей неспециалистам.
- Для личных задач
Попробовать собрать собственную модель из любопытства и понять, как работают привычные чат-боты.
Как начать
- Скачать приложение с сайта разработчика и установить на Mac с Apple Silicon и macOS 15 или новее.
- Пройти вводную часть учебника: токенизатор, эмбеддинги, внимание.
- Выбрать датасеты из каталога или добавить свои.
- Запустить предобучение, затем дообучение SFT и DPO, следя за графиками.
- Открыть чат и пообщаться с обученной моделью.
Тарифы
Версия для Mac App Store заявлена как готовящаяся.
Ограничения
- Нужен Mac с Apple Silicon и macOS 15 или новее
- Версий для Windows, Linux и Intel Mac нет: приложение зависит от MLX
- Обучить модель уровня ведущих лабораторий нельзя
- Модель класса GPT-2 small (100–150 млн параметров) на MacBook Pro M5 Max учится около недели
Платформы и интеграции
Соседи по смыслу
за последний месяц