Magnitude
Открытый движок, который подбирает настройки под ваше железо и запускает локальные модели для ИИ-агентов без облака и оплаты за токены.
- Можно попробовать бесплатно
- Да
- Без регистрации
- Да
- Русский интерфейс
- Нет
- Разработчик
- Magnitude AI Inc.
- Страна
- США
Magnitude — десктопное приложение с открытым кодом (Apache 2.0), которое запускает открытые языковые модели на вашем компьютере и подключает их к ИИ-агентам. При загрузке модели оно настраивает вычислительные ядра под конкретное железо: Apple Silicon, видеокарты NVIDIA и AMD или только процессор. В приложении есть раздел Discover для выбора и загрузки моделей, а раздел Connections в один клик связывает движок с агентами вроде Claude Code, Codex, OpenCode и Cline. Остальные агенты работают через OpenAI-совместимый API. Все запросы и файлы остаются на машине, интернет нужен только для скачивания модели. Платы за токены и API-ключей нет.
Возможности
Подбор ядер под железо
При загрузке модели движок за время до минуты настраивает вычислительные ядра под ваш процессор или видеокарту. Цель — максимальная скорость каждой модели.
Спекулятивное декодирование
Во встроенный движок входит драфтер для спекулятивного декодирования, который ускоряет генерацию текста.
Экономия памяти и кэши
Квантованный KV-кэш вдвое снижает расход памяти на одного агента, а параллельные сессии используют общие префиксные кэши.
Подключение агентов
В разделе Connections агент подключается в один клик: Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code, Oh My Pi, Cline. Прочие агенты работают через OpenAI-совместимый API.
Каталог моделей
В разделе Discover можно выбрать и скачать модель из популярных семейств открытых весов с учётом возможностей вашего компьютера.
Работа без облака
Промпты, файлы и веса моделей остаются на вашем компьютере. После загрузки модели приложение работает без интернета.
Сервер для других компьютеров
На Linux и macOS командой magnitude server setup запускается служба, которая стартует вместе с системой и обслуживает другие машины.
Кому подойдёт
- Разработчики
Запуск локальных моделей для кодинг-агентов вроде Claude Code, Codex или Cline без платы за токены и без отправки кода в облако.
- Исследователи и учёные
Эксперименты с открытыми моделями на собственном железе и сравнение скорости на разных конфигурациях.
- Для личных задач
Локальный ИИ-помощник, работающий без интернета и подписок, когда данные не должны покидать компьютер.
- Предприниматели и руководители
Закрытый от облака инференс для конфиденциальных документов и внутренних агентов на собственных машинах.
Как начать
- Скачайте приложение для macOS, Windows или Linux со страницы загрузки и установите его.
- Откройте раздел Discover и загрузите модель, подходящую вашему железу.
- Дождитесь автонастройки ядер под модель, это занимает до минуты.
- В разделе Connections подключите нужного агента, например Claude Code или Cline.
- Запустите агента и работайте с локальной моделью.
Тарифы
Платного тарифа нет. Основатели планируют продавать гибридный локальный и облачный инференс с оплатой за токен.
Ограничения
- Прирост скорости в 2 раза — заявление разработчиков; в обсуждениях пользователи получали на части конфигураций меньшую скорость, чем у llama.cpp
- Поддержка матричных операций Metal 4 на чипах Apple M5 пока слабая
- Встречались жалобы на зависание на этапе оценки моделей и необнаружение железа в Windows
- Рекомендации моделей иногда занижены относительно возможностей видеокарты
- Это движок для запуска моделей, а не готовый помощник: для работы нужен совместимый агент
- Скачивание моделей требует интернета и свободного места на диске
Платформы и интеграции
Соседи по смыслу
за последний месяц