AICanRun
Веб-сервис показывает, какие локальные языковые модели потянет конкретный телефон или Mac, с какой квантизацией и в каком приложении.
- Можно попробовать бесплатно
- Да
- Без регистрации
- Да
- Русский интерфейс
- Нет
- Разработчик
- AICanRun
AICanRun — онлайн-проверка совместимости локальных языковых моделей с устройством. Нужно выбрать свой телефон или Mac из списка (в базе 154 устройства), и сервис сопоставит характеристики чипа, объём памяти и её пропускную способность с требованиями моделей. Оценка строится на расчёте памяти под веса, KV-кэш и накладные расходы рантайма для каждой квантизации. В базе около 109 моделей (Qwen 3, Llama 3.2, Gemma 3, Phi-4 Mini, DeepSeek R1 Distill, SmolLM2) и свыше 600 вариантов квантизации. Для каждой модели показан вердикт (работает, на грани, не запустится), рекомендуемая квантизация, ориентировочная скорость в токенах в секунду и приложение для запуска. Устанавливать ничего не нужно.
Возможности
Выбор устройства из базы
Достаточно выбрать телефон или Mac из списка: чип, объём памяти и пропускная способность уже внесены в базу из 154 устройств.
Расчёт памяти под модель
Для каждой квантизации считается потребление памяти: веса модели, KV-кэш и накладные расходы рантайма. По итогу выдаётся вердикт: работает, на грани или не запустится.
Оценка скорости в токенах
Для поддерживаемых моделей показана ориентировочная скорость генерации в токенах в секунду на выбранном устройстве.
Рекомендуемая квантизация
Сервис подсказывает, какой уровень квантизации выбрать, чтобы модель поместилась в память и работала приемлемо.
Подсказка по приложению
К результату прилагается рекомендация приложения для запуска: для телефонов обычно PocketPal, для Mac чаще LM Studio, также упоминаются Locally AI, Jan, Ollama и Msty.
Каталоги моделей и устройств
Отдельные разделы с моделями, телефонами и Mac, а также глоссарий и блог с разбором запуска конкретных моделей на конкретных устройствах.
Пометки достоверности
Каждый результат помечен как Estimated, Measured или AICanRun verified, поэтому видно, оценка это или реальный замер.
Кому подойдёт
- Для личных задач
Перед скачиванием модели на смартфон можно узнать, потянет ли её устройство и в каком приложении запускать.
- Разработчики
Помогает подобрать модель и квантизацию для мобильных и локальных приложений с ИИ и оценить, на каких устройствах они будут работать.
- Исследователи и учёные
Даёт сравнение моделей по требованиям к памяти и ориентировочной скорости на разном оборудовании.
- Авторы контента и блогеры
Удобно для обзоров и инструкций по запуску локальных моделей на телефонах и Mac.
Как начать
- Открыть сайт, регистрация не требуется.
- Выбрать свой телефон или Mac из списка устройств.
- Посмотреть, какие модели и квантизации помечены как работающие.
- Взять рекомендованную квантизацию и приложение для запуска.
- Скачать модель в рекомендованном приложении и проверить скорость на устройстве.
Тарифы
Если на сайте появятся партнёрские ссылки или спонсорские размещения, они будут помечены и не повлияют на вердикты.
Ограничения
- Большинство результатов — оценки по паспортным характеристикам, а не замеры на реальных устройствах
- Не стоит принимать решение о покупке устройства только по оценке
- Сервис только подсказывает, но сам модели не запускает
Платформы и интеграции
Соседи по смыслу
за последний месяц