Decider for Mac
Приложение для Mac, которое запускает модель решений Perplexity на устройстве и открывает локальный Decisions API без ключа.
Decider for Mac — приложение из строки меню macOS, запускающее на компьютере компактную модель решений Perplexity с 4 млрд параметров. Модель не пишет текст, а классифицирует содержимое и возвращает вероятности: да или нет, выбор одного из вариантов, оценка по шкале. Приложение поднимает локальный сервер с тем же интерфейсом, что и облачный Decisions API, поэтому одни и те же запросы работают и на компьютере, и в облаке. Ключ API и оплата не нужны, а письма, заметки, логи и скриншоты остаются на устройстве. Модель понимает и текст, и изображения. Подходит для разметки закрытых данных, маршрутизации обращений и проверок перед коммитом.
Возможности
Данные остаются на Mac
Модель читает содержимое на компьютере, поэтому можно размечать файлы, которые нельзя отправлять во внешний сервис.
Локальный Decisions API
Приложение отвечает на тот же JSON-запрос, что и облачный интерфейс; для переноса кода достаточно сменить адрес и добавить заголовок авторизации.
Ответы в вероятностях
Три типа вопросов: да или нет, выбор одного варианта и оценка по шкале. В ответе есть вероятности по каждому варианту и уверенность.
Текст и изображения
Можно отправлять не только текст, но и скриншоты и фотографии, например для сортировки изображений по содержанию.
Без ключа и платы
Запросов можно делать сколько угодно: удобно подбирать формулировки вопросов и пороги на больших выборках.
Управление из строки меню
Значок приложения показывает состояние модели, копирует готовый пример запроса и адрес локального интерфейса.
Кому подойдёт
- Разработчики
Можно отладить классификацию на своём компьютере и затем перейти на облачный интерфейс сменой адреса.
- Аналитики
Разметка выгрузок обращений, заметок и отзывов без передачи данных наружу.
- Исследователи и учёные
Быстрая локальная оценка текстов и изображений по собственной шкале с получением вероятностей.
Как начать
- Скачать образ установщика для компьютера Mac с чипом Apple.
- Перетащить приложение в папку «Программы» и запустить его.
- Дождаться первичной загрузки модели размером около 5,8 ГБ; при запросе указать токен Hugging Face с правом чтения.
- Когда в меню появится статус готовности, отправить запрос на локальный адрес, например командой curl.
Тарифы
Облачный Decisions API тарифицируется отдельно, по входным токенам.
Ограничения
- Нужен Mac с чипом Apple (M1 и новее), macOS 13 или новее.
- Требуется 16 ГБ оперативной памяти и около 6 ГБ свободного места на диске.
- Для скачивания приложения и модели нужно подключение к сети.
- Локальная версия использует облегчённую модель; более крупная доступна только в облачном интерфейсе.
- Модель не пишет текст и не объясняет решения, а возвращает только вероятности.
- Версии для Windows и Linux нет.
Платформы и интеграции
Семейство
Соседи по смыслу
за последний месяц