DiffusionGemma
Экспериментальная открытая модель Google DeepMind генерирует текст блоками за счёт диффузии и работает в разы быстрее на локальной видеокарте.
- Без регистрации
- Да
- Работает с русским языком
- Да
- Разработчик
- Версия
- 26B A4B · с 10 июня 2026
- Страна
- США
DiffusionGemma — экспериментальная открытая модель Google DeepMind, которая генерирует текст не по одному токену, а блоками по 256 токенов, заполняя и последовательно уточняя их за несколько проходов. Такой подход переносит узкое место с пропускной способности памяти на вычисления и на выделенных видеокартах даёт до четырёхкратного ускорения вывода: свыше тысячи токенов в секунду на одном H100.
В основе лежит архитектура Gemma 4 26B A4B: разреженная смесь экспертов на 25,2 млрд параметров, из которых в работе участвуют 3,8 млрд. Модель помещается в 18 ГБ видеопамяти в квантованном виде, принимает текст, изображения и видео кадрами, держит контекст до 256 тысяч токенов, поддерживает режим размышления и вызов функций. Веса опубликованы под лицензией Apache 2.0, запускать их можно через vLLM, Hugging Face Transformers, SGLang или MLX. Скорость здесь важнее качества: на сложных тестах модель уступает обычной Gemma 4, поэтому её берут для мгновенного автодополнения, правок по ходу работы и нелинейных задач вроде заполнения кода.
Возможности
Параллельная генерация
Модель заполняет сразу блок из 256 токенов и уточняет его за несколько проходов, поэтому на выделенных видеокартах вывод идёт в разы быстрее обычных языковых моделей.
Текст, изображения и видео
Принимает перемешанные текст, картинки с переменным разрешением и видео, поданное кадрами, а на выходе даёт текст.
Локальный запуск
Открытые веса разворачиваются на своём железе: в квантованном виде модель помещается в 18 ГБ видеопамяти потребительской карты.
Режим размышления
Служебный токен в системной инструкции включает пошаговые рассуждения перед итоговым ответом.
Разбор документов и экранов
Распознаёт печатный и рукописный текст, разбирает PDF, таблицы, графики и интерфейсы, умеет указывать найденные объекты.
Вызов функций
Поддерживает структурированный вызов инструментов, поэтому подходит для агентных сценариев.
Многоязычность
Готова работать более чем с 35 языками, а обучение шло на материале свыше 140 языков.
Дообучение под задачу
Настраивается на узкую задачу по готовым рецептам Hackable Diffusion, Unsloth и NVIDIA NeMo.
Кому подойдёт
- Разработчики
Собирают локальные приложения с мгновенным ответом: автодополнение в редакторе, правки по ходу набора, генерацию разметки и кода.
- Исследователи и учёные
Изучают неавторегрессионную генерацию текста на открытых весах и дообучают модель под свои эксперименты.
- Аналитики
Быстро вытаскивают данные из документов, таблиц и скриншотов, не отправляя файлы в облако.
Как начать
- Скачать веса модели со страницы Gemma или с Hugging Face.
- Выбрать движок под своё железо: vLLM, Hugging Face Transformers, SGLang или MLX.
- Запустить локальный сервер с контекстом до 256 тысяч токенов и параметрами диффузионной выборки из документации.
- При необходимости дообучить модель по рецептам Hackable Diffusion, Unsloth или NVIDIA NeMo.
Тарифы
Бесплатны сами веса; платить приходится за собственное железо или облачные ускорители.
Ограничения
- Качество ответов ниже, чем у обычной Gemma 4 того же размера: модель создана ради скорости, а не максимума точности.
- Аудио на вход не принимает — только текст, изображения и видео кадрами.
- Ускорение рассчитано на выделенные видеокарты; на общей памяти Apple Silicon выигрыш меньше.
- В облачных нагрузках с высокой параллельностью параллельное декодирование даёт мало выгоды и повышает стоимость обслуживания.
- Модель экспериментальная: архитектура и поддержка в инструментах ещё меняются.
- Знания обучены на данных до января 2025 года.
Платформы и интеграции
Семейство
Соседи по смыслу
за последний месяц