К содержимому

gpt-oss-safeguard

Открытые модели OpenAI, которые с помощью рассуждения классифицируют сообщения и диалоги по политике, написанной самим разработчиком.

Русский интерфейс
Нет
Разработчик
OpenAI
Версия
120B и 20B · с 29 октября 2025
Страна
США
Данные проверены 14 ноября 2026 Поправить карточку

gpt-oss-safeguard — семейство открытых моделей OpenAI для задач безопасности и модерации контента. Это дообученные версии gpt-oss в двух размерах: на 120 и на 20 миллиардов параметров. Модель получает на вход два текста: политику и контент, который нужно проверить. В ответ она выдаёт вывод о том, как контент соотносится с политикой, и показывает цепочку рассуждений.

Политика подаётся во время запроса, а не зашита в обучение, поэтому правила можно быстро менять без переобучения классификатора. Подход подходит для новых и меняющихся рисков, тонких предметных областей и случаев, когда мало размеченных примеров. Модели распространяются под лицензией Apache 2.0, их можно свободно изучать, изменять и разворачивать у себя. Выпуск идёт как исследовательская предварительная версия, созданная совместно с сообществом ROOST.

Сайт gpt-oss-safeguard

Возможности

Политика при запросе

Правила модерации передаются вместе с проверяемым текстом, поэтому их можно менять в любой момент без переобучения модели.

Видимые рассуждения

Модель показывает цепочку рассуждений, и разработчик может понять, почему контент получил именно такую метку.

Разные объекты проверки

Классифицирует отдельные сообщения пользователей, ответы моделей и целые диалоги по заданной политике.

Два размера

Вариант на 120 миллиардов параметров рассчитан на более сложные случаи, вариант на 20 миллиардов легче в развёртывании.

Открытые веса

Веса можно скачать, изменить и запустить на своей инфраструктуре по лицензии Apache 2.0.

Не только безопасность

Подходит и для других меток под нужды платформы, например для выявления вероятных фальшивых отзывов или обсуждений читов в играх.

Кому подойдёт

  • Разработчики

    Встраивают проверку контента по собственным правилам в продукты и конвейеры безопасности.

  • Исследователи и учёные

    Изучают подход к классификации через рассуждение на открытых весах.

  • Менеджеры проектов и продуктов

    Настраивают модерацию форумов, отзывов и чатов без сбора больших размеченных наборов.

Как начать

  1. Скачать веса gpt-oss-safeguard-120b или gpt-oss-safeguard-20b с Hugging Face.
  2. Написать политику: что считать нарушением и как размечать контент.
  3. Передать модели политику и проверяемый текст в одном запросе.
  4. Разобрать вывод и цепочку рассуждений и решить, как использовать их в своём конвейере модерации.

Тарифы

Открытые веса
Бесплатно
Скачивание и использование моделей по лицензии Apache 2.0; затраты только на собственные вычисления.

Ограничения

  • Классификатор, обученный на десятках тысяч размеченных примеров, может работать точнее для сложных рисков.
  • Рассуждение требует времени и вычислений, поэтому сложно проверять весь поток контента платформы.
  • Выпуск имеет статус исследовательской предварительной версии.
  • Решение о том, как применять выводы модели, остаётся за разработчиком.

Платформы и интеграции

API Самостоятельная установка
Hugging Face

Семейство

Соседи по смыслу

Botobo дайджест
+885новых сервисов
за последний месяц
раз в день · 53 подписчика
Подписаться на обновления