gpt-oss-safeguard
Открытые модели OpenAI, которые с помощью рассуждения классифицируют сообщения и диалоги по политике, написанной самим разработчиком.
- Русский интерфейс
- Нет
- Разработчик
- OpenAI
- Версия
- 120B и 20B · с 29 октября 2025
- Страна
- США
gpt-oss-safeguard — семейство открытых моделей OpenAI для задач безопасности и модерации контента. Это дообученные версии gpt-oss в двух размерах: на 120 и на 20 миллиардов параметров. Модель получает на вход два текста: политику и контент, который нужно проверить. В ответ она выдаёт вывод о том, как контент соотносится с политикой, и показывает цепочку рассуждений.
Политика подаётся во время запроса, а не зашита в обучение, поэтому правила можно быстро менять без переобучения классификатора. Подход подходит для новых и меняющихся рисков, тонких предметных областей и случаев, когда мало размеченных примеров. Модели распространяются под лицензией Apache 2.0, их можно свободно изучать, изменять и разворачивать у себя. Выпуск идёт как исследовательская предварительная версия, созданная совместно с сообществом ROOST.
Возможности
Политика при запросе
Правила модерации передаются вместе с проверяемым текстом, поэтому их можно менять в любой момент без переобучения модели.
Видимые рассуждения
Модель показывает цепочку рассуждений, и разработчик может понять, почему контент получил именно такую метку.
Разные объекты проверки
Классифицирует отдельные сообщения пользователей, ответы моделей и целые диалоги по заданной политике.
Два размера
Вариант на 120 миллиардов параметров рассчитан на более сложные случаи, вариант на 20 миллиардов легче в развёртывании.
Открытые веса
Веса можно скачать, изменить и запустить на своей инфраструктуре по лицензии Apache 2.0.
Не только безопасность
Подходит и для других меток под нужды платформы, например для выявления вероятных фальшивых отзывов или обсуждений читов в играх.
Кому подойдёт
- Разработчики
Встраивают проверку контента по собственным правилам в продукты и конвейеры безопасности.
- Исследователи и учёные
Изучают подход к классификации через рассуждение на открытых весах.
- Менеджеры проектов и продуктов
Настраивают модерацию форумов, отзывов и чатов без сбора больших размеченных наборов.
Как начать
- Скачать веса gpt-oss-safeguard-120b или gpt-oss-safeguard-20b с Hugging Face.
- Написать политику: что считать нарушением и как размечать контент.
- Передать модели политику и проверяемый текст в одном запросе.
- Разобрать вывод и цепочку рассуждений и решить, как использовать их в своём конвейере модерации.
Тарифы
Ограничения
- Классификатор, обученный на десятках тысяч размеченных примеров, может работать точнее для сложных рисков.
- Рассуждение требует времени и вычислений, поэтому сложно проверять весь поток контента платформы.
- Выпуск имеет статус исследовательской предварительной версии.
- Решение о том, как применять выводы модели, остаётся за разработчиком.
Платформы и интеграции
Семейство
Соседи по смыслу
за последний месяц