Как проверить большой поток изображений, не превращая автоматический сигнал в окончательное решение? 16 ноября 2026 года OpenAI объявила о доступности CSAM Image Classifier через API для одобренных организаций. Модель принимает одно изображение и возвращает два отдельных сигнала: о возможном материале сексуального насилия над детьми (CSAM) и о возможном AI-генерируемом CSAM. Практический смысл инструмента — расставить приоритеты для человеческой проверки, а не заменить её.

В этом и состоит важная развилка: классификатор даёт команде ещё один фильтр в очереди модерации, но его результат требует собственного процесса обработки. Для специалистов по безопасности и модерации важно понимать не только метку, но и то, какие решения по-прежнему остаются за организацией.
Что изменилось 16 ноября
В обновлении OpenAI от 16 ноября компания указала, что одобренные организации могут использовать классификатор бесплатно, чтобы приоритизировать изображения для проверки человеком. Это точное описание роли продукта: система сортирует потенциально требующие внимания материалы, а люди проводят дальнейшую проверку в рамках утверждённого порядка.
Подробности API описаны в документации классификатора. Нужно выбрать модель omni-moderation-csam-latest и отправить отдельный запрос POST /v1/moderations. Документация предусматривает одно неподвижное изображение размером до 20 МБ в запросе. Организациям следует применять собственный утверждённый процесс работы с входными данными; уже известный CSAM отправлять классификатору нельзя.
Почему модель возвращает два сигнала
Ответ содержит отдельные категории likely-csam и likely-csam/gen-ai. Такое разделение позволяет команде различать сигнал о потенциальном CSAM и сигнал о потенциально AI-генерируемом материале. Это полезно для маршрутизации и анализа очереди: разные типы обнаруженного риска можно передавать по соответствующим внутренним процедурам.

Каждая категория включает булев флаг и числовую оценку. OpenAI описывает оценку как показатель силы совпадения внутри той же категории и снимка модели. Компания предупреждает, что оценка не является калиброванной вероятностью и её нельзя сравнивать с универсальным порогом вроде 0,5. Поэтому настройку очереди стоит строить вокруг того, как конкретная команда будет использовать флаги и оценки, а не вокруг произвольного порога для автоматического решения.
Практическая последовательность выглядит так: организация передаёт одно допустимое изображение, получает результат, проверяет общий флаг и отдельные категории, затем направляет материал на человеческую оценку по своей процедуре. Связь результата с исходным объектом и внутренним решением помогает команде объяснить, почему изображение попало в очередь и кто его рассмотрел.
Где проходит граница автоматизации
OpenAI подчёркивает в документации классификатора, что флаг категории сам по себе не устанавливает, что изображение является CSAM, и что классификатор автоматически не сообщает о контенте властям. Организации должны применять собственные процедуры проверки, эскалации и передачи информации. Модель помогает отбирать материал, а ответственность за интерпретацию и последующие действия встроена в рабочий процесс команды.
Здесь результат классификатора служит приоритетной отметкой для специалиста. Команде следует определить, кто рассматривает срабатывания, как фиксируется итог и каким образом материал передаётся дальше согласно её процедуре.
Для каких задач подходит инструмент
По опубликованной спецификации, классификатор предназначен для изображений и возвращает два сигнала по указанным категориям. Общая модель модерации OpenAI, omni-moderation-latest, решает более широкую задачу; документация отмечает, что её категория sexual/minors применяется к тексту. Специализированный классификатор изображений закрывает отдельную задачу в потоке изображений, а выбор модели зависит от типа входных данных и процесса проверки.
При проектировании системы полезно разделить три вещи: сигнал модели, человеческое заключение и операционное действие. Сигнал — машинный вывод; заключение — результат проверки специалистом; действие — передача материала или иной шаг по внутренней процедуре. Раздельный учёт помогает не приписывать модели решения, которые фактически принимает организация.
Сравнение с общими моделями тоже требует точности. Документация описывает вход, две категории, поля ответа и ограничения применения, но не приводит сравнительных тестов точности. При внедрении имеет смысл оценивать соответствие механизма конкретному процессу: кто имеет доступ, как работает проверка человеком, как фиксируется результат и как команда обрабатывает ошибочные или спорные сигналы.
Что организациям проверить до подключения
- Доступ: инструмент предназначен для одобренных организаций; доступ запрашивается через форму OpenAI.
- Вход: один файл изображения на запрос, размером не более 20 МБ; классификация текста этой моделью не поддерживается.
- Интерпретация: флаги категорий устанавливаются по настроенным порогам, а числовые оценки не являются калиброванными вероятностями.
- Процесс: проверка человеком, эскалация и возможное сообщение о материале остаются задачами организации.
Таким образом, изменение от 16 ноября — специализированный фильтр для приоритизации изображений, доступный одобренным организациям. Его место в процессе — перед человеческой проверкой: команда получает два машинных сигнала, оценивает их по своим правилам и сама определяет дальнейшие действия.