jsonscraper
Рынки
К журналу

OpenAI открыла классификатор CSAM для одобренных организаций: как устроена проверка изображений

Модель возвращает отдельные сигналы для возможного CSAM и AI-генерируемого CSAM. Решение о проверке и дальнейших действиях остаётся за людьми.

Редакционная политика Сообщить об ошибке

Как проверить большой поток изображений, не превращая автоматический сигнал в окончательное решение? 16 ноября 2026 года OpenAI объявила о доступности CSAM Image Classifier через API для одобренных организаций. Модель принимает одно изображение и возвращает два отдельных сигнала: о возможном материале сексуального насилия над детьми (CSAM) и о возможном AI-генерируемом CSAM. Практический смысл инструмента — расставить приоритеты для человеческой проверки, а не заменить её.

Article: OpenAI открыла классификатор CSAM для одобренных организаций: как устроена проверка изображений
Summary: 16 ноября 2026 года OpenAI объявила о доступности классификатора изображений CSAM через API для одобренных организаций. Разбираем, что именно он классифицирует, как читать результат и почему модель встроена в процесс человеческой проверки.
Image role: cover — the central idea
Section: 
Visual subject: Editorial photo of a secure image moderation workflow: abstract blurred image cards
Классификатор выделяет изображения для очереди проверки специалистами.© jsonscraper · создано с ИИ

В этом и состоит важная развилка: классификатор даёт команде ещё один фильтр в очереди модерации, но его результат требует собственного процесса обработки. Для специалистов по безопасности и модерации важно понимать не только метку, но и то, какие решения по-прежнему остаются за организацией.

Что изменилось 16 ноября

В обновлении OpenAI от 16 ноября компания указала, что одобренные организации могут использовать классификатор бесплатно, чтобы приоритизировать изображения для проверки человеком. Это точное описание роли продукта: система сортирует потенциально требующие внимания материалы, а люди проводят дальнейшую проверку в рамках утверждённого порядка.

Подробности API описаны в документации классификатора. Нужно выбрать модель omni-moderation-csam-latest и отправить отдельный запрос POST /v1/moderations. Документация предусматривает одно неподвижное изображение размером до 20 МБ в запросе. Организациям следует применять собственный утверждённый процесс работы с входными данными; уже известный CSAM отправлять классификатору нельзя.

Почему модель возвращает два сигнала

Ответ содержит отдельные категории likely-csam и likely-csam/gen-ai. Такое разделение позволяет команде различать сигнал о потенциальном CSAM и сигнал о потенциально AI-генерируемом материале. Это полезно для маршрутизации и анализа очереди: разные типы обнаруженного риска можно передавать по соответствующим внутренним процедурам.

Article: OpenAI открыла классификатор CSAM для одобренных организаций: как устроена проверка изображений
Summary: 16 ноября 2026 года OpenAI объявила о доступности классификатора изображений CSAM через API для одобренных организаций. Разбираем, что именно он классифицирует, как читать результат и почему модель встроена в процесс человеческой проверки.
Image role: supporting illustration 2 — a different specific aspect
Section: Почему модель возвращает два сигнала
Visual subject: Infographic in R
Схема показывает путь от одного изображения к двум сигналам классификатора и последующей проверке человеком.© jsonscraper · создано с ИИ

Каждая категория включает булев флаг и числовую оценку. OpenAI описывает оценку как показатель силы совпадения внутри той же категории и снимка модели. Компания предупреждает, что оценка не является калиброванной вероятностью и её нельзя сравнивать с универсальным порогом вроде 0,5. Поэтому настройку очереди стоит строить вокруг того, как конкретная команда будет использовать флаги и оценки, а не вокруг произвольного порога для автоматического решения.

Практическая последовательность выглядит так: организация передаёт одно допустимое изображение, получает результат, проверяет общий флаг и отдельные категории, затем направляет материал на человеческую оценку по своей процедуре. Связь результата с исходным объектом и внутренним решением помогает команде объяснить, почему изображение попало в очередь и кто его рассмотрел.

Где проходит граница автоматизации

OpenAI подчёркивает в документации классификатора, что флаг категории сам по себе не устанавливает, что изображение является CSAM, и что классификатор автоматически не сообщает о контенте властям. Организации должны применять собственные процедуры проверки, эскалации и передачи информации. Модель помогает отбирать материал, а ответственность за интерпретацию и последующие действия встроена в рабочий процесс команды.

Здесь результат классификатора служит приоритетной отметкой для специалиста. Команде следует определить, кто рассматривает срабатывания, как фиксируется итог и каким образом материал передаётся дальше согласно её процедуре.

Для каких задач подходит инструмент

По опубликованной спецификации, классификатор предназначен для изображений и возвращает два сигнала по указанным категориям. Общая модель модерации OpenAI, omni-moderation-latest, решает более широкую задачу; документация отмечает, что её категория sexual/minors применяется к тексту. Специализированный классификатор изображений закрывает отдельную задачу в потоке изображений, а выбор модели зависит от типа входных данных и процесса проверки.

При проектировании системы полезно разделить три вещи: сигнал модели, человеческое заключение и операционное действие. Сигнал — машинный вывод; заключение — результат проверки специалистом; действие — передача материала или иной шаг по внутренней процедуре. Раздельный учёт помогает не приписывать модели решения, которые фактически принимает организация.

Сравнение с общими моделями тоже требует точности. Документация описывает вход, две категории, поля ответа и ограничения применения, но не приводит сравнительных тестов точности. При внедрении имеет смысл оценивать соответствие механизма конкретному процессу: кто имеет доступ, как работает проверка человеком, как фиксируется результат и как команда обрабатывает ошибочные или спорные сигналы.

Что организациям проверить до подключения

  • Доступ: инструмент предназначен для одобренных организаций; доступ запрашивается через форму OpenAI.
  • Вход: один файл изображения на запрос, размером не более 20 МБ; классификация текста этой моделью не поддерживается.
  • Интерпретация: флаги категорий устанавливаются по настроенным порогам, а числовые оценки не являются калиброванными вероятностями.
  • Процесс: проверка человеком, эскалация и возможное сообщение о материале остаются задачами организации.

Таким образом, изменение от 16 ноября — специализированный фильтр для приоритизации изображений, доступный одобренным организациям. Его место в процессе — перед человеческой проверкой: команда получает два машинных сигнала, оценивает их по своим правилам и сама определяет дальнейшие действия.

Персоны

Для этой статьи персоны пока не указаны.

Читайте дальшеGitHub разрешила запускать AI Scan сразу для 20 репозиториев
Читать следующую статью

Превратите прочитанное в рабочую интеграцию

Изучайте API социальных данных jsonscraper, тестируйте запросы и создавайте новые процессы.

Смотреть API