¿Cómo revisar un gran volumen de imágenes sin convertir una señal automatizada en una decisión definitiva? El 16 de noviembre de 2026, OpenAI anunció que su clasificador de imágenes de CSAM estaba disponible mediante API para organizaciones aprobadas. El modelo recibe una imagen y devuelve dos señales independientes: una sobre posible material de abuso sexual infantil (CSAM) y otra sobre posible CSAM generado por IA. La utilidad práctica de la herramienta es priorizar imágenes para la revisión humana, no sustituirla.

Esta es la distinción importante: el clasificador añade otro filtro a la cola de moderación, pero su resultado requiere un proceso propio de gestión. Para los equipos de seguridad y moderación, es importante entender no solo la etiqueta, sino también qué decisiones siguen correspondiendo a la organización.
Qué cambió el 16 de noviembre
En la actualización de OpenAI del 16 de noviembre, la empresa indicó que las organizaciones aprobadas pueden utilizar el clasificador gratis para priorizar imágenes para la revisión humana. Esa es una descripción precisa de la función del producto: el sistema clasifica el material que podría requerir atención y las personas realizan una revisión posterior conforme al procedimiento aprobado.
Los detalles de la API se describen en la documentación del clasificador. Hay que seleccionar el modelo omni-moderation-csam-latest y enviar una solicitud independiente POST /v1/moderations. La documentación contempla una imagen fija de hasta 20 MB por solicitud. Las organizaciones deben aplicar su propio proceso aprobado para gestionar los datos de entrada; no se debe enviar al clasificador material de CSAM ya conocido.
Por qué el modelo devuelve dos señales
La respuesta incluye las categorías independientes likely-csam y likely-csam/gen-ai. Esta distinción permite al equipo diferenciar una señal de posible CSAM de otra de posible material generado por IA. Esto resulta útil para dirigir y analizar la cola: los distintos tipos de riesgo detectados se pueden gestionar mediante los procedimientos internos correspondientes.

Cada categoría incluye un indicador booleano y una puntuación numérica. OpenAI describe la puntuación como una medida de la intensidad de la coincidencia dentro de esa misma categoría y versión del modelo. La empresa advierte que no es una probabilidad calibrada y que no debe compararse con un umbral universal como 0,5. Por eso, la configuración de la cola debería basarse en cómo utilizará los indicadores y las puntuaciones cada equipo, no en un umbral arbitrario para tomar decisiones automáticas.
En la práctica, la secuencia es la siguiente: la organización envía una imagen admisible, recibe el resultado, comprueba el indicador general y las categorías individuales, y después deriva el material para que una persona lo evalúe conforme a su procedimiento. Vincular el resultado con el objeto original y con la decisión interna ayuda al equipo a explicar por qué la imagen entró en la cola y quién la revisó.
Dónde está el límite de la automatización
En la documentación del clasificador, OpenAI subraya que el indicador de una categoría no determina por sí solo que una imagen sea CSAM y que el clasificador no informa automáticamente del contenido a las autoridades. Las organizaciones deben aplicar sus propios procedimientos de revisión, escalamiento y comunicación de información. El modelo ayuda a seleccionar el material; la interpretación y las medidas posteriores siguen siendo responsabilidad del equipo dentro de su flujo de trabajo.
En este contexto, el resultado del clasificador es una marca que ayuda a priorizar el trabajo de un especialista. El equipo debería definir quién revisa las alertas, cómo se registra la conclusión y cómo se deriva el material según su procedimiento.
Para qué tareas sirve la herramienta
Según la especificación publicada, el clasificador está diseñado para imágenes y devuelve dos señales correspondientes a las categorías indicadas. El modelo general de moderación de OpenAI, omni-moderation-latest, aborda una tarea más amplia; la documentación señala que su categoría sexual/minors se aplica al texto. El clasificador especializado de imágenes resuelve una tarea independiente dentro del flujo de imágenes, y la elección del modelo depende del tipo de datos de entrada y del proceso de revisión.
Al diseñar un sistema, es útil distinguir tres elementos: la señal del modelo, la conclusión humana y la acción operativa. La señal es una salida de la máquina; la conclusión, el resultado de la revisión de un especialista; y la acción, la derivación del material u otro paso conforme al procedimiento interno. Llevar un registro separado ayuda a no atribuir al modelo decisiones que en realidad toma la organización.
Las comparaciones con modelos generales también exigen precisión. La documentación describe los datos de entrada, las dos categorías, los campos de respuesta y las limitaciones de uso, pero no ofrece pruebas comparativas de precisión. Al implementar la herramienta, conviene evaluar si el mecanismo encaja con el proceso concreto: quién tiene acceso, cómo se realiza la revisión humana, cómo se registra el resultado y cómo gestiona el equipo las señales erróneas o dudosas.
Qué deben comprobar las organizaciones antes de conectarse
- Acceso: la herramienta está destinada a organizaciones aprobadas; el acceso se solicita mediante un formulario de OpenAI.
- Entrada: un archivo de imagen por solicitud, de hasta 20 MB; este modelo no admite la clasificación de texto.
- Interpretación: los indicadores de categoría se establecen mediante umbrales configurados, y las puntuaciones numéricas no son probabilidades calibradas.
- Proceso: la revisión humana, el escalamiento y la posible comunicación sobre el material siguen siendo responsabilidad de la organización.
En resumen, el cambio del 16 de noviembre incorpora un filtro especializado para priorizar imágenes, disponible para organizaciones aprobadas. Su lugar en el proceso es antes de la revisión humana: el equipo recibe dos señales automatizadas, las evalúa según sus propias reglas y determina por sí mismo qué hacer a continuación.