jsonscraper
Mercados
Volver al diario

OpenAI abre su clasificador de CSAM a organizaciones aprobadas: cómo funciona la revisión de imágenes

El modelo devuelve señales independientes sobre posible CSAM y CSAM generado por IA. La decisión de revisar y tomar medidas posteriores sigue en manos de las personas.

Política editorial Informar de un error

¿Cómo revisar un gran volumen de imágenes sin convertir una señal automatizada en una decisión definitiva? El 16 de noviembre de 2026, OpenAI anunció que su clasificador de imágenes de CSAM estaba disponible mediante API para organizaciones aprobadas. El modelo recibe una imagen y devuelve dos señales independientes: una sobre posible material de abuso sexual infantil (CSAM) y otra sobre posible CSAM generado por IA. La utilidad práctica de la herramienta es priorizar imágenes para la revisión humana, no sustituirla.

Artículo: OpenAI abre su clasificador de CSAM a organizaciones aprobadas: cómo funciona la revisión de imágenes
Resumen: El 16 de noviembre de 2026, OpenAI anunció que su clasificador de imágenes de CSAM estaba disponible mediante API para organizaciones aprobadas. Analizamos qué clasifica, cómo interpretar el resultado y por qué el modelo forma parte de un proceso de revisión humana.
Función de la imagen: portada: la idea central
Sección: 
Tema visual: Foto editorial de un flujo seguro de moderación de imágenes: tarjetas abstractas de imágenes desenfocadas
El clasificador señala imágenes para que especialistas las revisen.© jsonscraper · creado con IA

Esta es la distinción importante: el clasificador añade otro filtro a la cola de moderación, pero su resultado requiere un proceso propio de gestión. Para los equipos de seguridad y moderación, es importante entender no solo la etiqueta, sino también qué decisiones siguen correspondiendo a la organización.

Qué cambió el 16 de noviembre

En la actualización de OpenAI del 16 de noviembre, la empresa indicó que las organizaciones aprobadas pueden utilizar el clasificador gratis para priorizar imágenes para la revisión humana. Esa es una descripción precisa de la función del producto: el sistema clasifica el material que podría requerir atención y las personas realizan una revisión posterior conforme al procedimiento aprobado.

Los detalles de la API se describen en la documentación del clasificador. Hay que seleccionar el modelo omni-moderation-csam-latest y enviar una solicitud independiente POST /v1/moderations. La documentación contempla una imagen fija de hasta 20 MB por solicitud. Las organizaciones deben aplicar su propio proceso aprobado para gestionar los datos de entrada; no se debe enviar al clasificador material de CSAM ya conocido.

Por qué el modelo devuelve dos señales

La respuesta incluye las categorías independientes likely-csam y likely-csam/gen-ai. Esta distinción permite al equipo diferenciar una señal de posible CSAM de otra de posible material generado por IA. Esto resulta útil para dirigir y analizar la cola: los distintos tipos de riesgo detectados se pueden gestionar mediante los procedimientos internos correspondientes.

Artículo: OpenAI abre su clasificador de CSAM a organizaciones aprobadas: cómo funciona la revisión de imágenes
Resumen: El 16 de noviembre de 2026, OpenAI anunció que su clasificador de imágenes de CSAM estaba disponible mediante API para organizaciones aprobadas. Analizamos qué clasifica, cómo interpretar el resultado y por qué el modelo forma parte de un proceso de revisión humana.
Función de la imagen: ilustración complementaria 2: otro aspecto concreto
Sección: Por qué el modelo devuelve dos señales
Tema visual: Infografía en R
El esquema muestra el recorrido desde una imagen hasta las dos señales del clasificador y la revisión humana posterior.© jsonscraper · ilustración generada por IA

Cada categoría incluye un indicador booleano y una puntuación numérica. OpenAI describe la puntuación como una medida de la intensidad de la coincidencia dentro de esa misma categoría y versión del modelo. La empresa advierte que no es una probabilidad calibrada y que no debe compararse con un umbral universal como 0,5. Por eso, la configuración de la cola debería basarse en cómo utilizará los indicadores y las puntuaciones cada equipo, no en un umbral arbitrario para tomar decisiones automáticas.

En la práctica, la secuencia es la siguiente: la organización envía una imagen admisible, recibe el resultado, comprueba el indicador general y las categorías individuales, y después deriva el material para que una persona lo evalúe conforme a su procedimiento. Vincular el resultado con el objeto original y con la decisión interna ayuda al equipo a explicar por qué la imagen entró en la cola y quién la revisó.

Dónde está el límite de la automatización

En la documentación del clasificador, OpenAI subraya que el indicador de una categoría no determina por sí solo que una imagen sea CSAM y que el clasificador no informa automáticamente del contenido a las autoridades. Las organizaciones deben aplicar sus propios procedimientos de revisión, escalamiento y comunicación de información. El modelo ayuda a seleccionar el material; la interpretación y las medidas posteriores siguen siendo responsabilidad del equipo dentro de su flujo de trabajo.

En este contexto, el resultado del clasificador es una marca que ayuda a priorizar el trabajo de un especialista. El equipo debería definir quién revisa las alertas, cómo se registra la conclusión y cómo se deriva el material según su procedimiento.

Para qué tareas sirve la herramienta

Según la especificación publicada, el clasificador está diseñado para imágenes y devuelve dos señales correspondientes a las categorías indicadas. El modelo general de moderación de OpenAI, omni-moderation-latest, aborda una tarea más amplia; la documentación señala que su categoría sexual/minors se aplica al texto. El clasificador especializado de imágenes resuelve una tarea independiente dentro del flujo de imágenes, y la elección del modelo depende del tipo de datos de entrada y del proceso de revisión.

Al diseñar un sistema, es útil distinguir tres elementos: la señal del modelo, la conclusión humana y la acción operativa. La señal es una salida de la máquina; la conclusión, el resultado de la revisión de un especialista; y la acción, la derivación del material u otro paso conforme al procedimiento interno. Llevar un registro separado ayuda a no atribuir al modelo decisiones que en realidad toma la organización.

Las comparaciones con modelos generales también exigen precisión. La documentación describe los datos de entrada, las dos categorías, los campos de respuesta y las limitaciones de uso, pero no ofrece pruebas comparativas de precisión. Al implementar la herramienta, conviene evaluar si el mecanismo encaja con el proceso concreto: quién tiene acceso, cómo se realiza la revisión humana, cómo se registra el resultado y cómo gestiona el equipo las señales erróneas o dudosas.

Qué deben comprobar las organizaciones antes de conectarse

  • Acceso: la herramienta está destinada a organizaciones aprobadas; el acceso se solicita mediante un formulario de OpenAI.
  • Entrada: un archivo de imagen por solicitud, de hasta 20 MB; este modelo no admite la clasificación de texto.
  • Interpretación: los indicadores de categoría se establecen mediante umbrales configurados, y las puntuaciones numéricas no son probabilidades calibradas.
  • Proceso: la revisión humana, el escalamiento y la posible comunicación sobre el material siguen siendo responsabilidad de la organización.

En resumen, el cambio del 16 de noviembre incorpora un filtro especializado para priorizar imágenes, disponible para organizaciones aprobadas. Su lugar en el proceso es antes de la revisión humana: el equipo recibe dos señales automatizadas, las evalúa según sus propias reglas y determina por sí mismo qué hacer a continuación.

Gente

Aún no hay personas en la lista para este artículo.

Sigue leyendoGitHub permite ejecutar AI Scan en 20 repositorios a la vez
Lee el siguiente artículo

Convierte lo que lees en una integración funcional

Explora las API de datos sociales de jsonscraper, prueba solicitudes y crea tu próximo flujo de trabajo.

Explorar APIs