Como analisar um grande fluxo de imagens sem transformar um sinal automatizado em uma decisão final? Em 16 de novembro de 2026, a OpenAI anunciou a disponibilidade do CSAM Image Classifier por API para organizações aprovadas. O modelo recebe uma imagem e retorna dois sinais distintos: um para possível material de abuso sexual infantil (CSAM) e outro para possível CSAM gerado por IA. Na prática, a ferramenta serve para priorizar imagens para análise humana, não para substituí-la.

Essa é a distinção importante: o classificador acrescenta mais um filtro à fila de moderação da equipe, mas o resultado exige um processo próprio de tratamento. Para profissionais de segurança e moderação, é importante entender não apenas o rótulo, mas também quais decisões continuam a cargo da organização.
O que mudou em 16 de novembro
Na atualização da OpenAI de 16 de novembro, a empresa informou que organizações aprovadas podem usar o classificador gratuitamente para priorizar imagens para análise humana. Essa é uma descrição precisa da função do produto: o sistema organiza materiais que podem exigir atenção, enquanto as pessoas fazem a análise posterior segundo o procedimento aprovado.
Os detalhes da API estão descritos na documentação do classificador. É necessário selecionar o modelo omni-moderation-csam-latest e enviar uma solicitação individual POST /v1/moderations. A documentação permite uma imagem estática de até 20 MB por solicitação. As organizações devem seguir seu próprio processo aprovado para lidar com os dados de entrada; não se deve enviar ao classificador material de CSAM já conhecido.
Por que o modelo retorna dois sinais
A resposta contém as categorias distintas likely-csam e likely-csam/gen-ai. Essa divisão permite que a equipe diferencie um sinal de possível CSAM de outro de possível material gerado por IA. Isso é útil para encaminhar e analisar a fila: diferentes tipos de risco detectado podem ser direcionados aos procedimentos internos correspondentes.

Cada categoria inclui um indicador booleano e uma pontuação numérica. A OpenAI descreve a pontuação como uma medida da força da correspondência dentro da mesma categoria e versão do modelo. A empresa alerta que ela não é uma probabilidade calibrada e não deve ser comparada com um limiar universal, como 0,5. Portanto, a configuração da fila deve levar em conta como a equipe usará os indicadores e as pontuações, e não um limiar arbitrário para tomar decisões automatizadas.
Na prática, a sequência é a seguinte: a organização envia uma imagem permitida, recebe o resultado, verifica o indicador geral e as categorias individuais e, em seguida, encaminha o material para avaliação humana conforme seu procedimento. Associar o resultado ao item original e à decisão interna ajuda a equipe a explicar por que a imagem foi incluída na fila e quem a analisou.
Onde está o limite da automação
A OpenAI enfatiza na documentação do classificador que um indicador de categoria, por si só, não determina que uma imagem seja CSAM e que o classificador não comunica automaticamente o conteúdo às autoridades. As organizações devem aplicar seus próprios procedimentos de análise, escalonamento e comunicação. O modelo ajuda a selecionar o material, enquanto a responsabilidade pela interpretação e pelas ações posteriores faz parte do fluxo de trabalho da equipe.
Nesse contexto, o resultado do classificador funciona como uma marca de prioridade para o especialista. A equipe deve definir quem analisa os alertas, como registra a conclusão e de que forma o material é encaminhado conforme seu procedimento.
Para quais tarefas a ferramenta é adequada
De acordo com a especificação publicada, o classificador foi projetado para imagens e retorna dois sinais para as categorias indicadas. O modelo de moderação geral da OpenAI, omni-moderation-latest, atende a uma tarefa mais ampla; a documentação observa que sua categoria sexual/minors se aplica a texto. O classificador especializado de imagens atende a uma tarefa distinta no fluxo de imagens, e a escolha do modelo depende do tipo de entrada e do processo de análise.
Ao projetar um sistema, é útil separar três elementos: o sinal do modelo, a conclusão humana e a ação operacional. O sinal é uma inferência da máquina; a conclusão é o resultado da análise de um especialista; a ação é o encaminhamento do material ou outra etapa prevista no procedimento interno. Manter esses elementos separados ajuda a não atribuir ao modelo decisões que, na realidade, são tomadas pela organização.
Também é preciso ter precisão ao comparar o classificador com modelos gerais. A documentação descreve a entrada, as duas categorias, os campos da resposta e as limitações de uso, mas não apresenta testes comparativos de precisão. Na implementação, vale avaliar a adequação do mecanismo ao processo específico: quem tem acesso, como funciona a análise humana, como o resultado é registrado e como a equipe trata sinais incorretos ou controversos.
O que as organizações devem verificar antes de integrar a ferramenta
- Acesso: a ferramenta destina-se a organizações aprovadas; o acesso deve ser solicitado pelo formulário da OpenAI.
- Entrada: um arquivo de imagem por solicitação, com no máximo 20 MB; a classificação de texto não é compatível com este modelo.
- Interpretação: os indicadores de categoria são definidos por limiares configurados, e as pontuações numéricas não são probabilidades calibradas.
- Processo: a análise humana, o escalonamento e a eventual comunicação sobre o material continuam sendo responsabilidade da organização.
Assim, a mudança de 16 de novembro é um filtro especializado para priorizar imagens, disponível a organizações aprovadas. Seu lugar no processo é antes da análise humana: a equipe recebe dois sinais automatizados, avalia-os segundo suas próprias regras e determina as próximas ações.