Comment examiner un grand volume d’images sans transformer un signal automatisé en décision définitive ? Le 16 novembre 2026, OpenAI a annoncé que son CSAM Image Classifier était accessible via API aux organisations agréées. Le modèle reçoit une image et renvoie deux signaux distincts : l’un concernant un éventuel matériel d’abus sexuels sur enfants (CSAM), l’autre concernant un éventuel CSAM généré par IA. En pratique, l’outil sert à établir les priorités de vérification humaine, et non à la remplacer.

C’est là que se situe la distinction essentielle : le classificateur ajoute un filtre à la file de modération de l’équipe, mais son résultat doit être traité dans le cadre d’un processus spécifique. Les spécialistes de la sécurité et de la modération doivent comprendre non seulement le libellé, mais aussi les décisions qui restent du ressort de l’organisation.
Ce qui a changé le 16 novembre
Dans sa mise à jour du 16 novembre, OpenAI indique que les organisations agréées peuvent utiliser gratuitement le classificateur afin de prioriser les images à examiner par une personne. C’est une description précise du rôle du produit : le système trie les contenus susceptibles de nécessiter une attention particulière, puis des personnes les examinent selon la procédure approuvée.
Les détails de l’API figurent dans la documentation du classificateur. Il faut choisir le modèle omni-moderation-csam-latest et envoyer une requête distincte POST /v1/moderations. La documentation prévoit une image fixe par requête, d’une taille maximale de 20 Mo. Les organisations doivent appliquer leur propre processus approuvé à la gestion des données entrantes ; les contenus CSAM déjà connus ne doivent pas être envoyés au classificateur.
Pourquoi le modèle renvoie deux signaux
La réponse contient les catégories distinctes likely-csam et likely-csam/gen-ai. Cette séparation permet à l’équipe de différencier un signal de CSAM potentiel d’un signal de contenu potentiellement généré par IA. Elle est utile pour orienter et analyser la file : les différents types de risques détectés peuvent être traités selon les procédures internes correspondantes.

Chaque catégorie comprend un indicateur booléen et un score numérique. OpenAI décrit ce score comme une mesure de la force de la correspondance au sein de la même catégorie et de la même version du modèle. L’entreprise précise qu’il ne s’agit pas d’une probabilité calibrée et qu’il ne faut pas le comparer à un seuil universel tel que 0,5. La configuration de la file devrait donc dépendre de l’usage que l’équipe compte faire des indicateurs et des scores, plutôt que d’un seuil arbitraire déclenchant une décision automatique.
En pratique, la séquence est la suivante : l’organisation transmet une image admissible, reçoit le résultat, vérifie l’indicateur général et les catégories distinctes, puis soumet le contenu à une évaluation humaine conformément à sa procédure. Associer le résultat à l’objet d’origine et à la décision interne aide l’équipe à expliquer pourquoi l’image a été placée dans la file et qui l’a examinée.
Où se situe la limite de l’automatisation
Dans la documentation du classificateur, OpenAI souligne que l’indicateur d’une catégorie ne permet pas, à lui seul, d’établir qu’une image constitue du CSAM et que le classificateur ne signale pas automatiquement les contenus aux autorités. Les organisations doivent appliquer leurs propres procédures d’examen, d’escalade et de transmission des informations. Le modèle aide à trier les contenus ; la responsabilité de leur interprétation et des mesures ultérieures fait partie du processus de l’équipe.
Le résultat du classificateur sert ici de marqueur de priorité pour un spécialiste. L’équipe devrait déterminer qui examine les alertes, comment le résultat est consigné et comment le contenu est transmis selon sa procédure.
À quelles tâches l’outil convient-il ?
D’après les spécifications publiées, le classificateur est conçu pour les images et renvoie deux signaux correspondant aux catégories indiquées. Le modèle de modération général d’OpenAI, omni-moderation-latest, répond à un objectif plus large ; la documentation précise que sa catégorie sexual/minors s’applique au texte. Le classificateur spécialisé pour les images répond à un besoin distinct dans un flux de traitement d’images, et le choix du modèle dépend du type de données en entrée et du processus de vérification.
Lors de la conception d’un système, il est utile de distinguer trois éléments : le signal du modèle, l’avis humain et l’action opérationnelle. Le signal est une sortie machine ; l’avis est le résultat de l’examen par un spécialiste ; l’action correspond à la transmission du contenu ou à une autre étape de la procédure interne. Tenir ces éléments séparément permet de ne pas attribuer au modèle des décisions qui relèvent en réalité de l’organisation.
La comparaison avec les modèles généralistes exige également de la précision. La documentation décrit les données d’entrée, les deux catégories, les champs de réponse et les limites d’utilisation, mais ne fournit pas de tests comparatifs de précision. Lors du déploiement, il est pertinent d’évaluer l’adéquation du mécanisme au processus concerné : qui y a accès, comment fonctionne l’examen humain, comment le résultat est consigné et comment l’équipe traite les alertes erronées ou contestées.
Ce que les organisations doivent vérifier avant de se connecter
- Accès : l’outil est destiné aux organisations agréées ; l’accès se demande au moyen d’un formulaire OpenAI.
- Données d’entrée : un fichier image par requête, d’une taille maximale de 20 Mo ; la classification de texte n’est pas prise en charge par ce modèle.
- Interprétation : les indicateurs de catégorie sont définis à partir de seuils configurés, et les scores numériques ne sont pas des probabilités calibrées.
- Processus : l’examen humain, l’escalade et le signalement éventuel du contenu restent à la charge de l’organisation.
En somme, le changement annoncé le 16 novembre consiste en un filtre spécialisé pour prioriser les images, accessible aux organisations agréées. Il intervient avant l’examen humain : l’équipe reçoit deux signaux automatisés, les évalue selon ses propres règles et décide elle-même des mesures à prendre ensuite.