Miten suurta kuvamäärää voi tarkistaa muuttamatta automaattista signaalia lopulliseksi päätökseksi? OpenAI ilmoitti 16. marraskuuta 2026, että hyväksytyt organisaatiot voivat käyttää CSAM Image Classifieria API:n kautta. Malli ottaa vastaan yhden kuvan ja palauttaa kaksi erillistä signaalia: mahdollisesta lasten seksuaalista hyväksikäyttöä kuvaavasta materiaalista (CSAM) ja mahdollisesta tekoälyn tuottamasta CSAM-materiaalista. Työkalun tarkoituksena on asettaa kuvat ihmisen tekemän tarkistuksen tärkeysjärjestykseen, ei korvata tarkistusta.

Tässä on olennainen ero: luokittelija antaa tiimille yhden lisäsuodattimen moderointijonoon, mutta sen tulos edellyttää omaa käsittelyprosessia. Turvallisuus- ja moderointiasiantuntijoiden on tärkeää ymmärtää paitsi luokittelumerkintä myös se, mitkä päätökset jäävät edelleen organisaation tehtäviksi.
Mikä muuttui 16. marraskuuta
OpenAI:n 16. marraskuuta julkaisemassa päivityksessä yhtiö kertoi, että hyväksytyt organisaatiot voivat käyttää luokittelijaa maksutta kuvien asettamiseen ihmisen tekemän tarkistuksen tärkeysjärjestykseen. Tämä kuvaa tuotteen roolia täsmällisesti: järjestelmä lajittelee aineiston, joka saattaa vaatia huomiota, ja ihmiset tarkistavat sen hyväksytyn menettelyn mukaisesti.
API:n yksityiskohdat kuvataan luokittelijan dokumentaatiossa. Käyttöön valitaan malli omni-moderation-csam-latest, ja sille lähetetään erillinen pyyntö POST /v1/moderations. Dokumentaation mukaan pyyntö voi sisältää yhden liikkumattoman, enintään 20 Mt:n kuvan. Organisaatioiden tulee käsitellä syötteet oman hyväksytyn menettelynsä mukaisesti; luokittelijalle ei saa lähettää jo tunnettua CSAM-materiaalia.
Miksi malli palauttaa kaksi signaalia
Vastaus sisältää erilliset luokat likely-csam ja likely-csam/gen-ai. Näin tiimi voi erottaa mahdolliseen CSAM-materiaaliin liittyvän signaalin mahdollisesti tekoälyn tuottamaa materiaalia koskevasta signaalista. Erottelu auttaa reitityksessä ja jonon analysoinnissa: havaitut riskityypit voidaan ohjata asianmukaisiin sisäisiin menettelyihin.

Kumpaankin luokkaan kuuluu totuusarvo ja numeerinen pisteytys. OpenAI kuvaa pisteytystä saman luokan ja malliversion sisäiseksi yhteensopivuuden vahvuuden mittariksi. Yhtiö varoittaa, ettei pisteytys ole kalibroitu todennäköisyys eikä sitä pidä verrata yleispätevään kynnysarvoon, kuten 0,5:een. Siksi jonon asetukset kannattaa rakentaa sen mukaan, miten tiimi käyttää merkintöjä ja pisteytyksiä, ei mielivaltaisen automaattisen päätöskynnyksen varaan.
Käytännössä organisaatio lähettää yhden sallitun kuvan, vastaanottaa tuloksen, tarkistaa yleisen merkinnän ja erilliset luokat sekä ohjaa materiaalin sitten oman menettelynsä mukaiseen ihmisen tekemään arviointiin. Tuloksen yhdistäminen alkuperäiseen kohteeseen ja sisäiseen päätökseen auttaa tiimiä selittämään, miksi kuva päätyi jonoon ja kuka sen tarkisti.
Missä automaation raja kulkee
OpenAI korostaa luokittelijan dokumentaatiossa, ettei luokkamerkintä yksinään osoita kuvan olevan CSAM-materiaalia eikä luokittelija ilmoita sisällöstä automaattisesti viranomaisille. Organisaatioiden on noudatettava omia tarkistus-, eskalointi- ja ilmoitusmenettelyjään. Malli auttaa aineiston seulonnassa, mutta tulkinta ja jatkotoimet kuuluvat osaksi tiimin työnkulkua.
Luokittelijan tulos toimii tässä asiantuntijalle osoitettuna prioriteettimerkintänä. Tiimin tulee määritellä, kuka tarkistaa osumat, miten lopputulos kirjataan ja miten materiaali siirretään eteenpäin oman menettelyn mukaisesti.
Mihin tehtäviin työkalu sopii
Julkaistun määrittelyn mukaan luokittelija on tarkoitettu kuville ja palauttaa kaksi signaalia määritellyistä luokista. OpenAI:n yleinen moderointimalli omni-moderation-latest hoitaa laajempaa tehtävää; dokumentaation mukaan sen luokkaa sexual/minors käytetään tekstiin. Erikoistunut kuvien luokittelija vastaa erilliseen kuvatyönkulun tarpeeseen, ja mallin valinta riippuu syötteen tyypistä ja tarkistusprosessista.
Järjestelmää suunniteltaessa on hyödyllistä erottaa kolme asiaa: mallin signaali, ihmisen arvio ja operatiivinen toimenpide. Signaali on koneen tuottama tulos; arvio on asiantuntijan tekemän tarkistuksen lopputulos; toimenpide tarkoittaa aineiston siirtoa tai muuta sisäisen menettelyn mukaista vaihetta. Näiden kirjaaminen erikseen auttaa välttämään sellaisten päätösten lukemisen mallin nimiin, jotka todellisuudessa tekee organisaatio.
Vertailu yleisiin malleihin edellyttää myös täsmällisyyttä. Dokumentaatio kuvaa syötteen, kaksi luokkaa, vastauskentät ja käyttörajoitukset, mutta ei sisällä vertailevia tarkkuustestejä. Käyttöönotossa kannattaa arvioida, sopiiko mekanismi omaan prosessiin: kenellä on käyttöoikeus, miten ihmisen tekemä tarkistus toimii, miten tulos kirjataan ja miten tiimi käsittelee virheellisiä tai kiistanalaisia signaaleja.
Mitä organisaatioiden kannattaa tarkistaa ennen käyttöönottoa
- Käyttöoikeus: työkalu on tarkoitettu hyväksytyille organisaatioille; käyttöoikeutta haetaan OpenAI:n lomakkeella.
- Syöte: yksi kuvatiedosto pyyntöä kohden, enintään 20 Mt; tämä malli ei tue tekstin luokittelua.
- Tulkinta: luokkamerkinnät määräytyvät asetettujen kynnysarvojen perusteella, eikä numeerinen pisteytys ole kalibroitu todennäköisyys.
- Prosessi: ihmisen tekemä tarkistus, eskalointi ja mahdollisesta materiaalista ilmoittaminen ovat edelleen organisaation vastuulla.
Kyse on siis 16. marraskuuta käyttöön tulleesta erikoistuneesta suodattimesta, joka asettaa kuvat tärkeysjärjestykseen ja on saatavilla hyväksytyille organisaatioille. Se sijoittuu ihmisen tekemää tarkistusta edeltävään vaiheeseen: tiimi saa kaksi koneen tuottamaa signaalia, arvioi niitä omien sääntöjensä mukaan ja päättää itse jatkotoimista.