Otomatik bir sinyali nihai karara dönüştürmeden çok sayıda görüntü nasıl incelenebilir? OpenAI, 16 Kasım 2026’da CSAM Image Classifier’ın API üzerinden onaylı kuruluşların kullanımına açıldığını duyurdu. Model tek bir görüntüyü alıyor ve iki ayrı sinyal döndürüyor: olası çocukların cinsel istismarını gösteren materyal (CSAM) ve yapay zekâ tarafından oluşturulmuş olası CSAM. Aracın pratik amacı, insan incelemesi için öncelik belirlemek; incelemenin yerini almak değil.

Önemli ayrım da burada ortaya çıkıyor: sınıflandırıcı moderasyon kuyruğuna ek bir filtre sağlıyor, ancak sonucunu işlemek için ayrı bir süreç gerekiyor. Güvenlik ve moderasyon uzmanlarının yalnızca etiketi değil, hangi kararların hâlâ kuruluşun sorumluluğunda olduğunu da anlaması önemli.
16 Kasım’da ne değişti?
OpenAI’nin 16 Kasım tarihli güncellemesinde, onaylı kuruluşların görüntüleri insan incelemesi için önceliklendirmek üzere sınıflandırıcıyı ücretsiz kullanabileceği belirtildi. Bu, ürünün rolünün açık bir tanımı: sistem, dikkat gerektirebilecek materyalleri sıralıyor; insanlar ise onaylı prosedürler çerçevesinde incelemeyi sürdürüyor.
API’nin ayrıntıları sınıflandırıcı belgelerinde açıklanıyor. omni-moderation-csam-latest modelini seçip ayrı bir POST /v1/moderations isteği göndermek gerekiyor. Belgeler, her istekte boyutu 20 MB’a kadar olan tek bir durağan görüntüye izin veriyor. Kuruluşlar gelen verileri işlerken onaylı kendi süreçlerini uygulamalı; bilinen CSAM sınıflandırıcıya gönderilmemeli.
Model neden iki sinyal döndürüyor?
Yanıtta likely-csam ve likely-csam/gen-ai kategorileri ayrı ayrı yer alıyor. Bu ayrım, ekibin olası CSAM sinyaliyle yapay zekâ tarafından oluşturulmuş olası materyale ilişkin sinyali birbirinden ayırmasını sağlıyor. Bu, yönlendirme ve kuyruk analizi açısından yararlı: tespit edilen farklı risk türleri, ilgili kurum içi prosedürlere aktarılabiliyor.

Her kategori bir Boole bayrağı ve sayısal bir puan içeriyor. OpenAI, puanı aynı kategori ve model sürümü içinde eşleşme gücünün göstergesi olarak tanımlıyor. Şirket, puanın kalibre edilmiş bir olasılık olmadığını ve 0,5 gibi evrensel bir eşikle karşılaştırılamayacağını belirtiyor. Bu nedenle kuyruk yapılandırması, otomatik karar için gelişigüzel bir eşik yerine, ekibin bayrakları ve puanları nasıl kullanacağına göre tasarlanmalı.
Uygulamadaki sıra şöyle: kuruluş, izin verilen tek bir görüntüyü gönderiyor; sonucu alıyor; genel bayrağı ve kategorileri ayrı ayrı inceliyor; ardından materyali kendi prosedürüne göre insan değerlendirmesine yönlendiriyor. Sonucu kaynak nesne ve kurum içi kararla ilişkilendirmek, ekibin görüntünün neden kuyruğa alındığını ve kimin incelediğini açıklamasına yardımcı oluyor.
Otomasyonun sınırı nerede?
OpenAI, sınıflandırıcı belgelerinde, bir kategori bayrağının tek başına görüntünün CSAM olduğunu kanıtlamadığını ve sınıflandırıcının içeriği yetkililere otomatik olarak bildirmediğini vurguluyor. Kuruluşlar kendi inceleme, üst kademeye taşıma ve bilgi paylaşımı prosedürlerini uygulamalı. Model materyalin seçilmesine yardımcı olur; yorumlama ve sonraki adımlara ilişkin sorumluluk ise ekibin iş akışının parçasıdır.
Burada sınıflandırıcı sonucu, uzman için bir öncelik işareti işlevi görüyor. Ekip, eşleşmeleri kimin inceleyeceğini, sonucun nasıl kaydedileceğini ve materyalin prosedür uyarınca nasıl aktarılacağını belirlemeli.
Araç hangi görevler için uygun?
Yayımlanan teknik özelliklere göre sınıflandırıcı görüntüler için tasarlandı ve belirtilen kategorilerde iki sinyal döndürüyor. OpenAI’nin genel moderasyon modeli omni-moderation-latest daha geniş bir görevi yerine getiriyor; belgelerde bu modelin sexual/minors kategorisinin metne uygulandığı belirtiliyor. Görüntülere yönelik özel sınıflandırıcı, görüntü iş akışında ayrı bir ihtiyacı karşılıyor; model seçimi de girdi türüne ve inceleme sürecine bağlı.
Sistem tasarlarken üç şeyi birbirinden ayırmak yararlı: model sinyali, insan değerlendirmesi ve operasyonel eylem. Sinyal makine çıktısıdır; değerlendirme uzman incelemesinin sonucudur; eylem ise materyalin aktarılması veya kurum içi prosedür doğrultusunda atılan başka bir adımdır. Bunları ayrı kaydetmek, kuruluşun aldığı kararları yanlışlıkla modele atfetmeyi önlemeye yardımcı olur.
Genel modellerle karşılaştırma yaparken de hassas olmak gerekir. Belgeler girdiyi, iki kategoriyi, yanıt alanlarını ve kullanım sınırlamalarını açıklıyor; ancak karşılaştırmalı doğruluk testleri sunmuyor. Uygulama öncesinde mekanizmanın belirli bir sürece uygunluğunu değerlendirmek yararlı olur: kimin erişimi var, insan incelemesi nasıl işliyor, sonuç nasıl kaydediliyor ve ekip hatalı ya da tartışmalı sinyalleri nasıl ele alıyor?
Kuruluşlar entegrasyondan önce neleri kontrol etmeli?
- Erişim: Araç onaylı kuruluşlara yöneliktir; erişim OpenAI’nin formu üzerinden talep edilir.
- Girdi: İstek başına en fazla 20 MB boyutunda tek bir görüntü dosyası; bu modelle metin sınıflandırması desteklenmez.
- Yorumlama: Kategori bayrakları yapılandırılmış eşiklere göre belirlenir; sayısal puanlar kalibre edilmiş olasılıklar değildir.
- Süreç: İnsan incelemesi, üst kademeye taşıma ve materyalin olası bildirimi kuruluşun sorumluluğundadır.
Dolayısıyla 16 Kasım’daki değişiklik, görüntüleri önceliklendirmeye yönelik ve onaylı kuruluşların kullanımına sunulan özel bir filtre. İş akışındaki yeri insan incelemesinden önce: ekip iki makine sinyali alıyor, bunları kendi kurallarına göre değerlendiriyor ve sonraki adımları kendisi belirliyor.