jsonscraper
שווקים
חזרה ליומן

OpenAI פתחה מסווג CSAM לארגונים מאושרים: כך פועלת בדיקת התמונות

המודל מחזיר אותות נפרדים לזיהוי CSAM אפשרי ול-CSAM שנוצר באמצעות בינה מלאכותית. ההחלטה על בדיקה ועל צעדי המשך נשארת בידי בני אדם.

מדיניות עריכה דיווח על שגיאה

כיצד אפשר לבדוק זרם גדול של תמונות בלי להפוך אות אוטומטי להחלטה סופית? ב-16 בנובמבר 2026 הודיעה OpenAI שמסווג התמונות CSAM Image Classifier זמין דרך API לארגונים מאושרים. המודל מקבל תמונה אחת ומחזיר שני אותות נפרדים: לגבי חומר אפשרי של ניצול מיני של ילדים (CSAM) ולגבי CSAM אפשרי שנוצר באמצעות בינה מלאכותית. מטרתו המעשית של הכלי היא לתעדף תמונות לבדיקה אנושית, לא להחליף אותה.

מאמר: OpenAI פתחה מסווג CSAM לארגונים מאושרים: כך פועלת בדיקת התמונות
תקציר: ב-16 בנובמבר 2026 הודיעה OpenAI שמסווג תמונות CSAM זמין דרך API לארגונים מאושרים. נסביר מה הוא מסווג, כיצד לקרוא את התוצאה ומדוע המודל משולב בתהליך של בדיקה אנושית.
תפקיד התמונה: תמונת שער — הרעיון המרכזי
נושא חזותי: צילום עריכתי של תהליך מאובטח למיון תמונות: כרטיסי תמונה מטושטשים באופן מופשט
המסווג מסמן תמונות לתור בדיקה בידי מומחים.© jsonscraper · נוצר באמצעות בינה מלאכותית

וזו נקודת ההבחנה החשובה: המסווג מעניק לצוות מסנן נוסף בתור המיון, אך התוצאה מחייבת תהליך טיפול משלה. אנשי אבטחה ומיון תוכן צריכים להבין לא רק את התווית, אלא גם אילו החלטות עדיין נתונות בידי הארגון.

מה השתנה ב-16 בנובמבר

בעדכון של OpenAI מ-16 בנובמבר ציינה החברה שארגונים מאושרים יכולים להשתמש במסווג ללא תשלום כדי לתעדף תמונות לבדיקה אנושית. זהו תיאור מדויק של תפקיד המוצר: המערכת ממיינת חומרים שעשויים לדרוש תשומת לב, ואנשים מבצעים בדיקה נוספת בהתאם לנוהל המאושר.

פרטי ה-API מופיעים בתיעוד המסווג. יש לבחור במודל omni-moderation-csam-latest ולשלוח בקשה נפרדת מסוג POST /v1/moderations. התיעוד מאפשר לכלול בבקשה תמונת סטילס אחת, בגודל של עד 20 MB. על ארגונים לפעול לפי התהליך המאושר שלהם לטיפול בקלט; אין לשלוח למסווג חומר CSAM שכבר זוהה.

למה המודל מחזיר שני אותות

התשובה כוללת את הקטגוריות הנפרדות likely-csam ו-likely-csam/gen-ai. ההפרדה מאפשרת לצוות להבדיל בין אות ל-CSAM אפשרי לבין אות לחומר אפשרי שנוצר באמצעות בינה מלאכותית. הדבר מסייע בניתוב ובניתוח התור: אפשר להעביר סוגים שונים של סיכון שזוהו להליכים הפנימיים המתאימים.

מאמר: OpenAI פתחה מסווג CSAM לארגונים מאושרים: כך פועלת בדיקת התמונות
תקציר: ב-16 בנובמבר 2026 הודיעה OpenAI שמסווג תמונות CSAM זמין דרך API לארגונים מאושרים. נסביר מה הוא מסווג, כיצד לקרוא את התוצאה ומדוע המודל משולב בתהליך של בדיקה אנושית.
תפקיד התמונה: איור תומך 2 — היבט מסוים ושונה
נושא: אינפוגרפיקה ב-R
התרשים מציג את המעבר מתמונה אחת לשני אותות של המסווג ולבדיקה אנושית בהמשך.© jsonscraper · איור שנוצר באמצעות בינה מלאכותית

כל קטגוריה כוללת דגל בוליאני וציון מספרי. OpenAI מתארת את הציון כמדד לעוצמת ההתאמה בתוך אותה קטגוריה ובאותה גרסת מודל. החברה מזהירה שהציון אינו הסתברות מכוילת ואי אפשר להשוות אותו לסף אוניברסלי כמו 0.5. לכן, כדאי לבסס את הגדרות התור על האופן שבו הצוות המסוים ישתמש בדגלים ובציונים, ולא על סף שרירותי לקבלת החלטות אוטומטיות.

כך נראה רצף העבודה בפועל: הארגון מעביר תמונה מותרת אחת, מקבל תוצאה, בודק את הדגל הכללי ואת הקטגוריות הנפרדות, ואז מפנה את החומר לבדיקה אנושית בהתאם לנוהל שלו. קישור התוצאה לפריט המקורי ולהחלטה הפנימית עוזר לצוות להסביר מדוע התמונה נכנסה לתור ומי בדק אותה.

היכן עובר גבול האוטומציה

בתיעוד המסווג מדגישה OpenAI שדגל קטגוריה כשלעצמו אינו קובע שהתמונה היא CSAM, ושהמסווג אינו מדווח אוטומטית לרשויות על תוכן. על ארגונים להפעיל נהלים משלהם לבדיקה, להסלמה ולהעברת מידע. המודל מסייע במיון החומר; האחריות לפרשנות ולצעדים הבאים היא חלק מתהליך העבודה של הצוות.

במקרה הזה, תוצאת המסווג משמשת סימון לתעדוף עבור מומחה. על הצוות לקבוע מי יבדוק את ההתראות, כיצד יתועדו המסקנות וכיצד יועבר החומר הלאה בהתאם לנוהל שלו.

לאילו משימות הכלי מתאים

לפי המפרט שפורסם, המסווג מיועד לתמונות ומחזיר שני אותות עבור הקטגוריות שצוינו. מודל המודרציה הכללי של OpenAI, omni-moderation-latest, מיועד למשימה רחבה יותר; בתיעוד מצוין שקטגוריית sexual/minors שלו חלה על טקסט. מסווג התמונות הייעודי נותן מענה למשימה נפרדת בזרם תמונות, ובחירת המודל תלויה בסוג הקלט ובתהליך הבדיקה.

בעת תכנון המערכת כדאי להבחין בין שלושה דברים: אות המודל, מסקנת הבדיקה האנושית והפעולה התפעולית. אות הוא פלט של מכונה; מסקנה היא תוצאת בדיקה של מומחה; פעולה היא העברת החומר או צעד אחר לפי נוהל פנימי. רישום נפרד של כל אחד מהם מונע ייחוס החלטות למודל, אף שבפועל הארגון הוא שמקבל אותן.

גם השוואה למודלים כלליים מחייבת דיוק. התיעוד מפרט את הקלט, שתי הקטגוריות, שדות התשובה והגבלות השימוש, אך אינו מציג מבחני דיוק השוואתיים. בעת הטמעה כדאי לבדוק עד כמה המנגנון מתאים לתהליך המסוים: מי מקבל גישה, כיצד מתבצעת בדיקה אנושית, איך מתעדים את התוצאה וכיצד הצוות מטפל באותות שגויים או שנויים במחלוקת.

מה ארגונים צריכים לבדוק לפני החיבור

  • גישה: הכלי מיועד לארגונים מאושרים; אפשר לבקש גישה באמצעות טופס של OpenAI.
  • קלט: קובץ תמונה אחד לכל בקשה, בגודל של עד 20 MB; המודל אינו תומך בסיווג טקסט.
  • פרשנות: דגלי הקטגוריות נקבעים לפי ספים מוגדרים, והציונים המספריים אינם הסתברויות מכוילות.
  • תהליך: בדיקה אנושית, הסלמה ודיווח אפשרי על חומר נותרו באחריות הארגון.

לסיכום, השינוי מ-16 בנובמבר הוא הוספת מסנן ייעודי לתעדוף תמונות, הזמין לארגונים מאושרים. מקומו בתהליך הוא לפני הבדיקה האנושית: הצוות מקבל שני אותות ממוחשבים, מעריך אותם לפי הכללים שלו וקובע בעצמו את הצעדים הבאים.

אֲנָשִׁים

עדיין לא רשומים אנשים עבור מאמר זה.

המשיכו לקרואGitHub מאפשרת להפעיל AI Scan על 20 מאגרים בבת אחת
קרא את המאמר הבא

הפכו את מה שקראתם לאינטגרציה עובדת

גלו את ממשקי ה-API לנתונים חברתיים של jsonscraper, בדקו בקשות ובנו את תהליך העבודה הבא.

גלה API