jsonscraper
الأسواق
العودة إلى المجلة

أتاحت OpenAI مصنّف CSAM للمؤسسات المعتمدة: كيف تعمل مراجعة الصور

يعرض النموذج إشارتين منفصلتين بشأن احتمال وجود CSAM وCSAM مُنشأ بالذكاء الاصطناعي. ويظل قرار المراجعة والخطوات اللاحقة بيد البشر.

السياسة التحريرية الإبلاغ عن خطأ

كيف يمكن فحص أعداد كبيرة من الصور من دون تحويل الإشارة الآلية إلى قرار نهائي؟ في 16 نوفمبر 2026، أعلنت OpenAI إتاحة مصنّف صور CSAM عبر واجهة API للمؤسسات المعتمدة. يستقبل النموذج صورة واحدة ويُصدر إشارتين منفصلتين: إحداهما بشأن احتمال وجود مواد اعتداء جنسي على الأطفال (CSAM)، والأخرى بشأن احتمال وجود CSAM مُنشأ بالذكاء الاصطناعي. وتتمثل الفائدة العملية للأداة في ترتيب أولويات المراجعة البشرية، لا في الاستعاضة عنها.

مقال: أتاحت OpenAI مصنّف CSAM للمؤسسات المعتمدة: كيف تعمل مراجعة الصور
الملخص: في 16 نوفمبر 2026، أعلنت OpenAI إتاحة مصنّف صور CSAM عبر واجهة API للمؤسسات المعتمدة. نستعرض ما يصنّفه تحديدًا، وكيفية قراءة النتائج، ولماذا أُدمج النموذج في عملية مراجعة بشرية.
دور الصورة: الغلاف — الفكرة المحورية
القسم: 
الموضوع البصري: صورة تحريرية لمسار آمن لمراجعة الصور: بطاقات صور ضبابية ومجرّدة
يفرز المصنّف الصور لإدراجها في قائمة انتظار مراجعة المختصين.© jsonscraper · أُنشئت بالذكاء الاصطناعي

وهنا تكمن نقطة التحول المهمة: يضيف المصنّف عامل تصفية آخر إلى قائمة انتظار الإشراف، لكن نتائجه تتطلب مسار معالجة خاصًا بها. ومن المهم للمختصين في السلامة والإشراف فهم ليس التصنيف فحسب، بل أيضًا القرارات التي تظل من مسؤولية المؤسسة.

ما الذي تغيّر في 16 نوفمبر

أوضحت الشركة في تحديث OpenAI الصادر في 16 نوفمبر أن المؤسسات المعتمدة يمكنها استخدام المصنّف مجانًا لترتيب أولوية الصور للمراجعة البشرية. وهذا وصف دقيق لدور المنتج: يفرز النظام المواد التي قد تستدعي الانتباه، ثم يجري الأشخاص مراجعتها وفق الإجراءات المعتمدة.

ترد تفاصيل واجهة API في وثائق المصنّف. ينبغي اختيار النموذج omni-moderation-csam-latest وإرسال طلب منفصل POST /v1/moderations. وتسمح الوثائق بصورة ثابتة واحدة لا يتجاوز حجمها 20 ميغابايت في كل طلب. وينبغي للمؤسسات اتباع إجراءاتها المعتمدة للتعامل مع المدخلات؛ كما لا يجوز إرسال مواد CSAM المعروفة إلى المصنّف.

لماذا يُصدر النموذج إشارتين

تتضمن الاستجابة فئتَين منفصلتين هما likely-csam وlikely-csam/gen-ai. ويتيح هذا الفصل للفريق التمييز بين الإشارة إلى احتمال وجود CSAM والإشارة إلى احتمال وجود مواد مُنشأة بالذكاء الاصطناعي. وهذا مفيد لتوجيه الحالات وتحليل قائمة الانتظار، إذ يمكن إحالة أنواع المخاطر المكتشفة إلى الإجراءات الداخلية المناسبة.

مقال: أتاحت OpenAI مصنّف CSAM للمؤسسات المعتمدة: كيف تعمل مراجعة الصور
الملخص: في 16 نوفمبر 2026، أعلنت OpenAI إتاحة مصنّف صور CSAM عبر واجهة API للمؤسسات المعتمدة. نستعرض ما يصنّفه تحديدًا، وكيفية قراءة النتائج، ولماذا أُدمج النموذج في عملية مراجعة بشرية.
دور الصورة: رسم توضيحي داعم 2 — جانب محدد مختلف
القسم: لماذا يُصدر النموذج إشارتين
الموضوع البصري: رسم معلوماتي باللغة الروسية
يوضح المخطط مسار الانتقال من صورة واحدة إلى إشارتين من المصنّف، ثم إلى مراجعة بشرية.© jsonscraper · رسم توضيحي مُنشأ بالذكاء الاصطناعي

تتضمن كل فئة علامة منطقية وتقييمًا رقميًا. وتصف OpenAI التقييم بأنه مؤشر على قوة المطابقة ضمن الفئة نفسها وإصدار النموذج ذاته. وتحذّر الشركة من أن التقييم ليس احتمالًا مُعايرًا، ولا يجوز مقارنته بعتبة عامة مثل 0.5. لذلك، ينبغي ضبط قائمة الانتظار بناءً على كيفية استخدام الفريق للعلامات والتقييمات، لا على عتبة اعتباطية لاتخاذ قرار آلي.

والتسلسل العملي هو أن ترسل المؤسسة صورة واحدة مسموحًا بها، وتتلقى النتيجة، وتتحقق من العلامة العامة والفئات المنفردة، ثم تحيل المادة إلى التقييم البشري وفق إجراءاتها. ويساعد ربط النتيجة بالعنصر الأصلي والقرار الداخلي الفريق على توضيح سبب إدراج الصورة في قائمة الانتظار ومن راجعها.

أين ينتهي نطاق الأتمتة

تؤكد OpenAI في وثائق المصنّف أن علامة الفئة وحدها لا تثبت أن الصورة تمثل CSAM، وأن المصنّف لا يُبلغ السلطات تلقائيًا عن المحتوى. ويتعين على المؤسسات اتباع إجراءاتها الخاصة للمراجعة والتصعيد ونقل المعلومات. يساعد النموذج في فرز المواد، لكن مسؤولية تفسير النتائج واتخاذ الخطوات اللاحقة تظل جزءًا من سير عمل الفريق.

في هذا السياق، تكون نتيجة المصنّف علامة لتحديد أولوية مراجعة المختص. وينبغي للفريق تحديد من يراجع الحالات التي تطلق تنبيهًا، وكيفية تسجيل النتيجة، وآلية إحالة المادة وفق إجراءاته.

المهام التي تناسب الأداة

وفقًا للمواصفات المنشورة، صُمم المصنّف للصور ويُصدر إشارتين للفئات المحددة. أما نموذج الإشراف العام من OpenAI، omni-moderation-latest، فيعالج نطاقًا أوسع؛ وتشير الوثائق إلى أن فئته sexual/minors تنطبق على النصوص. ويعالج مصنّف الصور المتخصص مهمة منفصلة ضمن تدفق الصور، ويتوقف اختيار النموذج على نوع المدخلات وإجراءات المراجعة.

وعند تصميم النظام، من المفيد الفصل بين ثلاثة أمور: إشارة النموذج، واستنتاج المراجع البشري، والإجراء التشغيلي. فالإشارة هي مخرجات آلية؛ والاستنتاج هو نتيجة مراجعة المختص؛ أما الإجراء فهو إحالة المادة أو اتخاذ خطوة أخرى وفق الإجراء الداخلي. ويساعد تسجيل هذه الأمور كلٌّ على حدة في تجنب نسبة قرارات المؤسسة إلى النموذج.

كما يتطلب إجراء المقارنة مع النماذج العامة الدقة. فالوثائق تصف المدخلات والفئتين وحقول الاستجابة وقيود الاستخدام، لكنها لا تعرض اختبارات مقارنة للدقة. وعند التطبيق، يجدر تقييم مدى ملاءمة الأداة للعملية المحددة: من يملك حق الوصول، وكيف تُجرى المراجعة البشرية، وكيف تُسجل النتيجة، وكيف يتعامل الفريق مع الإشارات الخاطئة أو المتنازع عليها.

ما الذي ينبغي للمؤسسات التحقق منه قبل الربط

  • الوصول: الأداة مخصصة للمؤسسات المعتمدة؛ ويُطلب الوصول عبر نموذج OpenAI.
  • المدخلات: ملف صورة واحد لكل طلب، بحد أقصى 20 ميغابايت؛ ولا يدعم هذا النموذج تصنيف النصوص.
  • التفسير: تُضبط علامات الفئات وفق عتبات محددة، فيما لا تمثل التقييمات الرقمية احتمالات مُعايرة.
  • الإجراءات: تظل المراجعة البشرية والتصعيد واحتمال الإبلاغ عن المواد مسؤولية المؤسسة.

وعليه، يتمثل التغيير الذي أُعلن عنه في 16 نوفمبر في توفير عامل تصفية متخصص لترتيب أولوية الصور، ومتاح للمؤسسات المعتمدة. ومكانه في سير العمل هو قبل المراجعة البشرية: يتلقى الفريق إشارتين آليتين، ويقيّمهما وفق قواعده، ويحدد بنفسه الخطوات اللاحقة.

العلامات

الناس

لم يتم إدراج أي أشخاص لهذه المقالة حتى الآن.

استمر في القراءةأتاحت GitHub تشغيل AI Scan على 20 مستودعًا دفعة واحدة
إقرأ المقال التالي

حوّل ما تقرأه إلى تكامل عملي

استكشف واجهات API للبيانات الاجتماعية من jsonscraper واختبر الطلبات وأنشئ سير عملك التالي.

استكشف واجهات API