كان الإشراف على المحتوى من أكثر القضايا الشائكة على الإنترنت منذ عقود ، وهو موضوع يصعب على أي شخص معالجته ، مع الأخذ في الاعتبار الذاتية التي تتماشى مع معرفة المحتوى الذي يجب السماح به على نظام أساسي معين.
تعتقد شركة OpenAI ، الشركة المصنعة لـ ChatGPT ، أنها يمكن أن تساعد في اختبار مهارات تحرير المحتوى في GPT-4 لأنها تستخدم نموذج الوسائط المتعددة الكبير “لبناء نظام تعديل محتوى قابل للتطوير ومتسق وقابل للتخصيص.”
لا يمكن لـ GPT-4 المساعدة في اتخاذ قرارات الإشراف على المحتوى فحسب ، بل تساعد أيضًا في تطوير السياسات وتكرار تغييرات السياسة بسرعة ، كما كتبت الشركة في منشور مدونة ، “تقليل الدورة من أشهر إلى ساعات”. تدعي أن النموذج يمكنه تحليل اللوائح والفروق الدقيقة المختلفة. في سياسات المحتوى والتكيف فورًا مع أي تحديثات. هذا ، كما تدعي OpenAI ، يؤدي إلى تصنيف محتوى أكثر اتساقًا.
نعتقد أن هذا يقدم رؤية أكثر إيجابية لمستقبل المنصات الرقمية ، حيث يمكن للذكاء الاصطناعي المساعدة في تنظيم حركة المرور عبر الإنترنت وفقًا لسياسة خاصة بالمنصة وتخفيف العبء الذهني عن عدد كبير من الوسطاء البشريين “، ليليان وينغ من شركة OpenAI وفيك جويل وأندريا فالون يكتب. يمكن لأي شخص لديه وصول OpenAI API تنفيذ هذا النهج لبناء نظام الإشراف بمساعدة AI الخاص به. ” تدعي شركة OpenAI أن أدوات الإشراف الخاصة بها في GPT-4 يمكن أن تساعد الشركات على القيام بحوالي ستة أشهر من العمل في يوم واحد تقريبًا.
لقد تم توثيقه جيدًا أن المراجعة اليدوية للمحتوى الصادم يمكن أن يكون لها تأثير كبير على الصحة العقلية للمشرفين ، خاصة عندما يتعلق الأمر بالمواد الرسومية. في عام 2020 ، وافقت Meta على دفع أكثر من 11000 مشرفًا بما لا يقل عن 1000 دولار لكل منهم كتعويض عن مشكلات الصحة العقلية التي ربما تكون قد نتجت عن مراجعة المواد المنشورة على Facebook.
يمكن أن يكون استخدام الذكاء الاصطناعي لتخفيف بعض العبء عن المراجعين مفيدًا للغاية ، وقد استخدمت Meta ، على سبيل المثال ، الذكاء الاصطناعي لمساعدة الوسطاء لعدة سنوات.
ومع ذلك ، تقول شركة OpenAI إنه حتى الآن ، تم مساعدة الوسطاء البشريين من خلال “نماذج التعلم الآلي الرأسية المحددة الأصغر”. هذه العملية بطيئة بطبيعتها ويمكن أن تؤدي إلى إجهاد عقلي على المشرفين من البشر.
نماذج الذكاء الاصطناعي بعيدة كل البعد عن الكمال. لطالما استخدمت الشركات الكبيرة الذكاء الاصطناعي في عمليات الاعتدال ، ومع أو بدون مساعدة التكنولوجيا ، لا تزال تتخذ قرارات خاطئة بشأن المحتوى الرائع. يبقى أن نرى ما إذا كان نظام OpenAI يمكنه تجنب العديد من مصائد الاعتدال. رائد رأيناه شركات أخرى تتراجع على مر السنين. على أي حال.
توافق OpenAI على أن البشر ما زالوا بحاجة إلى المشاركة في هذه العملية. تم إدخالهم في النموذج أثناء التدريب.
كما هو الحال مع أي تطبيق للذكاء الاصطناعي ، يجب مراقبة النتائج والمخرجات بعناية والتحقق من صحتها وصقلها من خلال إبقاء البشر في الحلقة ، “تقرأ مدونة OpenAI” عن طريق الحد من المشاركة البشرية في بعض أجزاء عملية الإشراف التي يمكن معالجتها من خلال النمذجة. ” اللغة ، يمكن للموارد البشرية التركيز بشكل أكبر على التعامل مع الحالات المعقدة التي تشتد الحاجة إليها لمراجعة السياسة.
