تتمتع الألعاب بالقدرة على ربط الأشخاص حول العالم من خلال المتعة والعمل الجماعي، ولكنها يمكنها أيضًا خلق مساحة للخطاب السام والكراهية. تحاول Activision التخفيف من حدة المشكلة الأخيرة، حيث أعلنت عن تعاون جديد مع Modulate، وهي شركة تستخدم التكنولوجيا لتحديد هذه المشكلات، للإشراف على… الدردشة الصوتية المباشرة في Call of Duty.
وبحسب موقع The Verge الأمريكي، فإن نظام الذكاء الاصطناعي الخاص بشركة Modulate، والمعروف باسم ToxMod، يحاول التعرف على التهديدات مثل خطاب الكراهية والتطرف وإيذاء النفس في الوقت الفعلي.
تدعي أنها تعمل في ثلاث خطوات: الفرز والتحليل والتصعيد، حيث يستمع ToxMod إلى جميع الدردشات الصوتية والنقاط الدقيقة التي تتطلب مزيدًا من التحقيق، ويتم تخزين هذه البيانات التي تم وضع علامة عليها في خوادمها، بينما ستتم معالجة جميع البيانات الأخرى مباشرة على الجهاز الأولي.
وتقول الشركة إنها تقوم بعد ذلك بتقييم كل شيء بدءًا من النبرة وحتى العاطفة، ولا تحلل فقط “ما يقال، ولكن أيضًا كيف يقال وكيف يستجيب اللاعبون الآخرون له”، وأخيرًا، تحاول تنبيه المشرفين إلى حوادث أكثر خطورة وتتركها. وتدعي أن الأمر متروك لهم لاتخاذ الإجراءات اللازمة. تدعي الشركة أنها “الحل الأصلي الوحيد للتحكم في الصوت” المتاح حاليًا، حيث قامت بحماية “عشرات الملايين من اللاعبين”.
يمكن أن يساعد تكامل ToxMod في منع الاستجابات السامة ككل، والعمل جنبًا إلى جنب مع الأنظمة الحالية التي تركز على النص وإعداد التقارير. وقال مايكل فانس، كبير مسؤولي التكنولوجيا في Activision، في بيان: “لقد كان التعامل مع الدردشة الصوتية المزعجة على وجه الخصوص تحديًا”. لقد كان تحديًا استثنائيًا منذ فترة طويلة عبر الألعاب، ومن خلال هذا التعاون، نقدم الآن تقنية التعلم الآلي المتطورة من Modulate. يمكن التوسع في الوقت الفعلي للوصول إلى مستوى عالمي من التنفيذ.
“هذه خطوة حاسمة للأمام نحو إنشاء تجربة ممتعة وعادلة ومرحبة لجميع اللاعبين والحفاظ عليها.” في العام الماضي، بدأت Activision في السماح لفرق الإشراف على اللعبة بكتم صوت اللاعبين الذين يستخدمون لغة سامة في المحادثات الصوتية والنصية.
يتوفر ToxMod الآن كنسخة تجريبية باللغة الإنجليزية في أمريكا الشمالية للعبتي Call of Duty: Modern Warfare II وCall of Duty: Warzone، وسيتم إصداره عالميًا – باستثناء آسيا – عند إطلاق Call of Duty: Modern Warfare III في 10 نوفمبر.
