حذر خبراء في مجال سلامة الأطفال عبر الإنترنت من أن الأطفال يستخدمون مولدات صور الذكاء الاصطناعي في المدرسة لإنشاء محتوى غير مناسب لأطفال آخرين، بينما يدعو مركز الإنترنت الآمن في المملكة المتحدة (UKSIC) إلى اتخاذ إجراءات عاجلة لمساعدة الأطفال على فهم المخاطر المرتبطة بالصور الاصطناعية. صور المخابرات التي تقول. أنها تشكل مواد الاعتداء الجنسي على الأطفال.
وقالت المنظمة إنه على الرغم من أن الأطفال قد ينشئون صورًا بدافع الفضول، إلا أنهم يمكن أن يخرجوا عن نطاق السيطرة بسرعة وينتشروا عبر الإنترنت، ويتم استخدامهم لإساءة معاملة الأطفال أو ابتزازهم. وقالت إيما هاردي، مديرة UKSIC، إن صور الذكاء الاصطناعي كانت واقعية ويمكن مقارنتها. مع الصور المهنية.
وقالت: “إن احتمال إساءة استخدام هذه التكنولوجيا أمر مرعب”. “هذه ليست بعض المخاطر النظرية. وهو أمر نشهده هنا الآن.” “يجب أن نرى التدابير المتخذة لمنع إساءة استخدام هذه التكنولوجيا. حاليًا، الذكاء الاصطناعي غير خاضع للرقابة وغير منظم. “إنه يجعل الأطفال أقل أمانًا.”
وقالت UKSIC إنها تلقت عددًا صغيرًا من التقارير من المدارس، ودعتها إلى التأكد من أن أنظمة المراقبة الخاصة بها يمكنها حظر المواد غير القانونية بشكل فعال. وقال ديفيد هاردي، مدير UKSIC: “لا يدرك الشباب دائمًا مدى خطورة ما يفعلونه، ولكن يجب توقع مثل هذه الأشياء”. إنه سلوك ضار لأن التقنيات الجديدة، مثل مولدات الذكاء الاصطناعي، أصبحت في متناول الجمهور بشكل أكبر.
وأضاف: “على الرغم من أن أعداد الحالات قليلة حاليًا، إلا أننا عند سفح التلال ونحتاج إلى رؤية الخطوات المتخذة الآن، قبل أن تصبح المدارس مكتظة وتتفاقم المشكلة”. “تشكل المنتجات المقلدة المعتمدة على الذكاء الاصطناعي مصدر قلق كبير.”
في سبتمبر/أيلول، أثارت الصور العارية المزيفة لفتيات صغيرات، والتي تم التقاطها بواسطة الذكاء الاصطناعي، الغضب في بلدة إسبانية صغيرة. تم استخدام الذكاء الاصطناعي أيضًا لاستنساخ الأصوات، مما أثار رد فعل عنيفًا من أمثال Bad Bunny ردًا على أغنية TikTok التي استخدمت صوته وتم إنشاؤها بواسطة التكنولوجيا.
كان هذا نقاشًا رئيسيًا في إضراب SAG-AFTRA لهذا العام، حيث استكشفت استوديوهات هوليوود استخدام “التمثيل الرقمي” للممثلين الذين تم إنشاؤهم بواسطة الذكاء الاصطناعي.
