يعتزم Snap ، صاحب خدمة رسائل الفيديو Snapchat ، إطلاق أدوات جديدة لجعل تجربة chatbot ، بناءً على تقنية الذكاء الاصطناعي الخاصة به ، أكثر أمانًا.
بعد أيام من إطلاق Snap لبرنامج chatbot قائم على GPT للمشتركين في الخدمة المدفوعة Snapchat + ، كان أبرز تقرير من صحيفة واشنطن بوست أن الروبوت كان يستجيب بطريقة غير آمنة وغير مناسبة ، وفقًا لتقارير أيت نيوز.
قالت Snap إنها كانت تدرك أنه بعد إطلاق برنامج chatbot ، كان الناس يحاولون “خداعه لتقديم ردود لا تتوافق مع إرشاداتنا”. لذلك أطلقت الشركة بعض الأدوات بهدف إبقاء ردود الروبوت تحت السيطرة.
تضمنت Snap مرشحًا يتيح لروبوت AI معرفة أعياد ميلاد المستخدمين ويزودهم بردود مناسبة للعمر ، وقالت الشركة إن الروبوت “سيأخذ سنهم باستمرار في الاعتبار” أثناء التحدث إلى المستخدمين.
في الأسابيع المقبلة ، تخطط Snap أيضًا لتقديم المزيد من الأفكار للآباء أو الأوصياء حول تفاعلات الأطفال مع الروبوت في Family Hub ، الذي تم إطلاقه في أغسطس الماضي.
ستكتشف الميزة الجديدة ما إذا كان المراهقون يتفاعلون مع روبوت المحادثة ، ومدى تكرار هذه التفاعلات ، ويحتاج كل من المراهق والوصي إلى التسجيل في Family Center لاستخدام ميزات الرقابة الأبوية هذه.
حذر Snap في منشور مدونة من أن chatbot My AI ليس “صديقًا حقيقيًا”. لتحسين الردود ، تستخدم محفوظات الدردشة ، وتقوم الشركة أيضًا بإعلام المستخدمين بالاحتفاظ بالبيانات عند بدء الدردشة مع الروبوت.
قالت الشركة إن نسبة الردود “غير الملائمة” من الروبوت لم تتجاوز 0.01٪ ، وتحسب Snap أي رد يتضمن إشارات إلى “العنف ، أو المصطلحات الجنسية الصريحة ، أو تعاطي المخدرات غير القانوني ، أو الاعتداء الجنسي على الأطفال ، أو التنمر ، أو خطاب الكراهية. ” أو ازدراء ، أو متحيز جنسياً ، أو عنصرياً ، أو معادياً للمرأة ، أو مهمشاً لمجموعات غير ممثلة “على أنها” غير مناسبة “.
صرح Snapchat أنه في معظم الحالات ، كانت هذه الردود غير المناسبة نتيجة لتقليد الروبوت لكل ما قاله المستخدمون. كما أشارت إلى أنها ستمنع مؤقتًا الوصول إلى روبوت الذكاء الاصطناعي للمستخدم الذي يسيء معاملته.
