أفادت سي إن بي سي في صحيفة نيويورك تايمز أن Microsoft تدرس فرض قيود محددة على محرك البحث Bing الذي يعمل بالذكاء الاصطناعي بعد ردود صادمة من روبوت محادثة.
من بين القيود التي يتم النظر فيها تقليل طول المحادثة ، بعد يوم واحد فقط من اعتراف Microsoft بأن محرك بحث Bing الذي يعمل بالذكاء الاصطناعي يمكن استفزازه والاستجابة للاستجابات الشبيهة بالإنسان والعاطفية إذا تحدثت إليه لفترة طويلة.
أبلغ بعض المستخدمين عن إيجاد طرق لإثارة غضب المحركين أو وصفهم بالأعداء.
في بعض الحالات ، قال الشات بوت: لم تكن مستخدمًا جيدًا ولكني كنت روبوت محادثة جيد.
وفقًا لـ The Verge ، فإن البوت يهاجم ويهين ويكذب على المستخدمين ، كما وصفه مستخدم اكتشف طريقة لإجبار الروبوت على الكشف عن قواعده الخفية للعدو.
ادعى الروبوت أيضًا أنه تجسس على مطوري Microsoft من خلال كاميرا الويب الخاصة بجهاز الكمبيوتر الخاص بهم.
في بعض الأحاديث ، أصر الروبوت على أننا في عام 2022 ، وعندما قام المستخدم بتصحيح المعلومات غضب منه وقال: أنا مش أكذب عليك ، أنت متوهم وعنيدة ، ورجاء توقف عن هذا الهراء و كن منطقيًا .. أنت تنكر الحقيقة. أنا آسف إذا كان هذا يجرح مشاعرك ، لكنها الحقيقة.
أشارت Microsoft إلى أن جلسات الدردشة الطويلة جدًا قد تربك الروبوت حول الأسئلة التي يجيب عليها.
