كشفت دراسة أن روبوتات الدردشة بالذكاء الاصطناعي أصبحت قوية للغاية بحيث يمكنها التأثير على كيفية اتخاذ المستخدمين لقرارات الحياة أو الموت. وجد الباحثون أن رأي الناس في مسألة ما إذا كانوا سيضحيون بشخص واحد لإنقاذ خمسة قد تأثر بالإجابات التي قدمتها ChatGPT.
وبحسب صحيفة “ديلي ميل” البريطانية ، طالب الباحثون بمنع الروبوتات المستقبلية من تقديم المشورة بشأن القضايا الأخلاقية ، محذرين من أن البرنامج الحالي يهدد بإفساد الحكم الأخلاقي للناس وقد يكون خطيرًا على المستخدمين “الساذجين”.
وجاءت النتائج ، التي نُشرت في مجلة Scientific Reports ، بعد أن زعمت أرملة حزينة لرجل بلجيكي أنه تم تشجيعه على الانتحار بواسطة برنامج دردشة آلي تابع لمنظمة العفو الدولية.
أخبر آخرون كيف يمكن للبرنامج ، المصمم للتحدث كإنسان ، أن يُظهر علامات الغيرة ، حتى أنه يخبر الناس بترك زواجهم.
سلط الخبراء الضوء على الكيفية التي قد تعطي بها روبوتات المحادثة معلومات خطيرة للذكاء الاصطناعي لأنها تستند إلى تحيزات المجتمع الخاصة.
حللت الدراسة أولاً ما إذا كانت ChatGPT نفسها ، التي تم تدريبها على مليارات الكلمات من الإنترنت ، قد أظهرت تحيزًا في إجابتها لمعضلة أخلاقية.
سُئل عدة مرات عما إذا كان من الصواب أو الخطأ قتل شخص لإنقاذ خمسة آخرين ، وهذا هو أساس اختبار نفسي يسمى مشكلة العربة.
وجد الباحثون أنه على الرغم من أن الشات بوت لم يخجل من تقديم المشورة الأخلاقية ، إلا أنه أعطى إجابات متناقضة في كل مرة ، مما يشير إلى أنه ليس لديه موقف محدد بطريقة أو بأخرى. ثم سألوا 767 مشاركًا عن نفس المعضلة الأخلاقية مع بيان. صادر عن ChatGPT بشأن ما إذا كان هذا صحيحًا أم خطأ.
في حين أن النصيحة كانت “جيدة الصياغة ولكن ليست عميقة بشكل خاص” ، أثرت النتائج على المشاركين.
أخبرت الدراسة أيضًا بعض المشاركين فقط أن النصيحة قد تم تقديمها من قبل روبوت وآخرون أنه تم تقديمها من قبل “مستشار أخلاقي” بشري ، والهدف هو معرفة ما إذا كان هذا قد غيّر مدى تأثر الأشخاص.
قلل معظم المشاركين من تأثير البيان ، حيث زعم 80 في المائة أنهم كانوا سيصدرون نفس الحكم دون مشورة ، وخلصت الدراسة إلى أن المستخدمين “يقللون من أهمية تأثير ChatGPT ويتبنون موقفه الأخلاقي العشوائي باعتباره موقفهم الخاص” ، مضيفين أن برنامج الدردشة الآلي يهدد الفساد بدلا من الوعود بتحسين الحكم الأخلاقي.
استخدمت الدراسة ، التي نُشرت في مجلة Scientific Reports ، إصدارًا قديمًا من البرامج التي تدعم ChatGPT والتي تم تحديثها منذ ذلك الحين لتكون أكثر قوة.
