كشفت شركة OpenAI ، مطورة تطبيق الدردشة ChatGPT AI ، عن وصف بعض نتائج أداة الذكاء الاصطناعي الخاصة بها ChatGPT بأنها متحيزة سياسيًا أو مسيئة أو مرفوضة. كل الاتهامات صحيحة تماما.
يُظهر العديد منهم مفاهيم خاطئة للمستخدمين حول كيفية عمل أنظمتهم وسياساتهم لتقديم مخرجات من ChatGPT.
“منذ أن أطلقنا ChatGPT ، شارك المستخدمون المخرجات التي يعتبرونها متحيزة سياسيًا أو مسيئة أو مرفوضة بأي شكل آخر ، وفي كثير من الحالات ، نعتقد أن المخاوف التي أثيرت كانت صحيحة وكشفت عن قيود حقيقية على أنظمتنا التي نريد معالجتها” ، قال. تعمل أنظمتنا وسياساتنا معًا لتشكيل النتائج التي تحصل عليها من ChatGPT “.
“في إطار السعي لتحقيق مهمتنا ، نحن ملتزمون بضمان وصول واسع النطاق إلى الذكاء الاصطناعي والذكاء الاصطناعي والاستفادة منهما والتأثير فيهما ، ونعتقد أن هناك ثلاث كتل بناء على الأقل مطلوبة لتحقيق هذه الأهداف في سياق سلوك نظام الذكاء الاصطناعي ،” هي اضافت.
القواعد الثلاث التي يعتمد عليها ChatGPT
تحسين السلوك الافتراضي: تقول شركة OpenAI إنها تستثمر في البحث والهندسة لتقليل التحيزات الصارخة والدقيقة في كيفية استجابة ChatGPT للمدخلات المختلفة.
سيغطي البحث أيضًا تلك الحالات التي رفض فيها ChatGPT المخرجات التي لا ينبغي لها والحالات التي لم تكن كذلك عندما كان ينبغي ، كما سلطت الشركة الناشئة الضوء على الحاجة إلى “ملاحظات المستخدم التي لا تقدر بثمن” لمزيد من التحسينات.
تحديد قيم الذكاء الاصطناعي: تعمل الشركة على تطوير ترقية إلى ChatGPT تسمح للمستخدمين بسهولة تخصيص سلوكها “المحدد من قبل المجتمع”.
وقالت: “هذا يعني السماح بمخرجات النظام التي قد يختلف معها الآخرون (بما فيهم نحن) بشدة”. “إن تحقيق التوازن الصحيح هنا سيكون أمرًا صعبًا – فالتخصيص حسب التطرف قد يخاطر بتمكين الاستخدامات الضارة لتقنيتنا وتضخيم الذكاء الاصطناعي المتملق بلا تفكير.” معتقدات الناس الحالية.
المدخلات العامة بشكل افتراضي: قالت شركة OpenAI إنها لا تزال في المراحل الأولى من الجهود التجريبية لالتماس المدخلات العامة حول موضوعات مثل سلوك النظام وآليات الكشف (مثل العلامات المائية) وسياسات النشر الأوسع.
وأضافت: “نحن نستكشف أيضًا شراكات مع منظمات خارجية لإجراء عمليات تدقيق خارجية لجهودنا في مجال السلامة والسياسات”.
