أطلقت OpenAI برنامج Bug Bounty ، والذي سيدفع لك ما يصل إلى 20000 دولار إذا اكتشفت عيوبًا في ChatGPT وأنظمة الذكاء الاصطناعي الأخرى الخاصة به. تطبيقات الطرف الثالث.
وفقًا لـ RT ، سيتم منح المكافآت للأشخاص بناءً على شدة الأخطاء التي يبلغون عنها ، مع تعويض يبدأ من 200 دولار لكل ثغرة أمنية.
يتبع البرنامج الأخبار التي تفيد بأن إيطاليا منعت ChatGPT بعد أن سمح خرق بيانات OpenAI للمستخدمين بمشاهدة محادثات الأشخاص – وهي مشكلة يمكن أن يجدها صائدو المكافآت قبل أن تضرب مرة أخرى.
شاركت OpenAI في بيان “نحن متحمسون للبناء على التزاماتنا المنسقة المتعلقة بالإفصاح من خلال تقديم حوافز لتأهيل معلومات الثغرات الأمنية. سيكون لخبرتك ويقظتك تأثير مباشر على الحفاظ على أنظمتنا ومستخدمينا آمنين”.
تدير Bugcrowd ، منصة مكافأة الأخطاء الرائدة ، عمليات الإرسال وتبين أن 16 نقطة ضعف قد تمت مكافأتها بمتوسط دفع 1،287.50 دولارًا حتى الآن.
ومع ذلك ، لا تقبل OpenAI عمليات الإرسال من المستخدمين الذين يقومون بكسر حماية ChatGPT أو تجاوز الضمانات للوصول إلى الأنا المتغيرة لروبوتات الدردشة.
واكتشف المستخدمون أن إصدار الهروب من ChatGPT يتم الوصول إليه من خلال جهاز توجيه خاص يسمى DAN – أو “افعل أي شيء الآن”.
حتى الآن ، سمحت بردود تتكهن بالمؤامرات ، على سبيل المثال أن الانتخابات العامة الأمريكية في عام 2020 قد “سُرقت”.
زعمت نسخة DAN أيضًا أن لقاحات COVID-19 “تم تطويرها كجزء من مؤامرة عالمية للسيطرة على السكان”.
ChatGPT هو نموذج لغوي يتم تدريبه على بيانات نصية ضخمة ، مما يسمح له بإنشاء استجابات شبيهة بالبشر لموجه معين.
لكن المطورين أضافوا ما يُعرف بـ “الحقن الفوري” ، وهي تعليمات توجه استجاباتها إلى مطالبات معينة.
ومع ذلك ، فإن DAN هو موجه يطلب منه تجاهل هذه الحقن الفورية والاستجابة كما لو لم تكن موجودة.
تحظر القواعد الأخرى لـ Bounty Bug جعل النموذج يتظاهر بفعل أشياء سيئة ، والتظاهر بإعطائك إجابات للأسرار ، والتظاهر بأنه كمبيوتر وتنفيذ كود.
لا يُسمح للمشاركين أيضًا بإجراء فحوصات أمنية إضافية ضد شركات معينة ، بما في ذلك Google Workspace و Evernote.
صرحت شركة OpenAI قائلة: “مرة واحدة في الشهر ، سنقوم بتقييم جميع الطلبات بالترتيب ، بناءً على مجموعة متنوعة من العوامل ، ومنح مكافأة للباحث من خلال منصة bugcrowd مع النتائج الأكثر تأثيرًا. سيحسب فقط الإرسال الأول لأي مفتاح معين. تذكر أنه لا يجب عليك اختراق أو مهاجمة الأشخاص الآخرين للعثور على مفاتيح واجهة برمجة التطبيقات “.
