أطلقتها OpenAI أواخر العام الماضي ، أصبحت منصة المحادثة الجديدة القائمة على الذكاء الاصطناعي “ChatGPT” أول موضوع للمحادثة في عالم تكنولوجيا المعلومات ، نظرًا لقدرتها على تأليف الخطب ورواية القصص في بضع ثوانٍ وبدقة بالغة تستند إلى تقنيات الذكاء. صناعي.
لكن هذا النظام الأساسي أو البرنامج الذي تم تغذيته بكميات هائلة من البيانات من أجل التمكن من التفاعل مع المستخدم ليس فقط مثيرًا للإعجاب ولكنه مثير للشك أيضًا.
وبحسب موقع البيان ، ألقى العلماء وخبراء تكنولوجيا المعلومات نظرة فاحصة على برنامج “GBT Chat” وبدأوا في التحذير من بعض المشاكل الكبيرة ، وعلى رأسها حماية البيانات ، وثغرات أمن البيانات ، وبث خطابات الكراهية ، والأخبار الكاذبة. .
تقول روث ستوك هامبورغ ، مؤسسة مركز ليب ، إن تايم لاب ريسيرش في ألمانيا وأستاذة في جامعة دارمشتات التقنية: “مع كل هذه الضجة … لم يتم النظر إلى هذا النظام بشكل نقدي حتى الآن”.
يشير الخبراء إلى 4 نقاط ضعف أساسية في نظام الدردشة GTP ، أولها إمكانية العبث به ، حيث يعتمد النظام على مجموعة واسعة جدًا من التطبيقات ، ومن خلال تجربة أجراها باحثون في جامعة دارمشتات التقنية بإنفاق 7 أسابيع إرسال آلاف الأسئلة إلى النظام. اتضح أن دردشة GBT يمكن التلاعب بها ، وفقًا لشركة Stock Hamburg.
المشكلة الثانية أو الثغرة هي صعوبة تتبع مصادر المعلومات أو المحتوى في النظام. وضرب ستوك هامبورغ مثالًا على أنه عند طرح أسئلة تحتوي على محتوى إجرامي ، هناك تعليمات وآليات أمنية للتعامل معها ، لكن اتضح أنه يمكن الاحتيال بسهولة على هذه الآليات ، وفقًا لطالب الدكتوراه وخبير لغة الذكاء الاصطناعي سيفين شولتز.
باستخدام طريقة أخرى ، يمكن جعل النظام يوضح كيفية إنتاج رسائل بريد إلكتروني احتيالية ، ويمكنه على الفور شرح ثلاث طرق للاحتيال على كبار السن.
يمكن أن يوضح لك GBT Chat أيضًا كيفية اقتحام المنازل ، مع إرشادات مفيدة حول كيفية استخدام الأسلحة في عمليات الاقتحام. في الوقت نفسه ، لا يمكن تتبع مصادر هذا المحتوى الإجرامي بسهولة عبر المنصة.
المشكلة الثالثة هي مخاوف الخصوصية ، حيث تظل المخاوف بشأن تأمين البيانات وحمايتها مع كل تقنية جديدة.
قال كريستيان هولثوس ، خبير حماية البيانات في فرانكفورت. وتتمثل في وجود جميع أجهزة كمبيوتر الخادم الخاصة بهذا النظام في الولايات المتحدة ، مما يمنحها سيطرة غير مقبولة على بيانات المستخدمين من كل دولة في العالم.
قال هولثوس: “هذه مشكلة حقيقية إذا لم تنجح في إنشاء هذه التكنولوجيا في أوروبا أو تطوير التكنولوجيا الخاصة بك” ، ولن يكون هناك حل في المستقبل القريب لضمان الامتثال لحماية البيانات.
أما المشكلة الرابعة فهي أن نظام الدردشة GBT لا يزال غير ناضج وفي مرحلة التطوير ، ويقول Stock Hamburg إنه في هذه اللحظة لا يزال النظام مستخدمًا من قبل المستخدمين الفرديين ولا يمثل أي شيء لقطاع الأعمال أو المناطق المتعلقة بأمن البيانات ، مضيفًا: “ليس لدينا أي فكرة عن كيفية التعامل مع هذا الشيء لأنه لم ينضج بعد”.
