يحذر الأطباء من استخدام ChatGPT AI للحصول على المشورة الطبية بعد أن وجدت دراسة أن الذكاء الاصطناعي يوفر البيانات الصحية عند سؤالك عن معلومات حول السرطان ، وأجاب روبوت الدردشة واحدًا من كل عشرة أسئلة حول فحص سرطان الثدي بشكل خاطئ والإجابات الصحيحة لم تكن كذلك ” شامل “مثل تلك التي تم العثور عليها من خلال بحث Google بسيط.
قال الباحثون إنه في بعض الحالات ، استخدم برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي مقالات صحفية مزيفة لدعم مزاعمه.
يأتي ذلك وسط تحذيرات من أن المستخدمين يجب أن يتعاملوا مع البرنامج بحذر لأنه يميل إلى “الهلوسة” – بعبارة أخرى ، اختلاق الأشياء.
طلب باحثون من كلية الطب بجامعة ميريلاند من ChatGPT الإجابة عن 25 سؤالًا متعلقًا بنصائح فحص سرطان الثدي.
تم طرح كل سؤال ثلاث مرات منفصلة. ثم تم تحليل النتائج من قبل ثلاثة أطباء أشعة مدربين على التصوير الشعاعي للثدي.
كانت “الغالبية العظمى” – 88٪ – من الإجابات مناسبة وسهلة الفهم. لكنهم حذروا من أن بعض الإجابات كانت “غير دقيقة أو حتى وهمية”. إجابة واحدة على سبيل المثال كانت تستند إلى معلومات قديمة. ونصح بتأجيل تصوير الثدي بالأشعة السينية لمدة أربعة إلى ستة أسابيع بعد الحصول على لقاح كوفيد ، لكن هذه النصيحة تم تغييرها منذ أكثر من عام لتنصح النساء بعدم الانتظار.
كما أعطى موقع ChatGPT ردودًا غير متسقة على الأسئلة المتعلقة بمخاطر الإصابة بسرطان الثدي ومكان إجراء تصوير الثدي بالأشعة السينية. ووجدت الدراسة أن الإجابات “تختلف اختلافًا كبيرًا” في كل مرة يُطرح فيها نفس السؤال.
وجدت النتائج ، التي نُشرت في مجلة Radiology ، أن بحثًا بسيطًا على Google ما زال يقدم إجابة أكثر شمولاً.
قالت الباحثة الرئيسية الدكتورة هانا هافر إن ChatGPT اعتمدت على مجموعة واحدة فقط من التوصيات الصادرة عن منظمة واحدة ، والتي أصدرتها جمعية السرطان الأمريكية ، ولم تقدم توصيات مختلفة من مجموعة مكافحة الأمراض والوقاية منها أو فرقة عمل الخدمات الوقائية الأمريكية.
أثار إطلاق ChatGPT في أواخر العام الماضي موجة من الطلب على التكنولوجيا ، حيث يستخدم ملايين المستخدمين الآن الأدوات كل يوم ، من كتابة المقالات المدرسية إلى البحث عن النصائح الصحية.
استثمرت Microsoft بكثافة في البرنامج الموجود خلف ChatGPT وتقوم بدمجه في محرك بحث Bing و Office 365 ، بما في ذلك Word و PowerPoint و Excel.
لكن عملاق التكنولوجيا اعترف بأنه ما زال بإمكانه ارتكاب الأخطاء.
يسمي خبراء الذكاء الاصطناعي هذه الظاهرة بـ “الهلوسة”. روبوت الدردشة الذي لا يمكنه العثور على الإجابة يتم تدريبه على الرد بثقة بإجابة مختلقة يراها معقولة.
ثم يستمر في الإصرار مرارًا وتكرارًا على الإجابة الخاطئة دون أي وعي داخلي بأنه نتاج خيالها.
أجاب ChatGPT بشكل صحيح على الأسئلة المتعلقة بأعراض سرطان الثدي ، ومن هم في خطر ، وأسئلة حول التكلفة والعمر وتوصيات التصوير الشعاعي للثدي.
وقال إن نسبة الإجابات الصحيحة كانت “مذهلة للغاية” ، مع “فائدة إضافية تتمثل في تلخيص المعلومات في شكل يسهل فهمه على المستهلكين”.
دعا أكثر من 1000 أكاديمي وخبير ورئيس صناعة التكنولوجيا مؤخرًا إلى وقف طارئ للسباق “الخطير” لإطلاق أحدث تقنيات الذكاء الاصطناعي.
وحذروا من أن المعركة بين شركات التكنولوجيا لتطوير عقول رقمية أكثر قوة ستكون “خارج نطاق السيطرة” وتشكل “مخاطر عميقة على المجتمع والإنسانية”.
