تدعو منظمة الصحة العالمية (WHO) إلى توخي الحذر في استخدام أدوات النماذج اللغوية الكبيرة (LLMs) الناتجة عن الذكاء الاصطناعي (AI) لحماية وتعزيز رفاهية الإنسان وسلامة الإنسان واستقلاليته ، والحفاظ على الصحة العامة.
تشتمل LLM على بعض الأنظمة الأساسية الأسرع نموًا مثل ChatGPT و Bard و Bert وغيرها التي تحاكي فهم ومعالجة وإنتاج الاتصالات البشرية.
وقالت: “من الضروري فحص المخاطر بعناية عند استخدام LLM لتحسين الوصول إلى المعلومات الصحية ، كأداة لدعم القرار أو حتى لتعزيز القدرة التشخيصية في ظروف ضعف الموارد لحماية صحة الناس وتقليل عدم المساواة”.
في حين أنها متحمسة للاستخدام المناسب للتقنيات ، بما في ذلك LLMs ، لدعم المتخصصين في الرعاية الصحية والمرضى والباحثين والعلماء ، قالت هيئة الأمم المتحدة ، “هناك قلق من أن الحذر الذي يتم اتخاذه عادةً مع أي تقنية جديدة لا يتم ممارسته باستمرار مع LLM.” وهذا يشمل التزامًا واسعًا بالقيم الأساسية للشفافية ، والشمول ، والمشاركة العامة ، ورقابة الخبراء ، والتقييم الدقيق “.
5 أشياء تقلق بشأنها LLMs
قد تكون البيانات المستخدمة لتدريب الذكاء الاصطناعي متحيزة أو تولد معلومات مضللة أو غير دقيقة يمكن أن تشكل مخاطر على الصحة والإنصاف والشمولية ؛
تُنشئ LLM استجابات يمكن أن تبدو موثوقة ومعقولة للمستخدم النهائي ، ومع ذلك قد تكون هذه الاستجابات غير صحيحة تمامًا أو تحتوي على أخطاء جسيمة ، خاصة للاستجابات المتعلقة بالصحة.
قد يتم تدريب LLM على البيانات التي ربما لم يتم تقديم الموافقة عليها قبل هذا الاستخدام ، وقد لا تحمي LLM البيانات الحساسة (بما في ذلك البيانات الصحية) التي يقدمها المستخدم لتطبيق ما لإنشاء استجابة.
يمكن إساءة استخدام LLM لإنشاء ونشر معلومات مضللة مقنعة للغاية في شكل محتوى نصي أو صوتي أو فيديو يصعب على الجمهور تمييزه عن المحتوى الصحي الأصيل.
بينما تلتزم منظمة الصحة العالمية بتسخير التقنيات الجديدة ، بما في ذلك الذكاء الاصطناعي والصحة الرقمية ، لتحسين صحة الإنسان ، فإنها توصي صانعي السياسات بضمان سلامة المرضى وحمايتهم بينما تعمل شركات التكنولوجيا على تسويق LLMs.
