اعتقد فريق Google DeepMind لسنوات أن بناء أدوات رائعة ومولدة للذكاء الاصطناعي يتطلب أيضًا بناء أدوات رائعة للاكتشافات التي يولدها الذكاء الاصطناعي، ولكن هناك الكثير من الأسباب الواضحة عالية المخاطر، كما يقول ديميس هاسابيس، قائد Google DeepMind.
“في كل مرة نتحدث عنها وعن الأنظمة الأخرى، يكون السؤال: ماذا عن مشكلة التزييف العميق؟” هو قال. ومع اقتراب موسم انتخابي آخر مثير للجدل في عام 2024 في كل من الولايات المتحدة والمملكة المتحدة، يقول هاسابيس إن بناء أنظمة لتحديد وكشف صور الذكاء الاصطناعي أمر أكثر أهمية طوال الوقت.
لقد عمل هاسابيس وفريقه على هذه الأداة خلال السنوات القليلة الماضية، والتي ستصدرها شركة جوجل وتسمى SynthID، والتي تم تصميمها بشكل أساسي لوضع علامة مائية على صورة تم إنشاؤها بواسطة الذكاء الاصطناعي بطريقة غير محسوسة للإنسان. العين ولكن يمكن التقاطها بسهولة بواسطة أداة كشف مخصصة تعمل بالذكاء الاصطناعي.
العلامة المائية مدمجة في بكسلات الصورة، لكن هاسابيس يقول إنها لا تغير الصورة نفسها بأي طريقة ملحوظة. ويقول: “إنه لا يغير الصورة، أو الجودة، أو التجربة”. “لكنها قوية بالنسبة للتحولات المختلفة – الاقتصاص، وتغيير الحجم، وكل الأشياء التي قد تفعلها لمحاولة التغلب على العلامات المائية العادية والتقليدية والبسيطة.”
مع تحسن النماذج الأساسية لـ SynthID، يقول هاسابيس، ستصبح العلامة المائية أقل وضوحًا للبشر، ولكن يمكن اكتشافها بسهولة أكبر بواسطة أدوات DeepMind، وهذا أمر تقني كما يريده هاسابيس وجوجل DeepMind في الوقت الحالي. حتى منشور مدونة الإطلاق قليل التفاصيل لأن SynthID لا يزال نظامًا جديدًا.
يقول هاسابيس: “كلما كشفت أكثر عن الطريقة التي تعمل بها، أصبح من الأسهل على المتسللين والكيانات الشريرة الالتفاف عليها”. يتم طرح SynthID أولاً بطريقة تتمحور حول Google: سيتمكن عملاء Google Cloud الذين يستخدمون منصة Vertex AI الخاصة بالشركة ومولد الصور Imagen من تضمين علامة Water واكتشافها.
