صوت مزيف للهروب من مكالمات خدمة العملاء.. هل تكون بداية لجرائم جديدة؟

صوت مزيف للهروب من مكالمات خدمة العملاء.. هل تكون بداية لجرائم جديدة؟

يعد انتظار مكالمات خدمة العملاء البنكية أو أي خدمة أخرى تتعامل معها نوعًا خاصًا من الجحيم ، لكن شركة التكنولوجيا DoNotPay طورت أداة ذكاء اصطناعي يمكنها استخدام “deepfake” لتزييف صوتك وانتظارك.

وفقًا لموقع مترو الأنفاق البريطاني ، قامت شركة DoNotPay ، الشركة التكنولوجية التي تقف وراء أول “محامي روبوت” في العالم ، بإنشاء أداة جديدة يمكنها التحدث إلى دعم عملاء البنك باستخدام نسخة من صوتك تم إنشاؤه بواسطة الذكاء الاصطناعي.

نشر مؤسس الشركة ومديرها التنفيذي ، جوشوا براودر ، مقطع فيديو توضيحيًا على Twitter يعرض نسخة مزيفة لمنظمة العفو الدولية من مكالمته الصوتية Well Fargo وألغى بنجاح رسوم التحويل.

قال براودر لـ Motherboard: “نخطط لإتاحة الأداة للجمهور بمجموعة من الأصوات المخصصة العامة ، ولكن بالنسبة لصوت المستخدم ، سيكون هذا خيارًا ممتازًا”. يمكن تطبيق التطبيق على “مفاوضات قانونية لا نهاية لها ، مثل الاتصال بجنوب غرب لاسترداد الأموال.

تم تصميم الأداة باستخدام مزيج من موقع Resemble ، وهو موقع يتيح للمستخدمين إنشاء أصوات الذكاء الاصطناعي الخاصة بهم ، و GPT-J ، ونموذج لغة مفتوح المصدر غير رسمي ، ونماذج Do Not Pay AI للنص البرمجي.

ومع ذلك ، بناءً على الفيديو ، من الواضح أن الروبوت موجود على الهاتف ، مما يجعله يبدو أكثر طبيعية قد يستغرق المزيد من العمل ، لكن Do Not Pay تخطط لإتاحة الأداة للعملاء في الوقت الحالي.

أطلق براودر ، عالم الكمبيوتر الذي تلقى تعليمه في جامعة ستانفورد ، خدمة DoNotPay في عام 2015 كبرنامج دردشة آلي يقدم المشورة القانونية للمستهلكين الذين يتعاملون مع الرسوم أو الغرامات المتأخرة. الهدف النهائي هو جعل تطبيقه يحل محل المحامين بالكامل من أجل توفير أموال المتهمين. في الشهر الماضي ، نجح برنامج الدردشة الآلي الخاص بشركته في التفاوض مع ممثلي Comcast Internet Services لتوفير 120 دولارًا سنويًا للموظف من فاتورة الإنترنت الخاصة بهم.