أصدرت Google يوم الثلاثاء تفاصيل جديدة حول الحواسيب العملاقة التي تستخدمها لتدريب نماذج الذكاء الاصطناعي ، قائلة إن أنظمتها أسرع وأكثر كفاءة في استهلاك الطاقة من الأنظمة المماثلة من Nvidia ، وفقًا لـ aitnews.
صممت Google شريحة مخصصة خاصة بها تسمى Tensor Processing Unit أو TPU. تستخدم هذه الرقائق في أكثر من 90 في المائة من عملها لتدريب الذكاء الاصطناعي ، وهي عملية تركز على تغذية البيانات في النماذج لجعلها مفيدة لمهام مثل الإجابة على الاستفسارات بنص يشبه الإنسان أو إنشاء الصور.
Google TPU هو الآن في جيله الرابع. يوم الثلاثاء ، نشرت Google ورقة علمية توضح بالتفصيل كيفية دمج أكثر من 4000 شريحة معًا في كمبيوتر عملاق باستخدام مفاتيحه الضوئية المطورة خصيصًا للمساعدة في توصيل الأجهزة الفردية.
أصبح تحسين هذه الاتصالات نقطة رئيسية في المنافسة بين الشركات التي تبني حواسيب عملاقة تعمل بالذكاء الاصطناعي لأن ما يسمى بنماذج اللغات الكبيرة تعمل بتقنيات مثل Bard’s Bard أو OpenAI’s ChatGPT. ) OpenAI متضخم ، مما يعني أنه كبير جدًا بحيث لا يمكن تخزينه على شريحة واحدة.
بدلاً من ذلك ، يجب تقسيم النماذج عبر آلاف الشرائح ، والتي يجب أن تعمل معًا لأسابيع أو أكثر لتدريب النموذج. تم تدريب نموذج PaLM من Google ، وهو أكبر نموذج لغوي تم الكشف عنه بشكل عام حتى الآن ، من خلال تقسيمه عبر جهازي كمبيوتر عملاقين بسعة 4000 شريحة على مدار 50 يومًا.
قالت Google إن حواسيبها الفائقة تجعل من السهل إعادة تكوين الاتصالات بين الرقائق أثناء التنقل ، مما يساعد على تجنب المشاكل والتعديل لتحقيق مكاسب في الأداء.
قالت Google عن النظام في منشور مدونة: “تبديل الدوائر يجعل من السهل تجنب فشل المكونات”. تتيح لنا هذه المرونة أيضًا تغيير طوبولوجيا الاتصال بين أجهزة الكمبيوتر العملاقة لتسريع أداء نموذج التعلم الآلي. “
وعلى الرغم من أن Google لم تنشر تفاصيل حاسوبها العملاق حتى الآن ، إلا أنها كانت موجودة وتعمل داخل الشركة منذ عام 2020 في مركز بيانات في ولاية أوكلاهوما الأمريكية.
قالت Google إن الشركة الناشئة (Midjourney) استخدمت النظام لتدريب نموذجها ، والذي ينتج صورًا جديدة بناءً على بعض التعليمات النصية.
في الورقة البحثية ، قالت جوجل إنه بالنسبة للأنظمة ذات الحجم المماثل ، فإن حاسوبها الفائق أسرع بما يصل إلى 1.7 مرة وأكثر كفاءة في استهلاك الطاقة 1.9 مرة من نظام يعتمد على شريحة NVIDIA A100 التي تم إطلاقها في نفس الوقت مع الجيل التالي. الرابع من TPU.
قالت جوجل إنها لم تقارن جيلها الرابع بالشريحة الرئيسية الحالية (H100) من NVIDIA ، لأن هذه الشريحة تم إطلاقها في السوق بعد شريحة جوجل ، وهي مصنوعة بتقنية أحدث.
ألمحت Google إلى أنها قد تعمل على شريحة TPU جديدة تنافس (H100) من Nvidia ، لكنها لم تقدم أي تفاصيل.
