يقول رئيس أوبن إيه آي إن عصر نماذج الذكاء الاصطناعي العملاقة آخذ في الانتهاء ؛ قد تكون أزمة GPU أحد أسباب ذلك

يقترب عصر نماذج الذكاء الاصطناعي الأكبر من أي وقت مضى من نهايته ، وفقًا لما قاله الرئيس التنفيذي لشركة OpenAI Sam Altman ، حيث تعمل قيود التكلفة وتناقص العوائد على الحد من التوسع المستمر الذي حدد التقدم في هذا المجال.

في حديثه في حدث MIT الأسبوع الماضي ، اقترح ألتمان أن المزيد من التقدم لن يأتي من “النماذج العملاقة العملاقة”. وفقًا لتقرير حديث لـ Wired ، قال ، “أعتقد أننا في نهاية العصر حيث ستكون هذه ، مثل ، نماذج عملاقة ، عملاقة. سنجعلها أفضل بطرق أخرى “.

على الرغم من أن السيد ألتمان لم يستشهد بها بشكل مباشر ، فإن أحد المحركات الرئيسية للمحور من “القياس هو كل ما تحتاجه” هو التكلفة الباهظة وغير المستدامة للتدريب وتشغيل عمليات الرسومات القوية اللازمة لنماذج اللغات الكبيرة (LLMs). على سبيل المثال ، ورد أن ChatGPT تطلب تدريب أكثر من 10000 وحدة معالجة رسومات ، وتتطلب المزيد من الموارد للعمل باستمرار.

تهيمن Nvidia على سوق GPU ، بحصة سوقية تبلغ 88٪ تقريبًا ، وفقًا لأبحاث John Peddie. يمكن أن تكلف أحدث وحدات معالجة الرسومات H100 من Nvidia ، المصممة خصيصًا للذكاء الاصطناعي والحوسبة عالية الأداء (HPC) ، ما يصل إلى 30603 دولارًا لكل وحدة – وأكثر من ذلك على موقع eBay.

قال رونين دار ، الشريك المؤسس والرئيس التنفيذي للتكنولوجيا في Run AI ، وهي منصة تنسيق حوسبة تسرع مبادرات علوم البيانات من خلال تجميع وحدات معالجة الرسومات ، إن تدريب أحدث ماجستير في القانون يمكن أن يتطلب مئات الملايين من الدولارات من الحوسبة.

مع ارتفاع التكاليف بشكل كبير بينما استقرت الفوائد ، تحولت اقتصاديات الحجم ضد النماذج الأكبر من أي وقت مضى. سيأتي التقدم بدلاً من ذلك من تحسين هياكل النماذج ، وتعزيز كفاءة البيانات ، وتطوير تقنيات الخوارزمية بما يتجاوز مقياس النسخ واللصق. أخيرًا يقترب عصر البيانات غير المحدودة والحوسبة وحجم النموذج الذي أعاد إنشاء الذكاء الاصطناعي على مدار العقد الماضي من نهايته.

“الجميع وكلبهم يشتريون وحدات معالجة الرسومات”

في مقابلة حديثة مع Twitter Spaces ، أكد Elon Musk مؤخرًا أن شركته Tesla و Twitter تشتري الآلاف من وحدات معالجة الرسومات لتطوير شركة AI جديدة تسمى الآن رسميًا X.ai.

قال ماسك: “يبدو أن الجميع وكلبهم يشترون وحدات معالجة الرسومات في هذه المرحلة”. “يشتري Twitter و Tesla بالتأكيد وحدات معالجة الرسومات.”

وأشار دار إلى أن وحدات معالجة الرسومات هذه قد لا تكون متاحة عند الطلب. حتى بالنسبة لموفري الخدمات السحابية الفائقة السرعة مثل Microsoft و Google و Amazon ، فقد يستغرق الأمر أحيانًا شهورًا – لذلك تحجز الشركات حق الوصول إلى وحدات معالجة الرسومات. قال: “سيتعين على Elon Musk الانتظار للحصول على 10000 وحدة معالجة رسومات”.

تواصل VentureBeat مع Nvidia للحصول على تعليق على أحدث عملية شراء GPU من Elon Musk ، لكن لم يتلق ردًا.

ليس فقط عن وحدات معالجة الرسومات

لا يتفق الجميع على أن أزمة وحدة معالجة الرسومات تقع في صميم تعليقات ألتمان. قال Aidan Gomez ، الشريك المؤسس والرئيس التنفيذي لشركة Cohere ، التي تتنافس مع OpenAI في مجال LLM: “أعتقد أنها متأصلة بالفعل في ملاحظة فنية على مدار العام الماضي أننا قد صنعنا نماذج أكبر من اللازم”.

ذكرت مقالة TechCrunch عن حدث MIT أن Altman يرى الحجم على أنه “قياس خاطئ لجودة النموذج”.

“أعتقد أنه كان هناك الكثير من التركيز على عدد المعلمات ، وربما يتجه عدد المعلمات بالتأكيد. لكن هذا يذكرني كثيرًا بسباق الجيجاهيرتز في الرقائق في التسعينيات والعقد الأول من القرن الحادي والعشرين ، حيث كان الجميع يحاولون الإشارة إلى رقم كبير ، “قال ألتمان.

ومع ذلك ، فإن حقيقة أن Elon Musk قد اشترى للتو 10000 وحدة معالجة رسومات (GPU) على مستوى مركز البيانات يعني أن الوصول إلى وحدات معالجة الرسومات (GPU) هو كل شيء في الوقت الحالي. ونظرًا لأن هذا الوصول مكلف للغاية ويصعب الحصول عليه ، فهذه بالتأكيد أزمة للجميع باستثناء الشركات التي تركز على الذكاء الاصطناعي. وحتى جيوب أوبن إيه آي تتعمق فقط. حتى أنهم ، كما اتضح ، قد يضطرون في النهاية إلى النظر في اتجاه جديد.