انضم إلى كبار المديرين التنفيذيين في سان فرانسيسكو يومي 11 و 12 يوليو ، لمعرفة كيف يدمج القادة استثمارات الذكاء الاصطناعي ويحسنونها لتحقيق النجاح. يتعلم أكثر
تقوم Anyscale ، البائع التجاري الرائد وراء تقنية توسيع نطاق التعلم الآلي (ML) ، بإطلاق مشروع Aviary الجديد مفتوح المصدر اليوم للمساعدة في تبسيط نشر نموذج لغة كبير مفتوح المصدر (LLM).
هناك عدد متزايد من LLMs مفتوحة المصدر ، بما في ذلك Dolly و LLaMA و Carper AI و LightGPT من أمازون ، إلى جانب العشرات من الآخرين المتاحين مجانًا على Hugging Face. ولكن ، مجرد امتلاك LLM لا يكفي لجعله مفيدًا للمؤسسة – لا يزال النموذج بحاجة إلى نشره فعليًا على البنية التحتية لتمكين الاستدلال واستخدام العالم الحقيقي.
غالبًا ما كان الحصول على نموذج LLM مفتوح المصدر يتم نشره على البنية التحتية عملية مخصصة للتجربة والخطأ حيث يكتشف المطورون موارد الحوسبة الصحيحة ومعلمات التكوين. ليس من السهل أيضًا على المطورين مقارنة نموذج بآخر. هذه بعض التحديات التي يتطلع Anyscale للمساعدة في حلها باستخدام Aviary.
قال روبرت نيشيهارا ، الرئيس التنفيذي لشركة Anyscale ، لموقع VentureBeat: “كل أسبوع ، يتم إطلاق نماذج جديدة مفتوحة المصدر يجربها الناس والتي تعمل على دفع أحدث ما توصلت إليه التكنولوجيا”. “حيث لم يكن هناك الكثير من التقدم وما تخلف في رأينا ، هو البنية التحتية مفتوحة المصدر لتشغيل هذه النماذج فعليًا.”
حدث
تحويل 2023
انضم إلينا في سان فرانسيسكو يومي 11 و 12 يوليو ، حيث سيشارك كبار المسؤولين التنفيذيين في كيفية دمج استثمارات الذكاء الاصطناعي وتحسينها لتحقيق النجاح وتجنب المزالق الشائعة.
سجل الان
كيف يعمل Aviary لتسهيل عمليات نشر LLM مفتوحة المصدر
يبني مشروع Aviary على قمة مشروع Ray مفتوح المصدر مع مجموعة من التحسينات والتكوينات لتسهيل نشر LLM للنماذج مفتوحة المصدر.
يتم استخدام Ray بالفعل على نطاق واسع من قبل المؤسسات الكبيرة للتدريب على النماذج وهي التكنولوجيا التي تستخدمها OpenAI لنماذجها بما في ذلك GPT-3 و GPT-4. الهدف من Aviary هو تمكين مستخدمي LLM مفتوح المصدر تلقائيًا من النشر بسرعة مع التحسينات الصحيحة في المكان.
أوضح نيشيهارا أن هناك العديد من الأشياء المختلفة التي يجب تهيئتها على جانب البنية التحتية ، بما في ذلك نموذج الاستدلال المتوازي عبر العديد من وحدات معالجة الرسومات والتجزئة وتحسينات الأداء. الهدف من Aviary هو الحصول على إعدادات افتراضية مُعدة مسبقًا لأي نظام LLM مفتوح المصدر على Hugging Face. لا يتعين على المستخدمين الخوض في عملية تستغرق وقتًا طويلاً لاكتشاف تكوين البنية التحتية بأنفسهم ؛ القفص يتعامل مع كل ذلك من أجلهم.
يهدف Aviary أيضًا إلى المساعدة في حل تحدي اختيار النموذج. مع تزايد عدد النماذج ، ليس من السهل على أي شخص معرفة أفضل نموذج لحالة استخدام معينة. قال Nishihara أنه من خلال تسهيل نشر LLM مفتوحة المصدر ، فإن Aviary يسهل أيضًا على المؤسسات مقارنة LLMs المختلفة. تتضمن المقارنات التي تم تمكينها عبر Aviary الدقة ووقت الاستجابة والتكلفة.
مع ظهور LLMs جديدة ، ستقوم Aviary بتمكينها بسرعة
كان Aviary في التطوير الخاص في Anyscale خلال الأشهر الثلاثة الماضية. في البداية ، استغرق الأمر بعض الوقت للحصول على التكوين الصحيح لأي LLM مفتوح المصدر ، ولكن ما أصبح واضحًا هو أن هناك أنماطًا مشتركة عبر جميع LLM للنشر.
قال نيشيهارا إنه عندما أصبح LightGPT متاحًا ، تمكنت Aviary من إضافة دعم لها في أقل من خمس دقائق. وأوضح أن هناك عددًا قليلاً من البنى القياسية المختلفة التي تتوافق معها جميع LLM مفتوحة المصدر من حيث كيفية تعاملها مع نموذج التوازي والجوانب الحاسمة الأخرى للنشر.
قال نيشيهارا: “لسنا مضطرين للتعامل مع مئات الحالات الخاصة”. “في الواقع ، عليك فقط التعامل مع كل بنية نموذجية قياسية ومن ثم تندرج جميع LLMs المختلفة في إحدى هذه الفئات.”
بشكل عام ، تتوقع نيشيهارا أن عدد النماذج مفتوحة المصدر سوف ينمو فقط ونتيجة لذلك ، ستصبح مشكلة اختيار النماذج أكثر صعوبة للمنظمات.
وقال “أملنا مع Aviary ، نظرًا لكونها مفتوحة المصدر ، سيتمكن أي شخص من المجتمع يريد ذلك من إضافة نماذج جديدة بسهولة”. “سيسهل ذلك على أي شخص يستخدم Aviary لنشر هذه النماذج دون الحاجة إلى القيام بأي عمل إضافي.”
مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.
اكتشاف المزيد من نص كم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
