IBM وNvidia وBloomberg يروجون لـ KServe ليصبح مشروع حضانة لمؤسسة LF AI & Data Foundation

أعلنت شركة IBM وبلومبرج يوم الخميس أن KServe ينضم إلى LF AI & Data Foundation كأحدث مشروع حضانة لها. يوفر KServe تعريف موارد Kubernetes المخصص لخدمة نماذج التعلم الآلي في أطر عمل عشوائية ويدعم العديد من منتجات IBM، بما في ذلك Watson Assistant.

تعاونت Bloomberg وGoogle وIBM وNvidia وSeldon ومنظمات أخرى مع مجتمع مشروع KServe لإصداره ونشره كمصدر مفتوح.

وفي تدوينة، قال أنيميش سينغ من شركة IBM ودان صن وأليكسا جريفيث من بلومبرج إنهم يتحدثون نيابة عن مجتمع KServe و أشادت مؤسسة LF AI & Data Foundation بعملها في "بناء نظام بيئي للحفاظ على الابتكار في الذكاء الاصطناعي والبيانات مفتوحة المصدر المشاريع."

وفقًا للشركات، تهدف KServe إلى حل نموذج الإنتاج الذي يخدم حالات الاستخدام من خلال توفير الأداء، واجهات تجريد عالية لأطر تعلم الآلة الشائعة مثل TensorFlow وXGBoost وScikit-learn وPyTorch و اونكس.

"يلخص KServe مدى تعقيد القياس التلقائي والشبكات والتحقق من الصحة وتكوين الخادم يمكنك جلب ميزات العرض المتطورة مثل GPU Autoscaling، وScale to Zero، وCanary Rollouts إلى ML لديك عمليات النشر. وقال سينغ وصن وجريفيث: "إنها تتيح قصة بسيطة وقابلة للتوصيل وكاملة لخدمة إنتاج التعلم الآلي، بما في ذلك التنبؤ والمعالجة المسبقة والمعالجة اللاحقة وقابلية الشرح".

وقال أنيميش سينغ، مدير التكنولوجيا التنفيذي ومدير Watson AI في IBM، إن الشركة هي أحد مؤسسي ومتبني KServe. وقال سينغ إن مئات الآلاف من النماذج تعمل بشكل متزامن لتطبيقات الذكاء الاصطناعي على نطاق الإنترنت مثل IBM Watson Assistant وIBM Watson Natural Language فهم.

أيضًا: بعد 100 يوم من انقسام IBM، وقعت Kyndryl اتفاقية سحابية استراتيجية مع AWS

وأضاف سينغ أن ModelMesh من شركة IBM، مفتوح المصدر ومتوفر كجزء من مشروع KServe، يحل تحدي التكاليف الباهظة إدارة الحاويات، مما يسمح لهم فعليًا بتشغيل مئات الآلاف من النماذج في عملية نشر إنتاجية واحدة بأقل قدر ممكن اثار.

وأوضح باريش خاريا، المدير الأول لإدارة المنتجات للحوسبة المسرّعة في Nvidia، أن خادم Nvidia Triton Inference Server يعمل في خطوة متزامنة مع KServe لتغليف التعقيد في نشر وتوسيع نطاق الذكاء الاصطناعي في Kubernetes من خلال الاستدلال بدون خادم نطاق.

وقال خاريا: "تواصل Nvidia كونها مساهمًا نشطًا في مشروع مجتمع KServe مفتوح المصدر لدعم النشر السهل لنماذج التعلم الآلي للذكاء الاصطناعي على نطاق واسع".

وتساعد KServe أيضًا شركة Bloomberg على توسيع استخدامها للذكاء الاصطناعي في Bloomberg Terminal وغيرها من منتجات المؤسسات، وفقًا لرئيس قسم هندسة الذكاء الاصطناعي في Bloomberg Anju Kambadur. وأوضح كامبادور أن بلومبرج تريد الانتقال بسرعة من الفكرة إلى النموذج الأولي إلى الإنتاج وتحتاج إلى التأكد من أن النماذج تتطور بسلاسة بمجرد بنائها لاستيعاب التغييرات في البيانات.

"هذا مهم ليس فقط لبناء منتجات أفضل بشكل أسرع، ولكن أيضًا لضمان أننا نفتحها الإمكانات الإبداعية لباحثينا في مجال الذكاء الاصطناعي دون تحميلهم أعباء كتابة الكثير من النماذج النموذجية شفرة. وقال كامبادور: "في هذا الصدد، أنا متحمس وممتن على حد سواء لأن KServe، التي ساعدت بلومبرج في تأسيسها وقيادتها لتطويرها، اتخذت مثل هذه الخطوات".

وأضاف مارك وينتر، مهندس البرمجيات في محرك البحث الكوري الجنوبي الشهير Naver Search، أن KServe سمح لهم بالتحديث البنية التحتية لخدمة الذكاء الاصطناعي الخاصة بهم وتوفير الأدوات اللازمة للتعامل مع اختلافات حجم حركة المرور بين النهار والليل دورات.

"من خلال توفير واجهة موحدة أعلى Knative وKubernetes، تتيح KServe لباحثي الذكاء الاصطناعي لدينا التركيز على إنشاء نماذج أفضل ويضعون عملهم الشاق في الإنتاج دون أن يصبحوا خبراء في تقديم وإدارة الخدمات الخلفية المتوفرة بشكل كبير،" وينتر قال.

ويأتي هذا الإعلان قبل إصدار KServe 0.8، والذي قال متحدث باسمه إنه سيحتوي على ميزات مثل خدمة ServingRuntime المخصصة الجديدة المورد، وتسوية مساحات الأسماء المتعددة ModelMesh، ودعم CloudEvent وgRPC المحسّن، وتكامل KServe v2 REST API مع TorchServe.

وفقًا للمتحدث الرسمي، تتميز خريطة الطريق للإصدار 1.0 بواجهة برمجة التطبيقات (API) المستقرة التي توحد ModelMesh والنموذج الفردي الذي يخدم عمليات النشر وقدرات الرسم البياني الاستدلالي الأكثر تقدمًا.