تطلق Nvidia NIM لتسهيل نشر نماذج الذكاء الاصطناعي في الإنتاج

في مؤتمر GTC الخاص بها، أعلنت Nvidia اليوم عن Nvidia NIM، وهي منصة برمجية جديدة مصممة لتبسيط نشر نماذج الذكاء الاصطناعي المخصصة والمدربة مسبقًا في بيئات الإنتاج. يأخذ NIM العمل البرمجي الذي قامت به Nvidia حول الاستدلال وتحسين النماذج ويجعل الوصول إليه سهلاً من خلال الجمع بين نموذج معين ومحرك الاستدلال المحسن ثم تجميعه في حاوية، مما يجعل الوصول إليه كخدمة صغيرة.

عادةً ما يستغرق الأمر من المطورين أسابيع – إن لم يكن أشهر – لشحن حاويات مماثلة، كما تقول Nvidia – وهذا إذا كانت الشركة لديها أي موهبة داخلية في مجال الذكاء الاصطناعي. من خلال NIM، تهدف Nvidia بوضوح إلى إنشاء نظام بيئي للحاويات الجاهزة للذكاء الاصطناعي والتي تستخدم أجهزتها كطبقة أساسية مع هذه الخدمات الصغيرة المنسقة كطبقة برمجية أساسية للشركات التي ترغب في تسريع خارطة طريق الذكاء الاصطناعي الخاصة بها.

يتضمن NIM حاليًا دعمًا لنماذج من NVIDIA وA121 وAdept وCohere وGetty Images وShutterstock بالإضافة إلى نماذج مفتوحة من Google وHugging Face وMeta وMicrosoft وMistral AI وStability AI. تعمل Nvidia بالفعل مع Amazon وGoogle وMicrosoft لإتاحة خدمات NIM الصغيرة هذه على SageMaker وKubernetes Engine وAzure AI على التوالي. سيتم أيضًا دمجها في أطر عمل مثل Deepset وLangChain وLlamaIndex.

“نحن نعتقد أن وحدة معالجة الرسومات Nvidia هي أفضل مكان لإجراء الاستدلال على هذه النماذج […]، ونحن نعتقد أن NVIDIA NIM هي أفضل حزمة برامج، وأفضل وقت تشغيل، للمطورين للبناء عليها حتى يتمكنوا من التركيز على تطبيقات المؤسسة – واترك Nvidia تقوم بالعمل لإنتاج هذه النماذج لهم بأفضل طريقة وقال مانوفير داس، رئيس حوسبة المؤسسات في Nvidia، خلال مؤتمر صحفي قبل إعلانات اليوم: “بطريقة فعالة على مستوى المؤسسات، حتى يتمكنوا من القيام ببقية عملهم”.

أما بالنسبة لمحرك الاستدلال، فستستخدم Nvidia خادم Triton Inference Server وTensorRT وTensorRT-LLM. ستشمل بعض خدمات Nvidia الصغيرة المتاحة من خلال NIM Riva لتخصيص نماذج الكلام والترجمة، وcuOpt لتحسين التوجيه، ونموذج Earth-2 لمحاكاة الطقس والمناخ.

وتخطط الشركة لإضافة إمكانات إضافية بمرور الوقت، بما في ذلك، على سبيل المثال، إتاحة مشغل Nvidia RAG LLM كـ NIM، مما يعد بجعل إنشاء روبوتات دردشة مولدة تعمل بالذكاء الاصطناعي يمكنها سحب البيانات المخصصة أسهل كثيرًا.

لن يكون هذا مؤتمرًا للمطورين بدون بعض إعلانات العملاء والشركاء. من بين مستخدمي NIM الحاليين هناك أمثال Box وCloudera وCohesity وDatastax وDropbox.
و نت اب.

قال جنسن هوانغ، المؤسس والرئيس التنفيذي لشركة NVIDIA: “تمتلك منصات المؤسسات القائمة منجم ذهب من البيانات التي يمكن تحويلها إلى مساعدين ذكاء اصطناعي منتجين. “تم إنشاء خدمات الذكاء الاصطناعي المصغرة هذه بالتعاون مع النظام البيئي الشريك لنا، وهي بمثابة اللبنات الأساسية للمؤسسات في كل صناعة لتصبح شركات ذكاء اصطناعي.”