Letta، إحدى الشركات الناشئة الأكثر انتظارًا في مجال الذكاء الاصطناعي في جامعة كاليفورنيا في بيركلي، خرجت للتو من حالة التخفي

ظهرت للتو شركة ناشئة تدعى Letta من التخفي باستخدام تقنية تساعد نماذج الذكاء الاصطناعي على تذكر المستخدمين والمحادثات. تم إنشاؤها في مصنع Labs الشهير التابع لجامعة كاليفورنيا في بيركلي، وأعلنت أيضًا عن 10 ملايين دولار أمريكي كأموال أولية بقيادة أستازيا مايرز من فيليسيس، بتقييم ما بعد النقد بقيمة 70 مليون دولار أمريكي.

تحظى Letta أيضًا بدعم نخبة من المستثمرين الملائكيين في مجال الذكاء الاصطناعي، مثل جيف دين من Google، وكليم ديلانج من Hugging Face، وكريستوبال فالينزويلا من Runway، وروبرت نيشيهارا من Anyscale، وغيرهم.

أسسها طالبا الدكتوراه في جامعة بيركلي، سارة وودرز وتشارلز باكر، وهو إطلاق متوقع للغاية لشركة ناشئة في مجال الذكاء الاصطناعي. وذلك لأنه تابع لـ Sky Computing Lab في بيركلي وهو الكيان التجاري لمشروع MemGPT الشهير مفتوح المصدر.

إن Sky Computing Lab في بيركلي، بقيادة البروفيسور المشهور والمؤسس المشارك لـ Databricks أيون ستويكا، هو سليل RISELab وAMPLab، اللذين أفرزا شركات مثل Anyscale، وDatabricks، وSiFive. أنشأت Sky Lab، على وجه الخصوص، العديد من مشاريع نماذج اللغات الكبيرة مفتوحة المصدر (LLM) الشهيرة مثل Gorilla LLM وvLLM وLLM المهيكلة SGLang.

«خرجت من المختبر الكثير من المشاريع بسرعة كبيرة، خلال إطار زمني مدته عام واحد. وصف وودرز: “فقط أشخاص يجلسون بجانبنا”. “لذا فقد كان وقتًا رائعًا.”

يعد MemGPT أحد هذه المشاريع وهو سلعة رائجة لدرجة أنها انتشرت بالفعل قبل إطلاقها.

قال باكر لـ TechCrunch: “لقد حصدنا شخص ما”. نشر المؤسسون ورقة عمل يوم الخميس 12 أكتوبر 2023، ويخططون لإصدار ورقة أكثر تعمقًا والكود إلى GitHub يوم الاثنين التالي. عثر شخص عشوائي على الورقة، ونشرها على Hacker News يوم الأحد، و”انتشرت على نطاق واسع على Hacker News قبل أن تتاح لنا الفرصة لإصدار الكود بشكل صحيح، أو إصدار الورقة، أو القيام بسلسلة تغريدات أو أي شيء من هذا القبيل”. قال.

كان سبب الإثارة هو أن MemGPT يخفف من مشكلة ضارة بالنسبة إلى LLM: في شكلها الأصلي، تكون النماذج مثل ChatGPT عديمة الحالة، مما يعني أنها لا تخزن البيانات التاريخية في الذاكرة طويلة المدى. يمثل هذا مشكلة بالنسبة لتطبيقات الذكاء الاصطناعي التي تعتمد على التعرف على المستخدم والتعلم منه بمرور الوقت – كل شيء بدءًا من روبوتات دعم العملاء إلى تطبيقات تتبع أعراض الرعاية الصحية. يقوم MemGPT بإدارة البيانات والذاكرة حتى يتمكن وكلاء الذكاء الاصطناعي وروبوتات الدردشة من تذكر المستخدمين والمحادثات السابقة.

روى باكر أن المنشور ظل على قمة موقع Hacker News، الموقع الشهير للمبرمجين الذي تديره شركة Y Combinator، لمدة 48 ساعة. لذلك أمضى عطلة نهاية الأسبوع والأيام القليلة التالية في الإجابة على الأسئلة الموجودة على الموقع أثناء محاولته تجهيز الكود للإصدار. بمجرد أن أصبح المشروع متاحًا على GitHub، انتشر رابط له على موقع Hacker News مرة أخرى. المقابلات والبرامج التعليمية على YouTube، والمشاركات المتوسطة، و11000 نجمة، و1.2 ألف شوكة على GitHub، حدثت بسرعة.

اكتشف مايرز من شركة VC Felicis شركة Wooders and Packer من خلال القراءة عن MemGPT أيضًا، وتعرف على الفور على الإمكانيات التجارية لهذه التقنية.

وقالت لـ TechCrunch: “لقد رأيت الورقة عندما تم إصدارها”، وتواصلت على الفور مع المؤسسين. “كان لدينا موضوع استثماري حول البنية التحتية لوكلاء الذكاء الاصطناعي وقدرنا أن العنصر المهم حقًا في ذلك هو إدارة البيانات والذاكرة لجعل روبوتات الدردشة التحادثية ووكلاء الذكاء الاصطناعي فعالة.”

لا يزال المؤسسون يتجولون فعليًا حول طريق Sand Hill Road لإجراء مكالمات Zoom مع أصحاب رأس المال الاستثماري قبل الذهاب مع الشخص الذي أحبهم أولاً.

وفي الوقت نفسه، توسطت ستويكا في تقديم دين ونيشيهارا وغيرهما من ملائكة وادي السيليكون ذوي الأسماء الكبيرة. يتذكر باكر مدى سهولة عملية المستثمر الملائكي قائلاً: “إن الكثير من الأساتذة في بيركلي، نتيجة لوجودهم في بيركلي، يتمتعون بعلاقات جيدة للغاية”. “إنهم يضعون أعينهم على مشاريع خارج هذا المختبر والتي سيتم تسويقها تجاريًا.”

المنافسة والتهديد من OpenAI o1

في حين أن MemGPT موجود بالفعل ويتم استخدامه، فإن البديل التجاري لـ Letta، Letta Cloud، ليس مفتوحًا للعمل بعد. اعتبارًا من يوم الاثنين، تقبل Letta طلبات مستخدمي النسخة التجريبية. ستقدم خدمة وكيل مستضافة تسمح للمطورين بنشر وتشغيل الوكلاء ذوي الحالة في السحابة، ويمكن الوصول إليهم عبر REST APIs، وهي واجهة برمجة يمكنها الحفاظ على الحالة. ستقوم Letta Cloud بتخزين البيانات طويلة المدى اللازمة للقيام بذلك. ستقدم Letta أيضًا أدوات المطورين لبناء وكلاء الذكاء الاصطناعي.

مع MemGPT، يرى وودرز نطاقًا واسعًا من الاستخدامات. وتقول: “أعتقد أن حالة الاستخدام الأولى التي نراها هي في الأساس برامج محادثة شخصية للغاية وجذابة للغاية”. ولكن هناك أيضًا استخدامات متطورة مثل “روبوت الدردشة لمرضى السرطان” حيث يقوم المرضى بتحميل تاريخهم ثم مشاركة الأعراض المستمرة حتى يتمكن الروبوت من التعلم وتقديم التوجيه بمرور الوقت.

تجدر الإشارة إلى أن MemGPT ليست وحدها التي تعمل على هذا الأمر. ربما تكون LangChain هي المنافس الأكثر شهرة لها، وهي تقدم بالفعل خيارات تجارية. يقدم أكبر صانعي النماذج أيضًا أدوات صنع وكيل الذكاء الاصطناعي أيضًا، مثل OpenAI’s Assistants API.

وقد يجعل نموذج o1 الجديد من OpenAI الحاجة إلى إصلاح الحالة نقطة خلافية لمستخدميه. وبما أنه نموذج متعدد الخطوات، فإنه يجب عليه بشكل أساسي الحفاظ على الحالة إلى حد ما من أجل “التفكير” والتحقق من الحقائق قبل الرد.

لكن وودرز وباكر ومايرز يرون بعض الاختلافات الرئيسية بين ما تقدمه Letta مقابل ما تفعله شركة OpenAI لسوق الغوريلا التي يبلغ وزنها 800 رطل. تدعي شركة Letta أنها ستعمل مع أي نموذج من نماذج الذكاء الاصطناعي، وتتوقع أن يستخدم مستخدموها العديد منها: OpenAI، وAnthropic، وMinstrel، ونماذجهم المحلية الخاصة. تعمل تقنية OpenAI حاليًا مع نفسها فقط.

والأهم من ذلك، أن Letta تستخدم MemGPT مفتوح المصدر وتقفز بقوة إلى جانب المصدر المفتوح في نقاش البرمجيات الحرة والمفتوحة المصدر مقابل الصندوق الأسود LLM، قائلة إن المصدر المفتوح هو خيار أفضل لمبرمجي تطبيقات الذكاء الاصطناعي.

يقول باكر: “نحن نضع أنفسنا كبديل مفتوح لـ OpenAI”. “أعتقد أنه من الصعب جدًا في الواقع إنشاء تطبيقات ذكاء اصطناعي جيدة جدًا، خاصة عندما تهتم بأمر ما، مثل الهلوسة، إذا كنت لا تستطيع رؤية ما يحدث تحت الغطاء.”