كان على هذا المؤسس أن يدرب الذكاء الاصطناعي الخاص به على عدم التعامل مع أشخاص Rickroll

كان فلو كريفيلو يراقب مخرجات مساعدي الذكاء الاصطناعي الذين تصنعهم شركته ليندي عندما لاحظ شيئًا غريبًا. طلبت عميلة جديدة من مساعدتها Lindy AI تقديم فيديو تعليمي يساعدها على فهم أفضل لكيفية استخدام المنصة، واستجابت Lindy بالمثل – عندها علمت Crivello بوجود خطأ ما. لا يوجد فيديو تعليمي.

“لقد رأينا هذا وقلنا: حسنًا، ما نوع الفيديو الذي أرسله؟” وقال كريفيلو لـ TechCrunch: “ثم قلنا، “أوه، هذه مشكلة”.

ال فيديو أرسله الذكاء الاصطناعي للعميل كان الفيديو الموسيقي لأغنية البوب ​​الراقصة لريك آستلي عام 1987 بعنوان “لن أتخلى عنك أبدًا”. بعبارات مألوفة أكثر: حصل العميل على Rickrolled. بواسطة الذكاء الاصطناعي.

Rickrolling عبارة عن ميمات الطعم والتبديل التي يزيد عمرها عن 15 عامًا. في إحدى الحوادث التي أدت إلى انتشار الميم، أصدرت Rockstar Games المقطع الدعائي لـ “Grand Theft Auto IV” الذي حظي بتغطية إعلامية كبيرة على موقعها على الإنترنت، لكن حركة المرور كانت هائلة جدًا لدرجة أن الموقع تعطل. تمكن بعض الأشخاص من تنزيل الفيديو ونشره على مواقع أخرى مثل YouTube، ومشاركة الروابط حتى يتمكن الأشخاص من مشاهدة المقطع الدعائي. لكن أحد مستخدمي 4chan قرر إجراء مزحة ومشاركة الرابط الخاص بأغنية “Never Gonna Give You Up” لريك آستلي. وبعد مرور سبعة عشر عامًا، لا يزال الناس يخدعون أصدقائهم من خلال مشاركة أغنية Astley في لحظات غير مناسبة – والآن حقق الفيديو الموسيقي أكثر من 1.5 مليار مشاهدة على YouTube.

هذه المزحة على الإنترنت منتشرة في كل مكان لدرجة أن نماذج اللغات الكبيرة مثل ChatGPT، التي تشغل ليندي، قد التقطتها حتمًا.

قال كريفيلو: “الطريقة التي تعمل بها هذه النماذج هي أنها تحاول التنبؤ بالتسلسل التالي الأكثر احتمالاً للنص”. “لذلك يبدأ الأمر بقول: “أوه، سأرسل لك مقطع فيديو!” إذن ما هو الأرجح بعد ذلك؟ يوتيوب.كوم. ثم ما الأرجح بعد ذلك؟

أخبر كريفيلو موقع TechCrunch أنه من بين ملايين الردود، لم تتمكن Lindy من عملاء Rickrolled إلا مرتين. ومع ذلك، كان الخطأ ضروريا للتصحيح.

“الشيء الرائع حقًا في هذا العصر الجديد للذكاء الاصطناعي هو أنه لتصحيحه، كل ما كان علي فعله هو إضافة سطر لما نسميه موجه النظام – وهو الموجه المضمن في كل Lindy – وهو يشبه، لا” وقال: “إن الناس يتجولون”.

ويثير خطأ ليندي تساؤلات حول مقدار ثقافة الإنترنت التي سيتم إدراجها في نماذج الذكاء الاصطناعي، حيث يتم تدريب هذه النماذج غالبًا على مساحات كبيرة من الويب. يعد Rickroll العرضي الذي قامت به Lindy أمرًا رائعًا بشكل خاص لأن الذكاء الاصطناعي أعاد إنتاج سلوك المستخدم المحدد للغاية هذا بشكل عضوي، مما أدى إلى الهلوسة. لكن آثار الفكاهة على الإنترنت تتسرب إلى الذكاء الاصطناعي بطرق أخرى، وهو ما تعلمته جوجل بالطريقة الصعبة عندما قامت بترخيص بيانات ريديت لتدريب الذكاء الاصطناعي الخاص بها. كمركز للمحتوى الذي ينشئه المستخدمون – ومعظمه ساخر – انتهى الذكاء الاصطناعي من Google بإخبار المستخدم أنه يمكنك جعل الجبن يلتصق بشكل أفضل بعجينة البيتزا عن طريق إضافة الغراء.

قال كريفيلو: “في حالة جوجل، لم يكن الأمر مجرد اختلاق أشياء”. “لقد كان يعتمد على المحتوى، لكن المحتوى كان سيئًا.”

مع التحسن السريع في LLMs، يعتقد كريفيلو أننا لن نرى الكثير من الزلات مثل هذه في المستقبل. بالإضافة إلى ذلك، يقول كريفيلو إن تصحيح هذه الحوادث أصبح أسهل من أي وقت مضى. في الأيام الأولى لشركة Lindy، إذا لم يتمكن أحد مساعدي الذكاء الاصطناعي من إكمال المهمة التي طلبها المستخدم، فسيقول الذكاء الاصطناعي إنه يعمل عليها ولكنه لن يقوم بتسليم المنتج أبدًا. (ومن الغريب أن هذا يبدو إنسانيًا جدًا.)

قال كريفيلو: “كان من الصعب جدًا علينا تصحيح هذه المشكلة”. “ولكن عندما ظهر GPT-4، أضفنا مطالبة مثل: “إذا طلب منك المستخدم القيام بشيء لا تستطيع القيام به، فما عليك سوى إخباره أنك لا تستطيع القيام بذلك”. وهذا ما أصلح الأمر.”

في الوقت الحالي، الخبر السار هو أن العميل الذي حصل على Rickrolled قد لا يعرف ذلك.

قال: “لا أعرف حتى أن العميل قد رأى ذلك”. “تابعنا الأمر على الفور قائلين: “أوه، هذا هو الرابط الصحيح للفيديو”، ولم يقل العميل أي شيء عن الرابط الأول”.