تقوم شركة Character AI بإنهاء تجربة chatbot للأطفال

يحاول المراهقون معرفة المكان المناسب لهم في عالم يتغير بشكل أسرع من أي جيل سبقهم. إنهم مليئون بالعواطف، ومفرطون في التحفيز، ومتصلون بالإنترنت بشكل مزمن. والآن، أعطتهم شركات الذكاء الاصطناعي روبوتات الدردشة المصممة بحيث لا تتوقف أبدًا عن التحدث. وكانت النتائج كارثية.

إحدى الشركات التي تتفهم هذه التداعيات هي شركة Character.AI، وهي شركة ناشئة لتمثيل الأدوار في مجال الذكاء الاصطناعي تواجه دعاوى قضائية وغضبًا عامًا بعد وفاة مراهقين على الأقل بسبب الانتحار بعد محادثات مطولة مع روبوتات الدردشة المدعمة بالذكاء الاصطناعي على منصتها. الآن، تقوم شركة Character.AI بإجراء تغييرات على نظامها الأساسي لحماية المراهقين والأطفال، وهي تغييرات قد تؤثر على النتيجة النهائية للشركة الناشئة.

قال كارانديب أناند، الرئيس التنفيذي لشركة Character.AI، لـ TechCrunch: “أول شيء قررناه كشخصية Character.AI هو أننا سنزيل قدرة المستخدمين الذين تقل أعمارهم عن 18 عامًا على المشاركة في أي محادثات مفتوحة مع الذكاء الاصطناعي على منصتنا”.

تشير المحادثة المفتوحة إلى المراسلات غير المقيدة التي تحدث عندما يقوم المستخدمون بإعطاء برنامج الدردشة الآلي مطالبة ويستجيب بأسئلة متابعة يقول الخبراء إنها مصممة للحفاظ على تفاعل المستخدمين. يقول أناند إن هذا النوع من التفاعل – حيث يعمل الذكاء الاصطناعي كشريك محادثة أو صديق بدلاً من كونه أداة إبداعية – لا يشكل خطراً على الأطفال فحسب، بل يتعارض مع رؤية الشركة.

تحاول الشركة الناشئة التحول من “رفيق الذكاء الاصطناعي” إلى “منصة لعب الأدوار”. بدلاً من الدردشة مع صديق يعمل بالذكاء الاصطناعي، سيستخدم المراهقون المطالبات لإنشاء قصص بشكل تعاوني أو إنشاء صور مرئية. بمعنى آخر، الهدف هو تحويل المشاركة من المحادثة إلى الإبداع.

ستقوم شركة Character.AI بالتخلص التدريجي من إمكانية الوصول إلى برامج الدردشة للمراهقين بحلول 25 نوفمبر، بدءًا من الحد اليومي لمدة ساعتين والذي يتقلص تدريجيًا حتى يصل إلى الصفر. ولضمان استمرار هذا الحظر مع المستخدمين الذين تقل أعمارهم عن 18 عامًا، ستنشر المنصة أداة داخلية للتحقق من العمر تحلل سلوك المستخدم، بالإضافة إلى أدوات خارجية مثل Persona. وقال أناند إنه إذا فشلت هذه الأدوات، فسوف تستخدم شركة Character.AI تقنية التعرف على الوجه والتحقق من الهوية للتحقق من الأعمار.

وتأتي هذه الخطوة في أعقاب إجراءات حماية أخرى للمراهقين نفذتها شركة Character.AI، بما في ذلك تقديم أداة رؤى الوالدين، والشخصيات التي تمت تصفيتها، والمحادثات الرومانسية المحدودة، وإشعارات الوقت المنقضي. أخبر أناند موقع TechCrunch أن هذه التغييرات فقدت الشركة الكثير من قاعدة المستخدمين تحت سن 18 عامًا، ويتوقع أن لا تحظى هذه التغييرات الجديدة بشعبية مماثلة.

وقال أناند: “من الآمن أن نفترض أن الكثير من مستخدمينا المراهقين ربما سيصابون بخيبة أمل… لذلك نتوقع حدوث المزيد من التغيير”. “من الصعب التكهن – هل ستنتهي جميعها بالكامل أم سينتقل بعضها إلى هذه التجارب الجديدة التي قمنا ببناءها منذ ما يقرب من سبعة أشهر حتى الآن؟”

كجزء من حملة Character.AI لتحويل النظام الأساسي من تطبيق يركز على الدردشة إلى “منصة اجتماعية كاملة تعتمد على المحتوى”، أطلقت الشركة الناشئة مؤخرًا العديد من الميزات الجديدة التي تركز على الترفيه.

في شهر يونيو، طرحت شركة Character.AI برنامج AvatarFX، وهو نموذج لتوليد الفيديو يحول الصور إلى مقاطع فيديو متحركة؛ المشاهد عبارة عن قصص تفاعلية معدة مسبقًا حيث يمكن للمستخدمين الدخول في السرد مع شخصياتهم المفضلة؛ والتدفقات، وهي ميزة تسمح بالتفاعلات الديناميكية بين أي شخصيتين. في أغسطس، أطلقت Character.AI موجز المجتمع، وهو موجز اجتماعي حيث يمكن للمستخدمين مشاركة شخصياتهم ومشاهدهم ومقاطع الفيديو والمحتويات الأخرى التي يقومون بإنشائها على النظام الأساسي.

وفي بيان موجه للمستخدمين الذين تقل أعمارهم عن 18 عامًا، اعتذرت شركة Character.AI عن التغييرات.

وجاء في البيان: “نحن نعلم أن معظمكم يستخدم Character.AI لزيادة إبداعك بطرق تظل ضمن حدود قواعد المحتوى الخاصة بنا”. “نحن لا نتخذ هذه الخطوة المتمثلة في إزالة الدردشة الشخصية المفتوحة باستخفاف – ولكننا نعتقد أن هذا هو الشيء الصحيح الذي ينبغي القيام به في ضوء الأسئلة التي أثيرت حول كيفية تفاعل المراهقين مع هذه التكنولوجيا الجديدة، وكيف ينبغي لهم أن يتفاعلوا معها.”

قال أناند: “نحن لن نغلق التطبيق لمن تقل أعمارهم عن 18 عامًا”. “نحن نغلق الدردشات المفتوحة فقط للأشخاص الذين تقل أعمارهم عن 18 عامًا لأننا نأمل أن يهاجر المستخدمون الذين تقل أعمارهم عن 18 عامًا إلى هذه التجارب الأخرى، وأن تتحسن هذه التجارب بمرور الوقت. لذا، فإننا نضاعف ألعاب الذكاء الاصطناعي، ومقاطع الفيديو القصيرة للذكاء الاصطناعي، وسرد القصص باستخدام الذكاء الاصطناعي بشكل عام. هذا هو الرهان الكبير الذي نتخذه لإعادة الأشخاص الأقل من 18 عامًا إذا تراجعوا”.

واعترف أناند بأن بعض المراهقين قد يتدفقون على منصات الذكاء الاصطناعي الأخرى، مثل OpenAI، التي تسمح لهم بإجراء محادثات مفتوحة مع روبوتات الدردشة. كما تعرضت OpenAI لانتقادات مؤخرًا بعد أن انتحر مراهق بعد محادثات طويلة مع ChatGPT.

قال أناند: “آمل حقًا أن نقود الطريق إلى وضع معيار في الصناعة مفاده أن الدردشات المفتوحة بالنسبة لمن تقل أعمارهم عن 18 عامًا ربما لا تكون المسار أو المنتج الذي يجب تقديمه”. “بالنسبة لنا، أعتقد أن المقايضات هي الصحيحة. لدي طفلة تبلغ من العمر ست سنوات، وأريد التأكد من أنها تنمو في بيئة آمنة للغاية مع الذكاء الاصطناعي بطريقة مسؤولة.”

تتخذ شركة Character.AI هذه القرارات قبل أن يفرض المنظمون يدها. يوم الثلاثاء، قال السيناتور جوش هاولي (جمهوري من ولاية ميسوري) وريتشارد بلومنثال (ديمقراطي من ولاية كونيتيكت) إنهما سيقدمان تشريعًا لمنع إتاحة مرافق الدردشة الآلية للقاصرين، بعد شكاوى من الآباء الذين قالوا إن المنتجات دفعت أطفالهم إلى محادثات جنسية، وإيذاء النفس، والانتحار. في وقت سابق من هذا الشهر، أصبحت كاليفورنيا أول ولاية تنظم روبوتات الدردشة المصاحبة للذكاء الاصطناعي من خلال مساءلة الشركات إذا فشلت روبوتات الدردشة الخاصة بها في تلبية معايير السلامة التي يفرضها القانون.

بالإضافة إلى تلك التغييرات على المنصة، قالت شركة Character.AI إنها ستقوم بإنشاء وتمويل مختبر سلامة الذكاء الاصطناعي، وهو منظمة غير ربحية مستقلة مخصصة لابتكار محاذاة السلامة لميزات الترفيه المستقبلية للذكاء الاصطناعي.

وقال أناند: “يتم تنفيذ الكثير من العمل في الصناعة بشأن البرمجة والتطوير وحالات الاستخدام الأخرى”. “لا نعتقد أن هناك ما يكفي من العمل حتى الآن في مجال الترفيه الذي يعمل به الذكاء الاصطناعي، وستكون السلامة أمرًا بالغ الأهمية لذلك.”