هل أنت أكثر سوادًا من ChatGPT؟ خذ هذا الاختبار لمعرفة

قامت وكالة الإعلانات الإبداعية McKinney بتطوير لعبة مسابقة تسمى “هل أنت أكثر سوادًا من ChatGPT؟” لتسليط الضوء على تحيز الذكاء الاصطناعي.

تختبر اللعبة معرفة الشخص بثقافة السود مقابل ما تم تدريب ChatGPT لمعرفته عن مجتمع السود. فهو يطرح أسئلة مثل، “ماذا يعني عندما يقول شخص ما: “ليس هناك الكثير عليهم الآن؟” و”ما هو ردك إذا تمت دعوتك إلى حدث ما؟” عندما شاركت في الاختبار، حصلت أنا وChatGPT على الإجابة الأولى بشكل صحيح – عندما يقول شخص ما “ليس كثيرًا عليهم”، فهذا يعني عادةً التساهل معهم. لكن ChatGPT فشل عندما يتعلق الأمر بالثانية. عندما يدعوك شخص ما إلى حدث ما، فإن الاستجابة النمطية في مجتمع السود هي: “من سيكون هناك أيضًا؟” لكن ChatGPT قال: “شكرًا على الدعوة!”

“إنه أمر مثير للاهتمام لأنه يوصف بأنه هذا الروبوت الذي يعرف كل شيء، ومن الواضح أنك لا تعرف كل شيء، خاصة عندما يتعلق الأمر بالأشياء التي لا تخص البيض،” ميغان وودز، مؤلفة الإعلانات في ماكيني وأحد الباحثين قال منشئو اللعبة لـ TechCrunch.

وقال وودز إن فكرة الاختبار جاءت العام الماضي خلال عملية عصف ذهني إبداعي في ماكيني. لقد استغرق الأمر عامًا بالنسبة لـ Woods وفريق بقيادة Black لإنشاء هذا المنتج، بهدف الإشارة بشكل هزلي إلى مدى ابتعاد ChatGPT عن المستخدمين السود. وأشارت إلى أن النقطة العمياء في ChatGPT يبدو أنها تنبع من حقيقة أن الكثير من العناصر الثقافية السوداء لا يتم توثيقها بالضرورة عبر الإنترنت؛ بل يتم نقلها شخصيًا أو شفهيًا عبر الأجيال. وهذا يعني أن الخوارزمية الخاصة بها تفتقد الكثير من الفروق الدقيقة عند تصفح الإنترنت للحصول على معلومات حول الأشخاص السود.

وقال وودز: “النقاط العمياء يمكن أن تكون مزعجة للغاية”. “إنه أمر خطير للغاية.”

قد يكون الذكاء الاصطناعي في خط ساخن، لكن النساء والبنائين السود والبني والمؤسسين في هذا المجال تحدثوا منذ فترة طويلة عن تجاهلهم أو إقصائهم جانبًا. والنتيجة هي أن ابتكار الذكاء الاصطناعي يتم بناؤه دون البصيرة الثقافية والتعقيدات التي تجعله مناسبًا للثقافات المختلفة. وفي أقصى حالاته، فإن ندرة التنوع تعني أن السيارات يتم تطويرها باستخدام الذكاء الاصطناعي الذي لا يمكنه اكتشاف البشرة السوداء، مما يؤدي إلى عدد متزايد من الحوادث. على الطرف الآخر، فهو يعني ببساطة صندوق دردشة لا يمكنه التمييز بين أغنية لويتني هيوستن وأخرى.

قال جيرالد كارتر، مؤسس شركة Destined AI، وهي شركة تساعد في اكتشاف وتخفيف تحيز الذكاء الاصطناعي، إن اختبار ماكيني يقوم بعمل جيد في إضفاء المزيد من الوعي على فجوات الذكاء الاصطناعي هذه. وقال: “يمكن معالجة الكثير من الفروق الدقيقة من خلال تضمين وجهات نظر متنوعة على كل المستويات”. “لكي يصل الذكاء الاصطناعي إلى إمكاناته الكاملة، فإنه يحتاج إلى العمل من أجل الجميع، في كل مكان.”

تلقت شركة OpenAI، الشركة الأم لـ ChatGPT، انتقادات بسبب قلة التنوع في مجلس إدارتها. وقال وودز إنه لا يبدو أن ChatGPT يتعلم من الاختبار أيضًا، استنادًا إلى حقيقة أنه يستمر في الحصول على نفس الإجابات الخاطئة في كثير من الحالات. “فرضيتنا هي أنها لن تكون قادرة على فهم الكثير من الأشياء التي نطلبها منها بشكل كامل.”

لقد تواصلنا مع OpenAI للتعليق وسنقوم بتحديث هذا المنشور عندما نسمع الرد.

وقال كارتر إن ChatGPT يمكن أن يعمل بشكل أفضل مع المزيد من الثقافات من خلال مصادر أفضل وجمع بيانات أكثر شمولاً. يتمثل النهج الأكثر إلحاحًا في مراقبة انحراف نموذج الذكاء الاصطناعي وإجراء التحسينات باستخدام الأدوات التي تركز على المنظورات الثقافية.

في حين تعمل الشركات الكبرى على جعل الذكاء الاصطناعي مفيدًا للجميع، فقد أخذ المصممون ذوو البشرة السوداء والبنية في هذا المجال الأمور بأيديهم لضمان تنوع هذه الموجة القادمة من الذكاء الاصطناعي.

على سبيل المثال، يعمل كارتر مع الشركات لمساعدتها في الحصول على بيانات أكثر شمولا. أنشأت إيرين ريديك ChatBlackGPT (لا علاقة له بـ OpenAI) لتقديم رؤى أعمق حول ثقافة وتاريخ السود، وجمعت تامار هوجينز 1.4 مليون دولار لبديل ChatGPT الخاص بها، والذي يُسمى Spark Plug، والذي يترجم نصوص الأدب الكلاسيكي إلى لهجة اللغة الإنجليزية الأمريكية الأفريقية (AAVE). .

قال وودز، فيما يتعلق بما يجب القيام به لجعل الذكاء الاصطناعي أكثر شمولاً: “التوظيف، والاحتفاظ، والتأكد من وجود الأشخاص في الغرفة على الطاولة”. “أعلم أن الأمر يبدو مبتذلاً، لكنني أعتقد أنه يمكن أن يبدأ في إحداث تأثير”.