يقول الباحثون إن أداة النسخ Whisper الخاصة بـ OpenAI تعاني من مشاكل الهلوسة

لدى مهندسي البرمجيات والمطورين والباحثين الأكاديميين مخاوف جدية بشأن النسخ من Whisper الخاص بـ OpenAI، وفقًا لتقرير نشرته وكالة Associated Press.

على الرغم من عدم وجود نقص في النقاش حول ميل الذكاء الاصطناعي التوليدي إلى الهلوسة – في الأساس، اختلاق الأشياء – إلا أنه من المفاجئ بعض الشيء أن هذه مشكلة في النسخ، حيث تتوقع أن يتبع النص الصوت الذي يتم نسخه عن كثب.

وبدلاً من ذلك، أخبر الباحثون وكالة أسوشييتد برس أن Whisper أدخل كل شيء بدءًا من التعليقات العنصرية وحتى العلاجات الطبية المتخيلة في النصوص. وقد يكون ذلك كارثيًا بشكل خاص نظرًا لاعتماد تطبيق Whisper في المستشفيات والسياقات الطبية الأخرى.

وجد باحث من جامعة ميشيغان يدرس الاجتماعات العامة وجود هلوسة في ثمانية من كل 10 نسخ صوتية. درس أحد مهندسي التعلم الآلي أكثر من 100 ساعة من تدوينات Whisper، ووجد الهلوسة في أكثر من نصفها. وأفاد أحد المطورين أنه وجد هلوسة في جميع النسخ التي قام بإنشائها باستخدام Whisper والتي يبلغ عددها 26000 تقريبًا.

قال متحدث باسم OpenAI إن الشركة “تعمل باستمرار على تحسين دقة نماذجنا، بما في ذلك تقليل الهلوسة” وأشار إلى أن سياسات الاستخدام الخاصة بها تحظر استخدام Whisper “في سياقات معينة لاتخاذ القرارات عالية المخاطر”.

وقالوا: “نشكر الباحثين على مشاركة نتائجهم”.