يدعي الرئيس التنفيذي لشركة الإنسان نماذج منظمة العفو الدولية هلوسًا أقل من البشر

وقال الرئيس التنفيذي للأنثروبور ، داريو أمودي ، يعتقد أن نماذج الذكاء الاصطناعى اليوم هلوسة ، أو تصنع الأشياء وتقديمها كما لو كانت حقيقية ، بمعدل أقل من البشر ، خلال مؤتمر صحفي في أول حدث مطور في الأنثروبور ، كود مع كلود ، في سان فرانسيسكو يوم الخميس.

قال Amodei إن كل هذا في خضم نقطة أكبر كان يثيره: أن الهلوسة من الذكاء الاصطناعى ليست قيودًا على طريق الأنثروبور إلى AGI-أنظمة الذكاء الاصطناعي مع الذكاء على مستوى الإنسان أو أفضل.

“هذا يعتمد حقًا على كيفية قياسه ، لكنني أظن أن نماذج الذكاء الاصطناعى ربما تهدأ أقل من البشر ، لكنها تهين بطرق أكثر إثارة للدهشة” ، قال Amodei ، رداً على سؤال TechCrunch.

الرئيس التنفيذي لشركة Anthropic هو واحد من أكثر القادة في الصناعة في هذا المجال على احتمال تحقيق نماذج الذكاء الاصطناعى AGI. في ورقة تم توزيعها على نطاق واسع كتبها العام الماضي ، قال Amodei إنه يعتقد أن Agi قد يصل بعد عام 2026. خلال إحاطة الصحافة يوم الخميس ، قال المدير التنفيذي للأنثروبور إنه يرى تقدمًا ثابتًا إلى هذه الغاية ، مشيرًا إلى أن “الماء يرتفع في كل مكان”.

“الجميع يبحثون دائمًا عن هذه الكتل الصعبة على ماذا [AI] قال Amodei: لا يوجد شيء من هذا القبيل. “

يعتقد قادة الذكاء الاصطناعي الآخرين أن الهلوسة يقدم عقبة كبيرة أمام تحقيق AGI. في وقت سابق من هذا الأسبوع ، قال الرئيس التنفيذي لشركة Google Deepmind DeMis Hassabis ، إن نماذج الذكاء الاصطناعى اليوم لديها الكثير من “الثقوب” ، وأنها تخطئ الكثير من الأسئلة الواضحة. على سبيل المثال ، في وقت سابق من هذا الشهر ، اضطر محام يمثل الأنثروبور إلى الاعتذار في المحكمة بعد أن استخدموا كلود لإنشاء استشهادات في ملف المحكمة ، وحصل AI chatbot على هلوس وحصل على أسماء وعناوين خاطئة.

من الصعب التحقق من مطالبة Amodei ، إلى حد كبير لأن معظم معايير الهلوسة تحفر نماذج AI ضد بعضها البعض ؛ إنهم لا يقارنون النماذج بالبشر. يبدو أن بعض التقنيات تساعد في خفض معدلات الهلوسة ، مثل إعطاء نماذج الذكاء الاصطناعى الوصول إلى البحث على الويب. بشكل منفصل ، تقل بعض نماذج الذكاء الاصطناعى ، مثل GPT-4.5 من Openai ، بشكل ملحوظ في معدلات الهلوسة على المعايير مقارنة بالأجيال المبكرة من الأنظمة.

ومع ذلك ، هناك أيضًا أدلة تشير إلى أن الهلوسة تزداد سوءًا في نماذج الذكاء الاصطناعي المتقدم. نماذج Openai O3 و O4-MINI لديها معدلات هالوسية أعلى من نماذج التفكير في الجيل السابق في Openai ، ولا تفهم الشركة حقًا السبب.

في وقت لاحق من الإحاطة الصحفية ، أشار Amodei إلى أن مذيعي التلفزيون والسياسيين والبشر في جميع أنواع المهن يرتكبون أخطاء طوال الوقت. حقيقة أن الذكاء الاصطناعى ترتكب الأخطاء أيضا ليست ضربة على ذكائها ، وفقا لأمودي. ومع ذلك ، أقر الرئيس التنفيذي لشركة Anthropic بالثقة التي تقدم بها نماذج الذكاء الاصطناعى أشياء غير صحيحة لأن الحقائق قد تكون مشكلة.

في الواقع ، أجرت الأنثروبور قدرًا لا بأس به من الأبحاث حول ميل نماذج الذكاء الاصطناعى لخداع البشر ، وهي مشكلة بدا أنها سائدة بشكل خاص في كلود أوبوس 4. ذهب أبولو إلى حد اقتراح أنثروبور لا ينبغي أن يصدر هذا النموذج المبكر. وقالت الأنثروبور إنها توصلت إلى بعض التخفيفات التي بدا أنها تعالج القضايا التي أثارها أبولو.

تشير تعليقات Amodei إلى أن الأنثروبور قد تعتبر نموذج AI هو AGI ، أو يساوي الذكاء على مستوى الإنسان ، حتى لو كان لا يزال هلوسًا. الذكاء الاصطناعي الذي قد يلموسه قد لا ينفصل عن AGI من خلال تعريف العديد من الناس.