لماذا يتعطل اسم “David Mayer” في ChatGPT؟ يقول OpenAI أن أداة الخصوصية أصبحت مارقة

اكتشف مستخدمو منصة ChatGPT للذكاء الاصطناعي للمحادثة ظاهرة مثيرة للاهتمام خلال عطلة نهاية الأسبوع: يرفض برنامج الدردشة الآلي الشهير الإجابة على الأسئلة إذا سُئل عن “ديفيد ماير”. يؤدي مطالبته بذلك إلى تجميده على الفور. ونشأت نظريات المؤامرة، لكن هناك سببًا أكثر اعتيادية يكمن في قلب هذا السلوك الغريب.

انتشر الخبر سريعًا في نهاية الأسبوع الماضي بأن الاسم كان بمثابة سم لروبوت الدردشة، حيث يحاول المزيد والمزيد من الأشخاص خداع الخدمة لمجرد الاعتراف بالاسم. لا حظ: كل محاولة لجعل ChatGPT يوضح هذا الاسم المحدد تؤدي إلى فشله أو حتى قطع الاسم الأوسط.

“أنا غير قادر على تقديم رد”، كما تقول، إذا كانت تقول أي شيء على الإطلاق.

ولكن ما بدأ كفضول لمرة واحدة سرعان ما ازدهر عندما اكتشف الناس أن ديفيد ماير ليس الوحيد الذي لا يستطيع ChatGPT ذكر اسمه.

كما تم العثور على تعطل الخدمة مع أسماء بريان هود، وجوناثان تورلي، وجوناثان زيترين، وديفيد فابر، وجويدو سكورزا. (لا شك أنه تم اكتشاف المزيد منذ ذلك الحين، لذا فإن هذه القائمة ليست شاملة).

من هم هؤلاء الرجال؟ ولماذا يكرههم ChatGPT إلى هذا الحد؟ لم تستجب شركة OpenAI على الفور للاستفسارات المتكررة، لذا لم يتبق لنا سوى تجميع الأجزاء بأنفسنا بأفضل ما نستطيع.* (راجع التحديث أدناه.)

قد تنتمي بعض هذه الأسماء إلى أي عدد من الأشخاص. لكن أحد خيوط الاتصال المحتملة التي حددها مستخدمو ChatGPT هو أن هؤلاء الأشخاص هم شخصيات عامة أو شبه عامة قد يفضلون “نسيان” بعض المعلومات بواسطة محركات البحث أو نماذج الذكاء الاصطناعي.

على سبيل المثال، يبرز بريان هود لأنني، بافتراض أنه نفس الرجل، كتبت عنه العام الماضي. اتهم هود، عمدة مدينة أسترالي، موقع ChatGPT بوصفه كذبًا بأنه مرتكب جريمة منذ عقود مضت، وقد أبلغ عنها في الواقع.

وعلى الرغم من أن محاميه تواصلوا مع OpenAI، إلا أنه لم يتم رفع أي دعوى قضائية على الإطلاق. وكما قال لصحيفة سيدني مورنينج هيرالد في وقت سابق من هذا العام، “تمت إزالة المواد المخالفة وأصدروا الإصدار 4، ليحل محل الإصدار 3.5.”

أما أبرز أصحاب الأسماء الأخرى، فهو ديفيد فابر وهو مراسل قناة CNBC منذ فترة طويلة. جوناثان تورلي هو محام ومعلق في قناة فوكس نيوز تعرض للضرب (على سبيل المثال، مكالمة زائفة على رقم 911 أرسلت شرطة مسلحة إلى منزله) في أواخر عام 2023. جوناثان زيترين هو أيضًا خبير قانوني، وتحدث بشكل موسع عن “الحق في ننسى.” وجويدو سكورزا عضو في مجلس إدارة هيئة حماية البيانات الإيطالية.

ليس بالضبط في نفس مجال العمل، ولا حتى الآن هو اختيار عشوائي. من الممكن أن يكون كل واحد من هؤلاء الأشخاص شخصًا قد طلب رسميًا، لأي سبب من الأسباب، تقييد المعلومات المتعلقة به عبر الإنترنت بطريقة ما.

وهو ما يعيدنا إلى ديفيد ماير. لا يوجد محامٍ أو صحفي أو عمدة أو أي شخص بارز بهذا الاسم يمكن لأي شخص العثور عليه (مع الاعتذار للعديد من ديفيد مايرز المحترمين هناك).

ومع ذلك، كان هناك البروفيسور ديفيد ماير، الذي قام بتدريس الدراما والتاريخ، وتخصص في الروابط بين أواخر العصر الفيكتوري والسينما المبكرة. توفي ماير في صيف عام 2023، عن عمر يناهز 94 عامًا. لكن قبل سنوات من ذلك، واجه الأكاديمي البريطاني الأمريكي مشكلة قانونية وعبر الإنترنت تتمثل في ربط اسمه بمجرم مطلوب استخدمه كاسم مستعار، إلى حد أنه حيث لم يتمكن من السفر.

ناضل ماير باستمرار من أجل إزالة الغموض عن اسمه من الإرهابي ذو الذراع الواحدة، حتى مع استمراره في التدريس بشكل جيد في سنواته الأخيرة.

إذن ماذا يمكن أن نستنتج من كل هذا؟ تخميننا هو أن النموذج قد استوعب أو قدم قائمة من الأشخاص الذين تتطلب أسماؤهم بعض المعالجة الخاصة. سواء كان ذلك بسبب مخاوف قانونية أو تتعلق بالسلامة أو الخصوصية أو غيرها، فمن المحتمل أن تكون هذه الأسماء مشمولة بقواعد خاصة، تمامًا كما هو الحال مع العديد من الأسماء والهويات الأخرى. على سبيل المثال، قد يقوم ChatGPT بتغيير رده إذا كان يطابق الاسم الذي كتبته في قائمة المرشحين السياسيين.

هناك العديد من هذه القواعد الخاصة، وكل مطالبة تمر عبر أشكال مختلفة من المعالجة قبل الرد عليها. لكن قواعد التعامل بعد الاستعجال هذه نادرًا ما يتم الإعلان عنها، باستثناء الإعلانات السياسية مثل “لن يتنبأ النموذج بنتائج الانتخابات لأي مرشح لمنصب ما”.

ما حدث على الأرجح هو أن إحدى هذه القوائم، والتي من المؤكد تقريبًا أنها تتم صيانتها أو تحديثها تلقائيًا، قد تعرضت للتلف بطريقة أو بأخرى باستخدام تعليمات برمجية أو تعليمات خاطئة تسببت، عند استدعائها، في تعطيل وكيل الدردشة على الفور. لكي نكون واضحين، هذه مجرد تكهنات خاصة بنا بناءً على ما تعلمناه، ولكنها لن تكون المرة الأولى التي يتصرف فيها الذكاء الاصطناعي بشكل غريب بسبب إرشادات ما بعد التدريب. (بالمناسبة، بينما كنت أكتب هذا، بدأ “ديفيد ماير” العمل مرة أخرى مع البعض، في حين أن الأسماء الأخرى ما زالت تتسبب في حدوث أعطال).

وكما هو الحال عادة مع هذه الأشياء، تنطبق شفرة هانلون: لا تنسب أبدًا إلى الحقد (أو المؤامرة) ما يمكن تفسيره بالغباء (أو الخطأ النحوي).

تُعد الدراما بأكملها بمثابة تذكير مفيد بأن نماذج الذكاء الاصطناعي هذه ليست سحرية فحسب، بل إنها أيضًا فائقة الجمال، وتتم مراقبتها بشكل نشط، وتتدخل فيها الشركات التي تصنعها. في المرة القادمة التي تفكر فيها في الحصول على الحقائق من برنامج الدردشة الآلي، فكر فيما إذا كان من الأفضل الانتقال مباشرة إلى المصدر بدلاً من ذلك.

تحديث: أكدت OpenAI يوم الثلاثاء أنه تم وضع علامة على اسم “David Mayer” بواسطة أدوات الخصوصية الداخلية، قائلة في بيان “قد تكون هناك حالات لا يوفر فيها ChatGPT معلومات معينة عن الأشخاص لحماية خصوصيتهم”. ولن تقدم الشركة مزيدًا من التفاصيل حول الأدوات أو العملية.