تكنلوجيا الويب

أحدث اتجاه chatgpt فيروسي هو “البحث العكسي في الموقع” من الصور

أحدث اتجاه chatgpt فيروسي هو “البحث العكسي في الموقع” من الصور


هناك إلى حد ما فيما يتعلق بالاتجاه الجديد فيروسي: يستخدم الناس ChatGPT لمعرفة الموقع الموضح في الصور.

هذا الأسبوع ، أصدرت Openai أحدث طرز الذكاء الاصطناعي ، O3 و O4-Mini ، وكلاهما يمكن أن “سبب” فريد من خلال الصور التي تم تحميلها. في الممارسة العملية ، يمكن للنماذج أن تقطع الصور وتدويرها وتكبيرها – حتى غير ضبابية ومشتتة – لتحليلها بدقة.

إن إمكانيات تحليل الصور هذه ، المقترنة بقدرة النماذج على البحث في الويب ، تجعل أداة توليد المواقع قوية. اكتشف المستخدمون على X بسرعة أن O3 ، على وجه الخصوص ، جيد جدًا في استنتاج المدن والمعالم وحتى المطاعم والبارات من أدلة بصرية خفية.

في كثير من الحالات ، لا يبدو أن النماذج تعتمد على “ذكريات” محادثات ChatGPT السابقة ، أو بيانات EXIF ​​- البيانات الوصفية المرفقة بالصور التي تكشف تفاصيل مثل المكان الذي تم التقاط الصورة فيه.

تمتلئ X بأمثلة من المستخدمين الذين يقدمون قوائم مطعم ChatGpt ، وبطاقات الأحياء ، والواجهات ، والرسوم الذاتية ، وتوجيه O3 لتخيل أنها تلعب “Geoguessr” ، وهي لعبة على الإنترنت تتحدى اللاعبين لتخمين المواقع من Google Street View Images.

إنها مسألة خصوصية محتملة واضحة. لا يوجد شيء يمنع ممثلًا سيئًا من لقطة الشاشة ، على سبيل المثال ، قصة Instagram الخاصة بشخص واستخدام ChatGPT لمحاولة doxx.

بالطبع ، يمكن القيام بذلك حتى قبل إطلاق O3 و O4-Mini. قام TechCrunch بتشغيل عدد من الصور من خلال O3 ونموذج أقدم بدون إمكانيات عرض الصور ، GPT-4O ، لمقارنة مهارات تخمين المواقع للموديلات. من المثير للدهشة أن GPT-4O وصل إلى نفس الإجابة الصحيحة مثل O3 في أكثر الأحيان-واستغرق وقتًا أقل.

كان هناك مثيل واحد على الأقل خلال اختبارنا الموجز عندما وجد O3 مكانًا لا يمكن لـ GPT-4O. بالنظر إلى صورة لرأس وحيد القرن الأرجواني المثبت في شريط مضاء بشكل خافت ، أجاب O3 بشكل صحيح على أنه كان من Williamsburg Speakeasy-ليس ، كما خمن GPT-4O ، حانة المملكة المتحدة.

هذا لا يعني أن O3 لا تشوبه شائبة في هذا الصدد. فشلت العديد من اختباراتنا – تعثر O3 في حلقة ، غير قادر على الوصول إلى إجابة ، كانت واثقة بشكل معقول ، أو تطوعت بموقع خاطئ. أشار المستخدمون على X ، أيضًا ، إلى أن O3 يمكن أن يكون بعيدًا عن خصومات موقعه.

لكن الاتجاه يوضح بعض المخاطر الناشئة التي يقدمها نماذج الذكاء الاصطناعى الأكثر قدرة ، ما يسمى بالمنطق. يبدو أن هناك القليل من الضمانات المعمول بها لمنع هذا النوع من “البحث العكسي للموقع” في ChatGPT ، ولا تعالج شركة Openai ، الشركة التي تقف وراء ChatGPT ، المشكلة في تقرير السلامة الخاص بها لـ O3 و O4-MINI.

لقد تواصلنا مع Openai للتعليق. سنقوم بتحديث مقالتنا إذا استجابوا.



الوسوم

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى