تمنح Microsoft ضحايا المواد الإباحية العميقة أداة لمسح الصور من بحث Bing

أدى التقدم في أدوات الذكاء الاصطناعي إلى خلق مشكلة جديدة للإنترنت: انتشار الصور العارية الاصطناعية التي تشبه الأشخاص الحقيقيين. اتخذت شركة مايكروسوفت يوم الخميس خطوة كبيرة لمنح ضحايا المواد الإباحية الانتقامية أداة لمنع محرك بحث Bing الخاص بها من إعادة هذه الصور.

أعلنت Microsoft عن شراكة مع StopNCII، وهي منظمة تسمح لضحايا المواد الإباحية الانتقامية بإنشاء بصمة رقمية لهذه الصور الفاضحة، سواء كانت حقيقية أم لا، على أجهزتهم. يستخدم شركاء StopNCII بعد ذلك تلك البصمة الرقمية، أو “التجزئة” كما هو معروف تقنيًا، لمسح الصورة من منصاتهم. ينضم Bing من Microsoft إلى Facebook وInstagram وThreads وTikTok وSnapchat وReddit وPornhub وOnlyFans في شراكة مع StopNCII، واستخدام بصمات الأصابع الرقمية لوقف انتشار المواد الإباحية الانتقامية.

في منشور بالمدونة، تقول Microsoft إنها اتخذت بالفعل إجراءً بشأن 268000 صورة صريحة تم إرجاعها من خلال بحث صور Bing في تجربة تجريبية حتى نهاية أغسطس باستخدام قاعدة بيانات StopNCII. في السابق، عرضت Microsoft أداة إعداد التقارير المباشرة، لكن الشركة تقول إن ذلك لم يكن كافيًا.

وقالت مايكروسوفت في منشور مدونتها يوم الخميس: “لقد سمعنا مخاوف من الضحايا والخبراء وأصحاب المصلحة الآخرين من أن تقارير المستخدم وحدها قد لا تتوسع بشكل فعال من أجل التأثير أو تعالج بشكل مناسب خطر إمكانية الوصول إلى الصور عبر البحث”.

يمكنك أن تتخيل مدى سوء هذه المشكلة على محرك بحث أكثر شعبية: جوجل.

يقدم بحث Google أدواته الخاصة للإبلاغ عن الصور الفاضحة وإزالتها من نتائج البحث، لكنه واجه انتقادات من الموظفين السابقين والضحايا لعدم الشراكة مع StopNCII، وفقًا لتحقيق Wired. منذ عام 2020، أبلغ مستخدمو جوجل في كوريا الجنوبية عن 170 ألف رابط بحث ويوتيوب لمحتوى جنسي غير مرغوب فيه، حسبما ذكرت مجلة Wired.

مشكلة العري العميقة التي يعتمدها الذكاء الاصطناعي منتشرة على نطاق واسع بالفعل. تعمل أدوات StopNCII فقط مع الأشخاص الذين تزيد أعمارهم عن 18 عامًا، ولكن مواقع “خلع الملابس” تخلق بالفعل مشكلات لطلاب المدارس الثانوية في جميع أنحاء البلاد. لسوء الحظ، ليس لدى الولايات المتحدة قانون إباحي للتزييف العميق يعتمد على الذكاء الاصطناعي لمحاسبة أي شخص، لذلك تعتمد البلاد على نهج خليط من قوانين الولاية والقوانين المحلية لمعالجة هذه المشكلة.

أعلن المدعون العامون في سان فرانسيسكو عن دعوى قضائية في أغسطس لإزالة 16 موقعًا من أكثر المواقع “تعريًا”. وفقًا لمتتبع قوانين الإباحية العميقة التي أنشأتها Wired، أصدرت 23 ولاية أمريكية قوانين لمعالجة التزييف العميق غير التوافقي، في حين ألغت تسع ولايات مقترحات.