“التحكم في الدردشة”: شرح الاقتراح القانوني المثير للجدل الخاص بمسح CSAM للاتحاد الأوروبي

يتمتع الاتحاد الأوروبي بسمعة طويلة الأمد فيما يتعلق بقوانين الخصوصية القوية. لكن الخطة التشريعية لمكافحة إساءة معاملة الأطفال – والتي قدمها الاتحاد رسميًا في مايو 2022 – تهدد بخفض مستوى الخصوصية والأمان لمئات الملايين من مستخدمي تطبيقات المراسلة الإقليمية.

المفوضية الأوروبية، الهيئة التشريعية للاتحاد الأوروبي التي صاغت الاقتراح، تضعه كخطة لحماية حقوق الأطفال عبر الإنترنت من خلال مكافحة إساءة استخدام أدوات التكنولوجيا السائدة من قبل المعتدين على الأطفال الذين تزعم أنهم يستخدمون بشكل متزايد تطبيقات المراسلة لتوزيع مواد الاعتداء الجنسي على الأطفال. (CSAM) وحتى الوصول إلى ضحايا جدد.

وربما نتيجة للضغوط التي يمارسها قطاع تكنولوجيا سلامة الأطفال، فإن النهج الذي اعتمده الاتحاد الأوروبي هو نهج قائم على الحلول التقنية. تركز مبادرة المفوضية على تنظيم الخدمات الرقمية – تطبيقات المراسلة بشكل أساسي – من خلال فرض واجب قانوني عليها لاستخدام أدوات التكنولوجيا لفحص اتصالات المستخدمين من أجل اكتشاف النشاط غير القانوني والإبلاغ عنه.

لعدة سنوات، حصلت تطبيقات المراسلة السائدة على استثناء مؤقت من قواعد الخصوصية الإلكترونية للاتحاد الأوروبي، والتي تتعامل مع سرية الاتصالات الرقمية – يستمر الاستثناء حتى مايو 2025، وفقًا لامتداده الأخير – حتى يتمكنوا طوعًا من فحص اتصالات الأشخاص بحثًا عن مواد الاعتداء الجنسي على الأطفال في بعض الحالات. سيناريوهات.

ومع ذلك، فإن لائحة إساءة معاملة الأطفال من شأنها أن تنشئ قواعد دائمة تفرض بشكل أساسي فحص المحتوى القائم على الذكاء الاصطناعي في جميع أنحاء الاتحاد الأوروبي.

يجادل منتقدو الاقتراح بأنه سيؤدي إلى وضع تضطر فيه منصات المراسلة إلى استخدام تقنيات غير مثالية لفحص المراسلات الخاصة للمستخدمين بشكل افتراضي – مع عواقب وخيمة على خصوصية الأشخاص. كما حذروا من أنه يضع الاتحاد الأوروبي في مسار تصادمي مع التشفير القوي لأن القانون سيجبر التطبيقات المشفرة من طرف إلى طرف (E2EE) على تدهور أمنها من أجل الامتثال لمتطلبات فحص المحتوى.

المخاوف بشأن الاقتراح حادة للغاية لدرجة أن المشرف على حماية البيانات في الكتلة حذر العام الماضي من أنه يمثل نقطة تحول للحقوق الديمقراطية. وتعتقد خدمة الاستشارة القانونية المقدمة للمجلس الأوروبي أيضًا أنها غير متوافقة مع قانون الاتحاد الأوروبي، وذلك وفقًا لتسرب تقييمها. يحظر قانون الاتحاد الأوروبي فرض التزام عام بالمراقبة، لذلك إذا تم إقرار القانون، فمن المؤكد تقريبًا أن يواجه تحديًا قانونيًا.

وحتى الآن، لم يتمكن المشرعون المشاركون في الاتحاد الأوروبي من الاتفاق على طريقة للمضي قدمًا في هذا الملف. لكن مشروع القانون لا يزال قيد التنفيذ، وكذلك كل المخاطر التي يشكلها.

أوامر كشف CSAM واسعة النطاق

يحتوي الاقتراح الأصلي للمفوضية على مطلب يقضي بأن تقوم المنصات، بمجرد تقديم أمر الكشف، بفحص رسائل الأشخاص، ليس فقط بحثًا عن مواد الاعتداء الجنسي على الأطفال المعروفة (أي صور إساءة معاملة الأطفال التي تم تحديدها مسبقًا وتجزئتها للكشف عنها) ولكن أيضًا عن مواد الاعتداء الجنسي على الأطفال غير المعروفة ( أي صور جديدة للإساءة). وهذا من شأنه أن يزيد من التحدي التقني المتمثل في اكتشاف المحتوى غير القانوني بدرجة عالية من الدقة ونتائج إيجابية كاذبة منخفضة.

هناك عنصر آخر في اقتراح اللجنة يتطلب منصات لتحديد نشاط الاستمالة في الوقت الحقيقي. وهذا يعني أنه بالإضافة إلى فحص تحميلات الصور بحثًا عن مواد الاعتداء الجنسي على الأطفال، يجب أن تكون التطبيقات قادرة على تحليل محتويات اتصالات المستخدمين لمحاولة فهم متى قد يحاول مستخدم بالغ إغراء قاصر للمشاركة في نشاط جنسي.

إن استخدام الأدوات الآلية للكشف عن علامات السلوك التي قد تتنبأ بإساءة الاستخدام المستقبلية في التفاعلات العامة بين مستخدمي التطبيق يشير إلى مجال كبير لإساءة تفسير الثرثرة البريئة. ويشير معارضو الاقتراح إلى أن متطلبات الكشف واسعة النطاق الخاصة بأجهزة CSAM، مجتمعة، من شأنها أن تحول منصات الرسائل السائدة إلى أدوات مراقبة جماعية.

“التحكم في الدردشة” هو اللقب الرئيسي الذي توصلوا إليه ليشمل المخاوف بشأن إصدار الاتحاد الأوروبي لقانون يتطلب إجراء مسح شامل للرسائل الرقمية الخاصة بالمواطنين – بما في ذلك فحص التبادلات النصية التي يرسلها الأشخاص.

ماذا عن التشفير الشامل؟

إن اقتراح اللجنة الأصلي بشأن لائحة مكافحة الاعتداء الجنسي على الأطفال لا يعفي منصات E2EE من متطلبات اكتشاف CSAM أيضًا.

ومن الواضح أنه نظرًا لأن استخدام E2EE يعني أن هذه الأنظمة الأساسية لا تملك القدرة على الوصول إلى الإصدارات القابلة للقراءة من اتصالات المستخدمين – لأنها لا تحتوي على مفاتيح تشفير – فإن خدمات المراسلة الآمنة ستواجه مشكلة امتثال محددة إذا كانت قانونية. مطلوب منهم فهم المحتوى الذي لا يمكنهم رؤيته.

ولذلك يحذر منتقدو خطة الاتحاد الأوروبي من أن القانون سيجبر منصات المراسلة E2EE على خفض مستوى الحماية الأمنية الرئيسية التي تقدمها من خلال تنفيذ تقنيات محفوفة بالمخاطر مثل المسح من جانب العميل كإجراء للامتثال.

ولا يذكر اقتراح اللجنة تقنيات محددة ينبغي للمنصات نشرها لكشف مواد الاعتداء الجنسي على الأطفال. يتم تفريغ القرارات إلى مركز الاتحاد الأوروبي لمكافحة الاعتداء الجنسي على الأطفال الذي سينشئه القانون. لكن الخبراء يتوقعون أنه من المرجح أن يتم استخدامه لفرض اعتماد المسح من جانب العميل.

والاحتمال الآخر هو أن المنصات التي نفذت تشفيرًا قويًا يمكن أن تختار سحب خدماتها من المنطقة بالكامل؛ على سبيل المثال، حذرت شركة Signal Messenger سابقًا من أنها ستترك السوق بدلاً من أن يضطرها القانون إلى تعريض أمن المستخدم للخطر. يمكن أن يترك هذا الاحتمال الأشخاص في الاتحاد الأوروبي دون الوصول إلى التطبيقات السائدة التي تستخدم بروتوكولات أمان E2EE القياسية الذهبية لحماية الاتصالات الرقمية، مثل Signal، أو WhatsApp المملوك لشركة Meta، أو iMessage من Apple، على سبيل المثال لا الحصر.

ويؤكد معارضو الاقتراح أن أياً من التدابير التي صاغها الاتحاد الأوروبي لن يكون لها التأثير المقصود المتمثل في منع إساءة معاملة الأطفال. وبدلاً من ذلك، فإن التأثير الذي يتوقعونه هو عواقب وخيمة على مستخدمي التطبيق، حيث تتعرض الاتصالات الخاصة لملايين الأوروبيين لخوارزميات مسح غير كاملة.

ويقولون إن هذا بدوره يهدد بإثارة عشرات من النتائج الإيجابية الكاذبة. ومن الممكن أن يتورط ملايين الأبرياء عن طريق الخطأ في أنشطة مشبوهة، مما يثقل كاهل سلطات إنفاذ القانون بسلسلة من التقارير الكاذبة.

النظام الذي يتصوره اقتراح الاتحاد الأوروبي سيحتاج إلى كشف الرسائل الخاصة للمواطنين بشكل روتيني لأطراف ثالثة ستشارك في التحقق من تقارير المحتوى المشبوهة المرسلة إليهم من خلال أنظمة الكشف الخاصة بالمنصات. لذلك، حتى لو لم يتم إرسال جزء معين من المحتوى الذي تم الإبلاغ عنه إلى سلطات إنفاذ القانون للتحقيق فيه، بعد أن تم تحديده على أنه غير مشبوه في مرحلة سابقة من سلسلة الإبلاغ، فسيظل بالضرورة قد تم فحصه من قبل شخص آخر من المرسل والمستلم/المستلمين المقصودين. لذا RIP، خصوصية الاتصالات.

إن تأمين الاتصالات الشخصية التي تم تسريبها من منصات أخرى من شأنه أن يشكل أيضًا تحديًا أمنيًا مستمرًا مع خطر تعرض المحتوى المُبلغ عنه بشكل أكبر إذا كانت هناك ممارسات أمنية سيئة مطبقة من قبل أي من الأطراف الثالثة المشاركة في معالجة تقارير المحتوى.

يستخدم الأشخاص E2EE لسبب ما، وعدم وجود مجموعة من الوسطاء يلمسون بياناتك هو أمر موجود.

أين هذه الخطة المخيفة الآن؟

عادة، تكون عملية صنع القوانين في الاتحاد الأوروبي شأنا ثلاثي الأطراف، حيث تقترح المفوضية التشريعات ويعمل المشرعون المشاركون، في البرلمان الأوروبي والمجلس، مع السلطة التنفيذية للكتلة في محاولة للتوصل إلى حل وسط يمكنهم الاتفاق عليه جميعا.

ولكن في حالة لائحة إساءة معاملة الأطفال، كان لدى مؤسسات الاتحاد الأوروبي حتى الآن وجهات نظر مختلفة للغاية بشأن الاقتراح.

قبل عام واحد، اتفق المشرعون في البرلمان الأوروبي على موقفهم التفاوضي من خلال اقتراح تعديلات رئيسية على اقتراح المفوضية. أيد البرلمانيون من مختلف الأطياف السياسية تعديلات جوهرية تهدف إلى تقليص مخاطر الحقوق – بما في ذلك دعم الاستثناء الكامل لمنصات E2EE من متطلبات المسح.

واقترحوا أيضًا الحد من المسح لجعله أكثر استهدافًا: إضافة شرط يقضي بأن الفحص يجب أن يتم فقط على رسائل الأفراد أو المجموعات المشتبه في ارتكابهم اعتداءات جنسية على الأطفال – أي بدلاً من فرض القانون فحصًا شاملاً على جميع رسائله. المستخدمين بمجرد تقديم النظام الأساسي بأمر الكشف.

من شأن التغيير الإضافي المدعوم من أعضاء البرلمان الأوروبي أن يقيد الكشف على CSAM المعروفة وغير المعروفة، مما يلغي شرط قيام المنصات أيضًا بالتقاط نشاط الاستمالة عن طريق فحص التبادلات النصية.

كما دفعت نسخة البرلمان من الاقتراح إلى إدراج أنواع أخرى من التدابير، مثل المتطلبات على المنصات لتحسين حماية خصوصية المستخدم من خلال تعيين الملفات الشخصية الافتراضية على أنها غير عامة لتقليل خطر اكتشاف القُصّر من قبل البالغين المفترسين.

وبشكل عام، يبدو نهج أعضاء البرلمان الأوروبي أكثر توازناً من الاقتراح الأصلي للمفوضية. ومع ذلك، منذ ذلك الحين، قامت انتخابات الاتحاد الأوروبي بمراجعة تركيبة البرلمان. أما وجهات النظر بشأن العدد الجديد من أعضاء البرلمان الأوروبي فهي أقل وضوحا.

ولا تزال هناك أيضاً مسألة ما الذي قد يفعله المجلس الأوروبي، الهيئة المؤلفة من ممثلين لحكومات الدول الأعضاء. ولم توافق بعد على ولاية تفاوضية بشأن الملف، ولهذا السبب لم تتمكن المناقشات مع البرلمان من البدء.

سيتم تخفيض تصنيف أي شخص يختار الخصوصية إلى مجموعة ميزات نمط الهاتف البكم الأساسية المكونة من النص والصوت فقط. نعم، هذا بالفعل ما كان المشرعون الإقليميون يفكرون فيه.

وتجاهل المجلس مناشدات أعضاء البرلمان الأوروبي في العام الماضي للتوافق مع التسوية التي توصلوا إليها. وبدلاً من ذلك يبدو أن الدول الأعضاء تفضل موقفاً أقرب كثيراً إلى موقف المفوضية الأصلي المتمثل في “مسح كل شيء”. ولكن هناك أيضًا انقسامات بين الدول الأعضاء حول كيفية المضي قدمًا. وحتى الآن، اعترض عدد كاف من الدول على النصوص التوفيقية التي قدمتها لها رئاسة المجلس للموافقة على التفويض.

تشير المقترحات التي تسربت خلال مناقشات المجلس إلى أن حكومات الدول الأعضاء لا تزال تحاول الحفاظ على القدرة على فحص المحتوى الشامل. لكن نصًا وسطًا يعود تاريخه إلى مايو 2024 حاول تعديل كيفية تقديم ذلك، واصفًا بشكل ملطف المتطلبات القانونية على منصات المراسلة بأنها “الإشراف على التحميل”.

وأدى ذلك إلى تدخل علني من رئيسة شركة سيجنال، ميريديث ويتاكر، التي اتهمت المشرعين في الاتحاد الأوروبي بالانغماس في “ألعاب بلاغية” في محاولة لحشد الدعم للمسح الشامل لاتصالات المواطنين. وهذا شيء حذرت منه بنبرة لا معنى لها من شأنه أن “يقوض التشفير بشكل أساسي”.

وبحسب ما ورد اقترح النص الذي تم تسريبه إلى الصحافة في ذلك الوقت أنه يمكن مطالبة مستخدمي تطبيق المراسلة بموافقتهم على فحص المحتوى الخاص بهم. ومع ذلك، فإن المستخدمين الذين لم يوافقوا على الفحص سيتم تعطيل الميزات الرئيسية لتطبيقهم، مما يعني أنهم لن يتمكنوا من إرسال الصور أو عناوين URL.

وبموجب هذا السيناريو، سيضطر مستخدمو تطبيق المراسلة في الاتحاد الأوروبي بشكل أساسي إلى الاختيار بين حماية خصوصيتهم أو الحصول على تجربة تطبيق مراسلة حديثة. سيتم تخفيض تصنيف أي شخص يختار الخصوصية إلى مجموعة ميزات أساسية على غرار الهاتف الذكي من النص والصوت فقط. نعم، هذا بالفعل ما كان المشرعون الإقليميون يفكرون فيه.

وفي الآونة الأخيرة، ظهرت دلائل على أن الدعم قد يتناقص داخل المجلس للضغط من أجل المراقبة الشاملة لرسائل المواطنين. في وقت سابق من هذا الشهر، غطت Netzpolitik إعلانًا صادرًا عن الحكومة الهولندية قالت فيه إنها ستمتنع عن التصويت على حل وسط آخر، مشيرة إلى المخاوف بشأن الآثار المترتبة على E2EE، بالإضافة إلى المخاطر الأمنية التي يشكلها الفحص من جانب العميل.

وفي وقت سابق من هذا الشهر، تم سحب مناقشة اللائحة أيضا من جدول أعمال آخر للمجلس، ويرجع ذلك على ما يبدو إلى عدم وجود أغلبية مؤهلة.

ولكن هناك عدداً كبيراً من دول الاتحاد الأوروبي التي تواصل دعم مساعي المفوضية لإجراء مسح شامل للرسائل. ويبدو أن الرئاسة الحالية للمجلس المجري ملتزمة بمواصلة محاولة التوصل إلى حل وسط. لذا فإن الخطر لم يختفي.

ولا يزال بوسع الدول الأعضاء أن تتوصل إلى نسخة من الاقتراح الذي يرضي حكوماتها بالقدر الكافي لفتح الباب أمام المحادثات مع أعضاء البرلمان الأوروبي، وهو ما من شأنه أن يضع كل شيء في متناول اليد في عملية المناقشات الثلاثية المغلقة للاتحاد الأوروبي. لذا فإن المخاطر التي تهدد حقوق المواطنين الأوروبيين ــ وسمعة الكتلة باعتبارها بطلاً للخصوصية ــ تظل مرتفعة.