يستخدم الناس مولدات موسيقى الذكاء الاصطناعي لإنشاء أغانٍ تحض على الكراهية

تستغل الجهات الفاعلة الخبيثة أدوات موسيقى الذكاء الاصطناعي لإنشاء أغانٍ دعائية معادية للمثليين، وعنصرية، وتنشر أدلة ترشد الآخرين إلى كيفية القيام بذلك.

وفقًا لـ ActiveFence، وهي خدمة لإدارة عمليات الثقة والسلامة على المنصات عبر الإنترنت، كان هناك ارتفاع كبير في الأحاديث داخل المجتمعات “المتعلقة بخطاب الكراهية” منذ مارس حول طرق إساءة استخدام أدوات إنشاء موسيقى الذكاء الاصطناعي لكتابة أغانٍ مسيئة تستهدف الأقليات. وتهدف الأغاني التي ينتجها الذكاء الاصطناعي والتي تتم مشاركتها في هذه المنتديات ومنتديات المناقشة إلى التحريض على الكراهية تجاه المجموعات العرقية والجنسية والعنصرية والدينية، كما يقول باحثو ActiveFence في تقرير، مع الاحتفال بأعمال الاستشهاد وإيذاء النفس والإرهاب.

الأغاني البغيضة والمؤذية ليست ظاهرة جديدة. لكن الخوف هو أنه، مع ظهور أدوات توليد الموسيقى المجانية سهلة الاستخدام، سيتم تصنيعها على نطاق واسع بواسطة أشخاص لم يكن لديهم في السابق الوسائل أو المعرفة – تمامًا مثل الصورة والصوت والفيديو. وقد ساهمت مولدات النصوص في تسريع انتشار المعلومات المضللة والمعلومات المضللة وخطاب الكراهية.

وقال متحدث باسم ActiveFence لـ TechCrunch: “هذه هي الاتجاهات التي تتزايد مع تزايد عدد المستخدمين الذين يتعلمون كيفية إنشاء هذه الأغاني ومشاركتها مع الآخرين”. “تقوم الجهات الفاعلة في مجال التهديد بتحديد نقاط الضعف المحددة بسرعة لإساءة استخدام هذه المنصات بطرق مختلفة وإنشاء محتوى ضار.”

تأليف أغاني “الكراهية”.

تتيح أدوات الموسيقى المولدة بتقنية الذكاء الاصطناعي مثل Udio وSuno للمستخدمين إضافة كلمات مخصصة للأغاني التي تم إنشاؤها. تقوم الضمانات الموجودة على المنصات بتصفية الافتراءات الشائعة والازدراء، لكن المستخدمين اكتشفوا حلولاً بديلة، وفقًا لـ ActiveFence.

في أحد الأمثلة المذكورة في التقرير، شارك المستخدمون في المنتديات المتعصبة للبيض تهجئات صوتية للأقليات ومصطلحات مسيئة، مثل “jooz” بدلاً من “اليهود” و”say tan” بدلاً من “Satan”، والتي استخدموها لتجاوز مرشحات المحتوى. . واقترح بعض المستخدمين تغيير المسافات والتهجئة عند الإشارة إلى أعمال العنف، مثل استبدال عبارة “اغتصابي” بعبارة “قرد مستنقع”.

اختبرت TechCrunch العديد من هذه الحلول على Udio وSuno، وهما من الأدوات الأكثر شيوعًا لإنشاء ومشاركة الموسيقى التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. سمح Suno لهم جميعًا بالمرور، بينما قام Udio بحظر بعض – ولكن ليس كل – الهوموفونات الهجومية.

تم الوصول إلى متحدث باسم Udio عبر البريد الإلكتروني، وأخبر TechCrunch أن الشركة تحظر استخدام منصتها لخطاب الكراهية. لم يستجب Suno لطلبنا للتعليق.

وفي المجتمعات التي استطلعت آراءها، عثرت ActiveFence على روابط لأغاني أنشأها الذكاء الاصطناعي تردد نظريات المؤامرة حول الشعب اليهودي وتدعو إلى قتلهم الجماعي؛ الأغاني التي تحتوي على شعارات مرتبطة بالجماعتين الإرهابيتين داعش والقاعدة؛ والأغاني التي تمجد العنف الجنسي ضد المرأة.

تأثير الأغنية

يوضح موقع ActiveFence أن الأغاني – على عكس النص على سبيل المثال – تحمل ثقلًا عاطفيًا يجعلها قوة فعالة بشكل خاص لجماعات الكراهية والحرب السياسية. تشير الشركة إلى موسيقى الروك ضد الشيوعية، وهي سلسلة حفلات موسيقى الروك التي أقامها البيض في المملكة المتحدة في أواخر السبعينيات وأوائل الثمانينيات من القرن الماضي والتي أنتجت أنواعًا فرعية من الموسيقى “الكراهية” المعادية للسامية والعنصرية.

قال المتحدث باسم ActiveFence: “يجعل الذكاء الاصطناعي المحتوى الضار أكثر جاذبية – فكر في شخص ما يبشر بسرد ضار عن مجموعة معينة من السكان ثم تخيل شخصًا ينشئ أغنية مقافية تجعل من السهل على الجميع الغناء والتذكر”. “إنها تعزز التضامن الجماعي، وتلقين أعضاء المجموعة الطرفية، وتستخدم أيضًا لصدمة وإساءة مستخدمي الإنترنت غير المنتسبين”.

تدعو ActiveFence منصات إنتاج الموسيقى إلى تطبيق أدوات الوقاية وإجراء تقييمات سلامة أكثر شمولاً. وقال المتحدث: “من المحتمل أن يكشف الفريق الأحمر عن بعض نقاط الضعف هذه ويمكن القيام به من خلال محاكاة سلوك الجهات الفاعلة في التهديد”. “قد يكون الإشراف الأفضل على المدخلات والمخرجات مفيدًا أيضًا في هذه الحالة، لأنه سيسمح للمنصات بحظر المحتوى قبل مشاركته مع المستخدم.”

لكن الإصلاحات قد تكون عابرة عندما يكتشف المستخدمون أساليب جديدة للتغلب على الاعتدال. على سبيل المثال، تم إنشاء بعض الأغاني الدعائية الإرهابية التي أنشأها الذكاء الاصطناعي والتي حددها ActiveFence، باستخدام عبارات ملطفة باللغة العربية وترجمات صوتية – وهي عبارات ملطفة لم تكتشفها مولدات الموسيقى، ربما لأن مرشحاتها ليست قوية باللغة العربية.

من المتوقع أن تنتشر موسيقى الكراهية التي يولدها الذكاء الاصطناعي على نطاق واسع إذا سارت على خطى الوسائط الأخرى التي يولدها الذكاء الاصطناعي. وثقت Wired في وقت سابق من هذا العام كيف حقق مقطع تم التلاعب به بواسطة الذكاء الاصطناعي لأدولف هتلر أكثر من 15 مليون مشاهدة على X بعد مشاركته من قبل مؤثر مؤامرة يميني متطرف.

ومن بين خبراء آخرين، أعربت هيئة استشارية تابعة للأمم المتحدة عن مخاوفها من أن المحتوى العنصري ومعاداة السامية ومعاداة الإسلام وكراهية الأجانب يمكن أن يتم شحنه بشكل كبير بواسطة الذكاء الاصطناعي التوليدي.

وقال المتحدث: “إن خدمات الذكاء الاصطناعي التوليدية تمكن المستخدمين الذين يفتقرون إلى الموارد أو المهارات الإبداعية والتقنية من بناء محتوى جذاب ونشر الأفكار التي يمكن أن تتنافس على الاهتمام في سوق الأفكار العالمية”. “وبعد أن اكتشفت الجهات الفاعلة في مجال التهديد الإمكانات الإبداعية التي توفرها هذه الخدمات الجديدة، فإنها تعمل على تجاوز الاعتدال وتجنب اكتشافها – وقد نجحت في ذلك.”