Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
تكنلوجيا الويب

هذا الأسبوع في الذكاء الاصطناعي: تدرس شركة OpenAI السماح بالإباحية التي تعتمد على الذكاء الاصطناعي


إن مواكبة صناعة سريعة الحركة مثل الذكاء الاصطناعي يعد أمرًا صعبًا. لذا، إلى أن يتمكن الذكاء الاصطناعي من القيام بذلك نيابةً عنك، إليك ملخصًا مفيدًا للقصص الحديثة في عالم التعلم الآلي، إلى جانب الأبحاث والتجارب البارزة التي لم نغطيها بمفردنا.

بالمناسبة، تخطط TechCrunch لإطلاق نشرة إخبارية خاصة بالذكاء الاصطناعي قريبًا. ابقوا متابعين. في هذه الأثناء، نعمل على زيادة إيقاع عمود الذكاء الاصطناعي شبه المنتظم لدينا، والذي كان في السابق مرتين في الشهر (أو نحو ذلك)، إلى أسبوعي – لذا ترقب المزيد من الإصدارات.

كشفت شركة OpenAI هذا الأسبوع في معرض الذكاء الاصطناعي أنها تستكشف كيفية إنشاء مواد إباحية تعتمد على الذكاء الاصطناعي “بشكل مسؤول”. نعم، هل سمعت هذا الحق. تم الإعلان عن سياسة NSFW الجديدة لـ OpenAI، التي تم الإعلان عنها في وثيقة تهدف إلى كشف الستار وجمع التعليقات حول تعليمات الذكاء الاصطناعي، إلى بدء محادثة حول كيف – وأين – قد تسمح الشركة بالصور والنصوص الصريحة في منتجات الذكاء الاصطناعي الخاصة بها، حسبما ذكرت OpenAI.

قالت جوان جانج، عضو فريق المنتج في OpenAI، لـ NPR: “نريد أن نضمن أن يتمتع الأشخاص بأقصى قدر من السيطرة إلى الحد الذي لا ينتهك فيه القانون أو حقوق الآخرين”. “هناك حالات إبداعية يكون فيها المحتوى الذي يتضمن النشاط الجنسي أو العري مهمًا لمستخدمينا.”

ليست هذه هي المرة الأولى التي ترسل فيها OpenAI برقية عن استعدادها للغطس في المنطقة المثيرة للجدل. في وقت سابق من هذا العام، قالت ميرا موراتي، المديرة التقنية للشركة، لصحيفة وول ستريت جورنال إنها “لم تكن متأكدة” مما إذا كانت OpenAI ستسمح في النهاية باستخدام أداة توليد الفيديو الخاصة بها، Sora، لإنشاء محتوى للبالغين.

إذا ما تصنع من هذا؟

هناك يكون مستقبل يفتح فيه OpenAI الباب أمام المواد الإباحية التي ينشئها الذكاء الاصطناعي، ويتبين أن كل شيء… جيد. لا أعتقد أن جانج مخطئ في قوله إن هناك أشكالًا مشروعة للتعبير الفني للبالغين – التعبير الذي يمكن إنشاؤه بمساعدة الأدوات التي تعمل بالذكاء الاصطناعي.

لكنني لست متأكدًا من أننا نستطيع الوثوق بـ OpenAI – أو أي بائع ذكاء اصطناعي توليدي، في هذا الشأن – للقيام بذلك بشكل صحيح.

خذ بعين الاعتبار زاوية حقوق المبدعين. لقد تم تدريب نماذج OpenAI على كميات هائلة من محتوى الويب العام، والتي لا شك أن بعضها إباحي بطبيعته. لكن OpenAI لم ترخص كل هذا المحتوى، أو حتى سمحت للمبدعين بإلغاء الاشتراك في التدريب حتى وقت قريب نسبيًا (وحتى ذلك الحين، فقط أشكال معينة من التدريب).

من الصعب كسب لقمة العيش من محتوى البالغين، وإذا استحوذت OpenAI على التيار الرئيسي للإباحية التي ينتجها الذكاء الاصطناعي، فستكون هناك منافسة أكثر صرامة تواجه المبدعين – منافسة مبنية على أعمال هؤلاء المبدعين، وليس من أجل لا شيء.

المشكلة الأخرى في رأيي هي قابلية الضمانات الحالية للخطأ. تعمل شركة OpenAI ومنافسوها على تحسين أدوات التصفية والإشراف الخاصة بهم لسنوات. لكن المستخدمين يكتشفون باستمرار الحلول البديلة التي تمكنهم من إساءة استخدام نماذج وتطبيقات ومنصات الذكاء الاصطناعي الخاصة بالشركات.

في شهر يناير فقط، اضطرت مايكروسوفت إلى إجراء تغييرات على أداة إنشاء الصور المصممة، والتي تنقر على نماذج OpenAI، بعد أن وجد المستخدمون طريقة لإنشاء صور عارية لتايلور سويفت. من ناحية إنشاء النصوص، من التافه العثور على برامج دردشة مبنية على نماذج يُفترض أنها “آمنة”، مثل Anthropic’s Claude 3، والتي تبث الإثارة الجنسية بسهولة.

لقد أنشأ الذكاء الاصطناعي بالفعل شكلاً جديدًا من أشكال الاعتداء الجنسي. يستخدم طلاب المدارس الابتدائية والمدارس الثانوية تطبيقات مدعومة بالذكاء الاصطناعي “لتجريد” صور زملائهم في الفصل دون موافقة هؤلاء الزملاء؛ وجد استطلاع للرأي أجري عام 2021 في المملكة المتحدة ونيوزيلندا وأستراليا أن 14% من المشاركين الذين تتراوح أعمارهم بين 16 و64 عامًا وقعوا ضحية لصور مزيفة بعمق.

تهدف القوانين الجديدة في الولايات المتحدة وأماكن أخرى إلى مكافحة هذا الأمر. لكن هيئة المحلفين تناقش ما إذا كان نظام العدالة – وهو نظام قضائي يكافح بالفعل لاستئصال معظم الجرائم الجنسية – قادر على تنظيم صناعة سريعة الحركة مثل الذكاء الاصطناعي.

بصراحة، من الصعب أن نتخيل النهج الذي قد تتبعه OpenAI في التعامل مع المواد الإباحية التي ينتجها الذكاء الاصطناعي والتي لا تكون محفوفة بالمخاطر. ربما ستعيد OpenAI النظر في موقفها مرة أخرى. أو ربما – على الرغم من الصعاب – هو سوف معرفة طريقة أفضل. مهما كانت القضية في نهاية المطاف، يبدو أننا سنكتشف ذلك عاجلاً وليس آجلاً.

فيما يلي بعض قصص الذكاء الاصطناعي الأخرى الجديرة بالملاحظة من الأيام القليلة الماضية:

  • خطط الذكاء الاصطناعي لشركة Apple: كشف تيم كوك، الرئيس التنفيذي لشركة Apple، عن بعض الحكايات حول خطط الشركة للمضي قدمًا في الذكاء الاصطناعي خلال مكالمة الأرباح الأسبوع الماضي مع المستثمرين. سارة لديها القصة الكاملة.
  • المؤسسة GenAI: استثمر الرؤساء التنفيذيون لشركة Dropbox وFigma – درو هيوستن وديلان فيلد، على التوالي – في Lamini، وهي شركة ناشئة تعمل على بناء تكنولوجيا الذكاء الاصطناعي المولدة إلى جانب منصة استضافة الذكاء الاصطناعي التوليدية التي تستهدف مؤسسات المؤسسات.
  • الذكاء الاصطناعي لخدمة العملاء: تطلق Airbnb ميزة جديدة تسمح للمضيفين باختيار الاقتراحات المدعومة بالذكاء الاصطناعي للرد على أسئلة الضيوف، مثل إرسال دليل الخروج الخاص بالضيوف.
  • مايكروسوفت تقيد استخدام الذكاء الاصطناعي: أكدت شركة مايكروسوفت من جديد حظرها على أقسام الشرطة الأمريكية من استخدام الذكاء الاصطناعي للتعرف على الوجه. كما أنها منعت سلطات إنفاذ القانون العالمية من تطبيق تقنية التعرف على الوجه على كاميرات الجسم وكاميرات القيادة.
  • المال للسحابة: يجمع مقدمو الخدمات السحابية البديلة، مثل CoreWeave، مئات الملايين من الدولارات، حيث يؤدي ازدهار الذكاء الاصطناعي إلى زيادة الطلب على الأجهزة منخفضة التكلفة لتدريب النماذج وتشغيلها.
  • RAG لها حدودها: تمثل الهلوسة مشكلة كبيرة للشركات التي تتطلع إلى دمج الذكاء الاصطناعي التوليدي في عملياتها. يدعي بعض البائعين أنه يمكنهم التخلص منها باستخدام تقنية تسمى RAG. لكن هذه الادعاءات مبالغ فيها إلى حد كبير، تجدها حقًا.
  • ملخص اجتماع فوجلز: قام Werner Vogels، كبير مسؤولي التكنولوجيا في أمازون، بفتح تطبيق ملخص الاجتماعات المسمى Distill. كما قد تتوقع، فهو يعتمد بشكل كبير على منتجات وخدمات أمازون.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى