قد تأتي أداة الصورة الرمزية المخصصة للذكاء الاصطناعي في Zoom مع مخاطر

يريد Zoom تحويلك إلى صورة رمزية واقعية ومتحركة بتقنية الذكاء الاصطناعي، ولكن ليس حتى وقت ما من العام المقبل.

الميزة القادمة، التي تم الإعلان عنها اليوم في مؤتمر Zoom السنوي للتطوير، ستترجم مقطع فيديو يسجله المستخدمون لأنفسهم إلى نسخة رقمية – كاملة مع الرأس والذراعين والكتفين. سيتمكن المستخدمون من كتابة نص لما يريدون أن يقوله الثنائي الرقمي، وسيقوم Zoom بإنشاء صوت يتزامن مع حركات شفاه الصورة الرمزية.

وقالت سميتا هاشم، كبيرة مسؤولي المنتجات في Zoom، لـ TechCrunch، إن الصور الرمزية المخصصة تم تصميمها لمساعدة الأشخاص على الدردشة “بشكل غير متزامن” مع زملائهم بطريقة “أسرع وأكثر إنتاجية”.

قال هاشم: “توفر الصور الرمزية للمستخدمين وقتًا ثمينًا وجهدًا في تسجيل المقاطع، وتمكنهم من توسيع نطاق إنشاء الفيديو”.

ومع ذلك، فإنها يمكن أن تشكل أيضًا خطر التزييف العميق.

قام عدد من الشركات بتطوير تقنية الذكاء الاصطناعي “لاستنساخ” وجه الشخص رقميًا وإقران ذلك الاستنساخ باستخدام خطاب اصطناعي يبدو طبيعيًا إلى حد معقول. تساعد شركة تافوس، على سبيل المثال، العلامات التجارية على إنشاء شخصيات افتراضية لإعلانات الفيديو المخصصة، كما أطلقت مايكروسوفت العام الماضي خدمة يمكنها إنشاء مواقف رقمية مقنعة لشخص ما.

لكن العديد من هذه الأدوات تطبق ضمانات محددة وصارمة للحماية من سوء الاستخدام. تتطلب Tavus بيانات موافقة شفهية، وتلزم Microsoft عملائها بالحصول على إذن كتابي وموافقة من أي موهبة مميزة في الصور الرمزية.

كان Zoom أكثر غموضًا بعض الشيء بشأن إجراءات السلامة الخاصة به.

وفي إشارة إلى سياسات استخدام Zoom التي تحظر إساءة الاستخدام، قال هاشم إن الشركة تقوم ببناء “العديد من الضمانات” في ميزة الصورة الرمزية المخصصة، بما في ذلك “المصادقة المتقدمة” والعلامة المائية.

وقال هاشم: “سنواصل مراجعة وإضافة الضمانات حسب الحاجة في المستقبل”. “نحن نستخدم (…) التكنولوجيا لتوضيح الأمر عند إنشاء مقطع باستخدام صورة رمزية، و(…) للمساعدة في ضمان سلامة المحتوى الذي تم إنشاؤه بواسطة الصورة الرمزية.”

تتوافق التشابهات الرقمية لـ Zoom مع الرؤية الأوسع للرئيس التنفيذي إريك يوان لإنشاء أنظمة ذكاء اصطناعي يمكنها يومًا ما التحدث في اجتماعات Zoom والرد على رسائل البريد الإلكتروني وتلقي المكالمات الهاتفية.

لكن هذه التشابهات تأتي في وقت تنتشر فيه التزييفات العميقة كالنار في الهشيم عبر وسائل التواصل الاجتماعي، مما يزيد من صعوبة التمييز بين الحقيقة والمعلومات المضللة.

حتى الآن هذا العام، حصدت مقاطع التزييف العميق التي تضم الرئيس جو بايدن وتايلور سويفت ونائبة الرئيس كامالا هاريس ملايين المشاهدات وإعادة المشاركة. في الآونة الأخيرة، غمرت صور الذكاء الاصطناعي المزيفة للدمار والمعاناة الإنسانية شبكة الإنترنت في أعقاب إعصار هيلين.

كما تم استخدام تقنية التزييف العميق لاستهداف الأفراد، من خلال انتحال شخصية أحبائهم، على سبيل المثال. تجاوزت الخسائر المرتبطة بعمليات احتيال انتحال الشخصية مليار دولار العام الماضي، وفقًا للجنة التجارة الفيدرالية.

كيف سيمنع Zoom المحتالين من استخدام أداته لإنشاء مقاطع فيديو لأشخاص يقولون أشياء لم يقولوها لأغراض خبيثة؟ ليس واضحا بعد. يُظهر النموذج الذي قدمته الشركة علامة مائية مرئية في الزاوية العلوية اليمنى من مقطع فيديو رمزي مخصص. لكن العلامات المائية مثل هذه يمكن اقتصاصها بسهولة عن طريق أدوات تسجيل الشاشة.

نأمل أن نتعلم المزيد بحلول النصف الأول من عام 2025، عندما تخطط Zoom لإصدار صور رمزية مخصصة لـ Zoom Clips، أداة الفيديو غير المتزامنة، كجزء من وظيفة إضافية متميزة بقيمة 12 دولارًا لكل مستخدم شهريًا.

مهما كانت الخطوات التي يتخذها Zoom – أو لا يتخذها – في نهاية المطاف، هناك جهود تنظيمية مستمرة لمحاولة التغلب على طوفان التزييف العميق.

وفي غياب قانون يجرم التزييف العميق على المستوى الفيدرالي في الولايات المتحدة، قامت أكثر من عشر ولايات بسن قوانين ضد انتحال الشخصية بمساعدة الذكاء الاصطناعي. سيكون قانون ولاية كاليفورنيا – المتوقف حاليًا – هو الأول الذي يمكّن القضاة من إصدار أوامر لملصقات التزييف العميق بإزالتها أو احتمال مواجهة عقوبات مالية.