Google لتوسيع نطاق عمليات الكشف عن الاحتيال والأمن التي تعمل بمنظمة العفو الدولية في الهند
كشفت Google النقاب عن ميثاق السلامة في الهند ، والتي ستوسيع تطوراتها التي تقودها الذكاء الاصطناعي لاكتشاف الاحتيال ومكافحة عمليات الاحتيال في جميع أنحاء البلاد ، وهي أكبر سوق للشركة خارج الولايات المتحدة.
الاحتيال الرقمي في الهند يرتفع. نما الاحتيال المتعلق بنظام الدفع الفوري للحكومة الهندية UPI بنسبة 85 ٪ على أساس سنوي إلى ما يقرب من 11 مليار روبية هندية (127 مليون دولار) العام الماضي ، وفقًا لبيانات الحكومة. شهدت الهند أيضًا عدة حالات من عمليات الاحتيال في الاعتقال الرقمي ، حيث يشكل المحتالون مسؤولين لابتزاز الأموال عبر مكالمات الفيديو وتطبيقات القروض المفترسة.
مع ميثاق السلامة ، تهدف Google إلى معالجة بعض هذه المجالات. أطلقت الشركة أيضًا مركز هندسة الأمن في الهند ، ومركزها الرابع بعد دبلن وميونيخ ومالاجا.
سيسمح مركز هندسة الأمن (GSEC) في قمة Google for India في العام الماضي ، بما في ذلك الحكومة المحلية ، بما في ذلك الحكومة والأوساط الأكاديمية والطلاب ، والمؤسسات الصغيرة والمتوسطة لإنشاء حلول لحل الأمن السيبراني والخصوصية والسلامة ومشكلات الذكاء الاصطناعى.
وقالت الشركة في منشور مدونة إن Google عقدت شراكة مع مركز تنسيق الجريمة السيبراني الهندي (I4C) في وزارة الشؤون الداخلية لزيادة الوعي بأجهزة الجريان الإلكترونية. يعتمد ذلك على أعمال الشركة الحالية ، بما في ذلك إطلاق برنامج تعريف الاحتيال عبر الإنترنت ، Digikavach ، الذي ظهر لأول مرة في عام 2023 لتقييد الآثار الضارة للتطبيقات المالية الضارة وتطبيقات القروض المفترسة.
من خلال GSEC في الهند ، ستركز Google على ثلاثة مجالات رئيسية ، كما أخبر Adkins TechCrunch: ظاهرة الاحتيال عبر الإنترنت والاحتيال وكيف يكون الناس آمنين عبر الإنترنت ؛ الأمن السيبراني للمؤسسات والحكومة والبنية التحتية الحرجة ؛ وبناء AI المسؤولة.
وقال أدكنز: “ستصبح هذه المجالات الثلاثة جزءًا من ميثاق السلامة الخاص بنا للهند ، وعلى مدار السنوات القادمة … نريد أن نستخدم حقيقة أن لدينا قدرة هندسية هنا على حل ما يحدث في الهند ، بالقرب من مكان المستخدمين”.
على الصعيد العالمي ، تستخدم Google منظمة العفو الدولية لمكافحة عمليات الاحتيال عبر الإنترنت وإزالة ملايين الإعلانات وحسابات الإعلانات. تهدف الشركة إلى نشر الذكاء الاصطناعى على نطاق واسع في الهند لمكافحة الاحتيال الرقمي.
تستخدم رسائل Google ، التي تأتي مثبتة مسبقًا على العديد من أجهزة Android ، اكتشاف عملية احتيال مدعومة من الذكاء الاصطناعى والتي ساعدت على حماية المستخدمين من أكثر من 500 مليون رسالة مشبوهة شهريًا. وبالمثل ، قامت Google بتجربة Play Protect in India العام الماضي ، والتي تدعي أنها منعت ما يقرب من 60 مليون محاولة لتثبيت تطبيقات عالية الخطورة ، مما أدى إلى توقف أكثر من 220،000 تطبيق فريد على أكثر من 13 مليون جهاز. كما عرضت Google Pay ، التي تعد واحدة من أفضل تطبيقات الدفع القائمة على UPI في البلاد ، 41 مليون تحذير ضد المعاملات المشتبه في أنها عمليات احتيال محتملة.
–
ناقش Adkins ، وهو عضو مؤسس من فريق الأمن في Google الذي كان جزءًا من شركة الإنترنت لأكثر من 23 عامًا ، العديد من الموضوعات الأخرى خلال مقابلة مع TechCrunch:
قال أدكنز إن هناك شيئًا واحدًا من أعلى الذهن هو استخدام وإساءة استخدام AI من قبل الجهات الفاعلة الضارة.
“من الواضح أننا نتتبع منظمة العفو الدولية عن كثب ، وحتى الآن ، لقد رأينا في الغالب نماذج اللغة الكبيرة مثل الجوزاء المستخدمة كتحسينات الإنتاجية. على سبيل المثال ، لجعل عمليات الاحتيال في التصيد أكثر فعالية – خاصةً إذا كان لدى الممثل والهدف لغات مختلفة – يمكنهم استخدام فائدة الترجمة لجعل الخداع أكثر تصديقًا باستخدام العميق ، والفيديو ، وما إلى ذلك.”
قال Adkins إن Google تجري اختبارات واسعة لنماذج AI لضمان فهم ما يجب عليهم فعله.
وقال أكينز: “هذا أمر مهم للمحتوى الذي قد يكون ضارًا ، ولكن أيضًا الإجراءات التي قد تتخذها”.
تعمل Google على الأطر ، بما في ذلك إطار AI الآمن ، لتقييد إساءة استخدام نماذج الجوزاء الخاصة بها. ومع ذلك ، لحماية الذكاء الاصطناعى التوليدي من إساءة استخدامها وإساءة استخدامها من قبل المتسللين في المستقبل ، ترى الشركة الحاجة إلى إطار عمل لبناء السلامة لكيفية تواصل العديد من الوكلاء.
“الصناعة تتحرك بسرعة كبيرة [by] وضع البروتوكولات. وقال آدكنز: “يشبه الأمر تقريبًا الأيام الأولى للإنترنت ، حيث يطلق الجميع الرمز في الوقت الفعلي ، ونحن نفكر في السلامة بعد الحقيقة”.
لا ترغب Google في تقديم أطر عملها الخاصة للحد من نطاق الذكاء الاصطناعى التوليدي الذي يتعرض للإيذاء من قبل المتسللين. بدلاً من ذلك ، قال Adkins إن الشركة تعمل مع مجتمع الأبحاث والمطورين.
وقال أدكنز: “أحد الأشياء التي لا تريد القيام بها هو تقييد نفسك كثيرًا في أيام البحث المبكرة”.
على بائعي المراقبة
إلى جانب إمكانات الذكاء الاصطناعى التوليدي لسوء المعاملة من قبل المتسللين ، يرى Adkins بائعي المراقبة التجارية على أنها تهديد كبير. يمكن أن تشمل هذه صانعي برامج التجسس ، بما في ذلك NSO Group ، والتي تعد سيئة السمعة بالنسبة لبرامج Pegasus Spyware ، أو غيرها من الشركات الصغيرة التي تبيع أدوات المراقبة.
وقال أدكنز: “هذه هي الشركات التي تدور في جميع أنحاء العالم ، وهي تطور وصنع وبيع منصة للقرصنة”. “قد تدفع 20 دولارًا ، وقد تدفع 200000 دولار ، اعتمادًا على تطور المنصة ، ويسمح لك بتوسيع نطاق مهاجمة الأشخاص دون أي خبرة بنفسك.”
بعض هؤلاء البائعين يبيعون أيضًا أدواتهم للتجسس على الأشخاص في الأسواق ، بما في ذلك الهند. ومع ذلك ، بصرف النظر عن الاستهداف بأدوات المراقبة ، فإن البلاد لديها تحديات فريدة خاصة بها بحجمها. لا ترى البلاد فقط عمليات الاحتيال التي تقودها الذكاء الاصطناعى والاحتيال الصوتية ، ولكن أيضًا حالات الاعتقال الرقمي ، والتي يؤكدها Adkins هي مجرد عمليات احتيال منتظمة مع العالم الرقمي.
وقال أدكنز: “يمكنك أن ترى مدى سرعة تقدم الممثلين للتهديدات أنفسهم … أحب دراسة الإنترنت في هذه المنطقة بسبب ذلك. إنها غالبًا ما تكون تلميحًا لما سنراه في جميع أنحاء العالم في مرحلة ما”.
على المصادقة متعددة العوامل
شجعت Google منذ فترة طويلة مستخدميها على استخدام أساليب مصادقة أكثر أمانًا تتجاوز كلمات المرور لحماية وجودهم عبر الإنترنت. قامت الشركة بتشغيل المصادقة متعددة العوامل (MFA) لجميع حسابات المستخدمين في الماضي ، كما تروج مفاتيح الأمان القائمة على الأجهزة ، والتي ذكرها Adkins بالإشارة إلى موظفيها بنشاط باستخدام أجهزة الكمبيوتر المحمولة الخاصة بهم. أصبحت كلمة المرور أيضًا مصطلحًا تقنيًا شهيرًا ، مع معاني مختلفة.
ومع ذلك ، فإن توقع أن يتخلى الناس عن كلمة المرور في سوق مثل الهند بسبب التركيبة السكانية الواسعة والمناظر الطبيعية الاقتصادية المتنوعة.
وقال أدكنز: “لقد عرفنا لفترة طويلة أن كلمات المرور لم تكن آمنة. كان هذا المفهوم لمصادقة متعددة العوامل خطوة إلى الأمام” ، مضيفًا أن الهنود على الأرجح يفضلون المصادقة القائمة على الرسائل القصيرة على خيارات MFA الأخرى.
