توضح Google تفاصيل الإجراءات الأمنية لميزات وكيل Chrome

يقوم عدد متزايد من المتصفحات بتجربة ميزات الوكيل التي ستتخذ إجراءات نيابة عنك، مثل حجز التذاكر أو التسوق لشراء عناصر مختلفة. ومع ذلك، تأتي هذه القدرات الوكيلة أيضًا مصحوبة بمخاطر أمنية قد تؤدي إلى فقدان البيانات أو الأموال.

قامت Google بتفصيل أسلوبها في التعامل مع أمان المستخدم على Chrome باستخدام نماذج المراقبة والموافقة على إجراء المستخدم. قامت الشركة بمعاينة إمكانات الوكلاء على Chrome في سبتمبر وقالت إن هذه الميزات سيتم طرحها في الأشهر المقبلة.

وقالت الشركة إنها تستخدم مساعدة بعض النماذج لمراقبة إجراءات الوكلاء. قالت Google إنها قامت ببناء User Alignment Critic باستخدام Gemini لتدقيق عناصر الإجراء التي أنشأها نموذج المخطط لمهمة معينة. إذا كان النموذج الناقد يعتقد أن المهام المخططة لا تخدم هدف المستخدم، فإنه يطلب من نموذج المخطط إعادة التفكير في الإستراتيجية. لاحظت Google أن النموذج الناقد يرى فقط البيانات الوصفية للإجراء المقترح وليس محتوى الويب الفعلي.

علاوة على ذلك، لمنع الوكلاء من الوصول إلى المواقع غير المسموح بها أو غير الجديرة بالثقة، تستخدم Google مجموعات أصل الوكيل، والتي تقيد النموذج للوصول إلى أصول للقراءة فقط وأصول قابلة للقراءة والكتابة. أصل القراءة فقط هو البيانات التي يُسمح لـ Gemini باستهلاك المحتوى منها. على سبيل المثال، في أحد مواقع التسوق، تكون القوائم ذات صلة بالمهمة، ولكن إعلانات البانر ليست كذلك. وبالمثل، قالت جوجل إن الوكيل مسموح له فقط بالنقر أو الكتابة على إطارات iframe معينة للصفحة.

“يفرض هذا التحديد أن البيانات من مجموعة محدودة من الأصول فقط هي المتاحة للوكيل، ولا يمكن تمرير هذه البيانات إلا إلى الأصول القابلة للكتابة. وهذا يحد من ناقل التهديد لتسرب البيانات عبر الأصل. وقالت الشركة في منشور بالمدونة: “يمنح هذا أيضًا المتصفح القدرة على فرض بعض هذا الفصل، على سبيل المثال من خلال عدم إرسال بيانات النموذج التي تقع خارج المجموعة القابلة للقراءة”.

تقوم Google أيضًا بفحص التنقل في الصفحة من خلال التحقق من عناوين URL من خلال نموذج مراقب آخر. وقالت الشركة إن هذا يمكن أن يمنع التنقل إلى عناوين URL الضارة التي تم إنشاؤها بواسطة النموذج.

وقال عملاق البحث إنه يقوم أيضًا بتسليم زمام الأمور للمستخدمين للقيام بالمهام الحساسة. على سبيل المثال، عندما يحاول أحد الوكلاء الانتقال إلى موقع حساس يحتوي على معلومات مثل البيانات المصرفية أو بياناتك الطبية، فإنه يسأل المستخدم أولاً. بالنسبة للمواقع التي تتطلب تسجيل الدخول، ستطلب من المستخدم الإذن للسماح لـ Chrome باستخدام مدير كلمات المرور. قالت Google إن نموذج الوكيل لا يتعرض لبيانات كلمة المرور. وأضافت الشركة أنها ستسأل المستخدمين قبل اتخاذ إجراءات مثل إجراء عملية شراء أو إرسال رسالة.

وقالت جوجل إنه بالإضافة إلى ذلك، لديها أيضًا مصنف سريع لمنع الإجراءات غير المرغوب فيها، كما أنها تختبر قدرات الوكيل ضد الهجمات التي أنشأها الباحثون.

يهتم صانعو متصفحات الذكاء الاصطناعي أيضًا بالأمن. في وقت سابق من هذا الشهر، أصدرت Perplexity نموذجًا جديدًا للكشف عن المحتوى مفتوح المصدر لمنع هجمات الحقن الفوري ضد العملاء.