الأنثروبي مقابل البنتاغون: ما الذي هو على المحك فعلاً؟

تم تحديد الأسبوعين الماضيين من خلال اشتباك بين الرئيس التنفيذي لشركة Anthropic داريو أمودي ووزير الدفاع بيت هيجسيث باعتبارهما المعركة حول استخدام الجيش للذكاء الاصطناعي.

ترفض شركة أنثروبيك السماح باستخدام نماذج الذكاء الاصطناعي الخاصة بها في المراقبة الجماعية للأمريكيين أو في الأسلحة المستقلة بالكامل التي تشن ضربات دون تدخل بشري. وفي الوقت نفسه، قال الوزير هيجسيث إن وزارة الدفاع لا ينبغي أن تكون مقيدة بقواعد البائع، معتبرًا أنه ينبغي السماح بأي “استخدام قانوني” للتكنولوجيا.

وفي يوم الخميس، أشار أمودي علنًا إلى أن شركة Anthropic لن تتراجع – على الرغم من التهديدات التي قد تصنف شركته على أنها تشكل خطرًا على سلسلة التوريد نتيجة لذلك. ولكن مع تحرك دورة الأخبار بسرعة، فإن الأمر يستحق إعادة النظر بالضبط في ما هو على المحك في المعركة.

تدور هذه المعركة في جوهرها حول من يتحكم في أنظمة الذكاء الاصطناعي القوية، أي الشركات التي تبنيها، أو الحكومة التي ترغب في نشرها.

ما الذي يثير القلق الأنثروبي؟

كما قلنا أعلاه، لا تريد شركة Anthropic أن يتم استخدام نماذج الذكاء الاصطناعي الخاصة بها في المراقبة الجماعية للأمريكيين أو في الأسلحة المستقلة دون أن يكون هناك أي إنسان في دائرة اتخاذ قرارات الاستهداف وإطلاق النار. عادة ما يكون لمقاولي الدفاع التقليديين رأي ضئيل في كيفية استخدام منتجاتهم، لكن شركة أنثروبيك جادلت منذ بدايتها بأن تكنولوجيا الذكاء الاصطناعي تشكل مخاطر فريدة وبالتالي تتطلب ضمانات فريدة. ومن وجهة نظر الشركة، فإن السؤال المطروح هو كيفية الحفاظ على تلك الضمانات عندما يتم استخدام التكنولوجيا من قبل الجيش.

ويعتمد الجيش الأمريكي بالفعل على أنظمة آلية للغاية، وبعضها فتاك. تاريخيًا، تُرك قرار استخدام القوة المميتة للبشر، ولكن هناك القليل من القيود القانونية على الاستخدام العسكري للأسلحة ذاتية التشغيل. ولا تحظر وزارة الدفاع بشكل قاطع أنظمة الأسلحة ذاتية التشغيل بالكامل. وفقًا لتوجيهات وزارة الدفاع لعام 2023، يمكن لأنظمة الذكاء الاصطناعي اختيار الأهداف والاشتباك معها دون تدخل بشري، طالما أنها تستوفي معايير معينة وتجتاز المراجعة من قبل كبار مسؤولي الدفاع.

وهذا بالضبط ما يجعل الأنثروبي متوترًا. إن التكنولوجيا العسكرية سرية بطبيعتها، لذا إذا كانت المؤسسة العسكرية الأميركية تتخذ خطوات لأتمتة عملية صنع القرار القاتلة، فقد لا نعرف عنها إلا بعد أن تصبح جاهزة للعمل. وإذا استخدمت نماذج الأنثروبيك، فيمكن اعتبارها “استخدامًا قانونيًا”.

إن موقف الأنثروبيك ليس أن مثل هذه الاستخدامات يجب أن تكون غير مطروحة بشكل دائم. المشكلة هي أن نماذجها ليست قادرة بما يكفي لدعمها بأمان حتى الآن. تخيل أن نظامًا ذاتيًا يخطئ في تحديد الهدف، أو يؤدي إلى تصعيد الصراع دون إذن بشري، أو اتخاذ قرار مميت في جزء من الثانية لا يمكن لأحد التراجع عنه. إذا وضعت ذكاءً اصطناعيًا أقل قدرةً مسؤولًا عن الأسلحة، فستحصل على آلة سريعة جدًا وواثقة جدًا وسيئة في إجراء مكالمات عالية المخاطر.

يتمتع الذكاء الاصطناعي أيضًا بالقدرة على زيادة المراقبة القانونية للمواطنين الأمريكيين إلى درجة مثيرة للقلق. وبموجب القوانين الأمريكية الحالية، أصبحت مراقبة المواطنين الأمريكيين ممكنة بالفعل، سواء من خلال جمع الرسائل النصية ورسائل البريد الإلكتروني وغيرها من وسائل الاتصال. يغير الذكاء الاصطناعي المعادلة من خلال تمكين الكشف الآلي عن الأنماط على نطاق واسع، وحل الكيان عبر مجموعات البيانات، وتسجيل المخاطر التنبؤية، والتحليل السلوكي المستمر.

ماذا يريد البنتاغون؟

حجة البنتاغون هي أنه يجب أن يكون قادرًا على نشر تكنولوجيا أنثروبيك لأي استخدام قانوني يراه ضروريًا، بدلاً من أن تكون مقيدة بسياسات أنثروبيك الداخلية بشأن أشياء مثل الأسلحة المستقلة أو المراقبة.

وبشكل أكثر تحديدًا، قال الوزير هيجسيث إنه لا ينبغي لوزارة الدفاع أن تكون مقيدة بقواعد البائع وأنها ستشارك في “الاستخدام القانوني” للتكنولوجيا.

وقال شون بارنيل، كبير المتحدثين باسم البنتاغون، في منشور الخميس X، إن الوزارة ليس لديها مصلحة في إجراء مراقبة محلية جماعية أو نشر أسلحة ذاتية التشغيل.

وقال بارنيل: “هذا ما نطلبه: السماح للبنتاغون باستخدام نموذج الأنثروبيك لجميع الأغراض المشروعة”. “هذا طلب بسيط ومنطقي من شأنه أن يمنع شركة Anthropic من تعريض العمليات العسكرية الحاسمة للخطر وربما تعريض مقاتلينا للخطر. لن نسمح لأي شركة بإملاء الشروط المتعلقة بكيفية اتخاذ القرارات التشغيلية.”

وأضاف أن Anthropic أمامها حتى الساعة 5:01 مساءً بالتوقيت الشرقي يوم الجمعة لاتخاذ القرار. وقال: “وإلا فسننهي شراكتنا مع Anthropic ونعتبرها خطراً على سلسلة التوريد لشركة DOW”.

على الرغم من موقف الوزارة المتمثل في أنها ببساطة لا تعتقد أنه ينبغي تقييدها بسياسات الاستخدام الخاصة بالشركة، فإن مخاوف الوزير هيجسيث بشأن الأنثروبولوجيا بدت في بعض الأحيان مرتبطة بالمظالم الثقافية. في خطاب ألقاه في مكاتب SpaceX وxAI في يناير، انتقد هيجسيث “إيقاظ الذكاء الاصطناعي” في خطاب اعتبره البعض بمثابة معاينة لعدائه مع Anthropic.

قال هيجسيث: “لن يتم إيقاظ الذكاء الاصطناعي التابع لوزارة الحرب”. “نحن نبني أسلحة وأنظمة جاهزة للحرب، وليس روبوتات الدردشة لصالة أعضاء هيئة التدريس في Ivy League.”

فماذا الآن؟

وقد هدد البنتاغون إما بإعلان شركة أنثروبيك “خطرًا على سلسلة التوريد” – وهو ما يدرج فعليًا شركة أنثروبيك في القائمة السوداء لمنع التعامل مع الحكومة – أو استدعاء قانون الإنتاج الدفاعي (DPA) لإجبار الشركة على تصميم نموذجها بما يتناسب مع احتياجات الجيش. أعطت Hegseth Anthropic مهلة حتى الساعة 5:01 مساءً يوم الجمعة للرد. ولكن مع اقتراب الموعد النهائي، لا أحد يستطيع أن يخمن ما إذا كان البنتاغون سينفذ تهديده.

هذه ليست معركة يمكن لأي من الطرفين الابتعاد عنها بسهولة. يقول ساشين سيث، صاحب رأس المال المغامر في Trousdale Ventures الذي يركز على تكنولوجيا الدفاع، إن تصنيف مخاطر سلسلة التوريد لشركة Anthropic قد يعني “إطفاء الأنوار” للشركة.

ومع ذلك، قال، إذا تم إسقاط الأنثروبيك من وزارة الدفاع، فقد يكون ذلك قضية أمن قومي.

“[The Department] قال سيث لـ TechCrunch: “سيتعين عليهم الانتظار من ستة إلى 12 شهرًا حتى يتمكن OpenAI أو xAI من اللحاق بالركب. وهذا يترك نافذة لمدة تصل إلى عام حيث قد لا يعملون من النموذج الأفضل، ولكن من ثاني أو ثالث أفضل نموذج”.

تستعد شركة xAI لتصبح جاهزة للتصنيف السري وتحل محل Anthropic، ومن العدل أن نقول نظرًا لخطاب المالك Elon Musk حول هذه المسألة، فإن الشركة لن تواجه مشكلة في منح وزارة الدفاع السيطرة الكاملة على تقنيتها. تشير التقارير الأخيرة إلى أن OpenAI قد تلتزم بنفس الخطوط الحمراء التي تلتزم بها الأنثروبيك.