تستخدم فرانسين بينيت علم البيانات لجعل الذكاء الاصطناعي أكثر مسؤولية

لمنح الأكاديميات اللاتي يركزن على الذكاء الاصطناعي وغيرهن من الوقت المستحق – والمتأخر – في دائرة الضوء، تطلق TechCrunch سلسلة من المقابلات التي تركز على النساء المتميزات اللاتي ساهمن في ثورة الذكاء الاصطناعي. سنقوم بنشر العديد من المقالات على مدار العام مع استمرار ازدهار الذكاء الاصطناعي، مع تسليط الضوء على الأعمال الرئيسية التي غالبًا ما لا يتم التعرف عليها. اقرأ المزيد من الملفات الشخصية هنا.

فرانسين بينيت هي عضو مؤسس في مجلس إدارة معهد Ada Lovelace وتشغل حاليًا منصب المدير المؤقت للمنظمة. قبل ذلك، عملت في مجال التكنولوجيا الحيوية، باستخدام الذكاء الاصطناعي للعثور على علاجات طبية للأمراض النادرة. كما شاركت أيضًا في تأسيس شركة استشارية لعلوم البيانات، وهي أحد الأمناء المؤسسين لشركة DataKind UK، التي تساعد المؤسسات الخيرية البريطانية في دعم علوم البيانات.

باختصار، كيف كانت بدايتك في مجال الذكاء الاصطناعي؟ ما الذي جذبك للميدان؟

لقد بدأت في الرياضيات البحتة ولم أكن مهتمًا جدًا بأي شيء تطبيقي – لقد استمتعت بالتلاعب بأجهزة الكمبيوتر ولكني اعتقدت أن أي رياضيات تطبيقية كانت مجرد عمليات حسابية وليست مثيرة للاهتمام من الناحية الفكرية. جئت إلى الذكاء الاصطناعي والتعلم الآلي في وقت لاحق عندما أصبح من الواضح بالنسبة لي وللجميع أنه نظرًا لأن البيانات أصبحت أكثر وفرة في الكثير من السياقات، فقد فتح ذلك إمكانيات مثيرة لحل جميع أنواع المشكلات بطرق جديدة باستخدام الذكاء الاصطناعي والتعلم الآلي، وكانوا أكثر إثارة للاهتمام مما كنت أدرك.

ما هو العمل الذي تفتخر به أكثر (في مجال الذكاء الاصطناعي)؟

أنا فخور جدًا بالعمل الذي ليس الأكثر تفصيلاً من الناحية الفنية ولكنه يفتح بعض التحسن الحقيقي للأشخاص – على سبيل المثال، استخدام التعلم الآلي لمحاولة العثور على أنماط لم تتم ملاحظتها سابقًا في تقارير حوادث سلامة المرضى في المستشفى لمساعدة المتخصصين الطبيين على تحسين المستقبل نتائج المرضى. وأنا فخور بتمثيل أهمية وضع الناس والمجتمع بدلاً من التكنولوجيا في المركز في أحداث مثل قمة سلامة الذكاء الاصطناعي في المملكة المتحدة لهذا العام. أعتقد أنه من الممكن القيام بذلك فقط من خلال السلطة لأنه كان لدي خبرة في العمل مع التكنولوجيا والتحمس لها والتعمق في كيفية تأثيرها فعليًا على حياة الناس في الممارسة العملية.

كيف يمكنك التغلب على تحديات صناعة التكنولوجيا التي يهيمن عليها الذكور، وبالتالي، صناعة الذكاء الاصطناعي التي يهيمن عليها الذكور؟

بشكل أساسي عن طريق اختيار العمل في أماكن ومع أشخاص مهتمين بالشخص ومهاراته على حساب الجنس والسعي لاستخدام التأثير الذي أملكه لجعل ذلك هو القاعدة. كما أن العمل ضمن فرق متنوعة كلما أمكنني ذلك – أن أكون في فريق متوازن بدلاً من أن أكون “أقلية” استثنائية يخلق جوًا مختلفًا حقًا ويجعل من الممكن للجميع تحقيق إمكاناتهم. على نطاق أوسع، نظرًا لأن الذكاء الاصطناعي متعدد الأوجه ومن المرجح أن يكون له تأثير على العديد من مناحي الحياة، وخاصة على أولئك الذين يعيشون في المجتمعات المهمشة، فمن الواضح أن الناس من جميع مناحي الحياة بحاجة إلى المشاركة في بنائه وتشكيله، إذا كان الأمر كذلك. سوف تعمل بشكل جيد.

ما هي النصيحة التي تقدمها للنساء الراغبات في دخول مجال الذكاء الاصطناعي؟

استمتع بها! يعد هذا مجالًا مثيرًا للاهتمام، ومليئًا بالتحديات الفكرية، ومتغيرًا إلى ما لا نهاية – ستجد دائمًا شيئًا مفيدًا وممتدًا للقيام به، وهناك الكثير من التطبيقات المهمة التي لم يفكر فيها أحد حتى الآن. أيضًا، لا تقلق كثيرًا بشأن الحاجة إلى معرفة كل شيء تقني (حرفيًا لا أحد يعرف كل شيء تقني) – فقط ابدأ بالبدء بشيء يثير اهتمامك، واعمل من هناك.

ما هي بعض القضايا الأكثر إلحاحًا التي تواجه الذكاء الاصطناعي أثناء تطوره؟

في الوقت الحالي، أعتقد عدم وجود رؤية مشتركة لما نريد أن يفعله الذكاء الاصطناعي لنا وما يمكنه وما لا يمكنه فعله لنا كمجتمع. هناك الكثير من التقدم التقني الجاري حاليًا، والذي من المحتمل أن يكون له تأثيرات بيئية ومالية واجتماعية عالية جدًا، والكثير من الإثارة حول طرح هذه التقنيات الجديدة دون فهم جيد للمخاطر المحتملة أو العواقب غير المقصودة. معظم الأشخاص الذين يبنون التكنولوجيا ويتحدثون عن المخاطر والعواقب ينتمون إلى فئة سكانية ضيقة جدًا. لدينا فرصة الآن لتحديد ما نريد رؤيته من الذكاء الاصطناعي والعمل على تحقيق ذلك. يمكننا أن نفكر مرة أخرى في أنواع أخرى من التكنولوجيا وكيف تعاملنا مع تطورها أو ما كنا نتمنى أن نفعله بشكل أفضل – ما هي معادلاتنا لمنتجات الذكاء الاصطناعي لاختبارات التصادم للسيارات الجديدة؛ تحميل المسؤولية للمطعم الذي يسبب لك التسمم الغذائي عن طريق الخطأ؛ استشارة الأشخاص المتأثرين أثناء الحصول على إذن التخطيط؛ استئناف قرار الذكاء الاصطناعي كما تفعل البيروقراطية البشرية.

ما هي بعض المشكلات التي يجب على مستخدمي الذكاء الاصطناعي معرفتها؟

أود أن يكون الأشخاص الذين يستخدمون تقنيات الذكاء الاصطناعي واثقين بشأن الأدوات وما يمكنهم فعله وأن يتحدثوا عما يريدون من الذكاء الاصطناعي. من السهل رؤية الذكاء الاصطناعي كشيء غير معروف ولا يمكن السيطرة عليه، لكنه في الواقع مجرد مجموعة أدوات – وأريد أن يشعر البشر بالقدرة على تحمل مسؤولية ما يفعلونه بهذه الأدوات. ولكن لا ينبغي أن تكون مسؤولية الأشخاص الذين يستخدمون التكنولوجيا فقط – بل ينبغي للحكومة والصناعة أن تعمل على تهيئة الظروف حتى يتمكن الأشخاص الذين يستخدمون الذكاء الاصطناعي من الشعور بالثقة.

ما هي أفضل طريقة لبناء الذكاء الاصطناعي بشكل مسؤول؟

نطرح هذا السؤال كثيرًا في معهد Ada Lovelace، الذي يهدف إلى جعل الذكاء الاصطناعي للبيانات يعمل لصالح الناس والمجتمع. إنها زاوية صعبة، وهناك المئات من الزوايا التي يمكنك اتخاذها، ولكن هناك زاويتان كبيرتان حقًا من وجهة نظري.

الأول هو أن تكون على استعداد في بعض الأحيان لعدم البناء أو التوقف. طوال الوقت، نرى أنظمة الذكاء الاصطناعي تتمتع بزخم كبير، حيث يحاول المطورون إضافة “حواجز حماية” بعد ذلك للتخفيف من المشكلات والأضرار ولكن لا يضعون أنفسهم في موقف يكون فيه التوقف أمرًا ممكنًا.

والثاني، هو الانخراط حقًا ومحاولة فهم كيف سيختبر جميع أنواع الأشخاص ما تقوم ببنائه. إذا تمكنت حقًا من التعمق في تجاربهم، فستكون لديك فرصة أكبر بكثير للنوع الإيجابي من الذكاء الاصطناعي المسؤول – بناء شيء يحل مشكلة حقيقية للناس، بناءً على رؤية مشتركة لما سيبدو عليه الخير – بالإضافة إلى تجنب السلبيات – عدم جعل حياة شخص ما أسوأ عن طريق الخطأ لأن وجوده اليومي يختلف تمامًا عن حياتك.

على سبيل المثال، عقد معهد Ada Lovelace شراكة مع هيئة الخدمات الصحية الوطنية لتطوير تقييم التأثير الخوارزمي الذي يجب على المطورين القيام به كشرط للوصول إلى بيانات الرعاية الصحية. وهذا يتطلب من المطورين تقييم التأثيرات المجتمعية المحتملة لنظام الذكاء الاصطناعي الخاص بهم قبل التنفيذ وجلب الخبرات الحياتية للأشخاص والمجتمعات التي يمكن أن تتأثر.

كيف يمكن للمستثمرين الدفع بشكل أفضل نحو الذكاء الاصطناعي المسؤول؟

من خلال طرح أسئلة حول استثماراتهم ومستقبلهم المحتمل – بالنسبة لنظام الذكاء الاصطناعي هذا، كيف يبدو العمل ببراعة والمسؤولية؟ أين يمكن أن تخرج الأمور عن مسارها؟ ما هي التأثيرات المحتملة على الإنسان والمجتمع؟ كيف يمكننا أن نعرف ما إذا كنا بحاجة إلى التوقف عن البناء أو تغيير الأشياء بشكل كبير، وماذا سنفعل بعد ذلك؟ لا توجد وصفة واحدة تناسب الجميع، ولكن فقط من خلال طرح الأسئلة والإشارة إلى أن تحمل المسؤولية أمر مهم، يمكن للمستثمرين تغيير المكان الذي تولي فيه شركاتهم الاهتمام والجهد.