دور الخوارزميات المتحيِّزة في ترسيخ انعدام المساواة

يزداد استخدام الذكاء الاصطناعي حول العالم للمساعدة في اتخاذ القرارات المتعلقة بالرعاية الصحية والقروض والعقوبات الجنائية والتقدم للوظائف إلكترونيًا. على سبيل المثال، يستخدم الأطباء التابعون لنظام الرعاية الصحية الأمريكي أنظمة تعمل بالخوارزميات لأجل اتخاذ قرارات متعلقة بتحديد العلاج اللازم.

وحسبما أظهرت دراسة حديثة أن إحدى الخوارزميات المستخدمة والشائعة تعمل بتحيز عنصري كبير. ومن المرجح أنها تقرر بأن المريض ذا البشرة البيضاء يحتاج لرعاية أكثر من المريض ذي البشرة السمراء، حتى وإن كانت مشكلاتهم الصحية متطابقة تقريبا. وقد استخدمتْ هذه الخوارزمية وغيرها شبيهة بها لرعاية مئات الملايين من المرضى سنويا في الولايات المتحدة. ما الذي يحدث هنا؟

يستخدم كل نظام من أنظمة التعرف الطبيعية والاصطناعية التعميمات الإحصائية للعمل بكفاءة. ونتيجة لذلك، فإن جميع نظم التعرف الطبيعية والاصطناعية لديها بعض التحيزات التي تكثر على سبيل المثال فيما يخص النظام البصري للإنسان. تعد بعض تلك التحيزات نافعة والبعض منها ضارة.

يفترض نظامنا الإدراكي على سبيل المثال أن الضوء يأتي من الأعلى. وهذا تحيز مفيد لنا، لأننا نعيش في بيئة يأتي فيها الضوء عادة من الأعلى. وعلى وجه التحديد، يجعل هذا التحيز النظام البصري أكثر كفاءة من خلال السماح لنا بمعالجة المعلومات الواردة بفاعلية أكبر.  وفي بعض الأحيان يقودنا الافتراض بأن الضوء يأتي من الأعلى إلى الوقوع في الأخطاء، ولكن في أغلب الأحوال يسير كل شيء على ما يرام.

ورغم أن هذا التحيز الضوئي لا توجد به مشاكل، فإن التحيزات البصرية تصبح ضارة إذا نجحت في توليد دول إدراكية تعمل على تعزيز الظلم في مجتمعنا أو تقودنا إلى التفاعل مع الآخرين بطرق ضارة. وبما أن لنا عيوبًا نحن البشر، فإن رؤيتنا المتحيزة قد لا تكون أمرًا مستغربًا. ففي النهاية يحركنا الخوف،  ونعتمد على مشاعرنا، ونحن عُرضة لإساءة الفهم.

ولكن قد يفاجؤنا انحياز أنظمة الذكاء الاصطناعي. تشكل الخوارزميات الحاسوبية جوهر أنظمة الذكاء الاصطناعي، فهذه الخوارزميات تعتمد على الرياضيات وتعمل بالبيانات. لذا فقد يتوقع المرء منها أن تكون  أكثر عدلاً وحقانية. ولكنها ليست كذلك. هناك طريقتان أساسيتان يمكن أن تتحيز الخوارزميات من خلالها: البيانات التي تُدرَّب الخوارزمية عليها، وكيفية ارتباط الخوارزمية بميزات البيانات التي تعمل عليها. يمكننا أن نطلق على الأولى مسمى تحيز عينة التدريب والثانية تحيز ربط السمات.

دعونا ننظر أولاً إلى التحيز القائم على عينات التدريب. فخوارزمية التعرف إلى الصوت في غوغل هي مثال جيد. إنها تؤدي عملها بشكل أفضل عند سماع صوت الرجل أكثر من المرأة. لماذا؟ لأن الخوارزميات المعقدة تعمل على البيانات. فقد تم تدريب خوارزمية التعرف إلى الصوت في غوٌل لتناسب نبرة الرجال. ونتيجة لذلك فإن الخوارزمية تعمل على نحو أفضل عندما يقوم بتفكيك شفرة الصوت للتعرف إلى تردد الصوت الذكري الطبيعي.

هناك الكثير من الحالات المشابهة لذلك ومنها كاميرا نيكون المزودة بتطبيق التعرف إلى الوجوه ويستخدم ليحرّف حقيقة الوجوه الآسيوية، إذ يسأل المستخدم: “هل رمش أحدهم؟”. وفي عام 2015 صنفت خوارزمية التعرف إلى الوجوه أمريكيين من أصل أفريقي على أنهم من حيوانات الغوريلا.  وفي كلتا الحالتين، يمكن تتبع مصدر المشكلة والتي هي البيانات المشوهة التي دُرِّبتْ الخوارزميات عليها: وتتألف بيانات التدريب الخاصة بها في المقام الأول من وجوه قوقازية.

ماذا عن المصدر الثاني للتحيز الخوارزمي: ما هو تحيز ربط السمات؟ تعمل أنظمة الذكاء الاصطناعي على مجموعات من البيانات الضخمة والمعقدة. تتكون مجموعات البيانات من أجزاء من المعلومات، والتي يمكننا أن نطلق عليها مسمى “سمات” تلتقط الخوارزميات الخصائص النظامية والعلاقات المتبادلة بين السمات، وتربط بينهما، ثم تتوقع ما قد يحدث في المستقبل بناء على ذلك. قد تكون العلاقات المتبادلة معقدة وتتجاوز فهم الإنسان حتى على  المبرمجين الذين أنتجوا الخوارزميات الأولية أنفسهم. عدا أنها لا تتجاوز الاكتشاف الخوارزمي. وفي الآتي مثالٌ يساعد على توضيح هذا الأمر.

تستخدم الخوارزميات لتصفية المتقدمين لطلب الوظائف المرموقة في الشركات حول العالم. ويمكن أن تكون خوارزميات التوظيف هذه منحازة بطرق متعددة. على سبيل المثال يستخدم في شركة أخبار فوكس خوارزمية لتحديد المستوفي لشروط الوظيفة “المرموقة” بناء على من كان ناجحا في شركة أخبار فوكس في الماضي. يركز هذا البرنامج بشكل خاص على صفتين هما: بقاء الموظف لمدة خمس سنوات في الشركة وترقيته مرتين خلال هذه المدة. تصفي الخوارزمية المتقدمين للوظيفة بحسب شبههم بمن شغلوها مسبقا وانطبقتْ عليهم الصفتان المذكورتان آنفا.

وكان أغلب الموظفين في أخبار فوكس ممن تنطبق عليهم تلكما الصفتان في الماضي من الرجال البيض. وهذا أمرٌ قد لا يثير الدهشة، أن تكون أغلب طلبات الوظائف التي تعدها الخوارزمية على أنها “مرموقة” هي طلبات الرجال البيض. وفي النهاية، يعود هذا التحيز إلى اختيار الخوارزمية وربط السمات بطرق مثيرة للمشاكل، ويمكن أن تربط هذه الخوارزميات بين السمات على نحو غير متوقع  فيما يشبه مباراة كرة قدم تُلعَب في كلية.

وهناك تحيزات متعلقة بالربط بين السمات وفيها مخاطرة أكبر. إحداها هو برنامج “نورثبوينت” لخطر التعرض للانتكاس، والذي يستخدم في قاعات المحاكم في الولايات المتحدة. يحسب البرنامج النقاط للتنبؤ باحتمال ارتكاب شخص ما لجريمة مشابهة  في المستقبل ويستخدم القضاة علامات خطر التعرض للانتكاس لاتخاذ قرارات احترازية متعلقة بالحكم الجنائي.

كشفت دراسة أجرتها شركة ProPublica، والتي أثبتت نتائجها أن الخوارزميات غير جديرة بالثقة فيما يخص التنبؤ بالجرائم المستقبلية؛ إذ تُعدُّ الثقة بها شبيهة بالثقة بأن يظهر أحد وجهي عملة عند رميها. وما يعيبها أكثر من ذلك هو أن الخوارزمية التي تحتسب النقاط تعمل بتحيز أيضا. وهي تميل أكثر لأنْ تفترض بأن الأمريكيين من أصل أفريقي أكثر عرضة للعودة للإجرام. ونتيجة لهذا فإن القضاة الذين يستخدمون هذا البرنامج من المحتمل أن يصدروا أحكاما صارمة على الأميركيين من أصل أفريقي.

تعتبر الخوارزميات المتحيزة مشكلة لأنها تؤدي إلى نتائج متحيزة. وبتكرار ممارستنا السابقة فإن الخوارزميات لا تجعل الوضع الراهن أفضل عن ما سبق، بل إنها تتحيز وتعمل على تضخيم أوجه الظلم التي يعاني منها مجتمعنا.

ولكي نلاحظ هذا، فلننظر مرة أخرى لخوارزميات الرعاية الصحية المستخدمة في مختلف أنحاء الولايات المتحدة. إن التحيز العنصري لهذه الخوارزميات نابع من استخدامها لتكاليف الرعاية الصحية السابقة كممثل للصحة؛ فإذا كانت تكاليف الرعاية الصحية السابقة للمريض مرتفعة، فإن الخوارزمية تتوقع بأنه يجب أن  يحصل على رعاية إضافية.

لن يكون هناك مشاكل إذا كان ثمة رابطة قوية بين تكاليف الرعاية الصحية السابقة والحاجة إلى رعاية صحية إضافية. ولكن إذا كانت تكاليف الرعاية الصحية السابقة مرتبطة بشكل أكثر إحكامًا بالدخل، ومستوى التأمين الصحي، والقدرة على الحصول على رعاية صحية فائقة، فإن خوارزمية مثل هذه سوف تعمل على مفاقمة أوجه الظلم المرتبطة بالدخل والتأمين. وعلى وجه التحديد، فإن المرضى الذين كانت تكاليف رعايتهم الصحية منخفضة في الماضي بسبب انخفاض دخلهم أو عدم كفاية التأمين الصحي فإن احتمالية حصولهم على الرعاية الصحية الإضافية التي يحتاجون إليها تقل. تعمل الخوارزميات المتحيزة في عالمنا المليء بالعيوب على إحداث حلقة من ردود الفعل المؤذية وتعزز التعصب البشري.

ما الذي يمكن القيام به لتفادي تحيز الخوارزميات؟ هناك خطوتان رئيسيتان: يمكننا تعريضها لعينات تدريب متوازنة، ويمكن التحقق من كيفية ربطها للسمات وتصحيحها. إن أصعب سؤال يواجه أنظمة الذكاء الاصطناعي هو ما يعنيه أن تكون خوارزمية الكمبيوتر عادلة. هل ينبغي أن يتضمن الإنصاف التأكد من حصول الأشخاص على بعض الفوائد بشكل متساوٍ؟ هل يجب أن تصحح المظالم التي وقعت في  الماضي؟

هناك حاجة ملحة لإيجاد حل للتحيز الخوارزمي كما أظهرت الدراسة الأخيرة بشأن التحيز العنصري في معاملات الرعاية الصحية. وبالتنظيم السليم نستطيع تصميم خوارزميات تضمن معاملة عادلة ومنصفة للجميع. ولا توجد حاليا مثل هذه الضوابط، ولكن ثمة محاولات لمطالبة الشركات والوكالات والمستشفيات بتقييم استخدامها لنظم اتخاذ القرارات الآلية.

في أبريل 2019 قدم عضوا مجلس الشيوخ الأمريكي كوري بوكر ورون ويدن، مع النائب يفت دي كلارك، قانون المساءلة الخوارزمية. والذي يطالب الشركات بتقييم خوارزميات الكمبيوتر المتحيزة التي تؤدي إلى قرارات غير دقيقة أو غير عادلة أو تمييزية وإصلاحها. وهو أول جهد تشريعي لضبط أنظمة الذكاء الاصطناعي في مختلف القطاعات في الولايات المتحدة، وهذه بداية جيدة.

بقلم: سوزانا شيلينبرغ | ترجمة: مريم الفزارية | تدقيق: آلاء الراشدية | المصدر