نحن نثق في عائلاتنا.. في الفائدة التي ستعود على حساباتنا البنكية كل شهر.. نثق في وصول رسالة معينة بعد إرسالها إلى أحد الأشخاص.. كذلك دون أن نعي نحن نجد أنفسنا نثق في الخوارزميات بداية بـ"جوجل" Google، وحتى نظام الـGPS (التموضع العالمي).. لكن هل تستحق الخوارزميات حقًا تلك الثقة؟

الخوارزميات تحيط بنا من كل مكان، نحن لا نفكر في الأمر كثيرًا كأفراد؛ على العكس من الحكومات والهيئات والمؤسسات التي تستخدم تلك الخوارزميات في تحديد مصيرنا، واتخاذ قرارات تمسنا بشكل مباشر.

دوافع خفيّة

تقول "إليسا سيليز" Elisa Celis (وهي أستاذ مساعد في الإحصاء وعلوم البيانات بجامعة ييل الأمريكية) في TED Talks: لقد درست الرياضيات وعلوم الكمبيوتر لأنني أحب ذلك الجزء، بالطبع هناك مسائل صعبة ولكن في نهاية اليوم أنت تملك إجابات تعلم أنها صحيحة، لكن الخوارزميات ليست كذلك، الخوارزميات تُبنى على البيانات والبيانات ليست صحيحة، وليست حقيقية أيضًا.

تخبرنا إليسا أن ما نراه على الإنترنت ليس الحقيقة؛ بل هو صورة نمطية، فعلى سبيل المثال هناك حوالي ٢٥٪ من النساء يعملن كمديرات تنفيذيات CEO، بينما ما يعرضه لنا جوجل هو ١٣٪ فقط. إن طريقة جمع المعلومات تعتمد على القرارات البشرية، وتلك القرارات مدفوعة بدوافع خفية لكل شخص.. لكن من يأخذ تلك القرارات؟ من المستفيد من ذلك؟

تقول "إليسا": هناك دراسات تُشير إلى أن إعلانات الوظائف الخالية ذات الأجور العالية يراها الرجل خمس مرات بينما تراها المرأة مرة واحدة، كذلك ٧٥٪ ممن يرون إعلانات شراء المنازل هم من البيض، وفي المقابل يرى المواطنين الآخرين إعلانات منازل للإيجار.

تلك الدراسات أشعرت "إليسا" بالغضب بسبب كونها لاتينية، وامرأة وأيضًا أم، ولم تكن ترغب في أن تصبح - هي أو أطفالها- جزءًا من مجتمع مثل هذا، لذلك عكفت هي وزملائها وفريق من الباحثين على إعادة تعريف وتصميم خوارزميات لا تعاني من تلك المشاكل، خوارزميات تعكس الواقع، بل وربما تعكس المستقبل الذي ترغب في أن يكون عليه بلدها. 

لكن الأمر ليس بتلك السهولة؛ إن الخوارزميات أكبر من مجرد إعلانات لوظائف أو شراء للمنازل؛ بل تُستخدم في مجتمعاتنا، وفي أقسام الشرطة، والمكاتب الحكومية؛ إنها تتحكم في كل شيء.. تتحكم في كونك ستحصل تلك الوظيفة أو ذلك القرض الذي ترغب فيه أم لا، أو إذا كنت تستحق الدعم المادي من الحكومة أيضًا أم أن هناك من هو أكثر أحقية منك حتى وإن كنت معدمًا، أو حتى حصولك على أقل قدر من الرعاية الصحية.

أمريكا على سبيل المثال تستخدم الخوارزميات أكثر من أي دولة أخرى؛ تلك الخوارزميات تُستغَل من قِبَل الحكومة لاستخدامها في العديد من الأشياء بدايةً بالعدالة القضائية، والتعليم والصحة نهايةً بالتوظيف، وليست الحكومة وحدها التي تفعل ذلك، بل والشركات الكبيرة أيضًا. 

إن أي شخص يحاول دراسة تأثير الخوارزميات على السوق الأمريكي سوف يتأكد من شيء واحد فقط؛ إن تلك الخوارزميات لا تصب في صالح الفقراء والمجتمعات المهمشة. 

أتمتة المساواة - Automating Inequality

صورة

المهنيون من الطبقة المتوسطة وفوق المتوسطة يحبون البيانات، يعتقدون أن الأشخاص الأذكياء الذين يديرون شركات مثل "جوجل" Google أو "أوبر" Uber لديهم معرفة سرية، حتى أننا نعطيهم بياناتنا الشخصية بكل أريحية وإهمال؛ وذلك لأننا نفترض أن التكنولوجيا ستجعل حياتنا أسهل وأكثر راحة وتطورًا، لكن الأمر بالطبع ليس كذلك. 

تعتقد "فيرجينيا يوبانكس" Virginia Eubanks (وهي أستاذة مساعدة للعلوم السياسية في جامعة ألباني بنيويورك) أن تلك الخوارزميات تستغل من قبل الحكومة الأمريكية، وأنها فرضت نظامًا جديدًا للمراقبة والتنميط والإقصاء، إنه الشيء الذي وصفته في كتابها "أتمتة؛ المساواة" Automating Inequality  بـ"الضعف الرقمي"؛ تلك البيانات لا توفر ما يحتاجه الفقراء فعلًا، إن الرقمية الجديدة تسمح لنا بإدارة الفقراء، محاولة تحديد من هو الأكثر فقرًا كي يحصل على خدمات الحكومة، أو ما تُسميه "حقوقه الأساسية كإنسان".. إن تلك الخوارزميات تشكل مهربًا للحكومة من مسؤوليتها في القضاء على الفقر. 

من المهم جدًا دراسة التاريخ، نحن نظن أن ما يحدث للأنظمة مجرد تطويرات إدارية، لكن في الحقيقة تلك الأنظمة الهامة مرتبطة بقرارات سياسية اتُخذت من أجلنا

درست "فيريجينا" أتمتة الخدمات العامة في الولايات المتحدة، أو ما يعني تشغيلها بشكل ألكتروني، مُركزة على  التطورات في نهاية الستينات والسبعينات مرورًا بحركة الحقوق المدنية، والتي أدت إلى دفعة في حقوق الرعاية الاجتماعية؛ فباتت الأمهات العازبات والأشخاص ذوي الأصول الأفريقية قادرين على الاستفادة من دعم الحكومة، لكن مع دخول الأتمتة بدأت الأمور تتحول من الصب في صالح المواطن الفقير، والمجتمعات المهمشة إلى تقنين ذلك الدعم، وتقليل عدد الأشخاص الذين يحصلون عليه. 

تقول "فيرجينيا يوبانكس": أعتقد أنه من المهم جدًا دراسة التاريخ، نحن نظن أن ما يحدث للأنظمة مجرد تطويرات إدارية، مجرد أشياء طبيعية أو حتمية لا مفر منها؛ ولكن في الحقيقة تلك الأنظمة الهامة مرتبطة بقرارات سياسية اتُخذت من أجلنا، وأنها منذ البداية كانت تحل مشكلات سياسية، من بينها التضامن مع الفقراء والعمال. 

في بدايات السبعينات حوالي ٥٠٪ ممن يعيشون تحت خط الفقر في أمريكا وصلهم بعض الدعم المادي في صورة معونة اجتماعية من الحكومة، لكن في يومنا الحالي تلك النسبة أصبحت أقل من ١٠٪! 

تنميط الجناة: هل تستطيع الخوارزميات التنبؤ بالجرائم؟

إن اتخاذ الخوارزميات قرارات بشأننا؛ مثل من يحصل على الدعم الاجتماعي، أو من مدين للحكومة ليست الشيء الوحيد المثير للقلق.. إن المثير للقلق حقًا هو استخدام الخوارزميات للتنبؤ بسلوك الشخص الإجرامي. 

"كومبس" أو COMPAS هو نظام خوارزميات يستخدم في المحاكم لمساعدة القضاة في الحكم، وهو اختصار لـ"Correctional Offender Management Profiling for Alternative Sanctions" أو ما يعني "توصيف الإدارة المتكاملة للجاني من أجل عقوبات بديلة".

لا يمكن للخوارزميات بالطبع أن تربح المجادلات، أو أن تكشف عن الأدلة، لكنها تُستخدم في تقييم درجة المخاطر من أجل التنبؤ بإمكانية ارتكاب المدعى عليه جريمة أخرى في المستقبل، مما يجعل القاضي يقرر من يُطلق سراحه ومن يُحتجز في خلال فترة المحاكمة. 

قد يُطبق الأمر في الإمارات العربية قريبًا أيضًا؛ ففي الرابع والعشرين من ديسمبر ٢٠١٩ أعلنت بعض الصحف الإماراتية ابتكار المواطنة "روضة منصور الشامسي" مشروعًا يتنبأ بالجرائم عبر تجميع البيانات وتحليلها بدقة مما يُسهل على رجال الأمن القبض على المجرمين. 

أخيرًا

إذن،هل يمكننا بعد كل هذا الثقة بالخوارزميات؟ للأسف هذا ليس السؤال الصحيح؛ فالخوارزميات ما هي إلا معطيات وبيانات يتحكم فيها البشر؛ حكومات وشركات، وبطبيعتها لا تخلو من الأخطاء البشرية أو التوجيهات السياسية التي تنعكس بالطبع عليها. 

إن الخوارزميات لا تحتاج إلى أدوات أفضل بل تحتاج إلى أشخاص أفضل، إلى عدالة، وإبعاد توجهات السوق والحكومات عنها، ورغم أن هناك من يعمل على تحسين نظام الخوارزميات إلا أن الطريق أمامنا ما يزال طويلًا حتى نستطيع القول بأننا نثق بها.