ترجمة وتحرير: نون بوست

خلصت مراجعة دقيقة، أجرتها صحيفة وول ستريت جورنال، لمئات الوثائق الداخلية في شركة فيسبوك، بما في ذلك التقارير البحثية ومناقشات الموظفين عبر الإنترنت ومسودات العروض التقديمية للإدارة العليا، إلى أن فيسبوك تعرف بتفاصيل دقيقة أن منصاتها مليئة بالعيوب التي تسبب الضرر، غالبًا بطرق لا تفهمها سوى الشركة وحدها.

وبحسب سلسلة التقارير التي نشرتها "وول ستريت جورنال" ويترجمها "نون بوست"، فقد أظهرت الوثائق مرارًا وتكرارًا أن باحثي فيسبوك قد حددوا الآثار السيئة للمنصة. وعلى الرغم من جلسات الاستماع في الكونجرس، وتعهدات فيسبوك العديدة والمتكررة بإصلاحها، إلا أن الشركة -كما تظهر الوثائق- لم تتخذ خطوة بهذه الاتجاه.


يقول مارك زوكربيرغ بأن شركة فيسبوك تسمح لأكثر من ثلاثة مليارات مستخدم بالتحدث على قدم المساواة مع النخب السياسية والثقافية والإعلامية، وأن معايير السلوك الخاصة بها تنطبق على الجميع، بغض النظر عن وضعهم الاجتماعي أو شهرتهم.

لكن في الخفاء، أنشأت الشركة نظامًا أعفى مشاهير المستخدمين من بعض القواعد أو جميعها، وفقًا لوثائق داخلية اطلعت عليها وول ستريت جورنال.

كان الهدف من البرنامج المعروف باسم "التحقق المتقاطع" أو "XCheck"، في البداية أن يكون إجراء لمراقبة جودة الإجراءات المتخذة تجاه الحسابات البارزة، بما في ذلك المشاهير والسياسيين والصحفيين. وتُظهر الوثائق أن البرنامج يحمي اليوم ملايين المستخدمين البارزين من القواعد العادية لشركة فيسبوك. كما يتم "إدراج بعض المستخدمين في القائمة البيضاء"، حيث يحصلون على حصانة من إجراءات الإنفاذ، ويُسمح للبعض بنشر مواد تنتهك القواعد في انتظار مراجعات موظفي فيسبوك التي غالبًا لا تأتي أبدًا.

وتظهر الوثائق في بعض الأحيان أن "إكس تشيك" يوفر حماية للشخصيات العامة التي تحتوي منشوراتها على إساءات أو تحريض على العنف، وهي انتهاكات من شأنها أن تؤدي عادة إلى فرض عقوبات على المستخدمين العاديين. في عام 2019، سُمح لنجم كرة القدم العالمي نيمار بعرض صور عارية لامرأة اتهمته بالاغتصاب، وشاهدها عشرات الملايين من معجبيه قبل إزالة المحتوى من شركة فيسبوك.

وقد شاركت الحسابات المدرجة في القائمة البيضاء منشورات تحريضية يعتبرها مدققو المحتوى في فيسبوك كاذبة، بما في ذلك ادعاءات بأن اللقاحات مميتة، وأن هيلاري كلينتون قد حجبت "حلقات الاستغلال الجنسي للأطفال"، وأن الرئيس السابق دونالد ترامب نعت جميع اللاجئين الذين يطلبون اللجوء"بالحيوانات"، وفقًا للوثائق.

جاء في الوثيقة السرية: "نحن لا نفعل في الواقع ما نقول إننا نفعله علنًا"، ووصفت إجراءات الشركة بأنها "انتهاك للثقة". وأضافت: "على عكس بقية المستخدمين، يمكن لهؤلاء الأشخاص انتهاك معاييرنا دون أي عواقب".

وجدت مراجعة داخلية لممارسات القائمة البيضاء على فيسبوك سنة 2019، أن المحاباة لهؤلاء المستخدمين منتشرة على نطاق واسع و"لا يمكن الدفاع عنها علنًا".

وجاء في الوثيقة السرية: "نحن لا نفعل في الواقع ما نقول إننا نفعله علنًا"، ووصفت إجراءات الشركة بأنها "انتهاك للثقة". وأضافت: "على عكس بقية المستخدمين، يمكن لهؤلاء الأشخاص انتهاك معاييرنا دون أي عواقب".

وتظهر الوثائق أنه على الرغم من محاولات كبح جماح البرنامج، فقد ضمّ "إكس تشيك" 5.8 مليون مستخدم على الأقل في عام 2020. في إطار محاولاتها للسيطرة بدقة على سيل من المحتوى السلبي، أنشأت فيسبوك نخبة غير مرئية داخل الشبكة الاجتماعية.

وفي وصفه لطبيعة هذا البرنامج، ضلّل فيسبوك الرأي العام ومجلس الرقابة الخاص به، وهو هيئة أنشأها فيسبوك لضمان مساءلة أنظمة إنفاذ القوانين في الشركة.

في حزيران/ يونيو، أخبر فيسبوك مجلس الرقابة في خطاب مكتوب أن نظامه للمستخدمين البارزين تم استخدامه في "عدد محدود من القرارات".

وفي بيان مكتوب، قال المتحدث باسم فيسبوك، آندي ستون، إن انتقاد "إكس تشيك" كان عادلاً، لكنه أضاف أن النظام "تم تصميمه لسبب وجيه، وهو القيام بخطوة إضافية حتى نتمكن من تطبيق السياسات بدقة على المحتوى الذي قد يتطلب مزيدًا من الفهم".

صورة
مقر فيسبوك في مينلو بارك، كاليفورنيا

كما قال إن فيسبوك كان دقيقًا في المعطيات التي أدلى بها لمجلس الإدارة وأن الشركة تواصل العمل على التخلص تدريجيا من إدراج بعض المستخدمين في القائمة البيضاء. وأضاف: "الكثير من هذه المواد الداخلية عبارة عن معلومات قديمة تم تجميعها معًا لمعرفة المشاكل المتعلقة بإكس تشيك والعمل على معالجتها".

وثائق داخلية

تعد الوثائق التي تصف برنامج "إكس تشيك" جزءًا من مجموعة واسعة من وثائق فيسبوك الداخلية التي اطلعت عليها وول ستريت جورنال. أظهرت الوثائق أن فيسبوك يعرف بدقة أن منصاته مليئة بالعيوب التي تسبب أضرارا، غالبًا بطرق لا تفهمها إلا الشركة.

علاوة على ذلك، تُظهر الوثائق أن فيسبوك غالبًا ما يفتقر إلى الإرادة أو القدرة على معالجتها. 

وهذه هي المقالة الأولى في سلسلة مقالات مبنية على تلك الوثائق ومقابلات مع العشرات من الموظفين الحاليين والسابقين.

وقد تم تسليم بعض الوثائق إلى لجنة الأوراق المالية والبورصات والكونغرس من قبل شخص يسعى لحماية المبلغين الفدراليين، وفقًا لمصادر مطلعة.

لطالما كان طموح فيسبوك المعلن هو ربط الناس. ومع توسعها على مدار الـ 17 سنة الماضية، من شبكة يستخدمها عدد من طلاب جامعة هارفارد، إلى منصة تضم مليارات المستخدمين حول العالم، فإنها تواجه واقعا معقدا للغاية، حيث تجمع بين أصوات متباينة ذات دوافع مختلفة، بدءًا من الأشخاص الذين يتبادلون التهنئة في المناسبات السعيدة، وصولا إلى عصابات المخدرات المكسيكية التي تقوم بعملياتها عبر المنصة. وهذه المشاكل تستنزف طاقات الشركة بشكل متزايد.

تقدم الوثائق صورة واضحة عن حجم المشاكل داخل الشركة، والتي وصلت إلى الرئيس التنفيذي نفسه.

تظهر الوثائق، في الولايات المتحدة وخارجها، أن باحثي فيسبوك قد حددوا الآثار السلبية للمنصة، في مجالات تشمل الصحة العقلية للمراهقين والخطاب السياسي والاتجار بالبشر. وعلى الرغم من جلسات الاستماع في الكونغرس والكثير من الانتقادات في وسائل الإعلام، وتعهداتها المستمرة، لم تقم الشركة بإصلاح الكثير من تلك السلبيات.

في بعض الأحيان كانت الشركة تتراجع خوفا من الإضرار بأعمالها، وفي حالات أخرى، أجرت تغييرات جاءت بنتائج عكسية. حتى بعض مبادرات زوكربيرغ تم إحباطها من خلال أنظمته وخوارزمياته.

تتضمن الوثائق تقارير بحثية ومناقشات للموظفين عبر الإنترنت ومسودات للعروض التقديمية للإدارة العليا، بما عروض قدمها زوكربيرغ. كانت هذه الوثائق نتاجا للعمل الرسمي للفرق التي وظفتها الشركة لفحص الشبكة الاجتماعية ومعرفة طرق تحسينها.

تقدم الوثائق صورة واضحة عن حجم المشاكل داخل الشركة، والتي وصلت إلى الرئيس التنفيذي نفسه. وعندما يتحدث فيسبوك مع  المشرعين والسلطات عن هذه القضايا، مثل "إكس تشيك" ومجلس الرقابة على سبيل المثال، فإنه غالبًا ما يقدم إجابات مضللة أو جزئية.

صورة
الرئيس التنفيذي لشركة فيسبوك، مارك زوكربيرغ، في جلسة استماع للجنة الخدمات المالية بمجلس النواب في الكابيتول هيل سنة 2019.

الربحية هي أحد المجالات التي لم تكافح فيها الشركة لإصلاح الأخطاء. في السنوات الخمس الماضية، التي خضعت خلالها لتدقيق شديد مما خلق نقاشات داخلية، حقق فيسبوك أرباحًا تجاوزت 100 مليار دولار. وتقدر قيمة الشركة حاليًا بأكثر من 1 تريليون دولار.

بالنسبة للمستخدمين العاديين، يوفر فيسبوك نوعًا من العدالة الصارمة في تقييم ما إذا كانت المشاركات تطابق قواعد الشركة ضد التنمر والمحتوى الجنسي وخطاب الكراهية والتحريض على العنف. في بعض الأحيان، تحذف الأنظمة الآلية للشركة بشكل مؤقت أو تزيل المحتوى المشتبه في انتهاكه للقواعد دون مراجعة بشرية. وفي حالات أخرى، يتم تقييم المواد بشكل مختلف عبر برامج خاصة.

قدر زوكربيرغ سنة 2018 أن فيسبوك يتخذ 10 بالمئة من قرارات إزالة المحتوى بشكل خاطئ، واعتمادًا على الإجراءات التنفيذية المتخذة، قد لا يتم إخبار المستخدمين مطلقًا بالقاعدة التي انتهكوها أو منحهم فرصة للاستئناف.

في المقابل، يتم التعامل مع بعض المستخدمين المميزين وفق برنامج "إكس تشيك" بشكل أكثر احترامًا. صمم فيسبوك هذا البرنامج لتقليل ما وصفه موظفوه في الوثائق بـ"مشاكل العلاقات العامة"، أي الاهتمام الإعلامي السلبي جراء اتخاذ إجراءات حجب محتوى بشكل خاطئ ضد كبار الشخصيات والمشاهير.

تأهل نيمار، نجم كرة القدم البرازيلي واسمه الكامل نيمار دا سيلفا سانتوس جونيور، بسهولة لدخول القائمة. مع أكثر من 150 مليون متابع، يعد حساب نيمار على أنستغرام، المنصة التابعة لفيسبوك، واحدًا من أكثر الحسابات شعبية في العالم.

إذا استنتجت أنظمة فيسبوك أن أحد هذه الحسابات ربما يكون قد انتهك قواعده، فإنها لا تزيل المحتوى، أو على الأقل لا تفعل ذلك على الفور، كما تشير الوثائق. يتم توجيه الشكوى إلى نظام منفصل يعمل به موظفون مدربون بشكل أفضل ويعملون بدوام كامل، من أجل عمليات مراجعة إضافية.

كان معظم موظفي فيسبوك قادرين على إضافة مستخدمين جدد إلى نظام "إكس تشيك"، وفقا للوثائق. وقد وجدت مراجعة في سنة 2019 أن ما لا يقل عن 45 فريقًا في الشركة شاركوا في إضافة أسماء في القائمة البيضاء. ولا يتم إخبار المستخدمين عمومًا أنه قد تم وضع علامة خاصة على أسمائهم. ويقول تقرير داخلي إن المؤهلات الأساسية لدخول القائمة أن تكون الحسابات "ذات أهمية إخبارية" أو "مؤثرة" أو "محفوفة بالمخاطر في العلاقات العامة".

تأهل نيمار، نجم كرة القدم البرازيلي واسمه الكامل نيمار دا سيلفا سانتوس جونيور، بسهولة لدخول القائمة. مع أكثر من 150 مليون متابع، يعد حساب نيمار على أنستغرام، المنصة التابعة لفيسبوك، واحدًا من أكثر الحسابات شعبية في العالم.

وبعد أن اتهمت امرأة نيمار باغتصابها سنة 2019 ، نشر اللاعب مقاطع فيديو على فيسبوك وأنستغرام يدافع فيها عن نفسه، حيث تُظهر المقاطع مراسلاتها معه على واتساب، وقد تضمنت اسمها وصورا لها وهي عارية. واتهم نيمار المرأة بابتزازه.

صورة
نجم كرة القدم البرازيلي نيمار في ريو دي جانيرو سنة 2019.

ويعدّ إجراء فيسبوك الطبيعي للتعامل مع نشر مثل هذه الصور هو الحذف، لكن نيمار كان محميًا بواسطة برنامج "إكس تشيك".

لأكثر من يوم، منع البرنامج مشرفي فيسبوك من إزالة الفيديو، وقد وجدت مراجعة داخلية للحادث أن 56 مليون مستخدم على فيسبوك وأنستغرام شاهدوا ما وصفته الشركة في وثيقة منفصلة بـ"الانتقام الإباحي"، وعرّض المرأة وفقا لوصف الموظف في المراجعة لإساءات من مستخدمين آخرين.

وحسب الوثيقة، شمل ذلك "إعادة نشر الفيديو أكثر من 6000 مرة، والتنمر والمضايقة".

وتنص إرشادات فيسبوك التشغيلية على أنه لا يجب حذف الصور العارية غير المصرح بها فحسب، بل يجب حذف حسابات الأشخاص الذين ينشرونها.

وجاء في المراجعة: "بعد تصعيد القضية إلى المسؤولين، قررنا ترك حسابات نيمار نشطة، وهو ما يعد خروجا عن سياسات تعطيل الملف الشخصي المعتادة".

من الناحية العملية، بدا فيسبوك مهتمًا بتجنب الأخطاء أكثر من اهتمامه بالتخفيف من الإساءات.

وقد نفى نيمار مزاعم الاغتصاب، ولم يتم توجيه أي اتهامات ضده. واتهمت السلطات البرازيلية المرأة بالقذف والابتزاز والاحتيال. وقال متحدث باسم نيمار إن اللاعب يلتزم بقواعد فيسبوك، ورفض الإدلاء بمزيد من التعليقات.

كانت قوائم المسجلين في "إكس تشيك" مبعثرة في جميع أنحاء الشركة، دون إدارة واضحة، وفقًا لمراجعة صدرت السنة الماضية، و"نتج عن ذلك عدم تطبيق البرنامج على أولئك الذين يشكلون مخاطر حقيقية، مقابل تطبيقه على أولئك الذين لا يستحقون ذلك. وقد أدى ذلك إلى نشوب مشاكل في العلاقات العامة".

من الناحية العملية، بدا فيسبوك مهتمًا بتجنب الأخطاء أكثر من اهتمامه بالتخفيف من الإساءات. وأظهرت مراجعة صدرت سنة 2019 لأخطاء "إكس تشيك" الرئيسية أنه من بين 18 حادثة تم التحقيق فيها، أخطأت الشركة في الإجراءات المتخذة ضد مستخدمين بارزين 16 مرة.

وتطرق أربعة من أصل 18 إلى إجراءات إنفاذ غير مقصودة ضد محتوى من ترامب ونجله دونالد ترامب الابن. وقد تم حذف أسئلة وأجوبة الموظف بعد أن صنفتها الخوارزمية على أنها تحتوي على معلومات خاطئة.

حذف المحتوى

وتظهر الوثائق أن فيسبوك اتصل ببعض المستخدمين المهمين الذين انتهكوا سياسات النظام الأساسي وقدم "نافذة إصلاح ذاتي" لمدة 24 ساعة ليقوم المستخدم بحذف المحتوى المخالف بنفسه قبل أن يقوم فيسبوك بإزالته وتطبيق العقوبات.

وقال المتحدث باسم الشركة آندي ستون إن فيسبوك قد ألغى هذه الميزة التي كانت سارية خلال انتخابات 2020، لكنه لم يكشف متى تم إلغاؤها.

في بعض الأحيان، يتطلب سحب المحتوى من حساب "VIP" موافقة من كبار المسؤولين التنفيذيين في فرق الاتصالات والسياسة العامة، أو حتى زوكربيرغ أو رئيس العمليات شيريل ساندبرغ، وفقًا لمصادر مطلعة.

في حزيران/ يونيو 2020، ظهر منشور ترامب أثناء مناقشة حول القواعد المخفية لـ"إكس تشيك" على منصة الاتصالات الداخلية للشركة، والتي تُعرف بـ(Facebook Workplace). وقال ترامب في منشوره: "عندما يبدأ النهب، يبدأ إطلاق النار".

لاحظ أحد المسؤولين في فيسبوك أن نظامًا آليًا، صممته الشركة لاكتشاف ما إذا كان المنشور ينتهك قواعدها، قد أعطى لترامب تصنيفا 90 من أصل 100، مما يشير إلى احتمال كبير أنه ينتهك قواعد النظام الأساسي.

بالنسبة إلى منشور مستخدم عادي، ستؤدي هذه النتيجة إلى إزالة المحتوى بمجرد إبلاغ شخص واحد به إلى فيسبوك. بدلاً من ذلك، وكما اعترف زوكربيرغ علنًا العام الماضي، فقد أجرى مكالمة شخصية لترك المنشور مفتوحًا. 

تمت تغطية حساب ترامب بواسطة "إكس تشيك" قبل تعليقه لمدة عامين من فيسبوك في حزيران/ يونيو. حدث الأمر ذاته بالنسبة لأفراد من عائلته وأعضاء في الكونغرس وبرلمان الاتحاد الأوروبي، إلى جانب مسؤولين ونشطاء مدنيين ومعارضين.

ورغم أن البرنامج شمل معظم المسؤولين الحكوميين، إلا أنه لم يشمل جميع المرشحين للمناصب العامة، وفي بعض الأحيان منح أصحاب المناصب في الانتخابات ميزة على المنافسين. كان التناقض أكثر وضوحا فيما يتعلق بالمناصب الحكومية والمحلية، كما تُظهر الوثائق، وكان الموظفون قلقين من أن فيسبوك قد يتعرض لاتهامات بالمحاباة.

تُظهر الوثائق عمليًا أن معظم المحتوى الذي وُضعت عليه علامة بواسطة برنامج "إكس تشيك" لم يواجه أي مراجعة لاحقة

وأقر ستون بتلك المخاوف، لكنه قال إن الشركة عملت على معالجتها. وأضاف: "لقد بذلنا جهودًا لضمان إدراج المتنافسين وأصحاب المناصب في البرنامج، سواء في الانتخابات الفدرالية أو غير الفدرالية".

يغطي البرنامج إلى حد كبير أي شخص يظهر بانتظام في وسائل الإعلام أو لديه متابعة كبيرة عبر الإنترنت، بما في ذلك نجوم السينما ومقدمي البرامج الحوارية والأكاديميين والشخصيات التي تملك عددا كبيرا من المتابعين في وسائل التواصل. وتُظهر الوثائق عمليًا أن معظم المحتوى الذي وُضعت عليه علامة بواسطة برنامج "إكس تشيك" لم يواجه أي مراجعة لاحقة.

حتى عندما تقوم الشركة بمراجعة المحتوى، فإن التأخير في التنفيذ، مثلما حدث في حالة منشور نيمار، يعني أن المحتوى الذي كان يجب حظره يمكن أن يصل إلى جمهور عريض. في السنة الماضية، سمح "إكس تشيك" بمشاهدة المنشورات التي تنتهك القواعد 16.4 مليار مرة على الأقل، قبل إزالتها لاحقًا، وفقًا لملخص البرنامج في أواخر كانون الأول/ ديسمبر.

كما أظهرت الوثائق أن فيسبوك أدرك قبل سنوات أن الاستثناءات التي يمنحها برنامج "إكس تشيك" غير مقبولة، حيث يمنح الحماية في بعض الأحيان لما وصفه بالحسابات المسيئة والمخالفين للقواعد بشكل مستمر. ومع ذلك، توسع البرنامج بمرور الوقت، مع إضافة عشرات الآلاف من الحسابات في السنة الماضية.

بالإضافة إلى ذلك، طلب فيسبوك من شركائه في التدقيق والمراجعة تغيير النتائج التي توصلوا إليها بأثر رجعي بشأن المنشورات من حسابات رفيعة المستوى، والتنازل عن العقوبات القياسية لما يصنفه على أنه معلومات مضللة، وحتى تغيير خوارزمياته لتجنب التداعيات السياسية.

وحسب مذكرة صدرت في كانون الأول/ ديسمبر 2020 من أحد كبار الباحثين في الشركة، فإنه "ليس لدى فيسبوك حاليًا جدار حماية لعزل القرارات المتعلقة بالمحتوى من الضغوط الخارجية"، في إشارة إلى التدخلات اليومية في عملية وضع القواعد وتنفيذها من قبل فريق السياسة العامة في فيسبوك وكبار المديرين التنفيذيين. 

وكانت مذكرة أخرى صادرة في كانون الأول/ ديسمبر من خبير بيانات آخر في فيسبوك أكثر صراحة: "يقوم فيسبوك بشكل روتيني باستثناءات لفائدة المستخدمين أصحاب النفوذ".

إجراءات خاطئة

يقول زوكربيرغ باستمرار تعليقا على كيفية تعديل المحتوى المثير للجدل، إنه يلتزم الحياد المبدئي. وصرح للكونغرس في جلسة استماع العام الماضي: "لا نريد أن نصبح أوصياء على آراء الناس".

نشأ برنامج الإنفاذ الخاص للمستخدمين المهمين في فيسبوك من حقيقة أن أنظمة مراقبة المحتوى البشرية والآلية تقوم بالكثير من الأخطاء.

ويتعلق جزء من المشكل بالموارد المرصودة لمراقبة المحتوى. ورغم أن فيسبوك يؤكد توظيف جيش من المشرفين لمراقبة المحتوى، فإنه لا يزال غير قادر على المعالجة الكاملة لسيل المحتوى على منصاته. حتى على افتراض وجود موظفين مناسبين ومعدل دقة عال، فإن هناك يوميًا العديد من المكالمات رفيعة المستوى واحتمال حدوث مشاكل علاقات عامة.

وفقا لإحدى الوثائق، أراد فيسبوك نظامًا "لتقليل الإساءات وعبء العمل البشري"، وهي المهمة التي كان من المفترض أن يقوم بها برنامج "إكس تشيك".

غالبًا ما يصف المستخدمون على فيسبوك أو أنستغرام أو المنصات الأساسية المنافسة ما يقولون إنها أخطاء في إزالة المحتوى، وغالبًا ما يكون الحذف مصحوبا بإشعار.

يولي فيسبوك اهتماما كبيرا بهذه المسألة. أحد العروض التقديمية الداخلية حول هذه القضية العام الماضي كان بعنوان "المستخدمون ينتقمون من إجراءات فيسبوك".

ووفقًا للعرض، نشر أحد المستخدمين ردًا على عملية حذف خاطئة، "كل ما قلته هو عيد ميلاد سعيد".

واشتكى مستخدم آخر: "يبدو أن فيسبوك لا يسمح بالاعتراض على ألوان الطلاء حاليا؟"، حيث اعتبر فيسبوك أن منشوره "ألوان الطلاء الأبيض هي الأسوأ" يحض على الكراهية.

وجاء في العرض التقديمي: "يحب المستخدمون إظهارنا في أكثر الأوضاع سخافة"، مشيرًا إلى أنهم غالبًا ما يكونون غاضبين حتى عندما يطبق فيسبوك قواعده بشكل صحيح.

وإذا كان التعرض لانتقادات من قبل المستخدمين العاديين أمرًا مزعجًا، فمن المؤكد أن حذف منشورات الشخصيات البارزة عن طريق الخطأ أمر محرج للغاية.

في السنة الماضية، أساءت خوارزميات فيسبوك تفسير منشور قديم من حسام السكري، وهو صحفي مستقل كان يرأس خدمة الأخبار العربية في "بي بي سي"، وفقًا لمراجعة أصدرتها الشركة في أيلول/ سبتمبر 2020.

وقد أدان الصحفي في منشوره أسامة بن لادن، لكن خوارزميات فيسبوك أساءت تفسير المنشور على أنه يدعم الإرهابي، وهو ما يعتبر انتهاكا لقواعد المنصة. وافق المراجعون بالخطأ على القرار الآلي ورفضوا استئناف السكري.

نتيجة لذلك، تم حظر حساب السكري قبل وقت قصير من ظهوره في بث فيديو مباشر. رداً على ذلك، شجب السكري فيسبوك على حسابه في تويتر بمنشورات حصدت مئات الآلاف من المشاهدات.

بعد ذلك بوقت قصير حذف فيسبوك بالخطأ المزيد من منشورات السكري التي تنتقد شخصيات إسلامية محافظة.

وغرّد السكري قائلاً: "من الواضح أن فريق دعم فيسبوك للغة العربية قد اختُرق من قبل المتطرفين.

وبعد البحث مع 41 موظفًا، قالت الشركة في تقرير حول الحادث إن "إكس تشيك" ظل في كثير من الأحيان "موجهًا حسب الطلب". وخلص التقرير إلى أنه يجب توسيع نطاق برنامج "إكس تشيك" ليشمل صحفيين بارزين مستقلين مثل السكري، لتجنب أي مشاكل علاقات عامة مستقبلا.

ومع انتشار "إكس تشيك" ليشمل ما قالت الوثائق إنه ملايين المستخدمين في جميع أنحاء العالم، أصبحت مراجعة كل المحتوى المشكوك فيه عبئا إضافيا كبيرا.

القائمة البيضاء

ردًا على ما تصفه الوثائق بأنه نقص استثمار في جهود التعامل العادل مع المحتوى، اختارت العديد من الفرق في فيسبوك عدم تطبيق القواعد على حسابات رفيعة المستوى، ويشار إلى هذه الممارسة باسم "القائمة البيضاء". 

تنص مراجعة صدرت سنة 2019 على أن "هذه المشكلة منتشرة، وتمس كل مجال من مجالات الشركة تقريبًا"، وخلصت إلى أن القوائم البيضاء "تشكل العديد من المخاطر القانونية المتعلقة بالامتثال لقواعد الشركة وتضر بالمنصة".

صورة
تظهر الوثائق أن فيسبوك يحاول القضاء على ممارسة الإدراج في القائمة البيضاء. المقر الرئيسي في مينلو بارك.

وتضمنت وثيقة صادرة في 2020، خطة لإصلاح البرنامج. وذكرت الوثيقة أن الاستثناءات والمشاركات التي لم تتم مراجعتها لاحقًا أصبحت جوهر البرنامج، مما يعني أن معظم المحتوى من مستخدمي "إكس تشيك" لم يكن خاضعا للقواعد. وجاء في الوثيقة: "نقوم حاليًا بمراجعة أقل من 10 بالمئة من محتوى إكس تشيك".

وقال ستون إن الشركة قامت بتحسين هذه النسبة خلال سنة 2020، على الرغم من رفضه تقديم بيانات مفصلة.

حيّرت الفسحة الممنوحة للحسابات السياسية البارزة بشأن المعلومات المضللة، والتي اعترفت بها الشركة سنة 2019 بشكل محدود، بعض الموظفين المسؤولين عن حماية منصات فيسبوك. ولاحظ الباحثون أن الحسابات البارزة تشكل مخاطر أكبر من الحسابات العادية، لكنها كانت الأقل خضوعا للمراقبة.

وجاء في مذكرة صدرت سنة 2019 من باحثين في فيسبوك، بعنوان "القائمة البيضاء السياسية تتعارض مع المبادئ الأساسية المنصوص عليها": "نحن نعرّض المستخدمين عن قصد لمعلومات مضللة بأن لدينا العمليات والموارد اللازمة لتخفيف" التجاوزات.

في إحدى الحالات، شارك مستخدمو القائمة البيضاء السياسية مقالات من مواقع ويب للطب البديل تزعم أن طبيبًا في بيركلي بولاية كاليفورنيا كشف أن العلاج الكيميائي لا يعمل بنسبة 97 بالمئة. دحضت فرق تدقيق المحتوى هذه المزاعم، مشيرة إلى أن الطبيب المذكور في المقال توفي عام 1978.

وفي تعليق داخلي رداً على المذكرة، أعرب ساميد تشاكرابارتي، المدير التنفيذي الذي كان يترأس فريق المشاركة المدنية في فيسبوك، والذي يركز على الخطاب السياسي والاجتماعي على المنصة، عن عدم ارتياحه للاستثناءات.

في 5 أيار/ مايو، أيد مجلس الرقابة في فيسبوك حظر حساب ترامب، حيث اتهمه بالتحريض على العنف فيما يتعلق بأحداث الشغب في 6 كانون الثاني/ يناير في مبنى الكابيتول بواشنطن.

وكتب تشاكرابارتي: "أحد الأسباب الأساسية للانضمام إلى فيسبوك هو أنني أؤمن بإمكانية أن تكون هناك قوة ديمقراطية تمكن الجميع من الحصول على صوت مدني متساو. لذا فإن وجود قواعد مختلفة بشأن التعبير لأشخاص يحظون بمعاملة خاصة أمر مزعج للغاية بالنسبة لي. وقال موظفون آخرون إن هذه الممارسة تتعارض مع قيم فيسبوك.

كما كتب أحد الاقتصاديين في قسم علوم البيانات بالشركة: "يتأثر اتخاذ القرار في فيسبوك بشأن سياسة المحتوى باعتبارات سياسية".

وأوصى كوشيك آير، الذي كان حينها مهندسًا رئيسيًا لفريق النزاهة المدنية في فيسبوك، في مذكرة صدرت في حزيران/ يونيو 2020، بأن تكون "سياسة المحتوى منفصلة عن السياسة العامة".

وفي الشهر ذاته، ناقش موظفو النظام الأساسي الداخلي مزايا طرح برنامج "إكس تشيك" للجمهور.

ونظرًا لأن اقتراح الشفافية حظي بدعم كبير داخل الشركة، فقد قام تشاكرابارتي باستجواب مدير المنتج الذي يشرف على برنامج "إكس تشيك" وطلب منه تقديم ردود.

كانت المخاوف حقيقية، حيث تمت إدارة برنامج "إكس تشيك" بشكل سيء، وفقا لمدير المنتج، ولكنه أضاف: "علينا موازنة ذلك مع مخاطر العمل". نظرًا لأن الشركة كانت تحاول بالفعل معالجة إخفاقات البرنامج، كان أفضل نهج هو "الشفافية الداخلية".

في 5 أيار/ مايو، أيد مجلس الرقابة في فيسبوك حظر حساب ترامب، حيث اتهمه بالتحريض على العنف فيما يتعلق بأحداث الشغب في 6 كانون الثاني/ يناير في مبنى الكابيتول بواشنطن. وانتقد مجلس الرقابة إجراءات الإنفاذ التي تتبعها الشركة، وأوصت بأن يوضح فيسبوك قواعده للشخصيات البارزة بشكل أفضل ويفرض عقوبات على المخالفين.

صورة
في أيار/ مايو، أيد مجلس الرقابة في فيسبوك تعليق حساب الرئيس السابق دونالد ترامب.

كواحدة من 19 توصية، طلب مجلس الإدارة من فيسبوك "الإبلاغ عن معدلات الخطأ النسبية وموضوعية القرارات التي يتم اتخاذها من خلال برنامج إكس تشيك مقارنة بإجراءات الرقابة العادية".

وبعد شهر، قال فيسبوك إنه بصدد سينفذ 15 توصية من أصل 19. كان موضوع الكشف عن بيانات "إكس تشيك" أحد التوصيات الأربعة التي قال إنه لن يعتمدها.

وكتب فيسبوك في ردوده: "ليس من الممكن تتبع هذه المعلومات". وأضاف: "لقد أوضحنا طبيعة هذا المنتج على مستوى داخلي". 

في منشور يعود إلى سنة 2018، أعلن فيسبوك "أننا نزيل المحتوى بغض النظر عمن ينشره، عندما يخالف معاييرنا". لكن مراجعة داخلية صدرت في 2019 أشارت إلى ما جاء في المنشور بأنه مضلل.

وقالت كيت كلونيك، أستاذة القانون بجامعة سانت جون، إن وثائق "إكس تشيك" تُظهر أن فيسبوك ضلل مجلس الرقابة. تم تمويل مجلس الرقابة بـ 130 مليون دولار من فيسبوك في 2019، وتم تكليف كلونيك من قبل الشركة بالإشراف على تشكيل المجموعة وعملياتها.

وتعلق كلونيك بعد مراجعة وثائق "إكس تشيك" بناء على طلب وول ستريت جورنال: "لماذا ينفقون الكثير من الوقت والمال في إنشاء مجلس الرقابة، ثم يكذبون عليه؟ هذا سوف يقوض جهوده بشكل كامل".

و في بيان مكتوب، قال متحدث باسم مجلس الرقابة إنه "أعرب في مناسبات عديدة عن قلقه بشأن الافتقار إلى الشفافية في عمليات تعديل المحتوى على فيسبوك، لا سيما فيما يتعلق بإدارة الشركة للحسابات البارزة بشكل مختلف عن بقية الحسابات".

وتُظهر الوثائق أن فيسبوك يحاول القضاء على ممارسة الإدراج في القائمة البيضاء. وقد أكد المتحدث باسم الشركة أنها حددت هدفًا يتمثل في القضاء على الحصانة الكاملة للانتهاكات "شديدة الخطورة" لقواعد فيسبوك في النصف الأول من سنة 2021. وأفاد تحديث صدر في شهر آذار/ مارس أن الشركة تكافح لكبح جماح إضافة شخصيات جديدة إلى برنامج "إكس تشيك".

وكتبت موظفة مسؤولة عن المنتجات في فريق مراقبة الأخطاء في فيسبوك: "تستمر قوائم الشخصيات المهمة في النمو"، وأعلنت عن خطة "لوقف النزيف" من خلال حظر قدرة موظفي فيسبوك على تسجيل مستخدمين جدد في "إكس تشيك".

وحسب رأيها، يبقى أحد الحلول المحتملة بعيدًا عن الأنظار، هو إخضاع المستخدمين البارزين لنفس المعايير التي يخضع لها المستخدمون العاديون.

وقالت في مذكرتها: "ليس لدينا أنظمة مصممة للقيام بهذا الاجتهاد الإضافي لجميع إجراءات النزاهة التي يمكن أن تحدث لكبار الشخصيات". ولتجنب ارتكاب الأخطاء التي قد تغضب المستخدمين المؤثرين، أشارت إلى أن فيسبوك سيوجه المراقبين إلى اتباع نهج أقل صرامة.

وكتبت: "سنقوم بدعم افتراض حسن النية في أنظمة المراجعة الخاصة بنا، ونميل إلى تبرئة المستخدمين حتى تثبت إدانتهم "، مؤكدة أن كانت مدعومة "بشكل عام" من قبل قيادة الشركة.

المصدر: وول ستريت جورنال