تطور فيسبوك من مجرد موقع لتصنيف مظهر الطالبات في جامعة هارفارد، إلى منصة عالمية يستخدمها ما يقارب 3 مليارات شخص يتحدثون أكثر من 100 لغة.
وتبدو الحماية التي توفرها الشركة لمستخدميها متفاوتة، بشكل خاص في البلدان الفقيرة، وكأنَّ مستخدمي أكبر شبكة اجتماعية في العالم الذين يتحدثون لغات مختلفة -مثل العربية- هم فعليًّا مواطنون من الدرجة الثانية.
في عام 2009، أطلق موقع فيسبوك دعمًا للغة العربية، وحقّق نجاحًا كبيرًا منذ ذلك الحين، وبعد فترة وجيزة حظيت الخدمة باستحسان المستخدمين العرب في الشرق الأوسط، لأنها ساعدت في اشتعال الاحتجاجات الجماهيرية المعروفة باسم الربيع العربي عام 2011، ونسبَ المستخدمون الفضل إلى هذه المنصة باعتبارها فرصة نادرة للتعبير الحرّ ومصدرًا مهمًّا للأخبار، في منطقة تمارسُ فيها الحكومات الاستبدادية ضوابط صارمة.
بحلول العام الماضي، أصبحت اللغة العربية من أكثر اللغات شيوعًا على منصات فيسبوك، فهي ثالث أكثر اللغات استخدامًا على هذه المنصات، ويقضي الأشخاص في الشرق الأوسط وشمال أفريقيا وقتًا أطول كل يوم على منصة فيسبوك أكثر من المستخدمين الآخرين في أي منطقة أخرى.
الآن، تُظهر وثائق الشركة الداخلية التي كشفتها فرانسيس هوغن، مديرة المنتجات السابقة لشركة فيسبوك، والتي تحوّلت إلى واحدة من المبلغين عن المخالفات وقدّمتها لهيئة الأوراق المالية والبورصة والكونغرس الأمريكي، أن المشكلات أكثر منهجية بكثير من مجرد أخطاء بسيطة قليلة، وأن فيسبوك قد فهم عمق هذه الإخفاقات لسنوات بينما لم يفعل شيئًا يُذكر حياله، لكن بعد أن غيّرت اسمها، هل تنجح “ميتا” بتدارك أخطاء فيسبوك مع المحتوى العربي؟
فجوة اللغة العربية
هذه السمعة التي اكتسبها الموقع تغيّرت في السنوات الأخيرة، فعندما يتعلق الأمر بفهم ومراقبة المحتوى العربي، كان فيسبوك أقل نجاحًا، حيث تشكل اللغة العربية تحديات خاصة لأنظمة فيسبوك الآلية والمشرفين البشريين، ويكافح كل منهم من أجل فهم اللهجات المنطوقة لكل بلد ومنطقة، وامتزاج مفرداتها بتأثيرات تاريخية وسياقات ثقافية مختلفة.
أصبحت المفردات الهائلة للكلمات اليومية محظورة على المتحدثين باللغة العربية، وفي كثير من أنحاء العالم العربي تعتمد شركة فيسبوك -التي حققت أكثر من 29 مليار دولار من الأرباح في الربع الثالث من العام الجاري- بشكل مفرط على مرشِّحات الذكاء الاصطناعي التي ترتكب في كثير من الأحيان أخطاء تهدد بحذف المحتوى.
كثرة الدول العربية قادت في النهاية إلى تعدُّد اللهجات العربية، على سبيل المثال تشمل العامية العربية المغربية الكلمات الفرنسية والبربرية، ويتحدث الكثيرون بأحرف العلة القصيرة، كما يواجه عملاق التواصل الاجتماعي إشكالية تعدُّد اللهجات في الجزائر، فمن منطقة إلى أخرى تختلف اللهجات التي يمزج بعضها بين الكلمات الأمازيغية والإسبانية وغيرهما، ويتأثر البعض الآخر بمختلف اللغات خاصة الفرنسية والتركية.
اللهجة العربية المصرية، من ناحية أخرى، تشمل بعض الكلمات التركية التي تعود إلى الفتح العثماني في القرن السادس عشر، وثمة لهجات أخرى أقرب إلى الرواية “الرسمية” الموجودة في القرآن، وفي بعض الحالات لا يمكن فهم هذه اللهجات بشكل متبادل، ولا توجد طريقة معيارية لكتابة العامية العربية.
في جميع أنحاء الشرق الأوسط، حذفت الخوارزميات -المعنية بالكشف عن المحتوى الإرهابي- المحتوى العربي غير العنيف بشكل خاطئ بنسبة 77%.
بالنسبة إلى اللغة العربية، تتمُّ معظم المراجعة لمحتوى فيسبوك في الدار البيضاء بالمغرب، كما تقول إحدى الوثائق، باستخدام موظفين معيَّنين محليًّا يبدو أنهم بالغوا في قدراتهم اللغوية، ويتوهون وسط ترجمة 30 لهجة عربية مختلفة، وهذا يعني أن الأخطاء عند التعامل مع المحتوى من خارج شمال أفريقيا “مضمونة فعليًّا”، ففي بعض الأحيان يشيرون إلى المنشورات العربية غير المسيئة على أنها محتوى إرهابي بنسبة كبيرة.
تمتدُّ الأخطاء إلى اعتبار النقد والهجاء وحتى الإشارات البسيطة للمجموعات المدرجة في قائمة “الأفراد والمنظمات الخطرة” لفيسبوك، أسبابًا للإزالة أو الحذف، وفي هذا الصدد تقول مي المهدي، وهي موظفة سابقة في فيسبوك عملت على تعديل المحتوى العربي حتى عام 2017: “إذا نشرت عن نشاط متشدِّد دون إدانة واضحة لما يحدث، فقد عاملناك كأنك تدعمه”.
أدّت هذه الثغرات والانحيازات اللغوية للشركة إلى تصور واسع الانتشار بأن مراجعيها يميلون إلى الحكومات على حساب الأقليات، وهو ما يؤكّده الموظفون السابقون في فيسبوك أيضًا بقولهم إن الحكومات المختلفة تمارس ضغوطًا على الشركة، وتهددها بفرض الغرامات.
على سبيل المثال، تعدّ “إسرائيل”، المصدر المربح لعائدات الإعلانات على فيسبوك، الدولة الوحيدة في الشرق الأوسط التي تستضيف مكتبًا وطنيًّا لشركة فيسبوك، وتراقب أجهزة الأمن الإسرائيلية فيسبوك، وتفرض عليه الأوامر لحذف حسابات ومنشورات فلسطينية بدعوى أنها تحريضية.
من الحرية إلى التضييق
مثل هذه الأخطاء لا تُقتصَر على اللغة العربية، حيث يكشف فحص الوثائق المسرَّبة أنه في بعض المناطق الأكثر تقلُّبًا في العالم، ينتشر المحتوى الإرهابي وخطاب الكراهية لأن الشركة لا تزال تفتقر إلى الوسطاء أو الموظفين الذين يتحدثون اللغات المحلية، وفشلت منصاتها في تطوير حلول ذكاء اصطناعي يمكّنها من اكتشاف المحتوى الضار بلغات مختلفة.
تدافع إدارة عملاق وسائل التواصل الاجتماعي أن فيسبوك كافحَ لوقف انتشار خطاب الكراهية على منصته في كثير من البلدان الناطقة بالعربية، لكن خوارزميات إدارة المحتوى للشركة لها أيضًا تأثير معاكس: إزالة المنشورات المشروعة بشكل خاطئ وتقليص حرية التعبير داخل المنطقة.
في وثائق نُشرت أواخر عام 2020، اكتشف مهندسو الشركة أن أكثر من ثلاثة أرباع المحتوى العربي الذي أٌزيل تلقائيًّا من المنصة بدعوى الترويج للإرهاب قد صُنِّف بالخطأ على أنه مادة ضارة، وفي جميع أنحاء الشرق الأوسط حذفت الخوارزميات -المعنية بالكشف عن المحتوى الإرهابي- المحتوى العربي غير العنيف بشكل خاطئ بنسبة 77%، ما يضرُّ بقدرة الأشخاص على التعبير عن أنفسهم عبر الإنترنت، ويحدّ من الإبلاغ عن جرائم الحرب المحتملة.
وشملت عمليات الحذف الخاطئة تقارير إخبارية في لبنان مؤيدة لحزب الله، وهو منظمة مصنَّفة إرهابية من قِبل الولايات المتحدة، وإعلانات في فلسطين المحتلة تروِّج لقضايا النوع الاجتماعي، ووسائل إعلام ناطقة بالعربية تناقش اغتيال قاسم سليماني، الجنرال الإيراني الذي استهدفه الرئيس دونالد ترامب، وقُتل في غارة بطائرة مسيَّرة في يناير/ كانون الثاني 2020.
ومع احتدام حرب غزة وتصاعُد التوترات في جميع أنحاء الشرق الأوسط في مايو/ أيار الماضي، حظر إنستغرام لفترة وجيزة وسم “#الأقصى”، في إشارة إلى المسجد الأقصى في البلدة القديمة بالقدس المحتلة، وهو نقطة اشتعال الصراع.
اعتذر موقع فيسبوك، الذي يملك إنستغرام، في وقت لاحق عن هذا، موضّحًا أن خوارزمياته أخطأت في أن أولى القِبلتَين وثالث الحرمَين هو جماعة كتائب شهداء الأقصى، وهي مجموعات مسلحة تابعة لحركة فتح، أكبر فصائل منظمة التحرير الفلسطينية، وأصدرت الشركة اعتذارات عامة متكررة بعد عمليات إزالة محتويات، لأنها فقط كُتبت باللغة العربية.
بالنسبة إلى العديد من المستخدمين الناطقين بالعربية، كان هذا مجرد مثال على كيفية قيام عملاق وسائل التواصل الاجتماعي بتكميم الخطاب السياسي في المنطقة؛ في واقعة أخرى حذفت إدارة فيسبوك حسابات العشرات من الصحفيين والنشطاء الفلسطينيين دون سابق إنذار، وفقدَ النشطاء في غزة والضفة الغربية قدرتهم على البث المباشر، بدعوى عدم الالتزام بسياسات الموقع.
في ميانمار، حيث لعبت منشورات فيسبوك “دورًا حاسمًا” في هجمات عام 2017 على أقلية الروهينجا المسلمة في البلاد، وجرى ربط المعلومات المضلِّلة على موقع فيسبوك مرارًا وتكرارًا بالعنف العرقي والديني.
الأشخاص المؤثرون الذين اعتادوا على جمع عشرات الآلاف من الإعجابات على منشوراتهم، شهدوا انخفاضًا حادًّا في انتشارهم عندما نشروا أخبارًا عن الفلسطينيين، واختفت أرشيفات كاملة للنزاع من ملفات الأخبار، الأمر الذي يُظهر حرب فيسبوك المتكررة على الرواية الفلسطينية، ويتجاهل الحسابات الإسرائيلية التي تُحرِّض ضد الفلسطينيين، وتدعو إلى قتل الأطفال واعتقالهم وسلب الأراضي.
وفي سوريا، بدأ أرشيف الثورة والحرب بالاختفاء التدريجي، حيث أُزيل غالبية المحتوى الذي نشرَهُ الصحفيون والناشطون طوال عقد من الزمن، ووجَّهت قرارات شبكة التواصل الاجتماعي بإغلاق عشرات الصفحات المعارضة للنظام السوري، ضربةً كبيرةً للنشطاء السلميين الذين أصبحوا يعتمدون على فيسبوك للتواصل وبثّ فظائع الحرب غير الخاضغة للرقابة.
يعتقد النشطاء أن الجماعات المؤيدة للرئيس السوري بشار الأسد تتلاعب بالنظام وتبلغ عن منافسيها، حيث لا يكشف فيسبوك عن معلومات حول مَنْ أبلغ عن مَنْ، ما يجعل من المستحيل تأكيد هذه النظريات، لكنّ الجيوش الإلكترونية التي تدعم الرئيس بشار الأسد -الذي اشتهر باختراقه للمواقع الإخبارية الرئيسية- أبدت شماتة علانية بشأن هذا التكتيك، ما يؤكّد قيامها بالإبلاغ بقوة عن المحتوى المعارض لإزالته.
وفقًا لمبادرة “الأرشيف السوري”، تعطي هذه الإجراءات التعسُّفية لعملاق التكنولوجيا انطباعًا بأن فيسبوك دعمَ رئيس النظام السوري بشار الأسد، فبعدما كان الملجأ الأول للمعارضين السوريين، أصبح الآن آخر الملاجئ في بلد يُمنَع فيه الصحفيون الأجانب والمستقلون من تغطية أخبار المعارضة وفظائع النظام السوري، وتجعلُ شبكة النظام الموسَّعة من الجواسيس المواطنين النقاشَ العام للثورة خطيرًا حتى يومنا هذا.
في استطلاع ذي صلة، أخبرَ المستخدمون المصريون الشركة أنهم يخشون نشر آراء سياسية على المنصة خوفًا من التعرض للاعتقال أو الهجوم على الإنترنت، فنتائج بحث فيسبوك تؤكّد الشكوك بأن الشركة تلغي المحتوى البريء أو المهم، مثل النكات والتغطية الإخبارية والنقاش السياسي، وفي حين يبلغنا فيسبوك دائمًا أننا نخرق القواعد، فإنه لا يخبرنا ما هي هذه القواعد.
المسلمون في المواجهة
وفقًا لمعايير المجتمع المفتوحة ونظام الإبلاغ على فيسبوك، يجوز لأي مستخدم يعتقد أن منشورًا أو صورة تنتهك معايير الشبكة الاجتماعية أن يتقدم بشكوى إلى فريق عمليات الشركة المعني بمراجعة المحتوى المنشور باللغة العربية، ليقوم بإزالة المحتوى، أو تحذير مسؤولي الصفحة، أو حتى إغلاق صفحة أحيانًا دون سابق إنذار.
هذه السياسات جعلت الدولة -في بعض الأحيان- وكيلًا للجيوش الإلكترونية، التي تعمل على الإبلاغ عن المحتوى من أجل حظر صفحات ومحتوى معيّن، وشملَ ذلك إرسال المسلحين المدعومين من إيران و”داعش” رسائل غير مرغوب فيها إلى مجموعات وحسابات العملاء على فيسبوك، في محاولة لخداع عملاق التكنولوجيا لإغلاق أجهزة الدعاية الرقمية لمنافسيهم.
في أوائل يوليو/ تموز، على سبيل المثال، أجرى أشخاص مرتبطون بتنظيم الدولة حملة منسّقة على فيسبوك أشادت بتفجير مميت في بغداد، وهاجمت أولئك المرتبطين بالحكومة العراقية، وعلى مدار أيام من الدفع عبر الإنترنت انتشرَ ما يقارب 125 حسابًا متطرفًا عبر المنصة، واستهدف المنافسين الشيعة، وروّجوا لصور الهجوم العنيف، وفقًا لبحث معهد الحوار الاستراتيجي.
استخدم تنظيم الدولة اللغة العامية المحلية لتجاوز قواعد محتوى فيسبوك ونشر خطاب الكراهية الذي يجرِّد خصومهم من إنسانيتهم، بينما يروِّج أفراد التنظيم علنًا على الإنترنت بأن مسؤولي الدولة لا يستطيعون حماية مواطنيها، كما أشادت المنشورات، التي كانت تنتهك بشكل مباشر معايير مجتمع عملاق التكنولوجيا ضد خطاب الكراهية، بقيادة الجماعة الإرهابية لتنفيذها الهجوم.
في ميانمار، حيث لعبت منشورات فيسبوك “دورًا حاسمًا” في هجمات عام 2017 على أقلية الروهينجا المسلمة في البلاد، وجرى ربط المعلومات المضلِّلة على موقع فيسبوك مرارًا وتكرارًا بالعنف العرقي والديني، وأقرّت الشركة في تقاريرها الداخلية بأنها فشلت في وقف انتشار خطاب الكراهية الذي يستهدف الأقلية المسلمة من الروهينجا.
اضطهاد الروهينجا، الذي وصفته الولايات المتحدة بأنه تطهير عرقي، دفعَ شركة فيسبوك إلى التعهُّد علنًا بأنها ستعيِّن أكثر من 100 من الموظفين المتحدثين بلغة ميانمار الأصلية لمراقبة منصاتها، لكن الشركة لم تكشف أبدًا عن عدد مشرفي المحتوى الذين عيّنتهم في النهاية، أو أي من اللهجات العديدة في البلاد قام هؤلاء المشرفون بمتابعتها.
رغم وعود فيسبوك العامة والعديد من التقارير الداخلية حول المشكلات، قالت منظمة غلوبال ويتنس (Global Witness) الحقوقية إن خوارزميات توصية الشركة استمرَّت في تضخيم الدعاية العسكرية وغيرها من المحتويات التي تنتهك سياسات الشركة في ميانمار، بعد الانقلاب العسكري واستيلاء الجيش على السلطة في فبراير/ شباط الماضي.
في الهند، تُظهر الوثائق المسرَّبة موظفي فيسبوك يناقشون ما إذا كان بإمكانهم اتخاذ إجراءات صارمة ضد “الترويج للخوف والروايات المعادية للمسلمين”، التي تبثها المنظمة القومية الهندوسية اليمينية المتطرفة التابعة لرئيس الوزراء ناريندرا مودي، راشتريا سوايامسيفاك سانغ، على منصتها.
في إحدى الوثائق، لاحظت الشركة أن المستخدمين المرتبطين بحزب مودي أنشأوا حسابات متعددة لزيادة انتشار المحتوى المعادي للإسلام، ووجدَ البحث أن الكثير من هذا المحتوى “لم يتمَّ الإبلاغ عنه أو اتخاذ إجراء ضده”، لأن فيسبوك يفتقر إلى المشرفين ومرشِّحات الذكاء الاصطناعي التي لديها معرفة بالهندية والبنغالية.
وفي أفغانستان، حيث يستخدم 5 ملايين شخص شهريًّا المنصة، لا يستطيع العديد من المستخدمين فعليًّا فهم قواعد فيسبوك، ووفقًا لتقرير داخلي صدر في يناير/ كانون الثاني الماضي، لم يترجم فيسبوك خطاب الكراهية وصفحات المعلومات المضلِّلة إلى الداري والباشتو، وهما اللغتان الرسميتان الأكثر شيوعًا في أفغانستان، حيث لا تُفهم اللغة الإنجليزية على نطاق واسع، كذلك لا يمكن للمستخدمين الإبلاغ بسهولة عن محتوى إشكالي لأن فيسبوك لم يترجم معايير المجتمع إلى اللغتَين الرسميتَين في البلاد.
وعندما يحاول المستخدمون الأفغان تمييز المنشورات على أنها كلام يحرّض على الكراهية، تظهر القوائم المنسدلة باللغة الإنجليزية فقط، وكذلك الأمر بالنسبة إلى صفحة “معايير المجتمع”، أيضًا لا يحتوي الموقع على قائمة بالكلمات التي تحرّض على الكراهية والافتراءات والكلمات المستخدمة في أفغانستان لتعديل محتوى الداري والباشتو، كما هو معتاد في أماكن أخرى.
من دون قائمة الكلمات المحلية هذه، لا يمكن لفيسبوك إنشاء المرشِّحات الآلية التي تكتشف أسوأ الانتهاكات في البلاد، بالإضافة إلى ذلك استخدم فيسبوك عددًا قليلاً من المتحدثين باللغة المحلية للإشراف على المحتوى، ما أدّى إلى حذف أقل من 1% من خطاب الكراهية.
يميل المشرفون البشريون غير المهرة إلى تقديم طلبات الإزالة أو الحذف بدلًا من الفحص الاستباقي للمنشورات أو الحسابات.
في أوائل عام 2021، حاول باحثو فيسبوك استكشاف كيفية انتشار خطاب الكراهية داخل الدولة الواقعة في آسيا الوسطى، بينما كانت طالبان تستعدّ لاستعادة العاصمة كابل من الحكومة المدعومة من الولايات المتحدة في أغسطس/ آب الماضي.
وحتى بعد أن تولّت إدارة البلاد، كانت طالبان محظورة رسميًّا على فيسوك، ومع ذلك لا تزال عشرات المنشورات المؤيدة لطالبان، باللغات المحلية والإنجليزية، على الشبكة الاجتماعية.
ردًّا على ذلك، قالت فيسبوك إنها استثمرت في أدوات ذكاء اصطناعي لإزالة المحتوى تلقائيًّا والتعرُّف إلى خطاب الكراهية بأكثر من 50 لغة، وأضاف متحدث باسم الشركة أنه تمَّ توظيف المزيد من المتحدثين بلغة الباشتو والداري منذ أوائل عام 2021، لكنه رفض تقديم عدد من الزيادات في التوظيف.
في كثير من أنحاء العالم العربي العكس هو الصحيح، فالشركة تعتمد بشكل مفرط على مرشحات الذكاء الاصطناعي التي ترتكب أخطاء، ما يؤدّي إلى “الكثير من الإيجابيات المغلوطة”، كما جاء في إحدى الوثائق أنه يميل المشرفون البشريون غير المهرة إلى حدٍّ كبير إلى تقديم طلبات الإزالة أو الحذف بدلًا من الفحص الاستباقي للمنشورات أو الحسابات.
ويحتلّ العراق المرتبة الأولى في المنطقة من حيث حجم خطاب الكراهية المبلَّغ عنه على فيسبوك، وقالت إحدى الوثائق التي تحمل عنوان “سرد النزاهة غير المكتمل للشرق الأوسط وشمال إفريقيا”، إن معرفة اللهجة العراقية بين فريق الإشراف على المحتوى “قريبة من عدم وجودها”، ووصف اللغويون نظام فيسبوك بأنه معيب بالنسبة إلى منطقة فيها تنوع كبير في اللهجات العامية التي ينقلها المتحدثون العرب بطرق مختلفة.
مع زيادة معدّل أخطاء التعامل مع المحتوى، اتّخذ المستخدمون في المنطقة نهجًا ذكيًّا بشكل متزايد لخداع خوارزميات فيسبوك، مستخدمين نصًّا عربيًّا عمره قرون يفتقر إلى النقاط والعلامات التي تساعد القرّاء على التمييز بين الأحرف المتطابقة، وفقًا للوثائق الداخلية فإن أسلوب الكتابة هذا تحايلَ على الرقابة على خطاب الكراهية على تطبيقَي فيسبوك وإنستغرام.
ربما تعلّمت الآن أن تكون أكثر ذكاءً من خوارزميات فيسبوك، مثل العديد من الفلسطينيين الذين اعتادوا تجنُّب الكلمات العربية النموذجية لكلمة “شهيد” و”أسير”، إلى جانب الإشارات الصريحة إلى الاحتلال الإسرائيلي، أما إذا تحدثت عن الجماعات المسلحة، فعليك أن تضيف رموزًا أو مسافات بين كل حرف، لكن هذه التكتيكات لا تنجح دائمًا لسبب بسيط، هو أن فيسبوك يسيء فهم اللغة العربية، وإذا لم يجد الأشخاص ما ينقل تجاربهم على المنصات الاجتماعية، فستكون البدائل -ومنها “ميتا”- أسوأ ممّا يفعله فيسبوك.
