ترجمة وتحرير: نون بوست
يكشف تحقيق مشترك أجرته مجلة 972+ وصحيفتا الجارديان ولوكال كول أن الجيش الإسرائيلي يعمل على تطوير أداة جديدة للذكاء الاصطناعي، على غرار أنظمة المحادثة الذكية؛ حيث يتم تدريبها على ملايين المحادثات باللغة العربية التي تم الحصول عليها من مراقبة الفلسطينيين في الأراضي المحتلة.
وتم إنشاء هذه الأداة تحت إشراف وحدة 8200، وهي فرقة النخبة للحرب الإلكترونية التابعة لجهاز الاستخبارات العسكرية الإسرائيلي، وتندرج ضمن ما يسمى “النموذج اللغوي الواسع”، وهو برنامج يعتمد على التعلم الآلي وقادر على تحليل المعلومات وإنشاء النصوص وترجمتها وتوقعها وتلخيصها. وبينما يتم تدريب النماذج اللغوية العامة، مثل تلك التي تعتمد عليها أنظمة المحادثة الذكية، باستخدام المعلومات المتاحة على الإنترنت، فإن النموذج الجديد الذي يطوره الجيش الإسرائيلي يعتمد على كميات هائلة من المعلومات الاستخباراتية التي تم جمعها حول الحياة اليومية للفلسطينيين الذين يعيشون تحت الاحتلال.
وأكدت ثلاثة مصادر في الأمن الإسرائيلي، على دراية بتطوير هذا النموذج، لمجلة +972 وصحيفتي الجارديان ولوكال كول، أن برنامج وحدة 8200 كان لا يزال في مرحلة التدريب خلال النصف الثاني من العام الماضي، ولم يتضح بعد ما إذا كان قد تم استخدامه بالفعل أو كيف سيتم توظيفه من قبل الجيش.
وأوضحت المصادر أن الفائدة الرئيسية لهذه الأداة بالنسبة للجيش تكمن في قدرتها على معالجة كميات ضخمة من بيانات المراقبة بسرعة، بحيث يمكنها “الإجابة على أسئلة” تتعلق بأشخاص محددين. وبالنظر إلى أن الجيش يستخدم بالفعل نماذج لغوية أصغر، فمن المرجح أن يسهم هذا النموذج في توسيع نطاق الاعتقالات والإدانات التي ينفذها الجيش الإسرائيلي ضد الفلسطينيين.
“الذكاء الاصطناعي يعزز القوة”؛ هكذا أوضح مصدر استخباراتي تابع عن كثب تطوير الجيش الإسرائيلي لنماذج اللغة خلال السنوات الأخيرة، مضيفًا: “إنه يسمح بتنفيذ عمليات (تستخدم) بيانات عدد أكبر بكثير من الأشخاص، مما يجعل السيطرة على السكان ممكنة. هذا لا يتعلق فقط بمنع الهجمات بالأسلحة النارية. يمكنني تتبع النشطاء في مجال حقوق الإنسان. يمكنني تتبع عمليات البناء الفلسطينية في المنطقة “ج” (من الضفة الغربية). لدي المزيد من الأدوات لمعرفة ما يفعله كل فلسطيني في الضفة الغربية. عندما تمتلك كل هذه البيانات، يمكنك توجيهها لأي غرض تريده”.
إذا كان تطوير هذه الأداة قد سبق الحرب، فإن تحقيقنا يكشف أنه بعد 7 أكتوبر/تشرين الأول، طلبت وحدة 8200 مساعدة المدنيين الإسرائيليين الذين يمتلكون خبرات في تطوير النماذج اللغوية وكانوا يعملون لدى عمالقة التكنولوجيا مثل جوجل وميتا ومايكروسوفت. ومع التعبئة الجماعية لقوات الاحتياط في بداية الهجوم الإسرائيلي على غزة، بدأ خبراء من القطاع الخاص بالانضمام إلى الوحدة – جالبين معم معرفة كانت سابقًا «متاحة فقط لمجموعة محدودة من الشركات حول العالم»، وفقًا لما قاله مصدر أمني داخلي. (في رده على أسئلتنا، قال غوغل إن لديه “موظفين يؤدون مهام احتياطية في العديد من الدول”، مشددا على أن العمل الذي يقومون به في هذا السياق “غير مرتبط بجوجل”. أما شركتا ميتا ومايكروسوفت فقد رفضتا التعليق).
ووفقًا لأحد المصادر، تم تدريب روبوت الدردشة التابع لوحدة 8200 على 100 مليار كلمة باللغة العربية، تم الحصول عليها جزئيًا من خلال المراقبة واسعة النطاق التي تنفذها إسرائيل ضد الفلسطينيين الخاضعين لحكم جيشها، وهو ما يشكل، بحسب المصدر، انتهاكًا جسيمًا لحقوق الفلسطينيين.
قال زاك كامبل، الباحث الأول في مجال التكنولوجيا لدى منظمة هيومن رايتس ووتش، لصحيفة +972، والجارديان، ولوكال كول: “نحن نتحدث عن معلومات شديدة الخصوصية، تم استخراجها من أشخاص لا يُشتبه في ارتكابهم أي جريمة، من أجل تدريب أداة يمكن استخدامها لاحقًا لتحديد الاشتباه”.
نديم ناشف، المدير والمؤسس لمجموعة “حملة”، وهي منظمة تدافع عن الحقوق الرقمية للفلسطينيين، يردد هذه المخاوف؛ حيث يقول: “لقد تحول الفلسطينيون إلى فئران تجارب في مختبر إسرائيل لتطوير هذه التقنيات وتحويل الذكاء الاصطناعي إلى سلاح، بهدف الحفاظ على نظام الفصل العنصري والاحتلال، حيث تُستخدم هذه التقنيات للهيمنة على الناس والسيطرة على حياتهم. هذا يشكل انتهاكًا خطيرًا ومستمرًا للحقوق الرقمية للفلسطينيين، والتي تندرج ضمن حقوق الإنسان”.
“سوف نستبدل جميع ضباط الاستخبارات بوكلاء الذكاء الاصطناعي”
تم الاعتراف علنًا لأول مرة بجهود الجيش الإسرائيلي لتطوير نموذجه الخاص من “النموذج اللغوي الواسع” من قبل شاكيد روجر جوزيف سيدوف، وهو ضابط استخبارات قدم نفسه كرئيس للمشروع، وذلك خلال مؤتمر عقد العام الماضي وأُعلن عنه بإشعار قصير. وقال سيدوف خلال المؤتمر “ديفينس إم إل” في تل أبيب: “حاولنا إنتاج أكبر مجموعة بيانات ممكنة، من خلال جمع جميع البيانات التي تمتلكها دولة إسرائيل باللغة العربية”. وأضاف أنهم يقومون بتدريب البرنامج على “كمية جنونية” من المعلومات الاستخباراتية.
ووفقًا لما قاله سايدوف، عندما أصبح نموذج الذكاء الاصطناعي التوليدي لشات جي بي تي متاحًا للجمهور في نوفمبر/تشرين الثاني 2022، أنشأ الجيش الإسرائيلي فريق استخبارات مخصصًا للتحقيق في كيفية تكييف الذكاء الاصطناعي التوليدي لأغراض عسكرية. وقال سايدوف: “قلنا: واو، الآن سنستبدل جميع ضباط الاستخبارات بوكلاء الذكاء الاصطناعي. كل خمس دقائق، سيقرؤون جميع المعلومات الاستخباراتية الإسرائيلية وسيتنبؤون بمن سيكون الإرهابي القادم”.
في البداية، لم تتمكن الفرقة من إحراز تقدم كبير. فقد رفضت شركة أوبن إيه آي، وهي الشركة التي تقف وراء شات جي بي تي، طلب وحدة 8200 بالحصول على إمكانية الوصول إلى برنامج إل إل إم “النموذج اللغوي الكبير” الخاص بها ودمجه في النظام الداخلي غير المتصل بالإنترنت للوحدة. (ومنذ ذلك الحين، استخدم الجيش الإسرائيلي النموذج اللغوي لـ أوبن إيه آي، الذي تم شراؤه عبر مايكروسوفت آزوري، كما كشف تحقيق حديث آخر أجرته +972 ولوكال كول. وقد رفضت أوبن إيه آي التعليق على ذلك).
كانت هناك مشكلة أخرى، كما يوضح سايندورف: النماذج اللغوية الموجودة كانت قادرة فقط على معالجة العربية الفصحى – المستخدمة في المحادثات الرسمية والأدب ووسائل الإعلام – لكنها لم تكن قادرة على فهم اللهجات المحكية. لذلك، أدركت وحدة 2800 أنها بحاجة إلى تطوير برنامجها الخاص، والذي استند، كما قال سايندورف خلال مؤتمره، إلى “اللهجات التي تكرهنا”.
كانت نقطة التحول مع اندلاع الحرب في غزة في أكتوبر 2023، عندما بدأت وحدة 8200 في استدعاء خبراء النماذج اللغوية من الشركات الخاصة للعمل كقوات احتياط. وقد أكد أوري غوشين، الرئيس التنفيذي المشارك والمؤسس المشارك لشركة معامل إيه آي 21 الإسرائيلية المتخصصة في النماذج اللغوية، أن بعض موظفيه شاركوا في المشروع خلال خدمتهم كقوات احتياط.
وقال غوشين: “لا يمكن لوكالة أمنية العمل مع خدمة مثل شات جي بي تي، لذا فهي بحاجة إلى معرفة كيفية توجيه الذكاء الاصطناعي داخل نظام غير متصل بشبكات أخرى”.
وبحسب غوشين، فإن من بين الفوائد التي توفرها النماذج اللغوية الكبيرة (إل إل إم) لوكالات الاستخبارات، قدرتها على معالجة المعلومات بسرعة وإنشاء قائمة “مشتبه بهم” لاعتقالهم. لكنه يرى أن الميزة الأساسية لهذه النماذج تكمن في قدرتها على استرجاع البيانات من مصادر متعددة. فبدلًا من استخدام “أدوات بحث بدائية”، يمكن للضباط ببساطة “طرح الأسئلة والحصول على إجابات” من روبوت محادثة قادر، على سبيل المثال، على تحديد ما إذا كان شخصان قد التقيا من قبل، أو معرفة ما إذا كان شخص ما قد ارتكب فعلًا معينًا على الفور.
ومع ذلك، اعترف غوشين بأن الاعتماد الأعمى على هذه الأدوات قد يؤدي إلى ارتكاب أخطاء، وقال: “هذه نماذج احتمالية. تعطيها مُحفّزًا أو سؤالًا، فتولّد شيئًا يبدو كالسحر»، لكنه أضاف: «لكن في كثير من الأحيان، تكون الإجابة بلا معنى. نحن نسمي هذا “الهلوسة””.
من جانبه؛ أثار كامبل، من منظمة هيومن رايتس ووتش، مخاوف مماثلة. وأوضح أن برامج النماذج اللغوية الكبيرة (إل إل إم) تعمل كـ”آلات تخمين”، وأن أخطائها متأصلة في النظام نفسه. كما أشار إلى أن الأشخاص الذين يستخدمون هذه الأدوات ليسوا دائمًا هم من قاموا بتطويرها، وأن الأبحاث تظهر أنهم يميلون إلى الثقة بها أكثر من اللازم. وأضاف: «في النهاية، يمكن استخدام هذه الافتراضات كأدلة لإدانة الأشخاص».
كشفت تحقيقات سابقة أجرتها +972 ولوكال كول حول استخدام الجيش الإسرائيلي لأنظمة التصويب المستندة إلى الذكاء الاصطناعي لتسهيل عمليات القصف على غزة، عن العيوب التشغيلية الجوهرية لهذه الأدوات.
على سبيل المثال، استخدم الجيش برنامجًا يُعرف باسم “لافندر” لإنشاء قائمة اغتيالات تضم عشرات الآلاف من الفلسطينيين، حيث قام الذكاء الاصطناعي بتجريمهم بناءً على خصائص تم تدريبه على ربطها بالجماعات المسلحة.
بعد ذلك، قصف الجيش العديد من هؤلاء الأفراد – غالبًا بينما كانوا في منازلهم مع عائلاتهم – على الرغم من أن البرنامج كان لديه هامش خطأ بنسبة 10 بالمئة. وبحسب المصادر، كانت الرقابة البشرية على عمليات الاغتيال مجرد “ختم مطاطي”، حيث تعامل الجنود مع مخرجات لافندر “كما لو كانت قرارًا بشريًا”.
“الأمر لا يعدو كونه قائد كتيبة يريد 100 عملية اعتقال شهريًا”
إن تطوير أداة مشابهة لشات جي بي مدربة على اللغة العربية المحكية يمثل توسيعًا إضافيًا لجهاز المراقبة الإسرائيلي في الأراضي المحتلة، والذي كان منذ فترة طويلة شديد التطفل. قبل أكثر من عقد، شهد جنود سابقون خدموا في وحدة 8200 بأنهم راقبوا مدنيين لا علاقة لهم بالجماعات المسلحة، بهدف جمع معلومات يمكن استخدامها لابتزازهم، مثل مشاكلهم المالية، ميولهم الجنسية، أو إصابتهم أو أحد أفراد عائلاتهم بأمراض خطيرة. كما اعترف جنود سابقون بمراقبة النشطاء السياسيين.
إلى جانب تطوير برنامجها الخاص للنماذج اللغوية الكبيرة (إل إل إم)، تستخدم وحدة 8200 بالفعل نماذج لغوية أصغر تساعد في تصنيف المحتوى، وتفريغ وترجمة المحادثات بالعربية المحكية إلى العبرية، وكذلك البحث عن كلمات مفتاحية. تجعل هذه الأدوات المواد الاستخباراتية أكثر سهولة في الوصول إليها، خصوصًا بالنسبة لقسم الجيش المسؤول عن الضفة الغربية (يهودا والسامرة).
بحسب مصدرين، تُمكّن النماذج اللغوية الأصغر الجيش الإسرائيلي من فحص المواد الاستخباراتية وتحديد الفلسطينيين الذين يعبرون عن غضبهم تجاه الاحتلال أو الذين يعربون عن رغبتهم في مهاجمة الجنود أو المستوطنين الإسرائيليين.
ووصف أحد المصادر نموذجًا لغويًا يُستخدم حاليًا، يقوم بمسح البيانات وتحديد الفلسطينيين الذين يستخدمون كلمات تُعتبر “إشكالية” اي ذات نوايا عدائية أو تهديد أمني وأضاف المصدر أن الجيش استخدم النماذج اللغوية للتنبؤ بمن قد يقوم بإلقاء الحجارة على الجنود خلال عمليات “إظهار الوجود”، وهي العمليات التي يقتحم فيها الجنود المدن أو القرى في الضفة الغربية، ويدخلون المنازل واحدًا تلو الآخر .
وأكدت مصادر استخباراتية أن استخدام النماذج اللغوية إلى جانب المراقبة الواسعة النطاق في الأراضي المحتلة قد أدتيا إلى تشديد قبضة إسرائيل على السكان الفلسطينيين وزيادة كبيرة في وتيرة الاعتقالات. يمكن للقادة العسكريين الوصول مباشرة إلى المعلومات الاستخباراتية الأولية المترجمة إلى العبرية، دون الحاجة إلى تدخل مراكز الترجمة التابعة لوحدة 8200 أو حتى معرفة اللغة العربية. وهذا يتيح لهم اختيار “مشتبه بهم” للاعتقال من قائمة متزايدة باستمرار في كل منطقة فلسطينية. وقالت إحدى المصادر: “أحيانًا، كل ما في الأمر أن قائد كتيبة يريد 100 اعتقال شهريًا في منطقته”.
الفرق بين النماذج الصغيرة والنموذج اللغوي الكبير الجديد
على عكس النماذج الصغيرة المستخدمة حاليًا، فإن النموذج اللغوي الكبير الجاري تطويره يجري تدريبه على قاعدة بيانات ضخمة تتضمن ملايين المحادثات بين الفلسطينيين، حصلت عليها وحدة 8200 من خلال عمليات المراقبة. وأحد التحديات في تدريب هذا النموذج هو ندرة البيانات المتاحة للعربية المحكية على الإنترنت. أوضح المصدر ذلك بقوله: “العربية المحكية ليست متاحة بسهولة على الإنترنت. لا توجد نصوص مكتوبة لمحادثات أو دردشات واتساب بشكل عام. هذه البيانات لا توجد بالكميات التي نحتاجها لتدريب نموذج بهذا الحجم”.
وتُستخدم المحادثات اليومية بين الفلسطينيين، حتى لو لم تكن ذات فائدة فورية للأغراض الاستخباراتية، لغرض أساسي في تدريب برامج الذكاء الاصطناعي اللغوي (إل إل إم). «إذا اتصل شخص بآخر وقال له أن يخرج لأنهم ينتظرونه خارج المدرسة، فهذه مجرد محادثة عادية، وليست ذات أهمية – كما أوضح مصدر في جهاز الأمن – ولكن بالنسبة لنموذج ذكاء اصطناعي مثل هذا، فإنها تُعتبر ذهبًا: فهي توفر المزيد والمزيد من البيانات للتدريب عليها”.
وحدة 8200 ليست الجهة الاستخباراتية الوطنية الوحيدة التي تحاول تطوير أدوات الذكاء الاصطناعي التوليدي؛ فقد طورت وكالة الاستخبارات المركزية الأمريكية (سي آي إيه) أداة مشابهة لشات جي بي تي لتحليل المعلومات مفتوحة المصدر، كما تعمل وكالات الاستخبارات في المملكة المتحدة على تطوير برامجها الخاصة لنماذج الذكاء الاصطناعي اللغوي. ومع ذلك، فقد أفاد ضباط استخبارات سابقون من الولايات المتحدة والمملكة المتحدة لصحف +972، لوكال كول، والجارديان بأن الاستخبارات الإسرائيلية تتخذ مخاطر أكبر بكثير من نظيراتها فيما يتعلق بدمج أنظمة الذكاء الاصطناعي في عمليات التحليل الاستخباراتي.
وأوضحت بريانا روزين، وهي ضابطة أمنية سابقة في البيت الأبيض وحاليًا باحثة في الدراسات العسكرية والأمنية بجامعة أكسفورد، أن محلل الاستخبارات الذي يستخدم أداة مثل شات جي بي تي قد يكون قادرًا على “رصد تهديدات قد لا يلاحظها البشر، حتى قبل ظهورها”.
ومع ذلك، فإن هذا ينطوي أيضًا على “مخاطر تتعلق بتكوين روابط خاطئة والتوصل إلى استنتاجات معيبة، وبذلك سيتم ارتكاب أخطاء، وقد يكون لبعضها عواقب خطيرة للغاية”.
وأكدت مصادر استخباراتية إسرائيلية أن القضية الأكثر حسماً في الضفة الغربية ليست بالضرورة دقة هذه النماذج، بل بالأحرى العدد الكبير من الاعتقالات التي تجعل من الممكن تنفيذها. فالقوائم التي تضم “المشتبه بهم” تتزايد باستمرار، بينما تُجمع كميات هائلة من المعلومات وتُعالج بسرعة باستخدام الذكاء الاصطناعي.
وأفادت عدة مصادر بأن الاشتباه العام أو غير المحدد غالبًا ما يكون كافيًا لوضع الفلسطينيين رهن الاعتقال الإداري، وهو حكم بالسجن لمدة ستة أشهر دون محاكمة أو توجيه تهم، ويمكن تمديده استنادًا إلى “أدلة” غير مكشوفة، وفي بيئة حيث الرقابة على الفلسطينيين منتشرة على نطاق واسع، وعتبة الاعتقال منخفضة للغاية. ويقول الخبراء إن إضافة أدوات قائمة على الذكاء الاصطناعي ستعزز قدرة إسرائيل على جمع معلومات تدين أعدادًا أكبر من الأشخاص.
لم يرد المتحدث باسم الجيش الإسرائيلي على الأسئلة المحددة التي وجهتها له صحف +972، لوكال كول، والجارديان “بسبب الطبيعة الحساسة للمعلومات”، واكتفى بالقول إن “أي استخدام للأدوات التكنولوجية يتم من خلال عملية صارمة يقودها مهنيون لضمان أقصى درجات دقة المعلومات الاستخباراتية”.
المصدر: المانيفستو
