في سلسلة من الاستطلاعات التي نشرت في مجلة (Science) العلمية، سُئل الباحثون عن آراء الأشخاص فيما يعتقدون بأنه ينبغي على السيارة ذاتية القيادة القيام به في السيناريو التالي:

هناك مجموعة من المشاة الذين يعبرون الشارع، والطريقة الوحيدة التي يمكن للسيارة تجنب ضربهم جميعًا هي الانحراف عن الطريق، الأمر الذي قد يقضي على الركاب داخلها.

اتفق المشاركون عمومًا بأن السيارات يجب أن تكون مبرمجة للتضحية بركابها إذا كان ذلك من شأنه أن ينقذ العديد من الأشخاص الآخرين.

هذا، بصفة عامة، هو نوع من الإجابات النفعية - تلك التي تهدف للحفاظ على أكبر عدد ممكن من الأرواح -، ولكن هناك مشكلة واحدة، وهي أن الأشخاص الذي شملهم الاستطلاع أشاروا أيضًا بأنهم لن يريدوا ركوب هذه السيارات أنفسهم.

أشار المشاركون بأنه سيكون من الجيد أن يشتري الآخرون هذا النوع من السيارات، ولكنهم شخصيًا لن يفعلوا ذلك.

بحسب جان فرانسوا بونيفون من المعهد الفرنسي للدراسات المتقدمة في تولوز، وهو من الباحثين المشاركين في هذه الدراسة، فإن الحصول على معرفة حول كيفية بناء آلات مستقلة أخلاقية هي واحدة من أصعب التحديات في مجال الذكاء الاصطناعي اليوم.

أشار الباحثون بأن السيناريو الموضح أعلاه هو سيناريو افتراضي، لكنه وأمثاله لا بد أن يحدث في الحياة الحقيقية بمجرد أن تصبح السيارات الذاتية القيادة واقعًا سائدًا، لذلك نحن بحاجة للحصول على إجابات ووضع القواعد الآن، حتى نتمكن من إدراجها في برمجة هذه الأجهزة، فحتى لو كانت السيارة ذاتية القيادة تمتلك خيار للتحول إلى الوضعية اليدوية، فمن السهل أن نتصور بأنه في مثل هذه الحالة لن يكون هناك ببساطة وقت كافٍ يسمح للركاب بتحويل نوعية القيادة والسيطرة على السيارة.

قد يكون التفكير في هذه الأمور مخيفًا إلى حد ما، ولكن المركبات الذاتية تمتلك بالفعل القدرة على خلق عالم أكثر أمنًا، ففي الولايات المتحدة وحدها، تحدث 35.000 حالة وفاة كل عام نتيجة حوادث المرور، وذلك دون الأخذ بعين الاعتبار ملايين الإصابات التي تحدث نتيجة لذلك أيضًا.

بحسب عظيم شريف، وهو أستاذ مساعد في علم النفس والسلوك الاجتماعي في جامعة كاليفورنيا في إيرفين، والمؤلف المشارك للدراسة، فإن نحو 90% من تلك الحوادث تكون نتيجة لأخطاء بشرية، ولكن المركبات ذاتية القيادة تعد بتغيير كل ذلك نحو الأفضل، إلّا أن هناك عوائق لاعتمادها على نطاق واسع، والحواجز التكنولوجية تشكل بعضًا من هذه العوائق فقط، ولكن بعضها الآخر يتمحور حول الآثار النفسية أيضًا.

إذا كنت قد درست يومًا موضوع الأخلاق، فقد يكون سيناريو السيارة ذاتية القيادة المذكور أعلاه مألوفًا بالنسبة لك، فهو يشترك في الكثير من النقاط مع تجربة فكرية شهيرة تعرف باسم مشكلة العربة، في هذا السيناريو، تكون أنت المهندس المسؤول عن مسار العربة، ويكون هناك على الطريق أمامك خمسة عمال يعملون، غافلين عما تفعله، وفي الوقت الذي لا يكون خيار إيقاف العربة متاحًا أمامك، يبقى لديك خيار إما بدهس العمال الخمسة أو تحويل سير العربة إلى مسار آخر يوجد عليه شخص واحد فقط، فهل ستقتل هذا العامل لتنقذ الخمسة الآخرين؟

هناك عدد من الاختلافات بشأن هذه المسألة، فماذا لو أن الشخص كان امرأة حامل؟ وماذا لو كان الخمسة الآخرون مجرمين؟ يمكنكم تخيل عدد الاحتمالات التي يمكن أن يحملها هذا السيناريو.

بالنسبة لهذه الدراسة، أجرى الباحثون ست دراسات استقصائية على الإنترنت شملت سكان الولايات المتحدة بين حزيران/ يونيو وتشرين الثاني/ نوفمبر من عام 2015، وسألوا خلالها المشاركين عن الكيفية التي يريدون لسياراتهم ذاتية القيادة أن تتصرف في سيناريوهات مختلفة، وقد تلاعب الباحثون ببعض المتغيرات، مثل عدد المارة أو الركاب في كل سيناريو، ففي بعض الأمثلة، كان على المشاركين أن يتصوروا طفلهم وهو يركب في السيارة، وفي حالات أخرى، قيل لهم أن يتصوروا بأنهم يركبون السيارة مع زميل لهم في العمل.

بشكل عام، فضّل الأشخاص اتخاذ القرارات التي تقلل من عدد الضحايا، ففي أحد السيناريوهات، أشار 76% من المستطلعين بأنه سيكون من الأخلاقي أن تقوم المركبة ذاتية القيادة بالتضحية براكب واحد إذا كان هذا سينقذ 10 مشاة.

ولكن هذه الرغبة لتحقيق الصالح العام لم تذهب أبعد من ذلك، فعندما سئل الأشخاص عما إذا كانوا سيشترون هذه السيارات لأنفسهم، كان الشعور العام بأن الأشخاص كانوا يرغبون بأن يقوم الآخرون بفعل هذا، ولكن من الأفضل ألا يفعلوها هم أنفسهم.

ما الذي يجب على الشركات المصنعة للسيارات الذاتية القيادة أن تفعل؟ وماذا سيحدث للسلامة العامة إذا تمت برمجة كل سيارة ذاتية القيادة لحماية ركابها قبل كل شيء؟

بحسب إياد رهوان، وهو باحث في معهد ماساتشوستس للتكنولوجيا والمؤلف المشارك للدراسة، فلتحقيق أقصى قدر من السلامة، يرغب الجميع بأن يعيشوا في عالم يمتلك فيه كل شخص سيارة ذاتية القيادة لتقليل الخسائر، ولكنهم يريدون سيارتهم بأن تعمل على حمايتهم بأي ثمن.

تبعًا لرهوان فإن الشركات المصنعة للسيارات التي ستقدم مثل هذه السيارات قد تجني الكثير من المال، ولكن إذا كان الجميع يفكر بهذه الطريقة فسينتهي بنا المطاف في عالم تهتم فيه جميع السيارات بسلامة ركابها وسيصبح المجتمع ككل أسوأ حالًا.

ومع ذلك، يعتقد الباحثون بأن المواقف العامة قد تتغير بمرور الوقت، فإذا تطورت تكنولوجيا السيارات الذاتية القيادة لتصل إلى النقطة تكون فيها قيادتها آمنة أكثر من قيادة الشخص لسيارته بنفسه بشكل تام، فقد يصبح الأشخاص أكثر تقبلًا لفكرة شراء السيارة التي تزيد من سلامتهم، حتى لو كانت مبرمجة بشكل واضح للسماح لهم بالموت في بعض الحالات غير المرجحة.