مقدمة
أُجريت دراسة عالمية عن المعضلة الأخلاقية المثيرة للجدل (معضلة القطار-Trolley paradox) على ملايين من البشر من أنحاء العالم للكشف عن تأثير القيم الأخلاقية في مختلف الثقافات. وفي عام 2014 قام باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) بتصميم تجربة بعنوان (الآلة الأخلاقية-Moral Machine)، وفكرتها هي إنشاء منصة تشبه اللعبة تعمل كوسيلةٍ لمعرفة تفضيلات الاختيار الجمعية في معضلة القطار، لتُستخدم هذه البيانات في توفير رؤية متعمقة من خلال ثقافات مختلفة.
لم يتنبأ الباحثون بالانتشار الواسع لهذه التجربة. بعد مرور أربع سنوات على إطلاق المنصة سجّل ملايين الأشخاص في 233 دولة وإقليم 40 مليون قرار، مما جعلها واحدة من أكبر الدراسات التي أجريت على الاختيار القائم على القيم الأخلاقية في العالم.
تفاصيل التجربة
تقدم ورقة بحثية جديدة نُشرت في مجلة «Nature» تحليلاً لتلك البيانات وتكشف مدى اختلاف القيم بين المجتمعات على أساس الثقافة والاقتصاد والموقع الجغرافي. ومعضلة القطار الكلاسيكية لها سيناريو يسير على النحو التالي: تشاهد قطاراً متسارعاً على القضبان، وعلى وشك أن يصطدم ويقتل خمسة أشخاص، ويمكنك تحريك مسار القطار بواسطة رافعة لينحرف فجأة نحو شخص آخر على الجانب المقابل، هل يجب عليك سحب الرافعة وإنهاء حياة شخص واحد مقابل إنقاذ خمسة أشخاص؟!
اعتمدت تجربة الآلة الأخلاقية على هذه الفكرة لاختبار تسع مقارنات مختلفة لإظهار انحياز الأشخاص: هل يجب أن تُعطي السيارة ذاتية القيادة أولوية الحياة للإنسان على الحيوانات، الركاب على المارة، عدد أكبر من الأشخاص على الأقل عدداً، النساء على الرجال، الشباب على المسنين، الأصحاء على المرضى، أصحاب الأوضاع الاجتماعية الأعلى على الأدنى، الملتزمين بالقانون على الخارجين عنه؟ وأخيراً هل يجب على السيارة أو القطار الانحراف عن المسار (اتخاذ فعل) أم البقاء على نفس المسار (عدم اتخاذ فعل)؟ وبدلاً من طرح مقارنات أحادية بسيطة، فإنّ التجربة قدمت للمشاركين تنوعات مختلفة من المقارنات، مثل الاختيار بين حياة مشاة مسنّين أو ثلاثة ركّاب من الشباب.
نتائج التجربة
أظهرت نتائج الدراسات اختلافات كبيرة في تفضيلات الدول عند الاختيار، ولكنها ارتبطت تبادليًا بالثقافة والاقتصاد، وعلى سبيل المثال إنّ المشاركين من ثقافات جماعية مثل الصين واليابان يفضلون حياة كبار السن على الشباب وذلك لتأثرهم بثقافة احترام الكبير. وعلى نحو مماثل إنّ المشاركين من دول أكثر فقراً تعاني من ضعف البنية المؤسّسيّسة أظهروا مقداراً أكبر من التسامح تجاه المشاة المتهوّرين مقارنة بمحترمي القانون، والمشاركون من دول تحمل قيم التحيّز الاقتصادي أظهروا فجوة كبيرة بين معاملة الأفراد ذوي الحالة الاجتماعية الأعلى وذوي الحالة الاجتماعية الأقل.
وبالرجوع للسؤال الأساسي المطروح في معضلة القطار، وجد الباحثون أنّ إنقاذ العدد الأكبر من الأشخاص لم يكن العامل الوحيد عند اتخاذ القرار، وعلى الرغم من ذلك فإن النتائج المستخلصة من دول الثقافات الفردية مثل الولايات المتحدة الامريكية والمملكة المتحدة أظهرت اهتمامًا كبيرًا بإنقاذ حياة العدد الأكبر، وذلك يرجع من وجهة نظر الباحث إلى التركيز الكبير على أهمية قيمة الفرد في هذه الثقافات، كما أظهرت الدول المتجاورة جغرافيًا تفضيلات أخلاقية متقاربة في ظل وجود ثلاثة تكتلات مهيمنة: الغرب، الشرق، والجنوب.
أقرّ الباحثون أنّ النتائج يمكن أن تكون غير دقيقة نظرًا لكون المشاركين في الدراسة قد اختاروا المشاركة بإرادتهم، وبالتالي من الأرجح أن يكونوا متصلين بالإنترنت، وينتمون لطبقة اجتماعية عالية، ويملكون قدرًا كبيرًا من الإدراك التكنولوجي. لكن من ناحية أخرى فإنّ المهتمين بركوب السيارات ذاتية القيادة من المرجّح أيضًا أن تكون لديهم نفس هذه الخصائص.
تحمل الدراسة نتائج مثيرة للاهتمام بالنسبة للدول التي تختبر السيارات ذاتية القيادة، وذلك لأن هذه التفضيلات يمكنها أن تلعب دورًا مهمًا في وضع الإطار الأساسي لعمليات التصميم والقوانين المنظمة لهذه السيارات. وقد يجد صانعوها على سبيل المثال أنّ المستهلكين الصينيين قد يفضّلون السيارات التي تحمي حياتهم على حساب المشاة.
أكّد الباحثون على الجانب الآخر أنّ النتائج لا تهدف لفرض وجهة نظر محددة، بل في بعض الحالات شعر المؤلف أنّ المتخصصين في التكنولوجيا وصانعي القرار يجب عليهم تجاوز الرأي الجمعيّ العام. وقد أثار إدموند عوض -أحد مؤلفي الورقة البحثية- مقارنة الحالة الاجتماعية عن طريق مثال قائلًا:
«إنه لمن الواضح أنّ الأشخاص وجدوا سهولة في تفضيل حياة الأفراد ذوي الحالة الاجتماعية الأعلى على الأقل، فيصبح التحديد الكمي في هذه الحالة أفضل من قول إنه يجب استخدام هذه البيانات، وتصبح النتائج في هذه الحالة قاعدة لفهم كيف يتفاعل الأفراد مع أخلاقيات مختلف قرارات التصميم والسياسة»
مستقبل الذكاء الاصطناعي
يأمل عوض أن تساعد هذه النتائج صانعي التكنولوجيا في التفكير على نحو أكثر تعمقًا في أخلاقيات الذكاء الاصطناعي وبشكل يتعدّى فكرة السيارات ذاتية القيادة، إذ قال:
«لقد استخدمنا معضلة القطار لأنها طريقة جيدة جدًا لجمع مثل هذه البيانات، لكنّنا نأمل أن تُستبعد مناقشة الأخلاقيات من الفكرة الرئيسية. يجب أن ينتقل التركيز إلى تحليل المخاطر -من الأكثر عرضةً للخطر إلى الأقل عرضةً- بدلًا من تحديد من سيموت أو لا وكذلك حول كيفية حدوث التحيز»
يأمل عوض أن يتم دراسة كيفية ترجمة هذه النتائج إلى تصميم وتنظيم أكثر أخلاقية للذكاء الاصطناعي بشكل أكثر توسعًا في المستقبل، وأضاف:
«في السنوات الأخيرة تزايد عدد الأفراد الذين يتحدثون عن أخلاقيات الذكاء الاصطناعي. لقد أدرك المزيد من الأشخاص أنّ الذكاء الاصطناعي يمكن أن يحمل عواقب أخلاقية مختلفة على مجموعات متنوعة من الأفراد. وحقيقة أن نرى أشخاصًا يتفاعلون مع هذا أعتقد أنّه شيء واعد»
المصدر
Hao K. Should a self-driving car kill the baby or the grandma? Depends on where you’re from. [Internet]. MIT Technology Review. [cited 2019 Jul 10]. Available from: https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/
ترجمة بتصرف: ليلي جميل.
مراجعة علمية: لميس معوض.
تدقيق لغوي: محمد غنيم
تحرير: نسمة محمود
