شرح معضلة عربة الترام: الأخلاق والذكاء الاصطناعي والسيارات ذاتية القيادة

تعد معضلة عربة الترام من أشهر تجارب التفكير الأخلاقي، لأنها تحول سؤالا أخلاقيا ضخما إلى مشهد يستطيع معظم الناس تخيله. عربة ترام خارجة عن السيطرة تتجه نحو خمسة أشخاص. يمكنك أن تسحب ذراعا لتحويل مسارها، لكن ذلك يرسلها نحو شخص واحد بدلا منهم. هل ينبغي أن تتصرف؟ يبدو السؤال بسيطا، لكن طريقة التفكير وراء كل إجابة يمكن أن تكشف كيف يوازن الناس بين الضرر والواجب والنية والمسؤولية وعدم اليقين. إذا أردت مقارنة هذا المأزق بأولوياتك الأخلاقية الخاصة، فيمكن أن تمنحك أداة اكتشاف الذات الأخلاقية طريقة منظمة للتأمل من دون التعامل مع أي إجابة واحدة على أنها حكم نهائي.

ما هي معضلة عربة الترام؟

في صيغتها الكلاسيكية، تسأل معضلة عربة الترام عما إذا كان من المقبول أخلاقيا تحويل مسار عربة ترام خارجة عن السيطرة بحيث يموت شخص واحد بدلا من خمسة. ترتبط النسخة القياسية عادة بمناقشة الفيلسوفة Philippa Foot عام 1967 لمبدأ الأثر المزدوج، مع أن حالات شبيهة بعربة الترام كانت موجودة قبل أن يصبح الاسم الحديث شائعا.

الفكرة ليست مجرد أن "خمسة أكثر من واحد". تسأل المعضلة عما إذا كانت طريقة حدوث الضرر مهمة. هل يختلف ترك الضرر يستمر عن إعادة توجيهه بنشاط؟ هل يبرر إنقاذ عدد أكبر من الناس التسبب في موت شخص؟ هل تتغير الإجابة إذا كان الشخص الذي ستؤذيه غريبا، أو شخصا تحبه، أو مخطئا، أو شخصا لم يكن في خطر أصلا حتى تدخلت؟

لهذا تبقى معضلة الترام مفيدة. فهي تضغط عدة أطر أخلاقية في اختيار واحد واضح ومؤثر. تميل الإجابة النفعية إلى التركيز على النتيجة: وفيات أقل. وتميل الإجابة الواجبة إلى التركيز على الواجبات والحدود: لا تتسبب عمدا في ضرر بريء. وقد تسأل إجابة أخلاق الفضيلة عما سيفعله شخص حكيم أو شجاع أو عادل عندما تكون كل الخيارات سيئة.

لماذا لا تملك معضلة الترام حلا واحدا نظيفا

يبحث كثير من الناس عن حل لمعضلة الترام، لكن الإجابة الأفضل هي أن معضلة عربة الترام ليست مبنية مثل مسألة رياضيات. إنها اختبار ضغط لطريقة التفكير. يعتمد "الحل" على المبدأ الأخلاقي الذي تعتقد أنه يجب أن يقود عندما تتصادم المبادئ.

إذا كنت تعطي الأولوية للعواقب، فقد يبدو سحب الذراع صحيحا لأنه يقلل عدد الوفيات. وإذا كنت تعطي الأولوية لقاعدة ضد الضرر المتعمد، فقد يبدو سحب الذراع خاطئا لأنك تجعل موت شخص واحد جزءا من فعلك. وإذا ركزت على المسؤولية، فقد تسأل ما إذا كان عدم فعل شيء هو أيضا اختيار. وإذا ركزت على الإنصاف، فقد تسأل لماذا ينبغي اختيار أي شخص ليكون هو من يدفع الثمن.

وهذا أيضا سبب شعور أمثلة معضلة الترام بالإحباط أحيانا. التفاصيل الصغيرة في القصة تغير الإجابة. عادة ما يبدو سحب مفتاح مختلفا عن دفع شخص. كما أن تحويل عربة ترام نحو عامل واحد يبدو عادة مختلفا عن استهداف شخص بسبب عمره أو مكانته الاجتماعية أو صحته أو هويته. يبين هذا المشكل أن أحكامنا الأخلاقية حساسة للنية والقرب والموافقة والهوية، وللفرق بين ضرر متوقع وضرر مقصود.

تنويعات وحجج شائعة في معضلة الترام

معضلة الترام الأساسية ليست سوى النسخة الأولى. كثيرا ما يستخدم الفلاسفة والمعلمون تنويعات لاختبار ما إذا كان مبدأ الشخص يصمد عندما يتغير المشهد.

في حالة المفتاح، تحول عربة الترام من خمسة أشخاص إلى شخص واحد. وفي حالة الجسر، تكون الطريقة الوحيدة لإيقاف العربة هي دفع شخص من فوق جسر. وفي حالات المسار الحلقي، قد تعود العربة إلى المسار الأصلي ما لم يوقفها الشخص الواحد. وفي معضلات الترام العبثية، يصبح المشهد غريبا عن قصد: قد يستبدل الأشخاص بحيوانات أليفة، أو أشرار، أو روبوتات، أو نسخ منك، أو مواقف مستحيلة من الثقافة الشعبية. يمكن لهذه النسخ الطريفة أن تكشف حدوسا جادة، لكنها عادة أفضل للنقاش منها للسياسة.

تقع الحجج الرئيسية في معضلة الترام عادة ضمن بضع عائلات. تقول الحجة النفعية إن عليك اختيار الفعل الذي ينتج أقل ضرر إجمالي. وتقول الحجة الواجبة إن بعض الأفعال تظل خاطئة حتى عندما تحسن العدد النهائي. ويقول مبدأ الأثر المزدوج إن هناك فرقا أخلاقيا ممكنا بين ضرر متوقع كأثر جانبي وضرر مقصود كوسيلة. أما الحجة التي تركز على الشخصية فتسأل عما يكشفه القرار من شجاعة وتعاطف وتواضع واحترام للأشخاص.

لا يمثل أي من هذه الأطر اختصارا كاملا. كل واحد يبرز شيئا حقيقيا ويفوته شيء آخر. لذلك تعمل معضلة الترام على أفضل وجه كبداية لحوار، لا كآلة تطبع الجواب الصحيح.

ما تكشفه معضلة الترام عن بوصلتك الأخلاقية

يمكن أن تكون معضلة عربة الترام مفيدة للتأمل الشخصي لأنها تجعل الأولويات الخفية مرئية. يلاحظ بعض الناس أنهم يسارعون إلى عد الأرواح. ويلاحظ آخرون أنهم ينفرون من الضرر المباشر. يشعر بعضهم أن رفض الاختيار هو في ذاته إخفاق أخلاقي. ويشعر آخرون أن معضلات الاختيار القسري غير عادلة لأنها تمحو العلاقات والتواريخ والمسؤوليات التي تشكل عادة القرارات الأخلاقية الحقيقية.

طريقة مفيدة لاستخدام السؤال هي أن تسأل عما تحميه إجابتك. هل تحمي أكبر عدد من الناس؟ كرامة كل فرد؟ حدا يمنع استخدام شخص كأداة؟ رفضك أنت أن تصبح سببا للضرر؟ قاعدة عامة يمكن للآخرين تطبيقها بإنصاف؟

هنا ترتبط معضلة الترام طبيعيا بمعرفة الذات الأخلاقية. لا تحدد إجابة واحدة شخصيتك، لكن نمطا من الإجابات يمكن أن يساعدك على استكشاف بوصلتك الأخلاقية بدقة أكبر. قد تجد أنك تميل إلى التفكير القائم على النتائج في السيناريوهات البعيدة، لكنك تميل إلى التفكير القائم على الواجب عندما يصبح الفعل شخصيا. وقد تجد أيضا أن إجابتك تتغير عندما يصبح الأشخاص المعنيون أقل تجريدا.

معضلة الترام وسيارات الذكاء الاصطناعي

غالبا ما يرتفع الاهتمام البحثي حول معضلة الترام بسبب السيارات ذاتية القيادة. السؤال الشائع هو ما إذا كان ينبغي لسيارة ذاتية القيادة أن تضحي بالراكب لإنقاذ المشاة، أم تحمي الراكب مهما كان الثمن. يبدو ذلك مثل معضلة الترام الكلاسيكية، لكنها محدثة بالمستشعرات والبرمجيات والطرق.

الصلة حقيقية، لكن من السهل المبالغة فيها. أظهر اختبار Moral Machine أن ملايين الأشخاص في بلدان كثيرة لديهم تفضيلات مختلفة بشأن كيفية تصرف المركبات ذاتية القيادة في سيناريوهات الاصطدام التي لا يمكن تجنبها. جعل ذلك البحث البعد العام لأخلاقيات الآلة مرئيا: لا يتفق الناس جميعا على ما ينبغي أن يكون قرارا "مقبولا اجتماعيا".

في الوقت نفسه، يرى كثير من المهندسين والأخلاقيين أن إطار الترام الكلاسيكي ضيق للغاية بالنسبة لسلامة المرور الواقعية. ليس من المفترض أن تنتظر أنظمة القيادة الذاتية حتى تظهر أحجية أخلاقية مستحيلة في آخر ثانية. هدفها في السلامة هو تقليل المخاطر في وقت أبكر عبر الاستشعار والتنبؤ والكبح والتخطيط المحافظ وحدود التشغيل وقواعد الطريق والاختبار والرقابة التنظيمية. قد تكون أهم أسئلة أخلاقيات السيارات ذاتية القيادة أقل درامية من "من ينبغي أن يموت؟" وأكثر عملية: ما المخاطر التي يمكن توقعها؟ من المسؤول؟ ما مقدار الشفافية الواجب في الأنظمة؟ كيف ينبغي للمركبات أن تتصرف حول المشاة وراكبي الدراجات والسائقين البشر؟ وما الدليل الكافي قبل النشر؟

كيف تفكر في سؤال من معضلة الترام

عندما تواجه سؤالا من معضلة الترام، لا تتعجل لتبدو ذكيا. التفكير البطيء هو المقصود. جرب عملية التأمل هذه في أربع خطوات.

أولا، سم الفعل. هل تسمح لخطر قائم بأن يستمر، أم تعيد توجيهه، أم تؤذي شخصا مباشرة، أم تخلق خطرا جديدا؟ ثانيا، سم القيمة الأخلاقية التي تعطيها الأولوية. قد تكون تقليل الوفيات، أو احترام كل شخص، أو تجنب الضرر المتعمد، أو حماية الثقة العامة، أو قبول المسؤولية عن الفعل والامتناع عن الفعل. ثالثا، اختبر اتساق إجابتك. هل ستعطي الإجابة نفسها إذا تغير الأشخاص؟ إذا كنت واحدا منهم؟ إذا استخدمت مؤسسة عامة قاعدتك؟ رابعا، لاحظ انزعاجك. الانزعاج ليس فشلا. إنه معلومات عن القيم المتنافسة.

في الصفوف الدراسية والفرق ونقاشات أخلاقيات الذكاء الاصطناعي، يساعد فصل الاختيار عن التفسير. قد يسحب شخصان الذراع نفسه لأسباب مختلفة. وقد يرفض شخصان الفعل نفسه لأسباب مختلفة. النقاش الأعمق ليس فقط ما يختارونه، بل لماذا يبدو ذلك الاختيار مسموحا أو مطلوبا أو ممنوعا أخلاقيا.

ما الذي يمكن لمعضلة عربة الترام أن تخبرك به وما الذي لا يمكنها إخبارك به

يمكن أن تساعدك معضلة عربة الترام على ملاحظة كيف تفكر تحت ضغط أخلاقي. ويمكنها أن توضح لماذا تسحب الحجج النفعية والواجبة والقائمة على الفضيلة في اتجاهات مختلفة. كما يمكنها أن تجعل أخلاقيات الذكاء الاصطناعي أسهل للنقاش لأنها تمنح الناس مثالا مشتركا قبل الانتقال إلى أسئلة أصعب حول التصميم والقانون والتحيز والمساءلة والثقة العامة.

لكنها لا تستطيع أن تخبرك هل أنت شخص جيد أم سيئ. ولا تستطيع حسم كل الأسئلة القانونية. ولا تستطيع أن تحل محل تحليل السلامة الواقعي للسيارات ذاتية القيادة. كما أنها لا تستطيع التقاط النسيج الكامل للحياة الأخلاقية العادية، حيث لدى الناس علاقات وتواريخ والتزامات ومعلومات محدودة ووقت لمنع الضرر قبل أن تتحول الأزمة إلى خيار ثنائي.

استخدم معضلة الترام كمرآة، لا كحكم. إذا تركتك فضوليا بشأن قيمك الأوسع، فإن التأمل الأخلاقي المنظم يمكن أن يساعدك على مقارنة معضلة درامية واحدة بالأنماط الأكثر عادية في صنع قراراتك.

FAQ

هل توجد إجابة لمعضلة الترام؟

لا توجد إجابة واحدة مقبولة عالميا. غالبا ما تقول الإجابة النفعية إن عليك سحب الذراع لأن موت شخص واحد أقل ضررا من موت خمسة. وقد تقول الإجابة الواجبة إن عليك ألا تسحبها لأن إعادة توجيه الضرر عمدا نحو شخص بريء تتجاوز خطا أخلاقيا. تركز مقاربات أخرى على الشخصية أو المسؤولية أو الموافقة أو القواعد العامة. قيمة معضلة الترام أنها تكشف التفكير وراء الإجابة.

كيف يستجيب أصحاب السمات السيكوباتية لمعضلة الترام؟

وجدت أبحاث السمات السيكوباتية أحيانا ميلا أقوى إلى الاستجابات النفعية في المعضلات الأخلاقية التي تتضمن التضحية، خاصة عندما تقيس المهمة الاستعداد لتأييد الضرر الأداتي. لا يعني ذلك أن إجابة واحدة على معضلة الترام تحدد شخصا على أنه سيكوباتي. تدرس أبحاث المعضلات الأخلاقية الأنماط والسمات وتصميمات المهام؛ ولا ينبغي استخدامها كملصقات شخصية.

من طرح معضلة الترام أولا؟

تنسب معضلة الترام الحديثة في أغلب الأحيان إلى Philippa Foot، التي ناقشت حالة عربة الترام الخارجة عن السيطرة عام 1967 أثناء تحليلها لمبدأ الأثر المزدوج. طورت Judith Jarvis Thomson لاحقا تنويعات مؤثرة، منها حالة الجسر، وساعدت في جعل معضلة الترام موضوعا رئيسيا في الفلسفة الأخلاقية.

ماذا يقول القانون عن معضلة الترام؟

لا يقدم القانون إجابة بسيطة واحدة لمعضلة الترام. غالبا ما تميز الأنظمة القانونية بين الفعل والامتناع، والنية والتوقع، والضرورة والمسؤولية، والقانون الجنائي وقواعد الإهمال. في القضايا الواقعية، تهم الوقائع والولايات القضائية. وبالنسبة للمركبات ذاتية القيادة، يركز النقاش القانوني عادة بدرجة أقل على اختيار ذراع واحد، وبدرجة أكبر على معايير السلامة والمساءلة والتنظيم وما إذا كانت الأنظمة تقلل المخاطر مقارنة بالقيادة البشرية.

هل تفيد معضلة الترام في أخلاقيات السيارات ذاتية القيادة؟

هي مفيدة كأداة تعليمية وكطريقة لتقديم أخلاقيات الآلة، لكنها محدودة. تعتمد سلامة المركبات ذاتية القيادة الحقيقية على منع المواقف الخطرة، وتحديد المسؤولية، واختبار الأنظمة، واتباع قواعد المرور، وتقليل المخاطر المتوقعة. لا ينبغي بناء إطار أخلاقي للسيارات ذاتية القيادة فقط حول سيناريوهات التضحية النادرة في اللحظة الأخيرة.

ما هي معضلات الترام العبثية؟

معضلات الترام العبثية هي تنويعات مبالغ فيها أو مرحة من المعضلة الكلاسيكية. قد تضيف شخصيات غريبة، أو أرقاما مستحيلة، أو آلات خيالية، أو انعطافات كوميدية. يمكن أن تكون ممتعة وكاشفة، لكن ينبغي التعامل معها بحذر. كلما أصبح الإعداد أكثر عبثية، قل ما يمكنه إخبارنا به عن الأخلاق أو القانون أو الهندسة في العالم الحقيقي.