อธิบายปัญหารถราง: จริยธรรม AI และรถยนต์ไร้คนขับ

ปัญหารถรางเป็นหนึ่งในการทดลองทางความคิดด้านจริยธรรมที่มีชื่อเสียงที่สุด เพราะมันเปลี่ยนคำถามทางศีลธรรมขนาดใหญ่ให้เป็นฉากที่แทบทุกคนจินตนาการได้ รถรางที่ควบคุมไม่ได้กำลังพุ่งไปหาคนห้าคน คุณสามารถดึงคันโยกเพื่อเปลี่ยนเส้นทางของมันได้ แต่การทำเช่นนั้นจะส่งมันไปหาคนหนึ่งคนแทน คุณควรลงมือหรือไม่ คำถามฟังดูเรียบง่าย แต่เหตุผลเบื้องหลังแต่ละคำตอบสามารถเผยให้เห็นว่าผู้คนชั่งน้ำหนักอันตราย หน้าที่ เจตนา ความรับผิดชอบ และความไม่แน่นอนอย่างไร หากคุณต้องการเปรียบเทียบภาวะกลืนไม่เข้าคายไม่ออกนี้กับลำดับความสำคัญทางศีลธรรมของตนเอง เครื่องมือค้นพบตนเองด้านจริยธรรม สามารถให้วิธีสะท้อนคิดอย่างมีโครงสร้าง โดยไม่ถือว่าคำตอบใดคำตอบหนึ่งเป็นคำตัดสินสุดท้าย

ปัญหารถรางคืออะไร?

ในรูปแบบคลาสสิก ปัญหารถรางถามว่าการเปลี่ยนเส้นทางรถรางที่ควบคุมไม่ได้ เพื่อให้คนหนึ่งคนตายแทนคนห้าคนนั้นยอมรับได้ทางศีลธรรมหรือไม่ เวอร์ชันมาตรฐานมักเชื่อมโยงกับการอภิปรายของนักปรัชญา Philippa Foot ในปี 1967 เรื่องหลักคำสอนผลสองทาง แม้ว่ากรณีที่คล้ายรถรางจะมีอยู่ก่อนชื่อสมัยใหม่จะได้รับความนิยมแล้วก็ตาม

ประเด็นไม่ใช่แค่ว่า "ห้ามากกว่าหนึ่ง" ภาวะนี้ถามว่าวิธีที่อันตรายเกิดขึ้นมีความสำคัญหรือไม่ การปล่อยให้อันตรายดำเนินต่อไปต่างจากการเปลี่ยนทิศทางมันอย่างกระตือรือร้นหรือไม่ การช่วยคนจำนวนมากกว่าทำให้การก่อให้เกิดความตายหนึ่งรายเป็นสิ่งชอบธรรมหรือไม่ คำตอบเปลี่ยนไปไหมถ้าคนที่คุณจะทำร้ายเป็นคนแปลกหน้า คนที่คุณรัก ผู้กระทำผิด หรือคนที่ไม่เคยอยู่ในอันตรายเลยจนกระทั่งคุณเข้าไปแทรกแซง

นี่คือเหตุผลที่ปัญหารถรางยังคงมีประโยชน์ มันบีบอัดกรอบศีลธรรมหลายแบบไว้ในตัวเลือกที่ชัดเจนเพียงตัวเลือกเดียว คำตอบแบบอรรถประโยชน์นิยมมักมุ่งที่ผลลัพธ์: มีคนตายน้อยลง คำตอบแบบหน้าที่นิยมมักมุ่งที่หน้าที่และขอบเขต: อย่าก่ออันตรายต่อผู้บริสุทธิ์โดยเจตนา คำตอบแบบจริยศาสตร์คุณธรรมอาจถามว่าคนที่ฉลาด กล้าหาญ หรือยุติธรรมจะทำอย่างไรเมื่อทุกทางเลือกเลวร้าย

ทำไมปัญหารถรางจึงไม่มีคำตอบเดียวที่สะอาดหมดจด

หลายคนค้นหาวิธีแก้ปัญหารถราง แต่คำตอบที่ดีกว่าคือปัญหารถรางไม่ได้ถูกสร้างขึ้นเหมือนโจทย์คณิตศาสตร์ มันเป็นการทดสอบแรงกดดันของการใช้เหตุผล "คำตอบ" ขึ้นอยู่กับว่าคุณคิดว่าหลักศีลธรรมใดควรนำทางเมื่อหลักการต่าง ๆ ชนกัน

ถ้าคุณให้ความสำคัญกับผลลัพธ์ การดึงคันโยกอาจดูถูกต้อง เพราะมันลดจำนวนผู้ตายให้น้อยที่สุด ถ้าคุณให้ความสำคัญกับกฎต่อต้านอันตรายโดยเจตนา การดึงคันโยกอาจดูผิด เพราะคุณทำให้ความตายของคนหนึ่งคนกลายเป็นส่วนหนึ่งของการกระทำของคุณ ถ้าคุณมุ่งที่ความรับผิดชอบ คุณอาจถามว่าการไม่ทำอะไรเลยก็เป็นทางเลือกหรือไม่ ถ้าคุณมุ่งที่ความเป็นธรรม คุณอาจถามว่าทำไมคนใดคนหนึ่งจึงควรถูกเลือกให้เป็นผู้จ่ายราคา

นี่เป็นเหตุผลด้วยว่าตัวอย่างปัญหารถรางอาจทำให้รู้สึกหงุดหงิด รายละเอียดเล็ก ๆ ในเรื่องเปลี่ยนคำตอบได้ การดึงสวิตช์มักรู้สึกต่างจากการผลักคน การเปลี่ยนเส้นทางรถรางไปหาคนงานหนึ่งคนมักรู้สึกต่างจากการกำหนดเป้าหมายใครบางคนเพราะอายุ สถานะทางสังคม สุขภาพ หรืออัตลักษณ์ของเขา ปัญหานี้แสดงว่าการตัดสินทางศีลธรรมของเราไวต่อเจตนา ความใกล้ชิด ความยินยอม อัตลักษณ์ และความแตกต่างระหว่างอันตรายที่คาดการณ์ได้กับอันตรายที่ตั้งใจให้เกิด

รูปแบบและข้อโต้แย้งทั่วไปของปัญหารถราง

ปัญหารถรางพื้นฐานเป็นเพียงเวอร์ชันแรก นักปรัชญาและครูมักใช้รูปแบบต่าง ๆ เพื่อทดสอบว่าหลักการของคนคนหนึ่งยังยืนอยู่ได้หรือไม่เมื่อฉากเปลี่ยนไป

ในกรณีสวิตช์ คุณเปลี่ยนเส้นทางรถรางจากคนห้าคนไปหาคนหนึ่งคน ในกรณีสะพานลอย วิธีเดียวที่จะหยุดรถรางคือผลักคนคนหนึ่งลงจากสะพาน ในกรณีวงวน รถรางอาจกลับไปสู่รางเดิม เว้นแต่คนหนึ่งคนนั้นจะหยุดมันไว้ ในปัญหารถรางแบบไร้สาระ ฉากจะถูกทำให้แปลกโดยเจตนา: คนอาจถูกแทนที่ด้วยสัตว์เลี้ยง ผู้ร้าย หุ่นยนต์ สำเนาของตัวคุณเอง หรือสถานการณ์วัฒนธรรมป๊อปที่เป็นไปไม่ได้ เวอร์ชันตลกเหล่านี้ยังอาจเปิดเผยสัญชาตญาณที่จริงจังได้ แต่โดยทั่วไปเหมาะสำหรับการอภิปรายมากกว่านโยบาย

ข้อโต้แย้งหลักของปัญหารถรางมักตกอยู่ในไม่กี่กลุ่ม ข้อโต้แย้งแบบอรรถประโยชน์นิยมบอกว่าคุณควรเลือกการกระทำที่สร้างอันตรายรวมต่ำที่สุด ข้อโต้แย้งแบบหน้าที่นิยมบอกว่าการกระทำบางอย่างยังคงผิด แม้มันจะทำให้จำนวนสุดท้ายดีขึ้น หลักคำสอนผลสองทางบอกว่าอาจมีความแตกต่างทางศีลธรรมระหว่างอันตรายที่คาดการณ์ได้ในฐานะผลข้างเคียงกับอันตรายที่ตั้งใจให้เป็นเครื่องมือ ข้อโต้แย้งที่มุ่งที่ลักษณะนิสัยถามว่าการตัดสินใจเผยอะไรเกี่ยวกับความกล้าหาญ ความเห็นอกเห็นใจ ความถ่อมตน และความเคารพต่อบุคคล

ไม่มีกรอบใดเป็นทางลัดที่สมบูรณ์แบบ แต่ละกรอบชี้ให้เห็นบางสิ่งที่เป็นจริงและพลาดบางสิ่งอื่นไป นั่นคือเหตุผลที่ปัญหารถรางทำงานได้ดีที่สุดในฐานะจุดเริ่มต้นของการสนทนา ไม่ใช่เครื่องจักรที่พิมพ์คำตอบที่ถูกต้องออกมา

ปัญหารถรางเผยอะไรเกี่ยวกับเข็มทิศทางศีลธรรมของคุณ

ปัญหารถรางมีประโยชน์ต่อการสะท้อนคิดส่วนตัว เพราะมันทำให้ลำดับความสำคัญที่ซ่อนอยู่มองเห็นได้ บางคนสังเกตว่าตนรีบนับจำนวนชีวิตอย่างรวดเร็ว บางคนสังเกตว่าตนถอยห่างจากอันตรายโดยตรง บางคนรู้สึกว่าการปฏิเสธที่จะเลือกเป็นความล้มเหลวทางศีลธรรมในตัวเอง คนอื่นรู้สึกว่าภาวะที่บังคับให้เลือกไม่ยุติธรรม เพราะมันลบความสัมพันธ์ ประวัติ และความรับผิดชอบที่มักกำหนดการตัดสินใจเชิงจริยธรรมจริง ๆ

วิธีที่เป็นประโยชน์ในการใช้คำถามนี้คือถามว่าคำตอบของคุณกำลังปกป้องอะไร คุณกำลังปกป้องคนจำนวนมากที่สุดหรือไม่ ศักดิ์ศรีของแต่ละบุคคลหรือไม่ ขอบเขตที่ห้ามใช้คนเป็นเครื่องมือหรือไม่ การปฏิเสธของตัวคุณเองที่จะเป็นสาเหตุของอันตรายหรือไม่ หรือกฎสาธารณะที่ผู้อื่นสามารถนำไปใช้อย่างเป็นธรรมได้หรือไม่

ตรงนี้เองที่ปัญหารถรางเชื่อมโยงอย่างเป็นธรรมชาติกับการรู้จักตนเองด้านศีลธรรม คำตอบเดียวไม่ได้กำหนดลักษณะนิสัยของคุณ แต่รูปแบบของคำตอบสามารถช่วยให้คุณ สำรวจเข็มทิศทางศีลธรรมของคุณ ได้อย่างแม่นยำขึ้น คุณอาจพบว่าคุณเอนเอียงไปสู่การใช้เหตุผลตามผลลัพธ์ในสถานการณ์ที่ไกลตัว แต่เอนเอียงไปสู่การใช้เหตุผลตามหน้าที่เมื่อการกระทำนั้นกลายเป็นเรื่องส่วนตัว คุณอาจพบด้วยว่าคำตอบเปลี่ยนไปเมื่อผู้คนที่เกี่ยวข้องไม่เป็นนามธรรมมากนัก

ปัญหารถรางกับรถ AI

ความสนใจในการค้นหาเกี่ยวกับปัญหารถรางมักพุ่งขึ้นเพราะรถยนต์ไร้คนขับ คำถามยอดนิยมคือรถยนต์อัตโนมัติควรสละผู้โดยสารเพื่อช่วยคนเดินถนน หรือควรปกป้องผู้โดยสารโดยไม่คำนึงถึงค่าใช้จ่าย นั่นฟังเหมือนปัญหารถรางคลาสสิกที่อัปเดตด้วยเซ็นเซอร์ ซอฟต์แวร์ และถนน

ความเชื่อมโยงนี้มีจริง แต่ถูกกล่าวเกินจริงได้ง่าย การทดลอง Moral Machine แสดงให้เห็นว่าผู้คนนับล้านในหลายประเทศมีความชอบต่างกันเกี่ยวกับวิธีที่ยานพาหนะอัตโนมัติควรปฏิบัติในสถานการณ์ชนที่หลีกเลี่ยงไม่ได้ งานวิจัยนี้ทำให้มิติร่วมสาธารณะของจริยธรรมเครื่องจักรมองเห็นได้: ผู้คนไม่ได้เห็นตรงกันทั้งหมดว่าอะไรควรเป็นการตัดสินใจที่ "สังคมยอมรับได้"

ในเวลาเดียวกัน วิศวกรและนักจริยธรรมจำนวนมากโต้แย้งว่ากรอบรถรางคลาสสิกแคบเกินไปสำหรับความปลอดภัยจราจรจริง ระบบขับขี่อัตโนมัติไม่ควรถูกคาดหวังให้รอจนปริศนาทางศีลธรรมที่เป็นไปไม่ได้ปรากฏขึ้นในวินาทีสุดท้าย เป้าหมายด้านความปลอดภัยของมันคือการลดความเสี่ยงให้เร็วขึ้นผ่านการรับรู้ การคาดการณ์ การเบรก การวางแผนอย่างระมัดระวัง ข้อจำกัดการใช้งาน กฎถนน การทดสอบ และการกำกับดูแลด้านกฎระเบียบ คำถามสำคัญที่สุดของจริยธรรมรถยนต์อัตโนมัติอาจน้อยความดราม่ากว่า "ใครควรตาย?" และเป็นเรื่องปฏิบัติมากกว่า: ความเสี่ยงใดคาดการณ์ได้ ใครรับผิดชอบ ระบบควรโปร่งใสเพียงใด ยานพาหนะควรปฏิบัติอย่างไรใกล้คนเดินถนน นักปั่นจักรยาน และคนขับมนุษย์ หลักฐานมากแค่ไหนจึงพอก่อนนำไปใช้

วิธีคิดผ่านคำถามปัญหารถราง

เมื่อคุณพบคำถามปัญหารถราง อย่ารีบพยายามฟังดูฉลาด การคิดอย่างช้า ๆ คือหัวใจ ลองกระบวนการสะท้อนคิดสี่ขั้นตอนนี้

ขั้นแรก ตั้งชื่อการกระทำ คุณกำลังปล่อยให้ภัยเดิมดำเนินต่อไป เปลี่ยนทิศทางมัน ทำร้ายใครบางคนโดยตรง หรือสร้างความเสี่ยงใหม่ ขั้นที่สอง ตั้งชื่อคุณค่าทางศีลธรรมที่คุณให้ความสำคัญ อาจเป็นการลดจำนวนผู้ตาย การเคารพแต่ละคน การหลีกเลี่ยงอันตรายโดยเจตนา การปกป้องความไว้วางใจสาธารณะ หรือการยอมรับความรับผิดชอบต่อการกระทำและการไม่กระทำ ขั้นที่สาม ทดสอบความสอดคล้องของคำตอบ คุณจะให้คำตอบเดิมหรือไม่ถ้าคนเปลี่ยนไป ถ้าคุณเป็นหนึ่งในนั้น ถ้าสถาบันสาธารณะใช้กฎของคุณ ขั้นที่สี่ สังเกตความไม่สบายใจของคุณ ความไม่สบายใจไม่ใช่ความล้มเหลว มันคือข้อมูลเกี่ยวกับคุณค่าที่กำลังแข่งขันกัน

สำหรับห้องเรียน ทีม และการอภิปรายจริยธรรม AI การแยกตัวเลือกออกจากคำอธิบายช่วยได้ คนสองคนอาจดึงคันโยกทั้งคู่ด้วยเหตุผลต่างกัน คนสองคนอาจปฏิเสธทั้งคู่ด้วยเหตุผลต่างกัน การสนทนาที่ลึกซึ้งกว่าไม่ได้มีเพียงว่าพวกเขาเลือกอะไร แต่ยังรวมถึงว่าทำไมตัวเลือกนั้นจึงรู้สึกว่าได้รับอนุญาต จำเป็น หรือถูกห้ามทางศีลธรรม

ปัญหารถรางบอกอะไรคุณได้และบอกอะไรไม่ได้

ปัญหารถรางสามารถช่วยให้คุณสังเกตว่าคุณใช้เหตุผลอย่างไรภายใต้แรงกดดันทางศีลธรรม มันสามารถทำให้ชัดเจนว่าทำไมข้อโต้แย้งแบบอรรถประโยชน์นิยม หน้าที่นิยม และคุณธรรมจึงดึงไปคนละทิศทาง มันทำให้การอภิปรายจริยธรรม AI ง่ายขึ้นได้ เพราะให้ตัวอย่างร่วมกันก่อนเข้าสู่คำถามที่ยากขึ้นเรื่องการออกแบบ กฎหมาย อคติ ความรับผิด และความไว้วางใจสาธารณะ

แต่มันบอกไม่ได้ว่าคุณเป็นคนดีหรือคนไม่ดี มันไม่สามารถตัดสินคำถามทางกฎหมายทั้งหมดได้ มันไม่สามารถแทนที่การวิเคราะห์ความปลอดภัยในโลกจริงของรถยนต์ไร้คนขับได้ และมันไม่สามารถจับเนื้อสัมผัสทั้งหมดของชีวิตศีลธรรมทั่วไป ที่ผู้คนมีความสัมพันธ์ ประวัติ ภาระผูกพัน ข้อมูลจำกัด และเวลาป้องกันอันตรายก่อนวิกฤตจะกลายเป็นตัวเลือกสองทาง

ใช้ปัญหารถรางเป็นกระจก ไม่ใช่คำพิพากษา หากมันทิ้งความอยากรู้อยากเห็นเกี่ยวกับคุณค่าที่กว้างขึ้นของคุณไว้ การสะท้อนคิดเชิงจริยธรรมอย่างมีโครงสร้าง สามารถช่วยให้คุณเปรียบเทียบภาวะดราม่าหนึ่งอย่างกับรูปแบบที่ธรรมดากว่าในการตัดสินใจของคุณ

คำถามที่พบบ่อย

ปัญหารถรางมีคำตอบหรือไม่?

ไม่มีคำตอบเดียวที่ได้รับการยอมรับโดยสากล คำตอบแบบอรรถประโยชน์นิยมมักบอกให้ดึงคันโยก เพราะการตายหนึ่งคนก่ออันตรายน้อยกว่าการตายห้าคน คำตอบแบบหน้าที่นิยมอาจบอกว่าไม่ควรดึง เพราะการจงใจเปลี่ยนอันตรายไปหาผู้บริสุทธิ์ข้ามเส้นทางศีลธรรม แนวทางอื่นมุ่งที่ลักษณะนิสัย ความรับผิดชอบ ความยินยอม หรือกฎสาธารณะ คุณค่าของปัญหารถรางคือมันเผยเหตุผลเบื้องหลังคำตอบ

คนที่มีลักษณะทางจิตเภทตอบสนองต่อปัญหารถรางอย่างไร?

งานวิจัยเกี่ยวกับลักษณะทางจิตเภทบางครั้งพบแนวโน้มที่แรงขึ้นต่อคำตอบแบบอรรถประโยชน์นิยมในภาวะศีลธรรมที่เกี่ยวกับการสละชีวิต โดยเฉพาะเมื่อภารกิจวัดความเต็มใจที่จะรับรองอันตรายแบบใช้เป็นเครื่องมือ นั่นไม่ได้หมายความว่าคำตอบเดียวต่อปัญหารถรางจะระบุว่าใครเป็นโรคจิต งานศึกษาภาวะศีลธรรมตรวจสอบรูปแบบ ลักษณะ และการออกแบบภารกิจ ไม่ควรใช้เป็นฉลากส่วนบุคคล

ใครเป็นผู้ตั้งปัญหารถรางเป็นคนแรก?

ปัญหารถรางสมัยใหม่มักได้รับเครดิตมากที่สุดแก่ Philippa Foot ผู้อภิปรายกรณีรถรางที่ควบคุมไม่ได้ในปี 1967 ขณะวิเคราะห์หลักคำสอนผลสองทาง ต่อมา Judith Jarvis Thomson พัฒนารูปแบบที่มีอิทธิพล รวมถึงกรณีสะพานลอย และช่วยทำให้ปัญหารถรางกลายเป็นหัวข้อสำคัญในปรัชญาศีลธรรม

กฎหมายพูดอย่างไรเกี่ยวกับปัญหารถราง?

กฎหมายไม่ได้ให้คำตอบง่าย ๆ เพียงคำตอบเดียวต่อปัญหารถราง ระบบกฎหมายมักแยกความแตกต่างระหว่างการกระทำและการละเว้น เจตนาและการคาดการณ์ ความจำเป็นและความรับผิด และกฎหมายอาญากับกฎความประมาท ในกรณีจริง ข้อเท็จจริงและเขตอำนาจศาลมีความสำคัญ สำหรับยานพาหนะอัตโนมัติ การอภิปรายทางกฎหมายมักมุ่งน้อยกว่าที่ตัวเลือกคันโยกเดียว และมุ่งมากกว่าที่มาตรฐานความปลอดภัย ความรับผิด กฎระเบียบ และว่าระบบลดความเสี่ยงเมื่อเทียบกับการขับของมนุษย์หรือไม่

ปัญหารถรางมีประโยชน์ต่อจริยธรรมรถยนต์ไร้คนขับหรือไม่?

มันมีประโยชน์ในฐานะเครื่องมือสอนและวิธีแนะนำจริยธรรมเครื่องจักร แต่มีข้อจำกัด ความปลอดภัยจริงของยานพาหนะอัตโนมัติขึ้นอยู่กับการป้องกันสถานการณ์อันตราย การกำหนดความรับผิดชอบ การทดสอบระบบ การปฏิบัติตามกฎจราจร และการลดความเสี่ยงที่คาดการณ์ได้ กรอบจริยธรรมรถยนต์ไร้คนขับไม่ควรถูกสร้างขึ้นเฉพาะรอบสถานการณ์สละชีวิตในวินาทีสุดท้ายที่พบได้ยาก

ปัญหารถรางแบบไร้สาระคืออะไร?

ปัญหารถรางแบบไร้สาระคือรูปแบบที่เกินจริงหรือขี้เล่นของภาวะคลาสสิก อาจเพิ่มตัวละครแปลก ๆ จำนวนที่เป็นไปไม่ได้ เครื่องจักรสมมติ หรือจุดหักมุมตลก มันอาจสนุกและเผยบางสิ่งได้ แต่ควรปฏิบัติด้วยความระมัดระวัง ยิ่งฉากไร้สาระมากเท่าไร มันยิ่งบอกเราเกี่ยวกับจริยธรรม กฎหมาย หรือวิศวกรรมในโลกจริงได้น้อยลงเท่านั้น