Masalah troli dijelaskan: etika, AI dan kereta pandu sendiri

Masalah troli ialah salah satu eksperimen pemikiran etika yang paling terkenal kerana ia menukar persoalan moral yang besar kepada satu babak yang hampir semua orang boleh bayangkan. Sebuah troli yang hilang kawalan sedang menuju ke arah lima orang. Anda boleh menarik tuil dan mengalihkannya, tetapi tindakan itu menghantarnya ke arah seorang individu. Patutkah anda bertindak? Soalan ini kedengaran mudah, tetapi penaakulan di sebalik setiap jawapan boleh mendedahkan cara orang menimbang bahaya, kewajipan, niat, tanggungjawab dan ketidakpastian. Jika anda mahu membandingkan dilema ini dengan keutamaan moral anda sendiri, satu alat penemuan kendiri etika boleh memberi anda cara berstruktur untuk merenung tanpa menganggap mana-mana satu jawapan sebagai keputusan akhir.

Apakah masalah troli?

Dalam bentuk klasiknya, masalah troli bertanya sama ada secara moral boleh diterima untuk mengalihkan sebuah troli yang hilang kawalan supaya seorang individu mati dan bukannya lima orang. Versi standard biasanya dikaitkan dengan perbincangan ahli falsafah Philippa Foot pada tahun 1967 tentang doktrin kesan berganda, walaupun kes seperti troli telah wujud sebelum nama moden itu menjadi popular.

Pokoknya bukan sekadar "lima lebih daripada satu". Dilema ini bertanya sama ada cara bahaya berlaku itu penting. Adakah membiarkan bahaya berterusan berbeza daripada mengalihkannya secara aktif? Adakah menyelamatkan lebih ramai orang membenarkan menyebabkan satu kematian? Adakah jawapannya berubah jika orang yang akan anda cederakan ialah orang asing, orang tersayang, pelaku salah, atau seseorang yang tidak pernah berada dalam bahaya sehingga anda campur tangan?

Itulah sebabnya masalah troli kekal berguna. Ia memampatkan beberapa kerangka moral ke dalam satu pilihan yang jelas. Jawapan utilitarian cenderung menumpukan pada hasil: lebih sedikit kematian. Jawapan deontologi cenderung menumpukan pada kewajipan dan had: jangan sengaja menyebabkan bahaya kepada orang tidak bersalah. Jawapan etika kebajikan mungkin bertanya apa yang akan dilakukan oleh orang yang bijaksana, berani atau adil apabila semua pilihan buruk.

Mengapa masalah troli tiada satu penyelesaian yang bersih

Ramai orang mencari penyelesaian masalah troli, tetapi jawapan yang lebih baik ialah masalah troli tidak dibina seperti masalah matematik. Ia ialah ujian tekanan untuk penaakulan. "Penyelesaian" bergantung pada prinsip moral mana yang anda fikir patut memimpin apabila prinsip bertembung.

Jika anda mengutamakan akibat, menarik tuil boleh kelihatan betul kerana ia meminimumkan kematian. Jika anda mengutamakan peraturan menentang bahaya disengajakan, menarik tuil boleh kelihatan salah kerana anda menjadikan kematian seorang individu sebahagian daripada tindakan anda. Jika anda menumpukan pada tanggungjawab, anda mungkin bertanya sama ada tidak melakukan apa-apa juga satu pilihan. Jika anda menumpukan pada keadilan, anda mungkin bertanya mengapa mana-mana orang harus dipilih sebagai orang yang membayar kosnya.

Inilah juga sebab contoh masalah troli boleh terasa mengecewakan. Butiran kecil cerita mengubah jawapan. Menarik suis biasanya terasa berbeza daripada menolak seseorang. Mengalihkan troli ke arah seorang pekerja biasanya terasa berbeza daripada menyasarkan seseorang kerana umur, status sosial, kesihatan atau identiti mereka. Masalah ini menunjukkan bahawa pertimbangan moral kita sensitif terhadap niat, kedekatan, persetujuan, identiti dan perbezaan antara bahaya yang dijangka dengan bahaya yang diniatkan.

Variasi dan hujah biasa masalah troli

Masalah troli asas hanyalah versi pertama. Ahli falsafah dan guru sering menggunakan variasi untuk menguji sama ada prinsip seseorang bertahan apabila babak berubah.

Dalam kes suis, anda mengalihkan troli daripada lima orang kepada seorang. Dalam kes jejantas, satu-satunya cara untuk menghentikan troli ialah menolak seseorang dari jambatan. Dalam kes gelung, troli mungkin kembali ke landasan asal melainkan orang yang seorang itu menghentikannya. Dalam masalah troli absurd, babak menjadi sengaja pelik: orang mungkin digantikan dengan haiwan peliharaan, penjahat, robot, salinan diri anda, atau situasi budaya pop yang mustahil. Versi lucu ini masih boleh mendedahkan intuisi serius, tetapi biasanya lebih sesuai untuk perbincangan daripada dasar.

Hujah utama masalah troli biasanya jatuh dalam beberapa keluarga. Hujah utilitarian mengatakan anda patut memilih tindakan yang menghasilkan bahaya keseluruhan paling sedikit. Hujah deontologi mengatakan sesetengah tindakan tetap salah walaupun ia memperbaiki kiraan akhir. Doktrin kesan berganda mengatakan mungkin ada perbezaan moral antara bahaya yang dijangka sebagai kesan sampingan dengan bahaya yang diniatkan sebagai cara. Hujah yang berfokus pada watak bertanya apa yang didedahkan oleh keputusan itu tentang keberanian, belas kasihan, kerendahan hati dan rasa hormat kepada manusia.

Tiada satu pun kerangka ini jalan pintas yang sempurna. Setiap satu menonjolkan sesuatu yang nyata dan terlepas sesuatu yang lain. Sebab itu masalah troli paling baik berfungsi sebagai pembuka perbualan, bukan mesin yang mencetak jawapan betul.

Apa yang masalah troli dedahkan tentang kompas moral anda

Masalah troli boleh berguna untuk renungan peribadi kerana ia menjadikan keutamaan tersembunyi kelihatan. Sesetengah orang sedar bahawa mereka cepat mengira nyawa. Yang lain sedar bahawa mereka mengundur daripada bahaya langsung. Ada yang merasakan enggan memilih itu sendiri kegagalan moral. Yang lain merasakan dilema pilihan paksa tidak adil kerana ia memadamkan hubungan, sejarah dan tanggungjawab yang biasanya membentuk keputusan etika sebenar.

Satu cara berguna untuk menggunakan soalan ini ialah bertanya apa yang dilindungi oleh jawapan anda. Adakah anda melindungi bilangan orang paling ramai? Maruah setiap individu? Batas terhadap menggunakan seseorang sebagai alat? Penolakan anda sendiri untuk menjadi punca bahaya? Peraturan awam yang boleh diterapkan dengan adil oleh orang lain?

Di sinilah masalah troli berhubung secara semula jadi dengan pengetahuan kendiri moral. Satu jawapan tidak menentukan watak anda, tetapi pola jawapan boleh membantu anda meneroka kompas moral anda dengan lebih tepat. Anda mungkin mendapati bahawa anda cenderung kepada penaakulan berasaskan hasil dalam senario jauh, tetapi kepada penaakulan berasaskan kewajipan apabila tindakan menjadi peribadi. Anda juga mungkin mendapati jawapan anda berubah apabila orang yang terlibat menjadi kurang abstrak.

Masalah troli dan kereta AI

Minat carian sekitar masalah troli sering meningkat kerana kereta pandu sendiri. Soalan popular ialah sama ada kereta autonomi patut mengorbankan penumpang untuk menyelamatkan pejalan kaki, atau melindungi penumpang dengan apa jua kos. Itu kedengaran seperti masalah troli klasik yang dikemas kini dengan sensor, perisian dan jalan raya.

Hubungannya nyata, tetapi mudah dilebih-lebihkan. Eksperimen Moral Machine menunjukkan bahawa jutaan orang di banyak negara mempunyai keutamaan berbeza tentang bagaimana kenderaan autonomi patut bertindak dalam senario kemalangan yang tidak dapat dielakkan. Penyelidikan itu menjadikan dimensi awam etika mesin kelihatan: orang tidak semuanya bersetuju tentang apa yang sepatutnya menjadi keputusan "boleh diterima secara sosial".

Pada masa yang sama, ramai jurutera dan ahli etika berhujah bahawa rangka klasik troli terlalu sempit untuk keselamatan trafik sebenar. Sistem pandu sendiri tidak sepatutnya menunggu sehingga teka-teki moral mustahil muncul pada saat terakhir. Matlamat keselamatan mereka ialah mengurangkan risiko lebih awal melalui pengesanan, ramalan, membrek, perancangan konservatif, had operasi, peraturan jalan raya, ujian dan pengawasan kawal selia. Soalan etika kereta autonomi yang paling penting mungkin kurang dramatik daripada "siapa patut mati?" dan lebih praktikal: Risiko apa yang boleh dijangka? Siapa bertanggungjawab? Sejauh mana sistem patut telus? Bagaimana kenderaan patut berkelakuan di sekitar pejalan kaki, penunggang basikal dan pemandu manusia? Bukti apa yang mencukupi sebelum pelaksanaan?

Cara memikirkan soalan masalah troli

Apabila anda bertemu soalan masalah troli, jangan terburu-buru untuk kedengaran bijak. Penaakulan perlahan ialah tujuannya. Cuba proses renungan empat langkah ini.

Pertama, namakan tindakan. Adakah anda membenarkan bahaya sedia ada berterusan, mengalihkannya, mencederakan seseorang secara langsung, atau mencipta risiko baharu? Kedua, namakan nilai moral yang anda utamakan. Ia mungkin meminimumkan kematian, menghormati setiap orang, mengelakkan bahaya disengajakan, melindungi kepercayaan awam, atau menerima tanggungjawab untuk tindakan dan ketidakaktifan. Ketiga, uji konsistensi jawapan anda. Adakah anda akan memberi jawapan sama jika orang berubah? Jika anda salah seorang daripada mereka? Jika institusi awam menggunakan peraturan anda? Keempat, perhatikan ketidakselesaan anda. Ketidakselesaan bukan kegagalan. Ia maklumat tentang nilai yang sedang bersaing.

Untuk kelas, pasukan dan perbincangan etika AI, memisahkan pilihan daripada penjelasan membantu. Dua orang mungkin sama-sama menarik tuil atas sebab berbeza. Dua orang mungkin sama-sama menolak atas sebab berbeza. Perbincangan yang lebih kaya bukan sekadar apa yang mereka pilih, tetapi mengapa pilihan itu terasa dibenarkan, diwajibkan atau dilarang secara moral.

Apa yang masalah troli boleh dan tidak boleh beritahu anda

Masalah troli boleh membantu anda menyedari cara anda menaakul di bawah tekanan moral. Ia boleh menjelaskan mengapa hujah utilitarian, deontologi dan berasaskan kebajikan menarik ke arah berbeza. Ia boleh memudahkan perbincangan etika AI kerana ia memberi orang contoh bersama sebelum bergerak ke soalan lebih sukar tentang reka bentuk, undang-undang, bias, akauntabiliti dan kepercayaan awam.

Tetapi ia tidak boleh memberitahu sama ada anda orang baik atau buruk. Ia tidak boleh menyelesaikan semua soalan undang-undang. Ia tidak boleh menggantikan analisis keselamatan dunia sebenar untuk kereta pandu sendiri. Ia juga tidak boleh menangkap keseluruhan tekstur kehidupan moral biasa, tempat orang mempunyai hubungan, sejarah, kewajipan, maklumat terhad dan masa untuk mencegah bahaya sebelum krisis menjadi binari.

Gunakan masalah troli sebagai cermin, bukan keputusan. Jika ia membuat anda ingin tahu tentang nilai yang lebih luas, renungan etika berstruktur boleh membantu anda membandingkan satu dilema dramatik dengan pola yang lebih biasa dalam pembuatan keputusan anda.

FAQ

Adakah masalah troli mempunyai jawapan?

Tiada satu jawapan yang diterima secara sejagat. Jawapan utilitarian sering mengatakan tarik tuil kerana satu kematian kurang berbahaya daripada lima. Jawapan deontologi mungkin mengatakan jangan tarik kerana mengalihkan bahaya secara sengaja ke arah orang tidak bersalah melintasi garis moral. Pendekatan lain menumpukan pada watak, tanggungjawab, persetujuan atau peraturan awam. Nilai masalah troli ialah ia mendedahkan penaakulan di sebalik jawapan.

Bagaimana orang dengan ciri psikopatik bertindak balas terhadap masalah troli?

Penyelidikan tentang ciri psikopatik kadangkala mendapati kecenderungan lebih kuat kepada respons utilitarian dalam dilema moral pengorbanan, khususnya apabila tugasan mengukur kesediaan menyokong bahaya instrumental. Itu tidak bermakna satu jawapan troli mengenal pasti seseorang sebagai psikopat. Kajian dilema moral meneliti pola, ciri dan reka bentuk tugasan; ia tidak patut digunakan sebagai label peribadi.

Siapa yang mula-mula mengemukakan masalah troli?

Masalah troli moden paling kerap dikreditkan kepada Philippa Foot, yang membincangkan kes troli hilang kawalan pada tahun 1967 ketika menganalisis doktrin kesan berganda. Judith Jarvis Thomson kemudian membangunkan variasi berpengaruh, termasuk kes jejantas, dan membantu menjadikan masalah troli subjek utama dalam falsafah moral.

Apa kata undang-undang tentang masalah troli?

Undang-undang tidak memberi satu jawapan mudah kepada masalah troli. Sistem undang-undang sering membezakan antara tindakan dan peninggalan, niat dan jangkaan, keperluan dan liabiliti, serta undang-undang jenayah dan peraturan kecuaian. Dalam kes sebenar, fakta dan bidang kuasa penting. Untuk kenderaan autonomi, perbincangan undang-undang biasanya kurang menumpukan pada satu pilihan tuil dan lebih kepada standard keselamatan, akauntabiliti, peraturan dan sama ada sistem mengurangkan risiko berbanding pemanduan manusia.

Adakah masalah troli berguna untuk etika kereta pandu sendiri?

Ia berguna sebagai alat pengajaran dan cara memperkenalkan etika mesin, tetapi terhad. Keselamatan kenderaan autonomi sebenar bergantung pada mencegah situasi berbahaya, mentakrifkan tanggungjawab, menguji sistem, mengikuti peraturan trafik dan mengurangkan risiko yang boleh dijangka. Kerangka etika kereta pandu sendiri tidak patut dibina hanya sekitar senario pengorbanan saat akhir yang jarang berlaku.

Apakah masalah troli absurd?

Masalah troli absurd ialah variasi yang dibesar-besarkan atau bermain-main daripada dilema klasik. Ia mungkin menambah watak pelik, nombor mustahil, mesin fiksyen atau kelainan komedi. Ia boleh menyeronokkan dan mendedahkan sesuatu, tetapi harus dilayan dengan berhati-hati. Semakin absurd tetapan itu, semakin kurang ia boleh memberitahu kita tentang etika, undang-undang atau kejuruteraan dunia sebenar.