Giải thích bài toán xe điện: đạo đức, AI và xe tự lái

Bài toán xe điện là một trong những thí nghiệm tư duy đạo đức nổi tiếng nhất vì nó biến một câu hỏi đạo đức rất lớn thành một cảnh tượng mà gần như ai cũng có thể hình dung. Một chiếc xe điện mất kiểm soát đang lao về phía năm người. Bạn có thể kéo cần gạt và đổi hướng nó, nhưng làm vậy sẽ đưa nó về phía một người khác. Bạn có nên hành động không? Câu hỏi nghe có vẻ đơn giản, nhưng lập luận phía sau mỗi câu trả lời có thể cho thấy con người cân nhắc tổn hại, bổn phận, ý định, trách nhiệm và sự bất định như thế nào. Nếu bạn muốn so sánh tình thế này với các ưu tiên đạo đức của chính mình, một công cụ tự khám phá đạo đức có thể cho bạn một cách suy ngẫm có cấu trúc mà không coi bất kỳ câu trả lời đơn lẻ nào là phán quyết cuối cùng.

Bài toán xe điện là gì?

Ở dạng kinh điển, bài toán xe điện hỏi liệu có chấp nhận được về mặt đạo đức khi đổi hướng một chiếc xe điện mất kiểm soát để một người chết thay vì năm người hay không. Phiên bản chuẩn thường gắn với cuộc thảo luận năm 1967 của triết gia Philippa Foot về học thuyết tác động kép, dù các trường hợp giống xe điện đã tồn tại trước khi tên gọi hiện đại trở nên phổ biến.

Điểm chính không chỉ là "năm nhiều hơn một". Tình thế này hỏi liệu cách tổn hại xảy ra có quan trọng hay không. Để tổn hại tiếp diễn có khác với chủ động đổi hướng nó không? Cứu nhiều người hơn có biện minh cho việc gây ra cái chết của một người không? Câu trả lời có thay đổi nếu người bạn sẽ làm hại là người lạ, người thân yêu, người làm sai, hoặc người vốn chưa từng gặp nguy hiểm cho đến khi bạn can thiệp không?

Đó là lý do bài toán xe điện vẫn hữu ích. Nó nén nhiều khuôn khổ đạo đức vào một lựa chọn sống động. Câu trả lời theo chủ nghĩa vị lợi thường tập trung vào kết quả: ít người chết hơn. Câu trả lời theo nghĩa vụ luận thường tập trung vào bổn phận và giới hạn: không cố ý gây hại cho người vô tội. Câu trả lời theo đạo đức đức hạnh có thể hỏi một người khôn ngoan, can đảm hoặc công bằng sẽ làm gì khi mọi lựa chọn đều xấu.

Vì sao bài toán xe điện không có một lời giải sạch duy nhất

Nhiều người tìm kiếm lời giải cho bài toán xe điện, nhưng câu trả lời tốt hơn là bài toán xe điện không được xây dựng như một bài toán toán học. Nó là một phép thử áp lực đối với lập luận. "Lời giải" phụ thuộc vào nguyên tắc đạo đức nào bạn nghĩ nên dẫn dắt khi các nguyên tắc va chạm với nhau.

Nếu bạn ưu tiên hậu quả, kéo cần gạt có thể trông đúng vì nó giảm số người chết. Nếu bạn ưu tiên một quy tắc chống lại tổn hại có chủ ý, kéo cần gạt có thể trông sai vì bạn biến cái chết của một người thành một phần trong hành động của mình. Nếu bạn tập trung vào trách nhiệm, bạn có thể hỏi liệu không làm gì có phải cũng là một lựa chọn hay không. Nếu bạn tập trung vào công bằng, bạn có thể hỏi vì sao bất kỳ người nào lại nên bị chọn làm người trả giá.

Đây cũng là lý do các ví dụ về bài toán xe điện có thể gây khó chịu. Những chi tiết nhỏ của câu chuyện làm thay đổi câu trả lời. Kéo công tắc thường có cảm giác khác với đẩy một người. Đổi hướng xe điện về phía một công nhân thường có cảm giác khác với nhắm vào ai đó vì tuổi tác, địa vị xã hội, sức khỏe hoặc bản dạng của họ. Vấn đề cho thấy phán đoán đạo đức của chúng ta nhạy với ý định, khoảng cách, sự đồng thuận, bản dạng và khác biệt giữa tổn hại được dự báo trước với tổn hại được cố ý gây ra.

Các biến thể và lập luận phổ biến của bài toán xe điện

Bài toán xe điện cơ bản chỉ là phiên bản đầu tiên. Các triết gia và giáo viên thường dùng những biến thể để kiểm tra xem nguyên tắc của một người có đứng vững khi cảnh thay đổi hay không.

Trong trường hợp công tắc, bạn đổi hướng xe điện từ năm người sang một người. Trong trường hợp cầu đi bộ, cách duy nhất để dừng xe điện là đẩy một người từ trên cầu xuống. Trong các trường hợp vòng lặp, xe điện có thể quay lại đường ray ban đầu trừ khi người duy nhất kia chặn nó lại. Trong các bài toán xe điện phi lý, cảnh trở nên cố ý kỳ lạ: con người có thể bị thay bằng thú cưng, phản diện, robot, bản sao của chính bạn hoặc các tình huống văn hóa đại chúng không thể xảy ra. Những phiên bản ngớ ngẩn này vẫn có thể tiết lộ trực giác nghiêm túc, nhưng chúng thường phù hợp với thảo luận hơn là chính sách.

Các lập luận chính của bài toán xe điện thường rơi vào một vài nhóm. Lập luận vị lợi nói bạn nên chọn hành động tạo ra ít tổn hại tổng thể nhất. Lập luận nghĩa vụ luận nói một số hành động vẫn sai ngay cả khi chúng cải thiện con số cuối cùng. Học thuyết tác động kép nói có thể có khác biệt đạo đức giữa tổn hại được dự báo như tác dụng phụ và tổn hại được chủ ý dùng như phương tiện. Một lập luận tập trung vào nhân cách hỏi quyết định đó tiết lộ điều gì về lòng can đảm, lòng trắc ẩn, sự khiêm nhường và sự tôn trọng con người.

Không khuôn khổ nào trong số này là lối tắt hoàn hảo. Mỗi khuôn khổ làm nổi bật điều gì đó có thật và bỏ lỡ điều gì đó khác. Vì vậy bài toán xe điện hoạt động tốt nhất như điểm khởi đầu của cuộc trò chuyện, không phải như cỗ máy in ra câu trả lời đúng.

Bài toán xe điện tiết lộ gì về la bàn đạo đức của bạn

Bài toán xe điện có thể hữu ích cho suy ngẫm cá nhân vì nó làm hiện rõ các ưu tiên ẩn. Một số người nhận thấy họ nhanh chóng đếm số mạng sống. Những người khác nhận thấy họ rụt lại trước tổn hại trực tiếp. Một số cảm thấy từ chối lựa chọn tự thân đã là một thất bại đạo đức. Những người khác cảm thấy các tình thế bắt buộc lựa chọn là không công bằng vì chúng xóa đi các mối quan hệ, lịch sử và trách nhiệm thường định hình những quyết định đạo đức thật.

Một cách hữu ích để dùng câu hỏi này là hỏi câu trả lời của bạn đang bảo vệ điều gì. Bạn đang bảo vệ số đông nhất? Phẩm giá của từng cá nhân? Một ranh giới chống lại việc dùng một người như công cụ? Sự từ chối của chính bạn trước việc trở thành nguyên nhân gây hại? Hay một quy tắc công cộng có thể được người khác áp dụng công bằng?

Đây là nơi bài toán xe điện kết nối tự nhiên với tự hiểu biết đạo đức. Một câu trả lời đơn lẻ không định nghĩa tính cách của bạn, nhưng một mẫu hình các câu trả lời có thể giúp bạn khám phá la bàn đạo đức của mình chính xác hơn. Bạn có thể thấy mình nghiêng về lập luận dựa trên kết quả trong các kịch bản xa xôi, nhưng nghiêng về lập luận dựa trên bổn phận khi hành động trở nên cá nhân. Bạn cũng có thể thấy câu trả lời của mình thay đổi khi những người liên quan trở nên bớt trừu tượng.

Bài toán xe điện và xe AI

Sự quan tâm tìm kiếm quanh bài toán xe điện thường tăng vọt vì xe tự lái. Câu hỏi phổ biến là liệu một chiếc xe tự lái có nên hy sinh hành khách để cứu người đi bộ, hay bảo vệ hành khách bằng mọi giá. Điều đó nghe giống bài toán xe điện kinh điển, được cập nhật bằng cảm biến, phần mềm và đường sá.

Mối liên hệ là có thật, nhưng rất dễ phóng đại. Thí nghiệm Moral Machine cho thấy hàng triệu người ở nhiều quốc gia có các sở thích khác nhau về cách xe tự hành nên hành xử trong những kịch bản tai nạn không thể tránh. Nghiên cứu đó làm hiện rõ chiều kích công cộng của đạo đức máy móc: mọi người không đồng ý hoàn toàn về việc thế nào là một quyết định "được xã hội chấp nhận".

Đồng thời, nhiều kỹ sư và nhà đạo đức học cho rằng cách đóng khung xe điện kinh điển quá hẹp đối với an toàn giao thông thực tế. Các hệ thống tự lái không được thiết kế để chờ đến khi một câu đố đạo đức bất khả thi xuất hiện ở giây cuối cùng. Mục tiêu an toàn của chúng là giảm rủi ro sớm hơn thông qua cảm nhận, dự đoán, phanh, lập kế hoạch thận trọng, giới hạn vận hành, luật đường bộ, kiểm thử và giám sát quy định. Những câu hỏi quan trọng nhất về đạo đức xe tự lái có thể ít kịch tính hơn "ai nên chết?" và thực tế hơn: Rủi ro nào có thể dự báo? Ai chịu trách nhiệm? Hệ thống nên minh bạch đến mức nào? Xe nên hành xử ra sao quanh người đi bộ, người đi xe đạp và tài xế con người? Bằng chứng nào là đủ trước khi triển khai?

Cách suy nghĩ về một câu hỏi bài toán xe điện

Khi gặp một câu hỏi bài toán xe điện, đừng vội tỏ ra thông minh. Lập luận chậm mới là điểm chính. Hãy thử quy trình suy ngẫm bốn bước này.

Thứ nhất, gọi tên hành động. Bạn đang để một nguy hiểm hiện có tiếp diễn, đổi hướng nó, trực tiếp gây hại cho ai đó hay tạo ra rủi ro mới? Thứ hai, gọi tên giá trị đạo đức bạn đang ưu tiên. Đó có thể là giảm số người chết, tôn trọng từng người, tránh tổn hại có chủ ý, bảo vệ niềm tin công cộng hoặc chấp nhận trách nhiệm đối với hành động và không hành động. Thứ ba, kiểm tra tính nhất quán của câu trả lời. Bạn có trả lời như vậy nếu con người thay đổi không? Nếu bạn là một trong họ? Nếu một tổ chức công dùng quy tắc của bạn? Thứ tư, chú ý sự khó chịu của bạn. Sự khó chịu không phải thất bại. Nó là thông tin về các giá trị đang cạnh tranh.

Với lớp học, nhóm làm việc và thảo luận đạo đức AI, tách lựa chọn khỏi lời giải thích là điều hữu ích. Hai người có thể cùng kéo cần gạt vì những lý do khác nhau. Hai người có thể cùng từ chối vì những lý do khác nhau. Cuộc thảo luận phong phú hơn không chỉ là họ chọn gì, mà là vì sao lựa chọn đó có vẻ được cho phép, được đòi hỏi hoặc bị cấm về mặt đạo đức.

Bài toán xe điện có thể và không thể cho bạn biết điều gì

Bài toán xe điện có thể giúp bạn nhận ra mình lập luận thế nào dưới áp lực đạo đức. Nó có thể làm rõ vì sao các lập luận vị lợi, nghĩa vụ luận và dựa trên đức hạnh kéo theo những hướng khác nhau. Nó có thể làm cho đạo đức AI dễ thảo luận hơn vì cung cấp một ví dụ chung trước khi chuyển sang những câu hỏi khó hơn về thiết kế, luật, thiên lệch, trách nhiệm giải trình và niềm tin công cộng.

Nhưng nó không thể cho bạn biết bạn là người tốt hay xấu. Nó không thể giải quyết tất cả câu hỏi pháp lý. Nó không thể thay thế phân tích an toàn trong thế giới thực cho xe tự lái. Nó cũng không thể nắm bắt toàn bộ kết cấu của đời sống đạo đức thường ngày, nơi con người có quan hệ, lịch sử, nghĩa vụ, thông tin hạn chế và thời gian để ngăn hại trước khi một cuộc khủng hoảng trở thành lựa chọn nhị phân.

Hãy dùng bài toán xe điện như một tấm gương, không phải một bản án. Nếu nó khiến bạn tò mò về các giá trị rộng hơn của mình, suy ngẫm đạo đức có cấu trúc có thể giúp bạn so sánh một tình thế kịch tính với những mẫu hình bình thường hơn trong quá trình ra quyết định của bạn.

FAQ

Có câu trả lời cho bài toán xe điện không?

Không có một câu trả lời duy nhất được chấp nhận phổ quát. Một câu trả lời vị lợi thường nói nên kéo cần gạt vì một cái chết ít gây hại hơn năm cái chết. Một câu trả lời nghĩa vụ luận có thể nói không nên kéo vì cố ý chuyển tổn hại về phía một người vô tội vượt qua ranh giới đạo đức. Các cách tiếp cận khác tập trung vào nhân cách, trách nhiệm, sự đồng thuận hoặc quy tắc công cộng. Giá trị của bài toán xe điện là nó phơi bày lập luận phía sau câu trả lời.

Người có đặc điểm thái nhân cách phản ứng thế nào với bài toán xe điện?

Nghiên cứu về các đặc điểm thái nhân cách đôi khi tìm thấy xu hướng mạnh hơn đối với phản ứng vị lợi trong các tình thế đạo đức có tính hy sinh, đặc biệt khi nhiệm vụ đo mức sẵn sàng ủng hộ tổn hại mang tính công cụ. Điều đó không có nghĩa một câu trả lời đơn lẻ cho bài toán xe điện có thể xác định ai đó là người thái nhân cách. Các nghiên cứu tình thế đạo đức xem xét mẫu hình, đặc điểm và thiết kế nhiệm vụ; chúng không nên được dùng như nhãn cá nhân.

Ai là người đầu tiên nêu bài toán xe điện?

Bài toán xe điện hiện đại thường được ghi nhận cho Philippa Foot, người đã thảo luận trường hợp xe điện mất kiểm soát năm 1967 khi phân tích học thuyết tác động kép. Judith Jarvis Thomson sau đó phát triển các biến thể có ảnh hưởng, bao gồm trường hợp cầu đi bộ, và giúp biến bài toán xe điện thành một chủ đề lớn trong triết học đạo đức.

Luật nói gì về bài toán xe điện?

Luật không đưa ra một câu trả lời đơn giản cho bài toán xe điện. Các hệ thống pháp lý thường phân biệt giữa hành động và không hành động, ý định và dự báo, tình thế cần thiết và trách nhiệm, luật hình sự và quy tắc sơ suất. Trong các vụ việc thật, sự kiện và thẩm quyền tài phán đều quan trọng. Với xe tự hành, thảo luận pháp lý thường ít tập trung vào một lựa chọn cần gạt đơn lẻ và tập trung nhiều hơn vào tiêu chuẩn an toàn, trách nhiệm giải trình, quy định và liệu hệ thống có giảm rủi ro so với lái xe của con người hay không.

Bài toán xe điện có hữu ích cho đạo đức xe tự lái không?

Nó hữu ích như công cụ giảng dạy và cách giới thiệu đạo đức máy móc, nhưng có giới hạn. An toàn xe tự hành thực sự phụ thuộc vào việc ngăn tình huống nguy hiểm, định nghĩa trách nhiệm, kiểm thử hệ thống, tuân thủ luật giao thông và giảm rủi ro có thể dự báo. Một khuôn khổ đạo đức xe tự lái không nên chỉ được xây quanh các kịch bản hy sinh hiếm gặp ở giây cuối cùng.

Bài toán xe điện phi lý là gì?

Bài toán xe điện phi lý là các biến thể phóng đại hoặc vui đùa của tình thế kinh điển. Chúng có thể thêm nhân vật kỳ lạ, con số không thể có, máy móc hư cấu hoặc bước ngoặt hài hước. Chúng có thể vui và có tính tiết lộ, nhưng cần được xử lý cẩn thận. Bối cảnh càng phi lý, nó càng ít có thể nói với chúng ta về đạo đức, luật hoặc kỹ thuật trong thế giới thực.