Le problème du tramway expliqué : éthique, IA et voitures autonomes

Le problème du tramway est l'une des expériences de pensée éthiques les plus célèbres, car il transforme une grande question morale en une scène que presque tout le monde peut imaginer. Un tramway hors de contrôle se dirige vers cinq personnes. Vous pouvez tirer un levier et le détourner, mais cela l'envoie vers une personne à la place. Faut-il agir ? La question paraît simple, mais le raisonnement derrière chaque réponse peut révéler la façon dont les personnes pondèrent le tort, le devoir, l'intention, la responsabilité et l'incertitude. Si vous voulez comparer ce dilemme avec vos propres priorités morales, un outil d'exploration éthique de soi peut vous offrir une manière structurée de réfléchir sans traiter une réponse unique comme un verdict final.

Qu'est-ce que le problème du tramway ?

Dans sa forme classique, le problème du tramway demande s'il est moralement acceptable de rediriger un tramway hors de contrôle afin qu'une personne meure au lieu de cinq. La version standard est généralement liée à la discussion menée en 1967 par la philosophe Philippa Foot sur la doctrine du double effet, même si des cas ressemblant au tramway existaient avant que le nom moderne ne devienne populaire.

L'enjeu n'est pas seulement que "cinq, c'est plus qu'un". Le dilemme demande si la manière dont le tort se produit compte. Est-ce différent de laisser un tort continuer et de le rediriger activement ? Sauver davantage de personnes justifie-t-il de causer une mort ? La réponse change-t-elle si la personne que vous blesseriez est un inconnu, un proche, un fautif ou quelqu'un qui n'était pas en danger jusqu'à votre intervention ?

C'est pourquoi le problème du tramway reste utile. Il comprime plusieurs cadres moraux dans un choix frappant. Une réponse utilitariste tend à se concentrer sur le résultat : moins de morts. Une réponse déontologique tend à se concentrer sur les devoirs et les limites : ne pas causer intentionnellement un tort innocent. Une réponse inspirée de l'éthique des vertus pourrait demander ce que ferait une personne sage, courageuse ou juste quand toutes les options sont mauvaises.

Pourquoi le problème du tramway n'a pas de solution unique et nette

Beaucoup de gens cherchent une solution au problème du tramway, mais la meilleure réponse est que le problème du tramway n'est pas construit comme un problème de mathématiques. C'est un test de résistance du raisonnement. La "solution" dépend du principe moral qui, selon vous, doit guider lorsque les principes entrent en collision.

Si vous donnez la priorité aux conséquences, tirer le levier peut sembler juste parce que cela minimise les morts. Si vous donnez la priorité à une règle contre le tort intentionnel, tirer le levier peut sembler mauvais parce que vous faites de la mort d'une personne une partie de votre action. Si vous vous concentrez sur la responsabilité, vous pouvez demander si ne rien faire est aussi un choix. Si vous vous concentrez sur l'équité, vous pouvez demander pourquoi une personne devrait être choisie pour payer le prix.

C'est aussi pourquoi les exemples du problème du tramway peuvent être frustrants. De petits détails dans l'histoire changent la réponse. Actionner un aiguillage semble généralement différent de pousser une personne. Rediriger un tramway vers un travailleur semble généralement différent de viser quelqu'un à cause de son âge, de son statut social, de sa santé ou de son identité. Le problème montre que nos jugements moraux sont sensibles à l'intention, à la proximité, au consentement, à l'identité et à la différence entre le tort prévu et le tort intentionnel.

Variantes et arguments courants du problème du tramway

Le problème de base du tramway n'est que la première version. Les philosophes et les enseignants utilisent souvent des variantes pour vérifier si le principe d'une personne tient lorsque la scène change.

Dans le cas de l'aiguillage, vous redirigez le tramway de cinq personnes vers une seule. Dans le cas de la passerelle, la seule façon d'arrêter le tramway est de pousser une personne depuis un pont. Dans les cas de boucle, le tramway peut revenir sur la voie d'origine à moins que la personne seule ne l'arrête. Dans les problèmes absurdes du tramway, la scène devient volontairement étrange : les personnes peuvent être remplacées par des animaux de compagnie, des méchants, des robots, des copies de vous-même ou des situations impossibles issues de la culture populaire. Ces versions fantaisistes peuvent encore révéler des intuitions sérieuses, mais elles conviennent généralement mieux à la discussion qu'à l'élaboration de politiques.

Les principaux arguments du problème du tramway se regroupent généralement en quelques familles. L'argument utilitariste dit qu'il faut choisir l'action qui produit le moins de tort global. L'argument déontologique dit que certaines actions restent mauvaises même lorsqu'elles améliorent le bilan final. La doctrine du double effet dit qu'il peut exister une différence morale entre un tort prévu comme effet secondaire et un tort voulu comme moyen. Un argument centré sur le caractère demande ce que la décision révèle du courage, de la compassion, de l'humilité et du respect des personnes.

Aucun de ces cadres n'est un raccourci parfait. Chacun met en lumière quelque chose de réel et manque autre chose. C'est pourquoi le problème du tramway fonctionne mieux comme point de départ d'une conversation, et non comme une machine qui imprime la bonne réponse.

Ce que le problème du tramway révèle de votre boussole morale

Le problème du tramway peut être utile pour la réflexion personnelle parce qu'il rend visibles des priorités cachées. Certaines personnes remarquent qu'elles comptent rapidement les vies. D'autres remarquent qu'elles reculent devant le tort direct. Certaines sentent que refuser de choisir est déjà un échec moral. D'autres estiment que les dilemmes à choix forcé sont injustes parce qu'ils effacent les relations, les histoires et les responsabilités qui façonnent habituellement les vraies décisions éthiques.

Une manière utile d'utiliser la question est de demander ce que votre réponse protège. Protégez-vous le plus grand nombre de personnes ? La dignité de chaque individu ? Une limite contre l'utilisation d'une personne comme outil ? Votre propre refus de devenir une cause de tort ? Une règle publique qui pourrait être appliquée équitablement par d'autres ?

C'est ici que le problème du tramway se relie naturellement à la connaissance morale de soi. Une seule réponse ne définit pas votre caractère, mais un motif de réponses peut vous aider à explorer votre boussole morale avec plus de précision. Vous pouvez découvrir que vous penchez vers un raisonnement fondé sur les résultats dans les scénarios lointains, mais vers un raisonnement fondé sur le devoir lorsque l'action devient personnelle. Vous pouvez aussi découvrir que votre réponse change lorsque les personnes impliquées deviennent moins abstraites.

Le problème du tramway et les voitures à IA

L'intérêt de recherche autour du problème du tramway augmente souvent à cause des voitures autonomes. La question populaire est de savoir si une voiture autonome devrait sacrifier un passager pour sauver des piétons, ou protéger le passager à tout prix. Cela ressemble au problème classique du tramway, mis à jour avec des capteurs, des logiciels et des routes.

Le lien est réel, mais il est facile de l'exagérer. L'expérience Moral Machine a montré que des millions de personnes dans de nombreux pays ont des préférences différentes quant au comportement que les véhicules autonomes devraient adopter dans des scénarios d'accident inévitable. Cette recherche a rendu visible la dimension publique de l'éthique des machines : les gens ne s'accordent pas tous sur ce que devrait être une décision "socialement acceptable".

En même temps, de nombreux ingénieurs et éthiciens soutiennent que le cadrage classique du tramway est trop étroit pour la sécurité routière réelle. Les systèmes autonomes ne sont pas censés attendre qu'une énigme morale impossible surgisse à la dernière seconde. Leur objectif de sécurité est de réduire le risque plus tôt grâce à la détection, la prédiction, le freinage, la planification prudente, les limites opérationnelles, les règles de la route, les tests et la supervision réglementaire. Les questions les plus importantes sur l'éthique des voitures autonomes sont peut-être moins dramatiques que "qui devrait mourir ?" et plus pratiques : quels risques sont prévisibles ? Qui est responsable ? À quel point les systèmes doivent-ils être transparents ? Comment les véhicules doivent-ils se comporter près des piétons, des cyclistes et des conducteurs humains ? Quelles preuves suffisent avant le déploiement ?

Comment réfléchir à une question du problème du tramway

Lorsque vous rencontrez une question du problème du tramway, ne vous précipitez pas pour paraître brillant. Le raisonnement lent est précisément l'objectif. Essayez ce processus de réflexion en quatre étapes.

D'abord, nommez l'action. Laissez-vous un danger existant continuer, le redirigez-vous, blessez-vous directement quelqu'un ou créez-vous un nouveau risque ? Ensuite, nommez la valeur morale que vous privilégiez. Il peut s'agir de minimiser les morts, de respecter chaque personne, d'éviter le tort intentionnel, de protéger la confiance publique ou d'accepter la responsabilité de l'action et de l'inaction. Troisièmement, testez la cohérence de votre réponse. Donneriez-vous la même réponse si les personnes changeaient ? Si vous étiez l'une d'elles ? Si une institution publique utilisait votre règle ? Quatrièmement, remarquez votre malaise. Le malaise n'est pas un échec. C'est une information sur les valeurs qui sont en concurrence.

Pour les classes, les équipes et les discussions sur l'éthique de l'IA, il est utile de séparer le choix de l'explication. Deux personnes peuvent toutes deux tirer le levier pour des raisons différentes. Deux personnes peuvent toutes deux refuser pour des raisons différentes. La discussion la plus riche ne porte pas seulement sur ce qu'elles choisissent, mais sur la raison pour laquelle ce choix semble moralement permis, requis ou interdit.

Ce que le problème du tramway peut et ne peut pas vous dire

Le problème du tramway peut vous aider à remarquer comment vous raisonnez sous pression morale. Il peut clarifier pourquoi les arguments utilitaristes, déontologiques et fondés sur les vertus tirent dans des directions différentes. Il peut faciliter la discussion sur l'éthique de l'IA parce qu'il donne aux gens un exemple commun avant de passer à des questions plus difficiles sur la conception, le droit, les biais, la responsabilité et la confiance publique.

Mais il ne peut pas vous dire si vous êtes une bonne ou une mauvaise personne. Il ne peut pas régler toutes les questions juridiques. Il ne peut pas remplacer l'analyse de sécurité réelle des voitures autonomes. Il ne peut pas non plus saisir toute la texture de la vie morale ordinaire, où les personnes ont des relations, des histoires, des obligations, des informations limitées et du temps pour prévenir le tort avant qu'une crise ne devienne binaire.

Utilisez le problème du tramway comme un miroir, pas comme un verdict. S'il vous rend curieux de vos valeurs plus larges, une réflexion éthique structurée peut vous aider à comparer un dilemme dramatique avec les motifs plus ordinaires de votre prise de décision.

FAQ

Existe-t-il une réponse au problème du tramway ?

Il n'existe pas de réponse unique universellement acceptée. Une réponse utilitariste dit souvent de tirer le levier parce qu'une mort cause moins de tort que cinq. Une réponse déontologique peut dire de ne pas le tirer parce que rediriger intentionnellement le tort vers une personne innocente franchit une limite morale. D'autres approches se concentrent sur le caractère, la responsabilité, le consentement ou les règles publiques. La valeur du problème du tramway est qu'il expose le raisonnement derrière la réponse.

Comment les personnes présentant des traits psychopathiques répondent-elles au problème du tramway ?

La recherche sur les traits psychopathiques a parfois trouvé une tendance plus forte aux réponses utilitaristes dans les dilemmes moraux sacrificiels, surtout lorsque la tâche mesure la volonté d'approuver un tort instrumental. Cela ne signifie pas qu'une seule réponse au problème du tramway identifie quelqu'un comme psychopathe. Les études sur les dilemmes moraux examinent des motifs, des traits et des conceptions de tâches ; elles ne doivent pas être utilisées comme étiquettes personnelles.

Qui a posé le premier le problème du tramway ?

Le problème moderne du tramway est le plus souvent attribué à Philippa Foot, qui a discuté le cas du tramway hors de contrôle en 1967 en analysant la doctrine du double effet. Judith Jarvis Thomson a ensuite développé des variantes influentes, dont le cas de la passerelle, et a contribué à faire du problème du tramway un sujet majeur de la philosophie morale.

Que dit le droit du problème du tramway ?

Le droit ne donne pas une réponse simple au problème du tramway. Les systèmes juridiques distinguent souvent action et omission, intention et prévision, nécessité et responsabilité, ainsi que droit pénal et règles de négligence. Dans les cas réels, les faits et les juridictions comptent. Pour les véhicules autonomes, la discussion juridique porte généralement moins sur un unique choix de levier que sur les normes de sécurité, la responsabilité, la réglementation et la question de savoir si les systèmes réduisent le risque par rapport à la conduite humaine.

Le problème du tramway est-il utile pour l'éthique des voitures autonomes ?

Il est utile comme outil pédagogique et comme façon d'introduire l'éthique des machines, mais il est limité. La sécurité réelle des véhicules autonomes dépend de la prévention des situations dangereuses, de la définition des responsabilités, des tests des systèmes, du respect des règles de circulation et de la réduction des risques prévisibles. Un cadre d'éthique pour les voitures autonomes ne devrait pas être construit uniquement autour de rares scénarios de sacrifice à la dernière seconde.

Que sont les problèmes absurdes du tramway ?

Les problèmes absurdes du tramway sont des variantes exagérées ou ludiques du dilemme classique. Ils peuvent ajouter des personnages étranges, des nombres impossibles, des machines fictives ou des rebondissements comiques. Ils peuvent être amusants et révélateurs, mais ils doivent être traités avec prudence. Plus la situation devient absurde, moins elle peut nous apprendre sur l'éthique, le droit ou l'ingénierie dans le monde réel.