Объяснение проблемы вагонетки: этика, ИИ и беспилотные автомобили

Проблема вагонетки - один из самых известных этических мысленных экспериментов, потому что она превращает огромный моральный вопрос в сцену, которую почти каждый может представить. Неуправляемая вагонетка мчится к пяти людям. Вы можете потянуть рычаг и перевести ее на другой путь, но тогда она направится к одному человеку. Следует ли вам действовать? Вопрос звучит просто, но рассуждение за каждой ответной позицией может показать, как люди взвешивают вред, долг, намерение, ответственность и неопределенность. Если вы хотите сравнить эту дилемму со своими собственными моральными приоритетами, инструмент этического самопознания может дать вам структурированный способ размышлять, не превращая один ответ в окончательный приговор.

Что такое проблема вагонетки?

В классической форме проблема вагонетки спрашивает, морально ли допустимо перенаправить неуправляемую вагонетку так, чтобы погиб один человек вместо пяти. Стандартную версию обычно связывают с обсуждением философом Philippa Foot в 1967 году доктрины двойного эффекта, хотя похожие на вагонетку случаи существовали еще до того, как современное название стало популярным.

Смысл не только в том, что "пять больше одного". Дилемма спрашивает, имеет ли значение способ, которым происходит вред. Отличается ли позволение вреду продолжаться от активного перенаправления этого вреда? Оправдывает ли спасение большего числа людей причинение одной смерти? Меняется ли ответ, если человек, которому вы навредите, является незнакомцем, любимым человеком, виновником или тем, кто вообще не был в опасности до вашего вмешательства?

Именно поэтому проблема вагонетки остается полезной. Она сжимает несколько моральных рамок в один яркий выбор. Утилитарный ответ обычно сосредоточен на результате: меньше смертей. Деонтологический ответ обычно сосредоточен на долгах и пределах: не причинять намеренный вред невиновному. Ответ с точки зрения этики добродетели может спросить, что сделал бы мудрый, смелый или справедливый человек, когда все варианты плохи.

Почему у проблемы вагонетки нет одного чистого решения

Многие ищут решение проблемы вагонетки, но лучший ответ состоит в том, что проблема вагонетки устроена не как математическая задача. Это проверка рассуждения под давлением. "Решение" зависит от того, какой моральный принцип, по вашему мнению, должен вести, когда принципы сталкиваются.

Если вы отдаете приоритет последствиям, потянуть рычаг может казаться правильным, потому что это минимизирует число смертей. Если вы отдаете приоритет правилу против намеренного вреда, потянуть рычаг может казаться неправильным, потому что вы делаете смерть одного человека частью своего действия. Если вы сосредоточены на ответственности, вы можете спросить, является ли бездействие тоже выбором. Если вы сосредоточены на справедливости, вы можете спросить, почему какой-либо человек должен быть выбран как тот, кто платит цену.

Поэтому примеры проблемы вагонетки могут вызывать раздражение. Небольшие детали истории меняют ответ. Переключить рычаг обычно ощущается иначе, чем столкнуть человека. Перенаправить вагонетку на одного работника обычно ощущается иначе, чем выбрать кого-то целью из-за возраста, социального положения, здоровья или идентичности. Проблема показывает, что наши моральные суждения чувствительны к намерению, близости, согласию, идентичности и различию между предвиденным вредом и намеренным вредом.

Распространенные варианты и аргументы проблемы вагонетки

Базовая проблема вагонетки - это только первая версия. Философы и преподаватели часто используют варианты, чтобы проверить, сохраняется ли принцип человека, когда сцена меняется.

В случае с переключателем вы перенаправляете вагонетку с пяти людей на одного. В случае с мостом единственный способ остановить вагонетку - столкнуть человека с моста. В случаях с петлей вагонетка может вернуться на исходный путь, если тот один человек ее не остановит. В абсурдных проблемах вагонетки сцена намеренно становится странной: людей могут заменить домашние животные, злодеи, роботы, копии вас самих или невозможные ситуации из поп-культуры. Эти забавные версии все еще могут выявлять серьезные интуиции, но обычно они лучше подходят для обсуждения, чем для политики.

Основные аргументы проблемы вагонетки обычно делятся на несколько групп. Утилитарный аргумент говорит, что следует выбрать действие, которое производит наименьший общий вред. Деонтологический аргумент говорит, что некоторые действия остаются неправильными, даже когда они улучшают итоговый счет. Доктрина двойного эффекта говорит, что может существовать моральная разница между вредом, который предвидится как побочный эффект, и вредом, который намеренно используется как средство. Аргумент, сосредоточенный на характере, спрашивает, что решение раскрывает о смелости, сострадании, смирении и уважении к людям.

Ни одна из этих рамок не является идеальным кратчайшим путем. Каждая подчеркивает что-то реальное и упускает что-то другое. Поэтому проблема вагонетки лучше всего работает как начало разговора, а не как машина, печатающая правильный ответ.

Что проблема вагонетки раскрывает о вашем моральном компасе

Проблема вагонетки может быть полезна для личного размышления, потому что она делает скрытые приоритеты видимыми. Одни люди замечают, что быстро начинают считать жизни. Другие замечают, что отшатываются от прямого вреда. Некоторые чувствуют, что отказ выбирать сам по себе является моральной неудачей. Другие чувствуют, что дилеммы принудительного выбора несправедливы, потому что они стирают отношения, истории и обязанности, которые обычно формируют реальные этические решения.

Полезный способ использовать вопрос - спросить, что защищает ваш ответ. Защищаете ли вы наибольшее число людей? Достоинство каждого человека? Границу против использования человека как инструмента? Собственный отказ становиться причиной вреда? Публичное правило, которое другие могли бы справедливо применять?

Именно здесь проблема вагонетки естественно соединяется с моральным самопознанием. Один ответ не определяет ваш характер, но схема ответов может помочь вам исследовать свой моральный компас точнее. Вы можете обнаружить, что в отдаленных сценариях склоняетесь к рассуждению по последствиям, а когда действие становится личным - к рассуждению по долгу. Вы также можете обнаружить, что ваш ответ меняется, когда вовлеченные люди становятся менее абстрактными.

Проблема вагонетки и автомобили с ИИ

Интерес к проблеме вагонетки в поиске часто растет из-за беспилотных автомобилей. Популярный вопрос звучит так: должен ли автономный автомобиль пожертвовать пассажиром, чтобы спасти пешеходов, или защищать пассажира любой ценой. Это похоже на классическую проблему вагонетки, обновленную сенсорами, программным обеспечением и дорогами.

Связь реальна, но ее легко преувеличить. Эксперимент Moral Machine показал, что миллионы людей во многих странах имеют разные предпочтения относительно того, как автономные транспортные средства должны вести себя в неизбежных аварийных сценариях. Это исследование сделало видимым общественное измерение машинной этики: люди не все согласны с тем, каким должно быть "социально приемлемое" решение.

В то же время многие инженеры и специалисты по этике утверждают, что классическая рамка вагонетки слишком узка для реальной безопасности дорожного движения. Беспилотные системы не должны ждать, пока в последнюю секунду появится невозможная моральная загадка. Их цель безопасности - снизить риск раньше за счет восприятия, прогнозирования, торможения, осторожного планирования, эксплуатационных ограничений, правил дорожного движения, тестирования и регуляторного надзора. Самые важные вопросы этики автономных автомобилей могут быть менее драматичными, чем "кто должен умереть?", и более практичными: какие риски предсказуемы? Кто отвечает? Насколько прозрачными должны быть системы? Как транспортные средства должны вести себя рядом с пешеходами, велосипедистами и водителями-людьми? Каких доказательств достаточно перед внедрением?

Как обдумывать вопрос проблемы вагонетки

Когда вы сталкиваетесь с вопросом проблемы вагонетки, не спешите звучать умно. Медленное рассуждение и есть смысл. Попробуйте этот четырехшаговый процесс размышления.

Во-первых, назовите действие. Вы позволяете существующей опасности продолжаться, перенаправляете ее, напрямую вредите кому-то или создаете новый риск? Во-вторых, назовите моральную ценность, которой вы отдаете приоритет. Это может быть минимизация смертей, уважение к каждому человеку, избегание намеренного вреда, защита общественного доверия или принятие ответственности за действие и бездействие. В-третьих, проверьте последовательность своего ответа. Дали бы вы тот же ответ, если бы люди изменились? Если бы вы были одним из них? Если бы публичное учреждение использовало ваше правило? В-четвертых, замечайте свой дискомфорт. Дискомфорт - не провал. Это информация о ценностях, которые конкурируют.

Для аудиторий, команд и обсуждений этики ИИ полезно отделять выбор от объяснения. Два человека могут оба потянуть рычаг по разным причинам. Два человека могут оба отказаться по разным причинам. Более богатое обсуждение - не только о том, что они выбирают, но и о том, почему этот выбор кажется морально допустимым, обязательным или запретным.

Что проблема вагонетки может и не может вам сказать

Проблема вагонетки может помочь вам заметить, как вы рассуждаете под моральным давлением. Она может прояснить, почему утилитарные, деонтологические и добродетельные аргументы тянут в разные стороны. Она может облегчить обсуждение этики ИИ, потому что дает людям общий пример перед переходом к более трудным вопросам о проектировании, законе, предвзятости, ответственности и общественном доверии.

Но она не может сказать вам, хороший вы человек или плохой. Она не может решить все юридические вопросы. Она не может заменить реальный анализ безопасности для беспилотных автомобилей. Она также не может уловить всю текстуру обычной моральной жизни, где у людей есть отношения, истории, обязанности, ограниченная информация и время предотвратить вред до того, как кризис станет бинарным.

Используйте проблему вагонетки как зеркало, а не как приговор. Если она оставляет вас с любопытством к вашим более широким ценностям, структурированная этическая рефлексия может помочь сравнить одну драматическую дилемму с более обычными закономерностями вашего принятия решений.

FAQ

Есть ли ответ на проблему вагонетки?

Не существует одного универсально принятого ответа. Утилитарный ответ часто говорит, что нужно потянуть рычаг, потому что одна смерть менее вредна, чем пять. Деонтологический ответ может сказать, что не нужно тянуть его, потому что намеренное перенаправление вреда на невиновного человека пересекает моральную границу. Другие подходы сосредоточены на характере, ответственности, согласии или публичных правилах. Ценность проблемы вагонетки в том, что она раскрывает рассуждение за ответом.

Как люди с психопатическими чертами отвечают на проблему вагонетки?

Исследования психопатических черт иногда обнаруживали более сильную склонность к утилитарным ответам в жертвенных моральных дилеммах, особенно когда задание измеряет готовность одобрить инструментальный вред. Это не означает, что один ответ на проблему вагонетки идентифицирует кого-то как психопата. Исследования моральных дилемм изучают модели, черты и дизайн заданий; их не следует использовать как личные ярлыки.

Кто впервые сформулировал проблему вагонетки?

Современную проблему вагонетки чаще всего приписывают Philippa Foot, которая обсуждала случай неуправляемой вагонетки в 1967 году, анализируя доктрину двойного эффекта. Judith Jarvis Thomson позднее разработала влиятельные варианты, включая случай с мостом, и помогла сделать проблему вагонетки важной темой моральной философии.

Что говорит закон о проблеме вагонетки?

Закон не дает одного простого ответа на проблему вагонетки. Правовые системы часто различают действие и бездействие, намерение и предвидение, необходимость и ответственность, уголовное право и правила небрежности. В реальных делах имеют значение факты и юрисдикции. Для автономных транспортных средств юридическая дискуссия обычно меньше сосредоточена на единственном выборе рычага и больше - на стандартах безопасности, подотчетности, регулировании и том, снижают ли системы риск по сравнению с человеческим вождением.

Полезна ли проблема вагонетки для этики беспилотных автомобилей?

Она полезна как учебный инструмент и способ ввести машинную этику, но ограничена. Реальная безопасность автономных транспортных средств зависит от предотвращения опасных ситуаций, определения ответственности, тестирования систем, соблюдения правил движения и снижения предсказуемого риска. Этическая рамка для беспилотных автомобилей не должна строиться только вокруг редких сценариев жертвы в последнюю секунду.

Что такое абсурдные проблемы вагонетки?

Абсурдные проблемы вагонетки - это преувеличенные или игровые варианты классической дилеммы. Они могут добавлять странных персонажей, невозможные числа, вымышленные машины или комические повороты. Они могут быть забавными и показательными, но с ними следует обращаться осторожно. Чем абсурднее становится установка, тем меньше она может рассказать нам об этике, праве или инженерии реального мира.