В следующем году исполняется 50 лет одному из самых известных в мире «мысленных экспериментов». Возможно, ему не хватает поп-культурного удара « знаменитого кота Шредингера », но он все еще выделяется как абсолютный зингер — он называется « Проблема с тележкой».
Филлип Фут впервые набросал эту идею в 1967 году, и это был философский вопрос, призванный исследовать мягкое недоумение вашей этики. С тех пор появилось много тонких изменений, но основной сценарий выглядит так:
- Представьте, что сбежавший троллейбус (или поезд) движется по дорожке к группе из пяти рабочих. Вы не можете их предупредить, и они наверняка умрут без какого-либо вмешательства.
- Вы можете управлять рычагом переключателя, который может перевести тележку в боковое положение, мгновенно спасая наших пяти рабочих. Тем не менее, есть еще один человек, стоящий на этой боковой дорожке, который теперь не будет иметь возможности избежать «смерти смертельной тележки».
Что бы вы сделали?
- Ничего не делай, стань свидетелем пяти смертей, но не неси прямой ответственности за гибель людей.
- Или принять меры, спасти пять жизней, но лично привести к смерти другого человека.
Это сложная проблема, и нет простого или однозначного правильного ответа. Моя дочь хотела кричать на них всех, чтобы двигаться, но это не вариант.
Для чего это стоит, большинство людей предпочитают жертвовать одним человеком. Большее благо.
Тем не менее, наиболее распространенный вариант представляет нового человека, и его довольно беспристрастно называют сценарием «Толстяк». В этой истории вы можете выбрать, как спасти рабочих, как бы неприятно это ни звучало, — толкать довольно великодушного человека перед приближающейся тележкой.
Неудивительно, что большинство людей в ужасе от этой идеи. Независимо от достоинства, убийство невинного человека, толкнув его перед поездом, является чудовищем ?!
Конечно, в строго математическом смысле единственное различие между двумя рассказами выше — это метод, которым вы выбираете отправку несчастного человека. Рычаги, конечно, намного чище, чем своевременный локоть. Имеет ли значение метод или все дело в результате?
Если у вас возникли проблемы с пониманием этой идеи, Гарри Ширер — известный из Симпсона и Spinal Tap — сделал отличное видео для BBC Radio 4 в 2014 году, которое блестяще объясняет проблему.
К счастью, эксперименты с мыслью безвредны, верно?
Конечно, это всего лишь теория. Мозговые игры. Озорная беседа в пабе или, в худшем случае, шанс для любителей философии похвастаться на званых обедах.
Не совсем.
Гугл самостоятельно водит машину.
Как мы все знаем, большинство крупнейших автомобильных компаний мира инвестируют в технологии без водителя. Мы знаем, что эти системы уже безопаснее, чем средний водитель. В отличие от нас, автомобили-роботы созданы для сканирования окружающего трафика тысячи раз в секунду и мгновенно приспосабливаются к изменениям.
Но они не могут все предсказать. Шины выходят из строя катастрофически. Деревья падают непредсказуемо. Водители страдают от судорог. Время от времени автомобили без водителя собираются в своих собственных сценариях «Trolley Car». И, по- видимому, разработчики программного обеспечения в настоящее время пишут алгоритмы принятия решений для их решения. Установите «0», и мы идем прямо — установите «1», и мы поворачиваемся .
Это поднимает некоторые тяжелые моральные вопросы.
- Если бы вы заплатили за машину, ожидаете ли вы, что она будет отдавать приоритет вашей безопасности перед другими?
- Это чисто игра чисел «спасти большинство людей»?
- Должен ли возраст людей иметь значение? Возможно, дети получают предпочтение?
- Должен ли автомобиль учитывать предполагаемый вес тела потенциальных жертв аварии?
- Должны ли престижные автомобили принимать разные решения для экономичных автомобилей?
- Разгонится ли машина Дональда Трампа? (JK)
Есть ли у разработчиков программного обеспечения даже такие сложные этические вопросы? Это, конечно, не часть большинства курсов информатики. Возможно, Google, Volvo и Ford должны нанимать больше философов и специалистов по этике.
В настоящее время на планете насчитывается всего несколько сотен автомобилей с автоматическим управлением, и эти вопросы все еще близки к «мысленному эксперименту».
Но через 10 лет миллионы самоходных автомобилей могут принимать решения о жизни или смерти каждый день. Вещи собираются стать «реальными» — быстро.
Желаю вам жить в интересные времена.