{"id":2175,"url":"\/distributions\/2175\/click?bit=1&hash=803b6e1bcbd9dfc4ba9456fda887a878c80d24df8d3a575913b14876e18923a5","title":"TJ \u0437\u0430\u043a\u0440\u043e\u0435\u0442\u0441\u044f 10 \u0441\u0435\u043d\u0442\u044f\u0431\u0440\u044f \u2014\u00a0\u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0439\u0442\u0435 \u0430\u043d\u043e\u043d\u0441 \u0441 \u0434\u0435\u0442\u0430\u043b\u044f\u043c\u0438","buttonText":"\u0427\u0438\u0442\u0430\u0442\u044c","imageUuid":"d1d355d8-93a3-5140-aeae-14b03046b760","isPaidAndBannersEnabled":false}

Ох уж этот выбор

Всем привет. Очень хотелось бы узнать мнение читателей TJ по одному очень баянистому вопросу.

Итак, введение для слабых, поэтому сразу к сути. Представьте, что вы водитель трамвая, несущегося со скоростью 100км/ч. Вдруг далеко на рельсах вы замечаете пятерых рабочих. Вы пытаетесь остановиться, но не можете: тормоза не работают. Вы в полном отчаянии, потому что знаете, что если врежетесь в этих рабочих, то все они погибнут. Предположим, что вы знаете это наверняка. Итак, вы не знаете, что делать, но вдруг замечаете, что справа есть боковая ветка и на конце этой ветки находится только один рабочий. Руль трамвая исправен, и при желании вы можете повернуть на эту боковую ветку, тем самым, убить одного, но спасти жизнь пятерым. И вот вопрос: как правильно поступить?

Что ты сделаешь?
Сверну и убью одного.
Поеду прямо и убью пятерых.
Показать результаты
Переголосовать
Проголосовать

Думаю, ответ большинства будет очевидным. Идем дальше. В этот раз вы не водитель трамвая, а простой прохожий, который наблюдает следующую ситуацию. Вы стоите на мосту и видите, что по рельсам несется трамвай, впереди чинят пути пять рабочих. Тормоза не работают, и трамвай вот-вот врежется в людей. Итак, вы уже не водитель, вы совершенно не знаете, что делать, как вдруг замечаете, что рядом с вами стоит, прислонившись к перилам моста, очень толстый человек. И вы могли бы его немного подтолкнуть. Он упал бы с моста прямо на рельсы, на пути трамвая. Он бы погиб, но при этом спас бы пять жизней.

Итак, что будем делать?
Толкаем толстяка, таким образом спасаем пятерых, но убиваем его.
Смотрим на фарш из пятерых.
Показать результаты
Переголосовать
Проголосовать

Тут уже не все так однозначно. Что же случилось с принципом, который работал в первом вопросе? Но да ладно, идем дальше. Представим другой случай. Теперь вы врач в отделении экстренной помощи. И к вам поступает шесть пациентов. Они попали в ужасную аварию с трамваем. Пять из них еще держатся, но один уже при смерти. Вы можете потратить весь день, пытаясь спасти одного, но тогда остальные пятеро умрут. Или вы могли бы попытаться спасти тех пятерых, но за это время умрет тот, кто тяжело ранен.

Итак, что будем делать теперь?
Спасем одного, но пятеро умрут.
Спасем пятерых, но один умрет.
Показать результаты
Переголосовать
Проголосовать

Думаю, результат этого голосования тоже очевиден для всех. Лучше спасти пять жизней, но при этом один умрет. Окей. Идем дальше, следующий врачебный случай. На этот раз вы хирург. И к вам в больницу попало пять пациентов, каждому из которых срочно требуется пересадка органа, иначе они умрут. Одному нужно сердце, другому - легкое, третьему - почка, четвертому - печень, а пятому - поджелудочная железа. Но у вас нет доноров. Еще совсем немного и пациенты умрут. Но вдруг оказывается, что в соседней палате, сидит здоровый парень, который пришел на прием к врачу. И он ненадолго задремал. Вы могли бы очень тихо войти и извлечь пять его органов. Этот человек умрет, но вы сможете спасти пятерых.

Сделаем это?
Да(убьем бедолагу, но спасем пятерых).
Нет(пусть они умрут).
Показать результаты
Переголосовать
Проголосовать

Для особо умных. Я знаю, что есть более рациональные варианты. Тут фишка в том, что нужно было выбрать именно из этих двух вариантов. Итак, хоть в начале я сказал, что вступления не будет, это было оно.

Тот самый вопрос и его вариация

Вы разработчик автопилота автомобиля, вам нужно запрограммировать его на определенную ситуацию(определенный выбор): едет машина на автопилоте, то самое будущее, где ты сам не можешь управлять автомобилем. Итак, мы едем на скорости 100 км/ч, двухполосная дорога, по сторонам отбойники, впереди поворот, вдруг за поворотом вы замечаете бетонные блоки на своей полосе, а на соседней полосе дорогу переходит ребенок. Если вы врежетесь в блоки, то вы умрете. Если вы собьете ребенка, то умрет он. Для особо умных, подушки безопасности не спасут водителя или пешехода. Уточню, дети просто переходят дорогу, пешеходного перехода там нет, а вы ехали согласно скоростному режиму.

Итак, что же должен сделать автопилот?
Спасти вашу жизнь, но сбить ребенка.
Убить вас, но спасти ребенка.
Показать результаты
Переголосовать
Проголосовать

Теперь все также, как и в прошлом случае, но на этот раз ребенок не один, а их пятеро.

Что автопилот делает теперь?
Убивает вас, но спасает детей.
Убивает детей, но спасает вас.
Показать результаты
Переголосовать
Проголосовать

Вот и все.

Введение было подготовлено при помощи лекции от HarvardX "Justice" на портале edX. Это не реклама, а информация для тех, кто захочет меня обвинить в каком-то плагиате или чем-то подобном.

0
50 комментариев
Написать комментарий...
Здешний американец

Дык а в чём суть введения-то? В той же лекции хотя бы вывод делают: человеку проще сделать выбор между двумя возможными жертвами (которые являются участниками ситуации), чем пожертвовать сторонним человеком.

Ну и мнение по последним двум вопросам: автопилот должен соблюдать правила. Сбитые не на пешеходном переходе дети — результат их тупости.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Трудящийся пёс_анон

Как видим из статистики, количество детей не изменяет их тупость и вину. Убить себя и спасти детей – поощрить такое же поведение и привести к еще большим смертям в будущем. Цинично, но нет смысла променивать жизнь одного человека, соблюдающего правила, на жизнь n людей, которые правила нарушают и считают, что им ничего не будет и можно подставлять как себя, так и других.

Ответить
Развернуть ветку
Вечный рубин

Все проще: в случае суицида у компании разработчика будет убыток продаж или банкротство, т к никто не захочет покупать автомобиль, который может тебя убить. Выгоднее давить случайных прохожих.

Ответить
Развернуть ветку
Вечный рубин

В других случаях: за преднамеренное убийство - 100% уголовка и тюрьма, а за бездействие - не факт.

Ответить
Развернуть ветку
Трудящийся пёс_анон

Смотри, другой пример. Фирма «ООО Ядерные Реакторы 2007» производит АИ для АЭС. И в ней предусмотрен сценарий если что-то пошло не так и вот-вот рванет.

Как ты думаешь, компанию засудят/обанкротят быстрее, если АИ будет уничтожать АЭС, убивая сотрудников, но не убивая людей, которые живут поблизости, или если АИ будет уничтожать всё живое вокруг, но спасать сотрудников?

Ответить
Развернуть ветку
Разный химик

Комментарий недоступен

Ответить
Развернуть ветку
Трудящийся пёс_анон

Я нигде не писал, что нужно жертвовать водителем, если пешеход нарушает правила. Я говорю, что в ситуации, когда выбор идет между пешеходом, переходящим дорогу ПО ПРАВИЛАМ, и водителем. В таком случае, я считаю, выбор должен быть сделан в пользу пешеходов.

Ответить
Развернуть ветку
Вечный рубин

Исходя из ТЗ Заказчика какая цель АИ. В 99% случаях - это дать максимальное время людям для эвакуации, следовательно вариант с убийством сотрудников. К тому же глупый пример, т к при взрыве АЭС сотрудники все равно умрут.

Ответить
Развернуть ветку
Трудящийся пёс_анон

Предположим, что это не взрыв, а некоторый «выпуск энергии», оставляя саму АЭС защищенной. Но суть не в этом – рабочие на АЭС в целом ничем не отличаются от водителя автомобиля.

Ответить
Развернуть ветку
Вечный рубин

Нет, в случае с машиной Заказчик - водитель и мы действуем в его интересах. В случае АЭС Заказчик - госструктура и в ее интересах снизить общее количество жертв среди всего населения, а не только сотрудников АЭС.

Ответить
Развернуть ветку
Трудящийся пёс_анон

В случае покупки машины человек сам берет на себя обязанность убедиться в безопасности пешеходов и в состоянии своего автомобиля. ТО/обсуживание. Выезжая на дорогу, водитель обязуется соблюдать правила и в случае проблем избежать жертв среди пешеходов, так как те явно не относятся никоем образом к его покупке и точно не должны платить за ошибку компании/клиента.

При любых условиях, автомобиль – средство, которое стоит по приоритету ниже пешехода, который действует в рамках правил. Потому что, как минимум, его масса в несколько сотен раз больше и вреда он может нанести сильно больше.

Ответить
Развернуть ветку
Вечный рубин

Сначала ты пишешь

n людей, которые правила нарушают и считают, что им ничего не будет и можно подставлять как себя, так и других

а потом вдруг переобулся

пешехода, который действует в рамках правил.
Ответить
Развернуть ветку
Трудящийся пёс_анон

В каком месте я переобулся? У тебя точно с чтением всё в порядке?

правила нарушают
действует в рамках правил
Ответить
Развернуть ветку
Вечный рубин

Сначала ты пишешь, что виноваты пешеходы, а потом, что они делают все правильно.

Ответить
Развернуть ветку
Трудящийся пёс_анон

Что? Цитаты, пж.

Если пешеход прыгнул под автомобиль – виноват пешеход. Если автомобиль выехал на переход, когда у людей зеленый, а у него красный – виноват водитель/автомобиль.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Необыкновенный бинокль

Комментарий недоступен

Ответить
Развернуть ветку
Вечный рубин

Я про толкание невинного человека под трамвай и разбор на органы.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Трудящийся пёс_анон

Если автопилот будет убивать не 1, а 5 человек за каждый сбой, то компания обанкротиться еще быстрее.

Ответить
Развернуть ветку
Вечный рубин

Какой сбой? Речь в тексте про алгоритм, который пишет разработчик.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Разный химик

Комментарий недоступен

Ответить
Развернуть ветку
Испанский американец

нелепая подтасовка,
мы выбираем между стечением обстоятельств и решением намеренного убийства
шляпа

Ответить
Развернуть ветку
Подобный пистолет

специально поставил непопулярные ответы, чтобы заставить автора сомневаться.
Жаль нет варианта "убить всех"

Ответить
Развернуть ветку
Изящный мангал

Бендер, ты?

Ответить
Развернуть ветку
Подобный пистолет

я, Флексо

Ответить
Развернуть ветку
Длинный ГОСТ

Не существует жизненных ситуаций, где всего 2 варианта выбора, есть лишь недостаток смекалки. Теоремы Эскобара в стиле "а что бы ты сделал с миллионом долларов" это умышленное упрощение жизненных решений.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Трудящийся пёс_анон

Здесь не удастся получить ответ, давая всего два развития событий. Иначе можно задать такой вопрос – "Перед вами 10 человек собирается прыгнуть с небоскреба и умереть, но они согласны спустится и жить дальше, если вы застрелите случайного прохожего». Согласись, тут выбор будет сильно очевиднее и понятнее, почему жизнь случайного прохожего стоит больше.

Ответить
Развернуть ветку
Московский мангал

Ложная дилемма. Жизнь сложнее. Не люблю такие опросы: не мне решать, кому жить или умирать.

Ответить
Развернуть ветку
Питерский Валера

http://moralmachine.mit.edu/hl/ru тут получше и статистика есть.

Ответить
Развернуть ветку
Удобный микрофон

Комментарий недоступен

Ответить
Развернуть ветку
Питерский Валера

Если есть желание- можно самому расставить приоритеты, заполнить анкетку и отправить данные.

Ответить
Развернуть ветку
Трудящийся пёс_анон

Не самый корректный тест, на самом деле. Неправильно поставленные вопросы и выводы, а-ля «спасти спортсменку или толстую». Типа, не важно, это вообще учитываться не должно. Те, кто нарушает – сами виноваты.

А то по результатам я вышел каким-то сексистом, который ненавидит детей и животных. Еще и водителей автомобилей. Потому что считаю, что если отказали тормоза – неповезло тем, кто сидит в машине, а не кто переходит дорогу.

Ответить
Развернуть ветку
Питерский Валера

Так в этом и смысл. Собирают статистику. Для тебя важнее правила, для кого-то лишний вес/положение/возраст и тд

Ответить
Развернуть ветку
Трудящийся пёс_анон

Ну так в любом случае такая статистика не особо важна и полезна. Всего лишь покажет то, кто как ценит жизни/каких стериотипов/взглядов придерживается. Для создания правил робоавтомобилей такие исследования довольно бесполезны, имхо.

Ответить
Развернуть ветку
Питерский Валера

ну вот на переходе 2 человека, оба идут по правилам, первый полный, второй спортивный. Кого сбивать?

Ответить
Развернуть ветку
Трудящийся пёс_анон

Прикидывать, где меньше живых людей и сбивать ту группу. Если же одинаково – тут уже надо думать. Наверное тех, кто только начал движение и не убедился в безопасности такого движения. В теории нежелательно, чтобы машина меня курс и виляла по дороге.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Трудящийся пёс_анон

Ну так а я, очевидно, говорю про тест, который скинул Марат, нет?

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Трудящийся пёс_анон

Там вроде не было такого, что машина нарушает. Есть техническая неисправность – но да, в таком случае платит клиент. Он неубедился в работоспособности/не был на условном ТО/прочее.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Парижский Валера

на все вопросы отвечала как большинство, а на последних двух почему-то убила себя

Ответить
Развернуть ветку
Изящный мангал

С технической точки зрения все ситуации просто абсурдны.

Руль у трамвая это вообще пять.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Изящный мангал

Там совсем не так всё) стрелка переводится на нужный путь в зависимости от того есть напряжение на определенном участке или нет.
Если уж ты выбежал переводить стрелки вручную, то будь добр, оставь в среднем положении: трамвай сойдёт с рельс и мгновенно остановится.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Изящный мангал

Неужели никогда не возникало желание разобраться что и как работает? Сходить в профильные музеи, получить образование, загуглить в конце концов?

Ведь тогда и жизнь станет проще. И сколько нелепых ситуаций можно избежать благодаря этим знаниям.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Саратовский вентилятор

Комментарий недоступен

Ответить
Развернуть ветку
Ровный алмаз

а где варик высунуться в окно и заорать благим матом бибикать итд

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Бумажный корабль

Судя по аватарке автора, ожидал увидеть опрос на лучшую вайфу из Steins;Gate
PS Рука в линии, где мать Руки в период беременности ела много капусты.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Бумажный корабль

Мне не нравится челка Кристины

Ну зато конфетно-букеточный будет топ, плюс такую малышку интереснее развращать. Хотя, наверное, в долгосрочной перспективе бойкая Курису лучше вариант.

Ответить
Развернуть ветку
Уникальный турник

Но как же Маюши...

P. S. Рука тоже ня.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Уникальный турник

Убедил. Гаремчик несомненно лучше.

Ответить
Развернуть ветку
Добрый клуб

Иди нахуй с такими опросами)
Кроме фарша ни на один не заставил себя ответить.

Ответить
Развернуть ветку
Животный завод

Комментарий недоступен

Ответить
Развернуть ветку
Слышный браслет

http://moralmachine.mit.edu/

Игра на тему «моральный выбор автопилота».
Вроде как можно и свои сценарии аварий создавать.

Ответить
Развернуть ветку
Читать все 50 комментариев
null