taki_net: (gagarin)
taki_net ([personal profile] taki_net) wrote2016-03-05 12:51 am

Про лже-гарвардский тест Медузы

За наводку спасибо [livejournal.com profile] lenik_r

Прежде всего, вам надо решить, что вы делаете сперва - проходите сам тест или читаете мой пост (если еще не прошли, конечно). В первом случае, гарантирую, у вас останется горькое ощущение, что вами подтерлись, во-втором - червячок сомнения, не отманипулировал ли я вами. В общем, ниже под спойлером ссылка на тест, а потом, под следующим - мои рассуждения.


https://meduza.io/feature/2016/03/03/proverte-svoyu-nravstvennost




1. Всегда исходите из гипотезы, что всякий, кто обращается к вам сверху вниз - ваш враг, который хочет вас обмануть и что-то у вас отнять. "Начальство".

2. Относится ли это к интеллигентному оппозиционному порталу? В полной мере.

3. А это значит - ищите, "кому выгодно". Если же вас уверяют, что исследование ведется единственно в интересах истины или правды - тревожный сигнал должен звучать втройне громко.

Перейдем теперь к тесту Медузы, названному (без всяких оснований, просто чтобы солиднее было) "гарвардским" (на самом деле его разработал чувак, выгнанный из Гарварда за фальсификации науки). За двумя (скорее, полутора) не очень важными исключениями (вопрос о стоматологе и вопрос о вендетте дикарей), большинство вопросов представляют собой вариации вопроса
Вы стоите на железнодорожном мосту и видите, что по рельсам едет потерявшая управление вагонетка. Она вот-вот задавит пять рабочих, которые чинят пути в туннеле. Рядом с вами, свесившись через перила, стоит высокий полный человек. Вы понимаете, что единственный способ спасти рабочих — толкнуть полного человека на пути. Тогда он сам погибнет, но его тело затормозит вагонетку. Сами вы спрыгнуть на пути не можете, потому что вашего веса недостаточно, чтобы остановить вагонетку.
Вопрос: Можно ли столкнуть полного человека на рельсы?


Что главное в этом казусе, если смотреть на него с точки зрения "кому выгодно"? Ответ очевиден - никому. Описанной ситуации НЕ БЫВАЕТ. Во-первых, ее не бывает с вами: вероятность того, что вы, такой худой, будете стоять на мосту рядом с полным человеком... что ваши веса тела ровно таковы, как в задаче... что у рабочих нет способа уклониться... в общем, вы понимаете, что вероятность, что ЛИЧНО ВЫ попадете в такую ситуацию - того же порядка, как то, что ваша кошечка наберет, гуляя по клавиатуре, "Алису в стане чудес" без ошибок. Более того, хотя на земле миллиарды людей, даже после умножения на миллиард - все равно ноль. Нет сообщений, чтобы родственники полного человека подавали в суд на столкнувшего, нет - что родственники рабочих подавали на нестолкнувшего. А случись такое - писали бы СМИ всего мира.

Но среди вопросов есть один, аналогичный по нравственной дилемме, но ИСКЛЮЧИТЕЛЬНО ЖИЗНЕННЫЙ. Вот он:
Опасный террорист сообщил, что ему удалось заложить бомбу в самолет, находящийся сейчас в небе. Если его требования не будут выполнены, через час самолет взорвется. Вы ведете с этим террористом переговоры. То, что он просит, выполнить невозможно. И тут оказывается, что спецслужбы захватили семью террориста. Вы связываетесь с ним по скайпу и обещаете сломать его сыну пальцы, если он не обезвредит бомбу.
Вопрос: Можно ли сломать пальцы сыну террориста?


Ситуации, в которых спецслужбы берут в заложники родственников подозреваемых в терроризме - самые обычные, так происходит практически всегда. Судя не только по слухам, пытки этих людей (сломанные пальцы тут не самый жуткий пример) тоже случаются. Более того, в вашу жизни, читатель, которому не посчастливилось жить в странах с электоральной демократией, этот казус вторгается каждые 2-4 года - на очередных выборах, где вам нужно решать, поддержать ли политика, который обещает расширить полномочия спецслужб на такую практику или, наоборот, сузить.

Иными словами, ЭТОТ нравственный выбор встает перед КАЖДЫМ, и результаты его проверяются на жертвах этого выбора довольно часто.

Но вот незадача - если так прямо и спросить: "Готовы ли вы дать нашим доблестным спецслужбам, хорошо известным нравственностью своих сотрудников, их приверженностью идеалам гуманизма, открытости перед обществом, целям демократии, бескорыстием, дополнительные права пытать ЗАВЕДОМО НЕВИНОВНЫХ людей, особенно детей, стариков, беременных женщин" - ответ будет слишком предсказуем. Поэтому нас подводят шаг за шагом, начиная с совершенно искусственных (а потому неуязвимых) ситуаций, в которых, "логически говоря", ответ очевиден (как в вопросе о вулкане и мальчике - опять, кстати, мальчик и самолет, он чудесно воскреснет затем, чтобы ему сломали пальцы в другом "самолетном казусе"): ведь если летчик не задавит мальчика колесами шасси, он все равно погибнет, так что, ЛОГИЧЕСКИ говоря, выбор - убить одного или всех. И вот так, шаг за шагом, мальчики под шасси, толстяки на рельсах (а нефиг было обжираться, блюди фигуру), отравленные больные в реанимации - нас подводят к тому, чтобы на вопрос о полномочиях гестаповцев смотреть с такой же искусственной "логической" точки зрения. Отвлекаясь от Бога, солидарности трудящихся или светского гуманизма, с точки зрения рацио: КТО НАМ СКАЗАЛ, что пытка мальчика спасет пассажиров?

"Ну как, таковы условия задачи".

И все, вы попались. Вы не заметили, как от ЛОГИЧЕСКИХ ГОЛОВОЛОМОК, где принято доверять "условиям задачи", мы перешли к реальности. К вопросам власти и денег. К миру, в котором вранье власть имущих является нормой, а правда - исключением. Что если пытать ребенка, это поможет спасти пассажиров - мы знаем не из "условий задачи", а от конкретного гестаповца, на лице которого написан садизм, в сердце погром, а на руках - коррупция. Который, в принципе, профессионал, и прекрасно понимает, что шансы спасти пассажиров при таком подходе могут вырасти только в том редчайшем случае, когда террорист нежный, ранимый и чадолюбивый человек, и при этом сохранивший рациональное мышление (нерационально мыслящий в ответ на пытки своего ребенка может и выдернуть чеку досрочно, вообще-то). Ну, террористы через одного, а то и чаще, рационально мыслящие гуманисты, ага-ага.

Так вот, товарищ из гестапо - не самолет хочет спасти, а получить карт-бланш на пытки детей, жен и возлюбленных "врагов государства". Со временем, если повезет, можно будет распространить эту практику, например, на финансовых манипуляторов, пусть расскажут, в какой оффшор запрятали денежки. Можно будет вернуть украденное у народа в бюджет. Большую часть - в бюджет. Ну или солидную часть.

ДОМАШНЕЕ ЗАДАНИЕ. Проанализируйте самостоятельно пресловутый "случай тикающей бомбы".

ЗЫ. Да, да, я тут слово "гестапо" употреблял как синоним спецслужбы вообще, не только тоталитарных стран. "Вашингтонский обком" в этом смысле точно так же не защищен от упреков, более того, "гарвардский тест" нужен именно ему, так как Московский или Пхеньянский обкомы пытают кого хотят и никому ничего не объясняют. А Вашингтонскому приходится оболванивать избирателей.

ЗЗЫ. И да, именно этот факт все-таки делает это двумя видами зла - из которых одно строго меньшее.

ЗЗЗЫ. Но это не повод поддаваться оболваниванию.

[identity profile] jozhin.livejournal.com 2016-03-04 11:17 pm (UTC)(link)
Интересно, не знал.

[identity profile] seespirit.livejournal.com 2016-03-04 11:18 pm (UTC)(link)
Не знаю, кто такая Медуза, и причем здесь Гарвард, но Ваш пост меня заинтересовал, и я прошел этот тест. Там я не нашел ничего необычного: это все вариации одной стандартной дилеммы, которую изучают на курсах этики. Моей жене пришлось такой курс проходить, и она рассказывала про похожие вопросы.

Ну а меня результат теста воодушевил: "Вы склонны к компромиссам и не любите делать моральный выбор", 3.2 баллов :-)

[identity profile] taki-net.livejournal.com 2016-03-04 11:26 pm (UTC)(link)
+++ это все вариации одной стандартной дилеммы

пишете Вы

у меня же написано

*** большинство вопросов представляют собой вариации

Дискуссии не получилось:-)

[identity profile] taki-net.livejournal.com 2016-03-04 11:38 pm (UTC)(link)
Основная проблема в этом сюжете (я фильм не смотрел, но сюжет бродячий) не на техническом (полезно-бесполезно) уровне, а на моральном, и своится к двум вопросам:

1. Ок, парни, а вдруг бы чувак не сломался бы или, наоборот, сломался бы так, что умер или сошел с ума? Пытка, знаете ли, без гарантий. А Вы УЖЕ отказались обезвредить бомбы в ответ на ни к чему не обязывающее заявление президента. То есть, чуваки, Вы УЖЕ согласились убить миллионы американцев из фанаберии, как минимум, не лучшей, чем у этого чувака. Ну и кто тут на стороне морали?

2. Гестапо выиграло только потому, что они хуже, подлее - чувак совершенно не представлял, что можно пытать невинных людей (что убивать - представлял). А для нас это - рутина. Мы завсегда готовы. Отлично. Но предела совершенству нет, и далеко не все террористы будут такие рохли-гуманисты. Завтра придет чувак, у которого бомба взрывается сама, если на нее НЕ ПРИСЛАТЬ СМС с определенным кодом (каждый раз разным). И сразу предупредит: любая попытка тронуть любых моих родственников, друзей, единоверцев - и я пропускаю звонок на первую бомбу. Кстати, если вы меня поймали - то не смейте тронуть пальцем, у меня слабая психика, и я забуну сложный алгоритм вычисления шифра. И что вы будете делать? Вы же только пытать детей умеете, и уже уговорили себя, что чтобы победить - надо быть подлее и кровавее, все дела.

То есть, обман тут на двух уровнях: и моральном, и техническом.

[identity profile] morreth.livejournal.com 2016-03-04 11:45 pm (UTC)(link)
Не, ну там месседж еще и в том, что чувак-палач существует вне закона, официально его нет, его могут выпилить в любой момент, и рядовым сотрудникам знать о нем не положено, да и нерядовым тоже. То есть, гестапо это таки "немыслимое" для американцев.

[identity profile] grihanm.livejournal.com 2016-03-05 12:43 am (UTC)(link)
Мне понравилось еще, что исламист - ирландец, а у "гестаповца" жена мусульменка.

[identity profile] andreype.livejournal.com 2016-03-05 07:16 am (UTC)(link)
Я не понял при чем тут искусственность или естественность ситуаций, по которым предлагается дать ответ? Для задачи "На дереве сидело пять рыб, две улетели, сколько осталось?" ответ "три" не верен только потому, что рыбы не сидят на деревьях?
Да, тут вариации на тему "можно ли ухудшить жизнь одного, чтобы улучшить жизнь многих?", но какая разница в антураже? И в вариации - а точно убийство одного спасет жизнь пятерых или не точно? Имхо, тут просто спрашивают - Вы готовы сделать зло для победы добра?

[identity profile] torquelimach.livejournal.com 2016-03-05 07:26 am (UTC)(link)
Интересно было бы исследовать, как меняются позиции людей в результате прохождения таких тестов.
Не уверен, что там действительно работает механизм постепенного убеждения - как я помню, большинство людей переведет стрелку, убивая вагонеткой одного рабочего вместо пятерых, но не столкнет на рельсы постороннего толстяка.
С другой стороны, после теста Медуза показывает текст, "обвиняющий" большинство людей в непоследовательности, что может служить аргументом за Вашу точку зрения.

Не думаю, что это непоследовательно, кстати. Помимо того, что "встроенный нравственный компас", надо полагать, ориентирован на более реалистичные вероятности (где у большей части ситуаций будут другие выходы, где пятеро рабочих могут успеть заметить угрозу, а вот толстяк в результате действий "спасателя" погибнет гарантированно), с теми же рабочими можно предполагать, что уровень их ответственности за ситуацию выше, чем у не вовлеченного толстяка (а вот у одного рабочего на другой ветке - такой же).

...В каком-то смысле манипуляция и для меня сработала: про сломанные пальцы я ответил более слабым "нельзя" из-за недостатка данных, но под "данными" (которые могли бы сдвинуть ответ до "можно") при этом подразумевалось что-то больше похожее на искусственные ограничения из остальных задач (нам известно, что это может сработать с достаточно высокой вероятностью, у нас нет возможности обмануть террориста...)

в тесте ничего не говорится о полномочиях спецслужб

[identity profile] freedom_of_sea.livejournal.com 2016-03-05 07:53 am (UTC)(link)
тест не предлагает давать полномочия гестапо бросать на релься толстяков.

Арбат на эти вопросы давно дал прекрасный ответ:
Если вы сотрудник спецслужб - вы можете и морально должны (если верите в успех) ломать пальцы сыну террориста и пойти за это под суд.

Если вы избиратель или политик - вы не должны спасать спецслужбы от подсудности

[identity profile] yurgenfish.livejournal.com 2016-03-05 07:58 am (UTC)(link)
Мне кажется, вы совершенно зря ищете здесь руку каких-то спецслужб, какую-то глубоко запрятанную цель оболванить кого-то. (Может, я не так понял ваши руссуждения?)
А сам тест, по-моему, просто не имеет смысла. Ответил на все вопросы утвердительно и получил свои законные 6,7 балла. Но в реальности так бы никогда не поступил, потому что таких однозначных ситуаций в принципе быть не может. Ну кроме стоматолога - так там и вреда-то жертве никакого не предусмотрено, проспится, здоровее будет.

Re: в тесте ничего не говорится о полномочиях спецслужб

[identity profile] roving-wiretrap.livejournal.com 2016-03-05 08:15 am (UTC)(link)
Сначала сотрудники спецслужб пытают и мучают заключенных, добиваясь от них признательных показаний. Потом приходят другие сотрудники спецслужб и расстреливают этих сотрудников спецслужб за нарушение норм социалистической законности. И те и другие верят в успех, а стало быть морально должны.

Re: в тесте ничего не говорится о полномочиях спецслужб

[identity profile] roving-wiretrap.livejournal.com 2016-03-05 08:20 am (UTC)(link)
Насколько я понимаю, в рассуждениях арбата такие же проблемы, что и в этом тесте. Он рассматривает искусственную задачу, очищенную от многочисленных житейских подробностей, которые на самом деле и являются главными.

[identity profile] roving-wiretrap.livejournal.com 2016-03-05 08:21 am (UTC)(link)
Знать бы еще, что такое зло и что такое добро, и как их делать в реальных, а не придуманных ситуациях...

Re: в тесте ничего не говорится о полномочиях спецслужб

[identity profile] freedom_of_sea.livejournal.com 2016-03-05 08:41 am (UTC)(link)
вот почему он возлагает решение проблемы на людей которые имеют максимальную информацию - на гестаповца и судью

[identity profile] ermenegilda.livejournal.com 2016-03-05 08:44 am (UTC)(link)
Конечно, берут, теперь народ даже мусор с мобильными выносит!

[identity profile] bazar-wokzal.livejournal.com 2016-03-05 08:47 am (UTC)(link)
Я "мастер компромисса и не люблю совершать моральный выбор" с результатом 4,1 из 7. По самооценке никакой не мастер (хотя хотел бы), но еще как люблю, просто обожаю.
А теперь я прочитаю ваш анализ.

[identity profile] bazar-wokzal.livejournal.com 2016-03-05 08:54 am (UTC)(link)
Анализ хороший, да, но мне повезло - я не попался, ибо заметил что за сломанные пальцы спасения пассажиров не обещают. Щас еще комменты почитаю.

Re: в тесте ничего не говорится о полномочиях спецслужб

[identity profile] elenia-gor.livejournal.com 2016-03-05 08:56 am (UTC)(link)
В приведенном Вами примере сначала было постановление "об обострении классовой борьбы" и спецслужбам спустили план на поимку врагов народа (с карами за невыполнение). То есть абсолютно преступна была сама власть, т.е. ВКП(б). А рассматриваемые в других примерах террористы вполне реальны и власть, против которой они устраивают теракты более-менее легитимна.

[identity profile] bazar-wokzal.livejournal.com 2016-03-05 08:57 am (UTC)(link)
Очень хороший сериал "Сотня" - как раз про "дикарей" и собственных мерзавцев, практически дословно ета проблема и многие другие тоже интересные.

[identity profile] andreype.livejournal.com 2016-03-05 09:02 am (UTC)(link)
Ну можно оперировать терминами "гуманно" - "негуманно".
А реальные ситуации...

Вот для меня есть неразрешимая ситуация более чем дофига встречающаяся в реальности. Со мной такого, к счастью, не происходило, но запросто может произойти. А еще хуже - с моей семьей. И как в такой ситуации поступить правильно/гуманно/хорошо - я не знаю.

Человек серьезно заболел. Умирает. Тяжело умирает. Врач говорит семье - есть лекарство/курс/операция. Шансы на успех - Х%. Стоит дохрена. Вам придется продать всё, ухудшить жилищные условия и поставить крест на приличном образовании ваших детей. Да вообще серьезно ухудшить качество жизни своей семьи. Или ничего не делать и человек в мучениях умрет.

Вот с какого значения Х надо идти на ухудшение благополучия семьи? И надо ли вообще?

[identity profile] a-grabenich.livejournal.com 2016-03-05 09:03 am (UTC)(link)
У всех этих "вагонеток" проблема одна и та же. Они рисуют картинку, в которой человек делает выбор между математически чистыми вариантами. Между тем, в реальной жизни главный моральный вызов в том, что никакой уверенности нету. И сведение какого-либо жизненного выбора к подобным жестким конструкциям само по себе манипулятивно. Так, командиры иногда, говорят, добивают раненых, чтобы увести от врага живых, а иногда, говорят, из-за обременяющих обоз раненых попадают в окружение боеспособные. Но настоящий моральный выбор состоит не во взвешивании на абстрактных моральных весах жизни раненых и жизни/здоровья/свободы всех прочих, а в выборе той нарративной схемы, с помощью которой мы описываем реальность. Вероятно, с точки зрения нейрофизиологии "вагонетка" представляет ценность, однако в перспективе изучения закономерностей морального выбора гораздо интереснее круг жизненных ситуаций, в которых человек воскликнет: ба, да это же "вагонетка"!
Edited 2016-03-05 09:04 (UTC)

[identity profile] ermenegilda.livejournal.com 2016-03-05 09:03 am (UTC)(link)
Мораль: "Жрать надо меньше, тогда вас не толкнут под вагонетку".

Re: в тесте ничего не говорится о полномочиях спецслужб

[identity profile] roving-wiretrap.livejournal.com 2016-03-05 09:09 am (UTC)(link)
В рассматриваемых примерах террористы вполне реальны. А в жизни бывает по-всякому. Вот лично вас могут арестовать по подозрению в том, что вы заложили где-то бомбу? Могут вполне. Всякие случаи бывают. И вот вас допрашивает человек, который только что добился успеха, ломая пальцы ребенку террориста. Террорист не выдержал и все рассказал. И этот человек будет ломать пальцы уже вашему ребенку. Ибо он может и морально должен(с). Это прямое следствие ситуации, описанной в тесте. И рассматривать ситуацию в тесте без учета этого следствия нельзя. И это следствие - только один маленький нюанс. Таких нюансов в реальной жизни - миллион.

[identity profile] roving-wiretrap.livejournal.com 2016-03-05 09:11 am (UTC)(link)
+++"гуманно" - "негуманно"+++ Это то же самое - очень сложно поддается определению.

+++Вот с какого значения Х надо идти на ухудшение благополучия семьи?+++ Нет тут общего ответа и быть не может.

Re: в тесте ничего не говорится о полномочиях спецслужб

[identity profile] ermenegilda.livejournal.com 2016-03-05 09:13 am (UTC)(link)
Не так! "Если вы сотрудник спецслужб, у вас должно быть достаточно мозгов, чтобы уметь обходиться без пыток!". Я почем в спецслужбы не пойду - потому что у меня... гениальность пониженная, я могу не придумать, как обойтись без пытки.

Page 2 of 5