Конспирация Байеса

LikeAA, именно...но предположение о чёрте будет одним из последних, потому что на первых парах отсечётся бритвой Оккама. но если если останется только оно - там уже вопросов о том, что черти нереальны и прочем не будет)
"Жук в муравейнике" - классная книга. Да и вообще вся трилогия великолепна.

Цитата (Khishtaki @ 24.8.2014)
Мне кажется, вы все оспариваете те мои соображения, которые я привожу в качестве иллюстраций к тезисам, а не сами тезисы. Тезисы я же даже пронумеровал, оспаривайте их, пожалуйста,

Штука в том, что в пунктах 1-5.1 ты описал именно то, как мыслит (должен мыслить) рационалист. А потом в пункте 5.2 устроил парадокс лжеца:
а) пункты 1 - 5.1 - равны рационализму (если ты понимаешь его принципиально по-другому, то это и должно стать темой для обсуждения)
б) пункты 1 - 5.1 верны
в) 5.2 - исходя из пунктов 1-5.1, рационализм неверен.

Khishtaki, именно так

Цитата (Khishtaki @ 24.8.2014)
Извини, но ты неправильно осмыслил дилемму заключённого. В том-то и дело, что в ней НЕТ паретооптимальной устойчивой стратегии (и в том числе всё время предавать ТОЖЕ невыгодно), поэтому выводы твои совершенно неверны.

Цитата (БоевойСлон @ 24.8.2014)
Добрый сатрап, теперь рекомендую сделать следующий шаг и ознакомиться с повторяющейся дилеммой заключенного.

Ознакомлен, конечно))) но если условия задачи будут повторяться, участники меняться, а результаты забываться, то рационалиста ничего не сдерживает от отступничества. Мы же не в лабораторных условиях живем Где это видано, чтобы такие критические в жизни человека задачи повторялись неоднократно!

Цитата (БоевойСлон @ 24.8.2014)
Штука в том, что в пунктах 1-5.1 ты описал именно то, как мыслит (должен мыслить) рационалист. А потом в пункте 5.2 устроил парадокс лжеца:
а) пункты 1 - 5.1 - равны рационализму (если ты понимаешь его принципиально по-другому, то это и должно стать темой для обсуждения)
б) пункты 1 - 5.1 верны
в) 5.2 - исходя из пунктов 1-5.1, рационализм неверен.

да почему же НЕВЕРЕН-то???

В пределах своей применимости - очень адекватный инструмент, поадекватнее многих.

Всё о чём я прошу - не забывайте о рамках применимости и о наличии других инструментов!

ДобрыйСатрап, ещё раз тебе повторяю, и это очень важно. Твоя убеждённость в том, что в дилемме узника стратегия "предавать" доминирует стратегию "молчать" - это ОШИБКА. Не доминирует, в том-то и дело. Если бы доминировала, то эта дилемма не была бы дилеммой :) В дилемме Узника (и поэтому она называется Дилеммой) НИ стратегия "предать", ни стратегия "Молчать" не являются оптимальными стратегиями. На самом деле, если учить математику (чего не делают к сожалению многие социологи, экономисты и психологи, а потом, только поверхностно ознакомившись, например, с той же дилеммой заключённого, делают неправильные выводы, но подкрепляют их убийственным аргументом "математически доказано"), то вслед за определением паретооптимальных стратегий идёт теорема о том, что не все игры (с полной информацией) имеют паретовский оптимум в ЧИСТЫХ стратегиях, но ВСЕ имеют паретооптимум в смешанных. То ли психологи этого понять не способны, то ли не дочитывают до этого места, но на самом деле это очень просто. В зависимости от конкретных значений сроков, которые нам ставят в случае совместного признания и одностороннего признания, оптимальная стратегия в игре "дилемма узника" заключается в том, чтобы с вероятностью р признаваться, а с вероятностью (1-р) молчать.
Это в случае однократной игры (или эквивалентной ей многократной игры БЕЗ памяти). В случае игры с памятью всё сложнее, потому что она не является ИГРОЙ в том смысле, в котором её рассматривает Теория Игр.

Хиштаки, т.е. ты считаешь, что и твои пункты 1 - 5.1 применимы не всегда?

Цитата (Khishtaki @ 24.8.2014)
Всё о чём я прошу - не забывайте о рамках применимости и о наличии других инструментов!

Так любой другой работающий инструмент просто включается в рационализм. Вопрос только в том, что рационализм может неправильно определять понятие "работающий". Поэтому чтобы показать несовершенство рационализма, тебе надо придумать пример, в котором рационалистический метод неправильно определит, "работает" тот или иной инструмент или нет.

Я до сих пор помню, что на экзамене по менеджменту в университете мне достался билет про "теорию рационального выбора". Жалко, что в русской Википедии очень скромная статья о ней.

Но в английской все ок, собственно, всем участникам спора рекомендуется:

http://en.wikipedia.org/wiki/Rational_choice

Основные моменты (хотя там мало лишнего):

Цитата
Rational choice theory uses a specific and narrower definition of "rationality" simply to mean that an individual acts as if balancing costs against benefits to arrive at action that maximizes personal advantage.

Согласно теории рационального выбора, человек, действующий "рационально", балансирует (сравнивает в уме) усилия/риски и выгоду, чтобы выбрать действие, которое максимизирует пользу для него лично.

Цитата
In rational choice theory, all decisions, crazy or sane, are postulated as mimicking such a "rational" process. Thus rationality is seen as a property of patterns of choices, rather than of individual choices: there is nothing irrational in preferring fish to meat the first time, but there is something irrational in preferring fish to meat and preferring meat to fish, regularly.

Рациональность - это паттерны поведения, то есть важна дистанция. Нет ничего иррационального в том, чтобы в первый раз выбрать рыбу, а не мясо, но постоянно выбирать то рыбу, то мясо - не рационально.

Цитата
The basic idea of rational choice theory is that patterns of behavior in societies reflect the choices made by individuals as they try to maximize their benefits and minimize their costs. In other words, people make decisions about how they should act by comparing the costs and benefits of different courses of action. As a result, patterns of behavior will develop within the society that result from those choices.

Основная идея теории рационального выбора заключается в том, что паттерны поведения в обществах влияют на решения, принимаемые отдельными людьми, т.к. люди стараются максимизировать выгоду и минимизировать усилия/риски, исходя из того, что видят вокруг.

Цитата
In recent years the theoretical vision of rational choice theory has been subject to more and more doubt by the experimental results of behavioral economics. This criticism has encouraged many social scientists to utilize concepts of bounded rationality to replace the "absolute" rationality of rational choice theory: this points to the difficulties of data-processing and decision-making associated with many choices in economics, political science, and sociology. More economists these days are learning from other fields, such as psychology, in order to get a more accurate view of human decision-making than offered by rational choice theory. For example, the behavioral economist and experimental psychologist Daniel Kahneman won the Nobel Memorial Prize in Economic Sciences in 2002 for his work in this field.

В последние годы теория рационального выбора все больше подвергается сомнению, эксперименты в области бихейвиоральной экономики (к которой относится и ТРВ) как бы намекают, что все не так просто.

Многие социологи склоняются к "ограниченной рациональности" (о ней есть отдельная статья) из-за трудностей процесса обработки данных и принятия решений во многих ситуациях из экономики, политики и социологии ("bounded rationality implicates the idea that humans take reasoning shortcuts that may lead to suboptimal decision making"). Многие экономисты обращаются к психологии, чтобы лучше разобраться в основах принятия решений. Даниэль Канеман (которого в этом блоге уже упоминали, это автор thinking fast and slow) в 2002-м получил нобелевскую премию за исследования в этом направлении (подробнее о его подходе к процессу принятия решений можно почитать в статье Prospect theory).


Хотя зря я взялся за перевод, там информации больше, чем у меня времени.

Трудно продолжать разговор без общей основы из этих статей:

- Behavioral economics
- Cognitive bias

А также:

- Analysis paralysis
(о ситуациях, когда анализ настолько сложен, что принять рациональное решение невозможно)

И:

- Rational ignorance
(о ситуациях, когда делать взвешенный выбор становится нерационально)

- - -

Если совсем коротко, то рациональность зависит от общества, в котором человек живет, а общество сейчас усложняется, в первую очередь из-за развития технологий, и людям все труднее определить, где/зачем они живут и какие идеалы разделяют.

У отдельных людей все больше проблем с процессом принятия решений, т.к. в любой момент стало доступно слишком много информации для их оценки.

Цитата (Khishtaki @ 24.8.2014)
Категория "ближе к истине" тут неуместна. Эффективность в решении проблем доказали обе системы. Религиозная система позволила человечеству выжить, развиться, прокормиться, выстроить единый культурно-мировоззренчески-этический базис, создала предпосылки для развития того же научного метода, способствовала распространению гуманизма, повышению ценности Человека и т.д. На данный момент она, безусловно, теряет своё значение в качестве ПЕРЕДОВОЙ модели познания мира (в "тёмные века" большинство учёных были монахами, библиотеки были при монастырях, кардинал Ришелье и всё такое), однако по-прежнему остаётся, например, адекватным инструментом управления отсталыми народами, классами и прочими группами населения.

Khishtaki, по поводу эффективности частично согласен. Изначально религия выполняла все свои функции и делала это эффективно. Но мы живем не в средневековье и не в эпоху палеолита. В наше время есть более эффективные инструменты, которые выполняют часть функций религии. Вот только какую замену морально-этической роли можно предложить в наше время? Тут я еще не разобрался.

Почему категория близости к истине неуместна?

Цитата (Tartalia @ 24.8.2014)
LikeAA, именно...но предположение о чёрте будет одним из последних, потому что на первых парах отсечётся бритвой Оккама. но если если останется только оно - там уже вопросов о том, что черти нереальны и прочем не будет)
"Жук в муравейнике" - классная книга. Да и вообще вся трилогия великолепна.

Это не из ЖВМ цитата, а из "Волны гасят ветер" (я её сейчас слушаю, потому оттуда и процитировал). Хотя оригинал, конечно, в ЖВМ, а в ВГВ только цитата оттуда, к тому же и не полная. Оригинал чуть длиннее, и там есть отсылка к бритве Оккама:

Цитата (Khishtaki @ 24.8.2014)
Этика общечеловеческая: "убивать нельзя".
Этика профессиональная: "я - снайпер на войне, убиваю врагов, мне убивать можно, но только на войне и только врагов по приказу командира".
Этика личная: "вообще-то людям убивать нельзя, но Мне можно, потому что я Знаю Истину и Спасаю Мир".

Суть Власти в том числе заключается в отказе от общечеловеческой этики и переходе к некоей комбинации профессиональной и личной этик.

варианты, которые ты приводишь для описания профессиональной и личной этики больше похожи не на этику, а на причины, призванные оправдывать те или иные негативные действия, в данном случае убийство.
чтобы было понятнее, попробуем обратиться к определению этики из Вики:

Цитата
Э́тика (греч. ἠθικόν, от др.-греч. ἦθος — этос, «нрав, обычай») — философское исследование морали и нравственности[1]. Первоначально смыслом слова этос было совместное жилище и правила, порождённые совместным общежитием, нормы, сплачивающие общество, преодоление индивидуализма и агрессивности. По мере развития общества к этому смыслу добавляется изучение совести, сострадания, дружбы, смысла жизни, самопожертвования и т. д

т.е. этика - это набор правил взаимоотношений в обществе, т.е., грубо говоря, все участники социума априори имеют одинаковые представления о том, как можно поступать, а как не следует.
вряд ли снайпер на войне предварительно договаривался с каждой из своих мишеней, что он их убьет, и они сами вряд ли, считали это этичным поведением с его стороны. оправдание убийства наличием приказа убивать - это тоже не этика. это попытка перенести ответственность за пролитую кровь на человека, отдавшего приказ. не хочешь убивать (т.к. считаешь это неэтичным с т.зр. общечеловеческой морали) - можно нарушить приказ. да, за это уже другие последствия, но зато ты останешься в рамках этики. кроме того, за убийство почему-то наказывают и заказчика и исполнителя.
а тот индивидум, который "знает Истину", - вообще просто наркоман или маньяк. его воспаленное сознание называть этикой абсурдно. так то и нацизм под этику подвести можно.

Цитата (Khishtaki @ 24.8.2014)
Рационализм – это не более чем ЕЩЁ одна (правда очень полезная) модель Разума для оперирования с Реальностью, и у нас нет оснований считать эту модель более применимой для ВСЕХ возможных областей и задач: в некоторых областях она просто избыточна (того же можно добиться в рамках более простых моделей), а в некоторых и ошибочна (как в рассказе «Тройной контакт» Юдковского).

Я не против такой формулировки. Добавлю лишь, что более полезной модели поведения сейчас нет.

Я бы сказал, что рационализм — это научный подход к выбору в жизни. Т.е. он не стоит на месте, а развивается. И сейчас, и всегда будут ошибки, но со временем их будет всё меньше и меньше.

Также он основан на наших наблюдениях, лучшими представителями которых являются исследования, стремящиеся проконтролировать как можно больше переменных. Но если их нет, то будем использовать и информацию с меньшей надёжностью, это всё равно лучше полного незнания.

Религиям и многие другие похожие модели не следуют такому пути развития. Новые наблюдения постоянно отвергаются, либо делается всё возможное, чтобы загнать их в рамки давно озвученных или напечатанных теорий. По умолчанию также считается, что в таких моделях всё идеально.

Например, рационализм сильно изменился вместе с развитием экономики поведения (behavioral economics) и определением когнитивных искажений (cognitive biases). То, что считалось рациональным поведением раньше, может уже не являться им сейчас. Как может быть рациональным выбрать потратить деньги не на себя, а на других людей, ведь инстинкт говорит, что это не так? Но исследования показывают, что большинство людей чувствуют большее удовлетворение, если тратят часть денег не на себя, значит, рационально попробовать, не подходит ли эта модель для меня лично.

Так как модель изменяется, перестраивается, стремиться включить в себя наиболее оптимально работающие инструменты, сомнительно, что она перестанет быть самой полезной, так как новые знания или теория будут в итоге в неё включены и носить то же название.

Цитата (Шалтай-Болтай @ 24.8.2014)
т.е. этика - это набор правил взаимоотношений в обществе, т.е., грубо говоря, все участники социума априори имеют одинаковые представления о том, как можно поступать, а как не следует.
вряд ли снайпер на войне предварительно договаривался с каждой из своих мишеней..

У тебя один абзац противоречит другому. социум как раз полагает, что убивать на войне - это нормально.

Цитата (Khishtaki @ 24.8.2014)
Категория "ближе к истине" тут неуместна. Эффективность в решении проблем доказали обе системы. Религиозная система позволила человечеству выжить, развиться, прокормиться, выстроить единый культурно-мировоззренчески-этический базис, создала предпосылки для развития того же научного метода, способствовала распространению гуманизма, повышению ценности Человека и т.д. На данный момент она, безусловно, теряет своё значение в качестве ПЕРЕДОВОЙ модели познания мира (в "тёмные века" большинство учёных были монахами, библиотеки были при монастырях, кардинал Ришелье и всё такое), однако по-прежнему остаётся, например, адекватным инструментом управления отсталыми народами, классами и прочими группами населения.

тут мне видится искажение нарратива (по Талебу). так совпало, что религия была неотъемлемой частью модели поведения человечества на протяжении существенно большой части его истории. при этом нельзя объяснять прогресс человечества строго наличием религии в этот период. существует немало примеров, когда религия способствовала исстреблению целых народов. и реально трудно привести обратный пример, когда религия способствовала развитию одного сообщества (государства, нации и т.д.) и одновременно не вредила ни одному другому сообществу, которое придерживалось иной религии.
кроме того, совсем не факт, что этот временной отрезок (когда религия доминировала), занимает (или даже точнее употреблять в будущем времени - займет) бОльшую часть нашей истории. мы примерно знаем, когда появилась религия(/и) (в том виде, как мы ее себе представляем). и примерно знаем когда появились люди. и между этими двумя событиями прошла хренова туча времени, в течение которого письменности не было, а значит возможно не было и религии (обратное недоказуемо). таким образом можно придти к тому, что появление письменности гораздо больше чем религия способствовало прогрессу человечества во всех его аспектах. тоже самое касается изобретения колеса, и прочих великих открытий.

Цитата (ko4evnik @ 24.8.2014)
У тебя один абзац противоречит другому. социум как раз полагает, что убивать на войне - это нормально.

бля, еще раз. ЭТИКА РАССМАТРИВАЕТ ОТНОШЕНИЯ ЛЮДЕЙ ВНУТРИ ОДНОГО СОЦИУМА, а не отношения между двумя или более социумами. два разных социума ни о какой этике договорится между собой не могут. если таки договорились - значит это уже один социум, а не два.
да, отдельно взятый социум полагает, что убивать на войне представителей другого социума - это нормально (этично, если хотите). однако ни один социум не признает этичным случаи, когда его представителей убивают представители иного социума.
наоборот, в этом случае в социуме, чьи представители убиты, поднимается адовая истерия. если потери есть с обеих сторон, то и истерия наблюдается и там, и там одновременно, несмотря на то, что, казалось бы, все должны понимать принцип "на войне как на войне". так и появляются устоявшиеся ругательные "мемы" типа "хунта", "каратели", "колорады", "укры", "фошизды" и прочий бред.

Цитата (Khishtaki @ 24.8.2014)
ну да, потому что коса использовали для решения задачи "уебать британцев" неподходящую религиозную модель. Что это опровергает в моих тезисах?
Мне кажется, вы все оспариваете те мои соображения, которые я привожу в качестве иллюстраций к тезисам, а не сами тезисы. Тезисы я же даже пронумеровал, оспаривайте их, пожалуйста, а не мою трактовку рассказа Юдковского и этики Путина. Тем более, что рассказ я прочёл по диагонали, а на Путина я вообще срал.

кстати, пример конкретной этики, с т.зр. которой путин этично отжал крым, я так и не увидел. наверное ты имел ввиду, что с т.зр. личной этики Путина Путин действовал в этом случае действовал этично? лол

Цитата (Шалтай-Болтай @ 24.8.2014)
бля, еще раз. ЭТИКА РАССМАТРИВАЕТ ОТНОШЕНИЯ ЛЮДЕЙ ВНУТРИ ОДНОГО СОЦИУМА, а не отношения между двумя или более социумами. два разных социума ни о какой этике договорится между собой не могут. если таки договорились - значит это уже один социум, а не два.
да, отдельно взятый социум полагает, что убивать на войне представителей другого социума - это нормально (этично, если хотите). однако ни один социум не признает этичным случаи, когда его представителей убивают представители иного социума.
наоборот, в этом случае в социуме, чьи представители убиты, поднимается адовая истерия. если потери есть с обеих сторон, то и истерия наблюдается и там, и там одновременно, несмотря на то, что, казалось бы, все должны понимать принцип "на войне как на войне". так и появляются устоявшиеся ругательные "мемы" типа "хунта", "каратели", "колорады", "укры", "фошизды" и прочий бред.

Вай? Тот же социум который признает что убивать военным на войне - это нормально, признает что и быть убитыми тоже приемлимо.
Если бы было так как ты говоришь, то после войн у побежденных казнили бы/наказывали бы всех рядовых. А по факту обычно судят руководство, а "обычный солдат" (как вроде считается многими социумами) неуиноуен.

Социум который считает что убивать это приемлимо, а быть убитым при тех же условиях нет - какой-то немного отсталый штоле))

- Этично ли военному выполнять приказы, которые нарушают общечеловеческую этику?
- Этично ли отказываться от выполнения приказов, если ты клялся и присягал на верность этому руководству?
Вот и конфликт общечеловеческой и профессиональной (вкупе с личной, в случае с клятвой) этики.

Цитата
Для ученых все ясно: не изобретай лишних сущностей без самой крайней необходимости. Но мы-то с тобой не ученые. Ошибка ученого -- это, в конечном счете, его личное дело. А мы ошибаться не должны. Нам разрешается прослыть невеждами, мистиками, суеверными дураками. Нам одного не простят: если мы недооценили опасность. И если в нашем доме вдруг завоняло серой, мы просто не имеем права пускаться в рассуждения о молекулярных флуктуациях -- мы обязаны предположить, что где-то рядом объявился черт с рогами, и принять соответствующие меры, вплоть до организации производства святой воды в промышленных масштабах. И слава богу, если окажется, что это была всего лишь флуктуация, и над нами будет хохотать весь мировой совет и все школяры впридачу...

Мне не нравится цитата. Почему кто-то обязан предположить, что рядом объявился чёрт с рогами, а не, например, полузабытый греческий бог Серный Парфюмер, любимым развлечением которого являются визиты в случайные дома, где он без каких-либо последствий распыляет в течение 10 минут запах серы. Зато, если его невидимую сущность окатить в это время любой водой (святая подходит), то он призывает Аида и тот телепортирует весь дом на Марс.

Вероятности обоих событий одинаковы, а то, и "правильные" действия в одном могут повлечь несчастье в другом. О том, что святая вода, как минимум, не навредит, попробуйте рассказать тем людям, бабушки которых освящали системные блоки их компьютеров, и немного перестарались.

Цитата (ДобрыйСатрап @ 24.8.2014)
https://ru.wikipedia.org/wiki/%C4%E8%EB%E5%EC%EC%E0_%E7%E0%EA%EB%FE%F7%B8%ED%ED%EE%E3%EE

Диле́мма заключённого (англ. Prisoner's dilemma, реже употребляется название «дилемма банди́та») — фундаментальная проблема в теории игр, согласно которой игроки не всегда будут сотрудничать друг с другом, даже если это в их интересах.

В дилемме заключённого предательство строго доминирует над сотрудничеством, поэтому единственное возможное равновесие — предательство обоих участников. Проще говоря, не важно, что сделает другой игрок, каждый выиграет больше, если предаст. Поскольку в любой ситуации предать выгоднее, чем сотрудничать, все рациональные игроки выберут предательство.

****

Не хотелось бы, такого рационализма. Также, если рационализм Маргарет Тетчер в отношении нашей страны, возобладает в умах наших рационалистов.

Так понимаю, это это какое то новое течение в умах. Раньше были нигилисты, затем революционеры, хиппи, а сейчас рационалисты. Думаю, всего хорошего нужно в меру.

про дилемму заключенного тебе уже мои старшие братья ответили (попробуй сначала их переспорить - у них удар послабже ).
но, если ты, упоминая Тетчер, имел ввиду приписанное ей какими-то упоротыми сторонниками теории заговора высказывание о том, что для блага человечества нужно оставить 10млн русских, чтобы обслуживали нефтяные буровые, а остальных исстребить, то потрудись сначала привести доказательство, что она это действительно говорила. а пока, что это фэйк сто раз опровергнут, о чем можно простенько нагуглить.

Цитата (Khishtaki @ 24.8.2014)
под спойлером Икона Рационализма.

протестую, ваша честь! оппонент использует удары ниже пояса. а это как минимум неэтично и заслуживает кратковременного бана