Das KapitalЪ (совместный блог Nameless и Khishtaki)

Так, стоп

ZiingRR @ 17.12.2016
В дилемме заключенного в последней итерации каждому рациональному агенту по отдельности выгоднее кинуть другого, т.к. репутацию больше незачем поддерживать. Зная это, репутация обесценивается в предпоследней итерации. И так далее.

Ты похоже не понял как это работает и сделал неправильный вывод.
Да, в последней итерации может и лучше кинуть всегда, хотя это маленький импрув, т.к. там обычно сотни и тысячи итераций делается, плюс в реальной жизни ты не знаешь когда последняя итерация (да и в этих играх я думаю тоже). Но самое главное, из этого не следует, что ты (или твой оппонент) должен кидать в предпоследней.
Там нет никакой репутации в обывательском понимании этого слова. Если ты кинешь случайным образом посредине игре, но следующем ходом сотрудничаешь, то зуб-за-зуб продолжит далее сотрудничать, не смотрю я на твою "испорченную репутацию".

Вообще, там есть более продвинутые стратегии, чем зуб-за-зуб, которые обычно чуть лучше выступают, но зуб-за-зуб самая простая из эффективных.

Nameless00 @ 17.12.2016
Да, око за око - близкая к оптимальной стратегии. Является ли она рациональной при этом?
Нет, по указанной выше причине. Потому что действительно рациональные стратегии подразумевают кидок на последней итерации и далее по тексту.

Возможно в этом кроется твоя нелюбовь к рационалистам и вообще к этому слову?

То есть рациональная стратегия в такой игре - это как раз та, что максимизирует ев, просто по определеню (например из теории игр). И нет никакой другой про которую ты пишешь, и "далее по тексту" просто ошибка (см. предыдущий пост).

Расставляя точки и определяясь с терминами.

Почему наше имеющееся мышление не рационально? Об этом все сказано у Канемана.
Мы слишком часто сотрудничаем, мы недостаточно предаем, мы прощаем больше чем нужно (см. арбитраж), мы вообще уделяем внимание неважным вещам при выборе сотрудничать или нет.

Почему наше имеющееся мышление оптимально? Ну для начала я не считаю его оптимальным.
Наверное разумный замысел мог бы достичь нашего нынешнего положения лучше, проще и изящнее.
Но тем не менее имея то мышление что мы имеем мы сейчас не вынуждены тратить 80% нашего времени на пожирание травы, а проводим его в срачах в интернете, на устройствах, созданных буквально милионными коллаборациями незнакомых друг с другом людей (если посчитать весь производственный цикл и всех тех, кто обеспечивает жизнедеятельность тех кто задействован в производстенном цикле).

Почему я думаю что имеющегося положения не достигли бы изначально рациональные агенты.

Опять же проиллюстрирую это для начала игрой.
Два незнакомых друг с другом человека, на кону сумма денег, ходят по очереди, количество ходов конечное и известное всем заранее.
В свой ход ты можешь забрать деньги себе и тогда оппонент не получит ничего, или передать ход и тогда сумма денег на кону возрастет.
И уже оппонент будет решать, забирает он деньги или передает ход.

Наиболее рациональное и вообще единственное рациональное поведение тут - забирать деньги на первом ходу. Любое другое поведение ущербно (ну если мы не можем сговориться с оппонентом).

Но люди так не делают. Люди какое-то количество раз передают ход и только тогда у них возникает мысль что пора бы и побеждать. Люди, в буквальном смысле, торгуются со своей совестью, где на одной чаше весов ощущение собственной справедливости, а на другой сумма денег и риск потери.
И есть пороговое значение. Обусловленное, заметим, сугубо эмоциями.

К чему это приводит? Для каждого конкретного человека риск проиграть не особо меняется. Все равно победит кто-то один. Но сумма денег, отнятых у ученых растет.

Пираты сначала находят клад, а потом режут своих сообщников во сне. Да, есть шанс что тебя зарежут раньше чем ты решишься. Но общее количество выкопанных кладов растет.

Гаремные приматы сначала собирают коалицию и свергают альфа-самца, а только потом выясняют среди победителей кто будет следующим альфой.
Но это единственно возможное поведение приводящее к успеху, потому что иначе они бы никогда не договорились. Никто не согласен рисковать своим здоровьем чтобы потом не получить награды.

Да, мы не очень хорошо планируем наперед и подсчитываем выгоду. Но именно это и дает нам получать лишние "деньги ученых" для популяции в целом, даже если конкретный индивидуум при этом оказывается кинут.

По крайней мере давало на той стадии, когда у нас не было еще ни Канемана, ни письменности, ни даже речи, а кооперироваться все равно надо было.

ConstOr @ 18.12.2016
Возможно в этом кроется твоя нелюбовь к рационалистам и вообще к этому слову?

Нет, я их "не люблю" за то что они верят в применимость теоремы Байеса в реальной жизни и вообще в то, что наконец-то у человечества появились ответы на все вопросы в лице рационализма.

Ну и еще немножечко за то, что на мой предвзятый взгляд провозглашая рационализм они демонстрируют нерациональность, ввязавшись в легкую форму сектантства, когда сборник текстов Юдковского - это новый Good Book.

Но вообще я их не не люблю. Один мой очень хороший знакомый - махровый рационалист.
Да и тут среди моих адекватных собеседников их немало.

Nameless00 @ 18.12.2016
Наиболее рациональное и вообще единственное рациональное поведение тут - забирать деньги на первом ходу. Любое другое поведение ущербно (ну если мы не можем сговориться с оппонентом).

Ты можешь сформулировать это же утверждение, не используя слово "рациональное"? Почему ты приравниваешь единственное равновесие Нэша к "рациональному поведению"? В каком определении рациональности сказано, что рациональный игрок должен следовать равновесию Нэша, если его жизненный опыт говорит ему, что оппонент этому равновесию следовать не будет, и следовательно оптимальная для игрока стратегия будет другой?

Если ты предполагаешь, что оппонент с достаточной вероятностью не будет предавать тебя на следующем же шагу, то тебе невыгодно предавать его самому в игре с передачей денег. И "ущербным" будет именно предательство. Рациональный игрок должен действовать исходя из прогноза о том, как его оппонент будет играть, а не исходя из того, как его оппонент "должен" играть согласно каким-то абстрактным принципам, о которых он может и знать не знает.

Так можно договориться и до того, что рациональный игрок в покер не должен эксплуатировать слабости других игроков, потому что это будет не равновесие Нэша.

Nameless00 @ 18.12.2016
Почему я думаю что имеющегося положения не достигли бы изначально рациональные агенты.

Кооперация при повторяющемся взаимодействии равноправных "рациональных" игроков возникает по вполне очевидной логической схеме:
1) Каждому выгодно наказывать других за нарушение его интересов - это подаёт сигнал остальным, что не надо этого делать, пусть ищут себе другую жертву. Большинство начинает следовать этой стратегии. (Наказание может быть и просто отказом от дальнейшего сотрудничества).
2) После этого каждому становится выгодно не нарушать чужие интересы. Так как никто не является настолько умнее остальных, чтобы успешно искать отдельные возможности "кого-то надурить", то почти никто этого и не пытается. (Это лишняя трата ресурсов и высокий риск в случае ошибки). Точка.

Вся система реципрокного альтруизма, по твоему же собственному описанию, возникла результате преследования генами исключительно своих эгоистичных интересов. Которые не торгуются ни с какой совестью. Думаю, что как раз примерно по такому сценарию. Но когда ты от генов переходишь к людям, ты почему-то отказываешь этому механизму в праве на эффективность.

ConstOr @ 18.12.2016
Ты похоже не понял как это работает и сделал неправильный вывод.
Да, в последней итерации может и лучше кинуть всегда, хотя это маленький импрув, т.к. там обычно сотни и тысячи итераций делается, плюс в реальной жизни ты не знаешь когда последняя итерация (да и в этих играх я думаю тоже). Но самое главное, из этого не следует, что ты (или твой оппонент) должен кидать в предпоследней.
Там нет никакой репутации в обывательском понимании этого слова. Если ты кинешь случайным образом посредине игре, но следующем ходом сотрудничаешь, то зуб-за-зуб продолжит далее сотрудничать, не смотрю я на твою "испорченную репутацию".

Вообще, там есть более продвинутые стратегии, чем зуб-за-зуб, которые обычно чуть лучше выступают, но зуб-за-зуб самая простая из эффективных.

Из вики:

If the game is played exactly N times and both players know this, then it is always game theoretically optimal to defect in all rounds. The only possible Nash equilibrium is to always defect. The proof is inductive: one might as well defect on the last turn, since the opponent will not have a chance to later retaliate. Therefore, both will defect on the last turn. Thus, the player might as well defect on the second-to-last turn, since the opponent will defect on the last no matter what is done, and so on. The same applies if the game length is unknown but has a known upper limit.

...

For cooperation to emerge between game theoretic rational players, the total number of rounds N must be random, or at least unknown to the players. In this case 'always defect' may no longer be a strictly dominant strategy, only a Nash equilibrium. Amongst results shown by Robert Aumann in a 1959 paper, rational players repeatedly interacting for indefinitely long games can sustain the cooperative outcome.

БоевойСлон @ 18.12.2016
Ты можешь сформулировать это же утверждение, не используя слово "рациональное"? Почему ты приравниваешь единственное равновесие Нэша к "рациональному поведению"?

А к чему еще я должен приравнять равновесие Нэша в случае игры против неизвестного?
Иначе вся идея ГТО псу под хвост, против неизвестного играем по ГТО, пока не будет известно про эксполиты.

БоевойСлон @ 18.12.2016
В каком определении рациональности сказано, что рациональный игрок должен следовать равновесию Нэша, если его жизненный опыт говорит ему, что оппонент этому равновесию следовать не будет, и следовательно оптимальная для игрока стратегия будет другой?

Блин, господа, трусы или крестик, выбирайте.
Значит болельщикам за фубол фиксировать фолы только против своей команды "нерационально" и об этом написано у Канемана, а передавать ход который с неизвестным шансом к тебе не вернется вообще - оптимальная стратегия.

То есть в случаях когда нам надо доказать нерациональность человечества до Канемана мы под результатом подразумеваем строгий и безусловный математический результат, а если нам надо доказать что рациональность она повсюду - то нас устроит определение "самая лучшая стратегия - рациональная, независимо от того каким методом мы к этому пришли"?

P.S. Потому что я уверен (нутром чую), что ход передают не потому что "я все продумал и ко мне вернется больше денег", а потому что "ну уж за доллар то я свою натуру не продам".

БоевойСлон @ 18.12.2016
1) Каждому выгодно наказывать других за нарушение его интересов - это подаёт сигнал остальным, что не надо этого делать, пусть ищут себе другую жертву

Нет, наказание costly. Выгодно чтобы другие наказывали за тебя.
Но так как никому не выгодно наказывать, образуются сообщества в которых все наказывают и сообщества в которых никто не наказывает.

Сообщества в которых никто не наказывает неустойчивы к халявщикам и вымирают.
В результате остаются сообщества в которых наказывают все.

Так персональное понижение приспособленности ведет к глобальному повышению и соотвественно к глобальному распространению генов допустивших локальное понижение.

БоевойСлон @ 18.12.2016
Но когда ты от генов переходишь к людям, ты почему-то отказываешь этому механизму в праве на эффективность

Поэтому я и отказыввю этому механизму в праве на эффективность.
Поту что даже в реципрокном сообществе выгодно (рационально/правильно) быть эксплуатирующим эгоистом и невыгодно быть Недом Старком.
Но при этом сообщества эгоистов, не имеющие своих Недов Старков, тупо вымирают или не достигают тех успехов которых достигают сообщества менее рациональных агентов.

Целое > суммы составляющих.
Причем в данном конкретном случае даже если каждая составляющая "Общества 1" (мстительного, и справедливого) уступает по приспособленности каждой составляющей "Общества 2" (выбирающих идеальную стратегию для себя лично).

БоевойСлон, вот тебе другой подход к тому же вопросу.
В обществе гуннов не выгодно быть художником или философом. Ты слишком слаб для того, чтобы претендовать хоть на что-то и вообще делаешь странное. Не видать тебе ни баб ни рейтинга ни богатств.

В Римской Империи времен заката не выгодно быть воином, ты слишком груб и уныл, для того чтобы претендовать хоть на что-то и вообще занимаешься фигней вместо искусств и философии. Не видать тебе ни достойных женщин, ни уважения.

Но при этом общества, которые тотально теряют своию ученых/воинов, проигрывают на следующем цикле истории, когда условная ценность сословия меняется.

Нерационально (невыгодно для тебя лично) быть гуннским философом или позднеримским воином, но рационально (выгодно) для общества в целом этих ущербов иметь и терпеть.

Если бы каждый имел возможность лично принимать рациональное осознанное и персонально выгодное решение - это приводило бы к вымиранию невыгодных каст и последующему вымиранию однобоких сообществ.

Но, к счастью, мы такой возможности не имеем.

ZiingRR @ 18.12.2016
Thus, the player might as well defect on the second-to-last turn, since the opponent will defect on the last no matter what is done, and so on

ZiingRR @ 18.12.2016
or at least unknown to the players. In this case 'always defect' may no longer be a strictly dominant strategy

вот тут вроде ошибка. Там не strictly dominant, а rationalizable. То есть это работает, когда оба агента рациональны и это common knowledge.
Понятно, что в любом жизненном примере у нас не такая ситуация.
То есть и стратегия зуб-за-зуб хорошая в большинстве сценариев, но не во всех. Допустим если все наши оппоненты всегда предают (а это Нэш эквилибриум!), то зуб-за-зуб всем им проиграет, т.к. подразумевает сотрудничество на первом ходе.

ZiingRR @ 18.12.2016
For cooperation to emerge between game theoretic rational players, the total number of rounds N must be random, or at least unknown to the players

Ну и это почти всегда выполняется в примерах из реальной жизни

Nameless00 @ 18.12.2016
А к чему еще я должен приравнять равновесие Нэша в случае игры против неизвестного?
Иначе вся идея ГТО псу под хвост, против неизвестного играем по ГТО, пока не будет известно про эксполиты.

Это в играх с нулевой (фиксированной) суммой только.

Nameless00 @ 18.12.2016
Но люди так не делают. Люди какое-то количество раз передают ход и только тогда у них возникает мысль что пора бы и побеждать. Люди, в буквальном смысле, торгуются со своей совестью, где на одной чаше весов ощущение собственной справедливости, а на другой сумма денег и риск потери.
И есть пороговое значение. Обусловленное, заметим, сугубо эмоциями.

Мне кажется это самый большой мисконцепшн людей в теории игр.
Ты моделируешь реальность игрой с ошибкой и поэтому получаешь такой результат.
Если у тебя есть эмоции, то это должно отражаться в функции полезности. Если ты считаешь, что оппонент будет действовать некоторым образом, то ты должен это учитывать.

Nameless00 @ 18.12.2016
Опять же проиллюстрирую это для начала игрой.
Два незнакомых друг с другом человека, на кону сумма денег, ходят по очереди, количество ходов конечное и известное всем заранее.
В свой ход ты можешь забрать деньги себе и тогда оппонент не получит ничего, или передать ход и тогда сумма денег на кону возрастет.
И уже оппонент будет решать, забирает он деньги или передает ход.

Наиболее рациональное и вообще единственное рациональное поведение тут - забирать деньги на первом ходу. Любое другое поведение ущербно (ну если мы не можем сговориться с оппонентом).

Что такое наиболее рациональное? И почему это единственное рациональное?
Эта стратегия рациональная, когда оба агента рациональные и это коммон нолидж.
Она не является strictly dominant (как стратегия предать в классической дилемме заключённого например).

Мне кажется тебе нужно почитать книжку по теории игр, ты путаешься в базовых вещах.

Ну и кстати, определение рационального агента из книжки по теории игр:

A rational player is one who chooses his action, si ∈ Si , to maximize his payoff consistent with his beliefs about what is going on in the game.

То есть рациональный игрок в теории игр из "железных" правил, не зависящих от оппонента и наших оценок о его стратегиях, соблюдает только такие:
1. Не играет строго доминируемые стратегии (если они есть)
2. Всегда играет строго доминирующую (если она есть)
3. Не играет стратегии, которые never a best response (как это на русский перевести?)

Nameless00 @ 18.12.2016
А к чему еще я должен приравнять равновесие Нэша в случае игры против неизвестного?
Иначе вся идея ГТО псу под хвост, против неизвестного играем по ГТО, пока не будет известно про эксполиты.

Ты играешь не против совершенного неизвестного тебе оппа, а против представителя поля "люди". И играть должен исходя из средних характеристик этого поля, пока не будет известно, как именно опп отклоняется от этих характеристик.
Нэш и ГТО - это совершенно отдельные концепции, не имеющие прямого отношения к вышесказанному, особенно в играх с ненулевой суммой.

Nameless00 @ 18.12.2016
БоевойСлон, вот тебе другой подход к тому же вопросу.
В обществе гуннов не выгодно быть художником или философом. Ты слишком слаб для того, чтобы претендовать хоть на что-то и вообще делаешь странное. Не видать тебе ни баб ни рейтинга ни богатств.

В Римской Империи времен заката не выгодно быть воином, ты слишком груб и уныл, для того чтобы претендовать хоть на что-то и вообще занимаешься фигней вместо искусств и философии. Не видать тебе ни достойных женщин, ни уважения.

Но при этом общества, которые тотально теряют своию ученых/воинов, проигрывают на следующем цикле истории, когда условная ценность сословия меняется.

Нерационально (невыгодно для тебя лично) быть гуннским философом или позднеримским воином, но рационально (выгодно) для общества в целом этих ущербов иметь и терпеть.

Если бы каждый имел возможность лично принимать рациональное осознанное и персонально выгодное решение - это приводило бы к вымиранию невыгодных каст и последующему вымиранию однобоких сообществ.

Но, к счастью, мы такой возможности не имеем.

Всё очень просто. В рациональном сообществе принимается закон о воинской службе, согласно которому случайным образом выбирают, кто
будет воином, и утверждается метод наказания на отказ от неё. Каждому выгоднее жить в обществе, где такой закон принят, поэтому все за этот закон голосуют, и у сообщества появляется армия.
А вот нерациональные римляне в конце концов начали вместо этого нанимать на военную службу варваров, и в результате империя рухнула.

Nameless00 @ 18.12.2016
Поэтому я и отказыввю этому механизму в праве на эффективность.
Поту что даже в реципрокном сообществе выгодно (рационально/правильно) быть эксплуатирующим эгоистом и невыгодно быть Недом Старком.
Но при этом сообщества эгоистов, не имеющие своих Недов Старков, тупо вымирают или не достигают тех успехов которых достигают сообщества менее рациональных агентов.

Знаешь, я просто напомню, что ты сам написал до того, как зашла речь о связи альтруизма и рациональсти.

Nameless00 @ 16.12.2016
Возьмем сто раз обсосанную дилемму заключенного, как пример игры с ненулевой суммой.
Каждому поодиночке выгодно предать, но для обоих вместе выгодно сотрудничать.

В случае если проводится только одна сессия игры: ответ однозначный - предавать.

В случае же если проводится ряд сессий, то побеждают сотрудничающие, и умеренно злопамятные стратегии. То есть те, кто кооперируются если их не кидают, но мстят если их кидают.

Именно этот выход и отыскала эволюция для растущих сообществ наших предков (да и для многих других сообществ тоже, схожее поведение отмечено у волков, дельфинов и многих других стайных животных).
Изначально мы настроены сотрудничать, до тех пор пока не получим подтверждения что с этим конкретно типом сотрудничать не стоит, он уже пятый раз в арбитраже.

....

И мы поступаем альтруистично, потому что это повышает нашу репутацию и обеспечивает в будущем доступ к большему количеству возможностей среди людей, тех самых, которые точно так же как мы поступают, реагируют и оценивают.

Т.е. пока речь не шла о рационализме, сотрудничающие и злопятные стратегии закреплялись потому, что были индивидуально выгоднее кидающих. Мы поступали альтруистично, потому это обеспечивало нам в будущем доступ к бОльшему количество возможностей.
А теперь вдруг оказалось, что эти стратегии индивидуально невыгодны, но закрепляются благодаря иррациональности и групповому отбору (???!!!)

По-моему, кто-то очень хочет разрушить Карфаген.

Кроме того, нужно понимать, что невыгодные равновесия в играх обычно получаются потому, что на участников наложены ограничения, которые в реальной жизни значительно слабее. Например, в игре с передачей портфеля обоим игрокам достаточно подписать договор, что каждый обязуется отдать другому половину итоговой суммы, и проблема сразу решена. Если бы на это не был наложен запрет, то рациональные игроки так бы и сделали, потому что для обоих наличие такого договора выгоднее его отсутствия.

Кстати, я вообще не вижу связи между игрой с передачей портфеля и совестью. Портфель в итоге всё равно достанется кому-то одному, поэтому о каком "предательстве" тут может идти речь? Я думаю, что люди передают портфель просто потому, что в начале игры готовы рискнуть небольшой суммой, в расчёте на то, что оппонент тоже захочет рискнуть аналогичным образом.

Вообще меня даже расстраивает, что Докинз пишет целую книжку против теории группового отбора, прямая цитата.

We can now see that the organism and the group of organisms are true rivals for the vehicle role in the story, but neither of them is even a candidate for the replicator role. The controversy between ‘individual selection’ and ‘group selection’ is a real controversy between alternative vehicles...As it happens the outcome, in my view, is a decisive victory for the individual organism. The group is too wishy-washy an entity

А потом его явный поклонник заявляет, что

Потому что даже в реципрокном сообществе выгодно (рационально/правильно) быть эксплуатирующим эгоистом и невыгодно быть Недом Старком.
Но при этом сообщества эгоистов, не имеющие своих Недов Старков, тупо вымирают или не достигают тех успехов которых достигают сообщества менее рациональных агентов.

ConstOr @ 18.12.2016
вот тут вроде ошибка. Там не strictly dominant, а rationalizable. То есть это работает, когда оба агента рациональны и это common knowledge.
Понятно, что в любом жизненном примере у нас не такая ситуация.
То есть и стратегия зуб-за-зуб хорошая в большинстве сценариев, но не во всех. Допустим если все наши оппоненты всегда предают (а это Нэш эквилибриум!), то зуб-за-зуб всем им проиграет, т.к. подразумевает сотрудничество на первом ходе.

Уточню, что я и говорил только о теоретико-игровом мирке, с common knowledge и рациональностью, а конкретно о цитате БоевогоСлона, т.к. поначалу думал что эти условия там соблюдаются. Играя против обычного человека, например, очевидно глупо все раунды сразу прокидать.

Рискую разгневать местных авторитетов, но в ссылках ниже всё реально по делу, о том что, судя по всему, пытается объяснить здесь Nameless:

http://lesswrong.com/lw/del/real_world_solutions_to_prisoners_dilemmas/
http://lesswrong.com/lw/dgc/interlude_for_behavioral_economics/

Диагональное чтение - Кстати, я вообще не вижу проблемы передачи портфеля с совестью.

Nameless, подтверди, пожалуйста, здесь, что это действительно ты пишешь мне сообщения в личку, а не взломщики. Также прошу модераторов по возможности проверить, нет ли каких-то признаков, указывающих на возможность взлома. (Типа попеременных входов с разных IP или ещё чего-то, я тут небольшой спец).