Das KapitalЪ (совместный блог Nameless и Khishtaki)

Nameless00, почитай это: http://intelligenceexplosion.com/ru/2011/why-spock-is-not-rational/.

Кстати, если считаешь что Юдковский излучает слишком много пафоса, подумай о том что будущему ИИ придётся таки натягивать сову на глобус.

Key @ 17.11.2016
Ха ха, ну до Юнга с архетипами ему далеко)) Основная мысль, что у людей эмоции это достаточно верный способ делать предсказания в большинстве случаев. А некоторые из них по чуечке полмира захватить могут или на хайстейкс играть. Но есть и такие у кого одни проблемы от эмоций, ну и все остальные где то посередине.

Ну у некоторых проблемы с тригонометрией или с варкой борща. Может конечно у них тригонометрического или борщевого интеллекта не хватает...

ZiingRR @ 17.11.2016
Nameless00, почитай это: http://intelligenceexplosion.com/ru/2011/why-spock-is-not-rational/.

Кстати, если считаешь что Юдковский излучает слишком много пафоса, подумай о том что будущему ИИ придётся таки натягивать сову на глобус.

В следующий раз я тоже дам тебе ссылку на книгу и предоставлю самому догадываться какой же именно аспект или тезис из этой книги я имел в виду.
А когда догадаешься и попробуешь как-то этот тезис прокомментировать, дам ссылку на еще одну книгу.

И это еще не считая того, что я все именно это уже читал и именно эти аргументы и подвергал сомнению.

Есть известная в интернетах схема:

1. Collect underpants
2. ???
3. Profit

На место ??? кто-то подставляет духовность, кто-то следование воле божьей, кто-то вот рациональность.
Я не подвергаю сомнению схему в целом, может она и норм.

Я не уверен в том, что описываемая лессронгом рациональность годится в качестве этого ??? и вообще достижима человеком.

То есть формулировка "рациональное поведение, это такое поведение при котором ты чаще выигрываешь" конечно хороша.
А если ты не выигрываешь чаще, то это не рациональное поведение. Ну заебись.

Как сказал бы Димок, наживать в ставках очень легко, надо просто на доездное ставить побольше, а на недоездное поменьше или совсем не ставить. Элементарно же.
Всем мышам надо превратиться в ежиков.

Но я пока не вижу чтобы толпы рационалистов поработили мир пользуясь своим преимуществом в том, что они то принимают верные решения в отличие от остальных.

Я вообще куда чаще наблюдаю сценарий что кто-то уже успешный заявляет что теперь он рационалист, чем наоборот. Если честно, я пока ни одного наоборот то и не видел.

В связи с чем извини, но я по прежнему сомневаюсь в том, что декларируемыми на лессронге методами можно прийти к заявленным на лессронге целям.

Теперь про угрозу ИИ.

Кто-то считает делом всей своей жизни борьбу за леса Амазонии, без которых мы все задохнемся.
Кто-то борьбу с глобальным потеплением при котором нас всех смоет.
Кто-то борьбу за духовность, без которой мы все станем гомиками и вымрем.
Кто-то останавливает старение, кто-то укрощает СПИД, кто-то вот работает над безопасным ИИ.
Кто-то вон вообще стену от мексиканцев строит.

Каждый из них считает что его задача наиболее важна для человечества.

Ну ок, это здорово что все эти люди думают обо мне и за меня.

Но я ведь не буду заниматься ничем из этого, не пожертвую туда (за неимением) никаких меняющих ситуацию денег и сдохнем ли мы от отсутствия кислорода, избытка воды или расщепления на атомы наноассемблерами - от меня совсем никак не зависит.
Если человечество победит эти проблемы - ну ок, я еще поживу. Если нет, ну ок, сдохну как и все.

И я почему то подозреваю что никто на этом форуме не окажет никакого значимого воздействия на ситуацию. Даже хайроллеры.

Поэтому для меня почитать об угрозах ИИ прикольно, но что с того?
Я все равно недостаточно компетентен ни для того чтобы подтвердить их, ни для того чтобы опровергнуть.
На моем уровне компетентности это вопрос веры. И более того, вопрос веры, которая еще и ничего не поменяет.

Так что на рациональном уровне мне пофиг.

А жопочувство лимбическая система моя говорит мне что начинания проистекающие таким образом редко заканчивались чем-то кардинально полезным, и куда чаще заканчивались тем что кто-то чего-то заработал.

Да я не против, пускай зарабатывают. Не на мне же.

Nameless00 @ 16.11.2016
Шах и мат, господа рационалисты.

Вот теперь пора

Один мой знакомый покерный бизнесмен любил захаживать в логово Тигра и подёргивать того за усы. В итоге бизнесмен утратил свою покерную Империю.

Но одновременно пинать Тигра в живот, отрезать ему кончик хвоста и протыкать степлером ухо не решался даже тот бизнесмен, хотя в целом он чувствовал себя вполне уверенно...

Держись там, короче, удачи.

Nameless00 @ 17.11.2016
что такое мудрость не знаю.

Мы заметили:-). Мудрость - это так не делать:-)

По-моему, рационализм - это какой-то синоним слову цинизм.

Рационалисты, которые топят за защиту от ИИ - похожи на людей, которые осознали насколько цинично они относятся к окружающим. А теперь боятся что и ИИ отнесется к человечеству так же.
И с этим аргументом трудно поспорить. Но он мало интересен людям с нормально развитой эмоциональной сферой.

Nameless00, Так ZiingRR правильную ссылку дал. Ты вложил какой-то свой смысл в понятие рационализм и с ним споришь, а не с тем, что Юдковски вкладывает в это слово. Понятно, что самому с собой спорить легко и ты всегда побеждаешь :). Тоже самое с применением Баеса. Тут вообще примеров накидать легко. Допустим, пришел дедок за стол и ты его определил в типичного среднего фиша. Сколько тебе нужно шоудаунов или раздач, чтобы более точно определить тип фиша? Просто ты наверняка это делаешь по чуечке, но человек в мозгу постоянно обновляет оценки и вероятности. Это и есть Баес.

Soul @ 17.11.2016
Nameless00, Так ZiingRR правильную ссылку дал. Ты вложил какой-то свой смысл в понятие рационализм и с ним споришь, а не с тем, что Юдковски вкладывает в это слово. Понятно, что самому с собой спорить легко и ты всегда побеждаешь :). Тоже самое с применением Баеса. Тут вообще примеров накидать легко. Допустим, пришел дедок за стол и ты его определил в типичного среднего фиша. Сколько тебе нужно шоудаунов или раздач, чтобы более точно определить тип фиша? Просто ты наверняка это делаешь по чуечке, но человек в мозгу постоянно обновляет оценки и вероятности. Это и есть Баес.

Так по ссылке туда вкладывают смысл "за все хорошее против всего плохого".
Правильные решения рациональны, неправильные нет.

Но если ты вкратце сможешь изложить что же на самом деле вкладывает в это слово Юдковски чего я не упомянул - велкам.

Человек в мозгу постоянно обновляет оценки, это да. Когда наши прогнозы начинают лажать - мы даем другие.

А с чего ты взял что он в мозгу еще и вероятности имеет и обновляет?
Разве есть основания полагать что мы там, в мозгу, в лимбической нашей системе, не бинарны?

Khishtaki @ 17.11.2016
Один мой знакомый покерный бизнесмен любил захаживать в логово Тигра и подёргивать того за усы. В итоге бизнесмен утратил свою покерную Империю.

Но одновременно пинать Тигра в живот, отрезать ему кончик хвоста и протыкать степлером ухо не решался даже тот бизнесмен, хотя в целом он чувствовал себя вполне уверенно...

Держись там, короче, удачи.

Ну мне проще, у меня нет покерной империи, так что мне нечего терять кроме собственных оков.
Могу себе позволить.

Nameless00, Если упрощать, то рационализм это умение избавиться от biases там, где тебе этого хочется. Это ведёт к тому, что ты формируешь правильную (для себя) оценочную функцию и обрубаешь биас при Ее использовании там, где тебе это нужно.

Про вероятность отвечу примером. Пришёл молодой человек за твой стол и сыграл одну плохонькую раздачу. Ты же не будешь считать сразу, что он супер фиш после одной раздачи. Но и вероятность того , что он топрег тоже понижается.

Soul @ 17.11.2016
Если упрощать, то рационализм это умение избавиться от biases там, где тебе этого хочется.

А как называется умение самообманываться что тебе удалось избавиться от biases там, где тебе этого хочется?
И как отличить это умение от рационализма?

Soul @ 17.11.2016
Про вероятность отвечу примером. Пришёл молодой человек за твой стол и сыграл одну плохонькую раздачу. Ты же не будешь считать сразу, что он супер фиш после одной раздачи. Но и вероятность того , что он топрег тоже понижается.

Хорошо. Вероятность того что он топрег понижается. А потом мы играем с ним раздачу в которой мне выгодно принять одно решение если он топрег и другое если он суперфиш.
И что мне делать?

Soul, ты приводишь ситуации, где человек ведет себя рационально независимо от знания/не знания всех этих biases. Накидай лучше примеров, где статьи с лессвронг тебе помогают принимать правильные решения.

Nameless00, Ну все так же. Анализируя свои чувства и поступки, изучая. Ты говоришь, что нельзя быть на 100% рациональным. Я согласен - нельзя. Но если двигаться в этом направлении, то это будет +ев в любом случае.

Ну покер же не черно белый. В этой раздаче ничего не делать - гадать. А есть раздачи, где это тебе даст эдж. Например делать пограничный кол или нет. А если ты увидишь несколько плохих раздач, то поймёшь, что он не топ рег и твой эдж вырастеи

Optimist1945, Мне не нравится как пишет Юдковски. В его интерпретации все менее понятно, чем в оригинале. Прочтение Канемана или Чалдини мне дало довольно много. Я стал лучше понимать людей и свои действия:

Ну вот пример: на ривере в меня летит ставка. Я начинаю размышлять и прихожу к выводу, что колл - примерно околонулевой. Однако, затем я перехожу на второй слой размышления, и аналзирую, а чего мне больше хочется - кольнуть или паснуть. И если могу определить моё желание в данной ситуации, то выбираю наименее желательное решение.

Правда делал я так, сколько себя помню, и без всякого Юдковски.

Soul, люди которые ходят к психоаналитакам тоже начинают лучше понимать людей и свои действия, можешь привести примеры(желательно непокерные, так как покер все же напрямую смязан с вероятностями) где Байес и книга Канемана(пусть не лессвронг, не суть) тебе принесли практическую пользу?

Nameless00 @ 17.11.2016
А как называется умение самообманываться что тебе удалось избавиться от biases там, где тебе этого хочется?
И как отличить это умение от рационализма?

По % принятых верных решений, обв! Т.е. самые лучшие рационалисты современности - Путин и Трамп:-)

Nameless00 @ 17.11.2016
1. Эмоции - достаточно верный способ делать предсказания в большинстве случаев.

Или недостаточно верный. Или достаточно сильно неверный, чтобы прибегать к альтернативным способам тогда, когда это возможно.

Nameless00 @ 17.11.2016
Это работало все наше человеческое бытие.

Или всё наше человеческое бытие работало не только это (в конце концов, рациональность не изобретена Канеманом, Юдковски, или даже Байесом).

Nameless00 @ 17.11.2016
2. Действительно полностью рациональное решение по большинству предметов принять невозможно, потому что слишком много факторов которые невозможно привести к числовой форме или единому знаменателю.
3. Поэтому даже когда нам кажется что мы принимаем рациональное решение - там все равно дохрена допущений. Ну как в конструируемых нами диапазонах оппов.

Верно. Но это не значит, что не нужно приводить к единому знаменателю даже те факторы, которые возможно, а уже потом отдать решение на откуп лимбической системе. Энтропия всё равно уменьшится, а вероятность правильного решения увеличится.

Nameless00 @ 17.11.2016
4. Но если ты умный и читал про рационализм и все такое - то возрастает шанс того что после всех своих "подсчетов" ты получишь ложную уверенность в том что у тебя есть объективно верное решение.

Не вижу оснований считать, что шанс возрастает. Если, конечно, речь о настоящем рационалисте, а не просто о самонадеянном эксперте/авторитете. Рационалисты больше знают про когнитивные искажения, в курсе того, что сами им подвержены и что некоторым из них подвержены в бОльшей степени, нежели менее компетентные люди. Предполагается, что рационалист приложит усилия, чтобы их избежать.