Das KapitalЪ (совместный блог Nameless и Khishtaki)

БоевойСлон @ 29.11.2016
Тут явно недостаточно информации. Где выигрыши и проигрыши от правильных и неправильных ставок? Есть ли комиссия? Кто предлагает события, на которые можно ставить?

Да неважно. Ну пусть будет выплата 1 к 1 без комиссии.
Предлагает события господь бог и он все знает.

Soul @ 29.11.2016
Этот ответ не дает никакой новой информации. Что такое достаточная точность и недостаточная?

Достаточная - позволяющая добиваться на дистанции значимо лучших результатов включая риски.
Недостаточная - очевидно не позволяющая.

Риски включают в себя риски принятия ошибочного и дорогого решения на основании ложной уверенности.

И краеугольное мое утверждение - что иногда (зачастую?) ложная уверенность влечет за собой бОльшие ошибки.

Nameless00, Ну а я уверен, что на дистанции примерная численная оценка факторов - это приличное +ЕВ.

Nameless00 @ 29.11.2016
Но мои модели ты считаешь слишком грубыми, а я твои слишком выборочными.

Так ты ни одной полной модели не привёл. Все твои примеры были "предположим, что модель показала так, а на самом деле эдак".

Если же ты о трансгуманистах, то моё мнение, что модели типа вероятность+полезность надо применять к классам повторяющихся похожих ситуаций, а не к единичному важному решению. Потому что основной плюс моделей - от снижения дисперсии, вызванной нашим настроением и от возможности обнаружить систематическую ошибку.

Криогеника, трансгуманизм - тут модели, основанные на полезности, не особо помогут.

Nameless00 @ 29.11.2016
Была ли плоха модель предписывающая вырезать всем детям аппендицит в грудном возрасте?

Полезность аппендицита 0 (по имеющимся на тот момент данным).
Шанс воспаления аппендицита некое отрицательное число.
Решение же очевидно.

Не указан вред от факта операции вырезания аппендикса в грудном возрасте (независимо от полезности самого аппендикса) и возможности осложнений, что является в моём понимании явной логической ошибкой (это не в твой адрес, понятно что это всего лишь пост). Буду считать, что он указан и учтён.

Ты имеешь в виду, что потом оказалось, что аппендикс полезен?
Значит, в данном случае эта модель ошиблась.

Но ты снова говоришь о единичном решении - вырезать ли всем детям аппендикс - про которое ты постфактум знаешь, что модель ошиблась. А нужно говорить о классах сходных решений, к которым применяется модель. Близким к этому решению я считаю вопрос о прививках. Модель такая же:
1) Присваиваем отрицательные полезности факту прививки, факту осложнений от прививки, факту болезни в случае отсутствия прививки.
2) Проводим исследования для вычисления вероятностей.
3) Считаем итоговую полезность и принимаем решение, делать ли массовые прививки,.
4) По возможности продолжаем исследования для уточнения полезностей и вероятностей.

Аналогичную модель применяем к аппендициту и другим превентивным операциям типа той, которую Джоли себе сделала.

Эту модель я считаю НАМНОГО лучшей, чем отдельное решение по чуйке в случае каждой болезни. И НАМНОГО лучшей, чем решение "мы пока недостаточно знаем, поэтому давайте пока не будем никому ни прививок делать, ни аппендикс вырезать. А то вдруг у нас ложная уверенность."

Nameless00 @ 29.11.2016
Да неважно. Ну пусть будет выплата 1 к 1 без комиссии.
Предлагает события господь бог и он все знает.

Тогда я не вижу проблем в твоей модели, если можно выбирать, ставить на событие или его отрицание. Мы будем чаще давать оценку 50+ тем событиям для которых это верно. Если бог захочет специально подбирать события, в оценке которых мы будем ошибаться - что же, он мог поиметь нас и любым другим способом.

Soul @ 29.11.2016
Nameless00, Ну а я уверен, что на дистанции примерная численная оценка факторов - это приличное +ЕВ.

Ну вот мы рационально и поговорили.

Но я б не отказался увидеть результаты этого ЕВ, потому что в тех рационалистах которых я встречал (включая всех на этом форуме, я его не нашел).

БоевойСлон @ 29.11.2016
Тогда я не вижу проблем в твоей модели, если можно выбирать, ставить на событие или его отрицание. Мы будем чаще давать оценку 50+ тем событиям для которых это верно.

Можно либо ставить либо не делать ставку. На вероятность того что событие не произойдет ставить нельзя.

Тогда ставящий на основании правильной модели > не ставящего вообще > ставящего на основании неправильной модели.

БоевойСлон @ 29.11.2016
и от возможности обнаружить систематическую ошибку.

А без моделей значит опция исправить систематические ошибки на повтояющихся событиях нам недоступна?

Чем "сделали плохую модель > увидели что результаты ухудшились > изменили модель" отличается от
"Приняли плохое решение > увидели что результаты ухудшились > приняли решение лучше"?.

А вообще ты же математик. Чего ты буковками споришь?
Может предложишь модель полезности неточных моделей, включающую в себя коэффициент уверенности и коэффициент точности.

Для "рационалиста" будет больше порог при котором он делает ставку (например ставит от уверенности 50.01%), но меньше средняя ошибка.

Для чуечника будет меньше порог уверенности (например ставит от уверенности 60%), но больше средняя ошибка.

А делать или не делать ставку пусть решение будет бинарное. Как и событие.

Тогда и посмотрим, не найдется ли таких соотношений кэфа уверенности по отношению к кэфу точности, при котором выгоднее делать мало сильно неточных ставок чем много слабо неточных.

БоевойСлон @ 29.11.2016
Но ты снова говоришь о единичном решении - вырезать ли всем детям аппендикс - про которое ты постфактум знаешь, что модель ошиблась.

А мы щас превратим единичное решение в многократное. Делов то.

Модель учитывает:
1. Полезность аппендикса - 0.
2. Вред от возможных осложнений - зависит от здоровья ребенка, отрицательная переменная. Пусть будет браться по шкале Апгар ;)
3. Пользу от того что аппендикс не воспалится позже - положительная константа.

В результате работы этой модели часть детей будет прооперирована, часть нет, логических ошибок в ней нету, кроме той что в первом пункте у нас очень неверное число.

Примерно так оно и работало на практике. Недоношенных же не оперировали например.

Это по прежнему не годится как пример плохой, неверной, модели?

P.S. Самое главное что ты по прежнему можешь сколько угодно настраивать шкалу Апгар, меняя тем самым количество прооперированных, и снижая таким образом смертность во время операций, но при этом не приблизишься к правильному поведению в этой ситуации до тех пор, пока не откроют пользу аппендикса и у тебя не появятся основания поменять ценность пункта 1.

Nameless00 @ 29.11.2016
А вообще ты же математик. Чего ты буковками споришь?
Может предложишь модель полезности неточных моделей, включающую в себя коэффициент уверенности и коэффициент точности.

Для "рационалиста" будет больше порог при котором он делает ставку (например ставит от уверенности 50.01%), но меньше средняя ошибка.

Для чуечника будет меньше порог уверенности (например ставит от уверенности 60%), но больше средняя ошибка.

ОК! Не будем возиться с дисперсией, просто предположим, что когда рационалист даёт оценку вероятности, она с равной степенью будет ровно на Х% больше или меньше истинной, и он ставит от оценки 51%. У чуечника точность +/-Y%, и он ставит от оценки 60%. Имеются ввиду процентные пункты: 40%+/-10% - это или 30%, или 50%.

Для простоты предположим, что истинная вероятность не может быть меньше Y или больше 90%-Y, чтобы не получались оценки больше 100%. И, что важно, события с вероятностью P попадаются так же часто, как события с вероятностью 1-P. (Этого можно добиться, бросая монетку и решая, оценивать событие или его отрицание). Обоим игрокам предлагается одна и та же последовательность из N предложенных ставок.

Если тебя устраивают эти условия, я готов завтра решить задачу, кто побеждает, в зависимости от свойств распределения P, и от Х и Y. Но у меня просьба - предположи заранее, как примерно будет выглядеть ответ. Озвучивать своё предположение или нет - решай сам, но для себя его зафиксируй. И если твоя интуиция окажется совсем неверной (по твоей собственной оценке), то я надеюсь, что искренне поставишь под сомнение правильность своей интуиции в обсуждаемом вопросе в целом. Опять же писать об этом необязательно.

Пойдёт так?

Nameless00 @ 29.11.2016
А мы щас превратим единичное решение в многократное. Делов то.

Модель учитывает:
1. Полезность аппендикса - 0.
2. Вред от возможных осложнений - зависит от здоровья ребенка, отрицательная переменная. Пусть будет браться по шкале Апгар ;)
3. Пользу от того что аппендикс не воспалится позже - положительная константа.

В результате работы этой модели часть детей будет прооперирована, часть нет, логических ошибок в ней нету, кроме той что в первом пункте у нас очень неверное число.

Примерно так оно и работало на практике. Недоношенных же не оперировали например.

Это по прежнему не годится как пример плохой, неверной, модели?

P.S. Самое главное что ты по прежнему можешь сколько угодно настраивать шкалу Апгар, меняя тем самым количество прооперированных, и снижая таким образом смертность во время операций, но при этом не приблизишься к правильному поведению в этой ситуации до тех пор, пока не откроют пользу аппендикса и у тебя не появятся основания поменять ценность пункта 1.

Да, эта модель оказалась ошибочной. Но если правильная ценность пункта 1 действительно близка к нулю, а ты никого или почти никого не будешь оперировать, боясь, что медицина ошибается, то вообще никогда не приблизишься к правильному поведению.

Поэтому я и предлагаю думать о классах сходных ситуаций - прививках, других превентивных операциях. Там ведь тоже полной информации нет. Значит ли это, что мы и там не должны ничего делать? В целом по таким ситуациям, что получится лучше - всегда действовать по модели, основанной на текущих знаниях, или всегда ничего не делать? Или какой ты предлагаешь вариант принятия решений?

Nameless00 @ 29.11.2016
А без моделей значит опция исправить систематические ошибки на повтояющихся событиях нам недоступна?

Чем "сделали плохую модель > увидели что результаты ухудшились > изменили модель" отличается от
"Приняли плохое решение > увидели что результаты ухудшились > приняли решение лучше"?.

Я думаю, что без моделей это гораздо сложнее. Потому что с моделью ты осознаешь, какие факторы какой вклад у тебя вносят. Больше шансов заметить источник ошибки.

А когда у тебя решение основано на чуйке (т.е. фактически на эмоциях), как ты можешь это исправить? Ты всегда будешь чрезмерно зависим от перепадов настроения.

БоевойСлон, правильно ли я понимаю, что, по-твоему, настроение как явление психики несет отрицательную функциональную нагрузку для современного человека?

Nameless00 @ 29.11.2016
Ну вот мы рационально и поговорили.

Но я б не отказался увидеть результаты этого ЕВ, потому что в тех рационалистах которых я встречал (включая всех на этом форуме, я его не нашел).

Примеры результатов я и Слон тут приводили, но тебе они почему-то не подошли. Весь современные покер это подобная примерная оценка вероятностей.

БоевойСлон @ 29.11.2016
ОК! Не будем возиться с дисперсией, просто предположим, что когда рационалист даёт оценку вероятности, она с равной степенью будет ровно на Х% больше или меньше истинной, и он ставит от оценки 51%. У чуечника точность +/-Y%, и он ставит от оценки 60%. Имеются ввиду процентные пункты: 40%+/-10% - это или 30%, или 50%.

Для простоты предположим, что истинная вероятность не может быть меньше Y или больше 90%-Y, чтобы не получались оценки больше 100%. И, что важно, события с вероятностью P попадаются так же часто, как события с вероятностью 1-P. (Этого можно добиться, бросая монетку и решая, оценивать событие или его отрицание). Обоим игрокам предлагается одна и та же последовательность из N предложенных ставок.

Если тебя устраивают эти условия, я готов завтра решить задачу, кто побеждает, в зависимости от свойств распределения P, и от Х и Y. Но у меня просьба - предположи заранее, как примерно будет выглядеть ответ. Озвучивать своё предположение или нет - решай сам, но для себя его зафиксируй. И если твоя интуиция окажется совсем неверной (по твоей собственной оценке), то я надеюсь, что искренне поставишь под сомнение правильность своей интуиции в обсуждаемом вопросе в целом. Опять же писать об этом необязательно.

Пойдёт так?

То, о чем вам еще нужно договориться при такой формулировке - это склонность к риску. Для риск-нейтральных и рискофилов очевидно, что агент, ставящий чаще и имеющий меньший разброс в оценках, будет в выигрыше.

ZiingRR @ 28.11.2016
Результат будет один и тот же. Только процедура "улучшения калибровки" формализована и проверена на опыте. Отвечаешь на 100 вопросов, видишь что где надо отвечать "60%" ты отвечаешь "80%", аджастишься... В ряде экспериментов через пару часов испытуемые достигали почти идеальной калибрации, похоже, с переносом скилла в реальную жизнь.

Интересно... Я могу где-то пройти эту процедуру в интернете, бесплатно и быстро? Если это можно сделать ещё и на русском языке - будет совсем хорошо. А вот если для этого надо будет прочитать весь лессронг - это будет плохо :(

Кстати, ты знаком с modus operandi дианетиков? "улучшением калибровки" навеяло.


А по сути дискуссии, мне кажется, вы всё-таки упускаете главное. А главное заключается в том, что все методы рационализма (по крайней мере все те, которые мне известны) оперируют только в поле не просто конечных, а даже перечислимых событий, критериев, параметров и всего прочего. А события реального мира если не бесконечны, то по крайней мере НЕперечислимы для человека. А аппарат для работы с бесконечными (неперечислимыми) объектами вовсе не обязательно можно получить, если просто отмасштабировать успешный аппарат для работы с перечислимыми. Вот это - на мой взгляд основное упущение Учения и Рациональности, и одновременно главная его опасность: вы толком не обдумали (не доказали), что масштабирование годится, но уже пытаетесь его применять.
Яркий пример - теорема (не помню кого) про то, что два рациональных агента не могут не прийти к согласию. Это же выполняется только в перечислимом мире, но очевидно неверно в бесконечном!

Вам шах, готов ознакомиться с доказательством того, что масштабирование возможно, и что ваши методы работают с бесконечностью.

Я не думаю, что надо что-то доказывать, пока ты не предложил альтернативный метод и не привёл хотя бы минимальные доводы в пользу его эффективности при работе с бесконечностью.

А то это слишком удобный приём - постоянно возлагать бремя доказательства на оппонентов.

Khishtaki @ 29.11.2016
Интересно... Я могу где-то пройти эту процедуру в интернете, бесплатно и быстро? Если это можно сделать ещё и на русском языке - будет совсем хорошо. А вот если для этого надо будет прочитать весь лессронг - это будет плохо :(

Кстати, ты знаком с modus operandi дианетиков? "улучшением калибровки" навеяло.

Видел только на английском:
http://acritch.com/credence-game/

Насчёт дианетики ничего особо не знаю.

БоевойСлон @ 29.11.2016
Я не думаю, что надо что-то доказывать, пока ты не предложил альтернативный метод и не привёл хотя бы минимальные доводы в пользу его эффективности при работе с бесконечностью.

А то это слишком удобный приём - постоянно возлагать бремя доказательства на оппонентов.

Очень упрощённо. Вы говорите: "чтобы принять решение, надо взвесить все факторы". Я задаю вопрос: "а как решить саму задачу отбора факторов?". По-моему, очевидно, что ответить должны вы, разве нет?

Мы же это уже проходили. Чтобы побить чуйку в большом классе задач, необязательно учитывать все факты, и отбирать их с абсолютной точностью. Не надо постоянно приписывать "нам" требование взвесить все факторы.

Khishtaki, про дианетику прикольные параллели. Они кроме того что постоянно калибруются, ещё и выглядят успешнее чем средний по популяции, а какие у них рубашки глаженные... Ксену одобряет

Рационально ли рационалистам доказывать Nameless00, если очевидно, что с большой долей вероятности он свою точку зрения не поменяет? (Я на это не более 5% даю, но то на глазок, без Байеса)

А так, очень интересно читать, продолжайте.

БоевойСлон @ 29.11.2016
Чтобы побить чуйку в большом классе задач, необязательно учитывать все факты, и отбирать их с абсолютной точностью.

вот это утверждение совершенно неочевидно. Почему отбор части факторов, зато более точная (но не абсолютная) их оценка побивает менее точную оценку зато по более широкому полю факторов???

Я готов принять как общетеоретические, так и эмпирические доказательства, но во втором случае, естественно, кейсы должны быть действительно многокритериальными (не покер).