Das KapitalЪ (совместный блог Nameless и Khishtaki)

Nameless00 @ 28.11.2016
Это же ничего не меняет.
Существуют люди, донатящие большую часть доходов и чувствующие себя счастливым и без рационализма. Что вообще ты хочешь доказать частным случаем то??

Изнутри, погоды для человека это никакой не делает, кроме осознания что ты такой о£уенный и эффективнее максимизируешь грубую версию своих ценностей. Зато для других людей и общества в целом польза намного больше.

И я его как пример привёл. На лессронге таких же, только лайт-версий процентов 20 от общей популяции. И думаю большую часть там и "завербовали", т.к. понятия эффективного альтруизма и Х-рисков во многом оттуда и пошли.

ZiingRR @ 28.11.2016
Изнутри, погоды для человека это никакой не делает, кроме осознания что ты такой о£уенный и эффективнее максимизируешь грубую версию своих ценностей. Зато для других людей и общества в целом польза намного больше.

А разве максимизировать пользу для общества рационально?
Разве это не дело вкуса?

Soul @ 28.11.2016
FroZer, А ученые занимаются наукой, потому что глупые и не могут заработать денег на костюм?

Нет. Ученые занимаются наукой не потому что они глупые.

Мое робкое предположение: калибровка и все такое - это как тесты IQ. Тренировка в тестах IQ позволяет тебе добиваться больших успехов в этих тестах и не более.

http://www.openphilanthropy.org/blog/efforts-improve-accuracy-our-judgments-and-forecasts/

Автор специально акцентировал внимание на исследованиях, где тестировались предсказания без лежащих в основе моделей или эмпирических данных (хоть таких и мало). Данных много, краткий вывод: от студентов Гарварда до бурильщиков скважин, у всех после тренировки с фидбэком улучшалась калибровка в (иногда даже полезном) предсказании событий.

Nameless00 @ 28.11.2016
А если сравнивать с людьми того же интеллекта, стартового уровня жизни и наличия свободного времени, то не факт что рационалисты успешнее.

БоевойСлон @ 28.11.2016
Зато сейчас у человека, открыто высказывающем сомнения в расовом равноправии, нет никаких шансов быть успешным в американском обществе

В свете недавней дискуссии о большой вероятности выхода из-под контроля создаваемого ИИ, и как следствие, опасности завоевания им человечества, хотелось бы знать, что думает и пишет наука о противостоянии белых и черных (частный случай расизма) на примере противостояния интеллекта белых и интеллекта привезенных рабов. Чем не случай противостояния интеллекта и самообучаемого интеллекта (хотя и не искусственного) ?

Почему интеллект бывших рабов (по сути призванных на службу белому населению) не смог превзойти (выйти из-под контроля) интеллекта создателей рабовладения ?

ZiingRR, а в чём разница между процедурами "улучшить калибровку" и "прокачать чуйку"?

ZiingRR @ 28.11.2016
Данных много, краткий вывод: от студентов Гарварда до бурильщиков скважин, у всех после тренировки с фидбэком улучшалась калибровка в (иногда даже полезном) предсказании событий.

Но финансовый рынок мы не бьем при этом даже суперфоркастерами.
Ну ок.

Nameless00 @ 28.11.2016
А разве максимизировать пользу для общества рационально?
Разве это не дело вкуса?

У всех нас есть свои moral intuitions, типа "убивать людей плохо", "причинять страдания плохо" и т.д. То есть, по сути желание делать что тут "хорошо" является базовыми человеческими ценностями, просто менее эгоистичными.

Но утилитаристу обязательно надо всё максимизировать. И пофиг, что из-за не чувствительности к масштабу мы, простите за тафтологию, ничего не почувствуем. Рациональность, простая арифметика и всё такое.

В крайних случаях можно дойти и до такого:
http://www.nickbostrom.com/astronomical/waste.html

ZiingRR @ 28.11.2016
У всех нас есть свои moral intuitions, типа "убивать людей плохо", "причинять страдания плохо" и т.д. То есть, по сути желание делать что тут "хорошо" является базовыми человеческими ценностями, просто менее эгоистичными.

Не является. Люди эгоистичны и вынужденно альтруистичны по отношению к самым близким своим.
Но это уже жуткий оффтоп и я вообще собираюсь осветить эту тему позже и подробно.

P.S. Более того, учитывая что показной альтруизм служит для повышения репутации в реципрокном обществе, жертвовать 90% дохода - черезвычайно нерационально, потому что такого же уровня репутации можно достичь куда дешевле.

Khishtaki @ 28.11.2016
ZiingRR, а в чём разница между процедурами "улучшить калибровку" и "прокачать чуйку"?

Результат будет один и тот же. Только процедура "улучшения калибровки" формализована и проверена на опыте. Отвечаешь на 100 вопросов, видишь что где надо отвечать "60%" ты отвечаешь "80%", аджастишься... В ряде экспериментов через пару часов испытуемые достигали почти идеальной калибрации, похоже, с переносом скилла в реальную жизнь.

А как "прокачивать чуйку" - непонятно. В реальной жизни моментального фидбэка почти нигде не бывает, а это здесь самое главное.

Nameless00 @ 28.11.2016
Если перефразировать то Слон утверждает что плохие модели лучше чем ничего, а я утверждаю что иногда плохие модели хуже чем ничего.

И в доказательство того что даже плохие модели работают лучше чем их отсутствие он привел несколько примеров из Канемана.

Я сейчас приведу несколько примеров при которых плохие модели работают хуже чем их отсутствие и думаю станет понятно что тут единичными примерами ничего не доказать (как и вообще-то везде) и опять же все остается вопросом веры.

Я вижу разницу между моими примерами и твоими, которая, возможно многое объясняет.

В моих примерах речь идёт о повторяющихся событиях, в которых нужно принимать разные решения в зависимости от ситуации. Что оценка новорожденного, что оценка солдата. И основная польза, по Канеману, от применения в таких случаях даже плохих моделей - в том, что они резко снижают зависимость решения от сиюминутного настроения. Да, ты всё равно можешь в зависимости от настроения накидать или недодать отдельные баллы. Но разброс будет меньше, чем когда ты "по чуйке" даёшь сразу интегральную оценку. От себя добавлю, что когда ты даёшь оценки в баллах, у тебя ещё и больше шансов заметить систематическую ошибку.

"Метод рационализма" при этом преследует цель, ровно противоположную тому, в чём ты его обвиняешь - снизить влияние личной предвзятости. Ты говоришь, что баллы и веса могут быть выбраны предвзято и привести к систематической ошибке. А Канеман говорит, что эта предвзятость не идёт ни в какой сравнение с предвзятостью и систематической ошибкой, которая будет при решениях по чуйке. И утверждает, что это выполняется во многих и многих сферах деятельности, и приводит больше, чем два примера, кстати. Это просто мне лень все искать и копировать.

Но во всех этих случаях нужны именно повторяющиеся события/решения, чтобы можно было сравнить результаты модели и чуйки.

Ты же выбираешь в качестве примеров единичные события. При этом ты сравниваешь модель, давшую неправильный ответ, с гипотетическим правильным. Почему-то предполагая, что по чуйке обязательно выбирается правильный ответ. Говоришь про трансгуманистов, павших жертвой своих моделей и волонтёрящих за бессмертие. Но миллиарды людей по всему миру по чуйке верят в свою религию, миллионы становятся жертвами сект. Ты говоришь про рационалиста, который может по своей модели ошибочно сесть пьяным за руль. Но тысячи и тысячи людей без всяких моделей ежегодно убивают себя и других на дорогах, потому что чуйка подсказывает им, что всё будет хорошо.

По такой же логике ты мог бы привести единичный пример, когда по шкале Апгар ошибочно решили, что ребёнку не нужна врачебная помощь - а ребёнок умер. И сказать, что к этому привела ложная уверенность. И наверняка такое бывает. Однако мы знаем, что по чуйке всё было ещё хуже. Ведь помочь тому, кто в помощи не нуждается, означает отказать в помощи кому-то другому.

Так что на мой взгляд, в твоих построениях есть логический изъян. Конечно, если ты предположил, что модель уже ошиблась, и "чуйка" уже подсказывает очевидно правильную корректировку или очевидно правильное решение, то конечно лучше поменьше верить своей модели. А если наоборот? Если модель говорит "не садись пьяным за руль", но ты выпил и тебе очень хочется. Тоже надо поменьше верить своей модели?

А вот в повторяющихся случаях, когда такой очевидно правильной корректировки нет:

Nameless00 @ 28.11.2016
4. Не про Байеса, но про вред сверхуверенности. Да он тут никогда ривером слабое велью в блеф не превратит...
Цена сверхуверенности? Зависит от лимитов.
Что стоило бы сделать? Идти на завод.

...я не понимаю, как снижение уверенности увеличит точность решения. "На всякий случай" предположить, что превратит? И почему это будет в среднем лучше? "Идти на завод" - а если модель верна, и уйдя на завод, ты откажешься от лёгкого заработка?

P.S. Отдельно добавлю, что в случае с трансгуманистами ты называешь "Байесом" то, что к теореме Байеса не имеет никакого отношения. Байес - это про модификацию убеждений в результате наблюдений. То, о чём говоришь ты - это модель рационального агента.

Nameless00 @ 28.11.2016
Не является. Люди эгоистичны и вынужденно альтруистичны по отношению к самым близким своим.
Но это уже жуткий оффтоп и я вообще собираюсь осветить эту тему позже и подробно.

P.S. Более того, учитывая что показной альтруизм служит для повышения репутации в реципрокном обществе, жертвовать 90% дохода - черезвычайно нерационально, потому что такого же уровня репутации можно достичь куда дешевле.

Ну это всё понятно. Только вот ты всё почувствуешь некоторый дискомфорт, убив незнакомца. Так что если человека волнуют чувства других людей, он осведомлён что чувства твоего знакомого ни чем ни "лучше", чем у среднего африканца, знает всю эту байду про сигналинг, то вполне рационально что-нибудь с этим сделать. Мы же в космос хотим полететь, как-никак.

Кооперация, кооперация...

БоевойСлон @ 28.11.2016
При этом ты сравниваешь модель, давшую неправильный ответ, с гипотетическим правильным

Нет, я сравниваю отсутствие ответа со сверхуверенностью.
В случае отсутствия ответа просто закладываются большие риски и больший запас прочности.

А когда у тебя сверхуверенность, базирующаяся на том что ты "все посчитал", то к чему тебе нести издержки на обеспечение запаса прочности? Это же не бесплатно.

БоевойСлон @ 28.11.2016
P.S. Отдельно добавлю, что в случае с трансгуманистами ты называешь "Байесом" то, что к теореме Байеса не имеет никакого отношения. Байес - это про модификацию убеждений в результате наблюдений. То, о чём говоришь ты - это модель рационального агента.

Так там половина почти константы которые ты хрен пересмотришь. И если у тебя априорные вероятности неверны, у тебя апостериорно получаются такие же.

Как в примере с девочкой и мороженным. Тебе надо будет сделать очень много пересмотров, чтобы ответ изменился.

И ты неявно предполагаешь, что чем бОльшие риски и чем бОльший запас прочности заложен, тем заведомо лучше. Но если это так, то зачем тогда нужно строить какую-то модель - увеличивай запас прочности до упора, и всё тут.

А если действительно надо выбирать, где увеличить запас прочности, а где не увеличивать (потому что ресурсы ограничены), то почему ты считаешь, что это лучше делать по чуйке, а не с помощью моделей?

Ты можешь перейти на следующий уровень и сказать, что применение моделей уменьшит общий объём ресурсов, направляемый на обеспечение запаса прочности.

Но я точно так же спрошу - ты исходишь из того, что чем больше этот общий объём, тем заведомо лучше? Тогда зачем отдавать модели оценку общего объёма - выделяй всё что есть, а потом решай как распределить.

Nameless00 @ 28.11.2016
Так там половина почти константы которые ты хрен пересмотришь. И если у тебя априорные вероятности неверны, у тебя апостериорно получаются такие же.

Как в примере с девочкой и мороженным. Тебе надо будет сделать очень много пересмотров, чтобы ответ изменился.

Если они ничего не пересматривают, значит они не применяют к теорему Байеса, и значит их теория не имеет к нему отношения :).

Байес может быть применён только для модификации вероятностей и величин участвующих в их вычислении. И только при наличии нескольких моделей этих вероятностей, из которых мы выбираем. В примере девочки и мороженого они просто постулируют вероятности и не изменяют их, значит они Байеса не применяют.

Этот вопрос определения неважен с точки зрения выводов, просто согласие в терминах позволит нам лучше понимать друг друга.

БоевойСлон @ 28.11.2016
Но я точно так же спрошу - ты исходишь из того, что чем больше этот общий объём, тем заведомо лучше? Тогда зачем отдавать модели оценку общего объёма - выделяй всё что есть, а потом решай как распределить.

Я исхожу из того, человек действительно хочет вычислить оптимальный запас прочности. Если на самом деле цель его модели - это обосновать как можно меньшие затраты, избежав риска уголовной ответственности, если он заранее уже выбрал ответ и подгоняет под него модель - тогда конечно такая модель принесёт вред.
Но я бы не стал ругать за это рационализм :)

БоевойСлон @ 28.11.2016
Если они ничего не пересматривают, значит они не применяют к теорему Байеса, и значит их теория не имеет к нему отношения :).

Байес может быть применён только для модификации вероятностей и величин участвующих в их вычислении. И только при наличии нескольких моделей этих вероятностей, из которых мы выбираем. В примере девочки и мороженого они просто постулируют вероятности и не изменяют их, значит они Байеса не применяют.

Этот вопрос определения неважен с точки зрения выводов, просто согласие в терминах позволит нам лучше понимать друг друга.

Да знаю я, просто опустил детали лишние.

Я про то, что если условно твоя приблизительная оценка ценности миллион, а истинная сто, то тебе надо очень долго и упорно пересматривать и пересматривать, пока ты приблизишься к истине.

Потому что происходящие события, из-за которых ты корректируешь вероятности, совсем незначительны по сравнению с изначальной (неверной) оценкой бессмертия или жизни дочки.

И этот процесс не может не занять достаточно долгое время.

Nameless00 @ 28.11.2016
Да знаю я, просто опустил детали лишние.

Я про то, что если условно твоя приблизительная оценка ценности миллион, а истинная сто, то тебе надо очень долго и упорно пересматривать и пересматривать, пока ты приблизишься к истине.

Потому что происходящие события, из-за которых ты корректируешь вероятности, совсем незначительны по сравнению с изначальной (неверной) оценкой бессмертия или жизни дочки.

И этот процесс не может не занять достаточно долгое время.

Ты объединил оценку ценности и оценку вероятности. Оценки ценностей обычно не участвуют в вычислении вероятностей, поэтому их нельзя корректировать с помощью теоремы Байеса.

Если ты говоришь про корректировку (ошибочной) вероятности достичь бессмертия, то для этого нужно
а) Несколько конкурирующих моделей с присвоенными априорными вероятности и разными оценками вероятности бессмертия.
б) Эти модели должны оценивать вероятности каких-то промежуточных событий, типа научных открытий и т.п.
в) По итогам промежуточных событий модифицируются априорные вероятности моделей, и следовательно, меняется итоговая оценка вероятности бессмертия.

Если трансгуманисты это делали, тогда это Байес.

БоевойСлон @ 28.11.2016
И ты неявно предполагаешь, что чем бОльшие риски и чем бОльший запас прочности заложен, тем заведомо лучше. Но если это так, то зачем тогда нужно строить какую-то модель - увеличивай запас прочности до упора, и всё тут.

Нет, я так не считаю и не понимаю как ты сделал такой вывод.

Но на самом деле это уже пустой разговор.

Если приведенные мной примеры тебе не годятся, то лучших и не будет.

Потому как "настоящий шотландец рационалист" не допустил бы таких ошибок и вообще у него нет мотивации в принципе, поэтому он не подгоняет задачи под ответ и тд и сверхуверенностью не страдают и вообще мыслят вероятностями в бинарном мире.

Но если отмотать сильно раньше, то можно увидеть что я оспариваю именно сам факт существования таких "настоящих рационалистов". И не верю в возможность мыслить вероятностями и принимать при этом решения. Потому что в бинарном мире и бинарном мозге вероятность 51% это одно основание для принятия решения, а 49% - другое.

При том что 59% и 72% это примерно одно и то же для мозга.
Поэтому я и считаю что вред от сверхуверенности зачастую больше чем польза от несколько более точного прогноза.

И опираюсь я при этом на устройство человеческого мозга и эмпирческие данные наблюдения за рационалистами прям в дикой природе.

Это мое мнение личное, эмоциональное и моими силами недоказуемо, а твоими не опровергаемо.
Так что спор пустой.