Комментарии к колодцу Феруэлла

похоже, кроме создания самой оценочной функции, потребуется создать ещё функцию, оценивающую, сколько атомов в окружающем пространстве переменных ей рационально учитывать для рациональной работы

А вообще, рационализм в жизни - он же не о том, чтобы точно вычислять функцию полезности, оценивать её матожидание при каждом возможном действии, непосредственно применять теорему Байеса и т.п. Рационализм - он о принципах мышления, о типичных логических ошибках, которых надо избегать, и т.д. А все эти математические понятия - это способ описания этих принципов. Просто человеку с техническим образованием проще понять, усвоить и поверить в эти принципы, когда они описаны математическим языком.

Плюс изложение на математическом языке даёт гарантию отсутствия логических противоречий.

Поэтому мне и неинтересно углубляться в эту математику, т.к. суть-то не в ней. Ну не можем мы точно вычислить функцию полезности - так мы и не собирались её вычислять в реальной жизни.

ConstOr, какие нахрен атомы??? Функция полезности - это функция от набора нематериальных целей, как ты этот набор атомами мерить собрался???

Сколько атомов в "риске сдохнуть от атомной бомбы", "удовольствия от погладить собаку" и "наслаждения от прослушивания первого концерта Прокофьева для фортепиано с оркестром?"

begiLoLabegi @ 19.10.2016
Как вообще можно говорить что умер отец и тебе пох ,или умрет ребёнок и будет пох. Вырастишь вот такого, х.з. как назвать .

Есть простая логическая схема, о которой "неприятно читать" многим людям. Могу коротко её обрисовать. В центре системы Я-Солнце, ближайшая к нему планета - Меркурий-супруг, на той же орбите Меркурий-дети. По мере удаления мы, например, столкнёмся с Юпитером, определяющим нашу расовую идентичность. На некотором расстоянии от Юпитера находится Сатурн-пол. Подобравшись к Урану, мы пересекаем точку, которая объединяет всех людей, как вид. Ну, а Нептун символически воссоединяет всех живых существ.

Всё это не более, чем степени близости к условному Я-Солнцу. Конечно, существует "радиационный" фон, непосредственная близость к сильному источнику которого вносит в эту стройную схему некоторые коррективы. Однако, в любом случае, существуют простые примеры, поясняющие изъяны твоего мышления. Чувствуешь ли ты вину за то, что у тебя намного больше общего с людьми, чем с крокодилами? Быть может, ты принадлежишь к тем шовинистам, которые считают, что этот мир создан мужчинами и для мужчин? Или, скажем, как заурядный расист при прочих равных ты отдашь предпочтению белому человеку, а не какому-то негру? Ещё, быть может, скажешь, что тебе важнее участь твоих детей, а не беженцев из Афганистана? Так через разные степени приближения к Я можно обнаружить много интересных вещей: кто-то всё переворачивает с ног на голову и концентрируется на дальних орбитах - и это тема для отдельного разговора, но чаще можно встретить людей, которые презирают внешнюю область Солнечной системы, но ужасаются утрате силы притяжения с Меркурием.

Я, кстати, не разделяю тотальную утрату связей Солнца со всеми планетами. Напротив, достаточно остро чувствую каждую планету. Однако, какой-то страшной патологии в пренебрежительном отношении к родственным связям я не вижу. Всё идёт к тому, что гравитационная общественная модель себя исчерпает. Очень может быть, люди будущего станут относиться к любящим родителям как к расистам.

iow @ 19.10.2016
Есть простая логическая схема, о которой "неприятно читать" многим людям. Могу коротко её обрисовать. В центре системы Я-Солнце, ближайшая к нему планета - Меркурий-супруг, на той же орбите Меркурий-дети. По мере удаления мы, например, столкнёмся с Юпитером, определяющим нашу расовую идентичность. На некотором расстоянии от Юпитера находится Сатурн-пол. Подобравшись к Урану, мы пересекаем точку, которая объединяет всех людей, как вид. Ну, а Нептун символически воссоединяет всех живых существ.

Всё это не более, чем степени близости к условному Я-Солнцу. Конечно, существует "радиационный" фон, непосредственная близость к сильному источнику которого вносит в эту стройную схему некоторые коррективы. Однако, в любом случае, существуют простые примеры, поясняющие изъяны твоего мышления. Чувствуешь ли ты вину за то, что у тебя намного больше общего с людьми, чем с крокодилами? Быть может, ты принадлежишь к тем шовинистам, которые считают, что этот мир создан мужчинами и для мужчин? Или, скажем, как заурядный расист при прочих равных ты отдашь предпочтению белому человеку, а не какому-то негру? Ещё, быть может, скажешь, что тебе важнее участь твоих детей, а не беженцев из Афганистана? Так через разные степени приближения к Я можно обнаружить много интересных вещей: кто-то всё переворачивает с ног на голову и концентрируется на дальних орбитах - и это тема для отдельного разговора, но чаще можно встретить людей, которые презирают внешнюю область Солнечной системы, но ужасаются утрате силы притяжения с Меркурием.

Я, кстати, не разделяю тотальную утрату связей Солнца со всеми планетами. Напротив, достаточно остро чувствую каждую планету. Однако, какой-то страшной патологии в пренебрежительном отношении к родственным связям я не вижу. Всё идёт к тому, что гравитационная общественная модель себя исчерпает. Очень может быть, люди будущего станут относиться к любящим родителям как к расистам.

Какой отборный бред

эээ, а где астероидный пояс между марсом и юпитером?

EternalRain @ 19.10.2016
Восхитительная и весьма утончённая концепция, iow!

Спасибо.

Khishtaki @ 19.10.2016
ConstOr, какие нахрен атомы??? Функция полезности - это функция от набора нематериальных целей, как ты этот набор атомами мерить собрался???

Поменьше знаков припинания и жирного шрифта, побольше уважения к собеседникам, камон.
Мозг твой из атомов состоит, а все твои "нематериальные цели" они в мозгу.
Если создать поатомную копию твоего мозга, функция полезности внутри этого мозга останется прежней.

Но смысл моего поста был совсем не в этом кстати.

iow, не нужно писать тут псевдоцитаты. К этому твоему посту я никогда такого не напишу, т.к. твоя попытка ранжирования ценностей (в виде Солнечной Системы) в зависимости от расстояния (гравитации, радиационного фона) от центра совсем нелепая. Если уж на то пошло, то каждый человек - это целая уникальная Вселенная. А то, что ты написал, скорее применимо к отдельным личностям.

я вот тоже считаю, что бред.
в моей вселенной — каждое солнце само выбирает, кого на орбите заводить, кого греть, а кого жечь; когда взрываться, поглощая всё окружающее.
именно не "имеет право", а просто "берёт и делает", хочу я того или нет. так устроен мир. поэтому, кстати, я не одобряю бан Freakynuts'y. одно дело низкий уровень общения, и совсем другое — чуждая тебе система ценностей.
во вселенной мириады солнц, и каждое идёт своим путём.
и моё солнце тоже выбирает кого ему любить, презирать, ненавидеть, но это не значит, что оно пытается переделать всех под свой шаблон.
потому что считает: в мире есть место как сакуре, так и сколопендре.
доброй ночи всем.

дедуля заявляет, что сознание в ии невозможно. есть чем крыть?

feruell, как ты относишься к прививкам для детей? по этому поводу много споров в последнее время, нужно их делать или нет.. Вредят они на самом деле, или дают только пользу? Делали ли вы своему ребенку прививки при рождении? Как к этому относится современная европейская медицина?

БоевойСлон @ 19.10.2016
Да, равно, если "бесконечномерное" - означает счётное количество измерений.

что-то я по инерции поставил +. Или поясни cсылкой - не разберусь ни как C=2^N. C^N={2^N}^N как соотносится с 2^{2^N} по мощности, а последнее мощнее С.

snggamer @ 20.10.2016
feruell, как ты относишься к прививкам для детей? по этому поводу много споров в последнее время, нужно их делать или нет.. Вредят они на самом деле, или дают только пользу? Делали ли вы своему ребенку прививки при рождении? Как к этому относится современная европейская медицина?

Не знаю как искать по колодцу, но ответ уже был на этот вопрос.

Test2, надо правильно расставить скобки.

Недавняя статья MIRI (https://intelligence.org/2016/09/12/new-paper-logical-induction/) заинтересовала даже математиков, не имеющих отношения к ИИ. Объясните кто-нибудь, чем она так важна?

ZiingRR @ 20.10.2016
Недавняя статья MIRI (https://intelligence.org/2016/09/12/new-paper-logical-induction/) заинтересовала даже математиков, не имеющих отношения к ИИ. Объясните кто-нибудь, чем она так важна?

БоевойСлон @ 20.10.2016
Test2 ZiingRR, надо правильно расставить скобки.

Test2, ты так исправил свой пост, что я не понял, остался у тебя вопрос или нет :)

ZiingRR @ 20.10.2016
Недавняя статья MIRI (https://intelligence.org/2016/09/12/new-paper-logical-induction/) заинтересовала даже математиков, не имеющих отношения к ИИ. Объясните кто-нибудь, чем она так важна?

Давайте попробую. Я правда, не знаю, как отвечать на вопрос о "важности" нового математического результата, поэтому просто обрисую о чём эта статья.

Эта статья на тему логической неопределённости. Поэтому сначала надо сказать, что это такое.

В "классической" теории решений предполагается, что единственно возможная неопределённость - это то, что агент не знает об окружающем мире. Например, в покере - какие у соперника карты.

Но у реального агента неизбежно есть ещё и логическая неопределённость. В покере аналогом будет вопрос "как рука Х стоит против руки Y на флопе F"? Для компа это конечно, очень лёгкий вопрос, поэтому вот посложнее. Является ли простым число 323525...сто знаков...43567? Точный ответ на этот вопрос объективно существует, но агент не может его посчитать за то время, которое ему дано.

Так вот, формально определить логическую неопределённость довольно трудно. Т.к. непонятно, что является источником случайности? Про карты соперника мы можем сказать, что могут существовать "разные миры", в которых у соперника разные карты. Но мы не можем сказать, что существуют "разные миры", в одном из которых это число простое, а в другом - нет.

Но в то же время просто делить логические высказывания на "доказанные" и нет - это слишком большое упрощение. Например, если мы проверили 1000 первых простых делителей, и наше число ни на один из них не делится, то мы должны стать гораздо более уверенными, что число простое, чем были изначально. Хорошие математики имеют хорошую интуицию насчёт того, что верно, а что нет - даже если доказать это у них пока не получается. И ошибаются гораздо реже, чем если бы они просто говорили наугад.

Теперь представим, что ИИ наблюдает за кем-то, кто доказывает различные логическия утверждения. Этим "кем-то" может быть сообщество математиков, может быть другой алгоритм, а может быть и сам этот ИИ (тогда он "наблюдает" за самим собой). Опубликованная статья презентует алгоритм, который на основе такого наблюдения присваивает вероятности недоказанным логическим утверждениям. И изменяет их при появлении новой информации, естественно. Этот алгоритм обладаем многими "хорошими" свойствами, которые мы хотели бы у такого алгоритма видеть. Перечислю некоторые:

1) Вероятность истинного утверждения сходится к 1, а ложного - к 0.
2) Если уже доказано, что из А следует Б, то вероятность Б не меньше, чем вероятность А. Если это верно, но не доказано (неизвестно нашему ИИ), то предел вероятности Б будет не меньше, чем предел вероятности А.
3) Среди множества утверждений, которым присвоена вероятность Х, в пределе верными окажутся Х%.
И там ещё много хороших свойств перечислено.

Как-то так. В каком-то смысле можно сказать, что авторам удалось формализовать такое "человеческое" качество как математическую интуицию.

Спасибо за разъяснения. очень интересно!

Уточни, плз:

БоевойСлон @ 20.10.2016
Теперь представим, что ИИ наблюдает за кем-то, кто доказывает различные логическия утверждения. Этим "кем-то" может быть сообщество математиков, может быть другой алгоритм, а может быть и сам этот ИИ (тогда он "наблюдает" за самим собой). Опубликованная статья презентует алгоритм, который на основе такого наблюдения присваивает вероятности недоказанным логическим утверждениям. И изменяет их при появлении новой информации, естественно.

что тут имеется в виду?

В общем случае этот ИИ не анализирует само утверждение? Он анализирует группу экспертов, анализирующих разные другие утверждения (1) и параллельно получает информацию об анализе этой группой данного конкретного утверждения (2)? И на основании вводных (1) и (2) присваивает "степень достоверности" конкретному утверждению?
Если информации из (2) нет - то он бессилен?
Я правильно понял?