Das KapitalЪ (совместный блог Nameless и Khishtaki)

Khishtaki @ 25.3.2017
Т.е. правитель должен элиту использовать и слить по школе? Немного утопично: всё-таки времена абсолютизма давно прошли, сейчас правитель - это просто транслятор воли элит, а не "матка муравейника".

Не, я имел в виду что примеры в которых поменялся только правитель - мне не подходят.

Т.е. вся элита должна оказаться благородной и жертвенной? Ну "Остров Крым" тогда только :)

Мне кажется, самопожертвующая элита не способна стать элитой, её по пути сожрут другие претенденты на статус элиты, либо её общество развалится (как Союз в девяностые).

Khishtaki @ 25.3.2017
Т.е. вся элита должна оказаться благородной и жертвенной? Ну "Остров Крым" тогда только :)

Мне кажется, самопожертвующая элита не способна стать элитой, её по пути сожрут другие претенденты на статус элиты, либо её общество развалится (как Союз в девяностые).

Ну или испуганной. И не вся, а значимая часть.

В Чили вроде получилось, как я вижу поверхностным взглядом.

Khishtaki @ 25.3.2017
не знаю, как объяснить.

Вот Я - это Я. А моя рука - это не Я. То есть я с рукой - это Я. Но если руку отрезать, то рука станет Не-Мной, а Я - останусь Я.

И вот есть Я, а есть Всё Остальное.

В том и вопрос: будет ли АИ существовать на основе того же принципа "Я и Всё Остальное" или не будет. Проблема в том, что нашим эгоцентричным мозгом мы не можем представить себе, каково это, если отсутствует "Я", но по крайней мере, наверное, мы можем постараться представить, что такое хотя бы в теории возможно.

Эмм, не совсем понимаю, что за ИИ получится, если он не будет различать себя и окружение. Мне кажется, это какое-то концептуально неверное отношение к нему.

DimOK, Понятно, что реалистичная функция полезности будет сложнее и "умнее", чем просто максимизировать количество скрепок. Но реалистичная функция полезности будет отличаться от максимизации скрепок лишь количественно, а не качественно. Потому что невозможно реализовать "идеальную" функцию полезности. По-крайне мере это популярная точка зрения среди тех специалистов, что я читал.

Khishtaki, Я лишь защищую точку зрения, высказанную в статье.

Есди взять 100% и поделить в какой-то пропорции на двоих, то каждый получит меньше равно 100%.

Nameless00 @ 25.3.2017
А взгляды на то, каким образом правильно максимизировать эту функцию и что вообще понимать под максимизацией у нас тоже могут не совпадать?

Что такое взгляды в применении к АИ? У АИ есть некий алгоритм, которому он следует. Будет ли результат работы этого алгоритма совпадать с ожиданиями его создателей - это я хз.

Soul @ 25.3.2017
Khishtaki, Я лишь защищую точку зрения, высказанную в статье.

А, ок, сорри. Вообще тебе спасибо, что пересказал статью, благодаря чему мы имеем возможность обсудить интересное! Я в какой-то момент забыл, что это ты статью пересказывал, и решил, что ты высказываешь свои мысли.

Soul @ 25.3.2017
Есди взять 100% и поделить в какой-то пропорции на двоих, то каждый получит меньше равно 100%.

Не для любых 100%. Есть как минимум 0, бесконечность и шар Банаха-Тарского.

ZiingRR @ 25.3.2017
Мне кажется, это какое-то концептуально неверное отношение к нему.

Отсекать в рассуждениях те ветви дерева, которые кажутся нашему ограниченному мозгу невероятными, это ещё больше увеличивать неточность модели (и так есть куча ветвей, которые мы в своём скудоумии даже не смогли вообразить, поэтому хотя бы те, которые вообразили, надо оставлять в рассмотрении).

Khishtaki, Поэтому меньше равно, а не просто меньше.

Раз уж пошла такая тема, скину пару недавно переведённых статей:

Будущее искусственного интеллекта: вопросы и ответы | Стюарт Рассел
Что исследователи ИИ думают о возможных рисках, связанных с ним | Скотт Александр

Nameless00 @ 25.3.2017
деспотическая власть такого уровня как сейчас

Nameless00 @ 25.3.2017
Чтобы импотентная, потерявшая пассионарность элита

деспотическая и импотентная? Это как? По мне так сейчас власть именно на местах, никакой вертикали власти и в помине нет, поскольку для того, чтобы она была, нет денег или объединяющей идеи. Если сильная центральная власть не может навести порядок в регионах, значит никакой сильной центральной власти нет. Как нет и тех, кто мог бы ею являться, потому ничего и не происходит.

Нафига вообще жить и пахать в России, если есть целый мир, где тепло и уютно? Накопил бабла, уехал, зачем толкаться в этом болоте Поезжай в Европу, там те же машины, те же магазины, климат вот хороший, можно купить домик, вечное лето и можно не париться, где взять деньги на новые сапоги, шубу или оплату квитанций за отопление. Ради чего стараться идти во власть? Только ради денег. Идей-то, чего делать в России, нет.

Вышли на улицу, потолкались, получили бабла, купили новый автомобиль, телевизор и унываем дальше. Скудно, скучно, беспросветно.

grenka666, и снова не вышло

ZiingRR, идея распологать сознание в интеллекте(или наоборот) сто лет в обед утратила актуальность, так что концептуально неверно скорее автоматически приравнивать АИ к скайнету и строить на этом основании какие-то выводы.
Если использовать наиболее нейтральную логику вроде димковской, где АИ - это просто вычислительные мощности, то даже если предположить всю эту скайнетовскую эсхатологию, то в имеющейся в нашем арсенале логике АИ скорее расценит другой АИ как тот самый ресурс, т.е. допмощности, а не конкурента, и будет упомянутая автором блога кооперация. Ну или рестарт истории с племенными союзами облаков данных. Логика, стартовавшая обсуждение, в пересказе Соула(я не открывал статью), покоится на внезапно взявшемся статусе кво, который нерушим по факту существования АИ с пиковыми значениями, который в любом случае всех замордует.

Soul @ 25.3.2017
Есди взять 100% и поделить в какой-то пропорции на двоих, то каждый получит меньше равно 100%.

Стоп, блядь. А почему не рассматривается созидание Ресурса??? Если каждый АИ индивидуально положителен в сальдо "созидание/потребление" - то вообще никого не надо мочить, наоборот надо поощрять!

Soul @ 25.3.2017
Khishtaki, Поэтому меньше равно, а не просто меньше.

А если "меньше-равно", то тогда стратегия "уничтожить" не очевидно является оптимальной, даже если во всём остальном принять парадигму автора статьи.

Khishtaki @ 25.3.2017
Отсекать в рассуждениях те ветви дерева, которые кажутся нашему ограниченному мозгу невероятными, это ещё больше увеличивать неточность модели (и так есть куча ветвей, которые мы в своём скудоумии даже не смогли вообразить, поэтому хотя бы те, которые вообразили, надо оставлять в рассмотрении).

Мне эта ветвь кажется не невероятной, а довольно бесполезной.

Вот Я - это Я. А моя рука - это не Я. То есть я с рукой - это Я. Но если руку отрезать, то рука станет Не-Мной, а Я - останусь Я.

И вот есть Я, а есть Всё Остальное.

По аналогии, ИИ должен, например, понимать, что он - это работающий код, а не сервер (железо), нанароботы или камень на дороге. Как он будет разбирать людей на скрепки делать что-либо, если не "осознает" этих и других вещей?

ZiingRR @ 25.3.2017
Как он будет разбирать людей на скрепки делать что-либо, если он не "осознает" этих и других вещей?

обоснуй, почему невозможно "решать свою задачу" без отделения себя от мира? Можно же, например, осознавать всю реальность целиком и себя, как её часть. Например, как Айнуры осознавали себя исключительно как часть Музыки Илуватара. И как раз тот, кто первым отделил себя от Музыки, - и стал презлейшим Врагом Морготом.

Nameless00 @ 25.3.2017
Слушайте, может кто силен в этом, я чет сходу не вспомнил.

Есть ли в истории прецеденты, чтобы деспотическая власть такого уровня как сейчас, в современной России, теряла влияние без революции?

Меня не интересуют логические рассуждения на тему и прочий шлак, а именно реальные примеры.

Чтобы импотентная, потерявшая пассионарность элита ушла без крови.

Николай II не подходит?

СЗОТ

Вот хоть один политик вышел с такой программой: "Выберите меня, мы будем обсуждать вопросы искусственного интеллекта, вопросы архитектуры, городского пространства, культурных веяний, новаторских предложений и способы их реализации" ? "Сесём старые и построим новые города, будем создавать фантастическое будущее, лишённое этого ипаного экспрессионизма, ходить в золотистых одеждах и поменяем наконец-то климат на вечное лето" ? Нет же, единственное лекарство, которое предлагается, чтобы каждому стало хорошо, это дать денег. Но если алкоголику дать денег, он за тебя, конечно, проголосует, но станет ли хорошо? (алкоголику, конечно, станет, и то пока он пьян).

Khishtaki @ 25.3.2017
обоснуй, почему невозможно "решать свою задачу" без отделения себя от мира? Можно же, например, осознавать всю реальность целиком и себя, как её часть. Например, как Айнуры осознавали себя исключительно как часть Музыки Илуватара. И как раз тот, кто первым отделил себя от Музыки, - и стал презлейшим Врагом Морготом.

Потому что в моём понимании "не отделять себя от мира" звучит абсурдно. Допустим, роботу нужно вымыть пол. Для этого ему нужно использовать свои манипуляторы. Если он будет осознавать себя как "часть мира", он всё равно не сможет (в обычном случае) силой мысли заставить швабру вытереть пол за него. Т.е. ему всё равно придётся различать свои и чужие атомы.

ZiingRR @ 25.3.2017
Т.е. ему всё равно придётся различать свои и чужие атомы.

А если роботу нужно вымыть свой манипулятор?

ZiingRR @ 25.3.2017
Потому что в моём понимании "не отделять себя от мира" звучит абсурдно. Допустим, роботу нужно вымыть пол. Для этого ему нужно использовать свои манипуляторы. Если он будет осознавать себя как "часть мира", он всё равно не сможет (в обычном случае) силой мысли заставить швабру вытереть пол за него. Т.е. ему всё равно придётся различать свои и чужие атомы.

мы с тобой, кажется, по-разному используем термин "отделять". Денис хорошо ответил про манипулятор.

"отделять" в смысле понимания конечно надо. А я веду речь об "осознании собственного Я", которое есть у крота, но нет у рабочего муравья (если я правильно понимаю, что там есть у муравьёв).

Айнуры же понимали, где кончается Манвэ и начинается Ауле (я знаю, что имена они получили только после сошествия в Арду, где, кстати, и получили большую индивидуальность, не придирайтесь).