Das KapitalЪ (совместный блог Nameless и Khishtaki)

Последний пост:07:03
856
Статистика
Всего постов
19520
2,240,685 просмотров
Новых постов
+9
6 в день
Лучшие посты автора
30.09.2015 +264
08.06.2019 +263
07.05.2018 +242
09.09.2015 +242
16.08.2019 +202
Лучшие посты читателей
ishkan +89
Leo_Manowar +74
BadSeed +70
crashe +68
NewPokerSoft +65
Самые активные читатели
1 319 339 340 341 342 361 976
  • Блин, это же художественный рассказ.
    576/1898
    Ответить Цитировать
    1
  • Цитата (DimOK @ 25.3.2017)
    Делать-то можем, только такая ерунда получается... Получается, что вопрос в критерии правильности оценки вероятностей, какой вам больше нравится?


    на мой взгляд (и я это уже писал) мы обязаны сопоставлять масштаб своих выводов с масштабом нашего незнания. И меня удручает, что не только никто этого не делает, но более того, никто, кажется, этого даже не понимает.

    То есть с самим по себе утверждением: "чем выше степень нашего незнания, тем более осторожными должны быть наши выводы" вроде как никто спорить не станет (надеюсь). Но когда доходит до практики - все на это утверждения кладут с прибором, ведь всем всё очевидно.
    501/840
    Ответить Цитировать
    9
  • Цитата (БоевойСлон @ 25.3.2017)
    Блин, это же художественный рассказ.


    да мы ж его не читали, обсуждаем Ванин пересказ :)
    502/840
    Ответить Цитировать
    0
  • про ии

    54/140
    Ответить Цитировать
    3
  • Цитата (Khishtaki @ 25.3.2017)
    не знаю, как объяснить.

    Вот Я - это Я. А моя рука - это не Я. То есть я с рукой - это Я. Но если руку отрезать, то рука станет Не-Мной, а Я - останусь Я.

    И вот есть Я, а есть Всё Остальное.

    В том и вопрос: будет ли АИ существовать на основе того же принципа "Я и Всё Остальное" или не будет. Проблема в том, что нашим эгоцентричным мозгом мы не можем представить себе, каково это, если отсутствует "Я", но по крайней мере, наверное, мы можем постараться представить, что такое хотя бы в теории возможно.


    А если думать не эгоцентричным мозгом тогда что получается или это невозможно, тогда вопрос почему?

    Мы же можем посмотреть на себя со стороны...
    1/1
    Ответить Цитировать
    0
  • Khishtaki, Просто каждый понимает эти слова по разному. Ты на это смотришь как на сторогое доказательство теоремы. Я как на некие интересные рассуждения, которые опираются на то, что известно человечеству на данный момент.
    117/1163
    Ответить Цитировать
    0
  • Цитата (Soul @ 25.3.2017)
    что известно человечеству на данный момент.


    Вот важный (для меня) момент.

    Одно дело, если "Человечеству на данный момент известно А". Это я готов принять и основывать на этом какие-то умозаключения, даже понимая, что это знание неабсолютно, и завтра может оказаться, что человечество ошибалось.
    Но я категорически против любых проявлений рассуждений вроде:
    "Есть всего 3 варианта: А, Б или В, притом человечеству на данный момент известно, что Не Б и Не В, поэтому очевидно, что А".
    Вот рассуждения такого типа я всегда опровергаю, когда вижу. Потому что в моём понимании именно такие рассуждения приводят к самым большим ошибкам, притом в полной уверенности рассуждающего, что он прав.
    В реальности точно окажется, что либо (чаще всего) есть ещё непредусмотренный вариант Д, либо что человечество (а скорее всего не человечество, а сам рассуждающий) ошибается, что известно, что Не Б.

    На мой взгляд, описанная выше ошибка в мышлении очень распространена, притом достаточно сложно обнаруживается, поэтому я всегда занудно пытаюсь её указать. Сегодня вот уже страницы три на это потратил.
    503/840
    Ответить Цитировать
    4
  • Цитата (Khishtaki @ 25.3.2017)
    Моё убеждение заключается в том, что глубина Деяния должно соответствовать глубине Понимания. Абсолютное Понимание невозможно, всегда останется непознанная бесконечная часть реальности, но баланс между степенью Понимания и степенью Деяния должен соблюдаться всегда. К сожалению, уже несколько сотен лет человечество не соизмеряет, поэтому мне остаётся только забиться в уютный уголок в интернете, и там "задваигать неопределяемую хрень", ибо с задачей погубить себя Человечество справится


    А может и не справится ) Конца света или там истории, которого постоянно ждут, а он всё не случается, может и вовсе не быть. И уж я бы точно не связывал погибель человечества с последними несколькими сотнями лет, за которые человечество увеличилось на миллиарды единиц (клёвый ролик, как росло население Земли), достигло небывалого уровня жизни, полетело в космос и тд.
    34/255
    Ответить Цитировать
    1
  • Цитата (destroyalldreamers @ 25.3.2017)
    Покапитаню немного и спою оду деньгам. С помощью денег каждый может сам удовлетворить свои потребности, это наиболее универсальный решатель проблем. Многим не интересно обсуждать АИ и могут даже существовать люди, которые не желают вечного лета. А деньги позволят тебе носить штаны хоть из платины, хоть и вовсе ходить без штанов на острове с вечным летом (или вечной зимой, если пожелаешь). Либо основать институт новаторских культурных веяний.
    Экзистенциальные вопросы, которые с помощью денег не решить, политик за тебя тем более не решит. А тот, кто пообещает решить (типа дать смысл жизни в построении нового общества, например) - с огромной вероятностью использует твой энтузиазм и порыв в своих целях. Так что требуйте от политиков денег! А потом сами решите, куда их потратить, на урбанизм, или на АИ в бриллиантовых штанах.


    не согласен и потому привёл пример с алкоголиком. Если вы дадите алкоголику деньги, по всей видимости он будет пить. Если вы дадите деньги человеку, желающему наказать тех и этих, вероятно, будет война. Если вы дадите деньги людям, которые любят трахаться и употреблять наркотики, очевидно, будет общество-наркопритон.

    Имхо, политик должен быть заражён какой-то идеей. Вчера читал про традиционализм, матерь божья, свихнуться можно. Или экономическая идея, или идея нового обустройства общества или культурная идея, какая-то теория должна быть. Те же модернисты. Только нужно развить их мысль - надо строить такой новый мир, который можно будет без человеческих жертв снести и построить следующий, потому что предыдущий надоел/устарел. Вот построили вы микрорайон, простоял он 30 лет, выросло новое поколение, надо сделать так, чтобы этот микрорайон (если он не устраивает) можно было снести и построить то, чего хочет новое поколение.

    Где голоса научных мужей в России? Нема. Одно волшебное средство - деньги. Чтобы купить машину как у всех, телевизор как у всех, съездить в отпуск - в общем, чтобы было всё, как у всех. Коммунизм, епт)
    Сообщение отредактировал grenka666 - 25.3.2017, 20:19
    65/397
    Ответить Цитировать
    3
  • Цитата (Khishtaki @ 25.3.2017)
    Должно ли вообще у АИ быть осознание собственного "Я", как субъекта, отделённого от окружающей реальности?

    Если да, то не помешает ли это его (АИ) абсолютному самосовершенствованию. А если нет, то ВСЕ наши рассуждения о его мотивах и действиях просто бессмысленны: мы, как существа, имеющие собственное Я, органически не в состоянии понять существо, собственного Я лишённое (естественно, если это сложное существо, а не амёба).


    Пожалуйста, опиши что (в твоем понимании) представляет из себя ИИ без "собственного Я" и почему мы органически не в состоянии его понять.
    135/165
    Ответить Цитировать
    0
  • Цитата (ZiingRR @ 25.3.2017)
    Пожалуйста, опиши что (в твоем понимании) представляет из себя ИИ без "собственного Я" и почему мы органически не в состоянии его понять.


    Так уже описал. Читай первую главу Сильмариллиона.
    504/840
    Ответить Цитировать
    -3
  • Цитата (grenka666 @ 25.3.2017)
    не согласен и потому привёл пример с алкоголиком. Если вы дадите алкоголику деньги, по всей видимости он будет пить


    Не обязательно. Чаще всего пьют от безнадёги, стресса, отсутствия перспектив и тд. Есть такая благотворительная организация GiveDirectly (в этой статье про них есть несколько абзацев) они напрямую дают деньги нуждающимся. Процитирую часть статьи:

    "Создатели GiveDirectly не были бы экономистами, если бы не постарались максимально полно исследовать эффект, который производят их выплаты. Платежи получателей денег отслеживаются разными способами (вплоть до космических съемок, определяющих, как изменился дом), местные команды компании через определенное время проверяют, что изменилось в жизни людей, получивших крупные суммы денег, а также их соседей и деревень в целом.

    Меняется многое. Как выяснилось, африканцы не тратят много денег спонсоров на алкоголь, сигареты и азартные игры. Большинство семей воспринимает неожиданный подарок не только как возможность наконец поесть досыта, но и как шанс выбраться из нищеты, сделав разумные инвестиции. Через год после получения денег средний доход таких семей растет на 34%, а средние активы – на 52%. Многие покупают землю и скот, развивают хозяйство и только полученную от этих инвестиций прибыль тратят на улучшение или строительство дома, медицинское обслуживание или более дорогую одежду."

    Конечно, есть какой-то процент людей, который пропьёт любое количество денег. Это их выбор, взрослый человек имеет право сам распоряжаться своей жизнью.

    Цитата (grenka666 @ 25.3.2017)
    Где голоса научных мужей в России? Нема. Одно волшебное средство - деньги. Чтобы купить машину как у всех, телевизор как у всех, съездить в отпуск - в общем, чтобы было всё, как у всех


    Ну, это какой-то подростковый максимализм, я извиняюсь конечно. Мне деньги нужны точно не для того, чтобы купить телевизор как у всех, а если кому они нужны только для этого, не вижу ничего страшного, это их дело. Или тебе хочется принудить всех перестать быть бездуховными потребителями и захотеть летать на марс или строить межгалактическую империю?
    35/255
    Ответить Цитировать
    1
  • Цитата (destroyalldreamers @ 25.3.2017)
    Не обязательно. Чаще всего пьют от безнадёги, стресса, отсутствия перспектив и тд.
    Есть такая благотворительная организация GiveDirectly (в этой статье про них есть несколько абзацев) они напрямую дают деньги нуждающимся. Процитирую часть статьи:

    "Создатели GiveDirectly не были бы экономистами, если бы не постарались максимально полно исследовать эффект, который производят их выплаты. Платежи получателей денег отслеживаются разными способами (вплоть до космических съемок, определяющих, как изменился дом), местные команды компании через определенное время проверяют, что изменилось в жизни людей, получивших крупные суммы денег, а также их соседей и деревень в целом.

    Меняется многое. Как выяснилось, африканцы не тратят много денег спонсоров на алкоголь, сигареты и азартные игры. Большинство семей воспринимает неожиданный подарок не только как возможность наконец поесть досыта, но и как шанс выбраться из нищеты, сделав разумные инвестиции. Через год после получения денег средний доход таких семей растет на 34%, а средние активы – на 52%. Многие покупают землю и скот, развивают хозяйство и только полученную от этих инвестиций прибыль тратят на улучшение или строительство дома, медицинское обслуживание или более дорогую одежду."

    Конечно, есть какой-то процент людей, который пропьёт любое количество денег. Это их выбор, взрослый человек имеет право сам распоряжаться своей жизнью.


    был пример в Штатах с социальным жильём, построили, значит, целый современный микрорайон для малоимущих или асоциальных элементов. Эти асоциальные элементы всё засрали и выжили нормальных, а район в конце концов власти сравняли с землёй.

    Т.е. всем подряд просто так раздавать деньги - сомнительное решение. Вариант как с материнским капиталом - это да, это норм. Вот и пусть политики говорят о том, какие есть полезные проекты, а не тупо "победим коррупцию бла-бла-бла, придём к власти бла-бла-бла, мир во всём мире бла-бла-бла".

    Цитата (destroyalldreamers @ 25.3.2017)
    Ну, это какой-то подростковый максимализм, я извиняюсь конечно. Мне деньги нужны точно не для того, чтобы купить телевизор как у всех, а если кому они нужны только для этого, не вижу ничего страшного, это их дело. Или тебе хочется принудить всех перестать быть бездуховными потребителями и захотеть летать на марс или строить межгалактическую империю?


    да причём здесь максимализм? Когда обвал рубля был люди побежали за чем? За телевизорами. Это во-первых. Во-вторых. Посмотри странички в контакте, посмотри на людей на улицах. Если отпуск - то Турция или Египет, если одежда - то чёрная практичная, если машины - то одни и те же, если сайты - то одни и те же. Ничего не меняется.
    Сообщение отредактировал grenka666 - 25.3.2017, 23:34
    66/397
    Ответить Цитировать
    -1
  • Цитата (БоевойСлон @ 25.3.2017)
    Не понимаю, почему вы все обсуждаете, обязательно ли ЛЮБОЙ ИИ будет максимизировать скрепки. Достаточно, чтобы это начал делать хотя бы один.

    А Хиштаки со своим самосознанием опять задвинул неопределяемую хрень и начал делать из неё выводы


    А вот это уже имеет смысл обсуждать. Не снесет ли человечество несколько больший, или еще соизмеримый с человеческим интеллектом, AI? Техноген - не в счет.
    31/79
    Ответить Цитировать
    0
  • Цитата (grenka666 @ 25.3.2017)
    был пример в Штатах с социальным жильём, построили, значит, целый современный микрорайон для малоимущих или асоциальных элементов. Эти асоциальные элементы всё засрали и выжили нормальных, а район в конце концов власти сравняли с землёй.


    Конечно, эта тема пока плохо исследована, проведено мало экспериментов, а исследователи редко беспристрастны. Так что не скоро будет достаточное количество примеров, какой процент людей как себя поведёт, если им дать 1000$/10000$/100000$. И хотя в целом я поддерживаю идею базового дохода, я хотел сказать не об этом, а о необходимости требовать у политиков денег, в смысле конкретных материальных ресурсов, а не идей, потому что идеи чаще всего окажутся наебаловом. Ну и второй мой тезис - если алкоголик пропьёт полученные деньги, это его личное дело, ориентироваться только на алкоголиков при обсуждении возможных путей общественного развития странно.

    Цитата (grenka666 @ 25.3.2017)
    да причём здесь максимализм? Когда обвал рубля был люди побежали за чем? За телевизорами. Это во-первых. Во-вторых. Посмотри странички в контакте, посмотри на людей на улицах. Если отпуск - то Турция или Египет, если одежда - то чёрная практичная, если машины - то одни и те же, если сайты - то одни и те же. Ничего не меняется.


    Я практически богемный хипстер, так что в моей среде обитания у всех разная одежда ) Но даже если она у всех одинаковая и все в чёрных куртках побежали за телевизерами (это кстати очень просто объяснить, тв - наиболее дешёвый источник развлечений и удовольствия), то что в этом такого? В чём проблема-то? Что все побежали не за тем, за чем ты считаешь правильным побежать?
    36/255
    Ответить Цитировать
    3
  • Цитата (destroyalldreamers @ 25.3.2017)
    Конечно, эта тема пока плохо исследована, проведено мало экспериментов, а исследователи редко беспристрастны. Так что не скоро будет достаточное количество примеров, какой процент людей как себя поведёт, если им дать 1000$/10000$/100000$. И хотя в целом я поддерживаю идею базового дохода, я хотел сказать не об этом, а о необходимости требовать у политиков денег, в смысле конкретных материальных ресурсов, а не идей, потому что идеи чаще всего окажутся наебаловом.


    я идей не требую, я говорю, что они должны быть. Если речь о идеях не идёт, а идёт только о деньгах, то я не вижу светлого будущего при таком раскладе. Это как в армии: служащих надо чем-то занять, иначе служащие начинают скучать и творить фигню. Если идей чем занять нет, вы получите падение дисциплины, дедовщину и правонарушения.

    Цитата (destroyalldreamers @ 25.3.2017)
    Я практически богемный хипстер, так что в моей среде обитания у всех разная одежда )


    это здорово) нужно масштабировать богемную хипстерскую среду на всю страну) разнообразие - это гуд

    Цитата (destroyalldreamers @ 25.3.2017)
    Но даже если она у всех одинаковая и все в чёрных куртках побежали за телевизерами (это кстати очень просто объяснить, тв - наиболее дешёвый источник развлечений и удовольствия), то что в этом такого? В чём проблема-то?


    проблема в том, что люди следуют за своими соседями и если сосед не имеет широкого кругозора мы получаем всеобщую серость, российскую футбольную сборную с Дзюбой в составе, Киркорова на сцене и Ельцина у власти

    Цитата (destroyalldreamers @ 25.3.2017)
    Что все побежали не за тем, за чем ты считаешь правильным побежать?


    что все побежали за неправильным
    67/397
    Ответить Цитировать
    0
  • В статье которую приводил ZiingRR есть цитата: "Если мы используем для достижения своих целей механическое средство, в работу которого не можем эффективно вмешаться, лучше быть совершенно уверенным в том, что цель, заложенная в машину, — эта именно та цель, которую мы действительно желаем". Я вот не понимаю такой момент - почему мы не можем вмешаться?

    Почему не поставить ограничения для ИИ, позволяющие нам (человечеству, или группе людей, отвечающей за это), в любой момент выключить или уничтожить ИИ, принимать решение (разрешение/запрещение или выбор из альтернатив) по каким-то вопросам (при этом ИИ обязан с определённой периодичностью информировать о всех своих намерениях (если окажется что это слишком много информации установить какой-нибудь критерий по значимости), не утаивая информации и делаямаксимально корректные (до некоторой степени точности - чтобы он не занимался только прогнозированием последствий) вероятностные прогнозы дальнейшего развития событий)? Вроде как при таком подходе невозможна ситуация со скрепками или как в фильме "Я, робот". Естественно, что это надо как-то формализовать, и хорошо это сделать - наверняка это непростая задача.

    Ну а если мы допускаем что ИИ сможет самостоятельно изменить/игнорировать цели/ограничения,то по идее мы никак не сможем его контролировать заранее заданными установками. Ведь если мы не можем его ограничивать в этом смысле - любые наши заложенные изначально ценности и т.п. будут пересмотрены только с его точки зрения, "без учёта авторитета нашего мнения" (не смог яснее сформулировать, надеюсь понятно что имел в виду).

    Или я где-то неправ (и где именно тогда)?
    1/12
    Ответить Цитировать
    0
  • surtr, этот вопрос ИИфобами достаточно подробно уже разжеван. Не хотелось бы повторяться тут.
    2766/6456
    Ответить Цитировать
    1
  • Можно какие-нибудь ссылки на русском тогда?
    2/12
    Ответить Цитировать
    0
  • surtr, Как ты представляещь контроль игры Libratus'а или AlphaGo их разработчиками, или по твоему создатели играют лучше?
    32/79
    Ответить Цитировать
    0
19519 постов
1 319 339 340 341 342 361 976
2 человека читают эту тему (1 пользователь, 1 гость):
Зачем регистрироваться на GipsyTeam?
  • Вы сможете оставлять комментарии, оценивать посты, участвовать в дискуссиях и повышать свой уровень игры.
  • Если вы предпочитаете четырехцветную колоду и хотите отключить анимацию аватаров, эти возможности будут в настройках профиля.
  • Вам станут доступны закладки, бекинг и другие удобные инструменты сайта.
  • На каждой странице будет видно, где появились новые посты и комментарии.
  • Если вы зарегистрированы в покер-румах через GipsyTeam, вы получите статистику рейка, бонусные очки для покупок в магазине, эксклюзивные акции и расширенную поддержку.