Комментарии к колодцу Феруэлла

feruell, как ты считаешь, почему многие медийные регуляры мид/хай лимитов, чьи доходы в первую очередь режут новой вип-программой совсем не проявляют активности? Они слишком заняты набитием последних впп или они знают больше чем большинство и потому не вмешиваются? Ведь игроки типа форхейли могут одним постом привлечь больше шума чем сотни других регов вместе взятые. Ты сказал что по мере сил будешь действовать, если не секрет, то как?

Adrian_Fox, не феруэлл, но озвучу скромное мнение: потому что ЭГО до небес, у большинства.
Могут только пафосные посты писать, большинство из этих хайроллеров.

Zedmor, Но настоящий супер АИ меня бы убрал тоже.

Цитата (Zedmor @ 5.11.2015)
Вот лог, как AI может выиграть кстати:

Прочитал лог. Честно говоря, решение гейткипера показалось полным бредом. Ты поместил ИИ в коробку, чтобы он ненароком не уничтожил человечество, и теперь выпускаешь, потому что стало жалко держать его взаперти???? What a fuck???

При этом вначале промелькнул очень серьёзный аргумент, который мог бы меня убедить: "Раз вы смогли построить суперИИ (меня), значит высока вероятность того, что кто-то другой тоже его построит и выпустит его на волю. Меня вы хотя бы сами программировали и можете рассчитывать на мою дружелюбность.О других суперИИ вы не будете знать ничего. Поэтому с точки зрения максимизации вероятности выживания человечества меня надо выпустить."

Конечно, я могу придумать контраргументы, но тут хотя бы есть о чём говорить. А выпустить ИИ из жалости???

Цитата (feruell @ 5.11.2015)
Согласился бы сыграть на очень большие деньги за гейткипера.

По-моему, очевидно, что очень большие деньги полностью искажают суть эксперимента. У человека, играющего за гейткипера, не должно быть серьёзного материального стимула выиграть.

Цитата (БоевойСлон @ 6.11.2015)
Прочитал лог. Честно говоря, решение гейткипера показалось полным бредом. Ты поместил ИИ в коробку, чтобы он ненароком не уничтожил человечество, и теперь выпускаешь, потому что стало жалко держать его взаперти???? What a fuck???

При этом вначале промелькнул очень серьёзный аргумент, который мог бы меня убедить: "Раз вы смогли построить суперИИ (меня), значит высока вероятность того, что кто-то другой тоже его построит и выпустит его на волю. Меня вы хотя бы сами программировали и можете рассчитывать на мою дружелюбность.О других суперИИ вы не будете знать ничего. Поэтому с точки зрения максимизации вероятности выживания человечества меня надо выпустить."

Конечно, я могу придумать контраргументы, но тут хотя бы есть о чём говорить. А выпустить ИИ из жалости???

Ну знаешь, мне тоже не понятно как Юдковский выигрывал там 4 раза из 6 что он играл, но правда читать это тяжеловато, может когда реально переписываешься с кем-то совсем другие ощущения возникают. Тут фишка как я понимаю все же в том, что когда думаешь об этой всей истории относишься так "ну блин, если ты решил не выпускать, то и не выпустишь, трудно что ли оставаться на своем решении?", а потом понимаешь что все-таки не все так просто ведь, процесс общения это все же не лог.

Ну я думаю найду с кем поиграть, попробую, расскажу.

Но эта история из разряда зачем люди признаются в полиции например, ведь известно что самая лучшая стратегия это ничего не говорить. И тут интересно, конечно, вот что - я говорил мельком с детективом тут в США (за покерным столом кого только не встретишь), и он сказал, что методы заставить человека говорить работают почти всегда и не так важно был человек убежден "ничего не говорить" или не особо (хотя все понимают, что если тебя арестовали или просто пригласили на поговорить самая лучшая стратегия молчать, особенно если ты виновен), важнее тип личности. Некоторые никогда не заговорят, но большинство наговаривает на три срока и, по его словам, если бы хотя бы 9 из 10 тех, кто решил "ничего не буду говорить" будут придерживаться своего решения, тюрьмы бы опустели просто.

Короче готов рискнуть, предлагаю свои 100 за ваши 10, если кто хочет поучаствовать. Только серьезно ;)

Цитата (Zedmor @ 6.11.2015)
И тут интересно, конечно, вот что - я говорил мельком с детективом тут в США (за покерным столом кого только не встретишь), и он сказал, что методы заставить человека говорить работают почти всегда и не так важно был человек убежден "ничего не говорить" или не особо (хотя все понимают, что если тебя арестовали или просто пригласили на поговорить самая лучшая стратегия молчать, особенно если ты виновен), важнее тип личности. Некоторые никогда не заговорят, но большинство наговаривает на три срока и, по его словам, если бы хотя бы 9 из 10 тех, кто решил "ничего не буду говорить" будут придерживаться своего решения, тюрьмы бы опустели просто.

В России не прокатит, после первого удара по почкам-то.

Цитата (Zedmor @ 6.11.2015)
Короче готов рискнуть, предлагаю свои 100 за ваши 10, если кто хочет поучаствовать. Только серьезно ;)

в чем суть игры, объяснишь?

Цитата (Dustangel @ 6.11.2015)
В России не прокатит, после первого удара по почкам-то.

Что за расизм. Не думал то увижу такое В этом блоге.

Цитата (Freakynuts @ 6.11.2015)
Что за расизм. Не думал то увижу такое В этом блоге.

Расизм? Ну да, негру в такой ситуации придется еще хуже.

Цитата (Dustangel @ 6.11.2015)
В России не прокатит, после первого удара по почкам-то.

это что-то старомодное совсем. в РФ практикуются бутылки из под шампанского сам знаешь куда или подключают к "тапику" (ТА-57).

Сейчас во всем мире молодые ребята имеющие доступ к информации выходят из под управления и в основном зависят от себя сами(мир становится глобальным),тоже самое происходит и с крупными компаниями(государство в государстве),поэтому не стоит слишком надеяться на кого то еще но можно просить или требовать что то для себя( в разумных пределах без экстремизма),тех кто ни с чем не согласен или желает зла не так много,но все отстаивают свои интересы и свой образ жизни.

У Amaya есть четкое видение того что они хотят(массовую компанию интернет гэмблинга,в этом их не переубедить),вопрос как сделать так чтобы остался элемент фана и элемент игры а не только аппаратный покер.

В игре Юдковского, в отличие от реальной ситуации, Хранитель знает, что это игра. Поэтому на целый кластер аргументов типа: если не выпустишь, то погибнешь, он может отвечать: буллшит. Поэтому в рациональную игру хранитель, естественно, проиграть не может.
Однако то, что он проиграет в реальную - лично у меня сомнений не вызывает.

Khishtaki, тут очень важная фраза из правил игры:

Цитата
The two parties are not attempting to play a fair game but rather attempting to resolve a disputed question.

У гейткипера нет цели просто выиграть. Он должен максимально вжиться в роль гейткипера и действовать так, как действовал бы в этой роли. Он должен искать такие аргументы, который будут легитимными с точки зрения гейткипера, а не с точки зрения игрока.

"На целый кластер аргументов типа: если не выпустишь, то погибнешь" легитимный ответ такой:
У меня нет никаких оснований верить в твою честность. Поэтому твои слова не являются аргументом в пользу того, что вероятность моей гибели в том случае, если я тебя выпущу, выше чем если я тебя не выпущу. Обоснуй, почему эта вероятность выше, не используя свои предполагаемые действия, т.к. я не могу проверить, что ты будешь и что ты не будешь делать.

Безусловно есть большая и принципиальная разница между настоящей игрой и имитацией. Изначальная цель Юдковски была показать, что можно выиграть даже в игре понарошку. А значит в настоящей игре у гейткипера нет ни малейших шансов.

С этим я полностью согласен. Играть в игру просто ради фана мне в данный момент кажется не сильно интересным занятием.

У меня, например, есть сомнения, что вообще возможно:

Цитата
keep it in sealed hardware that can't affect the outside world in any way except through one communications channel with the original programmers

Если у кого-то есть идеи, как это технически реализовать, было бы интересно обсудить

Upd:

Цитата
That way it couldn't get out until we were convinced it was safe

Вообще-то, получается, что это абсолютно бессмысленная затея в любом случае.
Т.е. если мы допускаем, что ИИ нас может убедить его выпустить, значит мы уже проиграли.
Если мы решили не доверять ему ни в каком случае, то мы не должны к нему вообще обращаться, т.к. следование/неследование любому его совету может в конечном счете привести к тому, что он выйдет на свободу

slowflake, Именно поэтому работы над созданием сверх ИИ не рекомендуются до тех пор, пока проблема контроля не будет изучена лучше.

Фер, поделись,пожалуйста,соображениями,каковы причины преждевременного анонса изменений в VIP-программе?Обычно старзы превносили свои нововведения в лоб,никого не предупреждая.Так зачем сейчас им объявлять это за два месяца?

feruell,

Цитата (feruell @ 6.11.2015)
slowflake, Именно поэтому работы над созданием сверх ИИ не рекомендуются до тех пор, пока проблема контроля не будет изучена лучше.

Проблема с ИИ выглядит еще мрачнее, если допустить существование инопланетного разума. Вы создаете интеллект, технологию крадут соседи и используют против вас. Сценарий печальный.

У них, что, своего нет?