Комментарии к колодцу Феруэлла

Цитата (feruell @ 12.3.2016)
valeg, Думаю, ни ты ни я не знаем, как такие вещи происходят в реале. В принципе, паспорт сделать не проблема, но можно представить много вариантов, почему этого сделано не было.

верно, не знаем, как оно бывает на самом деле. но в чем смысл программы защиты свидетелей, если по ней свидетелю не сделали новую личность? ты говоришь, что можно представить - так напиши хотя бы пару версий, почему не сделали новый паспорт?
кроме того, еще пара вопросов инста возникает, если Лесин под "программой":
1. зачем он покинул штаты? чтобы его врагам было легче его грохнуть?
2. по идее его ближайшие родственники (жена, дети, внуки) должны испариться вместе с ним (особенно, после такой информации, как сегодня, если она подтвердится), или нет?

Новый пост в Колодце Феруэлла:

Для продвинутых читателей, если вы еще не подписаны на фейсбук Юдковского, почитайте пост о том, почему победа Альфаго это очень-очень-очень плохо.

Цитата (feruell @ 12.3.2016)
Проверить все это на данном этапе невозможно. Но интересное соображение в том, что я слышал в одном из интервью бывшего генерала КГБ, что КГБ никогда не совершало убийств на территории США и что это абсолютно исключено в наши дни тоже.

Поэтому когда российская подводная лодка с ядерными ракетами всплывет рядом с островом свободы, поначалу никто ничего не заподозрит.

Продвинутые читатели, расскажите суть поста, плиз, если не затруднит.

Цитата (feruell @ 12.3.2016)
Новый пост в Колодце Феруэлла:

Для продвинутых читателей, если вы еще не подписаны на фейсбук Юдковского, почитайте пост о том, почему победа Альфаго это очень-очень-очень плохо.

Для продвинутых-это для тех кто знает английский? А для других,читателей твоего блога, русскоязычного форума, ты надорвался бы этот пост Юдковского перевести и запостить на русском?

Ах да, нафиг они нужны, они же недопродвинутые и фигня, что форум русскоязычный, я всё равно буду чешуёй блистать, я же ужаснейший из бедствий лимитного холдема

electroshock, переводить этот текст объективно сложно и долго.

пост юдковского не читал, сложной теории уж больно много, не нашел места где объясняется почему это плохо.
Но я не вижу в этом ничего плохого, наоборот весело. В будущем я предполагаю ИИ будет специально для человечества снимать гениальные художественные фильмы и прочие произведения искусства, в том числе создавать красивейшие комп. игры, доказывать математические загадки (по типу того что Перельман доказал) и т.д. и т.п., а человек будет это все потреблять, и конкурировать с ИИ человеку будет не под силу, так как у этого самого ИИ будет намного более гениальные идеи.

Вот что интересно в компьютерных программах, так это отсутствие человеческих предрассудков. Например тренер может сказать ученику что данный ход выглядит уродливо и лучше его не делать, так как все очень сложно и можно запутаться в осложнениях. А программа может сделать сверхнепонятный ход и через несколько ходов человек понимает, что это лучший ход.
Еще по поводу Седоля- Альфа Го. Насколько мне известно Седол - игрок который играет на пространство, на осложнения, то есть запутывает оппонента и эффектно проводит атаки слабых групп. А Альфа Го как раз неплохо видит за десятки ходов вперед и предугадывает возможные осложнения в свою пользу. Я не умоляю силу игры Ли Седоля, но если бы играл профессионал другого толка который больше ориентировался на захват территории а потом уже на борьбу, то есть играл бы более стратегически, не получил бы матч другого развития?

Основная мысль в посте - когда ИИ будет захватывать мир, никто этого не поймет, пока не будет поздно. Ходы, которые предпринимает ИИ, нацелены на максимизацию вероятности победы в конце партии, и не ведут к немедленному захвату территории или выигрышу очков, а люди склонны оценивать вероятность победы по текущему преимуществу позиции, и не способны оценить отдаленные последствия ходов, которые делает ИИ.

Кратко:
Комп деклассировал корейца, играя в долговременную выигрышную стратегию. Людям со стороны и комментаторам казалось, что Седоль даже вел в первой партии, а потом альфа сделала "сильнейший" ход. Ха!
Кажется машина бы унизила товарища даже с гандикапом
Далее куча труднопереводимых концепций, подтвержденных в разрезе данных событий. Что-то вроде - мув выглядит странно (для человека) и по очкам машина позади, но по факту это не так. Человек даже не может понять саму стратегию, в том числе из-за мощных когнитивных искажений.
Далее неразборчиво (надо изкчать труды Юдковского, пока что не приступил).

В сухом остатке - прошла эпоха. Причем там какой-то джамп, от реально слабого софта к супермощному терминатору.

Пока комп не может играть без вкаченной в мозг начальной истории, что в шахматы, что в ГО, не страшно. Вот, если начнет уметь это делать без начальной истории - тогда Терминатор не за горами.

Нужно вкачать ему начальную историю для/по вкачивания/ю начальных историй.

Gellemar, Создатели говорят, что следующая версия будет так делать. Где-то два дополнительных месяца на это потребуется.

Цитата (Gellemar @ 12.3.2016)
Пока комп не может играть без вкаченной в мозг начальной истории, что в шахматы, что в ГО, не страшно. Вот, если начнет уметь это делать без начальной истории - тогда Терминатор не за горами.

так найдутся дебилы, которые вкачают...

Вот пример: следующий напрашивающийся ход - стратегическая штабная игра "Гугл против Генштаба некоторой крупной страны". После разгрома генералишек - функции штаба переходят к серверам. Армия этой крупной страны выигрывает несколько локальных конфликтов у тупых генералишек консервативных стран...

Ну а потом ХУЯК, и всё :)

Фишка в том, что человечество не научилось правильно играть в дилемму Узника: мы всегда выбираем тактически выигрышные, но стратегически проишные шаги. И именно из этих тактических целей создание недружественного ИИ кажется неизбежным.
Фер, ты зря донатил Юдковскому. Не потому, что идея неверна, а потому что ничего не сделать: надо воздействовать не на механизмы ИИ, а на саму суть функционирования человеческого общества, а эта задача нерешаема.

Можно правда попробовать сыграть на опережение. Создать "добрый ИИ" до того, как дебилы, сами того не понимая, создадут злой. И чтобы "добрый ИИ" поработил мир сугубо в лучших целях. Заменил собой всю политику и экономику, взяв под контроль всё.

Кстати, это соответствует первому сценарию из рассказа Юдковского "тройной контакт" - принять предложение этих продвинутых ребят. Но и сам Юдковский, и вы все единогласно тогда не согласились со мной, что надо принимать.

"человеческое, слишком человеческое!" © Нежелание перестать быть человеками дорого вам обойдётся.

пора понять,человечеству в его сегодняшнем виде пиздец,мы уступим по всем показателям... в геометрической прогрессии
как конкурировать за жизнь,за Землю?
запретить развитие ИИ не получится,сами понимаете почему...
Использовать в своих целях,возможно до поры....
системы контроля над развития ии....надо создать систему умнее самой умной системы))))
остается единственный вариант) переделать свой организм максимально снижая воздействия внешних факторов...температура,дыхание,энергопотребление ну и время

Цитата (Rumomote @ 9.3.2016)
почему если такая комплекция дает такое преимущество ее сестра за пределами топ-10 в рейтинге?

ее сестра Венус за пределами топ-10 по многим причинам. начиная с того, что она очень серьезно болела, заканчивая тем, что ей 35 лет

а комплекции у них просто совершенно разные

Khishtaki, Если люди которые умнее меня и знают в сто раз больше меня говорят, что у нас есть шанс, я склонен им доверять.

Поэтому ошибка и в том, чтобы закрывать глаза и говорить "ИИ это ерунда", и в том чтобы восклицать "шансов нет", когда ты даже не пытался всрьез работать над проблемой.

Я лично кстати согласен на добрый АИ, который все будет контролировать.

Поэтому меня лучше не делать гейткипером :)

Цитата (Khishtaki @ 12.3.2016)
Можно правда попробовать сыграть на опережение. Создать "добрый ИИ" до того, как дебилы, сами того не понимая, создадут злой. И чтобы "добрый ИИ" поработил мир сугубо в лучших целях. Заменил собой всю политику и экономику, взяв под контроль всё.

Кстати, это соответствует первому сценарию из рассказа Юдковского "тройной контакт" - принять предложение этих продвинутых ребят. Но и сам Юдковский, и вы все единогласно тогда не согласились со мной, что надо принимать.

Не могу понять, ты действительно полагаешь, что Юдковский против сценария "Контролирующего всё доброго ИИ"? Вообще-то все его тексты продвигают именно эту идею.