Комментарии к колодцу Феруэлла

Dustangel @ 13.3.2016
Мне кажется, в старкрафте ИИ может оказаться даже проще побить человека. Причем именно решениями, а не микрой. Сложность старкрафта одновременно означает, что и лучшие человеческие игроки совершают действия, которые гораздо дальше от оптимума.

Старик гораздо сложнее в плане идеальной страты, чем тот же покер. Достаточно посмотреть, сколько энергоресурсов требуется чтобы просчитать одну руку в программе пиосолвер или симплпостфлоп, что вопросы должны отпасть сами по себе.
И это только одна раздача. А в старкрафте считай одновременно несколько раздач играется, и каждый раз появляются новые.
Причем вообще не факт, что в старике есть идеальные страты, потому даже корейские прогеймеры по-разному всегда играют.

Что не так в выступлении господина В.В. Бортко? Просто запостить видео и назвать выступающего маразматиком, не приведя никаких доводов, как-то непрофессионально. Понятно, что у Феруела жесткий тайм менеджмент, но если все таки говоришь А, то....

История создания ИИ - AlphaGo ... OmegaTo.

Yolahdin1 @ 13.3.2016
Что не так в выступлении господина В.В. Бортко?

Когда пожилой мужчина рассказывает о своих гомосексуальных фантазиях с трибуны парламента, да еще призывает всех разделить с ним эти его фантазии - выглядит это как минимум мерзко.

Новый пост в Колодце Феруэлла:

Из твиттера:

14.03.2016 05:51
Saturday Morning Breakfast Cereal #smbc #hiveworks https://t.co/s9w57Br8vv

Меня удивляет, что вроде умные люди называют сериал Идиот хорошим, великим, замечательным. Я месяц назад решил его посмотреть и был сильно разочарован. Ужасная операторская работа, сценарий и режиссура вообще за гранью. Единственное хорошее это актеры, особенно Миронов, Чурикова и Басилашвили. Всё сказанное относится также к экранизации Мастера и Маргариты. У Бортко только один хороший фильм Собачье сердце всё остальное либо тупая попса, либо дословный пересказ.

AndySopl, ладно забудем о "философах". Стюарт Рассел не раз говорил о важности решения проблем контроля. Илья Суцкевер (основатель DeepMind), возглавляет OpenAI Маска. На lesswrong сидит куча математиков, программистов и рационалистов, которые солидарны с идеями Юдковского. Ты всерьёз считаешь, что им в голову не приходили твои аргументы?

ZiingRR @ 14.3.2016
куча математиков, программистов и рационалистов

А это что за специалисты?

ZiingRR @ 14.3.2016
На lesswrong сидит куча математиков, программистов и рационалистов, которые солидарны с идеями Юдковского. Ты всерьёз считаешь, что им в голову не приходили твои аргументы?

Аргумент из разряда: "среди верующих много образованных и умных людей".

Разработчики Альфа Го заявляют о том, что в ближайшем будущем хотят обыграть человека в Старкрафт, а в конечном итоге направить исследования на решения общемировых проблем. То, есть, они обозначили ближайшие цели и обрисовали возможные перспективы. Это корректные заявления адекватных людей, непосредственно занимающихся самыми передовыми исследованиями в этой области. Без истерик и ненужного пафоса. Го и Старкрафт - отличный выбор, если надо показать преимущества нейронной сети, то в первую очередь стоит решить задачу, которую существующими до этого средства решать не удавалось. Скорее всего нейронные сети научатся лучше предсказывать погоду, оценивать различного рода статистику, то есть решать задачи, в которых много данных и относительно простой результат - в виде наиболее вероятной оценки. Это очень интересно и замечательно само по себе. Но конечно не так увлекательно, как у Юдковски и прочих, там технологическая сингулярность, злой ИИ, уничтожающий человечество, как под такое не собрать публику.

Чёрт возьми! Все кто занимается тут критикой Юдковского и Бострома, видимо не только не читали их работ, но даже не знакомы с основными тезисами! Есть тут хоть один человек который нормально изучил эту тему, и может по пунктам расписать в чём она неверна?

Harry @ 13.3.2016
Вот если Альфа начнет и в старик профессионалов выигрывать - вот это я считаю будет реальным и по сути первым прорывом в исследовании ИИ.

Вряд ли это будет прорывом. Всю самую сложную часть по представлению задачи в виде вектора признаков возьмет на себя человек. А Альфа просто расставит веса в нейронной сети после месяца-другого обучения. Здесь в принципе без разницы: хоть го считать, хоть лица распознавать, хоть в старкрафт выигрывать. И если произойдет победа в старике, тут больше будет заслуга человека, который смог правильно сообщить о происходящем на игровом поле машине.

molestus @ 14.3.2016
Когда пожилой мужчина рассказывает о своих гомосексуальных фантазиях с трибуны парламента, да еще призывает всех разделить с ним эти его фантазии - выглядит это как минимум мерзко.

В комментарии призывается EyeShield77!

Чёрт возьми! Все кто занимается тут критикой Юдковского и Бострома, видимо не только не читали их работ, но даже не знакомы с основными тезисами! Есть тут хоть один человек который нормально изучил эту тему, и может по пунктам расписать в чём она неверна?

Да легко, только тебе и подобным тебе адептам проще не будет, поскольку тут вопрос не в том, чтобы как-то разрушить аргументацию Бострома, а в том, что любой контраргумент вы будете пытаться оболгать, потому что он не будет вписываться в вашу парадигму.

Понимаешь, допустим есть некая теория, у теории есть автор, далее есть приверженцы теории. Внезапно появляется критик теории. Адепты теории требуют от критика разобрать все полочкам, привести доказательства своей правоты. Но в чем загвоздка? Дело в том, что для того, чтобы принять аргументацию критика, адептам придется выйти из той парадигмы, в которую их завела сама теория и в которой теория живет, иначе невозможно. Но они естественно этого сделать не смогут.

Условный пример. Есть пенсионер и для него СССР это святое, он жил там лучше, чем сейчас и никакими доводами и аргументами ты его не убедишь в том, чем был плох СССР.

Или есть человек, чью семью репрессировали во времена Сталина. И ничто и никогда не сможет поколебать его позицию, что Сталин исключительно кровавый тиран и жестокий садист-убийца. Ничто.

Это их парадигмы, они живут в них и они будут слепы к любым аргументам.

То же самое здесь.

Я вот начал читать книгу Бострома и она мне уже не нравится. Но пока конкретики писать не буду, поскольку не знаю, как он дальше там себя показывает. Одно могу сказать точно - он зануда, и несмотря на обещания сделать книгу простой для понимая, он использует чертову хрен пойми какую лексику. Нет, проблема не в спецтерминах и сложных теориях работы ИИ, а в обычных словах, где в угоду художественности и солидности повествования он использует слова, значения которых приходится искать в словаре, несмотря на то, что я довольно свободно смотрю кино и читаю некоторые других технические книги на англ. Черт возьми, ты философ и популяризатор науки, почему бы не написать книгу, предназначенного для широкого круга читателей на английском уровня simple english википедии.

ZiingRR @ 14.3.2016
На lesswrong сидит куча математиков, программистов и рационалистов, которые солидарны с идеями Юдковского. Ты всерьёз считаешь, что им в голову не приходили твои аргументы?

не показатель вообще. Я видел в интернете и другие форумы, на которых математики обсуждают паранормальные явления, а программисты солидарны с идеями Фрица Моргена, Вассермана и прочих эль-мюридов.

Что характерно - после 4-й партии пресловутый пост Юдковского можно смело выбросить в корзину, так как его основной идеей был резкий переход ИИ от безнадежного отставания к полному доминированию (как он там написал, "в течение недели где-нибудь в январе"), а сейчас выясняется, что преимущество АльфаГо вовсе не так велико. Злые языки могли бы даже сказать, что Юдковский написал кучу воды на пустом месте.

Вот так всегда. Вместо конкретики - отсылки в Сталину, Вассерману, намёки на зомбирование и т.п.

Lrrr @ 14.3.2016
Что характерно - после 4-й партии... ...выясняется, что преимущество АльфаГо вовсе не так велико.

Прикинь, если АльфаГо схитрил и решил слить 4-ю партию, чтобы скрыть от "хомячков" свое реальное преимущество над ними?

А может и создатели АльфаГо, умышленно занизили его скил в этот раз?

BocxoD, а мог бы схитрить и вообще сразу слить 3 партии, прикинувшись дибильной программой, а потом ночью продолжить моделировать план безупречной оптимизации существования планеты)

AndySopl @ 14.3.2016
Аргумент из разряда: "среди верующих много образованных и умных людей".

Разработчики Альфа Го заявляют о том, что в ближайшем будущем хотят обыграть человека в Старкрафт, а в конечном итоге направить исследования на решения общемировых проблем. То, есть, они обозначили ближайшие цели и обрисовали возможные перспективы. Это корректные заявления адекватных людей, непосредственно занимающихся самыми передовыми исследованиями в этой области. Без истерик и ненужного пафоса. Го и Старкрафт - отличный выбор, если надо показать преимущества нейронной сети, то в первую очередь стоит решить задачу, которую существующими до этого средства решать не удавалось.

Когда люди говорят то, что тебе нравится - это сразу корректные заявления адекватных людей. А когда тебе ZiingRR даёт ссылку, где есть в том числе цитата основателей Deep Mind - "Human level AI will be passed in the mid 2020’s", это видимо аргумент из разряда "среди верующих много образованных людей". Ссылку повторю на всякий случай.

Я, правда, начинаю подозревать, что может быть, проблема в том, что ссылка на английском? Ты судишь обо всём по чужим пересказам, не приводя ни одной прямой цитаты, пишешь "мне было бы интересно взглянуть на достижения в области ИИ" уже после того, как тебе уже дали ссылку с перечислением этих достижений.

feruell @ 13.3.2016
Я кстати склоняюсь, к мысли, что Собачье Сердце снимал другой человек, а Бортко (это он выступает на видео) просто записали режиссером.

Кто-нибудь, дайте Бортко селедки.

BocxoD @ 14.3.2016
Прикинь, если АльфаГо схитрил и решил слить 4-ю партию, чтобы скрыть от "хомячков" свое реальное преимущество над ними?smile.gif

чтобы получить от них еще несколько вызовов на матчи, и отжать еще несколько миллионов долларов. Позже выяснится, что якобы "благотворительные" счета, на которые DeepMind перечислила выигрыш, контролировались АльфаГо. Но будет уже поздно. Джинн выпущен из бутылки - захват мирового господства разумным ИИ УЖЕ начался

Все в точности как предрекал Юдковски, но его никто не слушал

ZiingRR @ 14.3.2016
Вот так всегда. Вместо конкретики - отсылки в Сталину, Вассерману, намёки на зомбирование и т.п.

сами кидаемся ссылками на юдковских с бостромами, а от других требуем конкретики? "Вы или крестик снимите, или трусы наденьте" (с)