Комментарии к колодцу Феруэлла

Странно, что местные рационалисты агрессивно ссылками на Коран институтские блоги с философскими текстами тычут, вместо конструктивного общения с адекватным собеседником AndySopl.

БоевойСлон:
В поисках ответа на вопросы
познаешь дзен AI:
1. Какие принципиально новые идеи использовались в AlphaGo?
2. Допустим есть система, разработанная на принципах AlphaGo. Существует ли ненулевая вероятность успешного усовершенствования системой собственных алгоритмов? Если увеличить производительность в 10^100000000000 раз?

В заключение переведу несколько предложений из статьи, уж больно она хороша:

Цитата
Когда я читаю ("я" - это автор, Александер Скотт) статьи о ИИ-скептиках, они вновь и вновь повторяют два утверждения. Первое: ИИ человеческого уровня совсем не рядом, не говоря уж о сверхчеловеческом ИИ. И на сегодняшний день неясно, как именно его создавать. Второе: требовать запрета на ИИ-исследования - это идиотизм.
Я полностью согласен с этими утверждениями. Согласны с ними и ИИ-алармисты.

Цитата
Согласно опросам исследователей ИИ, нет общей зависимости между верой принадлежностью к алармистам/скептикам и предсказаниями времени создания ИИ... Основное разногласие между скептиками и алармистами не в том, когда ИИ будет создан, а в том, когда надо начинать к этому готовиться.

Цитата
Это зависит от того, безопасно ли сказать "Будем решать проблемы по мере возникновения", или же в какой-то момент будет резкий взлёт возможностей И с неконтролируемыми последствиями, и лучше бы сделать свою домашнюю работу заранее.

Насчёт правдоподобности резкого взлёта добавлю уже от себя, что всего лишь применение нового алгоритма позволило AlphaGo выигрывать у лучших на тот момент программ с частотой 99,8%.

Цитата (valeg @ 14.3.2016)
Ведь не плохо будет когда ученые придут к реальному ИИ, - перед ними уже будут какие-то законы из ООН, регламентирующие работу машины, наподобие законов о хим. оружии например. А эти законы будуту введены с помощю организаций Маска и Юдковского.

Очень интересно. Что, они вот этим там и занимаются? Продвижением всяких законов, мер по контролю?

Цитата (burzum @ 14.3.2016)
У Бортко только один хороший фильм Собачье сердце всё остальное либо тупая попса, либо дословный пересказ.

Фильм "Собачье сердце" - это как раз пересказ вот этого итальянского кино 1976г (за 12 лет до Бортко).

Нейронные сети не плохо схватывают концепции при анализе игры, если они есть, поэтому в таких определенных игроках как Го показывают не плохие результаты. В таких же играх как покер, слишком размыты критерии правильности, не достаточно выиграть игру, чтобы данные действия однозначно можно было считать правильными, так что в покере на базе нейросетей выше нл10 на сегодняший день не уедешь. По поводу ИИ, у меня своя религия на этот счет, которая говорит о принципиальной невозможности его создания ни через 100, ни через тысячу, ни через миллиард лет.

Uran, а можно узнать о твоей религии ?

Цитата
Uran, а можно узнать о твоей религии ?

Невежество и самоуверенность.

Цитата (Orcus @ 14.3.2016)
Фильм "Собачье сердце" - это как раз пересказ вот этого итальянского кино 1976г (за 12 лет до Бортко).

А сериал "Идиот" - римейк фильма 1959 года с Ю. Яковлевым?

Цитата (feruell @ 14.3.2016)
Невежество и самоуверенность.

Сорри, я забыл что в этом блоге в категоричной манере нельзя писать.

Uran, Отрицание это первая ступень. Я вот за компьютером ухаживаю и пылинки сдуваю, может зачтется.

Цитата (Uran @ 14.3.2016)
Сорри, я забыл что в этом блоге в категоричной манере нельзя писать.

Это был не троллинг? о_0

VeLMsk, Забавно, сейчас сидел и недоумевал, как посту Urana можно поставить плюс. А оказывается ты просто подумал, что это троллинг))

То, что ИИ рано или поздно создадут - это не вызывает никаких сомнений. Правда в том, что для его создания потребуются огромные ресурсы, а скорее всего в миллионы, в миллиарды раз больше мощностей, чем те, которые используются сейчас.
Что мы имеем на данный момент?
Самый современный робот - это достаточно медленная груда металла, использующая примитивные функции движения, распознавания речи и т.п.
А теперь представьте, что в идеале нам нужен полноценный ИИ, который бы смог имитировать реакцию на внешние раздражители, как то свет, температура, действие и т.п. на уровне развитого животного.
Это само по себе выглядит на сегодняшний день нереально.
А попробуйте добавить к этому необходимость решать различные исследовательские, организаторские и другие задачи подобного рода, с которыми столкнется человечество.
Одно можно сказать со 100% уверенностью - без технологической революции типа изобретения квантового компьютера - это задачу не решить.
Так что по сути вопрос сейчас стоит так - сколько лет пройдет перед тем, как произойдет технологическая революция. Это вопрос явно не для форума, его надо задавать в исследовательских лабораториях.
Теоретически, есть надежда, что мы это застанем. А значит застанем ИИ, который действительно будет способен решать "человеческие задачи", а не просто просчитать количество всех вариантов в ГО.

Цитата (Uran @ 14.3.2016)
Нейронные сети не плохо схватывают концепции при анализе игры, если они есть, поэтому в таких определенных игроках как Го показывают не плохие результаты. В таких же играх как покер, слишком размыты критерии правильности, не достаточно выиграть игру, чтобы данные действия однозначно можно было считать правильными, так что в покере на базе нейросетей выше нл10 на сегодняший день не уедешь.

Да ладно? Что мешает сформировать критерий правильности (функцию ошибки) на базе миллиона игр вместо одной, и естественно формировать его не в виде "победа/поражение" (+1/0), а проигранной и выигранной суммы денег.
Думаю, даже я за год при должном финансировании (в целях мотивации) могу написать алгоритм, который будет плюсовым в стандартном составе нл100. Если говорить про омаху, то здесь я даже уверен, что смог бы написать алгоритм, который бы играл лучше меня, за короткое время. И это без всяких нейронных сетей.
Алгоритм с нейронными сетями потенциально мог бы быть вообще непобедимым для человека на длинной дистанции.
Вы слишком переоцениваете сложность покера. Да, оптимальные решения сложно найти, но достаточно же просто довольно близких к оптимальным. А подобного могут достичь даже очень простые алгоритмы.

Цитата (Harry @ 15.3.2016)
Самый современный робот - это достаточно медленная груда металла, использующая примитивные функции движения, распознавания речи и т.п.
А теперь представьте, что в идеале нам нужен полноценный ИИ, который бы смог имитировать реакцию на внешние раздражители, как то свет, температура, действие и т.п. на уровне развитого животного. Это само по себе выглядит на сегодняшний день нереально.
Одно можно сказать со 100% уверенностью - без технологической революции типа изобретения квантового компьютера - это задачу не решить.

Это вообще никак к проблеме ИИ не относится. Разработать и поставить более качественные датчики не составляет большого труда. Для этого никакой научно-технической революции не требуется. Уже сейчас робот вполне может реагировать на многие раздражители лучше человека, ведь ему доступны для анализа сигналы из области спектра, остающейся за гранью человеческого восприятия. На слух мы воспринимаем диапазон 20-20000 Гц, глазами замечаем 4-8х10 в 14 степени Гц. Робот же может слышать инфразвук, видеть тепловое излучение, воспринимать радиоволны и т.д. В области движения тоже есть вопросы, кто уже сейчас лучше: робот может ездить на колесах и достигать скорости в сотни км/ч, а эта скорость недоступна ни одному животному на земле.

Только тут дело в том, что настоящий ИИ вообще не обязан находить реализацию в виде какого-то робота и может оставаться обычной компьютерной программой. И проблема его создания находится не в области создания квантового компьютера, а в области разработки алгоритмов нового поколения, которые смогут создавать новые алгоритмы. Прорыв наступит, когда программа сможет создать другую программу, как когда-то машины смогли создавать другие машины.

Цитата (AndySopl @ 14.3.2016)
Мне интересно, почему до сих пор ссылаются на быстрый экспоненциальный рост вычислительных мощностей. В полупроводниках предел практически достигнут, особенно заметно это отражается в отношении CPU, где уже 5 лет наблюдается застой.

Так на каждом этапе развития "предел достингут" именно поэтому мы не пользуемся больше ламповыми триодами, не? Потому что предел технологии достинут. И да так чудесно достигнут предел технологии что у тебя в башке сидит хрень, которая на 20 ваттах делает то, что пока (почти пока) не умеет делать суперкомпьютер величиной с дом. Но это магия, наука никогда не дойдет ;)

Цитата (Harry @ 15.3.2016)
То, что ИИ рано или поздно создадут - это не вызывает никаких сомнений. Правда в том, что для его создания потребуются огромные ресурсы, а скорее всего в миллионы, в миллиарды раз больше мощностей, чем те, которые используются сейчас.

Ну чтобы создать айфон на мощностях 1980го года, что реально, требовались бы тоже "огромные ресурсы". И что? Твой мозг напомню потребляет 15-20 ватт. и любая женщина детородного возраста может его за 9 месяцев + 15 лет обучения нейронных сетей собрать. Точнее матушка природа но смысл понятен.

Цитата
Одно можно сказать со 100% уверенностью - без технологической революции типа изобретения квантового компьютера - это задачу не решить.

Смысл технологий будущего в том, что их невозможно предсказать на уровне технологий сегодняшних. Но для начала можно предложить трехмерные полупроводниковые кристаллы. Да даже 7нм процесс уже дает просраться ;) http://forwardthinking.pcmag.com/none/339732-intel-talks-up-moore-s-law-plans-for-10nm-and-7nm-production

Цитата
Так что по сути вопрос сейчас стоит так - сколько лет пройдет перед тем, как произойдет технологическая революция. Это вопрос явно не для форума, его надо задавать в исследовательских лабораториях.
Теоретически, есть надежда, что мы это застанем. А значит застанем ИИ, который действительно будет способен решать "человеческие задачи", а не просто просчитать количество всех вариантов в ГО.

Ну если вопрос редуцируется (корректно) до того будет ли выполняться закон Мура еще 20 лет (а больше не надо, кажется), то алармисты все же правы?

Мощные компьютеры в создании ИИ необходимы, только если решать эту задачу "в лоб" - например путём эмуляции мозга или эволюционного программирования. Для создания рекурсивного алгоритма, который будет улучшать сам себя, закону Мура необязательно действовать действовать 100500 лет. Может хватить сообразительности и немного удачи.

Похоже Ли Седоль начал рвать программу, революция машин откладывается

Попробую изложить максимально просто свою точку зрения по поводу недавнего мачта по Го. Могу ошибаться в терминах – главная цель передать смысл.
Большинство не понимают качественного различия между решением шахмат и Го. Если рассматривать физический мир как детерминированную систему, основанную на жестких причинно-следственных связях ( так оно судя по всему и есть – по крайней мере на макроуровне), то максимально эффективным способом делать достоверные прогнозы ( одна из важнейших целей полезной нейросети, что кстати считается еще и определяющим критерием научности любой модели или теории) является полный просчет всех вариантов с учетом всей информации. Если шахматы решили за счет перебора всех вариантов (хотя на практике большинство вариантов отсекается и каждая позиция оценивается на основе достаточно простых эмпирических правил), что подразумевает очень ограниченную ценность такого подхода из за невозможности просчитать всю имеющуюся информацию в реальной жизни и дать адекватные оценки , то подход, использованный в АльфаГо на основе нейросетей применим к любой ситуации и является универсальным. То есть можно не только находить выигрывающие ходы в Го, но и, к примеру, обучить нейросеть принимать оптимальные решения в научном поиске, медицине, управлении любыми сложными социальными и техническими инфраструктурами и тд. Более того, если к двум нейросетям АльфаГо, которые отвечают за оценку и принятие решений прикрутить аналогичные нейросети, способные определять тип задачи и способные менять устройство всей нейросети (аналог сознания) то мы и получим искомый ИИ (есть еще блок мотивации – и это отдельный разговор). Чтобы уж совсем по человечески стало понятно - в матче по Го компьютерный алгоритм продемонстрировал способность к творчеству, причем сделал это путем аналогичным человеческому подходу.
Проблема создания ИИ сейчас упирается в 2 вещи. Совершенствование алгоритма и вычислительная мощность. А если совсем конкретно - насколько близки разработчики к точке взлета (момента когда алгоритм достигнет необходимого уровня абстракции и научится самостоятельно себя улучшать) и какие вычислительные ресурсы для этого потребуются. Для меня очевидно, что успехи АльфаГо говорят о потенциальной близости этого момента.
По поводу Юдковского – я достаточно скептически отношусь к его взглядам. Если в двух словах – он активно показывая (и в основном по делу) когнитивные искажения людей, сам на определенном уровне абстракции становится их жертвой (как впрочем и многие рационалисты, полагающие свой подход универсальным).