Комментарии к колодцу Феруэлла

Цитата (Lrrr @ 14.3.2016)
Что характерно - после 4-й партии пресловутый пост Юдковского можно смело выбросить в корзину, так как его основной идеей был резкий переход ИИ от безнадежного отставания к полному доминированию (как он там написал, "в течение недели где-нибудь в январе"), а сейчас выясняется, что преимущество АльфаГо вовсе не так велико. Злые языки могли бы даже сказать, что Юдковский написал кучу воды на пустом месте.

В целом да, мне тоже показались недостаточно обоснованными его рассуждения о том, что понимают и чего не понимают топпро Го. Всё-таки для этого надо больше информации, чем три партии и впечатления комментаторов. Впрочем, по 1 поражению тоже выводы делать не надо - если прога побеждает с вероятностью 90%, это вполне себе доминирование, но 1 партию из 5 она при этом легко может проиграть.

Тем не менее, в его посте есть другие мысли, которые остаются в силе - что возможен резкий скачок силы ИИ благодаря улучшению алгоритма (инсайту), и что этот скачок может быть совершён силами одной компании, без широкого сотрудничества. Всё-таки ещё год назад компы совсем слабо играли, как я понимаю.

jAmper,
Я видел очень хороший документальный фильм про это (...потрясла победа компьютера в игре Jeopardy!) с русским переводом, то ли на Дискавери, то ли на 24док.
Хотя может на каком то другом типа Наука 2.0 или ещё каком(кое-что превратилось в Про наши танчики...).

p.s. нашёл как игра проходилаhttps://www.youtube.com/watch?v=P0Obm0DBvwI , а там был фильм

Lrrr, здесь несколько раз пробовали кратко объяснить суть, но скорее для того чтобы люди заинтересовались и начали копать сами. А длинно писать никто не хочет. На зарубежных блогах и форумах каждый аспект обсосан в дискуссиях по тысяче раз. Юдковский за пару лет настрочил постов на 2000 страниц. Так что, только самим.

IBM Watson: Smartest Machine ever buil

Вот нашёл вариант с Евроньюс https://www.youtube.com/watch?v=VKkyGpsaPAw

да что вы прицепились к этому го
там поле конечного размера количество возможных партий тоже конечно
компьютер в такой игре рано или поздно(с ростом мощности) допер бы до непроигрышной(а против людей она бы приносила победу в большинстве случаев) стратегии тупым перебором без всяких нейронных сетей
в шахматах насколько я знаю компьютер все 8 фигурные эндшпили уже решил

к тому же судя по тому что человек победил в четвертой
да и как я читал он вроде говорил что в первых партиях не видел уязвимостей программы

то есть если бы у него перед матчем было больше возможностей проанализировать ее игру может и счет был бы совсем другим

может проблема искуственного интеллекта действительно страшна
но на мой взгляд к людям начинающим гнать волну по результатам одного матча в го по идеи доверие должно падать

кто-то может пояснить, в чем сложность победы в старкрафт? в этой задаче у машины же очень хороший старт - идеальное микро. в го машинные плюшки казались сомнительнее.

Понимаю, что это не мой колодец, но очень понравилась статья - http://www.rusholts.ru/ru/news/222-pochemu-deshevye-franshizy-na-kofe-s-soboj-ne-rabotayut-kolonka-na-vc-ru.html

Это я просто несколько эхом о похождениях АлексОма и о том, как легко загриндить денег привлекая инвесторов - до прочтения статьи ты думаешь "кофе продавать, это же каждый может, чего тут сложного" а почитав регуляра продаж кофе (казалось бы) оказывается что не так-то все и просто. Вот так и во всем. В общем если у вас есть деньги положите их в западный банк и не трогайте ;)

Цитата (БоевойСлон @ 13.3.2016)
Тем не менее, нельзя не упомянуть известное высказывание Нильса Бора о возможности создания атомной бомбы из урана-235, сделанное в 1939 году:
"It can never be done unless you turn the United States into one huge factory".
А Энрико Ферми в том же 1939 оценил в 10% вероятность того, что вообще возможна цепная реакция на основе урана.
Never и 10%, Карл. Нобелевские лауреаты.

Не понимаю, что демонстрирует этот пример. Даже специалисты самого высокого уровня могут ошибаться в прогнозах, но это не значит, что следует в таком случае слушать кого попало.

Интересный год был затронут для примера. В 1939 году ядерной физики практически не существовало, только-только было открыто явление деления урана. А всего через ~10 лет уровень развития ядерной физики достиг практически современного. По учебникам начала 50-х можно учиться до сих пор. Не удивительно, что в 39-м видные ученые давали ошибочные оценки, в них не было практически ничего, кроме интуиции. Можно привести совсем уж классический пример, когда Макс Планк ввел квантование энергии только для того, чтобы получить аналитически уравнение для спектра излучения абсолютно черного тела, и сам заявлял, что это лишь технический момент, который вскоре будет исправлен.

Цитата (AndySopl @ 14.3.2016)
но это не значит, что следует в таком случае слушать кого попало.

Скажи, ты читал ссылку ZiingRR, которую я потом повторил? А то если мы приводим тебе аргументы, а ты их просто не читаешь, то смысла в этом всём немного.

Цитата (Zedmor @ 14.3.2016)
Понимаю, что это не мой колодец, но очень понравилась статья - http://www.rusholts.ru/ru/news/222-pochemu-deshevye-franshizy-na-kofe-s-soboj-ne-rabotayut-kolonka-na-vc-ru.html

Это я просто несколько эхом о похождениях АлексОма и о том, как легко загриндить денег привлекая инвесторов - до прочтения статьи ты думаешь "кофе продавать, это же каждый может, чего тут сложного" а почитав регуляра продаж кофе (казалось бы) оказывается что не так-то все и просто. Вот так и во всем. В общем если у вас есть деньги положите их в западный банк и не трогайте ;)

Статья не очень, если честно. Я согласен с мыслью, что снаружи не разглядеть кучи нюансов, которые есть в казалось бы простейших бизнесах. Но тут полфорума наблюдали пицца-шоу Frozer'а, и там это часто иллюстрировалось поувлекательнее :)

Цитата (БоевойСлон @ 14.3.2016)
Скажи, ты читал ссылку ZiingRR, которую я потом повторил? А то если мы приводим тебе аргументы, а ты их просто не читаешь, то смысла в этом всём немного.

В чем меня должна убедить информация с сайта Юдковски? Ты внимательно изучил ресурс? Расскажи вкратце какие основные достижения в области ИИ у этого института. Зачем бросаться ссылками, к тому же на ресурсы на английском и требовать что-то самому там отыскать.

Гугл реально работает. Активно тестируются беспилотные автомобили, разрабатываются сложные алгоритмы распознавания изображений, звука итп. Это настоящие достижения. При этом они ведут себя достаточно скромно. В институте MIRI по ссылке пишут статьи на тему необходимости создания дружественного ИИ, публикуют их у себя же, при этом ничего толком не создают кроме популистских статей и заявлений. Походил по ссылкам на статьи, ничего кроме амбициозных названий там нет.

Я говорю о статье http://slatestarcodex.com/2015/05/22/ai-researchers-on-ai-risk/. Естественно, я не предлагаю тебе читать кучи статей с сайта Юдковского, которого ты так не любишь. Просто ты заявил об отсутствии научной основы - я дал тебе ссылку на статьи, значительная часть которых вполне себе научная. Shutdown problem, logical uncertainty, архитектура proof-producer/proof-checker - это всё реальные математические проблемы, имеющие прямое отношение к безопасности ИИ.

Ты можешь, конечно, считать, что работа над математикой - это не достижения в области ИИ. И я соглашусь, что работа над математикой никак не позволяет понять, когда сильный ИИ будет создан. Ну так они на этот счёт своих предсказаний и не делают, всегда ссылаются на результаты опросов тех, кто занимается практической работой.

playcardgame, читайте тему внимательней, уже обсуждалось. Само собой ИИ не будет позволено так читерить.

Цитата (AndySopl @ 14.3.2016)
Гугл реально работает. Активно тестируются беспилотные автомобили, разрабатываются сложные алгоритмы распознавания изображений, звука итп. Это настоящие достижения. При этом они ведут себя достаточно скромно.

Я думаю, Маск знает больше, чем мы, и примерно представляет, что происходит на переднем крае развития АИ. Передний край технологий обычно находится в военных лабоработиях и строго засекречен. Если промышленное программирование это детский конструктор, то АльфаГо уже уровень автомобиля, а вот те кто строят ядерный реактор, вряд ли рассказывают о своих достижениях. Ведь не плохо будет когда ученые придут к реальному ИИ, - перед ними уже будут какие-то законы из ООН, регламентирующие работу машины, наподобие законов о хим. оружии например. А эти законы будуту введены с помощю организаций Маска и Юдковского.

Цитата (БоевойСлон @ 14.3.2016)
Я говорю о статье http://slatestarcodex.com/2015/05/22/ai-researchers-on-ai-risk/.

Мне интересно, почему до сих пор ссылаются на быстрый экспоненциальный рост вычислительных мощностей. В полупроводниках предел практически достигнут, особенно заметно это отражается в отношении CPU, где уже 5 лет наблюдается застой. Какое-то движение есть в сфере графических процессоров, которые все чаще используются в прикладных и научных расчетах, но и они скоро выйдут на плато в отношении производительности на единицу мощности. Многие пророки ИИ до сих пор живут в альтернативной реальности, в которой вычислительные мощности удваиваются каждые 18 месяцев. Это просто постулируется и никем не оспаривается, а проблема на сегодняшний день носит фундаментальный характер, нужна технологическая революция, чтобы это преодолеть.

как красиво сказано! с победой, товарищи!

AndySopl, Ответь на прямой вопрос пожалуйста. Ты читаешь по-английски на уровне понимания научно-популярных статей?

Цитата (feruell @ 14.3.2016)
AndySopl, Ответь на прямой вопрос пожалуйста. Ты читаешь по-английски на уровне понимания научно-популярных статей?

Нет, в школе/универе у меня был немецкий, но при помощи переводчика я неплохо справляюсь, если тема текста для меня близка.

А ты ответь на вопрос, способен ли ты решать задачи по программированию уровня школьной олимпиады?

Цитата (AndySopl @ 14.3.2016)
Мне интересно, почему до сих пор ссылаются на быстрый экспоненциальный рост вычислительных мощностей. В полупроводниках предел практически достигнут, особенно заметно это отражается в отношении CPU, где уже 5 лет наблюдается застой. Какое-то движение есть в сфере графических процессоров, которые все чаще используются в прикладных и научных расчетах, но и они скоро выйдут на плато в отношении производительности на единицу мощности. Многие пророки ИИ до сих пор живут в альтернативной реальности, в которой вычислительные мощности удваиваются каждые 18 месяцев. Это просто постулируется и никем не оспаривается, а проблема на сегодняшний день носит фундаментальный характер, нужна технологическая революция, чтобы это преодолеть.

Что же, раз ты нашёл в статье на 8 экранов единственное упоминание об экспоненциальном росте, значит ты хотя бы внимательно её прочитал. На этом и закончим.

Цитата (БоевойСлон @ 14.3.2016)
На этом и закончим.

Моя позиция в этом блоге изначально обречена, поэтому я не против. Займусь куда более простыми вопросами, чем спасение человечества. Итак это отняло не мало времени. Всем мир.