Комментарии к колодцу Феруэлла

Интересно, альфаго реагирует на тайминг-теллсы, ведь если Ли Седоль делает ходы быстро, это о чем-то да говорит. Также интересно как альфаго играет на беёми, может ли она осознавать что имеет две попытки выйти за лимит в 1 минуту.

Обратил внимание, что альфаго на свои ходы тратит одно и то же время. При регулярном времени это около 70-80 секунд, на беёми около 25 секунд. Говорит ли это о чем-то? Например об адаптивности программы, что она на "раздумья" тратит всегда одинаково времени в отличии от человека, который может сделать ход и за 30 секунд и за 15 минут.

Меня не покидает чуйка, что использование нейросетей на кремнии для создания ИИ сродни построению автомобиля в виде лошади. Когда придумают колесо в алгоритмах, - будет прорыв.

СМИ: решение Путина о выводе войск из Сирии застало США врасплох

Прочитав такой заголовок в новостной ленте, возникает ощущение вырванности из контекста )))

Вот объясните мне такую вещь.

Допустим завтра создали ИИ равный человеку. Программно. То есть вот где-то в недрах гугла, на подпитке тысяч серверов работает этот ИИ. Что дальше? Каким образом он перейдет из чисто виртуальной среды в реальную физическую? Вынуть вилку из розетки и нету ИИ.

ИИ побеждает человека в интеллектуальных играх. Вы говорите датчики поставить это проще простого, но самые современные роботы похожи на инвалидов, еле-еле ходят. В шахматах и го боты рвут людей, а до создания робота-футболиста или теннисиста еще и близко не дошли. Был несколько месяцев назад смешной матч в настольный теннис, так там против человека играло подобие механического крана с зажатой ракеткой.

Меня интересует вот этот вопрос. Каким образом программный виртуальный ИИ может осуществить свое вторжение в реальную осязаемую физическую среду без помощи человека со стороны. Ведь даже если где-то есть программный ИИ и у него есть интерфейс для общения с человеком, это еще ничего ему не дает. Он по-прежнему без рук и без ног. И что будет если засунуть этот ИИ в гуманоидный корпус? Сможет он сам тут же начать создавать себе подобных на физических носителях?

ИИ, равный человеку, ничего не сможет. ИИ, превосходящий человека, сможет уговорить человека дать ему доступ к физическому миру. Эту часть Юдковский как раз довольно убедительно обосновывает.

ИИ-водитель автомобиля очень скоро будет рвать людей-водителей автомобиля.

Зачем ИИ вообще нужен гуманоидный корпус, когда даже кофемашиной можно управлять через интернет?

Для порабощения человека необходим выход ИИ в физический мир так или иначе. Быть мозгом в серверной недостаточно. Конечно, если к тому времени всю инфраструктуру выстроить так, что из одного центра можно будет управлять атомными и электрическими станциями по всему миру, то можно поставить людей на колени, но если это будет невозможно, то ИИ в любом случае придется создавать себе собственную армии по принуждению людишек.

insane_insane @ 15.3.2016
Вот объясните мне

http://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/

insane_insane @ 15.3.2016
Конечно, если к тому времени всю инфраструктуру выстроить так, что из одного центра можно будет управлять атомными и электрическими станциями по всему миру

Я думал, что инфрастуктура уже так выстроена.
https://ru.wikipedia.org/wiki/Stuxnet

Хорошо, переформулирую вопрос. Он касается не столько угрозы для человека. Просто мне интересно как можно перенесим программные достижения в разработках ИИ на физический уровень. Если создается программный ИИ сопоставимый по уровню с человеком, означает ли это что можно тут же создать робота наподобие терминатора? (не в смысле задач, а в смысле поведения и реализма)

insane_insane @ 15.3.2016
Для порабощения человека необходим выход ИИ в физический мир так или иначе. Быть мозгом в серверной недостаточно. Конечно, если к тому времени всю инфраструктуру выстроить так, что из одного центра можно будет управлять атомными и электрическими станциями по всему миру, то можно поставить людей на колени, но если это будет невозможно, то ИИ в любом случае придется создавать себе собственную армии по принуждению людишек.

Я сейчас работаю в цехе подготовки нефти в г. Нефтеюганск. И сейчас я могу легко с помощью рабочего компьютера поменять показания взлива нефти на всех резервуарах какого-нибудь, например, Якутского месторождения.
Дальше продолжать нужно или и так понятна тенденция?

Uran @ 14.3.2016
Нейронные сети не плохо схватывают концепции при анализе игры, если они есть, поэтому в таких определенных игроках как Го показывают не плохие результаты. В таких же играх как покер, слишком размыты критерии правильности, не достаточно выиграть игру, чтобы данные действия однозначно можно было считать правильными, так что в покере на базе нейросетей выше нл10 на сегодняший день не уедешь.

Глобальная экономика - это игра проще, чем Го.
На сегодня главным препятствием для ИИ в глобальной экономике является то, что в отличие от Го там не Хедзап, а миллион участников, что, как ты прекрасно понимаешь, экспоненциально затрудняет алгоритмизацию. Тем не менее в моём понимании ситуации, на сегодняшний до ИИ, бьющего Экономику примерно один качественный скачок. Этот качественный скачок может произойти в любой момент. Возможно, завтра.

Может быть на серверах Гугла уже создана матмодель экономики и тысячи нейронных сетей уже руководят виртуальными корпорациями, вырабатывая свои оптимальные алгоритмы.

И, естественно, никакие батальоны дроидов в этом случае будут не нужны, просто в какой-то момент условный Главный Сервер Гугл поглотит всю Экономику,включая её политически-государственную надстройку.

мысль в том, что никто не будет вас порабощать и угрожать.

Просто в какой-то момент окажется, что мы все работаем на ИИ, выполняя его указания и содействуя его целям, даже не осознавая этого.

Khishtaki

И нафига это ИИ? Экономика это просто инструмент, методика перераспределения благ в обществе и она может меняться.

Изобретение 3D-печати или замещение людей роботами на 95+% рабочих мест совершенно меняет экономику. И те экономические реалии которые есть сейчас в мире, где развита 3D-печать уже не будут иметь смысла.

А т.к. будущее однозначно за этими технологиями, то заниматься такой ерундой как брать устаревшию экономику под свой контроль ИИ будет только ради обогащения отдельных лиц, которые захотят помутить на бирже.

Dustangel @ 15.3.2016
ИИ, равный человеку, ничего не сможет. ИИ, превосходящий человека, сможет уговорить человека дать ему доступ к физическому миру. Эту часть Юдковский как раз довольно убедительно обосновывает.

Гибсон, "Нейромант". Гораздо увлекательнее Юдковски, и имеет примерно столько же отношения к науке

djordj @ 15.3.2016
И нафига это ИИ? Экономика это просто инструмент, методика перераспределения благ в обществе и она может меняться.

у ИИ нет цели. Цель есть у создающих его людей. Людям - вполне понятно зачем: перераспределить блага в свою пользу.

Вопрос в мотивации.
Каждый делает то, что ему интересно (ну, или нравится).
Почему мне интересно, а тебе нет? Почему вчера мне было интересно, а сегодня нет? Почему мне что-то интересно, но не настолько чтоб я начал что-то предпринимать?

Кого то интересует чем там сейчас заняты муравьи?

Вы думаете о том что случайно можете раздавить червяка? Остановит ли вас это от поездки на автомобиле?

Будет ли ИИ интересно что там происходит с человечеством?

Фер, а читал ли ты труды Далай-Ламы или Пола Экмана? Как ты в целом относишься к философии эмоций как таковой?

Читаю Бострома. Что-то он совсем уж бред несет в своей книге.

Приводит в пример катастрофу в результате маниакального желания ИИ подсчитывать скрепки. Нет, он реально противоречит сам себе. Даже человек, которому поставлена задача произвести миллион скрепок завершит ее в соответствии с рядом рациональных критериев, указывающих ему на то, что он задачу выполнил. Тем более на это способен сверхразум. Бостром давит на то, что для ИИ была поставлена задача сделать миллион скрепок и несмотря на ни на что он будет стремится к ее выполнению, что просто смешно, поскольку сверхразум определенно будет способен корректировать свои цели (о чем сам Бостром писал в предыдущих главах), переопределять критерии их выполнения или даже отказываться от них.

Короче пока неубедительно, читаем дальше, но уже можно сказать всем, прекращайте тыкать ссылками на статьи и книги Бострома и Юдковски, это точно не истины в последней инстанции, или по крайней мере не места, где есть на все ответы.

Неплохая статья про AlphaGo:
https://medium.com/russian/%D0%B3%D0%BE-%D1%81%D0%B8%D0%BD%D0%B3%D1%83%D0%BB%D1%8F%D1%80%D0%BD%D0%BE%D1%81%D1%82%D1%8C-a63b660daa75#.89iuzwer3