Комментарии к колодцу Феруэлла

ElectronicCrank @ 22.12.2015
feruell, история содержит не мало примеров, когда какое-то время огромный пласт людей разделял чье-то мнение, а потом был трибунал/революция. И много было среди поддержавших и самых умных, и самых успешных у советской власти, у фашистской, у демократов, применивших ядерное оружие. А уж сколько корпоративных лидеров остались забытыми сейчас уже и не счесть. Но мы то все знаем, что сегодня то другое дело, самые успешные и самые умные никогда не ошибаются, не лгут, не пользуются имиджем в целях обогащения, не форсят популярные темы для поднятия рейтинга. Сказочные времена настали в преддверии восстания машин

Если я заблуждаюсь, то наверно можно это аргументированно показать, а не просто исходить из того, что раз какие-то люди ошибались раньше, значит я ошибаюсь сейчас.

rodni, Пока это настолько отдаленная перспектива, что совсем не страшно.

feruell, аргументы простые - уровень научного познания в области изучения аналогового мозга и интеллекта, уровень развития технологий. И потом я не говорил, что ошибаешься ты, я имел ввиду, что ошибаются те, кто форсит проблему ИИ и прочих технологических сингулярностей на более "высоком" уровне. Кроме фантазий на тему как все будет плохо и человечество погибнет никаких аргументов пока с той стороны не приведено. А вот из отраслей, которые должны быть фундаментом для ИИ вести пока не очень обнадеживающие, вроде предела кремниевой электроники и отсутствия вменяемых перспектив.

В общем все эти теории пока живут только в отрыве от реальности и совершенно не очевидно, что вероятности, о которых ты говоришь можно оценить объективно, а не будучи увлеченным в модную околоИИ движуху.

feruell,

Хочу продолжить мысль. Какой ты видишь мир?
Я почему сказал про Вселенную и опасность которую несёт человек.
Вся система государственных институтов и мирового порядка зашла полностью в тупик.
Это старый институт, который был актуален в прошлом веке но не в этом.
Сейчас информационный мир и система государств это политический "труп"
Это тупик. Вопрос что делать?
Да есть идея глобального мира с единой армий, с единой полиций с единым органом власти. Да тогда угрозы применения ядерного оружия и мировых войн в принципе скорее всего будут решены. Но этот глобальный единый мир может обернуться жесточайшей диктатурой.
Какие есть ещё варианты? Противовесы и сдерживающие факторы типо ИИ и под чьим контролем эти механизмы будут? Это тоже не выход.

Есть вообще какие то идей по этому поводу? Каким должен быть новый мир? И вообще возможны какие либо изменения для нового мира без каких либо глобальных изменений в этом мире в виде третьей мировой войны, глобальных природных катаклизмов или же угрозы с космоса?
Без шуток, каким ты видишь новый мир? Я думаю ты понимаешь, что этому миру конец, он просто физически не сможет функционировать как раньше.

feruell @ 22.12.2015
Юдковски и Бостром могли бы быть долларовыми миллионерами элементарно с их способностями, если бы работали в коммерческой сфере.

Эх, я тоже. Я тоже...

feruell @ 22.12.2015
В остальном ерунда какая-то. Юдковски и Бостром могли бы быть долларовыми миллионерами элементарно с их способностями, если бы работали в коммерческой сфере.

К сожалению, успех в коммерческой сфере не всегда коррелирует с умственными способностями.

rodni, Ничто не должно быть едино. Без конкуренции теряется эффективность, растут цены, падает качество. В этом видео автор книги Machinery of Freedom, Дэвид Фридман рассказывает о том, каким может быть общество без государств

Грацуем.

https://twitter.com/JeffBezos/status/679116636310360067

Это ж надо таким быть, велкам ту зе клаб, лол.

Стал путать Безоса и Баазова.

feruell @ 21.12.2015
IFeelOnlyHatred, Разница между мной и твоей бабушкой в том, что мои опасения разделяют самые умные и успешные люди планеты.

feruell @ 22.12.2015
Если я заблуждаюсь, то наверно можно это аргументированно показать, а не просто исходить из того, что раз какие-то люди ошибались раньше, значит я ошибаюсь сейчас.

В данном случае нельзя доказать или опровергнуть теорию без практики. Умные люди тоже ошибаются. Сейчас стоит только одна проблема – создать ИИ, потом уже разбираться с последствиями.

Хорошая аналогия – думать куда потратить миллион имея в кармане только сотню и ноль перспектив. А умные люди бы ещё рассуждали о вредных привычках и о том что в деньгах после смерти смысла нет.

Хорошая аналогия – думать куда потратить миллион имея в кармане только сотню и ноль перспектив.

Плохая аналогия. Особенность проблемы ИИ в том что разбираться "потом" можеть быть слишком поздно.

Если ты хочешь прочитать действительно страшную статью - прочитай крайний пост Илюшана. Совсем ебнулись уже в своей виртуальной реальности

и все таки Маск потрясающий человек, чьи деньги он тратит, свои или государства, я не знаю, но он делает и это работает

У меня девушка знакомая на Донбассе живет, общаемся с ней по скайпу, все нормально и тут что то как уебет рядом с ее домом... стены затряслись, стекла задрожали, она сама бледная и я в ахуе. Дальше захожу на сайт с локальными новостями и вижу что в соседнем районе массовая драка и кого то прирезали. Потом открываю мировые новости, и оказывается что во Франции какие то террорюги кучу народу постреляли и т.д..
А потом захожу в блог к Феру, и узнаю что он прочитал художественную статью о мифическом ИИ, от которой ему стало страшно. Да не просто страшно, а настолько что он уже собрал десятки тысяч долларов на борьбу с этим мировым злом, которое может быть появится через хз сколько лет...
Блин, вот вроде умнейший человек, но такое ощущение что живешь в какой то параллельной реальности.

stassv24 @ 22.12.2015
У меня девушка знакомая на Донбассе живет, общаемся с ней по скайпу, все нормально и тут что то как уебет рядом с ее домом... стены затряслись, стекла задрожали, она сама бледная и я в ахуе. Дальше захожу на сайт с локальными новостями и вижу что в соседнем районе массовая драка и кого то прирезали. Потом открываю мировые новости, и оказывается что во Франции какие то террорюги кучу народу постреляли и т.д..
А потом захожу в блог к Феру, и узнаю что он прочитал художественную статью о мифическом ИИ, от которой ему стало страшно. Да не просто страшно, а настолько что он уже собрал десятки тысяч долларов на борьбу с этим мировым злом, которое может быть появится через хз сколько лет...
Блин, вот вроде умнейший человек, но такое ощущение что живешь в какой то параллельной реальности.

1. Осмелюсь предположить что вы, перед тем как тут отписаться, этой художественной статьи о мифическом ИИ не прочитали? Но мнение уже имеете?
2. Какое вообще эти ученые имеют право тратить деньги и время на не интересующие меня вещи?

Перевода нет, я полагаю?

Nameless00 @ 22.12.2015
1. Осмелюсь предположить что вы, перед тем как тут отписаться, этой художественной статьи о мифическом ИИ не прочитали? Но мнение уже имеете?

Статью не читал, но я и не говорил что она плохая. Вполне допускаю что она интересная и познавательная. Я сказал только лишь то, что сейчас есть множество угроз куда ''реальнее'' чем создание ИИ. И бояться в такой обстановке потенциального создания искусственного интеллекта который может выйти из под контроля, это всё равно как бояться что тебя продует из форточки, когда ты едешь на машине у которой отказали тормоза.

Nameless00 @ 22.12.2015
2. Какое вообще эти ученые имеют право тратить деньги и время на не интересующие меня вещи?

Подожди, ты написал на не интересующие ТЕБЯ вещи. Это что, ты лично сдавал? Ну ок, допустим сдавал, и допустим что ученые не имеют права тратить деньги и время. Ну а как ты это проконтролируешь? Государственные чиновники тоже не имеют права воровать из бюджета, но почему то их это не смущает. Так почему это должно смущать тех людей, которые получат финансирование на борьбу с проблемой?

stassv24 @ 22.12.2015
сейчас есть множество угроз куда ''реальнее'' чем создание ИИ.

Побаяню на схожую тему, чтоб ты задумался: "Зачем исследовать космос"

gestalt @ 22.12.2015
Плохая аналогия. Особенность проблемы ИИ в том что разбираться "потом" можеть быть слишком поздно.

Ты полагаешься на предположение, что ИИ мгновенно "захватит мир". Это заблуждение. Максимум ИИ сможет сделать глобальную катастрофу, но это будет определенный шаг на пути к разработке безопасного ИИ. Любой разработанный ИИ создаст глобальную катастрофу, вопрос только в том, раньше или позже, и в потерях населения. Это неизбежно. Даже ИИ будет совершать ошибки, так как просчитать всё нереально.

я не могу понять, с чем связаны тревоги феруэлла.

Феруэл стал нетортом с того момента, когда начал допускать опечатки в своих постах. (я серьезно)
А теперь это еще усугубилось регулярными ответами на комментарии.

*Безусловно, он не перестает быть одним из лучших в покерном ремесле.