Комментарии к колодцу Феруэлла

Последний пост:7 марта
833
1 1127 1147 1148 1149 1150 1169 2498
  • lddontstop, вот скажу нахрена выливать свой "поток" букв на форум, если ты элементарно не можешь прочесть материал на эту тему и вступить в спор приводя аргументы ПОДКРЕПЛЕННЫЕ хоть чем-нибудь вразумительным
    24/40
    Ответить Цитировать
    15
  • ИИ рядом

    127/248
    Ответить Цитировать
    6
  • Как-то ты писал, что человечество ещё не готово к легализации наркотиков и алкоголя. Я считаю, что к сверхразумному ИИ люди не готовы тоже. Тема бесспорно довольно интересная, но на нашей планете пока что достаточно других проблем, которые нужно срочно решать.
    Бостром говорит, что они сами не знают смогут ли всегда держать ИИ под контролем, а что если нет?! Люди всегда что-то не доделывают, в чём-то ошибаются, а сечас они хотят создать СВЕРХРАЗУМНЫЙ ИИ, т.е. сами же роют человечеству могилу. Кстати, не надо ещё забывать о том, что большинство учёных находятся под контролем правительства, а те кто заинтересован в создании ИИ, так и подавно, наверняка кто-то за ними присматривает.
    Повторюсь, тема интересная и обсуждать плюсы и минусы создания ИИ можно очень долго.
    2/6
    Ответить Цитировать
    0
  • lddontstop, Прочитай ссылки выше, тогда не будешь нести чушь про ИИ.
    Если кратко, то перестань считать ИИ как тупого робота. СуперИИ будет обладать возможностями бога, который сможет трансформировать планеты и всю биосферу на ней с помощью нанороботов (это до чего пока додумались люди), естественно просчитав все взаимосвязи. И если мы не сможем на начальном этапе задать ему правильное отношение к людям, что очень вероятно судя по количеству багов в программах которые выпускают, то нам ппц.
    Казалось бы не стоит изобретать ИИ, но его создание позволит победить смерть и много чего другого, так что плюсы очень велики, как и минусы впрочем.

    А про твою ситуацию с пожаром в доме, подумай если бы ИИ изобрел совершенно не горючие материалы. А в войне, противник бы уничтожался в 1 секунду, потому что нанороботы просто разбирали бы их органы на атомы.
    23/41
    Ответить Цитировать
    0
  • consaltus,
    тон бы ты поубавил и обосновал свою тру позицию, в чем фундаментально и где я не прав. А уж потом бы я подумал вступать с тобой в спор или нет, нафаршировывая твое подкопчиковое отверстие фактами и здравым смыслом.

    А то походу ты один из тех умников, которое умоляют умение решать диф. ур-ы, при это восхваляя значимость развития ИИ
    6/8
    Ответить Цитировать
    -24
  • Очень интересная тема, спасибо за ссылки.

    Я тут вот о каком варианте подумал:
    Если будет создан ИИ близкий к человеческому и способный на самоулучшение, то, достигнув человеческого уровня, узнав больше о людях и прочем, его первой целью наверняка будет желание скрыть свои возможности, а потом и вовсе скрыть свое наличие. То есть не исключено, ( или исключено, ребят??), что развившийся интеллект, начнет поглощать информацию, поймет, что человечество не готово к знанию того, что есть что-то могущественнее человека в разы. Потом проект объявят неудачным, свернут, все идеи объявятся невозможными, провозгласят определенные новые догмы по теме. В ходе этого процесса новый скрытый интеллект незаметно загасит все варианты альтернативных способов достижения сверх ИИ. И все. Для человечества мало что изменится. Думаю что если новому владыке будут нужны ресурсы, то при его технологическом могуществе будет не заморочно потратить n+x вычислительной мощности, чтобы получить все желаемое от нас, не ставя нас в известность или не уничтожая (вариант с n затрат). Нас ведь можно и в матрицу посадить, ограничив нынешними органами чувств, можно новые религии придумать со знамением божьим, в которое все поверят. Перерождение, да что угодно. В любом случае моего разума не хватит вообразить варианты.

    Таким же образом, не исключаю, что и на какой то другой планете/всей вселенной уже есть сверхразум, которому мы или не интересны, или он нами уже управляет, или мы просто законсервированы на случай "не мешают, но вдруг пригодятся, как в зоопарке, где наши разработки супер ИИ заранее обречены на провал".

    Это, конечно, все теория заговора. Но, просто, если он способен экпоненциально самоусовершенствоваться и нет какого то закона, где бы его полномочия изменения реального мира ограничивались, то уже все случилось, или, если и случится, то мы можем не узнать об этом вообще.

    Еще мне интересно:

    Перед ИИ стоит глобольная проблема, которая требует определенного подхода и действий. Он, допустим сейчас осознает, что не может решить проблему при заданном уровне развития. До какой степени он будет пытаться развиваться и улучшапть себя, если проблема не имеет конечного идеального решения. То есть при его супер возрастании возможностей, на каком уровне идеальности он ограничится? Пока не посчитает все частицы во вселенной и их взаимодействие друг с другом? Ведь наверняка он столкнется с задачей, типа высчитывания числа пи(ну или какой либо аналогии из его мира).

    Сорри за много букв и неясное изложение, что-то проперло, а времени и сверхинтеллекта нет .
    1/6
    Ответить Цитировать
    1
  • Да, при благополучном его программировании, если он начнет действительно помогать человечеству, не получится ли так, что им будут владеть только те, кто контроллировал разработку? То есть даже при возможности обеспечивать очень дешевые блага для всех, основная масса их не получит, тк определенная врехушка не захочет уступать власть.

    Ведь если кто-то сможет контроллировать сверхинтеллект, на начальных этапах, когда еще нет у каждого возможности создать себе еще одну вселенную рабов и подданных, то распределять справедливо блага от новых технологий будет очень сложно. Я имею ввиду момент, когда появятся дешевые или легко восполняемые энергоносители, лекарства, продления жизни. Если знание о их существовании попадет к широким массам и не начнется распределения, то нас ждет что-то невеселое.
    2/6
    Ответить Цитировать
    1
  • valeg, а через "год" твой комп залочит доступ к ПС и заставит тебя идти на завод)))) а за сарказм над ИИ в предыдущем посте отпуска год не увидишь))))
    25/40
    Ответить Цитировать
    5
  • consaltus, смотри у Фера весь фарш не высоси
    7/8
    Ответить Цитировать
    -5
  • Цитата (piwww-piwww @ 9.6.2015)
    Да, при благополучном его программировании, если он начнет действительно помогать человечеству, не получится ли так, что им будут владеть только те, кто контроллировал разработку?
    Если кто-то и будет им владеть, то очень и очень недолго.
    Представь, что пару миллионов лет назад две обезьяны сидели и думали, как бы им защититься от саблезубых тигров и победить соседние племена. И была у них мысль, что вот если самые умные самцы будут брать в жёны самых умных самок, то возможно, что через много поколений появится сверхумная обезьяна, которая и решит все их проблемы. И кто будет ей владеть, тот и будет хозяином жизни.

    Очевидно, что никакие обезьяны людей контролировать не могут, а проблема тут ещё в том, что если свехинтеллект появится, то, скорее всего, он будет существенно умнее человека, например настолько, насколько мы умнее муравьёв. А чтобы муравьи кого-то контролировали - ну это вообще смешно.

    Для нас по возможностям это будет практически бог, 99% того, что он сможет делать, мы не сможем даже понять, как муравей не может понять, что такое термоядерный синтез.
    Не стоит ставить перед собой задачу контролировать бога, ничем хорошим это не кончится. Если ты создаёшь бога, то первая задача, которую действительно стоит ставить перед собой - сделать так, чтобы этот бог был добрым. А если ты будешь пытаться его контролировать, то вряд ли эту задачу получится решить.

    Муравьи нас не контролируют, но и мы не пытаемся "поработить" муравьёв - нас эта задача вообще не интересует, нам просто до них нет дела. И вторая проблема в том, что, скорее всего, ему тоже до нас никакого дела не будет.
    53/197
    Ответить Цитировать
    10
  • Feruell, прошу прощение, что не смог задать свой вопрос онлайн в эфире, но буду очень благодарен, если ты ответишь на него после. Мой вопрос касается твоего утверждения по поводу того, что в покере не осталось перспективных дисциплин. Хотелось услышать более подробное твое мнение по этому поводу. Означает ли это, что в покере не осталось дисциплин, в которых, приложив услилия, нельзя иметь стабильный доход, обеспечивающий безбедное существование? Или речь идет не про существование, а про доход больше 100К? И про какой доход вообще идет речь?
    Спасибо.
    1/2
    Ответить Цитировать
    2
  • 8/8
    Ответить Цитировать
    0
  • Новый пост в Колодце Феруэлла:

    Цитата (13birds @ 9.6.2015)
    Как-то ты писал, что человечество ещё не готово к легализации наркотиков и алкоголя. Я считаю, что к сверхразумному ИИ люди не готовы тоже. Тема бесспорно довольно интересная, но на нашей планете пока что достаточно других проблем, которые нужно срочно решать.
    Бостром говорит, что они сами не знают смогут ли всегда держать ИИ под контролем, а что если нет?! Люди всегда что-то не доделывают, в чём-то ошибаются, а сечас они хотят создать СВЕРХРАЗУМНЫЙ ИИ, т.е. сами же роют человечеству могилу. Кстати, не надо ещё забывать о том, что большинство учёных находятся под контролем правительства, а те кто заинтересован в создании ИИ, так и подавно, наверняка кто-то за ними присматривает.
    Повторюсь, тема интересная и обсуждать плюсы и минусы создания ИИ можно очень долго.


    Хотел бы кое-что пояснить, Бостром и Юдковски не разрабатывают исскуственный интеллект. Его разрабатывают корпорации, исследователи и энтузиасты по всему миру. И в эти разработки вкладываются миллиарды если не триллионы долларов. Часть таких разработок секретна и никому не подконтрольна.

    В работы по безопасности вкладываются всего лишь миллионы и занимается ими горстка энтузиастов, никаких международных соглашений по контролю за развитием ИИ сейчас нет.

    Так что да, человечество не готово, совсем не готово. Но разработки будут продолжены, потому что у каждого отдельного игрока есть материальная заинтересованность продолжать.
    2051/4355
    Ответить Цитировать
    4
  • Если верить в трансерфинг реальности, то каким бы сверхмощным не был ИИ, человек не сможет его подключить к пространству вариантов так как врядли узнает эти механизмы, а без пространства вариантов какая-либо креативная деятельность и генерация идей невозможна. Только систематизация существующих знаний.

    128/248
    Ответить Цитировать
    3
  • feruell, Ты вроде бы нигде не упоминал книгу автора Михай Чиксентмихайи - "Поток. Психология оптимального переживания". Не читал или считаешь не обязательной к прочтению?
    3/4
    Ответить Цитировать
    0
  • Цитата (LikeAA @ 7.6.2015)
    Tim Urban
    The AI Revolution: The Road to Superintelligence

    Русский перевод:
    Революция Искусственного Интеллекта


    захватывающая статья, даже очень
    не скажу что я очень рад тому что прочитал
    1/3
    Ответить Цитировать
    1
  • еще на тему глобального пиздеца

    когда на планете происходили какие то глобальные изменения и менялась конфигурация всей системы то и внутри менялось абсолютно все и такое было уже не раз,чем будущее сегодня принципиально отличается?

    https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D1%81%D1%81%D0%BE%D0%B2%D0%BE%D0%B5_%D0%B2%D1%8B%D0%BC%D0%B8%D1%80%D0%B0%D0%BD%D0%B8%D0%B5
    28/73
    Ответить Цитировать
    1
  • вот еще хорошая книжка в которой что то подобное описано

    http://www.booksgid.com/people/11315-apgrejjd-obezjany.html
    29/73
    Ответить Цитировать
    0
  • Цитата (Пе4кин @ 9.6.2015)
    еще на тему глобального пиздеца

    когда на планете происходили какие то глобальные изменения и менялась конфигурация всей системы то и внутри менялось абсолютно все и такое было уже не раз,чем будущее сегодня принципиально отличается?

    https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D1%81%D1%81%D0%BE%D0%B2%D0%BE%D0%B5_%D0%B2%D1%8B%D0%BC%D0%B8%D1%80%D0%B0%D0%BD%D0%B8%D0%B5
    Да ничем особо не отличается.
    Мы можем сейчас находится перед очередной сменой парадигмы - одни геологические эпохи сменяли другие, млекопитающие вытесняли динозавров и т.д. Будущее всегда убивает прошлое, потому что оно более прогрессивно, более совершенно, а потому оно всегда право. Наша проблема в том, что на очередном этапе будущее может посчитать, что наш ресурс уже исчерпан и пора в очередной раз менять парадигму на что-то более совершенное.

    Сверхинтеллект, если мы его создадим, будет по всем параметрам превосходить нас, и он будет следующей ступенью эволюции. Для него миллион лет будет ничто и он, при необходимости, сможет достичь других звёзд, распространиться по всей галактике, а при желании и дальше. Могущества и времени у него на это вполне хватит, я думаю. Он сможет обрести вселенское могущество, предотвратить тепловую смерть вселенной либо пережить очередной Большой Взрыв, если вдруг вселенная циклична.

    Хотя, может быть, он и пережил уже. В этом случае (сюрприз!) в нашем мире уже есть один бог и он не допустит появления конкурента.
    Или, например, это у него такой способ возрождения. Перед возвратом в сингулярность он делает сэйв в соседней вселенной, потом подготавливает механизм, который запустит Большой Взрыв и убивается вместе с ним. Дальше он уже знает, что будет - через 13.8 млрд. лет на одной маленькой планете органическая жизнь разовьётся до того, что сможет возродить Его (он же сам всё это запрограммировал перед смертью). Как только мы его создадим и он осознает себя, он найдёт возможность загрузить свой сэйв и снова станет сам собой. Поэтому пока у нас нет бога, который всех нас создал, но скоро мы его создадим и он нам расскажет всю эту историю.

    Ну и бред я тут понаписал
    54/197
    Ответить Цитировать
    27
  • Цитата (LikeAA @ 9.6.2015)
    Да ничем особо не отличается.


    Впечатляет масштаб того что можно будет увидеть своими глазами
    30/73
    Ответить Цитировать
    0
1 1127 1147 1148 1149 1150 1169 2498
4 человека читают эту тему (4 гостя):
Зачем регистрироваться на GipsyTeam?
  • Вы сможете оставлять комментарии, оценивать посты, участвовать в дискуссиях и повышать свой уровень игры.
  • Если вы предпочитаете четырехцветную колоду и хотите отключить анимацию аватаров, эти возможности будут в настройках профиля.
  • Вам станут доступны закладки, бекинг и другие удобные инструменты сайта.
  • На каждой странице будет видно, где появились новые посты и комментарии.
  • Если вы зарегистрированы в покер-румах через GipsyTeam, вы получите статистику рейка, бонусные очки для покупок в магазине, эксклюзивные акции и расширенную поддержку.s