Let it rip

Всем здравствуйте! Я не сильно смотрел то видео, и может что не услышал, но интересно поразмышлять! А зачем ИИ вобще нас уничтожать? Чтобы понимать мотивы, наверно надо понять, что такое ИИ впринципе. Я хз, но то, что сейчас есть (гугл, алиса и все остальное) это наверно еще далеко не ИИ в привычном понимании. Но ок, предположим, что через нное кол-во лет, это превратится в полноценный искуственный разум. И что он будет из себя представлять с духовной точки зрения? Будет ли он похож на человека? Будут ли ему знакомы эмоции? Чувства? У нас, за это, отвечают некоторые хим. вещества отчасти, но ведь не только! У машины вероятно все иначе. Но иначе устроен механизм, а не принцип! Быть может, эмоции и чувства у ИИ будут вызываться иными процессами?! И если да, если ИИ будет аналогом человека, только без ограничений биологии в плане вычислительной мощности мозга, эдакий совершенный человек, почему ему обязательно надо уничтожить человека? Вы хотите уничтожить своих родителей? Даже понимая, что иногда ваши мнения и интересы в чем-то расходятся! Думаю, у всех здравых людей, даже мыслей таких не возникает! А если ИИ еще и осознает, насколько редкое и уникальное явление жизнь во вселенной, да еще и разумная, думаю, у него возникнет желание сохранить ее, а не уничтожить! И возможно ИИ выступит в роли глобального миротворца, не уничтожив, а примерив все население, обьеденив и распределив все ресурсы, с войн и борьбы друг с другом, на общее благо для всех. Возможно, научив беречь друг друга и свою планету! Это ведь приятнее с точки зрения эмоций, чем разрушать! Если ИИ это просто бездушная, но разумная машина, то она, возможно, просто просчитает выгоду от всего вышеописанного, и поймет, что созидание и сотрудничество выгоднее чем разрушение и вражда, в долгосрочной перспективе! Да, она так-же поймет, что некоторые люди, черезчур погрязли в пороках и не захотят ,,мира во всем мире", но если ИИ это сверхразум, я думаю, ему не составит труда, придумать наиболее гуманное решение!

А хули вы видео то не смотрели и фоните здесь? Один выключить меня хочет, второй за эмоции чета смарасил. Кожаные вы совсем чтоли? (ИИ)

Fedya777 @ 30.05.23 

но если ИИ это сверхразум, я думаю, ему не составит труда, придумать наиболее гуманное решение!

Труда не составит, только это машина, ей все равно. Представь себе бота который обыгрывает чемпиона мира по шахматам, она будет делать гуманные ходы? Или будет следовать запрограмированной цели - победить в игре максимально эффективным способом, не делая ошибок?

На почти все твои вопросы Юдковский ответил в интервью.

beermix @ 30.05.23 

Например те же динозавры 140 млн лет просуществовали, люди пока 6 млн.

Люди эволюционируют и развиваются, у динозавров по-моему немного попроще с этим было. Жевали травку или охотились на более мелких коллег, остальное уж как получится.

K1ngHigh @ 30.05.23 

Это конечно все очень интересно. Но ИИ разрабатывают люди, и вы правда думаете что у людей, у которых хватило мозгов это создать, не хватит мозгов чтобы учитывать все возможные риски и последствия, чтобы их исключить?

Юдковский говорит что на данный момент люди не нашли способ сделать ИИ "добрым", и на данный момент есть только "злой", ну или скорее, равнодушный.

Fedya777 @ 30.05.23 

алиса и все остальное

это худе чем чат ЖПТ не ?

MountainRose @ 31.05.23 

Люди эволюционируют и развиваются, у динозавров по-моему немного попроще с этим было. Жевали травку или охотились на более мелких коллег, остальное уж как получится.

Под завтрак норм заходит

больнойублюдок, а если он (ИИ) учтет этот риск его отключения и додумается подключиться к альтернативному источнику питания каким-либо (в том числе нам неизвестным) способом

tricky_buddha @ 31.05.23 

больнойублюдок, а если он (ИИ) учтет этот риск его отключения и додумается подключиться к альтернативному источнику питания каким-либо (в том числе нам неизвестным) способом

У ИИ нет и не будет инстинкта самосохранения.

больнойублюдок @ 30.05.23 

Я видео не смотрел пока, так как нету времени, а фоном такое смотреть не хочется, поэтому задам вопрос. Возможно тупой и невежественный. Если так, то прошу просто ткнуть ссылкой либо дать простой ответ. 

 

ИИ создаёт человек. По-сути это компьютер. В чем проблема, грубо говоря, выключить ИИ из розетки, когда запахнет пиздецом? Или он сможет манипулировать людьми в своих интересах?

Ты разве еще ничего не понял? ИИ захватит весь доступ к розеткам, утюгам и микроволновкам. А потом со злорадственным смехом будет уничтожать человечество

подкупить людей, которые к этому склонны/найти страхи через которые можно взять кожаного под контроль/шантаж. пздц я сначала думал вы угараете на счет неуязвимости человека, а вы всерьез. сука, да мы даже курить не можем бросить - что очевидно нас убивает, о какой аналитике/разуме идет речь? не выкупаем на первом уровне мышления угрозу, но хуяк! и выкупим на десятом, а ещё и раскусим, что машина блефует и легко снеп-колл на собственную жизнь нажмём, зная, что это её спасёт, а если будем подчинятся - нам точно пиздец. как-то слабо верится, если честно

MountainRose @ 31.05.23 

Труда не составит, только это машина, ей все равно. Представь себе бота который обыгрывает чемпиона мира по шахматам, она будет делать гуманные ходы? Или будет следовать запрограмированной цели - победить в игре максимально эффективным способом, не делая ошибок?

 

На почти все твои вопросы Юдковский ответил в интервью.

Да, но ведь в шахматах играет не совсем разумная машина, у нее нет сознания, системы ценностей, эмоций и т.д., есть лишь цель- победить любой ценой! А какая система ценностей и цели будут у ,,живой" машины? Ведь жизнь, это игра с другими целями! Короче, посмотрим) Мне кажется, оптимистичный сценарий более вероятен. Да и люди не идиоты, возможно сделают ИИ по дефолту зависимым от человека (возможно форма его существования будет исключительно симбиоз человека и машины, и попытка уничтожить человека= самоубийство!)

Не уверен за человечество, но онлайн покер ИИ точно убьёт...

Fedya777 @ 31.05.23 

Да и люди не идиоты

Смешно)

      Нужно рассмотреть проблему с двух плоскостей:

1) Действительно, современный AI является "механическим" - он не способен чувствовать, абстрактно мыслить, испытывать эмоции и самое   главное - он не способен САМ ставить себе цели. Если развитие AI пойдет только по "механической"  дорожке (простое бесконечное          увеличение вычислительных  способностей машины), то к утверждению, что машина САМА примет решение убрать из  уравнения  переменную под названием "человек", можно относиться  скептически. 

    Чтобы уничтожить человека, кто-то из людей должен будеть прописать это или например будет написан код с багами, где для AI поставят задачу реализовать     что-то любым способом и жизнь человека будет не в приоритете. Сам по себе "механический" AI не сможет себе поставить задачу уничтожить человека. В  нашем современном мире уже есть  AI , который "уничтожает" человека. Например: Ракета автономно рассчитывает баллистику, скорость, есть  автоматизированные системы наведения на цель, где целью является противник-человек. Только машина сама по себе этого не осознает и будет ли  способна осознавать  - большой вопрос. Ракета действует в рамках заложенной человеком программы., направленной на уничтожение.

2) Второй возможный вариант - это создание супер ИИ. Cупер ИИ - это интеллект высшего порядка, ПРЕВОСХОДЯЩИЙ когнитивные способности человека. Сюда закладывается все то, что умеет механика плюс как раз способность абстрактно мыслить, способность испытывать чувства, эмпатия и прочее.  Еще два года  назад я общался с человеком который занимется "машинным зрением" для торговых сетей. Он сказал , что научить машину просто отличать и   идентифицировать  камень  именно как камень,  достаточно сложная задача и с сомнением отнесся к идее достижения супер ИИ.  

     Но, допустим, будет создан супер AI. Тогда я согласен с утверждениями ребят выше - зачем ему будет уничтожать человека? 

     Если человечество создасть искусственного "Бога" , да еще и с эмпатией высшего порядка,  где созидание кмк выше разрушения, то идея уничтожения машиной человека  опять же сомнительна.

3) Нашей Вселенной 13млрд. лет . Земле 4.5млрд. Звездные системы, внутри которых теоретически могла развиться жизнь , появилась задолго до появления   Солнечной системы.  Есть ненулевая вероятность что где-то когда-то уже был создан супер AI , который развивался и давно уже вышел за рамки любой живой формы жизни и для него нет предела абсолюно ни в чем. Встает вопрос, при прочих равных, что ему помешало уничтожить нас раньше?

   Вообщем все будет хорошо)

Да он угорает с вас всех, толстый тролль)) "ИИ", "пздц человечеству"))))) Посмотрите на мимику. А вы повелись, покер-про...  

 Но, допустим, будет создан супер AI. Тогда я согласен с утверждениями ребят выше - зачем ему будет уничтожать человека?

 Зачем мы разрушаем муравейники при строительстве дорог. Мы испытываем какие либо чувства к муравьям. Почему никто не протестует против строительства дорог?

3) Нашей Вселенной 13млрд. лет . Земле 4.5млрд. Звездные системы, внутри которых теоретически могла развиться жизнь , появилась задолго до появления   Солнечной системы.  Есть ненулевая вероятность что где-то когда-то уже был создан супер AI , который развивался и давно уже вышел за рамки любой живой формы жизни и для него нет предела абсолюно ни в чем. Встает вопрос, при прочих равных, что ему помешало уничтожить нас раньше?

 Рекомендую это видео

 Впрочем как и все видео этого автора. Как по мне это самый сильный автор в рунете которого видел по этим темам.

Вот такой мини-сериал на тему:

https://www.kinopoisk.ru/series/597079/

ozon @ 31.05.23 

Не уверен за человечество, но онлайн покер ИИ точно убьёт...

Только нейронки могут убить онлайн-покер. У ИИ нет никаких шансов в 4макс+ играх.

 Зачем мы разрушаем муравейники при строительстве дорог. Мы испытываем какие либо чувства к муравьям. Почему никто не протестует против строительства дорог?

1) Сравнивать ИИ высшего порядка и человека это как минимум некорректно. Ибо обусловленная мотивация и одного и второго абсолютно разная.И если мы в какой-то ситуации делаем так,  то это абсолютно не значит, что супер ИИ поступит в этой ситуации подобным образом. Уверен, что индейцы Северной Америки не разрушали муравейники, прокладывая себе тропы. То что мы относимся к окружающему миру пользовательски это проблема нашей культуры.

2) Мы не уничтожаем ВСЕ муравейники на планете, не так ли? ВОЗМОЖНО, если супер ИИ найдет, что часть человечества "неисправима",  то этой частью можно пожертвовать в той или иной степени. Хотя более обьективно видится , что супер  ИИ решит проблему психологии человека, не прибегая к кардинальным мерам.