Let it rip

MountainRose, там правильно предупреждают в начале видео, особо впечатлительных не смотреть, а то можно так некисло споймать экзистенциональный кризис и скатиться как минимум в апатию. Всё умирает и мы умрем от ИИ или от старости, какая разница живите пока живется.

diamant @ 30.05.23 

Всё умирает и мы умрем от ИИ или от старости, какая разница живите пока живется.

Я бы предпочел от старости, но я всегда считался немного странным, так что это личное предпочтение

интересно, а в комьюнити есть прогеры, которые связаны с разработкой  AI?) Просто то, что сейчас называют AI на самом деле нифига не AI ))) и до AI ещё очень далеко)))))

MountainRose @ 30.05.23 

 

Я бы предпочел от старости, но я всегда считался немного странным, так что это личное предпочтение

хуясе поворот))) я думал ты собираешься жить вечно и пока всё идёт нормально)))

На самом деле, не сказал бы что сильно впечатлен его предсказаниями.

Во-первых, если так и произойдет, я ничего не могу с этим сделать. Просто гг вп.

Во-вторых, человечество весьма живучий вид, прошло через много кризисов, войн и болезней, и все еще тут.

В третьих, то, что ИИ первым делом надо избавиться от всех людей звучит немного сомнительно. А как сам ИИ будет существовать? Может тогда более логический сценарий из матрицы?

Ну и противоречия, то он намекает на годы которые остались людям, то он говорит что в ближайшие 50 лет нас ожидает ужасный кризис. То, что он говорит что его надо сделать главным на "острове" и он будет принимать решения, чтобы спасти человечество уже указывает на то, что из него так себе дипломат как минимум. 

То, что это надо обсуждать и есть определенный риск, я согласен. То, что этот риск 99%+ и человечество обречено в ближайшие годы - хз. Посмотрим.

Eskander07 @ 30.05.23 

интересно, а в комьюнити есть прогеры, которые связаны с разработкой  AI?) Просто то, что сейчас называют AI на самом деле нифига не AI ))) и до AI ещё очень далеко)))))

Статья о рисках AI от DeepMind + OpenAI в соавторах. Вряд ли кто-то (за исключением Юдковского разве что 😉) разбирается в вопросе лучше этих людей. И тут еще нужно сделать поправку на то, что разработчики AI не мотивированы, мягко говоря, преувеличивать угрозы.

MountainRose @ 30.05.23 

Этот парень аргументирует что мы все умрем, довольно скоро. Всё человечество до единого, мгновенно и одновременно.

 

Привет, можно краткую выжимку для тех, кто не готов смотреть почти два часа видео? Имею схожие взгляды, но почти уверен, что аргументация у этого парня совсем иная, чем у меня. А смотреть два часа влом))

MountainRose @ 30.05.23 

Во-первых, если так и произойдет, я ничего не могу с этим сделать. Просто гг вп.

Как минимум, полюбить момент "сейчас", а не момент "будущее". Это тяжело для восприятия, особенно с нашим воспитанием. Многое перестанет иметь смысл (его и без этого не было, но искусственные рамки создают мираж).

MountainRose @ 30.05.23 

Ну и противоречия, то он намекает на годы которые остались людям, то он говорит что в ближайшие 50 лет нас ожидает ужасный кризис. 

Это скорее поинт к тому, что никто не знает сроков, тк их нельзя предсказать. И никто не понимает, как все это работает) Тот же GPT появился в своем роде случайно перемножением матриц, и нет представления, как это работает внутри. Поэтому большой разброс в сроках объясним.

MountainRose @ 30.05.23 

То, что он говорит что его надо сделать главным на "острове" и он будет принимать решения, чтобы спасти человечество уже указывает на то, что из него так себе дипломат как минимум. 

Это сообщение о том, что решения не существует. Отсюда и "подкупить всех фаундеров" и тд, тк нет очевидных способов контроля кроме самых безумных.

Eskander07 @ 30.05.23 

интересно, а в комьюнити есть прогеры, которые связаны с разработкой  AI?) Просто то, что сейчас называют AI на самом деле нифига не AI ))) и до AI ещё очень далеко)))))

 Учитывая что  ответ на твои вопросы вполне себе  хороши , и даже пообщаться можно ,  просить советы  узнавать проблему по типу ( что с машиной если вот такие звуки издаёт) то это не совсем просто текстовой бот, вспомни ботов 10летней давности   и сравни,  разница просто  огромна да, это не тот AI  который показывают в фантастических фильмах  но и не просто однотипный чат бот.

Юдковский чёт похож на чела который получил оч много внимания последнее время. Этакий Васерман Западный  😁

Не хочу никого задеть, но шансы помереть раньше времени у Юдковского от его проблем с лишним весом, намного выше, чем отлететь от АИ. 

Это, если что, не отменяет того факта, что он может быть полностью прав.

MountainRose @ 30.05.23 

На самом деле, не сказал бы что сильно впечатлен его предсказаниями.

 

Во-первых, если так и произойдет, я ничего не могу с этим сделать. Просто гг вп.

Во-вторых, человечество весьма живучий вид, прошло через много кризисов, войн и болезней, и все еще тут.

В третьих, то, что ИИ первым делом надо избавиться от всех людей звучит немного сомнительно. А как сам ИИ будет существовать? Может тогда более логический сценарий из матрицы?

 

2 Не так уж и много существуют люди. Например те же динозавры 140 млн лет просуществовали, люди пока 6 млн. Ничего сверхужасного людям не грозило. Войны локальные, эпидемии не со 100% сметрностью, внешних врагов нет. Люди сами суперхищники.

3 Может и не первым делом ИИ для своих целей будет нужно уничтожить людей. Скорость мышления и принятия решений будет гораздо выше человеческой. И то что ИИ будет делать в сотую очередь, возможно для этого понадобится всего несколько дней, минут... Люди явно не смогут отреагировать.

 ИИ и без помощи людей сможет просуществовать. По моему это самое простое. Управление станками, роботами (а может и то что человечество не в состоянии додуматься) помогут сделать полную независимость от человеческого фактора.

Пока самый страшный враг человечества - это сам человек, кровавый и беспощадный. Вспомнилась Лилу из Пятого элемента - вокруг вас нет добра, только насилие и война и зачем мне спасать Землю.

Это конечно все очень интересно. Но ИИ разрабатывают люди, и вы правда думаете что у людей, у которых хватило мозгов это создать, не хватит мозгов чтобы учитывать все возможные риски и последствия, чтобы их исключить?

K1ngHigh, глядя на происходящее вопрос способности мозгов у хомосапиенс неутешительный

K1ngHigh @ 30.05.23 

вы правда думаете что у людей, у которых хватило мозгов это создать, не хватит мозгов чтобы учитывать все возможные риски и последствия, чтобы их исключить?

да

MountainRose @ 30.05.23 

Этот парень аргументирует что мы все умрем, довольно скоро. Всё человечество до единого, мгновенно и одновременно.

 

Доброго утречка вам кстати.

 

У Лема в Солярисе было, что человечество не хочет разведывать и познавать космос, оно хочет распространить свою человечность до новых границ во вселенной.

До этого за 500 лет в дневниках у Колумба была заметка, когда они открыли «Индию» и нашли там туземцев. что-то вроде: «Ваша светлость местное население будет отличными христианами и верными подданными королевы».

Глубже можно еще покопаться, там ничего не изменилось. Человечество само себя поубивает скорее, чем это сделает что-то еще.

Nighthawk @ 30.05.23 

Статья о рисках AI от DeepMind + OpenAI в соавторах. Вряд ли кто-то (за исключением Юдковского разве что 😉) разбирается в вопросе лучше этих людей. И тут еще нужно сделать поправку на то, что разработчики AI не мотивированы, мягко говоря, преувеличивать угрозы.

ага, только там о самом  AI ни слова) там о методах ограничения и оценки угрозы) Сегодняшний AI это система натренированная человеком. Сам по себе сегодняшний AI не учится и учиться не умеет. И пока ещё не видно, что научится.

Eskander07 @ 30.05.23 

ага, только там о самом  AI ни слова) там о методах ограничения и оценки угрозы) Сегодняшний AI это система натренированная человеком. Сам по себе сегодняшний AI не учится и учиться не умеет. И пока ещё не видно, что научится.

Как я понимаю, ты согласен с тем, что статья выпущена одними из самых компетентных специалистов по AI и согласен с тем, что они совершенно не заинтересованы в излишних разговорах об угрозах AI. Но при этом выпущенная ими статья об угрозах со стороны AI не актуальна?

Nighthawk, 😐

Я видео не смотрел пока, так как нету времени, а фоном такое смотреть не хочется, поэтому задам вопрос. Возможно тупой и невежественный. Если так, то прошу просто ткнуть ссылкой либо дать простой ответ. 

ИИ создаёт человек. По-сути это компьютер. В чем проблема, грубо говоря, выключить ИИ из розетки, когда запахнет пиздецом? Или он сможет манипулировать людьми в своих интересах?