Let it rip

Ну и если бы мы допускали, что муравьи обладают сознанием, способны общаться с нами, способны абстрактно мыслить как мы, обладают эмпатией и вообще стоят на одной из высших ступеней развития живой формы жизни (эдакие маленькие людишки), то не факт, что строя свои дороги, мы бы разрушали муравейники.

malyuga1111 @ 31.05.23 

 Зачем мы разрушаем муравейники при строительстве дорог. Мы испытываем какие либо чувства к муравьям. Почему никто не протестует против строительства дорог?

  

 

1) Сравнивать ИИ высшего порядка и человека это как минимум некорректно. Ибо обусловленная мотивация и одного и второго абсолютно разная.И если мы в какой-то ситуации делаем так,  то это абсолютно не значит, что супер ИИ поступит в этой ситуации подобным образом. Уверен, что индейцы Северной Америки не разрушали муравейники, прокладывая себе тропы. То что мы относимся к окружающему миру пользовательски это проблема нашей культуры.

2) Мы не уничтожаем ВСЕ муравейники на планете, не так ли? ВОЗМОЖНО, если супер ИИ найдет, что часть человечества "неисправима",  то этой частью можно пожертвовать в той или иной степени. Хотя более обьективно видится , что супер  ИИ решит проблему психологии человека, не прибегая к кардинальным мерам.

 Почему ИИ должен относиться к людям по особенному.

 Животные едят друг друга. Надо ли ИИ решать эту проблему в рамках гуманизма.

Или он решит что идет как надо, чем для него человек  отличаться от животных. Кто знает что такое высший гуманизм.

Ну например то , что человек его создатель, его родитель  - должно играть роль. Мы любим своих бабушек, хотя гораздо продвинутее и умнее. Ну или, например, супер ИИ будет понимать, что человек это самая развитая форма жизни здесь и сейчас. Зачем уничтожать *младшего брата*, если интереснее его воспитать и вырастить в нечто более совершенное?

И не забывай, если мы рассуждаем в рамках супер ИИ, то наделяем его высшей эмпатией и разрушению тут мало места кмк.

Попробуйте хотя бы пол часа видео посмотреть, которое я запостил. Большинство рассуждений - мимо.

Да все эти рассуждения то же самое как в свое время все рассуждали, а что мол будет если мы в космос полезем и там злые инопланетяни нас обнаружат и уничтожат (!!!) может ну его нафиг этот космос вообще. Уровень дисскусий один и тот же

Видео посмотрел полностью,  но так как я далёк от области ИИ, то для себя каких-то аргументов от Юдковского не услышал, как мне показалось только предложения и допущения. ИМХО.

ozon @ 31.05.23 

Не уверен за человечество, но онлайн покер ИИ точно убьёт...

Всё ок будет если игра будет строго для людей против людей тот же ИИ сможет проследить чтоб всё было честно

Накаркали.

В США на испытаниях управлявший БПЛА искусственный интеллект решил убить оператора

Сегодня.

В США в ходе имитационных испытаний беспилотник ВВС, управляемый искусственным интеллектом (ИИ), принял решение убить оператора, чтобы тот не мешал его усилиям по выполнению своей задачи. Об этом сообщает сегодня, 2 июня, газета The Guardian.

Alibasy @ 02.06.23 

Накаркали.

 

В США на испытаниях управлявший БПЛА искусственный интеллект решил убить оператора

Сегодня.

В США в ходе имитационных испытаний беспилотник ВВС, управляемый искусственным интеллектом (ИИ), принял решение убить оператора, чтобы тот не мешал его усилиям по выполнению своей задачи. Об этом сообщает сегодня, 2 июня, газета The Guardian.

там далее забавно было, запрограммировали БПЛА чтоб он не убивал человека, так он захотел уничтожить вышку, которая типа отправляла ему сигнал о не убийстве  

MountainRose @ 02.06.23 

Такой крутой фильм был конечно, явно опередил свое время по своему уровню. Эпично будет если он окажется пророческим. 

Кстати, так и не посмотрел в оригинальной озвучке с последнего просмотра в детстве, надо будет успеть до того, как они нас одолеют.

MountainRose @ 04.06.23 

 

Такой крутой фильм был конечно, явно опередил свое время по своему уровню. Эпично будет если он окажется пророческим. 

 

Кстати, так и не посмотрел в оригинальной озвучке с последнего просмотра в детстве, надо будет успеть до того, как они нас одолеют.

Но потом окажется, что происходит всё это уже по десятому кругу, много сотен лет подряд, во сне.

Я смог осилить 70 минут от видео, хоть слушать Юдковского и тяжкий труд. Как я понимаю, основных вопросов два:

1) можно ли вообще создать сверх ИИ (ИИ который может решать любую когнитивную задачу лучше, чем всё человечество вместе взятое) 
2) если можно, какие цели будут у этого ИИ и не будет ли существование людей им мешать

Юдковский много говорит про 2, и что мы не можем заложить в ИИ цель не убить всех людей и что он изи нас всех убьёт, если захочет. То есть ответ на второй вопрос "мы ничего не знаем про цели этого ИИ, не знаем как его сделать похожим на нас по ценностям, в плохом сценарии нам пиздец". А в хорошем мы заживём в хуилиард раз лучше, но про это Ю. не говорит особо, ведь страх продаётся, а кайф нет. 

При этом ответ на вопрос 1 логически первичнее, чем вопрос два. Если сверх ИИ нельзя создать, не похуй ли что он нас убьёт? А по поводу:
- можно ли создать сверх ИИ? 
- если да, то каков вообще механизм и насколько человечество близко

Ю. говорит примерно ничего. Я услышал только "гипотетический ИИ переходит критический порог, и раз он может решать любую задачу лучше людей, то и задачу создать ИИ он решит лучше людей, тот ещё лучше и вот бесконечный цикл улучшения и супер-пупер-мега ИИ готов". Только для всего этого ужасно пугающего будущего нужен стартер "ИИ, который решает задачу "создание ии" лучше людей". А этот ии должны создать люди, больше пока некому. 

Близки ли мы? Сам же Ю. в интервью на вопрос про чатгпт (и следовательно любую другую существующую LLM) говорит, что она его не пугает и это вообще близко не сверх ИИ. Умение же современных нейронок создавать лучшие версии самих себя сейчас эм..ну... нулевое? По крайней мере я про это вообще ничего не слышал. Тот же чатгпт может написать своеобразного качества код, обучившись на куче кода с гитхаб и однотипных задач в стиле "создай мне сайт, выглядящий... ". И все опрошенные мной друзья прогеры мидл+ уровня говорили, что разработчиков нормальных он не заменит.

Итого: два часа рассказов, что когда на Землю прилетят инопланетяне превосходящие нас технически, они могут легко нас уничтожить и мы ничего не знаем об их целях. И почти ничего о том, существуют ли вообще инопланетяне. А хотелось бы послушать про существование, как-то это важнее кажется, имхо.

P. S. вообще вопрос возможности создания AGI/ASI оч интересный, я оцениваю вероятность точно больше 0 и это рил пугает. Просто конкретно этот подкаст с Ю. плохой вышел, имхо

P. P. S. когда глава НКО, занимающегося угрозой ИИ рассказывает вам про угрозы ИИ, следует перед прослушиванием достать "пиздец какое скептическое пенсне", потому что расстояние от Ю. до не заинтересованного эксперта по вопросу примерно как от вершины Эвереста до дна Марианской впадины. Очевидно, что Ю. оч полезно убедить весь мир, что нам пиздец уже завтра, ну может послезавтра. Скорее переводите мне 10 миллиардов, тогда мб успеем. Из этого не следует, что он не прав по вопросу обязательно , но конфликт интересов на лицо

P. P. P. S. как же бесит его манера успользовать умные сложные слова, вместо нормальной речи. "Если говорить много умных слов, все решат что ты умный". Ковалентно связанный алмозоид бляяяяядь

Alibasy @ 02.06.23 

Накаркали.

 

В США на испытаниях управлявший БПЛА искусственный интеллект решил убить оператора

Сегодня.

В США в ходе имитационных испытаний беспилотник ВВС, управляемый искусственным интеллектом (ИИ), принял решение убить оператора, чтобы тот не мешал его усилиям по выполнению своей задачи. Об этом сообщает сегодня, 2 июня, газета The Guardian.

Если что уже написали что переврали историю и ниче такого не было

BootieInUFace @ 04.06.23 

Если что уже написали что переврали историю и ниче такого не было

ИИ заметает следы.

Там Вадик выиграл браслет по лимитному холдему.  

Земляка с победой :)

malyuga1111 @ 31.05.23 

3) Нашей Вселенной 13млрд. лет . Земле 4.5млрд. Звездные системы, внутри которых теоретически могла развиться жизнь , появилась задолго до появления   Солнечной системы.  Есть ненулевая вероятность что где-то когда-то уже был создан супер AI , который развивался и давно уже вышел за рамки любой живой формы жизни и для него нет предела абсолюно ни в чем. Встает вопрос, при прочих равных, что ему помешало уничтожить нас раньше?

Потому что для того чтобы добраться до нас от любой гипотетически заселенной разумной жизнью галактики, потребуется невъебенное количество энергии и времени.

surprisefirm @ 05.06.23 

 

Потому что для того чтобы добраться до нас от любой гипотетически заселенной разумной жизнью галактики, потребуется невъебенное количество энергии и времени.

Я так понимаю, автор к тому и вёл. Как говорится, зачем тратить столько ресурсов, чтобы долететь до Земли и уничтожить людей, а самое главное - нахуя?