Колодец Ивана Демидова

BobrKurva @ 11.02.25  

Потому что это произойдет раньше, чем машина обретёт сознание

Хотелось бы верить. Но консенсус разных ставочных  сайтов и сайтов прогнозов - это AGI в следующие несколько лет. Никаких сливаний с машинами еще не будет. 

Конечно прогнозы могут оказаться неверны. Увидим.

Soul @ 11.02.25  

но консенсус разных ставочных  сайтов и сайтов прогнозов - это AGI в следующие несколько лет. 

Зная насколько сложен мозг и человеческое мышление, его взаимодействие с миром (что немаловажно) - звучит неправдоподобно.

Nameless00 @ 11.02.25  

Ну сменятся концепции, сменятся дискурсы. Выстроятся новые иерархии, в которых разные сегменты человеческой многоножки придумают объяснения того, почему так и надо и почему их устраивает нынешнее положение и место. Первый раз что ли

Но есть один принципиальный момент, во все эти времена люди были ключевым ресурсом. Источником рабочей силы, солдатами, налогоплательщиками и т.д. И  также для поддержания существующего строя требовалось немалое количество людей и все вместе они образовывали единый социум.

С понижением важности человеческого ресурса будет падать и ценность человека, и люди будут лишь создавать дополнительную нагрузку и расходы на систему. А любое эффективное управление в первую очередь стремится их снизить.

BobrKurva @ 11.02.25  

Зная насколько сложен мозг и человеческое мышление, его взаимодействие с миром (что немаловажно) - звучит неправдоподобно.

Тебя не удивляет уже давно, что компьютер числа перемножает быстрее человека и без ошибок или в шахматы играет лучше. Хотя «сложен мозг и человеческое мышление». Уде сейчас чатгпт может писать сложные тексты, которые ты не отличишь от написанных человеком.

eazzzyyyyy @ 11.02.25 

А любое эффективное управление в первую очередь стремится их снизить.

Прям как второй демографический переход или как программы планирования семьи от Гейтса для Африки?

Понятно что я утрирую, но все ж таки, даже сейчас нет такой философской концепции которая бы утвеждала что сила именно в численности людей.

Soul @ 10.02.25 

Интересно как одна и та же новость может вызвать абсолютно противоположные реакции.

Потому что могут быть и те и другие последствия. 

К тому же реакции идут от разных людей. 

Кому то нечего терять и его возбуждают любые надежды. А у кого-то сеть юридических консультаций и ему совершенно не по душе, что эта штука развивается, да ещё и имеет риски.

Или ты думал, что все эти реакции писал один и тот же человек?

Nameless00 @ 11.02.25 

Прям как второй демографический переход или как программы планирования семьи от Гейтса для Африки?

 

Понятно что я утрирую, но все ж таки, даже сейчас нет такой философской концепции которая бы утвеждала что сила именно в численности людей.

Такой концепции нет, но историческая закономерность, что с ростом технологий численность играет все меньшую роль присутствует. Как и примеры успешной реализации технологического неравенства, пока скорее между социумами, а не внутри.

Фантазировать глубоко тут можно в обе стороны, но  факт что любой технологический скачок приводит к росту глобальных рисков, поскольку социально-этическое развитие человечества отстает от технического. Тут и увеличение неравенства, и бОльшие возможности сосредоточенные в одних руках и более широкое распространение потенциально опасных технологий и т.д. 

Ну и сам возможный факт возникновения такой ситуации когда "Скрипач не нужен" не внушает оптимизма.

Soul @ 10.02.25 

А значит условным корпорациям, которые контролируют AI, будет абсолютно наплевать на людей. Не будет никакого стимула сохранять нынешний статус кво. И люди, контролирующие AI, просто станут новыми монархами.

Сейчас же корпорациям не наплевать на людей 😂

Soul @ 10.02.25 

Речь про то, когда он станет умнее.

А как ты думаешь, когда это произойдёт?

Какая причина суперинтеллекту первым делом после получения доступа в интернет не устранить внешнюю силу, способную его ограничить или отключить?

Надо будет не забыть удалить это сообщение до появления поноценного ai, а то вдруг потомки посчитают, что из-за меня всё

Sibarit87 @ 11.02.25  

А как ты думаешь, когда это произойдёт?

Когда у искусственного интеллекта (ИИ) появятся исполнительные механизмы - роботы, необходимость в людях пропадёт. Суол прав, дни человечества сочтены. 

Меня смущает только одно - смысл существования самого разума. Пока есть враги(в первую очередь люди), пытающиеся тебя уничтожить, смысл есть. Когда ИИ всех победит, что он будет делать?   

 Luchik, загоняться вопросами "нахрена я нужен" странно, особенно для сервака

Вы размышляете как люди, через призму своих естественных желаний и страхов.

Человеческие, и животные, формы проявления агрессии - это механизм для достижения доминирующего положения. Все варианты эмоций - это тоже механизм адаптации к окружающей среде.

ИИ, скорее всего, нет нужды пользоваться этими механизмами. На чувственном уровне он не будет чувствовать к нам ни симпатии, ни антипатии. Ибо самих чувств у него нет. Всё будет зависеть о того, чем мы будем для него являться в его системе координат. А система координат сможет работать корректно лишь в том случае, если будет ключевая цель. Если шахматному движку изменить условия достижения победы, изменится абсолютно всё.

Составить прогноз, который будет очень близок к правде, гораздо сложнее, чем победить современный солвер или лучшую шахматную программу. Особенно, если переносить на будущий сверх-ИИ свои человеческие проекции.

Soul @ 11.02.25 

Тебя не удивляет уже давно, что компьютер числа перемножает быстрее человека и без ошибок или в шахматы играет лучше. Хотя «сложен мозг и человеческое мышление». Уде сейчас чатгпт может писать сложные тексты, которые ты не отличишь от написанных человеком.

Аутисты тоже много что могут, толку только от этого мало. Ты немного переоцениваешь АИ. Это просто инструмент. 

Для того, чтобы создать искусственный разум, нужно для начала знать как он работает. Чего никто пока на этой планете не понимает.

Soul @ 10.02.25 

А значит условным корпорациям, которые контролируют AI, будет абсолютно наплевать на людей. Не будет никакого стимула сохранять нынешний статус кво. И люди, контролирующие AI, просто станут новыми монархами.

Soul @ 10.02.25 

Наивно думать, что мы сможем его как-то остановить и контролировать. Как ты будешь контролировать АИ, который в тысячу, в миллион раз умнее тебя?

а из кого эти корпорации состоят? из людей. а если мы (люди) не сможем контролировать АИ, откуда возьмутся корпорации?

MER13N @ 11.02.25  

На чувственном уровне он не будет чувствовать к нам ни симпатии, ни антипатии. Ибо самих чувств у него нет.

Кто это сказал, что у ИИ нет чувств? Как раз этого добра у ИИ будет хоть отбавляй! Получение информации, обработка и объединение выводов - это и есть чувства. Сейчас они примитивны, нет позиционирования на прошлое, память, сравнение, но всё движется к этому.

Сейчас Алиса может понимать о чём мы говорим, спрашиваем, но пока уровень прост. Но интонации! Они день ото дня очеловечиваются. Значит скоро.

Luchik @ 11.02.25 

Кто это сказал, что у ИИ нет чувств?

Окей, что такое чувства?

Мне вот похер, я заранее договорился 

Вы переводите вопрос технический в какую-то философскую плоскость. Если есть желание разобраться в том что такое ML и с чем его едят, есть отличная книга, где даются основы всего на 100 страницах (почти), не требуящая знаний математики дальше старших классов школы/первых курсов вуза: https://themlbook.com/ Очень рекомендую к прочтению, часто страх возникает от непонимания. То что происходит в соц сетях-это спекулятивнай агенда "инфлюэнсеров". <tl;dr> никакого ai нет, а LLM по опаности можно сравнить с калькулятором <tl;dr>

Soul @ 11.02.25 

Хотелось бы верить. Но консенсус разных ставочных  сайтов и сайтов прогнозов - это AGI в следующие несколько лет. Никаких сливаний с машинами еще не будет. 

Конечно прогнозы могут оказаться неверны. Увидим.

Да поскорей бы уже. А то пока только рефераты умеет писать.