Колодец Ивана Демидова

almagro @ 11.02.25 

Не вижу никаких причин для корпораций, почему возможности ИИ не станут общественным достоянием

almagro @ 11.02.25 

Ну это рассуждения уровня супергеройских фильмов, где есть кто то плохой просто потому что он плохой, Только в реальной жизни все действуют из практической выгоды. Сделать всех нищими это выстрел себе в ногу.

Вот именно, что все действуют из практической выгоды. Сейчас есть "практическая выгода" иметь свободную и довольную рабочую силу. В мире техно феодализма подобной "практической выгоды" не будет. О том и речь. Соотвественно не будет никаких механизмов заставить корпорации поделиться с обычными людьми выгодами ИИ. Может быть конечно повезет и ИИ попадет в руки людей, которые захотят сделать жизнь всего человечества лучше. А может быть не повезет. Кто знает.

vezhee @ 11.02.25 

 

Кстати тексты, стихи и картинки он делает всегда плохие.

Хзхз. Не идеальные - да. Требующие внимания - да. Но «всегда плохие»? Я бы так не сказал

Soul @ 11.02.25  

Будет "слово короля закон". Попадется добрый король - ну повезло. Попадется король немного психопат - не повезло.

Это неплохо работало, когда короля невозможно было превратить в труп, не приблизившись к нему хотя бы на длину пики

 OneStillBall, отлично и сегодня работает.

 Дизель, только из бункера королю вылазить страшно, а так да

OneStillBall @ 11.02.25 

Это неплохо работало, когда короля невозможно было превратить в труп, не приблизившись к нему хотя бы на длину пики

Согласен, вопрос упирается в то, что "народ" взбунтуется. Но, думаю, что ИИ им поможет правильно подготовиться к силовому решению проблемы и "убрать" недовольных. Другое дело, что, как я понимаю, есть мнения (и я с ними согласен), что ИИ не будет подконтролен кому-либо вообще.

Есть еще немаловажный вопрос, что нужно народу для счастья. И фишка в том, что для счастья нужны не материальные блага, а нематериальные. А народ сейчас сосредоточен на получении материальных благ (поэтому и уровень негатива и апатии в обществе настолько высокий). Другими словами, до обсуждения проблем с ИИ стоит на существенно более простые и базовые вопросы ответить? А что нам вообще для счастья нужно, и чего не хватает? Случайно не разумности людей во взаимодействии друг с другом маловато?

Flegendo @ 11.02.25  

 Если не размышлять об скайнете и порабощении человечества ай ай. То и без этого полно проблем. Люди могут потерять навыки. И получится как в вархамере. 

 

 Начиная с простейшего,  дети перестанут делать домашние задания и развиваться, зачем это делать самому если уже сейчас дипсик или гпшка решит всю школьную программу. 

 

 Джуны не смогут найти себе работу. Если вы хороший художник/дизайнер/диджей то ай вам друг это просто новый фотошоп (С). Это сейчас так. А дальше ? Человек заканчивает школу, путягу, универ хочет пойти на первую работу, а ее нет. Ну потому, что аишка уже сейчас сделает не хуже и спокойно уйдет в масс маркет. 

 

 У кого глаз надрочен уже видел перед нг, что ретейл забит всякими открытками, плакатами, обложками книг стейблдифюженом сделаным. В итоге просто множество отраслей человечества может отмереть за несколько десятилетий.

Это верно в том случае, если у человека система ценностей завязана на материальные блага, а не на личностное развитие (семья, совершенствование своей деятельности - как процесс, а не как средство обогащения), близкие.

Я думаю, что среди нас достаточно мало людей, которые работали в крупных компаниях. Я прошел от базовых позиций до директора проектного офиса крупной компании. Прошел очень быстро, хорошо играл в корпоративные игры, работал в 5-ти разных страховых компаниях. Был огромный круг общения (до ухода в спорт). И я помогал другим коллегам добиваться своих целей делился своим опытом, и они делились со мной своим (за счет этого я быстро и двигался вперед, я честно и открыто общался с людьми). И, поскольку люди честно и открыто общались со мной, могу вам рассказать из первых уст, а также, как человек буквально занимавшийся оптимизацией процессов внутри компаний:

Даже сейчас безо всякого ИИ у нас в мире, не только в России, имеет место серьезная проблема - неразумная доля времени проводимая человеком в офисе/на работе вне зависимости от тех задач, которые перед ним фактически стоят.

Что я имею в виду. Если здесь есть опытные корпоративные сотрудники, то, думаю, со мной согласятся, что если бы люди получали доход не от времени, а от результата. То при текущем развитии технологий, тот объем работы, который необходим, чтобы поддерживать современный уровень комфорта и безопасности, можно выполнять не за 8-9 часов в день, а за 4-5 часов. И идти к семьям, друзьям, родным. Общаться, отдыхать, познавать жизнь, увлекаться. Жить гармоничной сбалансированной жизнью. А кому эта гонка нужна адская? Ради чего все сидят по 10-14 часов на работах сейчас?

Очень слабая и неэффективная огранизация труда.

 Алё человеку особенно юному, нужна крыша над головой и макарошки с тушенкой поесть. Какое личностное развитие если ты безработный. А ты безработный потому, что твою работу сделает "оператор ай ай" и малому и микро бизнесу это будет ок. Это какой нибудь близард может играть в доброго самаритянина мы не используем айай, а только труд художника. и платить там несколько сот долларов за иллюстрацию. А какой-нибудь сунхуйвчай который делает три в ряд уже все заместил. 

Работы нет, денег нет, пойду в проститутки(С) Гипертрофированно, но так люди через 10 лет могут забыть как рисовать потому, что за это не платят деньги.

 Flegendo, 

На мой взгляд, ИИ - это возможность автоматизировать работу людей, чтобы облегчить их жизнь и снизить время, затрачиваемое на работу. 

Если инструмент, который разработан с целью сделать их жизнь лучше, сделает их жизнь хуже, то в обществе что-то не так. "И опасность влияния ИИ на жизнь человечества" - вопрос куда менее актуальный, чем организация взаимодействия между людьми. И я написал об этом 3-мя сообщениями выше. На мой взгляд, вся проблема современного мира, без преувеличения - это низкий уровень разумности при взаимодействии людей друг с другом. В семье, в небольшом коллективе, в случае "руководитель <-> подчиненный", "администрация <-> население", "нация <-> нация". За что не возьмись, везде попытка не работать в команде, а достичь свои интересы не просто в ущерб другим, а за счет ущерба окружающим (людям/странам/членам семьи).

Если ИИ что-то делает за другую часть населения, значит, нужно учиться не рисовать и считать, а просто жить, а блага переспределять разумным образом между членами общества. Почему деньги должен кто-то получать, если все делает автоматика?

Коллеги, я добавлю все же, ибо важно.

Нужно определиться, мы рассуждаем гипотетически, или в привязке к конкретной жизни.

1) Если ИИ - полезный инструмент, он должен принести в итоге пользу (если не произойдет "захват" человечества роботами)

Если за рисование не будут платить деньги, то люди будут рисовать потому, что это прекрасно. И делать это будут только те из людей, кто любят изобразительное искусство. Кого это вдохновляет. А денежку зарабатывать они будут той частью работы, которая будет на данный момент востребована. Например, сейчас практически нет профессии "наездник", или "кучер". Люди прекрасно освоили автомобили. И то что никто не переключает руками провода на телефонной станции - тоже прекрасно пережили, люди стали работать в других сферах. Вот, например, программирование появилось и занятость в этой сфере даже перекрыла работу на телеграфе)) Это естественный процесс смены актуальных сфер деятельности, технологический прогресс не первое столетие идет, еще никто от этого "не умер".

2) Если же речь идет о том, что кто-то, как это часто бывает, злоупотребит "властью", и использует ИИ, чтобы оставить людей в нищите - то эта проблема не имеет отношения к ИИ как таковому. Это наша проблема, людей. И их взаимоотношений.

Johnmir @ 12.02.25 

Если инструмент, который разработан с целью сделать их жизнь лучше, сделает их жизнь хуже, то в обществе что-то не так.

Ну вот будешь потом сидеть и сокрушаться. Оказалось в обществе что-то не так! Надеюсь от этого будет легче.

 Soul, 

Иван, я делаю, что могу. Стараюсь поступать правильно. Выстраивать отношения с людьми не на словах, а на деле - так, как считаю правильным. Мне важно нести ответственность за свои поступки. И я этим занимаюсь. Я совершенно спокоен, как удав, я на чеку. Но я не могу отвечать за все беды мира. Если ИИ загубит жизнь на планете, я по своей части все равно сделаю, что могу, и делаю )

Один предстоящий разговор об онлайн-покере чего будет стоить, который нам еще предстоит в ближайшие несколько недель ))

ИИ - молоток постиндустриальной эры, если угодно молот Тора, с помощью которого человек обретет поистине божественные способности. И это не рисование картинок. Уже следующее поколение будет внедрять в себя ИИ. Им не нужно будет спрашивать "Алиса подскажи мне то то", человек задумался и моментально получил ответ. Или нарисовал картину. Написал роман. За вечер. Легко. Тот же Вассерман по уму ребенок по сравнению с человеком новой эпохи. И это уже не просто человек разумный. А сверхразумный. Между нами и ими будет огромная пропасть. Возможно даже мы два разных биологических вида. А нам довелось родится на стыке эпох, мы уходящий в вечность олдскул, тупорылые кожаные мешки. 

И нельзя не отметить военное использование ИИ. Мир на пороге внедрения роботизированных войск. Дроны во всю царят на поле боя. Но это еще первые цветочки. Дронами пока управляют люди. Настоящим роботизированным войскам нужен электронный офицер. Никто кроме ИИ не справится. Как только офицер будет готов и сможет вести вперед рой дронов, на смену архаичным армиям прошлого придет армия будущего, которая сметет всех на своем пути. И мы увидим это в ближайшее десятилетие.

 Soul, ладно, я умываю руки.) Есть чат-боты, в которых, вы говорите, он может общаться с человеком на равных. Есть АИ, который может разбить человека в шахматы или покер.

Но нет АИ, который смог бы решить мою ничтожную проблему в покерруме)

По вашей логике сделать такого бота - проблема пяти минут.

Я уж не говорю о том, что для того, чтобы обрести сознание ИИ должен как-то контактировать с миром и реагировать на него.

 Bagaiev, ты говоришь какие-то банальности.

Понятно, что человек ошибается. Не всем понятно, что машина ошибается, потому что люди думают, что она сверхточна.

Понятно, что в сервисах чат-бот снимает нагрузку от глупых запросов от 70-летних или новых пользователей, которые плохо знакомы с системой.

Но непонятно, что чат-бот даёт ответы на твои вопросы, в 90% случаев пользуясь ответами людей в свободном доступе. 

Непонятно, что даже при обработке твоего голосового запроса, АИ просто имеет набор фонем, сравнивает их с произнесенными звуками и просто делает ctrl-c ctrl-v. А человек сидит и думает: "Ух ты, какая умная машина! Она меня понимает!"

В общем, я ушел читать книгу. Всем спасибо. Через пять лет увидим несколько продвинулась работа по созданию самосознания у машины.

BobrKurva @ 12.02.25  

Но нет АИ, который смог бы решить мою ничтожную проблему в покерруме)

Конечно есть. Ты можешь заплатить 20 баксов за чатгпт и побробовать с ним пообщаться, если не веришь.

Мне кажется ты просто не пробовал пользоваться последними версиями ИИ. У тебя данные устаревшие. За последние 2 года гигантский прогресс. Или ты думаешь дать ответ на твой вопрос в саппорт покер рума сложнее чем решить олимпиандую задачку или поставить медицинский диагноз? Нет.

Soul @ 10.02.25 

Я не специалист по AI, но в последнее время стараюсь следить за новостями. Заметил любопытную вещь, читая комментарии в соц сетях или там на реддите. Комментарии делятся на примерно две противоположные половины:

 

1) Как нам повезло жить в это время. Скоро AI научится лечить все болезни, мы будем жить практически вечно и в полном достатке. 

 

2) Скоро мы все потеряем работу, будем нищенствовать, а может вообще AI нас всех убьет и не заметит. 

 

Интересно как одна и та же новость может вызвать абсолютно противоположные реакции.

 

Я если что настроен пессиместично. По двум причинам. Первая самая очевидная. Мы не можем контролировать AI, когда он станет умнее нас. Любые системы безопасности легко обойти, гонка "вооружений" в AI мире заставляет развиваться все быстрее и быстрее. Безопасность AI за этим развитием не успевает, но всем похоже на это плевать. Потому что если ты остановишься, то тебя обгонит одна из сотен других компаний.

 

Вторая причина политически-социологическая. Все наши завоевания типа прав человека, равенства перед законом и так далее появились не просто так и от хорошего настроения королей в средневековье. Все эти права были завоеваны. Либо в революциях, либо тем, что свободный человек работает эффективнее раба. И общества свободные просто победили в экономической и военной конкуренции. AI же это поменяет. Человек станет бесполезен, а значит потеряет всю силу в этих переговорах. А значит условным корпорациям, которые контролируют AI, будет абсолютно наплевать на людей. Не будет никакого стимула сохранять нынешний статус кво. И люди, контролирующие AI, просто станут новыми монархами. Это если конечно AI нас всех не убьет.

А что тут любопытного? Что человек, как был человеком, так им и остался? Одни видят перспективы, вторые воображают конец света. История уже не раз рассудила кто прав, а кто паникёр. Сейчас есть так называемые "doomers" кто всеми силами пытается противодействовать технологиям и каждую пессимистичную статью про ИИ трактует как конец света, а есть трансгуманисты, e/acc (эффективное ускорение), технооптимисты, либо более осторожные "эффективные альтруисты" и т.д. Всё это философия, только с одной стороны видна реальная польза уже здесь и сейчас, а с другой домыслы и фантазии. Кстати в reddit сидят по большей части думеры. В X более оптимисты. На youtube всё приходит с опозданием и выборочно, только самое интересное. Каждый живёт в своей эхо камере. 

Даже не расторопная бюрократическая машина в Европе проснулась. Саммит во Франции по ИИ только что прошёл. Урсула заявила 200 миллиардов в ИИ. Франция 109 миллиардов в ИИ и т.д. Я уже не говорю про какие-то космические 500 миллиардов в США и планирование (по оценках главы OpenAI) в течении нескольких лет повысить сумму до 5 триллионов. Добавьте сюда Китай и остальных. 
Риски определённо есть, например с выравниванием ИИ, но я не могу понять, кому нужны рабы, когда их заменят гуманоидные роботы? Кому нужна работа, когда эти роботы круглосуточно достают ископаемые и делают дефляцию на все товары (другое дело с земельными ресурсами).
Тот же глава OpenAI уже проводил эксперимент с так называемым UBI. И есть альтернативы ему. 
https://community.openai.com/t/sam-altman-s-universal-basic-income-experiment-openresearch/877705
Практически всё остальное плод фантазии, без какой-либо серьёзной аргументацией, которая бы не разбивалась об простейшую критику.

Я бы сосредоточился на реальных экзистенциальных рисках, с которыми сталкивается человечество, рисках, которые по отдельности могут казаться минимальными, но их совокупность значительно превышает потенциальные угрозы со стороны ИИ. 

Лично я предпочёл бы умереть от воздействия передовых технологий, воплощённых в роборуке ASI, любуясь тем, насколько далеко продвинулся человечество в технологическом плане, чем оказаться жертвой человеческих решений, когда бюрократическая или эгоистичная «человеческая рука» нажмет кнопку, вызвавшую хаос и непредсказуемые последствия.

Kuzjayo @ 12.02.25 

Кому нужна работа, когда эти роботы круглосуточно достают ископаемые и делают дефляцию на все товары

Кому нужны эти товары, если ни у кого нет работы?