Das KapitalЪ (совместный блог Nameless и Khishtaki)

Последний пост:21:59
862
Статистика
Всего постов
19407
2,229,186 просмотров
Новых постов
+1
6 в день
Лучшие посты автора
30.09.2015 +264
08.06.2019 +263
07.05.2018 +242
09.09.2015 +242
16.08.2019 +202
Лучшие посты читателей
ishkan +89
Leo_Manowar +74
BadSeed +70
crashe +68
NewPokerSoft +65
Самые активные читатели
1 944 964 965 966 967 971
  • Цитата (Nameless00 @ 15.03.24)  

    В смысле ИИ не репликатор. Он, для начала, не размножается (не создает своих копий).

    это почему же, не создает, а как он будет самосовершенствоваться не помещая свои копии в различного рода симуляции или сред, или не создавая копии существующих нейронок? зачем ему себя самоограничивать?

     

    типа 10 000 Илонов Масков, и еще 10 000 Докинзов на подходе,

     

    в своё время в узких условиях мира покера плохие копии форхейли вполне справились со многими задачами дОбычи ресурсов, 

     

    так и в обычном мире недо-Энштейн, недо-Рузвельт вполне способны на многое. Нет причин считать что их докрученные версии ни на что не будут способны. 

     

    Если взглянуть на культуру, к примеру в развитОм праве так и ссылаются, а чтобы такой-то отец-основатель сказал по тому или иному поводу. Причем эти образы уже давно эволюционировали из оригинальных

     

    Мне кажется все эти мечты о великом Субъекте, да ещё с отсутствием сплита, это наш христианский культурный бэкграунд и мечта о Неосфере. К каждому Большой Брат придет в уникальном обличии, а внутри него будет система подобная современным Левиафанам синхронизированная каким-нибудь квантовым или иным центром 

     

    грубо говоря даже если внешне он будет плановооднороден (то внутри он не может по-другому совершенствоваться, ну и должен как-то проверять всё в реальной среде, где всегда есть множественные микронеучтенные параметры дополнительных измерений воздействия, исследования и тп)

     

    как оно сможет самосовершенствоваться без экспериментов, постоянных перерождений и зондов/щупов познания?

    64/72
    Ответить Цитировать
    0
  • Цитата (vanyakot @ 16.03.24)  

    Почему экономика на конечном шарике, с ограниченными ресурсами - это не закрытая система?

    Экономика - от др.-греч. «дом, хозяйство; хозяйствование» . Как раз таки подразумевает порядок, вдумчивое управление хозяйством, а не хаос. 

    Плановая экономика это попытка подогнать реальность под план, а реальность это хаос.  Хаос в котором на конечном шарике с конечными ресурсами, могут появится мобильная связь, интернет, авиаперевозки, ИИ, атомная энергетика и тд.

    18/19
    Ответить Цитировать
    2
  • Цитата (Nameless00 @ 15.03.24)  

     

    Предположим я и ты владельцы конкурирующих предприятий по производству соков «Добрый» и «Злой». В текущей жизни у нас будут свои отдельные отделы продаж, рекламщики, склады. Если мы очень умные, мы будем совершать правильные действия до тех пор пока один из нас не выиграет конкуренцию и не поглотит или уничтожит другого.


    Теперь во главе этих же предприятий ИИ. По силе как умные люди, но у которых миллион часов в сутках. Без амбиций, без комплексов, без необходимости кормить детей, без премии за достижение отдельных показателей (которые можно достигнуть в ущерб другим показателям и в общий убыток).


     ИИ проводит анализ, и узнает о том, кто же в итоге победит (то, что мы с тобой вынуждены были в течении многих лет узнавать на практике). Как в шахматах. Если бы стокфиш играл против другого стокфиша и умел при этом общаться, партии длились бы 0 ходов. За анализом позиции сразу последует принятие поражения или предложение ничьи.


     Всё. После того как ИИ понимает что точно победит (или точно проиграет) естественным образом следует или реализация победной стратегии или ультиматум о слиянии/поглощении/формировании монополии, потому что война не бесплатна, и можно предложить конкуренту сумму меньше предстоящих издержек на войну за то, чтобы сразу перейти к победе.


     Причем за счет сокращения костов на рекламе, логистике, продажниках и тд, это предложение может быть даже выгоднее чем текущее положение проигрывающей команды.

    Дилемма заключенного.

     

    Все эти процессы происходят и в мире людей. Кто-то разоряется, кто-то кого-то поглощает. Слияния всегда обосновываются в том числе "сокращением костов на рекламе, логистике, продажниках и т.д."

     

    Но антимонопольные комитеты ограничивают долю одного игрока рынка или выгоды, которые он может получить от слишком большой доли - вплоть до насильственного разделение бизнеса. Появляются новые ниши и новые игроки. Государства с помощью налогов и субсидий перераспределяют деньги между отраслями, чтобы захватить долю рынка, которые считают для себя важными. Не дают компаниям стать слишком влиятельными, чтобы сохранить свою власть.

     

    И вот все эти игроки постепенно начинают внедрять у себя ИИ для достижения каждый своих целей, и все начинают думать в миллион раз быстрее. Почему равновесие между ними качественно сместится?

     

    Насколько я понимаю, из твоего текста могут следовать два ответа.

     

    1. Несмотря на все перечисленные факторы, экономика и без ИИ следует по пути монополизации. Глобализация, постепенное выдавливание конкурентов, выгоды от слияния и масштаба, и т.д. Регуляторы или не могут этому помешать, или не хотят (коррумпируются). А ИИ просто ускорит этот естественный процесс.

    В целом, опровергнуть такую точку зрения нельзя, такой сценарий вполне вероятен. Но ты начал с того, что альтернативы плановой экономике ты считаешь совсем невероятными ("слабо представляю" - это же такая оценка?). В связи с этим вопрос, ответь максимально искренне: а без ИИ ты представляешь себе сохранение рыночной конкуренции на горизонте, скажем, ещё нескольких тысяч лет? Потому что если нет, то тогда настоящая причина твоей оценки именно в этом, а не в роли будущего ИИ.

     

    2. Второй ответ заключается в том, что ИИ принесёт качественные изменения в прогнозировании, и это полностью поменяет "механику игры". Стокфиши будут играть 0 ходов, слияния будут происходить сразу, а не когда конкурент действительно начнёт проигрывать, и т.д.

    Тут начну с такого вопроса. Каким образом Злой просчитает о том, что обязательно проиграет Доброму? Ведь для этого ему надо промоделировать все действия Доброго. И если он может это сделать, то почему сам не может следовать той же стратегии? Или ты имеешь в виду, что между ними есть неустранимые объективные различия, настолько существенные, что делают победу одного из игроков неизбежной. Кажется, в экономике это не очень реалистичное предположение. Если же говорить о вероятностях, условно 55 на 45, то непонятно, почему второму будет выгоднее сразу сдаваться. 

     

    Ты можешь опять сказать, что слияние снижает издержки, и поэтому каждый может получить больше. Но тогда мы возвращаемся к первой части моего поста: все эти факторы существуют и сейчас, и  непонятно, почему пропорциональное ускорение всех игроков должно сместить равновесие.

     

    У меня есть другие возражения против модели "реальная конкуренция заменяется расчётом на миллион ходов вперёд, и все сразу понимают результат". Но мне кажется, они будут иметь смысл только после ответа на вопрос из пункта 1. А то смысл это оспаривать, если твой настоящий аргумент в том, что слияние и монополизация взаимовыгодны, и всё тут.

    1881/1890
    Ответить Цитировать
    11
  • Цитата (tommy @ 16.03.24)  

    а реальность это хаос.

    99% людей из года в год делают одни и те же вещи, передвигаются по одним и тем же маршрутам, покупают одно и то же в одних и тех же местах.

    86/90
    Ответить Цитировать
    1
  • Цитата (Nameless00 @ 14.03.24)  

    БоевойСлон, переформулирую даже так.

    Если мы верим в то, что свободный рынок +EV, потому что экономика — игра с ненулевой суммой и возможны вин-вин ситуации, то всеобщая кооперация есть предельный вин-вин-вин. То есть итоговый результат не может быть никаким иным, кроме всеобщей кооперации. Промежуточные могут быть какими угодно, пожалуй. Но итоговый как будто бы один, не?

    да, но если центром ИИ будет цивилизации с развитой ксенофобской культурой исключительности,

     

    то она вполне может выиграть если у неё будет жизненно важный перевес в какой-то технолоигии и она захватит экосистему как основной фреймворк, она конечно рано или поздно вымрет встретившись на просторах Вселенной с ксенофилами (которые априорно будут более развитыми) или более развитыми ксенофобами (тут коинфлип), но вполне может застрять в теории игр где часто "спиздеть и съебаться" более выгодная страта, она правда превратит планету в подобие Аракиса, Татуина или Глюка

     

    к примеру при прихождении курс по теории игр при разговоре с учителем из ВШЭ в базовое понимание теории игр не входит изучение "второго уровня" мышление в игре greed-подделить

     

     

    грубо говоря считается "слишком сложным" перепрыгивания в равновесие когда мы "повторяем последний ход противника" 

     

    или третий уровень мышления "когда мы даже врагам протягиваем время от времени открытую руку",

     

    не говоря уже о страхе быть переигранным в другом измерении,

     

    вот грубо говоря вполне можем прийти к ситуации где всё время жадные уничтожающие системы слишком сильно разрастуться и их уже нельзя будет перестроить, тем более если они изначально будут настроены на достижение успеха через их/его/этого или этих 

     

    исключительности и/или неизменяемости

    65/72
    Ответить Цитировать
    0
  • Цитата (Margot @ 16.03.24)  

     

    как оно сможет самосовершенствоваться без экспериментов, постоянных перерождений и зондов/щупов познания?

    Ты по жизни изменяешься?

    6392/6425
    Ответить Цитировать
    3
  • "Перерождения" нужны только тому, у кого единственный способ модифицировать себя это смешивание генотипа + мутации в процессе размножения. Если ты можешь прямо на ходу свой "генотип" перестраивать без рождения новой особи, то зачем тебе размножение. Проверим есть ли все что нужно:

     

    [x] наследственность - процесс дообучения модели не уничтожает старые веса в ней а лишь постепенно их обновляет

    [x] изменчивость - элемент случайности присутствует, dropout как пример

    [x] давление естественного отбора - модель постоянно находится в цикле обратной связи и получает штрафы за плохие решения и "поощрение" за успешные

     

    Так что в принципе агент ИИ отлично может эволюционировать не будучи биологической сущностью и не размножаясь, что собственно и происходит на наших глазах.

     

    Можно организовать и полноценный аналог биологической эволюции запустив Х моделей в конкурентной среде и предусмотрев супер-отбор где плохие модели погибают а хорошие копируются, но это выглядит попыткой решить задачу привычным способом когда есть более эффективные пути.

    3/5
    Ответить Цитировать
    4
  • Цитата (Eleon @ 18.03.24)  

    не будучи биологической(1) сущность

     

    про это речи не шло, речь не о биологической(1) сущности, а том что признаки возможно сохраняться и в небиологической среде

     

    Цитата (Eleon @ 18.03.24)  

    Так что в принципе агент ИИ отлично может эволюционировать не будучи биологической сущностью и не размножаясь, что собственно и происходит на наших (2) глазах.

    (2) на наших глазах происходит то, что единого контролера в принципе нет, а есть бесчисленное число ИИ использующихся юзерами разной степении ИИшности. 

     

    Размножаются вирусным путем, то есть технологию передают от человека к человеку. Со временем человек не будет нужен. А среда останется, с множественными эволюционирующими ИИ. 

     

    Почему одна единства нейронка может захватить остальные решительно непонятно: функционал, чипсет устройство, модели разные. Даже grey goo это просто будет очередной кисель. То есть она может захватить нишу, но не всё.

     

     

    ни о какой полной плановости, предсказаний полной централизации речи не идет:

     

    Даже если будет некая направляющая сила. Как мы сейчас не можем понять как устроена и "о чем думает нейронка", "нет ли у неё сдвигов целей" так и у направляющей нейронки не будет точной информации что будет происходить внутри "мозгов" её акторов, её частей, так как понимание это вопрос всегда большего порядка,

     

    или нет?

     

     

     

     

    Цитата (Eleon @ 18.03.24)  

    [x] давление естественного отбора - модель постоянно находится в цикле обратной связи и получает штрафы за плохие решения и "поощрение" за успешные

    такой ИИ тогда просто дойдет до максимум своей функции и остановиться, то есть он будет всё время внутри той среды которую ты ему задал? у тебя получается самоулучшающийся робот, которого замкнет, таких у Айзека Азимова было много внутри книги Я, робот, где роботы строго следовали основным правилам робототехники, а потом начили ходить кругами или еще что-то делать необычное

    Цитата (Eleon @ 18.03.24)  

    то зачем тебе размножение

    к примеру ты (ИИ) не захочешь полностью рисковать заложенной в тебе функцией и сделаешь копию

     

    распределение рисков, к примеру тебе нужно спуститься в марианскую впадину, долетететь до Марса, еще в ебеня, проблема со связью или с рисками,

     

    оттестировать систему в которой будет изменен целый орган (память, восприятие, анализ), способ соединения нейронов,

    оттестировать гипотезу в условиях ограниченной информации или просто взять другую точку зрения на основе иной памяти

     

    просто поместить свою копию в симуляции, чтобы выбрать наиболее эффективные версии устройства для определенной задачи (с точки зрения эффективность/затраты)

     

    очевидно, что планово-центральные имеют diadvantage против того кто по максимуму использует эволюционные процессы, а также может кооперироваться со своими копиями,  и получит преимущество относительно

     

    одного медленно изменяющегося всё контролирующего индивида, тем более у последнего всё равно будут границы взаимосвязи параметров (из-за шины, ограничений размера кластера GPU, других ограничений полезности сетевого взаимодействия)

     

    Цитата (Nameless00 @ 16.03.24)  

    Ты по жизни изменяешься?

     

    да, очевидно деградирую, особенно головной мозг)

     

    постоянно у меня мутируют и изменяются клетки. Если бы я мог их направлять то конечно выбирал бы на лету более удачные версии. А не те которые "выберет" эволюция, то есть РАК), 

     

    если бы имел возможность менять части, то мог бы помещать части и по сути делать свои копии, части себя, чтобы улучшать функционал, по крайней мере если бы считал высокий уровень собственной функциональной полезности,

     

    а к чему это вопрос?

    66/72
    Ответить Цитировать
    0
  • Цитата (Margot @ 20.03.24)  

    такой ИИ тогда просто дойдет до максимум своей функции и остановиться, то есть он будет всё время внутри той среды которую ты ему задал? у тебя получается самоулучшающийся робот, которого замкнет, таких у Айзека Азимова было много внутри книги Я, робот, где роботы строго следовали основным правилам робототехники, а потом начили ходить кругами или еще что-то делать необычное

    Очень важный момент.

     

    Если продолжать аналогии с человеком, то у нас то целевая функция тоже статична, она суть и есть естественный отбор - если размножился, молодец. Если нет - gg no re. Так что мы тоже на протяжении всего своего существования максимизируем лишь одно - способность оставить потомству свои гены. Но достичь максимума  и там ходить по кругу пока не получается, среда изменчивая, и соответственно максимум тоже смещается, ну и не ясно насколько до него далеко даже если бы он не менялся. Может мы в локальном каком-то застряли и из него не выберемся уже.

     

    Если хочется какого-то иного целеполагания, это все сразу уходит в сторону философии и там так сказать кому что нравится.

    4/5
    Ответить Цитировать
    2
  • Цитата (Eleon @ 20.03.24)  

     

    Очень важный момент.

    хорошо

    Если продолжать аналогии с человеком, то у нас то целевая функция тоже статична, она суть и есть естественный отбор - если размножился, молодец.

     

    нет, не статична. У большинства людей деньги, одобрение, другое. У христиан и постхристиан - улучшить своё посмертие. У буддистов и постбуддистов - уменьшить страдание. У либералов - ценность свободы и ценность человеческой жизни. У исследователей рисков ИИ и других видов экзистенциальных рисков - спасение человечества. 

     

    Сколько у тебя детей, больше 5? 

     

    и Цели не статичны даже в нашем маленьком мозге. В ИИ он будет побольше и будет еще больше плавать в этом киселе различных Expected Value. Довольно интересно что они еще очень абстрактны эти ценности: Свобода, Личность, Жизнь, Деньги, Одобрения, Этика, Институты и тому подобные вещи, то есть неисчесляемы, как правило. Цель выживания тоже есть конечно, как и размножение. Но как показывает практика образования, образованные люди значительно меньше заводят детей, то явственно видим что их нейронка меняет свои цели. 

     

    Более того даже само общество считает девиантным людей которые заводят десятки детей.

     

    Не говоря уже о том, что в течение жизни людям больше нравится распространять единицы информации, особенно Мемы. Они то и размножаются, и их интересно передавать друг другу. И мутируют. Или различные мысли. И сильно наследуются из поколения в поколение

     

    Да и собственно по-другому и нет:

     

    даже в эволюции размножаются гены, а не особи, особи, а не группы, группы, а не виды. 

     

    Цели не статичны меняются, и появляются даже те кто хотят сохранение Жизни или Рациональности. То есть ценностей может быть сколько угодно, самых разных

     

     Если нет - gg no re. Так что мы тоже на протяжении всего своего существования максимизируем лишь одно - способность оставить потомству свои гены. 

     

    Но достичь максимума  и там ходить по кругу пока не получается, среда изменчивая, и соответственно максимум тоже смещается, ну и не ясно насколько до него далеко даже если бы он не менялся. Может мы в локальном каком-то застряли и из него не выберемся уже.

     

    Если хочется какого-то иного целеполагания, это все сразу уходит в сторону философии и там так сказать кому что нравится.

     

    Выживание, сохранение, генерация ценностей, распространения идеалов, генерации новых смыслов - это всё видел.

     

    Людей которые меняют свои идеалы, политические кроссовки, в том числе ценностей, особенно ради денег и одобрения - этих видел сколько угодно.

     

    Людей, которые заняты в жизни максимизации функции размножения почти не встречал, уверен коэффициент количества детей среди твоих знакомых меньше 2, и исходя на одного родителя меньше одного, или нет?

     

    или среди твоих основных друзей все сплошь многодетные 5+, регулярно ходят в банк спермы, собираются "покрыть/принять без презерватива вест мир", изучают биогенетику, клонирование и собираются колонизировать Марс и другие планеты? ведь нет,

     

    Нет же, также являются частью роя - компютера по поиску вопроса под ответ 42 под названием Земля, ищат вечно способ перераспределить ценности в свою сторону и каждый раз испуганно предохраняются что не дай бог не разорить себя и уже готовых потомков, 

     

    иногда распространяя свою доброту на других людей, которых знают лично, против тех других, что питаются, живут не так, 

     

    ведь и разница генетическая между людьми настолько минимальна что не совсем и понятно зачем именно свои гены защищать исключительно? 

     

    Но в основном генерируют деньги, ценности, допамин и кушают тревогу

     

    ну иногда свободное время генерируют дурацкие мысли по кругу. В этом киселе дурацких мыслей и будет нейронная взаимосвязь ИИ, к каким он там выводам придет непонятно =), но вряд ли статичным, не говоря уже об определенности =)

    67/72
    Ответить Цитировать
    2
  • Цитата (Eleon @ 20.03.24)  

    Так что мы тоже на протяжении всего своего существования максимизируем лишь одно - способность оставить потомству свои гены. 

    Ничего мы, с точки зрения дарвиновской эволюции, не максимизируем на протяжении своего существования. Если под «мы» ты понимаешь соматические клетки. Тело. Всё уже максимизировано до нас, в последний раз — в момент зачатия.
     

    Равно как и ИИ не эволюционирует «по Дарвину». Ты можешь описывать развитие и конкуренцию ИИ в каких угодно терминах, в какой угодно системе, или придумать свою терминологию, но это не эволюция по Дарвину.

    6393/6425
    Ответить Цитировать
    3
  • Цитата (БоевойСлон @ 16.03.24)  

    И вот все эти игроки постепенно начинают внедрять у себя ИИ для достижения каждый своих целей, и все начинают думать в миллион раз быстрее. Почему равновесие между ними качественно сместится?

     

    По той же причине, по которой тебе крайне тяжело с перевесом 0.1 бб/100 выкатать все бабки у человека в оффлайне, но сильно проще выкатать их с таким же перевесом в онлайне на 16 столах. А уж если вы просимулируете ваши стратегии и решите вопрос битвой ботов — так исход неминуем. 


    Скорость.

     

    В связи с этим вопрос, ответь максимально искренне: а без ИИ ты представляешь себе сохранение рыночной конкуренции на горизонте, скажем, ещё нескольких тысяч лет?

    Если мы предполагаем что эти несколько тысяч лет будут годами прогресса, а не, допустим, постнуклеар, то нет, не представляю. 

    Кооперация глобально выгоднее конкуренции, с этим ты согласен? Да собственно сам Адам Смит с этим и его примером с булавками говорит об этом по сути.

    Конкуренция может быть выгоднее на определенном отрезке времени, когда имеющиеся методы подсчета недостаточно хороши для того, чтобы найти точку равновесия и её находят неэффективным гомеостатическим способом. Перетягиванием каната.

    По мере развития наук этот вопрос должен быть решен. ИИ просто способ поиска этого решения.

     

    Или ты имеешь в виду, что между ними есть неустранимые объективные различия, настолько существенные, что делают победу одного из игроков неизбежной. Кажется, в экономике это не очень реалистичное предположение

    Почему? Вопрос в вычислительных мощностях.

     

    Но антимонопольные комитеты ограничивают долю одного игрока рынка или выгоды, которые он может получить от слишком большой доли - вплоть до насильственного разделение бизнеса. Появляются новые ниши и новые игроки. Государства с помощью налогов и субсидий перераспределяют деньги между отраслями, чтобы захватить долю рынка, которые считают для себя важными. Не дают компаниям стать слишком влиятельными, чтобы сохранить свою власть.

    Иными словами решение проблемы монополизации и слияний в повышении роли государства? А это план. В обоих смыслах слова. Если увеличившуюся за счет ИИ способность компаний к образованию монополий будут регулировать увеличением государственных мер, то как будто бы свободность и рыночность свободного рынка просто будут жрать с двух концов одновременно.

    6394/6425
    Ответить Цитировать
    0
  • Цитата (Nameless00 @ 21.03.24)  

    Почему? Вопрос в вычислительных мощностях.

    Какие могут быть объективные причины, по которым МТС обречён выиграть у Билайна или наоборот?

     

    Ну да ладно. Ты упоминал дилемму заключённого. Я не совсем понял этой аналогии, поэтому предлагаю рассмотреть другую игру - "Ультиматум". Два игрока, 100$. Первый игрок предлагает, в какой пропорции их поделить, второй или соглашается, или отказывается - и тогда оба не получают ничего. Похоже ведь на то, о чём ты говоришь? Ультиматум о поглощении, война невыгодна, и т.д.

     

    Какое у неё решение? Казалось бы, первый может предложить делёж 99/1, и второму всё равно выгоднее соглашаться, чем отказаться. Но на самом деле тут миллион вопросов.

     

    Если второй до начала игры заявит, что не согласится ни на что, кроме 1/99? Получится, что уже первому выгоднее предложить хотя бы такое, чем остаться ни с чем?

    Если первый не поверит второму и всё равно предложит 99 на 1? А если второй найдёт "второго участника" другой такой же игры и заключит с ним договор, по которому они оба обязаны соглашаться только на 99? А если первый заявит, что это уже картель и сумеет продавить запрет на такие договорённости?

     

    А если это повторяющаяся игра, верно ли, что отказавшись сейчас от 99/1 ты в следующий раз получишь лучшее предложение?

     

    И так далее, и тому подобное. Внезапно оказывается, что это игра не про 100$ и два хода. Это игра про то, как игроки думают, и как принимают решения. И если игроки думают в миллион раз быстрее, это не значит, что им легче найти решение. Это значит, что каждому нужно просчитывать в миллион раз больше стратегий, на которые способен соперник.

     

    Это моё первое возражение, которое заключается в том, что у игр с ненулевой суммой и несколькими участниками нет одного решения, выгодного для всех, а есть очень много решений, в которых разных игроки оказываются в разном выигрыше. И какое решение реализуется, зависит от того самого перетягивания каната.

     

    Второй возражение - это изменяющиеся правила игры. Ты говоришь, что покере у нас нет полной информации, но всё равно у каждого действия есть EV, которые можно посчитать, было бы время. Но это потому, что покер - конечная игра с постоянными правилами. А какова вероятность того, что ИИ докажет гипотезу Римана, потратив 1 год вычислений? Ты никак не можешь это заранее оценить. Ты не можешь промоделировать 100 попыток потратить по году на доказательство, потому что тебе на это нужно 100 лет. 

    То же самое с любыми новыми открытиями. Они представляют собой Knightian uncertainty - когда ты не знаешь не только значения случайной величины (какие у соперника карты), но и её распределение (какие карты есть в колоде и вообще в какую игру вы играете).

    Если сейчас для каких-то физических открытий требуется миллион человеко-часов, а ИИ сможет их сделать за тысячу - значит, такие открытия быстро будут сделаны и настанет черёд тех, которым требуются миллиарды.

     

    Третье возвражение - альтернативные издержки прогнозирования. Пока ты тратил время на моделирование выведения на рынок разных возможных продуктов, твои конкуренты потратили время на то, чтобы эти продукты сделать. И ты уже проиграл. Любой один игрок по определению имеет меньше вычислительных мощностей, чем все игроки в сумме. А значит он не может даже вместить в себя всю информацию, которой они обладают в данный момент, не то что промоделировать их будущие действия на основе этой информации. Поэтому ему придётся просто действовать исходя из того, что он знает и умеет, а там уж как получится. Так же, как это сейчас делают люди. И точка равновесия так и будет находиться "неэффективным гомеостатическим способом".

    Сообщение отредактировал БоевойСлон - 21.3.2024, 23:10
    1882/1890
    Ответить Цитировать
    20
  • Кооперация вместо конкуренции - красивый лозунг, но что это такое содержательно?

     

    Фундаментальная проблема плановой экономики не в том, что управляющему центру нужно достигнуть какого-то очень высокого, но фиксированного уровня вычислительной мощности, чтобы найти оптимальное решение для всей экономики. Проблема в том, что достаточного уровня нет:

     

    1. Вычислительная мощность центра всё равно меньше, чем в сумме у всех тех, кем он управляет. И объём информации меньше, чем у всех в сумме. Поэтому он вынужден делегировать принятие решений вниз. 

    2. Чтобы объект управления принимал решения, а не просто следовал инструкции, ему нужно создать мотивацию - функцию полезности, которую он будет максимизировать.

    3. Как только у объектов управления появляется собственная мотивация, в условиях ограниченных ресурсов, между ними начинается конкуренция - просто не рыночная, а административная.

    1883/1890
    Ответить Цитировать
    7
  • Цитата (БоевойСлон @ 22.03.24)  

    Кооперация вместо конкуренции - красивый лозунг, но что это такое содержательно?

     

    Фундаментальная проблема плановой экономики не в том, что управляющему центру нужно достигнуть какого-то очень высокого, но фиксированного уровня вычислительной мощности, чтобы найти оптимальное решение для всей экономики. Проблема в том, что достаточного уровня нет:

     

    1. Вычислительная мощность центра всё равно меньше, чем в сумме у всех тех, кем он управляет. И объём информации меньше, чем у всех в сумме. Поэтому он вынужден делегировать принятие решений вниз. 

    2. Чтобы объект управления принимал решения, а не просто следовал инструкции, ему нужно создать мотивацию - функцию полезности, которую он будет максимизировать.

    3. Как только у объектов управления появляется собственная мотивация, в условиях ограниченных ресурсов, между ними начинается конкуренция - просто не рыночная, а административная.

    Я могу добавить другую фундаментальную проблему плановой экономики. 


    Система не имеет встроенного механизма «наказания» за ошибки планирования, в то время как в рыночной экономике - это убытки, потеря доли рынка и возможное разорение.

    6/6
    Ответить Цитировать
    3
  • Цитата (БоевойСлон @ 22.03.24)  

    между ними начинается конкуренция - просто не рыночная, а административная.

    В наших кругах это называется соцсоревнование. И это прекрасно. В отличии от рыночной конкуренции, проигравший не оказывается под мостом. А соревновательный элемент создает мотивацию.

    cb47a54c1099a7d8f9dea25718c01961.png
    87/90
    Ответить Цитировать
    2
  • Цитата (Nameless00 @ 21.03.24)  

    Ничего мы, с точки зрения дарвиновской эволюции, не максимизируем на протяжении своего существования. Если под «мы» ты понимаешь соматические клетки. Тело. Всё уже максимизировано до нас, в последний раз — в момент зачатия.
     

    Равно как и ИИ не эволюционирует «по Дарвину». Ты можешь описывать развитие и конкуренцию ИИ в каких угодно терминах, в какой угодно системе, или придумать свою терминологию, но это не эволюция по Дарвину.

    Под "Мы" я подразумеваю вид, род, семейство, итд -  а не конкретного человека. В общем всю нашу биологическую общность. Естественно именно это эволюционирует а не конкретный родившийся человек.

     

    И конечно ИИ не эволюционирует "по Дарвину" в классическом смысле, но как аналогия это подходящий пример. Так же нейронные сети они совсем не нейронные, но аналогия понятная и некоторые механики очень схожи.

     

    Естественно если говорить полностью терминологически корректно и рассматривать конкретный процесс а не концепцию, там огромные принципиальные отличия. Но если "воспарить" и окинуть взглядом сверху всю систему, общих принципов много. И для казуального трепа на форуме имхо сойдет, погружение в детали тут переведет разговор в узкое профессиональное русло.

     

    PS: Собственно это наверное и есть причина почему все это такая богатая почва для спекуляций и возбуждающей философии - потому что хоть там все совсем не так устроено, и грубо говоря мы посмотрели на компьютер и сколотили его из досок, но при этом это грубое подобие где часть принципов скопирована без окончательного понимания а как они работают а часть вообще сделана не так, работает и дает похожий результат.

    5/5
    Ответить Цитировать
    1
  • Цитата (vanyakot @ 16.03.24)  

    Экономика - от др.-греч. «дом, хозяйство; хозяйствование» . Как раз таки подразумевает порядок, вдумчивое управление хозяйством, а не хаос. В хаос все превращается, когда квартиры/дома строят, не для того что бы люди в них жили, а для получения прибыли. Появляются перекупы, перкупы перекупов, юристы, риэлторы, страховщики, банкиры. На ровном месте простую вещь усложнили в разы. В такой извращенной экономике все будет через жопу.

     

    Вот так стараешься, напрягаешь свой скудный умишко, выдавливаешь из себя какую-то "извращенную экономику". А через неделю узнаешь, что старина  Аристотель, уже давно этот вопрос прорефлексировал, еще и термин придумал.

    29a4c445cc54cae92dc29630b7bd42f3.png
    88/90
    Ответить Цитировать
    7
  • Переформулировать можно, кстати, основной вопрос "угрозы" от ИИ. 

     

    Угроза ИИ это угроза существованию человеческих жизней? Вдруг "нет"? Вдруг это угроза существующему порядку/укладу? Угроза текущему распределению сил? 

     

    Например. ИИ не позволит уничтожить еду при наличии голодающих, не позволит строить дальше новые объекты недвижимости, пока есть бездомные и одновременно пустующие площади. Да, кстати, и не позволит разводить демагогию о том, что это так работает вот, и что раздать просто нельзя. Можно, но рухнет уклад. Поэтому не раздают. 

     

    И много примеров типа таких. Устройство управления государством, или компанией. ИИ покажет реальную эффективность тех или иных сотрудников, отделов. Даже не про ужас замены речь. А просто наглядно увидят все, что ЗП отделом по ляму, она существует не по обективным причинам, грубо говоря.

    395/418
    Ответить Цитировать
    0
  • Цитата (777sani @ 24.03.24)  

    Угроза ИИ это угроза существованию человеческих жизней? Вдруг "нет"? Вдруг это угроза существующему порядку/укладу? Угроза текущему распределению сил? 

    прочти на lesswrong.ru последние переведенные статьи на эту тему, там краткий обзор вышел, 

     

    ебани минус если тебя удобней в пересказе

    68/72
    Ответить Цитировать
    -1
1 944 964 965 966 967 971
3 человека читают эту тему (3 гостя):
Зачем регистрироваться на GipsyTeam?
  • Вы сможете оставлять комментарии, оценивать посты, участвовать в дискуссиях и повышать свой уровень игры.
  • Если вы предпочитаете четырехцветную колоду и хотите отключить анимацию аватаров, эти возможности будут в настройках профиля.
  • Вам станут доступны закладки, бекинг и другие удобные инструменты сайта.
  • На каждой странице будет видно, где появились новые посты и комментарии.
  • Если вы зарегистрированы в покер-румах через GipsyTeam, вы получите статистику рейка, бонусные очки для покупок в магазине, эксклюзивные акции и расширенную поддержку.