Das KapitalЪ (совместный блог Nameless и Khishtaki)

vanyakot @ 30.03.23 

 ИИ и рыночная экономика вряд ли совместимы. А капитализм с плановой вполне совместим. Похожим он точно не будет, но это можно будет называть капитализмом.

А как выглядит внерыночный капитализм?

tommy @ 31.03.23 

А какова была вероятность что у клетки которая случайно поделилась, через какое-то количество итераций возникнет сознание и айфон?

Напиши уж до кучи, каким образом возникло это самое сознание? И заодно, что это такое?

Nameless00 @ 31.03.23 

А как выглядит внерыночный капитализм?

Монополия же

vanyakot @ 30.03.23 

-Как вы заебали со своими детскими вопросами, я уже провел бесконечное количество симуляций бесконечных мультивселенных, дайте деду отдохнуть, - вздыхая отвечает ИИ, дает чертежи, расчеты и уходит в спящий режим.

 

tommy @ 31.03.23 

А какова была вероятность что у клетки которая случайно поделилась, через какое-то количество итераций возникнет сознание и айфон?

Недостаточно исходных данных. Может быть близко к нулю, а может быть близко к 100%.

Естественно, можно предположить, что из совокупности механических изделий и электрических импульсов может возникнуть сознание. Тогда можно предположить, что сознание может возникнуть, например, у нашего Солнца. Там тоже происходит очень много различных "итераций". 

Для меня боязнь чертей и боязнь ИИ где-то очень рядом. Все ИИфобы почему-то решили, что они знают, что такое сознание. Или это наоборот так проявляется страх перед неизвестным? Что такое сознание, никто не знает, а вдруг оно может зародиться где угодно? Например, в нейросети?

Похоже, что этот форум захватили функционалисты.

Омг, это ты почему-то решил, что ИИ необходимо сознание для того, чтобы быть опасным.

The likely result of humanity facing down an opposed superhuman intelligence is a total loss. Valid metaphors include “a 10-year-old trying to play chess against Stockfish 15”, “the 11th century trying to fight the 21st century,” and “Australopithecus trying to fight Homo sapiens“.

To visualize a hostile superhuman AI, don’t imagine a lifeless book-smart thinker dwelling inside the internet and sending ill-intentioned emails. Visualize an entire alien civilization, thinking at millions of times human speeds, initially confined to computers—in a world of creatures that are, from its perspective, very stupid and very slow. A sufficiently intelligent AI won’t stay confined to computers for long. In today’s world you can email DNA strings to laboratories that will produce proteins on demand, allowing an AI initially confined to the internet to build artificial life forms or bootstrap straight to postbiological molecular manufacturing.

...

An aside: None of this danger depends on whether or not AIs are or can be conscious; it’s intrinsic to the notion of powerful cognitive systems that optimize hard and calculate outputs that meet sufficiently complicated outcome criteria. With that said, I’d be remiss in my moral duties as a human if I didn’t also mention that we have no idea how to determine whether AI systems are aware of themselves—since we have no idea how to decode anything that goes on in the giant inscrutable arrays—and therefore we may at some point inadvertently create digital minds which are truly conscious and ought to have rights and shouldn’t be owned.

Из позавчерашней статьи Юдковского в Time

Омг @ 30.03.23 

Я в дискуссиях об опасности ИИ смысла не вижу никакого. Все апологеты опасности исходят из аксиомы возникновения у ИИ сознания. Т.к. вероятность этого события я считаю лишь немногим отличающимся от нуля, причины для беспокойства я не вижу.

Как раз так большая часть ИИ алармистов исходят из предпосылки что ИИ и без сознания будет опасным. Один из основных сценариев у алармистов это то, что вымирание человечества будет как побочный эффект, а не цель которая у ИИ появилась сама по себе

Омг @ 31.03.23 

Недостаточно исходных данных. Может быть близко к нулю, а может быть близко к 100%.

По закону больших чисел никогда не произойдет только то, у чего вероятность равно 0%

Все наверное уже слышали про письмо Маска, Юдковски, Возняка и ко? Как вы к такой инициативе относитесь? 

Вроде бы очень просто и очевидно что тот же Китай любой паузой воспользуется чтобы обогнать, и останавливать развитие ИИ уже не вариант?

Crownless @ 31.03.23 

Как раз так большая часть ИИ алармистов исходят из предпосылки что ИИ и без сознания будет опасным. Один из основных сценариев у алармистов это то, что вымирание человечества будет как побочный эффект, а не цель которая у ИИ появилась сама по себе

 

В рамках существующей общественно-экономической формации человечество итак благополучно вымрет безо всякого ИИ. Наличие ИИ этот процесс никак не изменит.

tommy @ 01.04.23 

По закону больших чисел никогда не произойдет только то, у чего вероятность равно 0%

Жаль, что такая вероятность бывает лишь в математике.

tommy @ 01.04.23 

Все наверное уже слышали про письмо Маска, Юдковски, Возняка и ко? Как вы к такой инициативе относитесь? 

Как к информационному шуму.

Омг @ 30.03.23 

Все апологеты опасности исходят из аксиомы возникновения у ИИ сознания.

про возникновение сознания речи не идет, скорее даже наоборот

в интервью Юдковского Банкелессу он приводил пример создании ИИ для того чтобы сделать идентичные копии клубники,

проблема состоит в том, что ОЧЕНЬ сложно и трудоемко сделать алгоритм который включает помимо условий "сделай и оптимизируй создание копии клубники" 

то самое дополнительным ограничительным условие "только не уничтожай все вокруг" 

(это не совсем сознание, но вполне может внешне сойти за это, потому что там на порядки больше условий, о том как избежать, чтобы ничего не пошло не так ) 

На практике продукт менеджеру Хуану или условному программисту Киму для поставленной задачи СЕО будет намного проще не использовать и не разрабатывать эти дополнительные "модули" (которых кстати в любом случае нет)

Поэтому Юдковски и считает что это будет глупая и нелепая смерть, оттого, что ИИ для максимизации своей функции потребуются и "твои атомы"

По крайней мере так я понял.

Вообще IT-сфера вся состоит из спешки и вынужденных костылей, и на всякие эти предосторожности у людей просто нет времени. К слову многие разработчики ИИ, люди принимающие решения, многие и не знают, кто такой этот Юдковский. То есть они и не видят никакой проблемы.

А проблема в поиске решения на универсальном уровне независимо от неподдержки почти всех остальных людей, в том числе и пользователей, и разработчиков ИИ, то есть задача абсурдной сложности и невозможности

Nameless00 @ 31.03.23 

А как выглядит внерыночный капитализм?

как и всегда надо сузить одно и расширить другое

всё зависит от требований к понятиям "рыночный" и "капитализм" наблюдателя, хотя в случае внерыночного капитализма скорее смотрящего.

сходу образы: НЭП, государственный капитализм, консюмеристские автократии

В далеком детстве читал Сагу о Стэне Chris Bunch и Allan Cole , так вот главный герой вырастает на корпоративной станции, куда заманивают дорогущими контрактами, а потом оказывается, что внутри всем заправляет корпорация, цены на всё огромные, много штрафов, неустоек и люди попадают в долги.

Внерыночный, так как нарушаются основные принципы "рыночности", свобода передвижения товаров, людей, свобода ценнообразования и другие признаки рыночности. 

Тем не менее это очень похоже на капитализм так как основными целями всех участников всё равно является получение прибыли, сохраняются черты формального равенства. 

Так что вполне себе пример внерыночного капитализма

Если сделать "ИИ" как у человека - это будет естественный интелект на искуственных элементах.

Всё не так однозначно, всей правды мы никогда не узнаем

Nameless00 @ 27.03.23 

Так на чем вообще базируется мысль что феодальный строй более продвинут экономически, чем рабовладельческий? И что именно в экономике причина того, что одна формация сменила другую? Ну, кроме Маркса.

Маркса не читал, так что, может быть, сейчас его невольно повторю. Есть мнение (не моё, и я пока не решил, согласиться с ним или нет), что эволюция трудовых отношений - следствие технологического развития.

1. Технологически более развитое общество имеет конкурентное преимущество (почти во всём, в зависимости от технологий). Поэтому общества будут стремиться к технологическому развитию.

2. Для использования технологий нужна обученная рабочая сила.

3. Чем больше человек знает и умеет, тем больше его влияние на окружающий мир. К примеру, для полного уничтожения человечество сейчас достаточно согласованных действий, ну, навскидку, не больше сотни человек. В доядерную эпоху такое нельзя было себе представить. Другие знаковые технологии - радио/телеграф, печатный пресс, огнестрельное оружие.

4. Из 2 и 3 вытекает, что недовольный раб(очий) с развитием технологий получает больше возможностей выразить своё недовольство неприемлемым (невыгодным) для рабо[владельца/тодателя] образом. И приходится идти на уступки и послабления.

Одно радует, если ИИ захватит человечество, я буду у него в привилегированных рабах, потому как мыслим мы одинаково.

Higher standards of living my ass. Экономический рост он такой. Еще лет двадцать усердного роста и может быть догоним себя пятидесятилетней давности (по версии ИИ).

P.S. Туда же (тот же источник).

It's difficult to provide an exact percentage comparison of wealth distribution between baby boomers at age 30 and Generation Y (also known as millennials) at age 30, as wealth distribution varies across different countries and economic environments. However, it is generally acknowledged that baby boomers held a larger share of wealth at age 30 compared to millennials.

Baby boomers, born between 1946 and 1964, experienced significant economic growth and prosperity during their younger years, which allowed them to accumulate wealth more easily. They benefited from lower education costs, affordable housing, and higher wages in relation to living costs.

On the other hand, millennials, born between 1981 and 1996, faced higher education costs, stagnant wages, and increased living expenses, making wealth accumulation more challenging. They were also impacted by the Great Recession and the COVID-19 pandemic, which further affected their financial stability.

Although it is not possible to provide specific percentages for the wealth distribution between the two generations at age 30, it is clear that baby boomers generally held a larger share of wealth compared to millennials at the same age.