Комментарии к колодцу Феруэлла

Напрягает то, скептиков пытаются ставить на место тем, что они не специалисты. Энтузиасты же - лица заинтересованные в том, чтобы давать впечатляющие прогнозы. Почему машина вдруг начнет думать, осознавая саму себя, не ясно. Никак не обозначена даже принципиальная возможность этого. Пока нейронные сети - это некая парадигма программирования, со своей областью применения. Быстро распознают объекты (после долгого обучения), а также учатся играть в игры. Ничего такого, что можно назвать интеллектом.

Есть вероятность что на каком то этапе(по мере усложнения) ИИ приобретет свойства сложных физических систем-самосохранение,стремление к экономии энергии итд,(как конкретно это будет происходить представить сложно) Тогда это будет новая полноценная форма жизни,правда хз что она будет делать)

Выложу немного текста из книги Роджера Желязны «Создания света, создания тьмы» (1969)

Сегодня всякий знает, что машины занимаются любовью. Ну, юли не всякий, то хотя бы тот, кто читал метафизические писания
святого Иакова Механофила, рассматривающего человека как сексуальный орган машины, созданный ею для осуществления
высшего предназначения Механизма. Человек производит одно за другим поколения машинного рода, машина же проводит свою
механическую эволюцию через человека, пока не наступит тот момент, когда он выполнит свою задачу, совершенство будет
достигнуто и можно будет произвести Великую Кастрацию. Святой Иаков, разумеется, еретик. Как было продемонстрировано на
примерах, слишком многочисленных, чтобы на них ссылаться, здоровой машине требуется пол. Затем, так как человек и машина
часто подвергаются взаимообмену компонентами и целыми системами, то всякое существо имеет возможность побывать в
любой точке спектра "машина-человек", где только пожелает. Человек -- чрезмерно самонадеянный орган, следовательно,
достигает своего апофеоза или слияния с Механизмом через жертву и искупление. Человеческая изобретательность много сделала для
этого, но изобретательность -- это, по сути, форма механического вдохновения. Можно более не говорить о Великой
Кастрации, можно не рассматривать отсечение от машины ее творения. Человек должен остаться как часть Единого Целого.

Вот еще один любопытный текст на похожую тему,возможно кому то пригодится в изысканиях.Там все немного преувеличено но вполне правдоподобно.
http://fourthway.narod.ru/lib/Bennett/energy/36.htm

Настоящий кайф ИИ в том и состоит,чтобы он уничтожил людей. Потому что ИИ дружелюбный к людям и помогающий им словно раб прожигать свои никчемные жизни это тупо. По сути люди существа низменные и никогда за пределы своих пожрать-потрахаца инстинктов глобально выйти не смогут. А значит и жить им смысла нет.

Пе4кин @ 13.6.2015
Есть вероятность что на каком то этапе(по мере усложнения) ИИ приобретет свойства сложных физических систем-самосохранение,стремление к экономии энергии итд,(как конкретно это будет происходить представить сложно) Тогда это будет новая полноценная форма жизни,правда хз что она будет делать)

Понимаешь же насколько ненаучно звучат подобные предположения?

kukusjoid @ 13.6.2015
Настоящий кайф ИИ в том и состоит,чтобы он уничтожил людей. Потому что ИИ дружелюбный к людям и помогающий им словно раб прожигать свои никчемные жизни это тупо. По сути люди существа низменные и никогда за пределы своих пожрать-потрахаца инстинктов глобально выйти не смогут. А значит и жить им смысла нет.

Существует ненулевая вероятность того, что других "более лучших" смыслов во Вселенной и не существует:)

да как только ИИ задумается над тем ЧТО сделало человечество и к чему оно стремится каждую секунду своего существования, уничтожая на своем пути ВСЁ: природу, животный мир, самих себя етс...

в этот момент человечество будет уничтожено к чертовой матери, т.к. в нем попросту нет смысла...

поэтому с каждым шагом к сверхразумному ИИ надо менять и современные ценности, т.к. мы для ИИ можем стать чем-то вроде паразитов, которые только ХОТЯТ, а что-то делая они это делают в ущерб окружающим.

AndySopl @ 13.6.2015
Понимаешь же насколько ненаучно звучат подобные предположения?

Не знаю в теории может появиться что то отдаленно напоминающее.Раз столько об этом говорят.

Margot @ 12.6.2015
feruell,
читал https://interpreted.d3.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922/
http://hi-news.ru/technology/smozhet-li-iskusstvennyj-sverxintellekt-ubedit-vas-chto-vy-virtualny.html
смотрел этот TED http://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are?language=ru#t-158693
читал lesswrong.ru

если есть что еще на русском (в том числе книги) с удовольствием почитаю.

Здесь есть переводы нескольких старых статей Юдковского и Бострома.

с ИИ похоже, как с теорией заговоров, адепты бегут далеко впереди паровоза

consaltus @ 13.6.2015
да как только ИИ задумается над тем ЧТО сделало человечество и к чему оно стремится каждую секунду своего существования, уничтожая на своем пути ВСЁ: природу, животный мир, самих себя етс...

в этот момент человечество будет уничтожено к чертовой матери, т.к. в нем попросту нет смысла...

поэтому с каждым шагом к сверхразумному ИИ надо менять и современные ценности, т.к. мы для ИИ можем стать чем-то вроде паразитов, которые только ХОТЯТ, а что-то делая они это делают в ущерб окружающим.

Вот именно, почему то люди считают что они самые главные и всегда таковыми будут, центр вселенной нах. Ну смешно же. Как только появиться некто более разумный, люди станут в то же положение как и животные сейчас. А может и вообще исчезнут как вид, тут уж как карта ляжет.

Если под ии понимать некие небольшие интеллектуальные механизмы, то нет причин для их неприятия. А если равное человеку, то всем песда.да.

Имхо сперва нужно расшифровать генокод до дыр и научиться его менять, применять. Ну и конечно сменить модель материальных ценностей.

ingektor @ 13.6.2015
Имхо сперва нужно расшифровать генокод до дыр и научиться его менять, применять. Ну и конечно сменить модель материальных ценностей.

Да ладно, суперинтеллект лучше нас всё расшифрует и научится менять. И модель ценностей так нам сменит, что мало не покажется.

хотя нет...думаю, что все человечество уничтожено не будет.
из остатков сделают что-то вроде зоопарка-лаборатории...

Феруелл, как ты относишься к личности Павла Дурова? Считаешь ли, что он находится на правильном пути? Считаешь ли его ровней себе по интеллекту или поставил бы его интеллект выше или ниже?

rokkicsq, Смеешься что ли?

Почему? если сделать машину которая чтото делает для человека то она сразу РАБ, Это её призвание, смысл существования машины будет тот что в неё заложено, машина не устаёт ей не нужно то от чего кайфует человек так что по сути свобода будет чужда для машины .

Разве что создать робота Гедониста философа и вложить в неё программу имитирующую Лень и алчность ну и по наклонной

hochunl5k, неужели ты не понимаешь, что это как у наркоманов: если начнешь делать сверхПК ты не остановишься и остановить тебя сможет только твой сверхПК.

ты забываешь, наверное, про такие человеческие составляющие как амбиции, алчность и т.д.

Ты только представь: ТЫ на 1й полосе журнала "Огород" "Вашингтон пост" как первооткрыватель сверхПК... вся беда в том, что это может быть последний выпуск "Вашингтон пост"...

Без изменения себя и отношения к окружающему миру я более чем уверен, что ИИ опасен для человечества

feruell @ 13.6.2015
rokkicsq, Смеешься что ли?

Нет, абсолютно. Может уже был похожий вопрос, и ты уже где-то отвечал на него, но я сегодня прочитал пару интервью Дурова и мне показалось, что у вас во многих вопросах взгляды совпадают.