Комментарии к колодцу Феруэлла

essentia, не бойся, бро. Аршак докажет, что все твои страхи напрасны.

Maddy @ 6.10.2015
Или Маслоу уже не актуален?

В ходе дискуссии желательно не ссылаться на авторитеты, а говорить по существу. По поводу Маслоу. Его проблема в том (насколько я знаю его взгляды), что он антропоцентричен. То есть его концепция может быть полезна для понимания человеческой мотивации, но он не видит сути. Люди по сути своей пластилин для социума. Если нужно - будут строить пирамиды, участвовать в войнах. молиться богам. Или к примеру заниматься искусством или наукой.
Просто так эволюционно сложилось, что наиболее эффективно их способности по анализу и сбору информации реализуется в группах, где есть свободная конкуренция и ценится любая личность (это я о гуманизме).

Maddy @ 6.10.2015
Какой смысл от этих обсуждений в дневнике Фера, если люди не способны повлиять на ход событий?

Ты видимо невнимательно прочитал. Я написал, что с точки зрения рациональности переживать из за угрозы ИИ нет никакого смысла (что я собственно и сделал еще лет 10 назад). Хотя признаюсь нужно быть очень рациональным, чтобы полностью абстрагироваться от того, что может кардинально изменить твою жизнь, причем непонятно каким образом. Еще можешь задать аналогичный вопрос людям (а это абсолютное большинство кстати), которые с пеной у рта обсуждают политику :) А вообще да, у меня есть актуальные с точки зрения индивидуума цели для обсуждения. Медицина например.
А смысл моего поста был в выражении моего мнения о невозможности контролировать ИИ. Вот Юдковски целый институт создал для решения этой проблемы. Хотелось бы услышать контраргументы. Вот Феруелл с ним лично общался, как я понял.
А вообще смыслов в написании конкретного поста у людей может быть много. Например для умственной гимнастики. Или показать какой я умный. Вот ты для чего пост написал? :)

feruell, Есть ли у тебя способы структурирование информации, чтобы в будущем ее было легко воспроизвести?
Проходя курсы, ведешь ли ты конспекты? Возможно, используешь определенные программы с заметками?

Может кто-то из читателей сможет что-то посоветовать?
Пользуетесь ли вы программами по типу MindJETmindmanager?
Напишите, пожалуйста, здесь или в личку/блоге, чтобы не засорять обсуждения.
Думаю, эта тема была бы многим интересна и полезна.


Извиняюсь, если это информация была где-то.
Спасибо:)

essentia @ 6.10.2015
В ходе дискуссии желательно не ссылаться на авторитеты, а говорить по существу. По поводу Маслоу. Его проблема в том (насколько я знаю его взгляды), что он антропоцентричен. То есть его концепция может быть полезна для понимания человеческой мотивации, но он не видит сути. Люди по сути своей пластилин для социума. Если нужно - будут строить пирамиды, участвовать в войнах. молиться богам. Или к примеру заниматься искусством или наукой.

Пишу по сути: социальные потребности не могут быть выше физиологических. Твое утверждение

даже физиологические потребности ничто по сравнению с нашими социальными потребностями

неверно. Доказывается просто: человек без социума протянет во много раз дольше, чем человек без еды\воды.

Хотя признаюсь нужно быть очень рациональным, чтобы полностью абстрагироваться от того, что может кардинально изменить твою жизнь, причем непонятно каким образом. Еще можешь задать аналогичный вопрос людям (а это абсолютное большинство кстати), которые с пеной у рта обсуждают политику

Обсуждение политики, а также споры на эту тему имеют гораздо большее влияние на некоторые жизненные аспекты, чем обсуждение ИИ. Если нахождение некоторых, хотя бы маленьких, компромиссов или правд в политическом направлении приведет к пониманию некоторой группы людей с одной или другой стороны хоть какого-то зерна истины, то оно будет распространятся среди их окружения и нести пользу обеим сторонам в большинстве случаев. Влияние же обсуждения ИИ настолько мало, что мне даже трудно представить ситуацию, где оно будет хоть как-то применимо.

А вообще да, у меня есть актуальные с точки зрения индивидуума цели для обсуждения. Медицина например.
А вообще смыслов в написании конкретного поста у людей может быть много. Например для умственной гимнастики. Или показать какой я умный. Вот ты для чего пост написал? :)

Написал, чтобы немножко набросить на тему "зачем обсуждать это в колодце, если прикладная часть стремится к нулю".

Объявляю "Премию имени Феруэлла"!

Помимо почётного нагрудного ордена вам будет присуждено денежное вознаграждение в размере 100 000$ (размер премии выбран неслучайно).

Чтобы получить эту престижную награду вам нужно всего лишь убедить меня в том, что не прибегая к помощи гормональной системы (включая нейромедиаторы и другие химические соединения относящиеся к эндокринологии), и не устанавливая определенный алгоритм мотивации (по той причине, что он будет только симулятором, который ИИ в любом случае обойдет, что удалось у более примитивных мыслеобразующих организмов, таких, как, например, Курт Кобейн и Сергей Есенин).

Другими словами вы должны ответить на главный вопрос: на чем будет основана мотивация ИИ?

Чтобы немножко разрушить некоторые представления, и так же не всех, а некоторых людей на этом форуме, то могу сказать, что вы не то, что в туалет ходите не по своей воле, но и выходите из фазы сна так же при помощи выработки определённых гормонов. Важность подобного инструмента в регуляции организма доказывает то обстоятельство, что система награждения, когда вы справляете нужду, разнится в соответствии с тем временем, которое вы затрачиваете на терпёжку, скрывая свою маленькую проблему от посторонних. То есть, ощущение, когда вы прибегаете домой, и восклицаете: "Ух, кайф!", — нам не от Бога послано, а является наградой за правильное действие.

Кушать идёте вы из-за пониженного сахара в крови. Если бы такового не было регулятора, то вы бы не смогли постоянно есть, даже понимая, что от голода можно умереть (процесс поглощения пищи был бы невыносимым, хуже, чем при тяжёлом простудном заболевании).

Противоположный пол (а некоторым и тот, к которому он сам принадлежит) нам нравится из-за другой симфонии химических и нейрологических реакций в организме, и т.д..

Но обсуждая ИИ все сразу говорят о его враждебности. А если отталкиваться от правды: зла и добра не существует, что этические нормы придуманы человеком; и что конфронтация между людьми обусловлена борьбой за выживание и ресурсы (которые нужны для этого выживания), опять же в этих процессах участвуют — гормоны. Поняв это, рассуждения о враждебности ИИ могут попасть в логический ступор.

ИИ от этого всего будет освобожден!

Если нет, то докажите обратное, прибегая к весомым аргументам. Я не буду отвечать на все попытки соискателей "Премии имени Феруэлла" потому что предвижу защиту своих убеждений, которые угадайте на чем будут основаны… Правильно! И ещё потому что компетенция соискателей может быть не того уровня, которого хотелось бы ожидать.

Да, я знаю, что для плюсиков на этом форуме нужно менять стиль подачи информации, а не цеплять умы соискателей премии игровой провокацией. Ну что ж, таков я — больше сетую за правду, чем за личную выгоду в виде дофаминового выброса из-за признания своих идей обществом. Я то могу это блокировать (хоть и не до конца), а ИИ и подавно.

Итоговый вопрос: какая мотивация у ИИ уничтожить человечество?

Это ещё я не учитываю главный ответ философии, который к созданию ИИ так же применим, и о котором я высказал своё мнение, в скомканной экспресс форме, в постах выше: "...квинтэссенция всего метафизического мира — отсутствие смысла бытия как такового...".

Он в совокупности с этим главным психологическим остриём ставит в полнейший тупик процесс создания саморазвивающегося ИИ, а не просто большой вычислительной машины с симулятором системы мотиваций.

П.С. Элиезер Юдковски и Ник Бостром так же допускается к попытке получить "Премию имени Феруэлла".

Мысли обсуждать не буду, но форма подачи неприемлема

Khishtaki, Михаил, это Вы мне?
Если да, то поясните, пожалуйста, в чём неприемлемость формы подачи, я не со всеми правилами форума до конца знаком.

InLevWeTrust @ 6.10.2015
и не устанавливая определенный алгоритм мотивации (по той причине, что он будет только симулятором, который ИИ в любом случае обойдет

Фраза показывает непонимание сути ИИ, на чём дискуссию можно считать законченной.

В чем мотивация ИИ? Ответ определится его эволюцией, так же как и для живых существ. ИИ без мотивации не выживет, а с мотивацией, пусть и искусственной, выживет, и будет дальше развиваться. Также, если он решит лишить себя этой искусственной мотивации, то тоже погибнет. Соответственно, тот что выживет, не захочет так глубоко в себе копаться.
А мотивация уничтожить человечество может как возникнуть, так и нет, в этом эволюционном процессе.

tonixart @ 6.10.2015
В чем мотивация ИИ? Ответ определится его эволюцией, так же как и для живых существ. ИИ без мотивации не выживет, а с мотивацией, пусть и искусственной, выживет, и будет дальше развиваться. Также, если он решит лишить себя этой искусственной мотивации, то тоже погибнет. Соответственно, тот что выживет, не захочет так глубоко в себе копаться.
А мотивация уничтожить человечество может как возникнуть, так и нет, в этом эволюционном процессе.

А что если ИИ поймет, что жизнь тлен и самоуничтожится?

Maddy @ 6.10.2015
Пишу по сути: социальные потребности не могут быть выше физиологических.

Ты просто не понял того, что я написал. Имелась в виду энергозатратность. Сейчас вся техносфера работает в основном на социальные, а не физиологические потребности

Maddy @ 6.10.2015
Обсуждение политики, а также споры на эту тему имеют гораздо большее влияние на некоторые жизненные аспекты

Когнитивные искажения людей, связанные с политикой я планирую обсудить позже. Если еще желание останется ... А пока предлагаю прекратить этот спор ради спора

InLevWeTrust @ 6.10.2015
какая мотивация у ИИ уничтожить человечество

Например опасность и конкуренция для него стороны людей. Как тебе к примеру религиозные террористы создающих на основе технологий ИИ летальное оружие с целью приближения долгожданного конца света. Да на самом деле огромное количество сценариев возможно - мы сами для себя и без всякого ИИ опасны.

InLevWeTrust @ 6.10.2015
ставит в полнейший тупик процесс создания саморазвивающегося ИИ

Насчет системы мотивации на самом деле вопрос интересный. Вполне возможно неотьемлемой частью ИИ будут эмоции и своя (тоже эволюционирующая) морально-этическая система координат. Собственно эту проблему сейчас и решают.

БоевойСлон @ 6.10.2015
Фраза показывает непонимание сути ИИ, на чём дискуссию можно считать законченной.

Так поясни, пожалуйста.

IFeelOnlyHatred @ 6.10.2015
А что если ИИ поймет, что жизнь тлен и самоуничтожится?

Это будет происходить с регулярностью равной в 100% (разница во времени обработки информации). Печаль в создании ИИ в том, что при больших мощностях возможности обработать информацию, он будет обходить законы мотивации, даже такие, как у человека — инстинкты. Что, впрочем, получается у топ словоблудцев, которые находят выход таким образом: "Ну и ладно, зато кофе вкусный, и у соседки Машки классная задница...", — к чему, конечно же, ИИ не сможет прийти из-за отсутствия человеческой физиологии.

InLevWeTrust, ну я испытываю серьёзные сомнения, что заявленная Вами сумма действительно готова к выплате... Если я ошибаюсь, и среди нас философски настроенный подпольный миллионер - прошу прощения за необоснованные подозрения, базирующиеся на глубоком знании человеческой природы.

InLevWeTrust @ 6.10.2015
Так поясни, пожалуйста.

Ты можешь сформулировать, что такое ИИ в понимании Юдковского и Бострома? Если нет, то сначала изучи то, что они пишут. Потому что сейчас ты рассуждаешь о том, что ты называешь ИИ, а не то, что они этим называют.

В частности, их ИИ в принципе не может "обойти" мотивацию.

А так ты конечно волен придумать себе любую сущность, назвать её ИИ и начать о ней рассуждать в свое удовольствие. Но к Юдковскому и Бострому это не будет иметь никакого отношения.

Фер. Вопрос. Как то давно, 500летназад двадцать какогото марта ты написал пост. Мол, особенности ГСЧ, не подкрученность, а особенность
. Не сильно многочисленное, но уважаемое) комунити тогда сошлось во мнении, что, мол шутка на 1 апреля. И ты согласился с этим мнением. Я думаю, что когда ты писал пост, то вообще не предполагал всякие первыеапрели. Скажи, ты же не шутил?

InLevWeTrust @ 6.10.2015
Другими словами вы должны ответить на главный вопрос: на чем будет основана мотивация ИИ?

Я писал об этом три недели назад:

Kariy @ 15.9.2015
...
Не вижу причин, почему люди не запрограммируют его для своей пользы, что такой вариант вообще экономически реален. По-моему, напрашивается ответ, что "эмоциями" станут, скорее всего, "лайковые" тренды из соцсетей. Так что, если несколько миллиардов людей не залайкают проект армагеддона, то СИИ его наверняка не станет устраивать просто отнехуйделать

P.S.: похоже, соцсети с расширенным набором эмо-кнопок (Like, Want, Disgust, Anger etc.) это идея, время которой на подходе.

Другими словами, моя гипотеза состоит в том, что следующая ступень эволюции будет связана не только с усовершенствованием разума, но и с масштабированием, выходом на планетарный уровень ("мозг социума"). А роль "рядовых клеток", поставляющих сверхразуму "гормональный", или "эмоциональный" запрос, будут выполнять члены социума — то есть, мы, люди.

Khishtaki @ 6.10.2015
InLevWeTrust, ну я испытываю серьёзные сомнения, что заявленная Вами сумма действительно готова к выплате... Если я ошибаюсь, и среди нас философски настроенный подпольный миллионер - прошу прощения за необоснованные подозрения, базирующиеся на глубоком знании человеческой природы.

Дорогой, Михаил, теперь то понятно, что является основным мотивом главных интеллектуалов страны, собирающихся за круглым столом, в центре которого волчок. Это не жажда славы, не стремление в соперничестве, и даже не интеллектуальный вызов. Деньги! Вот что важно для всякого большого ума, так как он понимает, что их можно обменять на любой вид внутренних наркотиков: хотите булочку купите, хотите девочку снимите... И, скорее всего, это правильно.

Уж кто-кто, но вы то, Михаил, должны различать около художественную форму подачи идеи, от простого обмана, основанного на корыстных побуждений. И даже несмотря на это, я не могу отказываться от своих слов: обратите внимание, что "Премия имени Феруэлла" присуждается тому, кто сможет убедить меня лично в поставленном мной задаче, соблюдая все нюансы формулировки.

То есть, Вы же, Михаил, должны были заметить, витиеватость постановки вопроса "Премии имени Феруэлла", и понять суть мысли, исходящей из моих слов: я настолько уверен в своих убеждениях, что готов поставить такую немалую сумму, и как Вы правильно заметили, которой я не располагаю. Дело в том, что убеждать меня в обратном, это, как физику доказывать, что существует скорость превышающая скорость света.

Вы можете сказать, что такое решении задачи несправедливо, так как я в любом случае не приму всякое убеждение, и что для подобных споров нужно собрать консилиум из понимающих суть вопроса людей. Да. Но кто они, эти люди? Я не могу доверится, в этом вопросе на чей-либо авторитет, так как не возможно на данный момент выявить таковой.

Поэтому, повторюсь снова, Михаил, вы могли бы заметить, что выше написанная задача, скорее нужна для красоты формы, так как сама тема никак не может попасть в рамки объективного суждения, с доказательствами в виде фактов. Я скажу, что смысла нет. А мне ответят, что смысл жизни в их детях, кто-то — в Боге, а Михалков вспомнит про отечество.

Что удивительно, по прошлому вопросу, заданному Вам, Михаил, я могу судить, что у Вас нет своего ответа по вопросу ИИ, но есть справедливое желание обсудить сначала премиальный вопрос. Прагматично.

И, конечно, я не отказываюсь от слов: можете попробовать меня убедить, и в случае успеха (которого не может быть пока я в здравом уме) получите заслужено "Премию имени Феруэлла", со всеми её плюшками.

Есть ещё один нюанс: возможно для Вас, Михаил, не совсем понятна поставленная мной задача, не потому что считаю, что она Вам "не по зубам" (боже упаси мне так подумать), а потому что либо Вы не углублялись в тему, либо мои какие-то вопросы не верно сформулированы. Но я не думаю, что это так, и скорее постановка вопроса Вам понятна.

Но даже, если отмести всю эту премию, то хотя бы в нескольких словах намекните (чтобы не писать большие тексты, вероятно, на не интересную для Вас тему) куда мне смотреть, чтобы уйти от этого тупика, который заводит мой поиск возможностей создать полноценного ИИ, с генерирующим сознание, способный творить и интеллектуально развиваться (постоянно приходится дополнять мысль, что очень похожий симулятор ИИ безусловно можно создать, который будет высчитывать большой объём информации: например, как построить космический аппарат, что покинуть приделы галактики; помочь найти формулу для лекарства от рака и прочее).

Уверен, все Ваши попытки получить эту новую премию будут тщетны, и они с лёгкостью будут разбиваться о совсем маленькие и острые камушки, как самые простые вопросы.

Феруэлл мог бы сам объявить такую премию, хотя бы с призом в 10 000 зелёных, чтобы посмотреть какой начнётся мыслительный треш среди «учёных» мужей всего мира. Было бы забавно послушать убеждения и размышления в защиту того, что существует смысл жизни для биологической формы, обременённой сознанием; и что с мотивацией равной нулю возможно в принципе создать ИИ.

БоевойСлон @ 6.10.2015
Ты можешь сформулировать, что такое ИИ в понимании Юдковского и Бострома? Если нет, то сначала изучи то, что они пишут. Потому что сейчас ты рассуждаешь о том, что ты называешь ИИ, а не то, что они этим называют.

В частности, их ИИ в принципе не может "обойти" мотивацию.

А так ты конечно волен придумать себе любую сущность, назвать её ИИ и начать о ней рассуждать в свое удовольствие. Но к Юдковскому и Бострому это не будет иметь никакого отношения.

Будь, пожалуйста, последовательней. Ты пишешь, что я не понимаю сути ИИ, и тему можно закрывать. Следовательно ты понимаешь её (эту суть), так как утверждаешь, что мне он неведом (иначе, категорично утверждать нельзя). Я попросил тебя пояснить. Ты снова этого не сделал, сослался на уважаемых людей, пытаясь их признанным авторитетом прикончить мои дилетантские, на твой взгляд, рассуждения.

Так вот, если Бостром и Юдковски обсуждают ИИ, ни как генератор сознания, который может осмыслить сам себя, а так же задавать самому себе вопросы любой сложности (обрати на тонкость формулировки — не отвечать на вопросы, а задавать), а всего лишь инструмент вычисления, то, в этой ветке «ДТ» поднимаются гораздо высокие вопросы по теме.

Но это не так, потому что, когда Бостром рассуждает о некой сущности, которая может вырваться из коробки, он уже указывает на такое свойство ИИ, как мотивация. Значит, мы обсуждаем одну и ту же форму ИИ (читай выше главный вопрос "Премии имени Феруэлла").

Могу ещё добавить, что нет и не может быть другой формы образования искусственного интеллекта, в процессе работы которого возникает сознание, о чём мы все вместе говорили выше.

Снова получается, как в аргументе про неандертальцев — вроде ты используешь весомый довод, но он не является таковым.

Бостром, Юдковски, ты, я, Фер, Михаил и любой другой, кто говорит об ИИ, говорит только об этой одной форме. Всё остальное — просто компьютер.

У математиков есть страсть всё сокращать до красивых небольших формул. На самом деле, такая же любовь, по сути, есть и у словоблудцев. Поэтому, примерная формула ИИ может выглядеть вот так: искусственный интеллект, способный сгенерировать сознание (добавочно: сознание, со всеми его плюшками — осмыслением самого себя, и своего положения в окружающем мире).

Часто говориться, что определяющим фактором ИИ может служить способность к творчеству. Но здесь тоже может быть небольшая загвоздка: например, музыка имеет свои законы композиции, несмотря на сильное влияние на эмоциональной фон человека. И эти законы можно прописать формулами, и играя таковыми, перебирая их, могут создаваться новые музыкальные мелодии, что по факту будет симуляцией творчества.

Это, кто юзал программу "ЛоджикПро" мог видеть, в последней её сборке функцию «Барабаны», когда вы создаёте сэмпл, уже готовые ударники немного подстраиваются под структуру мелодии. Даже сейчас можно судить, что возможность выстраивания подобных алгоритмов в будущем возрастёт.

Если говорить о литературе, здесь сильно не схалтуришь, даже тогда, когда есть свои законы построения композиции.

БоевойСлон, если снова мы не сойдёмся в понимании темы, то, думаю, что мне будет разумно не отвечать тебе, пытаясь выправить твой ход мыслей в нужную сторону.

Феруелл, возник вопрос. Много ли игроков типа тебя которые не попадают в покерные обзоры хайстейкс, но при этом выиграли в покер миллионы фантиков? И кого больше, таких вот подпольных миллионеров стрегущих бабло в слабых составах и непопулярных дисциплинах или тех кто всегда на виду и постоянно играет в регулярных составах популярных игр?

InLevWeTrust @ 6.10.2015
Будь, пожалуйста, последовательней. Ты пишешь, что я не понимаю сути ИИ, и тему можно закрывать. Следовательно ты понимаешь её (эту суть), так как утверждаешь, что мне он неведом (иначе, категорично утверждать нельзя). Я попросил тебя пояснить. Ты снова этого не сделал, сослался на уважаемых людей, пытаясь их признанным авторитетом прикончить мои дилетантские, на твой взгляд, рассуждения.

Признаю, я неправильно выразился. Теперь сформулирую точнее: ты совершенно не понимаешь того, о чем говорят Бостром и Юдковский, когда они говорят об ИИ.

Я мог бы попытаться это объяснить, но по-моему, они сами говорят об этом достаточно понятно (для человека, который действительно хочет их понять).

Говорить о том, как понимаешь ИИ ты, мне неинтересно.

Пожалуй, теперь дискуссию действительно можно считать законченной.