Всем привет. Читаю форум gipsy в режиме read-only уже несколько лет. В основном это блог Феруэлла. Мне очень нравится ход его мыслей, его когнитивные способности и я считаю его одним из умнейших людей и не только здесь. Причем темы которые его интересуют часто совпадают с моими и выводы, которые он делает тоже. Но цель моего поста скорее аргументированная критика его текущих взглядов, высказанных им в последнее время. Причем, сразу оговорюсь, я конечно нахожусь в более выигрышном положении - критиковать всегда проще, а он публично излагал свою позицию в отличие от меня. Тем не менее, хотелось бы добиться корректной дискуссии с адекватными людьми. Возможно, лучше это будет делать в личной переписке - если будет интерес.
Для начала хочу высказаться по поводу ИИ. Эта тема меня заинтересовала примерно 10 лет назад и выводы которые я сделал после анализа всей доступной информации были шокирующими. Мне хотелось выйти на улицу и кричать - люди, неужели вы не понимаете, что происходит и к чему это все ведет? Подозреваю, что нечто подобное испытывал Феруэлл когда проводил свой последний прямой эфир. Тогда ( 10 лет назад) тема эта всерьез разве что пару десятков футурологов ну и разного рода маргиналов, которым неважно чего бояться - нападения инопланетян,
падения метеорита и тд. Постараюсь изложить свое видение кратко и предельно просто. Приблизительно 4 млрд лет на Земле шла эволюция живых организмов. Процесс по сути обратный энтропии (рассеиванию энергии) Вселенной - постоянное усложнение самокопирующихся организмов с поглощением энергии. За накопление и перенос информации каждому следующему поколению отвечала ДНК. После возникновения у живых организмов
способности к абстрактному мышлению ( по сути сознанию) появились новые способы переноса информации. Причем способы передачи информации тоже начали быстро эволюционировать. Обучение потомства родителями у животных - устная речь у людей - письменность - электронные носители - интернет - социальные сети и тд. Суть в том, что на смену биологической эволюции ( которая по-прежнему тоже идет, но очень медленно) пришла социальная эволюция, происходящая гораздо быстрее и все более увеличивающимися темпами. Люди практически не изменились за последние 100000 лет, но зато как изменился наш мир. Единственной причиной, по которой субьектом социальной эволюции до сих является человек является то, что пока только он способен собирать и анализировать информацию, а также осуществлять на ее основе действия. Причем уже сейчас видно насколько это стало сложно и неэффективно. Человека нужно с самого его рождения обучать (и все это ради в среднем 70 лет его жизни) , постоянно преодолевая его животные когнитивные искажения (что неудивительно - мы по сути своей животные с достаточно примитивной способностью к абстрактному мышлению),удовлетворять весьма энергозатратные физиологические нужды. Но даже физиологические потребности ничто по сравнению с нашими социальными потребностями, которые по сути способ управления людьми со стороны постоянно эволюционирующего социума (у социальной эволюции как и у биологической нет цели - это случайный процесс в основе которого определенные физические законы). Очевидно, что возникновение ИИ естественным образом решает все эти проблемы и делает существование людей ненужным (хотя это не значит, что все они должны немедленно погибнуть - с другой стороны такой сценарий развития событий вполне возможен - они могут быть слишком опасны и непредсказуемы для ИИ).
Ну а теперь от банальностей к сути. Я не вижу никаких способов сделать ИИ дружественным. Мне, очевидно, что ИИ будет самообучаемым. Самоосознающий, самосовершенствующийся организм невозможно контролировать. Мне кажется, что Юдковски должен сам это отлично понимать. Его деятельность на этом поприще (создание дружественного ИИ) либо осознанная монетизация темы ( деньги в ближайшей перспективе, когда разговоры об этом будут заходить все чаще, на этом можно заработать огромные), либо когнитивное искажение связанное с присущим многим серьезным ученым (да и вообще людям) врожденным альтруизмом (или антропоцентризмом - убеждением, что в основе мироздания находится человек), а скорее и то и другое. Тем более это странно звучит в связи с его уверенностью ( я и сам еще 10 лет назад пришел к такому выводу) в наступлении сингулярности (бесконечный прогресс за ограниченное количество времени) после создания ИИ - то есть возникновения
реальности недоступной нашему нынешнему пониманию. Так же не вижу способов избежать возникновения ИИ - социальную эволюцию остановить невозможно (хотя вот ИГИЛ пытается - при всем том отвращении которые я к ним испытываю нельзя не признать, что они по сути недалеки от истины - уход от животного состояния, образование и наука ведет людей к концу света - и они уже к этому активно готовятся, это основа их
идеологии). Следовательно с точки зрения рациональности нужно вообще этим не грузиться ( нет никакого смысла обращать внимание на то, что от тебя никак не зависит). Правда для меня все таки реальный интерес представляют сроки создания ИИ (думаю, это случится уже при моей жизни), сценарий его возникновения (адаптивная операционная система, самообучающийся алгоритм в лабаратории, вирус и тд) и развитие событий в мире после его создания. Но если учесть, что мы не смогли предсказать даже возникновения сотовой связи, интернета, социальных сетей (вещей которые кардинально поменяли нашу жизнь) любые прогнозы очень условны. А вообще когнитивные ошибки рационалистов (на примере Феруэлла раз разговор идет в его блоге - или моем - я надеюсь на конструктивную критику и не претендую на абсолютную истину) применительно к медицине, политике, искусству, человеческому сознанию это отдельные большие темы, гораздо более интересные для меня сейчас и я коснусь их позже если будет интересно.
Еще забавнее"чудо-держатель" велосипеда. Надо было не заморачиваться , а тупо положить велосипед на крышу)))