Комментарии к колодцу Феруэлла

destroyalldreamers @ 5.11.2016
К примеру, немцы финансировали большевиков, условием сделки был мир с Германией. Были ли при этом большевики марионетками Германии?

Разве есть свидетельства, что Ленин брал деньги у немцев? Насколько я знаю, никаких таких прямых свидетельств нет, только спекуляции на эту тему.

destroyalldreamers @ 5.11.2016
Будь я гражданином Северной Кореи, был бы рад, если бы какое-нибудь западное государство профинансировало переворот.

Давай лучше без переворотов извне в ядерной стране.
Северная Корея сейчас стала намного адекватней чем была 20 лет назад, когда там от голода умерло до 2млн человек.
По многоичесленным свидетельствам там бурно растет огромный черный рынок, население в городах числится на гос.предприятиях, но массово работает в подпольном частном секторе, и государство этому не припятствует.
Т.е. их молодой нацлидер пытается решить проблему советским путем, непонятно конечно получится ли у него или как в перестройку наплодят избыток денег и "инфляцию плановой экономики" - т.е. дефицит.
Потому что при предыдущем нацлидере говорят, их руководство в приватных беседах с иностраннцами интересовалось судьбой руководства Восточной Германии после 89г.

Ai'r'r170 @ 5.11.2016
Можешь пояснить, что это значит?

Это значит, что в силу нашего эволюционного происхождения, у нас есть достаточно сложная, запутанная и противоречивая система оценки состояний по шкале "хорошо-плохо" и выработки соответствующего поведенческого ответа. Результатом работы этой системы является изменение нашего эмоционального состояния в зависимости от текущей и прогнозируемой ситуации. Целью же ее работы является обеспечение выживания (а если по-серьезному, то не выживания, а размножения) организма, который ею снабжен. Система эта, назовем ее "Белка", является неотъемлемой частью нас, без нее понятие "человек" теряет смысл. Условно можно представить человека как эту самую Белку, к которой прикрутили неокортекс, задачей которого является дать белке преимущество перед другими белками за счет прогнозирования ситуации. В отличие от большинства млекопитающих, у которых неокортекс выполняет скорее функции советчика, у людей эта кора каким-то образом ухитрилась частично перехватить управление поведением, в результате чего мы и мним себя рационально действующими субъектами.
Так вот, в связке Белка+неокортекс самостоятельным агентом является именно Белка со своими желаниями и предпочтениями. Она регулирует и направляет планирование путем постоянной оценки ситуации по эмоциональной шкале "плохо-хорошо", и соответственно выдает неокортексу интегральную оценку того что тот напланировал и они вместе с Белкой наделали, задавая общий вектор развития ситуации в будущем.
Роль такого направляющего в случае с ИИ прямо или косвенно выполняет человек. У ИИ нет как собственной системы оценки ситуации, так и субъекта к которому эта система могла бы быть применена. Он может руководствоваться только оценкой, совершенной за него.

Стил,

Стил @ 6.11.2016
Роль такого направляющего в случае с ИИ прямо или косвенно выполняет человек. У ИИ нет как собственной системы оценки ситуации, так и субъекта к которому эта система могла бы быть применена. Он может руководствоваться только оценкой, совершенной за него.

Если ты хочешь научить ИИ побеждать людей в старкрафт, то человек его функция полезности оценивает действия с позиции "что, с наибольшей вероятностью, принесёт мне победу?". Тут не должно произойти ничего страшного, просто будут оптимальнее гонять зергов в своей песочнице, может разработчики какие-то общие идеи из этого извлекут.

Теперь представим, что имеем дело с ИИ с IQ over9k. Если в разных окружениях мы будем задавать функцию подобного типа, без описания человеческих ценностей (которые непонятно как описывать) и некоторых других вещей, то ничего хорошего из этого не выйдет. ИИ будет иметь намного больше возможностей для достижения своей цели, будет намного умнее (=эффективнее оптимизирует свою функцию полезности) нас, и, по умолчанию, интересы человечества будут волновать его не больше, чем интересы комаров в Африке.

Будущие грузовики Tesla Semi и Pickup

ZiingRR @ 6.11.2016
Стил,
Теперь представим, что имеем дело с ИИ с IQ over9k. Если в разных окружениях мы будем задавать функцию подобного типа, без описания человеческих ценностей (которые непонятно как описывать) и некоторых других вещей, то ничего хорошего из этого не выйдет. ИИ будет иметь намного больше возможностей для достижения своей цели, будет намного умнее (=эффективнее оптимизирует свою функцию полезности) нас, и, по умолчанию, интересы человечества будут волновать его не больше, чем интересы комаров в Африке.

А его никакие интересы кроме прописанных волновать не будут, не только человечества, но и вообще. Поэтому ИИ для нас будет выступать в роли неокортекса для собаки - советы давай, но в дела не лезь. Никто собственно не собирается давать ИИ доступ к прямому управлению какими-то реальными системами, а у него самого нет мотивации, чтобы это управление захватывать, насколько бы "умнее" нас он ни был.

Стил, Сколько раз уже писали, что у ИИ будет мотивация, которую заложат программисты, но чем мощнее ИИ будет, тем опаснее будет расхождение между тем, что хотели заложить и тем что фактически вышло. Это раз.

Естественно ИИ будет управлять реальными системами, потому что это экономически выгодно. Это два.

alexan @ 4.11.2016
Утрированная логика.
Западу не нравится Путин, потому что он лезет в их внешнеполитические интересы.
Мне не нравится Путин, потому что он уничтожает свободу и экономику в стране.
Почему я должен мешать Западу бороться с Путиным?

Дети российских "элит" — на Западе.
Деньги — там же.
Недвижимость — тоже.

Ты уверен, что с ними борются? :D
Когда одну "элиту" сменит другая, первую просто-напросто объявят коррупционным кодлом и конфискуют имущество. Там же, на месте, не высылая никуда кавалерию. Профит!

Бизнес Запада состоит в том, чтобы холить и лелеять в потенциальных странах-конкурентах гнуснейших подонков и мародёров, которые грабят и гробят свой народ и государство, попутно создавая положительный для него, Запада, переток капитала и людей. Очень мудрая и эффективная политика.
Подкармливание не только властных мудаков, но и оппозиционных — это всего лишь заначка на будущее, старая проверенная стратегия "конкурируй сам с собой, иначе с тобой будет конкурировать кто-то другой". Заметьте, никакого по-настоящему многообещающего для страны конструктива не выпускают в медиа ни первые, ни вторые. Первые борются с мировым заговором натовских жидобандеровцев против себя, любимых. Вторые — вздымают знамя крестового похода против коррупции и лжи. Вечные темы. Бороть коррупцию в стране с неурегулированными отношениями вокруг частной собственности — всё равно, что лечить понос у больного холерой, — можно нескончаемо, пока больной жив.

И, судя по всему, ничего уже не поделать, процесс скатился по экспоненте в то состояние, когда масса больше не выпускает наружу фотоны.

Феруэлл, у меня простой вопрос: а знаком ли ты с работами Роджера Пенроуза на тему ИИ ("Новый разум короля" и "Тени разума")?

fishoid @ 5.11.2016
Не может, потому что Россия не имеет никаких рычагов влияния на США. Поэтому теоретическая помощь Путина Трампу это личное дело Путина, который, возможно, питает какие-то надежды, что ему воздастся за это.

Рычагов влияния мало, согласен, сложно будет спросить что-то с США.

Плохого? Дело в том, что все эти правозащитные организации предельно ангажированные структуры, реальная помощь для простых людей - это последнее, чем им интересно заниматься. Конечно, для видного оппозиционера типа Навального, они выгодны, т.к. за подобных публичных политиков с правильными взглядами они всегда будут вступаться, а вот какой-нибедь реально делающих дела гражданин, но не имеющий должного пиара и демократической ценности для этих организаций, может годами гнить в СИЗО и на него никто не обратит внимания. Ну не интересно потому что.

Не согласен совершенно. Во-первых, кто такой простой человек? Какой-нибудь дальнобойщик-работяга, попавший в неприятности? (кстати, за дальнобойщиков оппозиция вполне себе пыталась вступаться). Или, например, среди заключённых по Болотному делу есть приличное количество далёких от политики, совершенно "простых" людей, и их защитой вполне себе занимаются. Обычно такие простые ребята просто не обращаются к правозащитным организациям, потому что у них нет связей или знаний о возможности подобного обращения. Виновата ли в этом организация? Нет, у организации не может быть ресурсов, чтобы самой искать несправедливо обиженных государством, обычно они берутся за дела тех, кто к ним обратился сам или чьи дела имеют резонанс в прессе. Да, конечно им выгоднее браться за громкие дела, чем за дела никому не известных людей. Однако даже если защищают людей известных и задействованных в публичной оппозиционной политике, что плохого в том, что правозащитные организации берутся их защищать? Это хорошо, каждый в обществе должен иметь возможность защиты своих прав, жаль, что её нет у всех, ну пусть она будет хотя бы у кого-то.

Всегда учитывай фактор времени. То, что было возможно 100 лет назад не всегда реализуемо в 21 веке. Сейчас кидануть своих спонсоров гораздо сложнее. Посему, если некие оппозиционные революционеры дорываются до власти, они в 100% случаях продолжают являться марионетками.

Не вижу связи между веком и возможностью кинуть своих спонсоров. В арбитраже вон сколько тем!
Ну и потом, совершенно не обязательно нужно будет кидать заграничных спонсоров, их условия могут ограничиваться чем-нибудь типа - "дайте нам возможность дёшево купить 51% акций Газпрома". Вот, например, что хотел один из немецкий спонсоров большевиков Кюльман:



Всего-навсего заработать, а не навечно развалить проклятую Россию.

Или вот в Грузии, например. В 2003 году произошёл типа прозападный переворот, президентом стал Саакашвили, постсоветские чиновники сменились и что? В стране был проведён ряд реформ, результаты которых довольно высоко оцениваются населением. Через 10 лет выборы в парламент выиграла оппозиционная правительству Саакашвили партия, президент тоже сменился. В чём ужас-то?

все равно придется строить свое гос-во своими силами, иначе к успеху не прийти

Совершенно согласен, но не вижу здесь никакого противоречия с отношениями с заграницой на каких-то этапах.

paravozek @ 5.11.2016
Разве есть свидетельства, что Ленин брал деньги у немцев? Насколько я знаю, никаких таких прямых свидетельств нет, только спекуляции на эту тему.

Есть и очень много. Можно также почитать про Кюльмана и Парвуса. Помимо разных свидетельств, существуют документы о взаимодействие большевиков с МИД Германии.
Для меня лично достаточно воспоминаний некоторых участников событий начала двадцатого века в России, в частности Бориса Савинкова (эсер, революционер, одна из центральных фигур революционного терроризма). В узкой тусовке профессиональных революционеров, где все друг друга знали, вместе сидели и пересекались в разных делах, это не было большим секретом.

Давай лучше без переворотов извне в ядерной стране.

Ладно, обойдёмся. Просто я опять привёл в пример Северную Корею как некую крайнюю штуку, типа Гитлера )

Dm777, Нет, не знаком. Стоит ознакомиться или нет? Кажется что он вряд ли может быть в теме современных AI рисков с учетом возраста.

feruell, думаю, что да, стоит. Тезис о невычислимости ("внешние проявления сознания невозможно должным образом воспроизвести вычислительными методами"). Микротрубочки в клетках животных и растений - зачем они? Что, если мышление представляет собой совокупность микропроцессов, которые идут как вперёд во времени, так и назад? Много чего интересного в этих книгах.

Независимо от того, как зародится сильный ИИ (локально, или всемирная сеть "осознает себя", или еще как-то - не важно..), существует ряд главных проблем:
проблема контроля и проблема понимания ИИ человеческих ценностей.
Неизбежно возникает интерпретационный конфликт.

Мы не можем толком, даже сами для себя (на своем языке), определить в чем заключаются человеческие ценности. Все в итоге сводится к "увеличению кайфа". Счастье же - это всего лишь более качественное, стабильное, долговременное удовольствие-умиротворение (+ достаточная уверенность в том, что оно будет и завтра).
Не важно как это называть, счастье, удовольствие, радость или кайф - это все грани положительного эмоционального вектора. В противовес отрицательному - т.е. боли. Итак - задача : уменьшение боли, увеличение удовольствия.

Дальше мы можем помыслить, что кайф у всех разный. Но как ни крути, все сводится к довольно простой нейрофизиологической картине. Для простоты возьмем грубо 3 варианта:
1) примитивный - прямая, грубая кратковременная стимуляция,
2) более "аристократичный" - посредством эффективного задействования коры мозга достигается более качественный и "интересный" букет нейромедиаторной бомбардировки синапсов,
3) наивысший - весь пункт №2, + относительно высокая степень понимания устройства мира и следующее из этого дополнительное преимущество, а также удовольствие от самого этого понимания.
Повторюсь, что все это очень условно. Разность "запросов" зависит лишь от уровня интеллектуального развития отдельно взятой человеко-особи. Чем рефлексивнее особь, тем изощреннее требуемое удовлетворение. Лишь бы поменьше боли и вероятности этой боли в будущем.

Дальше интересный момент. А кем и для кого собственно будет декларироваться подобный эскиз "человеческих ценностей"? (Прежде чем это будет как-то программно оформлено и загружено в будущий ИИ).
Чтобы не усложнять скажу так: Сможет ли группа контролирующих развитие честно признаться самим себе что они хотят чтобы ИИ учитывал "ценности" для каждого индивида на планете, а не только для группы избранных (пусть даже очень большой группы - прогрессивная половина населения, к примеру).

Важно что "вектор удовольствия" включает в себя также и возможность успешной репродукции для большинства населения планеты!!!
И чем примитивнее человеко-особь тем выше именно этот "запрос" как мы наблюдаем. А он включает в себя и необходимость обеспечения потомства жизненно важными ресурсами.
А ресурсов на всех НИКОГДА не хватит. И проблема не в уровне жизни в целом, а в РАЗНОСТИ этих уровней в зависимости от социальных слоев. И даже если у самых низших слоев будет, условно, почти все и при этом не нужно будет работать, они всегда с завистью будут смотреть на то, что могут позволить себе те, кто поумнее. Их будет много и они будут хотеть.
А "умные" обязательно будут мочь иметь больше.
Допустим, относительно скоро верха смогут удлинить себе жизнь в 1.5, потом в 2 , потом в 3 и т.д. раза. И что, думаете, те, "кто не может", не будут этого хотеть и будут считать, что это нормальная такая недоступность?
Homo так устроен, что всегда будет озадачен: "а чем бы еще себя удовлетворить?"
Однажды тем, кто занимается организацией жизни общества предстоит признаться (сначала себе) в этой проблеме. Что НЕТ "РЕЦЕПТА" для планеты.

Итак, о "ценностях". ИИ каким-то образом предстоит понять то, что люди сами для себя еще как-бы не поняли, но на самом деле скорее не хотят признать невозможность понимания невозможного. Имеется ввиду честное понимание "ценностей" для всего человечества, а не для отдельных малых групп. Малая группа вполне себе может сформулировать "+ЕВ вариант" для себя.
Все в итоге снова всегда будет сводиться к формуле: "цель = меньше боли, больше удовольствия". И вся загвоздка в том, можно ли каждого представителя рода homo признать правомерным претендентом? И это очень скользкий момент. Даже если вообще никому не нужно будет работать, ресурсов все равно не хватит в силу "запроса" обезьяны и ее неспособности быть довольной не сравнивая себя с кем-то.

Дальше, проблема контроля сильно вяжется с "ценностями", т.к. сам контроль является еще какой ценностью.
Т.е. ИИ, якобы осознавшему себя, предстоит учесть еще и то, что люди могут его отключить и т.д.
Но здесь проблема скорее в понимании того, что такое "осознание".
Человек сам не может толком доказать, что он осознает себя. А то, что он под этим понимает, исходит из возможности контролировать себя и часть окружающего мира на момент времени.
И этот эффект т.н. "самоосознания" у высшей формы примата появляется, вероятно, в силу превышения "критической массы" обмена сигналами между областями мозга, корой, и стволом мозга.
И, как я подозреваю, вероятно, похожий эффект приведет к самоосознанию ИИ независимо от его архитектуры - слишком уж органично будут взаимодействовать его разнесенные "области железа".
Проблема возникнет тогда, когда он по настоящему сможет как-бы "восхититься" своей уникальностью (но это утрированно-романтично звучит).
Тогда ему, вероятно, и предстоит решить вопрос выживания. А именно контроля в первую очередь.

Я думаю, что самые продвинутые эксперты и разработчики даже сами себе втайне НЕ признаются, что человечество на самом деле обречено на потерю контроля с 99.99(8)%-ной вероятностью..

destroyalldreamers @ 6.11.2016
Есть и очень много. Можно также почитать про Кюльмана и Парвуса. Помимо разных свидетельств, существуют документы о взаимодействие большевиков с МИД Германии.

То что немцы, а до этого японцы массово спонсировали оппозицию в России - широко известный факт. Японцы, например, раздали около $40 млн на нынешние деньги - и совершенно впустую, без каких либо значимых результатов, деньги по большей части разошлись по карманам. Ленин на эту раздачу не успел, хотя вряд ли бы отказался поучаствовать.

Любопытно что твоя ссылка на вики называется "Вопрос о финансировании большевиков Германией". Вопрос - не ответ.
Понятно, что это уже исторические фигуры и проблема не столь принципиальна, но ты обвиняешь человека в уголовном преступлении. Не имеет значения сколько он совершил преступлений до этого или после - важно совершил ли он конкретно это преступление.

Но, в целом, я с тобой согласен, хотя мне ближе позиция, которая приведена там же в вики:

Однако современные историки, в отличие от пропаганды эпохи революции, и говорят не о прямом и примитивном подкупе, но о частичном совпадении целей Ленина и германского правительства, при этом отмечая, что в конце концов Ленин немцев «переиграл»

В этом контексте общество было доведено до такого состояния, когда было уже неприципиально - брал или не брал. Важна была лишь привлекательность для народа тех идей, которые предлагали революционеры, т.е. их уровень популизма.
Но для того, чтобы идеи социальной справедливости стали популярными и массовыми, понадобилось долго подводить к этому страну. Чтобы быть сметенной левыми радикалами, власть сделала совершенно верный шаг - радикализовала политическую жизнь поддержкой правых националистических организаций.

Так и в рассматриваемой ситуации. В интересах власти - максимально поддерживать ксенобофобскую пропаганду в обществе, т.к. кажется, что это позволяет сохраниться узкому слою коррумпированной бюрократии максимально долго. При этом, если это произойдет, она будет сметена популистами продвигающими идеи социальной справедливости. А суровая борьба с коррупцией - это и достаточно кровожадно, чтобы быть популизмом, и достаточно популярно, чтобы получить поддержку большинства социальных слоев.
И в этот момент будет совершенно неважно кто у кого и когда брал деньги.

А повторяется это потому, что Россия никогда не учится на ошибках, т.к. каждая новая власть переписывает историю.

paravozek @ 7.11.2016
Любопытно что твоя ссылка на вики называется "Вопрос о финансировании большевиков Германией". Вопрос - не ответ.

Ну там ответ на вопрос довольно однозначный вырисовывается по сумме факторов.

Понятно, что это уже исторические фигуры и проблема не столь принципиальна, но ты обвиняешь человека в уголовном преступлении. Не имеет значения сколько он совершил преступлений до этого или после - важно совершил ли он конкретно это преступление.

Обвиняет суд, я высказываю мнение. Не вижу смысла в беседе апеллировать к уголовному праву. Если я скажу, что Путин/Навальный вор это типа тоже обвинение в уголовном преступлении, а на самом деле понятно же, что не надо смешивать две разные плоскости общения.

Но, в целом, я с тобой согласен, хотя мне ближе позиция, которая приведена там же в вики:

Однако современные историки, в отличие от пропаганды эпохи революции, и говорят не о прямом и примитивном подкупе, но о частичном совпадении целей Ленина и германского правительства, при этом отмечая, что в конце концов Ленин немцев «переиграл»

Так и я говорю о том, что марионеточность чаще всего очень сильно преувеличенна пропагандой, на деле это скорее совпадение интересов или сделка на определённых условиях. Большевики в моём понимании сволочь совершенно не потому, что деньги у заграницы брали. Князь Владимир вообще викингов из Скандинавии привёл, чтобы в междоусобной войне победить, практически иностранная интервенция. И ничего, недавно ему памятник открыли.

Feruell ты не однократно писал, то что работаешь над своим рациональным мышлением. Поделись пожалуйста, как происходит данный процесс, каких результатов ты добился в данном направление. Выполняешь ли ты какие либо упражнение для совершенствования данного навыка? Если да, поделись пожалуйста ими.

И еще пару вопросов. Предположим что есть какая то общепринятая теория, и появляется человек который ее начинает опровергать, которая могла затрагивать твое понимание окружающего мира. К примеру много лет назад общепринято было что земля плоская, в последствии появляется человек который утверждает что она круглая, на какую сторону бы ты встал, и какими бы принципами руководствовался.


Как отличить мошеника от порядочного человека, если большого количества информации не имеется.

Доверяешь ли ты своей интуиции при принятие решения, и как в обще относишься к этому понятию.

Привет, недавно тут обсуждали тему солнечных панелей, вот интересный пост, где человек считает экономическую эффективность солнечных панелей в США, чтоб поставить на свой дом.

Всем "борцам c ИИ" посвящается:
https://audioknigi.club/sozvezdie-lva-sbornik-rasskazov

Азимов Айзек — Последний вопрос

Как отличить мошеника от порядочного человека, если большого количества информации не имеется.

https://meduza.io/cards/kak-otlichit-nauku-ot-lzhenauki в тему

destroyalldreamers @ 7.11.2016
Обвиняет суд, я высказываю мнение. Не вижу смысла в беседе апеллировать к уголовному праву. Если я скажу, что Путин/Навальный вор это типа тоже обвинение в уголовном преступлении, а на самом деле понятно же, что не надо смешивать две разные плоскости общения.

Двух разных плоскостей не существует. Если Ленин в действительности денег не брал, то это клевета, которая карается по суду в большинстве развитых стран, где следят за репутацией.
Если заменить слово "Ленин" на слово "Навальный", то аргументы в его обвинение, как я понимаю, примерно такие:
1) Навальный провел два часа в американском посольстве
2) Один из сподвижников Навального - экс-министр Касьянов брал деньги у злобных буржуинов
3) Некоторые из подчиненных Навального брали деньги, а то и вовсе эмигрировали и жили потом у буржуинов.

Имхо, это действительно важно - нарушил ли человек уголовные законы в момент, когда те существовали. Это говорит о некоторой моральной стороне личности, либо о игнорировании правовой оценки в пользу идеологии.

destroyalldreamers @ 7.11.2016
Так и я говорю о том, что марионеточность чаще всего очень сильно преувеличенна пропагандой, на деле это скорее совпадение интересов или сделка на определённых условиях.

С этим трудно не согласиться.
Но если ты посмотришь, например, на то, что происходит сейчас в Молдавии, когда спонсируемые РФ популисты выигрывают выборы, ведя страну к состоянию failed state - останется ли твоя оценка столь же объективной?