Колодец Феруэлла: остаться должен только один

Gipsy @ 9.8.2015
Один из редких случаев, когда я не согласен, либо не понял фразу. Люди же не тупее сейчас, чем были 200 лет назад? И не тупее, чем были когда-либо. Умственно, нравственно, да вообще, как угодно люди развиваются в соответствии с временем в котором находятся. Внутреннее развитие человека не должно отставать либо опережать технический прогресс, иначе это приведет к катастрофе. Если в дикие, не развитые племена попадает огнестрельное оружие, это племя обречено на вымирание, ибо они в своем развитии еще не дошли до принятия подобных технологий. Все скачки в техническом прогрессе всегда происходили с сопутствующим скачком в нравственности (интеллекте) общества. Поэтому мне не понятна фраза, что люди слишком тупые. Всему свое время.

П.С. Заодно хотел спросить про твое отношение к Курцвейлу. У него все-таки слишком радикальное мнение по поводу развития ИИ, и что человечеству в сегодняшнем виде осталось от силы лет 50, дальше уже машина будет определять что с нами будет.

Люди критически не успевают за технологическим прогрессом. Посмотри например, кто сейчас владеет ядерным оружием и какой у них уровень мышления. Вот был у нас министр обороны Сердюков. Бывший мебельщик, который вместе со своей любовницей-поэтессой занимался кражей всего что плохо лежит. Вот такой человек имел потенциал уничтожить все остальное человечество, ну или по крайней мере сыграть важную роль в этом процессе.

От этого же волосы дыбом вставать должны!

Вторая мировая война. Конченый псих и маньяк приходит к власти и развзявает войну с десятками миллионами жертв.

Это ли не свидетельство недоразвитости человечества? Что если бы он успел сделать бомбу первым?

Потенциально фатальных технологий становится все больше(ядерное оружие, неостановимые вирусы, ИИ), а люди принмающие решения критически некомпетентны.

P.S Курцвейла я всерьез не воспринимаю, он такой сказочник-фантазер.

Обсудить пост

Jonny_Rixter @ 9.8.2015
feruell, если отбросить моральную часть проблемы последних двух постов, то посыл таковой, что человеку не хватает интелекта.

Но если так подумать, тебе бы наверняка не пришло в голову развязать вторую мировую...или пустить какой-то мегавирус в центре лондона, так что получаеться, ты умнее других? А если да, то почему? Более того, ты такой явно не один, скажем я также понимаю абсурдность описаных действий, так что же, я тоже типа выделяюсь из общей масы?

А что, если интелекта нам хватает? По примеру ПК-у нас достаточная апаратная начинка, но операционная система написана криворуким програмистом...
Все эти генетические эксперименты на эмбрионах если и дадут результат, то он будет в апаратной плоскости, к примеру получиться улучшить память, быстроту усвоения информации, и т.д. Но вот на качественное отношение к вещам/вопросам такие изменения не смогут повлиять.

Развитие человеческой личности проходит под влиянием окружающей среды, поэтому если с этим проблема, то нужно не генетическую структуру зернышка менять, а тепличные условия, в которых оно будет расти...

Почему бы не делать и то и другое?

Интеллекта нам критически не хватает, критически. Сотня другая потенциальных Эйнштейнов и Масков была бы очень кстати.

Обсудить пост

DimOK @ 9.8.2015
Насколько я знаю историю, это присуще всем её этапам и про это много умных книжек написано, однако же каким-то образом прогресс осуществляется. Плюс, за последние несколько веков, сильно продвинулись в коллективном принятии решений, сейчас уже достаточно мало вещей можно решить в одиночку, сравнить с волей монархов 200 лет назад, разница очевидна. Не так уж всё плохо, на самом деле. Скоро машинки изобретём, ИИ, они тоже _помогать_ будут в принятии решений, ещё лучше будет. При всей прелести искуственного интеллекта я не могу представить, что в обозримом (пара сотен лет) будущем человеки отдадут бразды правления машине единолично. В качестве советника - да (опыт найма более-менее компетентных советников, не обладающих полнотой власти известен давно), в качестве правителя - нет.

Так что люди-таки тупые, но человечество к этому привыкло и ничего страшного быть не должно, тренд изменений в общественном управлении вроде бы позитивный.

Технология ИИ имеет огромный потенциал выхода из под контроля. Со всеми вытекающими. Прочитай книжку Бострома, там очень подробно рассказывается об этом.

А ты как мне кажешься занимаешься самоуспокением. Ничего страшного быть не должно? С какой стати? Человечество это обезьяна играющая со связкой гранат.

Обсудить пост

iow @ 9.8.2015
Действительно. Пусть людей уничтожает кто-то более компетентный, а не Гитлер или, просто господи, Сердюков. Внезапное появление сверхразумных людей только повысит шансы на тотальный геноцид.

Есть и такие сценарии. Но практика показывает пока, что самые умные люди были как правило и самыми хорошими.

В любом случае, если создать им хорошие условия, шансы, что из них вырастут достойные люди, намного выше, чем то, что из них вырастут маньяки. Ну и если на 100 гениев будет один отморозок - это вроде не очень страшно.

Обсудить пост

FroZer @ 9.8.2015
Величие Маска не в интеллекте.

Пофиг в чем, но надо клонировать и распространять.

Но на полном серьезе я считаю его умнейшим человеком.

Обсудить пост

bearkid @ 10.8.2015
Жизнь - сплошная конкуренция, это аксиома. Если ты родился парнем, белым, натуралом, атеистом, физически полноценным, то уже фактически выиграл в лотерею и уже на старте жизни у тебя более высокие шансы на успех. И, если подумать, ты не должен желать равноправия с собой никому из конкурентов и должен стараться сохранять выгодное для тебя положение вещей. Что думаешь?

Жизнь и отношения - это игра с ненулевой суммой. Помогая друг другу, можно увеличить совокупное благосостояние всех участников процесса.

Поднятие интеллекта всего населения земли весьма позитивно скажется на всем человечестве. Я могу конкурировать с кем-то за какой-то ресурс, но если мы оба инвестируем в технологию продления жизни например, то это уже неплохо.

Отвечая на твой вопрос, кооперация высокоразвитых существ - это путь к успеху гораздо большему, чем попытка никого не пустить на свою поляну.

Обсудить пост

Как вы знаете, я не большой любитель спортивных телетрансляций, но не могу не отметить достойный поступок Уткина.

Но вот так, слово за слово, шутка за шуткой я понял, что дело куда серьезнее, чем я ожидал. Шуточки к черту, ребята.

Я пошел.

Это не шантаж, не ревность и не зависть. Работать на спортканале под руководством Тины Канделаки унизительно, это предательство потраченного на профессию времени. Кому-то, глядишь, и шанс, а я так на это смотрю.

Согласен, что с Канделаки работать нельзя. Это воплощение мерзости и пошлости. Вот про нее недавно написали обзор на медузе, обзор конечно предвзятый, но лучше кажется нету.

Обсудить пост

Очередная ключевая статья Бострома: Existential Risk Prevention as Global Priority

Статья сильно не простая, но невероятно важная. И с выводами я полностью согласен.

Вот краткая суть о чем будет речь:

Existential risks are those that threaten the entire future of humanity. Many theories of value imply that even relatively small reductions in net existential risk have enormous expected value. Despite their importance, issues surrounding human-extinction risks and related hazards remain poorly understood. In this article, I clarify the concept of existential risk and develop an improved classification scheme. I discuss the relation between existential risks and basic issues in axiology, and show how existential risk reduction (via the maxipok rule) can serve as a strongly action-guiding principle for utilitarian concerns. I also show how the notion of existential risk suggests a new way of thinking about the ideal of sustainability

А вот просто забавный момент из статьи:

In fact, the situation is worse than is the case with many other global public goods in that existential risk reduction is a strongly transgenerational (in fact, pan-generational) public good: even a world state may capture only a small fraction of the benefits—those accruing to currently existing people. The quadrillions of happy people who may come to exist in the future if we avoid existential catastrophe would be willing to pay the present generation astronomical sums in return for a slight increase in our efforts to preserve humanity’s future, but the mutually beneficial trade is unfortunately prevented by the obvious transaction difficulties.

Обсудить пост

С некоторым опозданием присоединяюсь к вечеринке. Прямо 2010ый год какой-то.

Обсудить пост

Ого, благотворительный марафон, да еще и с выбором эффективных форм помощи.

Очень крутая инициатива.

Единстенное, что сам я постепенно склоняюсь к тому, что донейтить надо в первую очередь тем, кто пытается преодтвратить глобальную катастрофу и гибель человечества.

Аргументы для такого выбора в том, что в случае гибели человечества погибнут не только все те миллиарды, которые живут сейчас, но и миллиарды миллиардов разумных существ, которые могли бы существовать в будущем, если человеческая цивилизация не загнется.

Поэтому мой личный выбор это MIRI Юдковского и Future of Humanity Бострома.

Кажется, что донейтя именно им, можно оказать влияние на наибольшее количество жизней.

Я посмотрел, формально у REG, которым рулят Курганов и Лив, MIRI есть в списке куда они переводят деньги, но по факту туда ничего или почти ничего не переводится.

Обсудить пост

Кто бы мог подумать, что в 2015 году у нас не будет нормального конвертора рук.

А пока посмотрите в бум плеере на новую эру ЛХЕ.

Опп Yoghii

Обсудить пост

Очень нравится этот комикс.

Обсудить пост

Год назад:

Блестящиц анализ ситуации.

Обсудить пост

Форхейли написал в скайп и попросил выложить ссылку на цикл статей про Илона Маска и его империю. Как она устроена, какие глобальные планы, и так далее.

(вздыхает) Ну что ж, почитайте Elon Musk: The World’s Raddest Man

Чтение действительно объемное, я пока только первую часть закончил.

Обсудить пост

И мне приснился странный сон...

Обсудить пост

Какой-то залетный полурег записал видео по лхе 200-400 для RIO. За копеечку сам себе могилу копает.

Единственный плюс, что видео невысокого качества. Одно из тех, где автор на 5-10 минут зависает в каждой сдаче и что-то бессвязное про гто бубнит.

Обсудить пост

Mercator @ 3.9.2015
Привет.
Поясни, пожалуйста.
Ты купил каждую акцию, входящую в индекс, пропорционально её весу, либо купил фьючерс на индекс? Или что-то третье? И если фьючерс, то будет ещё пара вопросов.

Я купил ETF вот такой. Ну то есть я покупаю один простой инструмент, а они уже там следят за тем, чтобы он соответствовал s&p 500.

Обсудить пост

Редкое зрелише, когда кто-то технически грамотно подтягивается. Респект Джуанде.



Обсудить пост

Наконец сам дочитал про планы Маска по колонизации Марса.

Если вы хотите прочитать по-русски, вот уже переведена первая часть.

Это супер увлекательное чтение, прямо не верится. Но все очень разумно.

Если вкратце, то План заключается в том,



Самое гглавое, что первого человека на Марс он хочет отправить уже совсем скоро, в течение лет 10. То есть это не безумная фантазия о далеком будущем, а фактически бизнес-план, по которому идет работа.

Обсудить пост

Для тех кто читает в переводе. Про колонизацию марса уже перевели 4 части из 5.

Iggy @ 7.9.2015
Лучше здесь следить. Сегодня выложили четвертую главу третьей части. В начале текста ссылки на три первых главы.

Не супер очевидно там в каком порядке читать, но разобраться можно.

Обсудить пост