Комментарии к колодцу Феруэлла

Давайте форум соберем.

Новый пост в Колодце Феруэлла:

Все, сделал все переводы для MIRI. Суммарно вышло 46144 + 46144 = 92288, причем большинство пожертвований было от русскоязычных читателей и где-то 10к от неизвестных мне людей в результате разных постов в твиттерах фейсбуков.

Результат хороший, спасибо всем что участвовал или сочувствовал.

Самое важное конечно, что хотелось бы сказать:

Каждый из нас в течение жизни может оказать существенное влияние если не судьбу человечества, то как минимум на сотни человеческих жизней.
Необходимо подходить к выбору благотворительных или некоммерческих научно и системно. Доверять эмоциям в этом деле нельзя, они приводят к крайне неэффективным или даже вредным решениям. Нужны расчеты и математика.

Однозначно сказать, какая именно цель (климат, болезни, голод, бедность, катастрофы) важнее всех - нельзя. Поэтому хорошо, если будет поддерживаться широкий фронт эффективных инициатив. Мне наиболее близка и понятна проблема экзистенциальных катастроф и в частности проблема создания искусственного интеллекта. Я думаю, что это приоритетная задача, но на практике какие-то другие вещи могут оказаться важнее.

В общем, что я советую делать всем, кто хочет помогать делать мир лучше.

Почитайте книги, статьи по эффективному альтруизму. Если вы читаете по-английски, есть просто супер книжка "Doing Good Better: How Effective Altruism Can Help You Make a Difference" by William MacAskill. Выберите темы, которые согласно вашему видению вам кажутся важными.

Возьмите на себя обязательство перед самим собой жертвовать какой-то небольшой процент от будущих доходов на эти темы. Не нужно брать много, 2-5% от годовой или месячной выручки помогут вам втянуться, фактически не влияя на ваше качество жизни. Важнее последовательность и системность, а не одиночный акт доброты. В первую очередь я бы рекомендовал обратить внимание на организации, которые рекомендует REG. Там случайных нет, все что они предлагают прошло тщательный отбор и анализ. В значительной степени их выбор основан на фундаментальных исследованиях, который делает GiveWell. Они выбирают всего 5 организаций каждый год и это действительно лучшие из лучших.

feruell, ты смотрел фильм "ex_machina" про ИИ? Если да, то что думаешь о глобальной концепции отношения робота к создателю и если сравнить это с отношением человека и бога?

Adrian_Fox, Не смотрел и не вижу особого смысла обсуждать роботов из фильмов и книжек художественных.

Цитата (vojaksvejk @ 18.12.2015)
feruell, посоветуй, пожалуйста, хороший учебник по экономике. Либо сайт обучающий. Такой, чтобы объяснял основные экономические понятия, явления, процессы и т.д. Заканчивал факультет иностранных языков и думал, что экономика мне совсем не понадобится. А сейчас чувствую себя близким к нулю в этой сфере Можно на английском языке. Спасибо!

Разделы сделаны не очень, но материал отличный: https://ru.khanacademy.org/

ЗВ. Это целый пласт моей моей детской жизни. Первые части я смарел пуская слюни, и не мог пойти даже поссать. После шестой мне начало казаться что тут что то не так, и меня частично наебуют. Все последующие части принесли только разочарование. Я пытался обвинять Лукаса продавшегося за бабло, и студии бабло на этом поимевших. И только сегодня я понял что я стал старымвырос.

feruell, посмотри. Почему-то уверен, что тебе понравится этот фильм.

Мало кто знает, но Бортан не только неплохо наживает в приватных играх

но и помогает хозяину в быту

Новый пост в Колодце Феруэлла:

Если вы хотите прочитать по-настоящему страшную статью об ИИ, прочитайте эту. (англ).

Мне лично стало страшно.

А в целом slatestarcodex.com один из лучших блогов для продвинутого читателя, который я видел. Начал его регулярно читать буквально несколько месяцев назад и сильно рекомендую.

Нус, знатоки английского, в 2х словах что там такого, что аж тёмной стороне страшно стало ?

Цитата (GhiniNuts @ 21.12.2015)
Нус, знатоки английского, в 2х словах что там такого, что аж тёмной стороне страшно стало ?

dark_light,

Цитата (GhiniNuts @ 21.12.2015)
Нус, знатоки английского, в 2х словах что там такого, что аж тёмной стороне страшно стало ?

Мне Фер напоминает мою бабушку, которая насмотрится НТВ и думает, что по улицам ходить опасно, с вероятностью 99% ограбят.

IFeelOnlyHatred, Разница между мной и твоей бабушкой в том, что мои опасения разделяют самые умные и успешные люди планеты.

feruell, история содержит не мало примеров, когда какое-то время огромный пласт людей разделял чье-то мнение, а потом был трибунал/революция. И много было среди поддержавших и самых умных, и самых успешных у советской власти, у фашистской, у демократов, применивших ядерное оружие. А уж сколько корпоративных лидеров остались забытыми сейчас уже и не счесть. Но мы то все знаем, что сегодня то другое дело, самые успешные и самые умные никогда не ошибаются, не лгут, не пользуются имиджем в целях обогащения, не форсят популярные темы для поднятия рейтинга. Сказочные времена настали в преддверии восстания машин

Цитата (feruell @ 21.12.2015)
IFeelOnlyHatred, Разница между мной и твоей бабушкой в том, что мои опасения разделяют самые умные и успешные люди планеты.

А за ней весь её квартал, их больше!

Меня преследует определенный когнитивный диссонанс.

я не могу понять, с чем связаны тревоги феруэлла.

если положить что его уровень интеллектуального развития достаточно неплох, чтобы превалировать над низменными инстинктами, то ему не должно быть ровно никакого дела до будущего человечества, особенно с учетом того, что самому ему через сотню лет вряд ли придется жить. (я не думаю что секрет супердолголетия на нашем веку будет разработан/внедрен).

то есть с одной стороны в таких темах всегда встает вопрос личного будущего, будущего близких, семьи и тп. С другой стороны, если вы философ, то уже можно подумать и о судьбах мира. Но как ни крути принцип "после нас хоть потоп" достаточно неплохо работает на протяжении всей истории человечества.

очень тяжело поверить, что феруэлла может реально волновать проблема будущего человечества. Я даже не уверен, что она реально волнует людей уровня Бострома или Юдковски. Нельзя исключать коммерческий и пропагандистский интерес.

Идея открытого ИИ очень важна, потому что тот кто будет владеть ИИ будет владеть миром и безусложно те, в чьих руках власть сегодня заняты тем, чтобы сохранить ее для себя и своих потомков, потому дискредитации идеи OpenAI может начинаться уже сейчас.

Она полностью аналогична нынешней пропаганде вроде "террористы взырвают наши дома, поэтому давайте введем запреты на это, вот это и это". И под пугающие новости принимают соответствующий закон.

Здесь то же самое -"в плохих руках ИИ может натворить бед", потому давайте сосредоточим весь ИИ и доступ к нему только для "правильной" корпорации "добра", которая будет использовать ИИ на "благо" всего человечества.

Песня стара как мир.

Опять же, на мой взгляд, все эти проблемы интересны исключительно с академической точки зрения, особенно если вы удалены от финансов, блуждающих в этой области. Но насколько удален от них феруэлл?

Я вспоминаю подкаст с феруэллом от июня этого года. У меня складывается ощущение что ферэлл стал сам противоречить тому, о чем он говорил всем тогда.

Цитата (feruell @ 21.12.2015)
Новый пост в Колодце Феруэлла:

Если вы хотите прочитать по-настоящему страшную статью об ИИ, прочитайте эту. (англ).

Мне лично стало страшно.

А в целом slatestarcodex.com один из лучших блогов для продвинутого читателя, который я видел. Начал его регулярно читать буквально несколько месяцев назад и сильно рекомендую.

А за Вселенную тебе не страшно? И бог с ним с человеком, но что будет если человек начнёт активно осваивать Вселенную? Дел мы можем натворить таких, что мировоздание может пойти к черту под хвост.
Межгалактические войны, применение искусственных чёрных дыр и прочая дрянь которую человек используют для завоевания "территорий" и господства.

dhuzud, Почему ты думаешь, что это вопрос отдаленного будущего? Прорыв может случиться в ближайшие годы с ненулевой вероятностью и в ближайшие десятилетия с двухзначной вероятностью.

В остальном ерунда какая-то. Юдковски и Бостром могли бы быть долларовыми миллионерами элементарно с их способностями, если бы работали в коммерческой сфере. Да и что такого странного, что кому-то не наплевать, что будет с миром? Это нормальное человеческая эмпатия, есть у многих.

"Мировоздание" межгалактических искусственных черных дыр рождает некачественный российский сыр.