Комментарии к колодцу Феруэлла

Khishtaki, Пфф...
Присвоив себе право определять, что такое "однозначно дефинируемая категория ", а что "нет" очень легко отстоять любую точку зрения. В Средние века право трактовки принадлежало Церкви, а потом перешло к другим институтам, просто не надо забывать о том, что это право не абсолютно, а пока временно находится у вас (научного мейнстрима) на хранении.

The-Pig @ 5.7.2017
Возможно, и не совсем клоунада.

1.) 14 марта 2017 - Глава Крыма Сергей Аксенов, то бишь Федеральный чиновник высшего уровня,
высказался за восстановление в РФ института Монархии. Просто так, чиновники такого уровня, на
такие вопросы не рассуждают, даже в узком кругу.

2.) 01 июня 2017, в эфире Федерального Телеканала "Россия" выступил некий Митрополит Илларион.
Это человек №2 в РПЦ. Второй после Патриарха Кирилла. Святой отец на всю РФ высказался в том смысле,
что Монархия есть самая прогрессивная форма правления.
.
3.) 07 июня 2017, партией ЛДПР в Государственную Думу внесен текст законопроекта об изменении государственного
гимна РФ. Текст: "Боже, царя храни!" (тот самый). Законопроект получил отрицательное заключение от зам.председателя
Правительства РФ, но юридически это не является препятствием для его дальнейшего рассмотрения.


То есть и во власти исполнительной (Аксенов), и законодательной (ЛДПР), и духовной (РПЦ) мы обнаруживаем сторонников Монархии за 9 месяцев до выборов. Тут еще и самая публичная фигура Российского FORBES (Тиньков), то же оказывается двумя руками за.

Публичные призывы к свержению конституционного строя detected. Почему никто из них до сих пор не в СИЗО?

Совершенно бомбовый курс лекций Шульман у нее на канале (на текущий момент 9 лекций). Каждое слово на вес золота. Вдруг кто еще не видел.

БоевойСлон @ 5.7.2017
Мне бы казалось логичным в условиях невесомости иметь на полу П-образные петли, за которые можно было бы цепляться ногами для большей управляемости

БоевойСлон @ 5.7.2017
Того, о чём ты говоришь на 0.48-0.49, я не вижу.

ну вы меня извините. я мог бы, конечно, начать лепить скрины и рисовать в пейнте сетку, чтобы были видны все движения, но это ппц как муторно. кто хочет, тот увидит.

БоевойСлон @ 5.7.2017
На 2.10 автор указывает на напряжение предплечья, как на что-то неестественное Но космонавт в этот момент как раз меняет свою угловую скорость, сначала поднимая ноги, а потом останавливая вращательное движение

не вижу особого смысла разбирать аргументы автора видео - я на себя ответственность за его контент не брал и его (вашу мать) теории не принимал безусловно. но. но скажу, что видно, что напряжение руки сохраняется после того, как он принял полностью статичное положение. логично было бы, показывая "трюк в невесомости" для зрителей, пусть с напряжением предплечья, занять целевое положение и убрать руку. но он держится и держится и только что пот со лба не смахивает.

БоевойСлон @ 5.7.2017
Но сам посуди, если МКС существует

не собираюсь я этим заниматься. ты невнимательно читал мои первые посты по теме.

Новый пост в Колодце Феруэлла:

MIRI Юдковского получил донат в миллион:

On May 30th, we received a surprise $1.01 million donation from an Ethereum cryptocurrency investor. This is the single largest contribution we have received to date by a large margin, and will have a substantial effect on our plans over the coming year.

С одной стороны, это классно. А с другой стороны, когда они начнут получать очень много денег - это будет косвенным свидетельством того, что все серьезно и конец света не за горами.

iDontCare @ 5.7.2017
Совершенно бомбовый курс лекций Шульман у нее на канале (на текущий момент 9 лекций).

Точно 9? Насколько помню, я сегодня утром посмотрел лекцию №17.

feruell @ 5.7.2017
С одной стороны, это классно. А с другой стороны, когда они начнут получать очень много денег - это будет косвенным свидетельством того, что все серьезно и конец света не за горами.

Ну почему сразу конец света? Можно ведь не изобретать ИИ, а просто посадить мозги всех людей в большой бассейн и подвести туда питания и стволовых клеток. Будет развитая жизнь, которой не понадобится избавляться от человечества.

paravozek, Потому что рыночные силы толкают компании к тому чтобы делать все более и более продвинутые ИИ системы, но нет аналогичного давления заниматься безопасностью таких систем. В результате мы неизбежно будем иметь неконтролируемые разработки очень опасных технологий.

Никакого реалистичного сценария посадки мозгов людей в бассейн - нет.

feruell @ 5.7.2017
Новый пост в Колодце Феруэлла:

MIRI Юдковского получил донат в миллион:



С одной стороны, это классно. А с другой стороны, когда они начнут получать очень много денег - это будет косвенным свидетельством того, что все серьезно и конец света не за горами.

почему это не может быть свидетельством неоправданной паники?

feruell @ 5.7.2017
, Потому что рыночные силы толкают компании к тому чтобы делать все более и более продвинутые ИИ системы [..]
Никакого реалистичного сценария посадки мозгов людей в бассейн - нет.

Запрет технологического развития, запрет свободного рынка. Жесткий контроль общества правительством. Тоталитарная мировая диктатура со сверхценной идеей спасения от ИИ.

Когда Юдковскому начнет идти много денег - это будет свидетельством того, что люди массово начали понимать опасность ИИ. И тогда они задумаются о решении проблемы управленческими методами, благо опыта разработки тоталитарных сценариев контроля населения в истории достаточно.
Это затормозит экономический рост, но так ли он нужен? В развитых странах уровень счастья человека перестает расти после $70k/год.

Поэтому вполне возможно, что общество откажется от любого развития, кроме биологического, пока не сможет организовать целостную вычислительную систему на базе человеческих мозгов.

Выглядит как раз так, что, все движение анти-ИИ закончится именно этим.

LikeAA @ 5.7.2017
Точно 9? Насколько помню, я сегодня утром посмотрел лекцию №17.

Их может и 17, но на канале выложено только 9 (не по порядку).

4kNort @ 5.7.2017
почему это не может быть свидетельством неоправданной паники?

Может быть и свидетельством паники. Вот только мне не известно ни одного сильного аргумента против угрозы ИИ. Технология стремительно развивается, контролировать ее мы не сможем. Правительства полностью не готовы и некомпетентны в этих вопросах.

Представь, например, что ты попробуешь обсудить эти вопросы с Трампом или Путиным.

paravozek @ 5.7.2017
Запрет технологического развития, запрет свободного рынка. Жесткий контроль общества правительством. Тоталитарная мировая диктатура со сверхценной идеей спасения от ИИ.

Когда Юдковскому начнет идти много денег - это будет свидетельством того, что люди массово начали понимать опасность ИИ. И тогда они задумаются о решении проблемы управленческими методами, благо опыта разработки тоталитарных сценариев контроля населения в истории достаточно.
Это затормозит экономический рост, но так ли он нужен? В развитых странах уровень счастья человека перестает расти после $70k/год.

Поэтому вполне возможно, что общество откажется от любого развития, кроме биологического, пока не сможет организовать целостную вычислительную систему на базе человеческих мозгов.

Выглядит как раз так, что, все движение анти-ИИ закончится именно этим.

Проблема в том, что времени для создания контроля и диктатуры может просто и не быть. Отказаться от технологического роста невозможно пока нет центрального контроля, так как всем странам и компаниям выгодно продолжать развивать технологии, несмотря на любые договоренности.

Пока вариантов с мировым правительством не просматривается.

feruell @ 5.7.2017
Вот только мне не известно ни одного сильного аргумента против угрозы ИИ.

например что-нибудь другое может уничтожить человечество раньше

почему вероятность быть уничтоженным ии на какой-нибудь дистанции
сильно больше чем кометой ядерной бомбой или еще чем-нибудь

vitja11111, это не аргумент против угрозы ИИ, это напоминание о том, что угроза не единственная.

так может ее вероятность мала по-сравнению с другими угрозами

на дистанции скажем 100лет

кто-нибудь проводил рассчеты?

feruell, ты когда говоришь об угрозе ИИ, представляешь себе всё как в терминаторе когда роботы решили людей вырезать, или как-то по другому?

feruell, Что последние читал из художественной литературы?

Неплохие шансы, что после го, DeepMind возьмётся за покер. Сегодня объявили, что DM открывает исследовательский центр в Эдмонтоне (Канада) и планирует "тесное сотрудничество" с университетом Альберты, в котором был создан покерный бот Цефей. Одним из руководителей DeepMind Alberta будет профессор Michael Bowling, ранее возглавлявший разработку Цефея.

https://deepmind.com/blog/deepmind-office-canada-edmonton/

ZiingRR, не понимаю, какой смысл, если в совсем недавнем эксперименте бот (или ИИ, как угодно) доказал превосходство?
Дистанция маленькая?