Комментарии к колодцу Феруэлла

djordj,

Я понял твою мысль, но это не ответ. Есть и те прогнозы относительно будущего, которые сбылись. И что теперь?


Ну то есть 100 лет назад, если бы ты сказал человеку, что через 40 лет люди смогут обмениваться сообщениями по воздуху, большинство на тебя посмотрели бы как на дебила. Но через 40 лет изобрели мобильник, а сейчас для нас это обыденность.
Сейчас же мы имеем ситуацию, когда умнейшие люди планеты работают над ИИ и при этом, как мы видим, не без прогресса. Поэтому мне кажется, если ты хочешь давать прогноз относительно столь далёкой перспективы, одного утверждения, что как правило, все( правильней сказать ,конечно, большинство) прогнозов относительно технического прогресса не сбываются, мягко скажем не достаточно. Всё таки хочется более конкретных аргументов.


P.S При этом, нужно понимать. что, наверняка, о большинстве прогнозов ты слышал из фильмов или фантастической литературы.

Хочется забанить многих, но это бесполезно. Читайте профессиональную литературу, не читайте прогнозы "экспертов" на покерном форуме.

Да полно уже мыслить цитатами. Это могут позволить себе маркетологи.

По факту мы наблюдаем, что в реальном срезе мы почти стагнируем. Все на что хватает креатива в Apple это новый экран на полдюйма больше и гнездо для зарядки на другом боку смартфона. Прирост реальной производительности ПК упал относительно времен 10-15 летней давности. Сейчас весь рынок потребительских гаджетов выдавливает из себя последние соки и живет исключительно благодаря маркетингу. Никакого экспоненциального развития нет и близко, поскольку мы подошли к пределу нынешних технологических процессов. Да, мир ждет новой НТР, которая обеспечит качественный рывок. Но никто не знает, как скоро это произойдет.

Ai'r'r170

Цитата
если бы ты сказал человеку, что через 40 лет люди смогут обмениваться сообщениями по воздуху, большинство на тебя посмотрели бы как на дебила.

Смешно утверждение. 40 лет назад вовсю себе прекрасно жили радио и ТВ, а потому возможность передачи информации на расстояния беспроводным методом не была не то что фантастикой, это было реальностью. Потому передача СМС это просто развитие данной модели, что, конечно же, не могло повергать в шок людей того времени.

Цитата
Сейчас же мы имеем ситуацию, когда умнейшие люди планеты работают над ИИ и при этом, как мы видим, не без прогресса.

Понимаешь в чем дело, умнейшие люди такие же люди как все, например как люди из зомбоящика, которым ты, скорее всего, не веришь ни на йоту. Ведь люди из зомобоящика заняты только тем, как теплее устроить свою задницу и нахапать бабла и ради этого готовы наплести нам что угодно. Теперь возвращаемся к умнейшим людям, работающим над ИИ, точнее не к конкретным разработчикам, которые скрыты от глаз публики, а как раз к медийным рупорам, публичным персонам, владельцам стартапов, разного рода IT-философов и прочим. Знаешь, по умолчанию я воспринимаю их абсолютно также как любых политиков и бизнесменом, которые действуют прежде всего в свобственных корыстных интересах. Ну вот такое у меня прагматичное мировосприятие. И потому никакая информация не из какого журнала, конференции или симпозиума от людей любой наивысшей степени уважения и почитания в среде, не вызывает у меня безграничного доверия. Потому что я всегда помню о том, что в отличии от гипотетического ИИ, люди определенно жалкие существа движимые примитивными инстинктами. Не все, безусловно, и те, кто работают в таких сферах как разработка ИИ наоборот максимально далеки от этого. Но это те, кто сидят в условных лабораториях, а не те, кто пишет статьи и вращается в медийном пространстве. А всю инфу ты поглощаешь именно от вторых, про первый, кто занят реальной работой, ты и знать не знаешь и их мнения тоже.

Цитата (Zedmor @ 12.3.2016)

Не читал пока что Юдковский написал но меня в этой истории, конечно, неприятно удивляет то, насколько общество неспособно компетентно оценивать все эти штуки. То есть вот люди статью в Нейчр опубликовали с тем как оно все работает а на земле дай бог пара сотен человек, которые способны полностью понять что и как там и наверное десяток тех, кто может по статье сами все создать. Но ни те ни эти, ни даже авторы не понимают того, что же они сделали (в смысле сравнения с реальными людьми), ну для этого им этот матч и нужен был, не только для пиара же. А среди профессионалов го вообще нет людей, которые бы могли оценить что сделали парни из дипмайнд. Все это просто кричит о кризисе компетентности во всем, что касается переднего края технологии (ну так и должно быть) и какой разговор может быть о контроле и прочем?

А каким образом можно эффективно расширить компетенцию для поддержки узкоспециализированных решений? Хотя бы в небольших кругах, процент/доли процента живущих (ибо развивать интеллект и уровень знаний человечества, мышление большинства представителей которого ухудшают эмоции, животные инстинкты, болезни и смертность, когнитивные искажения, кажется непосильной задачей; да что там, вряд ли на свете живет хотя бы один человек, который в каждый момент существования вел себя рационально), чтобы в любой момент была заменяемость компетентных людей в долгосрочном периоде для технологий того же уровня или уровнем выше.
Мне вспоминается ситуация с последним инженером Voyager. Сменится поколение, разработавшее ИИ. Что, если мы окажемся в положении, при котором разработчики не смогли передать все тонкости работающего билда другим людям (а там миллионы строк кода + нюансы разработки и использования аппаратной части)?
Можно ли с уверенностью утверждать, что подобные знания не потеряются через 100 лет, например? Тысячу? Это тоже мешает контролю над развивающимся ИИ; впрочем, не уверен, что кто-то будет контролировать вариант "доброго ИИ". Quis custodiet ipsos custodes?

Цитата (hochunl5k @ 12.3.2016)

А кто может мне обьяснить что такое добро ? ведь для каждого своё добро и как этот ии будет определять какое добро нужно каждому в частности,

или добро это чтото типа как у Йеговистов или рай где люди кормят оленей с руки , как можно дать машине понятие добро, или если никого не убивать это уже добро ?
Вы действительно верите в это ? в доброго или злого ИИ ? ктож его определит добрый он или нет

Полагаю, под "добром" в данном случае, по моему мнению, можно понимать равновесную по Нэшу, Парето-оптимальную ситуацию, при которой все действия ИИ максимизируют профит и минимизируют убытки в общем положении мира (эффективно используются ресурсы, улучшается жизнь каждого существа в среднем и т.д.). При этом, по идее, должны учитываться возможности, при которых люди будут поступать себе и другим во вред.

Цитата (feruell @ 12.3.2016)
Хочется забанить многих, но это бесполезно. Читайте профессиональную литературу, не читайте прогнозы "экспертов" на покерном форуме.

А у тебя есть предложения, при которых у большинства читающих блог людей (и не только; если есть такое желание высказаться и улучшить, хоть немного, уровень компетенции) возникнет стремление самим разбираться во всех тонкостях различных сфер, самим искать нужную и полезную информацию по каждому вопросу, избегать влияния авторитетов, уменьшать влияние на мышление отвлекающих факторов? Допускаем, что у нас есть способность получать и выявлять полезную информацию, несмотря на мусор и белый шум. Не берем конкретно разработку ИИ и смежные задачи.

Цитата (hochunl5k @ 12.3.2016)
А кто может мне обьяснить что такое добро ? ведь для каждого своё добро и как этот ии будет определять какое добро нужно каждому в частности,

или добро это чтото типа как у Йеговистов или рай где люди кормят оленей с руки , как можно дать машине понятие добро, или если никого не убивать это уже добро ?
Вы действительно верите в это ? в доброго или злого ИИ ? ктож его определит добрый он или нет

Есть мнение, что в данном случае, добрый ИИ - это тот ИИ, который не пытается тебя расчленить или сделать тебя своим рабом, а даёт тебе право самому распоряжаться своей жизнью, при этом видя свою предназначение, в её улучшении.

Допустим я производитель молока и я делаю молоко из смеси дешевого порошка и воды, работая на ржавом советском оборудовании. Что я напишу на упаковке? Я напишу "надоено из домашней коровы, откормленной на альпийских лугах, 100% натуральный экологически чистый продукт произведенный с использованием новеших технологий"

Допустим я владелец стартапа в силиконовой долине, который изобрел очередную хрень и понимаю, что я действительно изобрел хрень, но подвыпивший инвестор на IT-тусовке заинтересовался этой хренью, ведь я напел ему, что это новая суперфишка, которая готова стать прорывной и если он вложится в нее сейчас, то через год наши акции вырастут на 10500

Допустим я AlexOM и я придумал пирамиду и я понимаю что это пирамида, но что я буду писать в своем блоге и что я скажу потенциальным инвесторам?.... Ну вы понели...(с)

Ничего личного, просто бизнес.

Так вот. Я готов на слово поверить настоящему разработчику ИИ, но не так или иначе заинтересованному публичному лицу, которое пишет статьи, проводит конференции, создает стартапы или ведет иную общественно-образовательно-пропагандистскую деятельность в данной сфере.

Цитата
Есть мнение, что в данном случае, добрый ИИ - это тот ИИ, который не пытается тебя расчленить или сделать тебя своим рабом, а даёт тебе право самому распоряжаться своей жизнью, при этом видя свою предназначение, в её улучшении.

гм...довольно очевидно что никакого доброго ИИ по отношению к человеку существовать не может, поскольку человек и гипотетический ИИ будут, крайне вероятно, опираться на совершенно разные экзистенциальные модели. И определенно в существовании человека нет ни единого смысла, если существует ИИ, который в разумности будет человека превосходить. Другой вопрос в том, что это, конечно же, не означает, что ИИ должен обязательно человека уничтожить.

Цитата (djordj @ 12.3.2016)
Допустим я производитель молока и я делаю молоко из смеси дешевого порошка и воды, работая на ржавом советском оборудовании. Что я напишу на упаковке? Я напишу "надоено из домашней коровы, откормленной на альпийских лугах, 100% натуральный экологически чистый продукт произведенный с использованием новеших технологий"

Я не профессиональный юрист, но думаю, что это незаконно))

Цитата (djordj @ 12.3.2016)
Так вот. Я готов на слово поверить настоящему разработчику ИИ, но не так или иначе заинтересованному публичному лицу, которое пишет статьи, проводит конференции, создает стартапы или ведет иную общественно-образовательно-пропагандистскую деятельность в данной сфере.

Тебе надо, чтобы тебе лично разработчик ИИ это сказал? Т.К, в сети достаточно статей на тему ИИ от людей, которые непосредственно с этим работают. При этом они, безусловно, заинтересованные лица и когда пишут статьи, или выступают на конференциях, становятся лицами публичными.


P.S я вижу тебе всё очень очевидно, а это как правило не способствует конструктивной дискуссии.

Очевидно, в ближайшие 100 лет не изобретут ИИ превосходящий человеческий(с)

Очевидно, что никакого доброго ИИ по отношению к человеку существовать не может (с)

Очевидно, что все врут про прогресс ИИ. (с)

При этом никаких аргументов ты не приводишь( что не удивительно).

Цитата
Я не профессиональный юрист, но думаю, что это незаконно))

Мне как-то плевать на законность, я же бизнесмен и у меня все схвачено, куда надо занесено, придет проверка, тоже на лапу дадим. Ведь какая разница проверяющей инстанции, что на упаковке брехня, когда у жены инспектора скоро появится новая шуба.

Цитата
Тебе надо, чтобы тебе лично разработчик ИИ это сказал? Т.К, в сети достаточно статей на тему ИИ от людей, которые непосредственно с этим работают. При этом они, безусловно, заинтересованные лица и когда пишут статьи, или выступают на конференциях, становятся лицами публичными.

Конечно, приватная беседа, дружеский разговор без купюр. Доверие возможно только в том случае, когда ни у одного из участников коммуникации нет ни единой осязаемой причины говорить неправду.

djordj, Ты тролишь чтоль?

Цитата
Конечно, приватная беседа, дружеский разговор без купюр. Доверие возможно только в том случае, когда ни у одного из участников коммуникации нет ни единой осязаемой причины говорить неправду.

Я просто вообще тогда не понимаю, ты всерьёз не веришь в перспективы развития ИИ, потому что лично не общался с его разработчиками?))

Ai'r'r170

Я не знаю каких аргументов ты ждешь. В любом случае я предложил тебе мнение, что даже полное отсутствие аргументов с моей стороны в плане конкретного разбора технологий компенсируется потенциальной ангажированностью и ложью со стороны публичных людей, занятых в IT-сфере.

Этот тезис нельзя подвергнуть сомнению не приведя также конкретных доказательств, чего с твоей стороны сделано не было.

Потому вопросы о троллинге не имеют смылса.

Мы с тобой находимя в разных парадигмах восприятия. Я свою позицию определил четко - не доверять никакой информации если ее источник может быть заинтересован в ее искажении. Точка. Твоя позиция, вероятно более мягка - верить на слово всем, кто красиво пишет и говорит и за кем стоит авторитет, ученые степени и другие регалии. Ведь в плане технической подкованности любой из участников этой темы не способен определеить ложь и искажения в подаваемой информации такими людьми. А значит имеет место именно вера на слово. Это твоя позиция. Вот и все.

Цитата (djordj @ 12.3.2016)
Мы с тобой находимя в разных парадигмах восприятия. Я свою позицию определил четко - не доверять никакой информации если ее источник может быть заинтересован в ее искажении. Точка. Твоя позиция, вероятно более мягка - верить на слово всем, кто красиво пишет и говорит и за кем стоит авторитет, ученые степени и другие регалии. Ведь в плане технической подкованности любой из участников этой темы не способен определеить ложь и искажения в подаваемой информации такими людьми. А значит имеет место именно вера на слово. Это твоя позиция. Вот и все.

Моя позиция состоит в том, что любую информацию нужно анализировать.

Вот я например владею покер румом. И я сейчас официально заявляю, что ИИ, способный победить лучших покеристов в НЛ холдем, изобретён не будет в ближайшие 100 лет.
Ты этой информации не веришь.


Мне оппонирует учёный, который работает над созданием ИИ, и он говорит, что мои слова- неправда.
Ты этой информации тоже не веришь? Так?

А кому из нас ты тогда будешь веришь и по каким причинам?

Цитата (djordj @ 12.3.2016)
. Ведь в плане технической подкованности любой из участников этой темы не способен определеить ложь и искажения в подаваемой информации такими людьми

Так тебе не кажется, что в этой ситуации лучше сказать, что ты не знаешь, а не давать свои прогнозы на ближайшие 100 лет?

djordj, В чем мой интерес исказать информацию? Я тебе говорю в приватной беседе, что читал оригинальные труды и там все четко. Как минимум, ты можешь попробовать почтиать superintelligence Бострома, а потом развенчать все его нелепые построения. Но ты прочитай для начала.

Хотелось бы чтобы умнейшие люди планеты придумали как собрать и переработать пластиковый хлам на суше и на море.

Ai'r'r170

Цитата
Ты этой информации тоже не веришь? Так?

А кому ты тогда веришь?

А тебе обязательно нужно кому-то верить? Занять хоть какую-то позицию? Отсутствие позиции не устраивает?

Цитата
Моя позиция состоит в том, что любую информацию нужно анализировать.

Это далеко не всегда возможно.

Давай возьмем для примера два вида заинтересованных лиц и их публичные слова

1. Выступает по ТВ министр финансов и говорит что инфляция за год составила 5% и падение рубля не сильно ,повлияло на, жизненный уровень населения. Верить или нет? Ты можешь легко определиться, ведь ты ходишь в магазин и знаешь, что цены на продукты выросли на 20-30%, что техника и автомобили подорожали на 50%, а также повысились тарифы на ЖКХ. Таким образом ты отлично понимаешь, что инфляция много выше озвученной министром цифры и уровень жизни упал значительно. Итак, ты вывел его на чистую воду, смог проанализировать, потому что это тебе доступно.

2. Выпускает отчет или статью владелец комании, занимающейся разработкой ИИ и описывает свое видение вопросов развития ИИ, используя сложную терминологию, множество формул и расчетов, приводит в качестве доказательств результаты неких собственных исследований и так далее.
У тебя нет возможности поймать его как того министра. Тебе доступен только простейший эмпирический и логический уровень анализа, но он почти никогда не будет достаточен, поскольку по мере углубления в вопрос, технические детали начнут принимать все больший вес и не разбираясь в тонкостях данной темы, ты не сможешь конкурировать с таким оппонентом. Таким образом тебе остается либо верить ему на слово, именно так, просто верить, что он пишет и говорит правду, либо допустить значительную вероятность того, что он может искажать информацию. Я иду по второму пути, вот и все. И этот путь считаю более правильным и показавшим свою эффективность на протяжении истории.

Цитата
Так тебе не кажется, что в этой ситуации лучше сказать, что ты не знаешь, а не давать свои прогнозы на ближайшие 100 лет?

Нет, не кажется, потому как прогнозы потенциально ангажированных людей не имеют большей ценности чем даже поверхностный прогноз, который имеет у себя в копилке мощный исторический опыт.

Новый пост в Колодце Феруэлла:

Цитата
We are very excited to announce the launch of DeepMind Health

We founded DeepMind to solve intelligence and use it to make the world a better place by developing technologies that help address some of society's toughest challenges. It was clear to us that we should focus on healthcare because it’s an area where we believe we can make a real difference to people’s lives across the world.

We're starting in the UK, where the National Health Service is hugely important to our team. The NHS helped bring many of us into the world, and has looked after our loved ones when they've most needed help. We want to see the NHS thrive, and to ensure that its talented clinicians get the tools and support they need to continue providing world-class care.

Время переезжать?

!!!!!! ,3-часа ночи !в субботу !вместо того ,чтоб размножатся читаю этот блог
Вы все свихнулись

feruell

причины искажать информацию могут быть у любого даже у меня, если это можно использовать в свою пользу тем или иным способом. Опять же, никто не говорит что ты или Маск или Юдковски точно искажают. Но возможность есть, да.

Цитата
Я тебе говорю в приватной беседе, что читал оригинальные труды и там все четко.

Это не приватная беседа и мы с тобой не знакомы, потому доверия быть не может.

Цитата
Но ты прочитай для начала.

Я, безусловно, пожалуй прочитаю в ближайшее время, но очень не уверен, что это что-либо изменит.

Цитата (djordj @ 12.3.2016)
А тебе обязательно нужно кому-то верить? Занять хоть какую-то позицию? Отсутствие позиции не устраивает?

Ну, допустим, мне надо как-то решить, идти в покер или нет. Поэтому всё таки желательно определиться.

Как комментировать 2 следующих твоих ответа я просто не знаю. Тебе никто не предлагает верить конкретному человеку. Я даже могу привести пример, но он такой себе правда.

Вот представь, что есть учёный, работающий в SETI, и он говорит, что инопланетная жизнь с большой вероятностью существует и её надо искать. Он ангажирован? В твоём понимании да. Ему за это деньги платят. А ещё есть какой-нибудь левый мужик, который говорит, что жизни во вселенной вообще нет, кроме как на земле. Он ангажирован? Нет.
Следует ли из этого, что жизни во вселенной нет?

Тебе никто не предлагает, верить всем. Тебе предлагают не делать прогнозы, просто на основании того, что обратное твоему прогнозу говорят ангажированные ( но компетентные) люди.