Цитата (Mr_Holmes @ 22.10.2015)
HitsFromTheBong, почему ты считаешь что SanSanych мыслит рационально? Возможно он сенсуально подходит к этому вопросу и тогда его доводы совершенно верны. Если ИИ рассматривать как эволюционный виток, то у нас не будет возможностей его контролировать.
Твои вопросы не возникают в сенсуальной системе мышления, они важны только для рационалистов.
Уверен, SanSanych вкладывает другой смысл в понятие ИИ. Рациональная машина, которая не сможет познавать этот мир другими способами, в моем понимании, не более чем "сверхкомпьютер".
Рационализм - интересная система мышления, но это не значит что она истинно правильная.
Я не считаю что его мысль в данной ситуации была рациональна. (В посте выше это был сарказм)
Ты подводишь тему разговора что такое рациональность, и какое значение мы вкладываем в данное слово.
Рациональность в предыдущем посте как слово можно понимать как "правильно" или "хорошо".
Юдовский ли ввел данные термины не знаю, но данное объяснение рациональности достаточно хороши как мне кажется:
Эпистемологическая рациональность: образ действий и мыслей, укрепляющий соответствие между местностью и её когнитивной картой, корректировка убеждений в свете новой информации. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью», и нас удовлетворяет подобное обозначение.
Инструментальная рациональность: реализация ваших ценностей. «Ваших» не обязательно в смысле «личных» или «эгоистичных»: «твоей ценностью» может быть любая вещь, которая тебе небезразлична. Искусство направлять будущее в сторону более устраивающих тебя результатов. На LW это порой называется «выигрыванием».
Взято с Lessworng.
В слово сенсуально как я понимаю ты вкладываешь значение чувственного подхода.
Чувственный подход нормальный подход, абсалютно для всех, так как мы в любом случае ими рукаводствуемся(не зависимо от того нравится нам это или нет), но если эти чувства не соответствуют реальности то это искажение. В двух словах не нормально, не испытывать страх когда есть угроза твоей жизни.
С точки зрения рационалиста твои ощущения, чувства не соответствуют обстановке, в данном примере.
С человеческой точки зрения к этому вопросу надо подойти с точки зрения прагматизма, нужен ли нам ИИ который хочет нас убить? или же нам нужна мыслящая машина которая позволит добиваться нам наших личных целей, и сделать революционный скачок в науке и в качестве жизни?
Спорить по поводу того что вкладывать в значение слова, занятие с моей точки зрение не достаточно эфективное(просто трата времени).
Проще привести пример о Ричарде Феймане:
"В следующий понедельник, когда отцы уехали на работу, мы, дети, играли во дворе. И один паренек мне говорит: «Видишь вон ту птицу? Какая это птица?»
Я сказал: «Не имею ни малейшего понятия о том, какая это птица».
Он говорит: «Это коричневошейный дрозд. Твой отец ничему тебя не учит!»
Но все было как раз наоборот. Он уже научил меня: «Видишь ту птицу? – говорит он. – Это певчая птица Спенсера». (Я знал, что настоящего названия он не знает.) «Ну так вот, по-итальянски это Чутто Лапиттида. По-португальски: Бом да Пейда. По-китайски: Чунь-лонь-та, а по-японски: Катано Текеда. Ты можешь знать название этой птицы на всех языках мира, но, когда ты закончишь перечислять эти названия, ты ничего не будешь знать о самой птице. Ты будешь знать лишь о людях, которые живут в разных местах, и о том, как они ее называют. Поэтому давай посмотрим на эту птицу и на то, что она делает – вот что имеет значение». "
Что бы подытожить мысль.
Отвечу за себя, лично мне машина которая хочет убить всех людей, убить меня и мою семью, мне не нужна, какой бы прорыв после меня не сделала бы данная машина в эволюционном плане.
На хабре считали в одном из тредов, отбить нереально из за дешёвого электричества в РФ. Но вещь всё равно крутая