Цитата (rehabilitator @ 12.6.2015)
Это ещё неокончательная и вполне безобидная магия.
Настоящей магии пока нет. Настоящая магия - целеполагание. Когда нейронной сети задачу будет ставить не человек, а она себе сама начнет задачу ставить.
С целеполаганием человека - самые большие неясности. Например есть ли сейчас ответ на вопрос следующий: Понятно, что любая локальная цель у человека идет от какой то одной - глобальной (Это действительно так или я ошибаюсь?). Не знаю как с человеком - но с нейронной сетью, с ИИ - будет именно так, задай ей глобальную цель - шахматы и она и собак и кошек будет обучать в шахматы играть. И дальше всё подчинит шахматам.
Кто нам глобальную цель поставил? Какая она ? Как нам не ошибиться в такой постановке сверхинтеллекту ?
Настоятельно рекомендую прочитать книжки из списка:
Александр Владимирович МАРКОВ
Эволюция человека обе части
JONAH LEHRER How we decide
Frith_Making up the Mind-How the Brain Creates Our Mental World
The Power of Habit: Why We Do What We Do in Life and Business Paperback – January 7, 2014
by Charles Duhigg
напиши в личку если надо скину.
После прочтения становится ясно, что если совсем суперкратко система принятия решений это такая же нейросеть, которая при должной настройке (выращивание другими людьми + опыт жизни + нужные гармоны в нужных количествах) принимает всякие разные решения на основе огромного количества входных данных (то есть отличает котика от собачки в мозгу в плане сходить поесть или сходить заняться сексом и собственно остальные сети, тоже настроенные на решение уже конкретных задач обеспечивают все это, а мозг уже нам выдает некую целостную картину, как будто мы осознанно принимаем решения на основании логики и здравого смысла, хотя эти штуки используются не так часто, как нам хотелось бы.
Глобальную цель нам поставила эволюция в общем-то, выжить, продолжить род, через это получить больше ресурсов вот это вот все. Этому по идее подчинены все остальные решения. У ИИ не будет эволюционной программы человека, и его системы принятия решений смогут принимать любые решения по сути. Вцелом, при достижении определенного уровня, когда сети уровня человека появятся будет вот что: если скопироать все регуляционные программы человека у тебя не выходе получится человек, если ты напишешь другие регуляционные алгоритмы будет что-то другое.
Цитата (AndySopl @ 12.6.2015)
Когда подобная проблема обозначится, придется решать и ее. Возможно это будет как с ядерными оружием, человечество сформулирует очень жесткие законы, ИИ заключат в информационную тюрьму, под военную охрану, выхода в сеть у него не будет. Дальше нужно будет заставить такую систему решать нужные людям задачи. Я лично позитивно оценивают феномен ИИ для человечества.
есть одна проблема - если ИИ не хуже человеческого то и обойти эти проблемы для него не составит труда. Представь себе, что тебя заключили под охрану люди с IQ 80 (это не дебилы даже), как сложно будет выйти из такой тюрьмы?
Я думаю человеку выйти оттуда нереально, если нельзя сделать доску из бумажек/рисовать ее, а все делать в памяти. Даже тот же перворазрядник, который по долгу службы уже обязан знать хорошо несколько дебютов, начнет сбиваться к середине партии при игре вслепую. Не исключено, конечно, что при изучении игры по тексту, будет вырабатываться другой навык визуализации, или обработки, но неподготовленный человек, в панике и разочаровании от непонятных букв навряд ли его освоит, потому что такой тип изучения очень трудоемок и не дает быстрого подкрепления.
Не удивлюсь, если испытуемый вместо того чтобы понять правила игры, начать разбираться в принципахзачем там игроки делают именно такие ходы, а начнет разгадывать какой то шифр, искать аналогии в буковках, "Настоящую Истинную Бумажку".