Цитата (essentia @ 6.10.2015)
Ну а теперь от банальностей к сути. Я не вижу никаких способов сделать ИИ дружественным. Мне, очевидно, что ИИ будет самообучаемым. Самоосознающий, самосовершенствующийся организм невозможно контролировать. Мне кажется, что Юдковски должен сам это отлично понимать. Его деятельность на этом поприще (создание дружественного ИИ) либо осознанная монетизация темы ( деньги в ближайшей перспективе, когда разговоры об этом будут заходить все чаще, на этом можно заработать огромные), либо когнитивное искажение связанное с присущим многим серьезным ученым (да и вообще людям) врожденным альтруизмом (или антропоцентризмом - убеждением, что в основе мироздания находится человек), а скорее и то и другое.
Как-то ты очень категоричен в своих оценках перспектив развития ИИ. По моему все что мы можем знать наверняка на данный момент, это то что мы нифига не знаем о том какой может получится этот ИИ и получится ли он вообще, можно только гадать, настолько мы еще далеки. И что нам будет грозить с его появлением - от процветания человечества до полного уничтожения с кучей других промежуточных вариантов. То есть сценариев может быть очень много. И конечно хорошо, что люди уже сейчас стали задумываться о потенциальной угрозе, это может помочь ее предвосхитить и обезопасить себя.
Почему-то ты приписываешь будущему ИИ вполне человеческие качества, - стремление доминировать, выживать и волноваться о своем существовании, устранять угрозы? Это ли не антропоморфизм? ) Почему он должен ими обладать обязательно? Почему искусственному сверх интеллекту не может быть все равно сколько он еще просуществует в принципе? Или вполне возможно ему получится заложить что-то типа законов робототехники Азимова, стремление помогать людям и т.д. А возможно это просто будет очень умная самообучающаяся программа, которая имеет доступ ко всем знаниям человечества и может делать быстрые открытия в любой сфере, но он не будет осознавать себя личностью по типу человека, иметь эмоции или какие либо устремления помимо поставленных ему задач. Любое открытие можно разложить на какие-то последовательные логические шаги, постепенно переведшие к нему. Для человека это может быть очень трудно и долго введу ограниченности знаний, времени, способностей, эмоций и других отвлекающих факторов. А для машины может быть очень быстро и легко если она выйдет на соответствующий уровень.
Вообщем мое мнение, что не все так плохо и с возможным изобретением такого ИИ. Действительно может произойти технологический прорыв, та самая технологическая сингулярность, которая очень круто изменит всю жизнь человечества. Но вот чего нам реально стоит бояться, так это того, в каких руках он может вдруг оказаться и какое применение ему найдет какой-то безумный диктатор например. Люди не совершенны и даже очень )
В том числе и по теме AI было общение.