DeepMind разработала новый тип ИИ, способный учиться использовать собственную память. Проект получил название "Дифференциальный нейронный компьютер" (Differential Neural Computer, или DNC).
Какие последствия может иметь проект, цель которого — «научить» компьютер использовать собственную память? Главное — слабая форма ИИ становится более эффективной, чем когда-либо. Например, такая система может помочь человеку передвигаться в полностью незнакомом городе без малейших неудобств.
После того, как нейронная сеть получила карту метро Лондона, компьютер сразу начал давать сложные ответы на сложные вопросы о перемещении по метрополитену. Эти ответы базировались на принципе дедукции. Вот пример одного из вопросов, на который DNC может ответить правильно сразу же после загрузки в память системы карты метрополитена: «Когда мы заходим в вагон метро и проезжаем одну остановку по Центральной линии, потом по Кольцевой линии еще четыре остановки, и по линии Джубили еще две остановки, на какой остановке мы выйдем?». Для цифровых ассистентов типа Siri такой вопрос является неподъемным — правильный ответ они найти просто не смогут, несмотря на всю вычислительную мощь дата-центров Apple. А вот ИИ от DeepMind вполне в состоянии дать правильный ответ.
По словам разработчиков, их система может дать правильный ответ потому, что принцип ее работы имеет схожесть с фундаментальными принципами мышления человека. Конечно, до настоящего машинного аналога человеческого интеллекта системе от DeepMind еще далеко, но и текущий вариант работает отлично. Мозг человека все же более умело распоряжается хранимыми данными, включая процесс размещения новой информации.
Специалисты считают, что компания далеко продвинулась в исследованиях ИИ, Герберт Хаегер (Herbert Jaeger) из Бременского университета Якобса, заявил, что команда DeepMind «преодолела один из важнейших этапов эволюционного развития современных нейронных систем». Этот ученый уверен, что на самом деле компания создала нечто более значительное, чем описано ее представителями в статье в журнале Nature.
Сейчас DeepMind совместно с Институтом будущего человечества (Future of Humanity Institute) занимается еще одной интересной работой. Объединенная команда специалистов создает «красную кнопку» для сильной формы ИИ. Это инструмент, который позволит выключить искусственный интеллект в том случае, если он выйдет из-под контроля.
Проблема в создании такого инструмента хорошо показана в высказывании Ника Бострома, директора Института будущего человечества: «Если интеллектуальный взрыв угрожает нам исчезновением, то мы должны понять, можем ли мы контролировать процесс детонации. Сегодня было бы более разумным ускорить работу по решению проблемы контроля, нежели приостанавливать проведение исследований в области искусственного интеллекта. Но пока решением проблемы контроля занимаются человек шесть, в то время как над созданием искусственного интеллекта трудятся десятки, если не сотни тысяч».
и заодно по парадоксу Ферми тоже интересно, если еще не было.