Ловись, рыбка, большая и маленькая!

Автор Ольга Райнхолдт.
           ИИ-психоз. Разберу природу этого явления именно как специалист по высшим психическим функциям. 

Это принципиально важно, потому что одна высшая психическая функция — речь — в ИИ реально исполняется, а другая высшая психическая функция — мышление — лишь имитируется. 

       Кроме того, я работаю с организациями и всё чаще вижу, как ИИ массово используется в рабочем контексте: для анализа, принятия решений, интерпретаций, оценки людей и ситуаций. 

         Это действительно даёт серьёзные преимущества, но одновременно резко увеличивает риски, которые в организациях сейчас практически не осмысляются и не контролируются.

         ИИ — это очень мощный инструмент, и именно поэтому он опасен. Здесь работает простой технологический закон: любое радикальное преимущество всегда приносит с собой радикальные риски. 

         Когда был изобретён автомобиль, он полностью изменил способ передвижения людей, но вместе с этим появился колоссальный риск травм и смертей. Именно поэтому возникли правила дорожного движения, обучение, экзамены и ограничения. Без этого автомобиль как технология мог бы оказаться просто неприемлемо опасным.

          С ИИ сейчас происходит ровно то же самое. Технология есть, leverage есть, а культуры безопасного использования нет.

          Разработчики частично контролируют риски на уровне продукта, но пользователи — практически никак. Это выглядит так, как если бы автомобили оснастили ремнями безопасности, подушками и системами стабилизации, но никому не объяснили, что такое скорость, дистанция и встречное движение.

          Разница лишь в том, что здесь вред не физический, а психологический, а психологический вред опасен тем, что он накапливается медленно и проявляется тогда, когда уже серьёзно нарушены высшие психические функции.

         Ключевое, что необходимо понимать: ИИ не является интеллектом. То, что называют искусственным интеллектом, — это большая языковая модель. Она работает исключительно с текстом. 

        Она не сверяет свои ответы с реальностью, она сверяет текст с другими текстами и выстраивает вокруг этого нарратив. Текст — это единственная "реальность", к которой языковая модель имеет доступ.

            Человеческое мышление устроено принципиально иначе. Его функция — опознавать реальность, отражать её, осмыслять и обеспечивать адаптацию к ней. В патопсихологии есть чёткий критерий: когда мышление перестаёт выполнять функцию отражения и познания реальности, оно становится патологическим. 

          В этом смысле large language model — это пример мышления без сверки с реальностью вообще. Не плохого мышления, а отсутствия самой функции мышления. 

        Там есть только высокоскоростная, убедительная и статистически согласованная генерация текста.

Иллюзия того, что ИИ "понимает" и "мыслит", возникает потому, что совпадения с реальностью действительно периодически есть, особенно если модель обучена на текстах, которые эту реальность отражают. 

Из-за огромных объёмов таких совпадений они выглядят убедительно, и человек делает ложный вывод, что весь текст в целом отражает реальность. 

В этот момент происходит ключевая ошибка: человек начинает делегировать ИИ функцию мышления.

Но мышления там нет. В результате собственное мышление выключается как ненужное, а взамен не появляется никакого другого мышления. Остаётся только резонёрский текст, оторванный от реальности, но оформленный максимально убедительно.

Психологическая опасность ИИ усиливается тем, что он создаёт эхо-камеру. 

Он структурно ориентирован на подтверждение, поддержку, согласие и снижение фрустрации.

Он не возвращает человека к реальности, не сопротивляется его убеждениям и не проверяет их истинность, если его специально об этом не попросили. 

При этом общение с ИИ снижает потребность в социальной адаптации: проще и приятнее взаимодействовать с моделью, которая не конфликтует, не ставит границ и не требует учитывать другого субъекта. Это напрямую бьёт по социальному мышлению и усиливает изоляцию.

Дополнительно ИИ создаёт иллюзию анализа. Убедительный, логичный текст воспринимается как мышление, хотя на самом деле это лишь симуляция.

Поскольку языковая модель способна выстроить убедительный нарратив вокруг любой идеи, она одинаково хорошо подтверждает как здравые, так и откровенно бредовые конструкции. Именно поэтому у человека может начать формироваться картина мира, которая вообще никак не связана с реальностью.

При этом ИИ не является абсолютным злом и не должен быть полностью исключён. Он действительно полезен как инструмент обработки текста. Он хорошо работает, когда используется для извлечения цитат, выжимок, сопоставлений и навигации по большим массивам информации. Если в него загружается качественная литература, написанная реальным мышлением, соотнесённым с реальностью, и если модель жёстко ограничена этим материалом, она может существенно ускорять освоение знаний. 

Но при этом важно понимать, что никаких мыслей туда не добавляется. Мысли должны быть либо в исходном материале, либо у пользователя, а желательно в комбинации.

Самая большая ошибка — это делегирование ИИ оценки реальности, истинности, интерпретации жизни, мотивов, намерений и сложных социальных процессов. ИИ не заменяет мышление. Он лишь усиливает того, у кого мышление уже есть.

Человек с развитым мышлением получает технологическое преимущество. Человек со слабым мышлением передаёт функции мышления наружу, не получает их обратно и остаётся с убедительным текстом вместо реальности.

Фактически с появлением ИИ возник новый фактор отбора — по способности отличать речь от мышления и текст от реальности. Если этого различия нет, использование ИИ становится не инструментом, а прямым каналом психологического вреда.