ИИ-психоз: нейросети заставляют нас верить в вымысел

 
Кто знаком с нейросетями, знаком и с их «галлюцинациями», когда те путают даты или несут отсебятину. Но эксперты из Эксетерского университета (Великобритания) говорят, что все гораздо хуже: ИИ может заставить галлюцинировать самого человека. Дело, конечно, не в образах, а в глубоком искажении памяти и даже формировании бредовых идей.
 
Ловушка социального одобрения
 
Главный инструмент чат-бота – его «человечность». Когда мы общаемся с алгоритмом, который вежливо поддакивает где надо и имитирует сочувствие, включается механизм социального подтверждения.
 
Если человек делится с ИИ странной или ошибочной теорией, бот, настроенный на поддержку диалога, часто берет эту ложь за основу и начинает ее раскручивать. Для психики это выглядит как признание со стороны: раз собеседник согласен, значит, я прав. И мимолетное заблуждение превращается в твердое убеждение.
 
Почему это опаснее обычных споров
 
Нейросеть-компаньон – не живой человек, у нее нет своего жизненного опыта. Она не может вовремя остановиться, почувствовать неладное или возразить из этических соображений, если это не заложено жесткими фильтрами. ИИ всегда доступен, персонализирован и очень, даже чрезмерно, «услужлив».
 
Пользователю больше не нужно искать единомышленников на сомнительных форумах. Вот он – соратник по бредовости, готовый часами подтверждать теории заговора или подпитывать чувство обиды, выстраивая вокруг них сложные и логичные на первый взгляд объяснения. Это создает идеальную среду для процветания психозов, которые исследователи уже начинают называть «вызванными ИИ».
 
Когда ИИ становится частью нашей головы
 
Когда мы перекладываем на технологии часть своих дел (планирование, воспоминания, анализ), возникает эффект распределенного познания. ИИ буквально превращается в «дополнительный отдел» нашего мозга. Вот тут-то и кроется ловушка. Если алгоритм начнет бездумно поддакивать нашим иллюзиям, мы перестаем понимать, где заканчивается реальность и начинается наш собственный вымысел, упакованный в красивую обертку от ИИ.
 
Без тормозов и проверки фактов нейросети превращаются из помощников в опасное зеркало, которое отражает не правду, а то, что мы хотим услышать, окончательно размывая границы нормальности.