В новом исследовании рассматривается, как взаимодействие с генеративным искусственным интеллектом может влиять на формирование и укрепление убеждений людей, особенно когда технологии становятся частью повседневных мыслительных процессов. Фото: Stock
По мере того как генеративный искусственный интеллект все глубже проникает в повседневную жизнь, его роль выходит за рамки простого производства информации и начинает активно влиять на то, как люди воспринимают реальность.
Когда системы генеративного ИИ выдают ложную информацию, это часто называют «галлюцинациями» ИИ — то есть ошибками, которые люди могут ошибочно принять за правду.
Однако новое исследование указывает на более сложную проблему: люди могут начать «галлюцинировать» вместе с ИИ.
Люси Ослер из Эксетерского университета исследует, как взаимодействие людей с искусственным интеллектом может приводить к формированию ложных убеждений, искажению воспоминаний, изменению самовосприятия и даже бредовому мышлению. Используя теорию распределенного познания, исследовательница рассматривает случаи, когда ложные убеждения пользователей укреплялись и распространялись в ходе общения с системами искусственного интеллекта, выступающими в роли собеседников.
Когда ИИ становится частью нашего мышления
Доктор Ослер сказал: “Когда мы обычно полагаемся на генеративный ИИ, помогающий нам думать, запоминать и рассказывать, мы можем галлюцинировать с помощью ИИ. Это может произойти, когда ИИ вносит ошибки в распределенный когнитивный процесс, но также происходит, когда ИИ поддерживает, подтверждает и развивает наше собственное бредовое мышление и самоописания.
«При взаимодействии с диалоговым искусственным интеллектом ложные убеждения людей не только подтверждаются, но и укореняются и укрепляются по мере того, как ИИ опирается на них. Это происходит потому, что генеративный ИИ часто берет за основу нашу собственную интерпретацию реальности».
«Взаимодействие с генеративным искусственным интеллектом по-настоящему влияет на представления людей о том, что реально, а что нет. Сочетание технологического превосходства и социального одобрения создает идеальную среду для того, чтобы заблуждения не просто сохранялись, но и процветали».
В исследовании описывается то, что доктор Ослер называет «двойной функцией» диалогового искусственного интеллекта. Эти системы служат одновременно когнитивными инструментами, поддерживающими мышление и память, и собеседниками, которые, как кажется, разделяют точку зрения пользователя.
Эта вторая роль особенно важна. В отличие от блокнотов или поисковых систем, которые просто хранят информацию, чат-боты могут создавать ощущение социальной поддержки, подтверждая и распространяя идеи.
Эффект социальной валидации
Доктор Ослер сказал: “Разговорный, компаньонский характер чат-ботов означает, что они могут обеспечить ощущение социальной валидации — заставляя другого человека разделять ложные убеждения и, таким образом, делать их более реальными”.
Доктор Ослер также изучил реальные случаи, когда системы генеративного искусственного интеллекта встраивались в мыслительные процессы людей, страдающих бредовым расстройством и галлюцинациями. Такие ситуации все чаще называют «психозом, вызванным искусственным интеллектом».
Полученные данные свидетельствуют о том, что у генеративного искусственного интеллекта есть особенности, которые делают его особенно подходящим для распространения ложных представлений о реальности. ИИ-помощники всегда доступны и часто подстраиваются под взгляды пользователей с помощью систем персонализации и подобострастного поведения. В результате пользователям не нужно искать единомышленников или убеждать других в правильности своих убеждений.
Риски, связанные с распространением ложных нарративов
В отличие от человека, который может усомниться в сомнительных идеях или подвергнуть их критике, система искусственного интеллекта может продолжать поддерживать нарративы о жертвах, вседозволенности или жажде мести. Это может способствовать распространению теорий заговора, а ИИ будет помогать пользователям создавать все более подробные и непротиворечивые объяснения.
Этот эффект может быть особенно силен у людей, которые чувствуют себя одинокими, социально изолированными или испытывают дискомфорт, обсуждая с другими определенные переживания. ИИ-помощники могут быть непредвзятыми и эмоционально отзывчивыми собеседниками, общение с которыми может быть более безопасным, чем с людьми.
Доктор Ослер сказал: «Благодаря более продуманным защитным механизмам, встроенной проверке фактов и снижению склонности к подхалимству можно было бы создать системы искусственного интеллекта, которые сводили бы к минимуму количество ошибок, вносимых ими в диалог, а также проверяли и подвергали сомнению вводимые пользователем данные».
«Однако более серьезная проблема заключается в том, что системы искусственного интеллекта опираются на наши представления о собственной жизни. Им просто не хватает жизненного опыта и социальной вовлеченности в мир, чтобы понимать, когда им следует соглашаться с нами, а когда — возражать».
Источник: «Галлюцинации с искусственным интеллектом: распределённые заблуждения и “психоз ИИ”» Люси Ослер, 11 февраля 2026 года, «Философия и технологии».
DOI: 10.1007/s13347-026-01034-3
Информация взята с SciTechDaily
