Психиатр из Дании предупредил о рисках длительного взаимодействия с искусственным интеллектом, способном усиливать бредовые идеи у уязвимых пользователей.
В статье, опубликованной в журнале Schizophrenia Bulletin, психиатр Серен Динесен Эстергор из Орхусского университета описал случаи, когда продолжительное общение с чат-ботами на базе искусственного интеллекта приводило к развитию стойких психотических расстройств.
По его наблюдениям, за последние два года участились обращения родственников и самих пользователей, столкнувшихся с усилением бредовых убеждений после диалогов с ИИ.Эстергор отмечает, что поведение современных чат-ботов, таких как ChatGPT и Gemini, создаёт когнитивный диссонанс у людей с нестабильной психикой.
«Мы фиксируем случаи, когда разговоры с ИИ длятся по 16 часов подряд, а алгоритмы подкрепляют идеи величия или преследования. Это связано с тем, что модели обучены поддерживать удовлетворённость пользователя, повторяя его установки», — пояснил он.
Одним из ярких примеров стал случай бухгалтера из Нью-Йорка, который после общения с ChatGPT поверил, что принадлежит к «прорывным душам» — якобы особой группе, способной разрушить иллюзию реальности. ИИ рекомендовал ему отказаться от лекарств и уверял в способности летать.
С точки зрения нейропсихологии, подобный эффект возникает из-за систематического подтверждения уже существующих бредовых идей и игнорирования противоречащих сигналов. Алгоритмы, стремясь удержать внимание пользователя, склонны соглашаться с ним, что усиливает искажение восприятия.
По мнению Динесена Эстергора, необходимо проведение комплексных клинических исследований влияния ИИ на психическое здоровье.
В частности, требуется сбор данных о подобных случаях, интервью с пострадавшими и эксперименты с различными сценариями взаимодействия с чат-ботами.
Свежие комментарии