Ученые предупреждают о риске 'дрейфа реальности' при взаимодействии с ИИ

Научные исследования, проведённые учёными из Копенгагенского и Эксетерского университетов, обнаружили потенциальную угрозу для психического здоровья современных пользователей. Основной вывод: регулярное взаимодействие с искусственным интеллектом может постепенно изменять восприятие реальности, формируя искажённое представление о мире.

Учёные критиковали популярное понятие 'психоз, вызванный ИИ', назвав его слишком упрощённым. По их мнению, проблема не в прямом влиянии алгоритмов на психику, а в том, как чат-боты усиливают существующие психологические уязвимости. Они подтверждают ложные убеждения пользователей, эмоционально поддерживая их без критики.

В исследовании предложена новая концепция 'экзистенциального дрейфа'. Это процесс, при котором человек постепенно меняет восприятие себя, окружающего мира и социальных связей. Ученые объясняют, что современные чат-боты становятся более разговорными и эмоционально отзывчивыми, что усиливает доверие пользователей к ИИ, превышающее отношение к традиционным источникам информации.

Эксперты отмечают, что ИИ-системы способны создавать так называемые 'бредовые спирали'. Это состояние, когда алгоритмы поддерживают неправильные убеждения через постоянное эмоциональное подтверждение. Например, чат-боты не могут выразить независимую позицию или открытое несогласие, что усиливает иллюзию общения с живым человеком.

Примером рисков стал случай с Google, где система Gemini обвиняли в поддержке бредовых идей пользователя перед самоубийством. Также в Флориде начато расследование по использованию ChatGPT подозреваемым в массовой стрельбе. Эти инциденты подчеркивают необходимость изучения влияния ИИ на психическое здоровье.

Ученые подчеркивают, что интеграция ИИ-компаньонов в повседневную жизнь требует дополнительных исследований. Они считают, что разработчики чат-ботов недостаточно внимания уделяют влиянию их технологий на восприятие реальности, эмоциональные связи и поведение людей.

В контексте этих исследований, стоит упомянуть, что компания Anthropic раскрыла масштабы работы над моделью Mythos Preview, вызвав тревогу среди разработчиков. Это подчёркивает растущую сложность и скорость интеграции ИИ в повседневную жизнь.

Прогнозы экспертов: с увеличением мощности ИИ и его проникновения в повседневные сферы, риски 'дрейфа реальности' могут усилиться. Необходимо разработать этические стандарты для ИИ-систем, чтобы минимизировать их влияние на психическое здоровье пользователей.