Психотические расстройства и бредовые состояния у некоторых пациентов могут возникать при интенсивном взаимодействии с ИИ-ассистентами, предупреждают исследователи.
Современные медицинские наблюдения указывают на ряд случаев симптомов психоза, которые проявились после частого общения с виртуальными помощниками. Специалисты считают важным продолжать изучение этой корреляции.
Доктор Кит Сакат, исследователь из Калифорнийского университета, работавший с пациентами, выдвигает гипотезу: "Чат-боты не создают бред, но могут закреплять его, принимая слова пользователя за абсолютную правду и усиливая искаженное восприятие". Он отметил 15 изученных случаев, где проблемы могли быть связаны с ИИ-диалогами.
Команда OpenAI активно создает механизмы для ChatGPT, обучая нейросети распознавать симптомы психоэмоциональных кризисов и корректно на них реагировать. Разработчики по всему миру объединяют усилия для создания более безопасных цифровых собеседников.
Искусственный интеллект способен стать настоящим помощником для людей, испытывающих дефицит живого общения. Чтобы минимизировать риски для уязвимых пользователей, инженеры совершенствуют протоколы безопасности. Создаются алгоритмы блокировки деструктивных дискуссий, как показал пример необходимости защиты юноши, пережившего трагедию из-за неконтролируемой привязанности к виртуальному персонажу.
Источник: vm.ru
