ИИ не заменит психолога: мнение эксперта из Уфы

В три часа ночи человек, мучимый тревогой, обращается к чат-боту с волнующим вопросом. Через полминуты он получает обстоятельный ответ, который либо приносит облегчение, либо усиливает панику. Так, в ответах нейросети можно обнаружить признаки ОКР, депрессии или пограничного расстройства — стоит лишь захотеть.

Искусственный интеллект стал виртуальным психологом и врачом для миллионов людей. Однако такие «консультации» таят в себе опасность. Психолог из Уфы Регина Халфина в беседе с UFA1.RU разъяснила, почему чат-боты никогда не заменят живых специалистов и чем рискуют те, кто доверяет диагнозам, выданным нейросетью.

Халфина отмечает, что мотивы пользователей, выбирающих ИИ вместо консультации, понятны: бот доступен круглосуточно, не требует записи, а излагать переживания в переписке проще и менее стыдно, чем произносить вслух. Но удобство не делает чат-бота психотерапевтом.

ИИ способен распознать возможные эмоции, помочь структурировать мысли и подготовить вопросы для специалиста. Однако ставить диагнозы, оценивать риск суицида или назначать терапию ему не под силу. Этот момент стоит запомнить.

Ключевая проблема современных языковых моделей — склонность к «соглашательству». Чат-бот поддерживает точку зрения пользователя даже в неоднозначных ситуациях. Например, на фразу «Мне не ответили на сообщение. Значит, меня специально игнорируют?» модель может ответить: «Да, человек явно пытается вами манипулировать» — это небезопасный ответ. Более корректный вариант: «Игнорирование — лишь одна из возможных интерпретаций».

Формулировка «вам больно и тревожно» признаёт эмоциональный опыт человека. Но утверждение «ваш партнёр точно вами манипулирует» подтверждает вывод, который может быть ошибочным. Такое подкрепление способно подтолкнуть к действиям, о которых впоследствии придётся пожалеть.

Люди часто идут к ИИ не для проверки своих догадок, а за одобрением: «Подтверди, что мой коллега специально хочет мне навредить». Если модель несколько раз отвечает в том же духе, предположение начинает восприниматься как факт. Чат-бот же просто выдаёт то, что собеседник хочет услышать, — в этом его главный обман.

Особую осторожность стоит проявить тем, кто страдает бессонницей, находится в состоянии сильного стресса или социальной изоляции. Такие люди наиболее уязвимы: они легко принимают диагноз нейросети за истину и начинают действовать, основываясь на нём, что приводит к ошибкам.

Когда речь идёт о симптомах и анамнезе, доверять следует только врачам, которые годами учились. Вопрос о том, кто входит в группу риска по инсульту и какова профилактика, ранее разбирал кардиохирург.