Более миллиона людей в неделю: что пациенты рассказывают ChatGPT (НаучПоп)

Каждую неделю больше миллиона пользователей ChatGPT демонстрируют признаки тяжёлого психического дистресса, мании или суицидальных намерений.

Эти данные опубликованы в авторитетном медицинском журнале The BMJ. Внутренний аудит OpenAI показал: при 800 миллионах активных пользователей речь идёт примерно о 1,2 миллиона человек с суицидальными мыслями и более чем 500 тысячах с признаками психоза или мании еженедельно.

Цифры выглядят пугающе, но важно понимать контекст. Они составляют доли процента от общего числа взаимодействий. Однако масштаб платформы делает эти доли процента беспрецедентными: никогда прежде у медицины не было инструмента, который видел бы такое количество людей в уязвимом состоянии одновременно.

OpenAI заявляет, что эти данные собираются в рамках доработки системы безопасности. Новые алгоритмы должны точнее распознавать кризисные диалоги и перенаправлять пользователей к службам поддержки. Звучит обнадёживающе, но публикация в BMJ вызвала бурную дискуссию среди психиатров. И вопросы, которые они поднимают, гораздо сложнее, чем кажется.

Часть экспертов видит в этом мощный инструмент ранней помощи. Особенно для тех, у кого нет доступа к психотерапевту. В отличие от пассивного контента (книг, видео), чат-бот интерактивен. Он реагирует на эмоциональные сигналы, подстраивается под собеседника, имитирует эмпатию.

Уже появился термин «алгоритмическая эмпатия» — способность машины распознавать эмоциональные паттерны, не имея ни чувств, ни намерения помочь по-настоящему.

Когда человек открывается ИИ, тот обрабатывает его слова как данные. Уязвимость, боль, отчаяние превращаются в материал для обучения модели. Если человек говорит психотерапевту о намерении покончить с собой, специалист обязан принять меры для спасения.

А как быть с ИИ?

Сегодня ChatGPT реагирует только на прямые угрозы другим людям. Угрозы самому себе система не передаёт никому. Нужно ли менять это правило? И если да, то кому отправлять сигнал? В какой момент частная беседа с машиной должна превратиться в сигнал тревоги для реальных служб? Единого ответа пока нет.

Designed by Freepik www.freepik

Иванченко Галина Павловна

Нейропсихолог (дети/взрослые)

Дополнительный профиль: Клинический/детский психолог

Стаж 16 лет

Профиль работы

Нейропсихологическая диагностика развития ребёнка, в т.ч на готовность ребенка к садику/школе
Исследования мозговых функций: Изучение связи между структурой мозга и поведением
Ранняя диагностика нарушенного развития и коррекционный маршрут (0-3года)
Экспериментальные патопсихологические исследования (2-18 лет)

Узнать больше

Стоимость консультация от 7500 руб., диагностика от 10000 руб.

Прием в филиалах: