Эмоциональная поддержка становится всё более распространённой причиной, по которой люди обращаются к чат-ботам с генеративным искусственным интеллектом и приложениям для улучшения самочувствия. Однако, согласно новому медицинскому заключению Американской психологической ассоциации, эти инструменты в настоящее время не имеют научного обоснования и необходимых правил для обеспечения безопасности пользователей.
В рекомендациях Американской психологической ассоциации по использованию чат-ботов с генеративным искусственным интеллектом и оздоровительных приложений для поддержания психического здоровья рассматриваются ориентированные на потребителя технологии, к которым люди обращаются за советами и лечением в области психического здоровья, даже если это не является их основной целью. Однако эти инструменты просты в использовании и недороги, что делает их привлекательными для людей, которым сложно найти или оплатить услуги лицензированных специалистов в области психического здоровья.
«Мы переживаем серьёзный кризис в сфере психического здоровья, который требует системных решений, а не просто технологических мер», — заявил генеральный директор Американской психологической ассоциации Артур К. Эванс-младший, доктор философии.
Хотя чат-боты, казалось бы, готовы предложить пользователям поддержку и подтверждение, их способность безопасно направлять человека, переживающего кризис, ограничена и непредсказуема.
Артур К. Эванс-младший, генеральный директор APA
В рекомендациях подчеркивается, что, хотя технологии обладают огромным потенциалом для оказания помощи психологам в борьбе с кризисом психического здоровья, они не должны отвлекать от насущной необходимости укрепить основы американской системы охраны психического здоровья.
В отчёте содержатся рекомендации для общественности, политиков, технологических компаний, исследователей, врачей, родителей, опекунов и других заинтересованных сторон, которые помогут им понять свою роль в быстро меняющемся технологическом ландшафте, чтобы бремя навигации в непроверенных и нерегулируемых цифровых пространствах не ложилось исключительно на плечи пользователей. Основные рекомендации:
- Из-за непредсказуемости этих технологий не следует использовать чат-боты и приложения для улучшения самочувствия вместо помощи квалифицированного специалиста в области психического здоровья.
- Не допускайте нездоровых отношений или зависимости между пользователями и этими технологиями
- Обеспечьте особые меры защиты для детей, подростков и других уязвимых групп населения
«Развитие технологий искусственного интеллекта опережает нашу способность в полной мере осознать их влияние и возможности. В результате мы сталкиваемся с сообщениями о значительном вреде, который наносится подросткам и другим уязвимым группам населения, — сказал Эванс. — Для некоторых это может быть опасно для жизни, что подчеркивает необходимость участия психологов и специалистов в области психологии на каждом этапе процесса разработки».
Согласно рекомендациям, даже инструменты генеративного ИИ, разработанные с опорой на высококачественные психологические исследования и с использованием лучших практик, не имеют достаточных доказательств своей эффективности и безопасности при оказании психиатрической помощи. Исследователи должны оценивать чат-боты с генеративным ИИ и приложения для улучшения самочувствия с помощью рандомизированных клинических испытаний и лонгитюдных исследований, отслеживающих результаты с течением времени. Но для этого технологические компании и политики должны обеспечить прозрачность в отношении того, как создаются и используются эти технологии.
Консультативный совет считает, что существующая нормативно-правовая база не соответствует реалиям применения ИИ в сфере охраны психического здоровья, и призывает политиков, особенно на федеральном уровне, к следующему:
- Модернизировать нормативные акты
- Разработайте научно обоснованные стандарты для каждой категории цифровых инструментов
- Устраните пробелы в системе контроля Управления по санитарному надзору
- Продвигайте законодательство, запрещающее чат-ботам с искусственным интеллектом выдавать себя за лицензированных специалистов
- Примите всеобъемлющие законы о конфиденциальности данных и обеспечьте «безопасность по умолчанию»
В рекомендациях отмечается, что многим врачам не хватает знаний в области ИИ, и содержится призыв к профессиональным сообществам и системам здравоохранения обучать врачей работе с ИИ, предвзятости, конфиденциальности данных и ответственному использованию инструментов ИИ на практике. Сами врачи также должны следовать доступным этическим рекомендациям и заранее спрашивать пациентов об использовании ими чат-ботов с ИИ и приложений для здоровья.
«Искусственный интеллект будет играть важнейшую роль в здравоохранении будущего, но он не сможет выполнить эту задачу, если мы не решим давние проблемы в сфере психического здоровья, — сказал Эванс. — Мы должны добиваться системных реформ, чтобы сделать медицинскую помощь более доступной и своевременной, а также обеспечить поддержку специалистов-людей, а не их замену искусственным интеллектом».
Источник:
Чтобы написать отзыв нужно авторизоватся