Чат-боты смогли стать консультантами по вопросам здоровья (но есть нюансы)
Крупные компании-разработчики чат-ботов на основе ИИ внедрили в свои нейросети функции медицинского консультирования. Эксперты тем не менее считают, что прибегать к ним нужно весьма аккуратно
Такие организации, как Open AI (разработчик Chat GPT) или ее конкурент Anthropic (разработчик Claude), уже внедрили в свои программы функции агрегирования и анализа информации о физическом здоровье пользователей, пишет гонконгская газета South China Morning Post. Врачи констатируют, что нейроалгоритмы научились выполнять эту работу в последние годы гораздо лучше.
Например, ChatGPT Health может обрабатывать медицинские карты пользователей и данные из приложений для контроля здоровья, чтобы выдавать ответы в виде тезисной выжимки. Доступ к ней предоставляется после пребывания пользователя в листе ожидания. Дочерний продукт Open AI, а также некоторые функции Claude могут помогать и в подготовке визита к врачу.
Обе компании при этом уточняют, что специализированные чат-боты не заменяют профессиональную медицинскую помощь и не должны выступать конечными средствами диагностики заболеваний. Качественные выводы о тенденциях в здоровье программы делать могут, но нужно учитывать следующие моменты:
-
Чат-боты предоставляют более персонализированную информацию, чем общая выдача в поисковых системах. Поэтому шанс, что нейроответ будет более релевантен реальному состоянию здоровья — выше в сравнении с результатом запроса в Google. По словам профессора медицины в Калифорнийском университете (Сан-Франциско) Роберта Вахтера, выбор перед пациентом в таких случаях стоит «между ничегонеделанием и действием на свой страх и риск». Нужно помнить и то, что нет законодательной защиты загружаемых в чат-боты данных (американское законодательство, к примеру, привлекает к ответственности докторов, нарушивших конфиденциальность того, что им доверяют пациенты), поэтому пользователи должны сами решить, как далеко они могут зайти в своей откровенности с нейроалгоритмом.
-
Качество того, как чат-боты работают с информацией о здоровье, выросло. Но в целом эти функции остаются все еще в зачаточном состоянии, уверены эксперты. Исследования показали, что сохраняется проблема коммуникации реальных людей с нейросетями. К таковым относится, например, то, что люди не всегда предоставляли чат-боту полный объем информации, который могли бы дать для более точного ответа с той же степенью безопасности личных данных. Иные пользователи отличали полезную информацию от бесполезной не в 100% случаев.
-
Чат-бот не панацея, тем более в тех случаях, когда необходимость реальной профессиональной медицинской помощи (и даже экстренной госпитализации) очевидна. С такими симптомами, как одышка, боль в груди или сильная головная боль, нужно вызывать настоящих, не виртуальных врачей. По словам Ллойда Майнора, декана медицинского факультета Стэнфордского университета (штат Калифорния) и практикующего доктора, даже в менее экстренных ситуациях пациенты и врачи должны относиться к программам искусственного интеллекта «со здоровой долей скептицизма».
-
С другой стороны, чат-бот может выступить в качестве источника альтернативного мнения. Еще более верным вариантом эксперты называют использование нескольких нейросетей, поскольку каждая запрограммирована со своей спецификой, каждая располагает своей базой источников и у каждой есть своя методология обработки и систематизации загружаемых данных. Это как сходить ко второму врачу.
Так или иначе, все нейросети продолжают учиться отвечать содержательно на четко сформулированные запросы, в том числе касающиеся здоровья человека. Большое количество отзывов побудило разработчиков скорректировать программы, и теперь некоторые нейросети изменили стилистику общения с пользователем, уйдя от «деликатности».
