Эксперты поддержали выпуск ChatGPT Health для консультаций по вопросам здоровья, несмотря на риски галлюцинаций у нейросетей. Об этом пишет TechCrunch.
Сина Бари, практикующий хирург и руководитель ИИ-направления в компании iMerit, рассказал, как его пациент советовался с ChatGPT:
«Недавно он пришел ко мне после того, как я порекомендовал лекарство, и показал распечатанный диалог с чат-ботом. Там говорилось, что средство имеет 45% вероятность развития тромбоэмболии легочной артерии».
Доктор Бари проверил источники и выяснил, что статистика взята из статьи о влиянии лекарства на нишевую подгруппу людей с туберкулезом. Эти данные оказались неприменимы к его клиническому случаю.
Несмотря на неточности, врач позитивно оценил запуск ChatGPT Health. По его мнению, сервис дает пользователям возможность обсуждать вопросы здоровья в более приватной обстановке.
«Я думаю, это здорово. Это то, что уже происходит, поэтому формализация процесса с целью защиты информации о пациентах и введение некоторых мер безопасности сделает процесс более эффективным для пациентов», — сказал доктор Бари.
Пользователи могут получить более персонализированные рекомендации от ChatGPT Health, загрузив медицинские записи и синхронизировав приложение с Apple Health и MyFitnessPal. Такая глубина доступа к личной информации насторожила сообщество.
«Внезапно медицинские данные передаются от организаций, соблюдающих HIPAA, к поставщикам, которые этого не делают. Интересно, как к этому отнесутся регуляторы», — отметил соучредитель компании MIND Итай Шварц.
Более 230 млн человек еженедельно обсуждает с ChatGPT вопросы своего здоровья. Многие перестали «гуглить» симптомы, выбирая чат-бот в качестве источника информации.
«Это один из крупнейших вариантов применения ChatGPT. Поэтому логично, что они захотят создать более приватную, безопасную и оптимизированную версию чат-бота для вопросов здравоохранения», — отметил Шварц.
Проблема галлюцинаций
Главной проблемой чат-ботов остаются «галлюцинации», что особенно критично в сфере здравоохранения. Исследование Vectara показало, что GPT-5 от OpenAI «галлюцинирует» чаще конкурентов от Google и Anthropic.
Однако профессор медицины Стэнфордского университета Нигам Шах считает эти опасения вторичными. По мнению доктора, реальная проблема системы — это сложность получения доступа к врачам, а не риск получить некорректный совет от ChatGPT.
«Сейчас, если вы обратитесь в любую систему здравоохранения и захотите встретиться с врачом первичной помощи, вам придется ждать от трех до шести месяцев. Если у вас есть выбор: ждать полгода и попасть к настоящему специалисту или сразу поговорить с тем, кто может для вас что-то сделать, чтобы вы выбрали?» — отметил он.
Административные задачи врача могут занимать около половины времени, что существенно снижает количество приемов. Автоматизация этих процессов позволит специалистам уделять больше внимания пациентам.
Доктор Шах возглавляет команду в Стэнфорде, которая разрабатывает ChatEHR — ПО, позволяющее врачам рационально и эффективно работать с электронными медицинскими картами пациентов.
«Сделав ее более удобной для пользователя, врачи смогут тратить меньше времени на поиск нужной информации», — сказала одна из первых тестировщиц ChatEHR доктор Снеха Джайн.
Напомним, в январе компания Anthropic объявила о выпуске Claude for Healthcare — наборе инструментов для поставщиков медицинских услуг и пациентов.