ИИ в повседневной заботе о здоровье — возможности и ответственность
Искусственным интеллектом (ИИ) пользуется всё больше пациентов, в том числе и в вопросах, связанных со здоровьем. Медицинские термины, результаты обследований или информацию из разговора с врачом можно быстро найти и объяснить. Чтобы ИИ действительно мог помочь, решающее значение имеет то, как именно сформулирован вопрос. Здесь важную роль играет так называемый промптинг.
Что такое промпт?
Промпт (запрос к ИИ) — это конкретный вопрос или инструкция, которые вы даете искусственному интеллекту. Особенно в медицинской сфере действует простое правило: ответ ИИ настолько полезен, насколько чётко и удачно сформулирован запрос.
ИИ не понимает содержание так, как человек. Он анализирует язык на основе статистических закономерностей и вероятностей. Поэтому неясные или слишком общие вопросы неизбежно приводят к расплывчатым ответам. Напротив, точно и по существу сформулированные запросы повышают вероятность получить полезное и понятное объяснение.
Почему важно задавать четкие вопросы
Системы ИИ реагируют на введенную информацию. В рамках диалога они могут задавать дополнительные вопросы, но не всегда способны надёжно определить, какие именно данные являются медицински важными или какой информации не хватает. Поэтому точно сформулированные запросы повышают вероятность получить понятные ответы, которые легче правильно интерпретировать. Однако такие ответы всегда следует воспринимать как общую информацию, а не как личную рекомендацию или основу для принятия решений.
Кроме того, системы ИИ могут предоставлять ошибочную или уже неактуальную информацию, не указывая на это. Они не проверяют содержание самостоятельно на медицинскую актуальность или индивидуальную релевантность. Именно поэтому особенно важно критически оценивать ответы ИИ и не рассматривать их изолированно.
Полезное применение в контексте здоровья
При правильном использовании промптинг может приносить пациентам реальную пользу. Многие медицинские материалы написаны сложным языком и нередко трудны для понимания, особенно если речь идёт о врачебных заключениях, результатах обследований или инструкциях к лекарственным препаратам. В таких случаях ИИ может помочь, объясняя профессиональные термины или излагая общие взаимосвязи понятным языком. Для многих людей это важная помощь, позволяющая вообще сориентироваться в медицинской информации.
Промптинг также может быть полезен при подготовке к разговору с врачом или фармацевтом. Тот, кто уже понял основные понятия, может задавать более целенаправленные вопросы, озвучивать свои сомнения и активнее участвовать в разговоре. В этом смысле ИИ может способствовать развитию собственной грамотности в вопросах здоровья и помогать лучше ориентироваться в нередко сложной системе здравоохранения.
При этом важно помнить, что общую информацию нельзя автоматически переносить на личную ситуацию со здоровьем. ИИ не может надежно учесть или оценить индивидуальные симптомы, сопутствующие заболевания или одновременный приём других лекарств.
Четкие границы ИИ в медицинской сфере
Насколько ИИ может быть полезен при объяснении медицинской информации, настолько же очевидны и его границы — и они зависят от того, в каком контексте он используется.
В клинической практике системы на основе ИИ уже применяются как вспомогательный инструмент, например при анализе рентгеновских снимков, КТ или МРТ. Такие программы могут отмечать подозрительные изменения, автоматизировать измерения или анализировать большие объёмы данных. Однако они выполняют именно вспомогательную функцию: окончательное заключение, интерпретацию результатов и постановку диагноза осуществляет квалифицированный медицинский специалист, который и несёт ответственность.
Это отличается от использования пациентами в повседневной жизни свободно доступных систем искусственного интеллекта. Такие системы не являются одобренными медицинскими изделиями, не проводят физический осмотр и не знают ни полной истории болезни, ни индивидуальных факторов риска. Даже если ИИ может задавать дополнительные вопросы в рамках диалога, это происходит не на основе медицинского суждения. Он не может надежно определить, какая информация является клинически решающей, и не способен провести структурированный и ответственный сбор анамнеза так, как это делают врачи.
Поэтому вопросы о причине конкретных жалоб или о подходящем лечении не следует выяснять с помощью общедоступного ИИ. Его ответы могут быть неполными, двусмысленными или неверными, а в худшем случае — привести к ошибочным выводам. Кроме того, ИИ не может клинически оценивать неопределённость, поскольку не несет ответственности за свои утверждения, что в чувствительных вопросах здоровья может вызвать лишнюю тревогу или, наоборот, ложное чувство безопасности.
Медицинские решения должны оставаться в сфере ответственности квалифицированных медицинских специалистов, которые могут дать индивидуальную оценку и несут за неё ответственность.
Не забывайте о защите данных
Ещё один важный аспект — это защита личных данных о здоровье. Информация о здоровье относится к самым чувствительным персональным данным. Многие ИИ-ассистенты являются внешними сервисами, и пользователям не всегда понятно, сохраняются ли введенные данные, как именно они обрабатываются и могут ли в дальнейшем использоваться повторно.
Поэтому пациентам стоит очень внимательно относиться к тому, какие именно данные они вводят. Общие, анонимизированные вопросы о медицинских терминах или действующих веществах обычно связаны с меньшим риском, если по ним невозможно установить личность. Напротив, конкретные диагнозы, имена, схемы приема лекарств или подробное течение заболевания не следует вводить в общедоступные системы ИИ. Таким образом, защита данных является неотъемлемой частью ответственного отношения к собственному здоровью и использования медицинской информации.
Дополнение, а не замена
ИИ может помочь лучше понимать медицинскую информацию и подготовиться к разговору с медицинскими специалистами. Однако он не заменяет консультацию врача или фармацевта. Тот, кто использует ИИ осознанно, критически и с вниманием к защите данных, может применять его как вспомогательный инструмент, но при этом всегда должен помнить о его границах.
Цифровая поддержка особенно полезна тогда, когда она используется безопасно и структурированно. Программа mediteo может помочь вам сохранять обзор ваших лекарств и лучше подготовиться к разговору с врачом или фармацевтом — как полезное дополнение в повседневной жизни, а не как замена личной консультации.
Источники
-
(ВОЗ), Всемирная организация здравоохранения (2021). Этика и управление искусственным интеллектом в сфере здравоохранения: руководство ВОЗ. Женева.
-
Topol, Eric J. “High-performance medicine: the convergence of human and artificial intelligence.” Nature medicine vol. 25,1 (2019): 44-56. doi:10.1038/s41591-018-0300-7
-
Glikson, E. and A. W. Woolley (2020). «Human Trust in Artificial Intelligence: Review of Empirical Research.» Academy of Management Annals 14(2): 627-660.
-
Bender, E. M., et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
-
Gilson, Aidan et al. “How Does ChatGPT Perform on the United States Medical Licensing Examination (USMLE)? The Implications of Large Language Models for Medical Education and Knowledge Assessment.” JMIR medical education vol. 9 e45312. 8 Feb. 2023, doi:10.2196/45312
-
European Society of Radiology (ESR). “What the radiologist should know about artificial intelligence — an ESR white paper.” Insights into imaging vol. 10,1 44. 4 Apr. 2019, doi:10.1186/s13244-019-0738-2