ШІ в повсякденному піклуванні про здоров’я — можливості та відповідальність
Штучним інтелектом (ШІ) користується дедалі більше пацієнтів, зокрема й у питаннях, пов’язаних зі здоров’ям. Медичні терміни, результати обстежень або інформацію з розмови з лікарем можна швидко знайти й зрозуміло пояснити. Щоб ШІ міг справді допомагати, вирішальне значення має те, як саме сформульовано запитання. Саме тут важливу роль відіграє так званий промптинг.
Що таке промпт?
Промпт (запит до ШІ) — це конкретне запитання або інструкція, яку ви даєте штучному інтелекту. Особливо в медичній сфері діє просте правило: відповідь ШІ настільки корисна, наскільки чітко й вдало сформульовано запит.
ШІ не розуміє зміст так, як людина. Він аналізує мову на основі статистичних закономірностей і ймовірностей. Тому нечіткі або надто загальні запитання неминуче призводять до нечітких відповідей. Натомість точно й по суті сформульовані промпти підвищують імовірність отримати корисне й зрозуміле пояснення.
Чому важливо ставити чіткі запитання
Системи ШІ реагують на введену інформацію. У межах діалогу вони можуть ставити додаткові запитання, але не завжди здатні надійно визначити, які саме дані є медично важливими або якої інформації бракує. Тому точно сформульовані промпти підвищують імовірність отримати зрозумілі відповіді, які легше правильно інтерпретувати. Однак такі відповіді завжди слід сприймати як загальну інформацію, а не як особисту рекомендацію чи основу для ухвалення рішень.
Крім того, системи ШІ можуть надавати помилкову або вже неактуальну інформацію, не вказуючи на це. Вони не перевіряють інформацію самостійно на медичну актуальність чи індивідуальну релевантність. Саме тому особливо важливо критично оцінювати відповіді ШІ й не розглядати їх ізольовано.
Доцільне використання в контексті здоров’я
За правильного використання промптинг може бути справді корисними для пацієнтів. Багато медичної інформації викладено складною мовою, і її буває важко зрозуміти, особливо коли йдеться про лікарські висновки, результати обстежень або інструкції до лікарських засобів. У таких випадках ШІ може допомогти, пояснюючи фахові терміни або подаючи загальні зв’язки й пояснення зрозумілою мовою. Багатьом людям це дійсно важливо, щоб узагалі зорієнтуватися в медичній інформації.
Промптинг також може бути корисним під час підготовки до розмови з лікарем чи фармацевтом. Той, хто вже зрозумів основні поняття, може ставити більш цілеспрямовані запитання, озвучувати свої сумніви й активніше брати участь у розмові. У цьому сенсі ШІ може сприяти розвитку власної обізнаності у питаннях здоров’я та допомагати краще орієнтуватися в часто складній системі охорони здоров’я.
Водночас важливо пам’ятати, що загальну інформацію не можна автоматично переносити на особисту ситуацію зі здоров’ям. ШІ не може надійно врахувати чи оцінити індивідуальні симптоми, супутні захворювання або одночасний прийом інших ліків.
Чіткі межі ШІ в медичній сфері
Наскільки корисним ШІ може бути для пояснення медичної інформації, настільки ж чіткими є і його межі — і вони залежать від того, у якому контексті його використовують.
У клінічній практиці системи на основі ШІ вже застосовують як допоміжний інструмент, наприклад під час аналізу рентгенівських знімків, КТ або МРТ. Такі програми можуть позначати підозрілі зміни, автоматизувати вимірювання або аналізувати великі обсяги даних. Однак вони виконують саме допоміжну функцію: остаточний висновок, інтерпретацію результатів і встановлення діагнозу здійснює кваліфікований медичний фахівець, який і несе відповідальність.
Це відрізняється від використання пацієнтами вільно доступних систем штучного інтелекту у повсякденному житті. Такі системи не є схваленими медичними виробами, не проводять фізичного огляду й не знають ані повної історії хвороби, ані індивідуальних факторів ризику. Навіть якщо ШІ може ставити додаткові запитання в межах діалогу, це не відбувається на основі медичного судження. ШІ не може надійно визначити, яка інформація є клінічно вирішальною, і не здатний провести структурований та відповідальний збір анамнезу так, як це роблять лікарі.
Тому запитання про причину конкретних скарг або про відповідне лікування не слід з’ясовувати за допомогою вільно доступного ШІ. Його відповіді можуть бути неповними, неоднозначними або хибними, а в найгіршому разі — призвести до неправильних висновків. Крім того, ШІ не може клінічно оцінювати невизначеність, оскільки не несе відповідальності за свої твердження, що в чутливих питаннях здоров’я може спричинити зайве занепокоєння або, навпаки, хибне відчуття безпеки.
Медичні рішення мають належати до сфери відповідальності кваліфікованих медичних фахівців, які можуть дати індивідуальну оцінку й несуть за неї відповідальність.
Не забувайте про захист даних
Ще один важливий аспект — це захист особистих даних про здоров’я. Інформація про здоров’я належить до найчутливіших персональних даних. Багато ШІ-асистентів є зовнішніми сервісами, і користувачам не завжди зрозуміло, чи зберігаються введені дані, як саме вони обробляються та чи можуть надалі використовуватися повторно.
Тому пацієнтам варто дуже уважно ставитися до того, які саме дані вони вводять. Загальні, анонімізовані запитання про медичні терміни або діючі речовини зазвичай пов’язані з меншим ризиком, якщо за ними неможливо встановити особу. Натомість конкретні діагнози, імена, схеми прийому ліків або детальний перебіг захворювання не слід вводити у вільно доступні системи ШІ. Отже, захист даних є невіддільною частиною відповідального ставлення до власного здоров’я й користування медичною інформацією.
Доповнення, а не заміна
ШІ може допомогти краще розуміти медичну інформацію та підготуватися до розмови з медичними фахівцями. Однак він не замінює консультацію лікаря чи фармацевта. Той, хто користується ШІ свідомо, критично та з увагою до захисту даних, може застосовувати його як допоміжний інструмент, але завжди має пам’ятати про його межі.
Цифрова підтримка особливо корисна тоді, коли її використовують безпечно та структуровано. Програма mediteo може допомогти вам зберігати огляд ваших ліків і краще підготуватися до розмови з лікарем або фармацевтом — як корисне доповнення в повсякденному житті, а не як заміна особистої консультації.
Джерела
-
ВООЗ (Всесвітня організація охорони здоров’я), 2021. Етика та управління штучним інтелектом у сфері охорони здоров’я: рекомендації ВООЗ. Женева.
-
Topol, Eric J. “High-performance medicine: the convergence of human and artificial intelligence.” Nature medicine vol. 25,1 (2019): 44-56. doi:10.1038/s41591-018-0300-7
-
Glikson, E. and A. W. Woolley (2020). “Human Trust in Artificial Intelligence: Review of Empirical Research.” Academy of Management Annals 14(2): 627-660.
-
Bender, E. M., et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
-
Gilson, Aidan et al. “How Does ChatGPT Perform on the United States Medical Licensing Examination (USMLE)? The Implications of Large Language Models for Medical Education and Knowledge Assessment.” JMIR medical education vol. 9 e45312. 8 Feb. 2023, doi:10.2196/45312
-
European Society of Radiology (ESR). “What the radiologist should know about artificial intelligence – an ESR white paper.” Insights into imaging vol. 10,1 44. 4 Apr. 2019, doi:10.1186/s13244-019-0738-2