AI voor alledaagse gezondheidskwesties – kansen en verantwoordelijkheid
Steeds meer patiënten gebruiken artificiële intelligentie (AI), ook voor gezondheidskwesties. Medische begrippen, bevindingen of informatie uit gesprekken met artsen kan snel opgezocht en uitgelegd worden. Om AI zinvol ter ondersteuning in te zetten, is één aspect doorslaggevend: de manier hoe vragen gesteld worden. Precies daarbij komt het zogenoemde prompting om de hoek kijken.
Wat is een prompt?
Een prompt is de concrete invoer, dus de vraag of instructie die u aan een AI stelt. Vooral in de medische sector geldt: het antwoordt van een AI kan alleen zo nuttig zijn als de vraag die eraan gesteld wordt.
AI begrijpt inhoud niet zoals een mens. AI beoordeelt taal aan de hand van statistische patronen en waarschijnlijkheden. Onduidelijke of heel algemene vragen leiden daarom onvermijdelijk tot niet-specifieke antwoorden. Precieze en objectief geformuleerde prompts verhogen daarentegen de kans op een nuttige en begrijpelijke classificatie.
Waarom duidelijke vragen belangrijk zijn
AI-systemen regeren op de ingevoerde informatie. Ook al kunnen ze in een dialoog dan wel verdere vragen stellen, kunnen ze echter niet op een betrouwbare wijze herkennen welke gegevens medische cruciaal zijn of welke informatie mogelijk ontbreekt. Precies geformuleerde prompts verhogen daarom de kans op begrijpelijke en goed te plaatsen antwoorden. Die antwoorden moeten echter altijd als algemene informatie worden opgevat, niet als persoonlijke aanbeveling of basis voor besluitvorming.
Bovendien kunnen AI-systemen ook onjuiste of verouderde informatie verstrekken zonder dat kenbaar te maken. Ze controleren inhoud niet zelfstandig op medische actualiteit of individuele relevantie. Het is daarom des te belangrijker om AI-antwoorden kritisch te beoordelen en ze niet geïsoleerd te bekijken.
Zinvol gebruik voor gezondheidskwesties
Als prompting op de juiste manier wordt toegepast, kan het een echte meerwaarde bieden voor patiënten. Veel medische informatie is talig complex en moeilijk te begrijpen, vooral als het gaat om doktersbrieven, onderzoeksrapporten of bijsluiters. Daarbij kan AI ondersteunen door vaktermen uit te leggen of algemene verbanden in begrijpelijke taal te formuleren. Voor veel mensen is dat een hulp om medische informatie überhaupt te kunnen plaatsen.
Ook ter voorbereiding op gesprekken met artsen of apothekers kan prompting nuttig zijn. Wie basisbegrippen al begrijpt, kan doelgerichter doorvragen, onzekerheden aankaarten en actiever deelnemen aan het gesprek. In die zin kan AI helpen om de eigen gezondheidsvaardigheden te versterken en meer inzicht te krijgen in het vaak complexe gezondheidssysteem.
Daarbij is het belangrijk om er rekening mee te houden dat algemene informatie niet zonder meer kan worden toegepast op de persoonlijke gezondheidssituatie. Individuele klachten, eerdere aandoeningen of gelijktijdig gebruik van andere medicijnen kan AI niet betrouwbaar verzamelen of beoordelen.
Duidelijke grenzen van AI in de medische sector
Hoe nuttig AI ook kan zijn bij het uitleggen van medische inhoud, de beperkingen ervan zijn duidelijk – en die hangen af van de context waarin AI wordt gebruikt.
In de klinische praktijk worden AI-ondersteunde systemen al gebruikt ter ondersteuning, bijvoorbeeld bij de evaluatie van röntgen-, CT- of MRI-beelden. Dergelijke toepassingen kunnen afwijkingen markeren, metingen automatiseren of grote hoeveelheden gegevens analyseren. Ze dienen echter als ondersteunende systemen: de definitieve bevinding, classificatie en diagnose worden uitgevoerd door gekwalificeerd medisch personeel dat daarvoor verantwoordelijk is.
Daarbij moet een onderscheid gemaakt worden van het gebruik van vrij toegankelijke AI-systemen door patiënten in het dagelijks leven. Die systemen zijn geen goedgekeurde medische hulpmiddelen, voeren geen lichamelijk onderzoek uit en kennen noch de volledige medische geschiedenis, noch individuele risicofactoren. Ook al kan AI in een dialoog verdere vragen stellen, gebeurt dat niet op basis van een medisch oordeel. AI kan niet op betrouwbare wijze vaststellen welke informatie klinisch relevant is en kan geen gestructureerde, verantwoordelijke anamnese uitvoeren zoals artsen dat doen.
Vragen over de oorzaak van specifieke klachten of over een geschikte behandeling moeten daarom niet worden beantwoord met vrij toegankelijke AI. De antwoorden kunnen onvolledig, misleidend of onjuist zijn en in het ergste geval tot verkeerde conclusies leiden. Bovendien kan AI onzekerheden niet klinisch classificeren, omdat ze geen verantwoordelijkheid draagt voor haar uitspraken, wat bij gevoelige gezondheidskwesties kan leiden tot onnodige onzekerheid of zelfs tot valse zekerheid.
Medische beslissingen vallen onder de verantwoordelijkheid van gekwalificeerde medische professionals die een individuele beoordeling maken en verantwoordelijkheid dragen.
Privacy niet uit het oog verliezen
Een ander centraal punt is de bescherming van persoonlijke gezondheidsgegevens. Gezondheidsinformatie behoort tot de meest gevoelige persoonsgegevens. Veel AI-assistenten zijn externe diensten waarbij het voor gebruikers niet altijd duidelijk is of en hoe ingevoerde gegevens worden opgeslagen, verwerkt of hergebruikt.
Daarom moeten patiënten zeer bewust omgaan met hun gegevens. Algemene, geanonimiseerde vragen over medische termen of werkzame stoffen zijn doorgaans minder risicovol, zolang er geen conclusies over de eigen persoon kunnen worden getrokken. Concrete diagnoses, namen, medicatieschema’s of gedetailleerde ziekteverloopgegevens mogen daarentegen niet in vrij toegankelijke AI-systemen worden ingevoerd. Privacy is daarmee een actief onderdeel van verantwoordelijke gezondheidsvaardigheden.
Aanvulling in plaats van vervanging
AI kan helpen om medische informatie beter te begrijpen en gesprekken met medisch personeel voor te bereiden. AI is echter geen vervanging voor medisch of farmaceutisch advies. Wie AI bewust, kritisch en met oog voor gegevensbescherming gebruikt, kan het als ondersteunend hulpmiddel inzetten, maar moet altijd de grenzen ervan in het oog houden.
Digitale ondersteuning is vooral nuttig wanneer ze veilig en gestructureerd wordt ingezet. De mediteo-app kan u helpen om het overzicht over uw medicijnen te behouden en om goed voorbereid op gesprek te gaan met artsen of apothekers – als nuttige aanvulling in het dagelijkse leven en niet als vervanging voor persoonlijke advies.
Bronnen
-
(WHO), World Health Organization (2021). Ethics and governance of artificial intelligence for health: WHO guidance. Geneva.
-
Topol, Eric J. “High-performance medicine: the convergence of human and artificial intelligence.” Nature medicine vol. 25,1 (2019): 44-56. doi:10.1038/s41591-018-0300-7
-
Glikson, E. and A. W. Woolley (2020). “Human Trust in Artificial Intelligence: Review of Empirical Research.” Academy of Management Annals 14(2): 627-660.
-
Bender, E. M., et al. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
-
Gilson, Aidan et al. “How Does ChatGPT Perform on the United States Medical Licensing Examination (USMLE)? The Implications of Large Language Models for Medical Education and Knowledge Assessment.” JMIR medical education vol. 9 e45312. 8 Feb. 2023, doi:10.2196/45312
-
European Society of Radiology (ESR). “What the radiologist should know about artificial intelligence – an ESR white paper.” Insights into imaging vol. 10,1 44. 4 Apr. 2019, doi:10.1186/s13244-019-0738-2