Am discutat cu conf. dr. Florian Berghea, medic reumatolog, despre contextul actual și despre utilizarea inteligenței artificiale (AI) în medicină. Acesta este de părere că trebuie să evităm atât entuziasmul naiv, cât și frica de tehnologie. 

Ideea sa de a preda cursuri de AI pentru medici a pornit, de fapt, din practica medicală, povestește interlocutorul meu. El a observat că medicii începuseră să folosească inteligența artificială cu mult înainte să existe o educație sistematică despre cum trebuie utilizată. „Unii foloseau ChatGPT pentru literatură, pentru redactare sau pentru a obține explicații medicale, dar foarte puțini știau cu adevărat care sunt limitele acestor sisteme și de ce un răspuns foarte convingător poate fi, uneori, complet greșit.”

Astfel, el a considerat că medicii nu trebuie să devină informaticieni, dar trebuie să înțeleagă suficient de bine AI pentru a putea lucra cu ea în mod critic și responsabil: „Așa au apărut cursurile pe care le-am construit. Sunt cursuri foarte practice. Pornim de la noțiuni precum modelele lingvistice, tokenii, contextul și modul în care trebuie formulată o întrebare și ajungem la utilizări concrete: căutarea și analiza literaturii medicale, citirea critică a unui articol, analiza datelor, cercetarea științifică, educația pacientului și, mai nou, utilizarea agenților de inteligență artificială, care pot executa autonom anumite sarcini.”

Cum au fost receptate aceste cursuri? Ei bine, reacția medicilor a fost foarte bună. „Interesul este, sincer, mai mare decât mă așteptam.” Primul modul al cursului dedicat medicilor a avut 109 participanți, iar la un eveniment introductiv au fost aproximativ 900 de înscriși, explică medicul reumatolog: „Pentru mine, acesta este un semnal foarte clar: medicii simt că se întâmplă ceva important și vor să înțeleagă ce înseamnă această schimbare pentru profesia lor”. 

În ceea ce-i privește pe mediciniști, doctorul Berghea crede că educația despre inteligența artificială trebuie introdusă încă din timpul facultății de medicină: „Nu trebuie să așteptăm ca medicul să termine rezidențiatul și să descopere singur aceste instrumente”. 

Modelele generative – o dimensiune nouă 

Inteligența artificială este deja utilizată în imagistică, anatomie patologică, oftalmologie, dermatologie, analiza datelor, predicția riscului, cercetarea biomedicală și dezvoltarea de medicamente, explică interlocutorul meu. În opinia sa, modelele generative au adăugat însă o dimensiune nouă: ele pot lucra cu limbajul și pot deveni o interfață cognitivă pentru medic. 

„Organizația Mondială a Sănătății (OMS) identifică deja utilizări precum sprijinul pentru diagnostic și îngrijire, documentarea medicală, educația medicală, cercetarea și dezvoltarea de medicamente. Dar cred că suntem abia la început. În prezent, folosim foarte mult AI ca pe un instrument cu care conversăm: îi punem întrebări și primim răspunsuri.” 

Următoarea etapă va fi mult mai interesantă, crede conf. dr. Florian Berghea: „Vom avea sisteme care vor putea integra istoricul pacientului, analizele, imaginile, tratamentele și evoluția în timp și îi vor putea spune medicului: «Iată ce s-a schimbat, iată ce este important și iată unde ar trebui să vă uitați»”. Totuși, aceasta nu înseamnă că algoritmul va lua decizia în locul medicului. „Înseamnă că medicul va putea lua decizia având o imagine mult mai completă asupra pacientului.” 

Principii despre AI pe care ar trebui să le înțeleagă medicii 

În primul rând, medicul trebuie să înțeleagă că inteligența artificială nu este o autoritate medicală, arată doctorul Berghea. Faptul că un sistem formulează un răspuns foarte elegant și foarte sigur pe el nu înseamnă că răspunsul este corect. Modelele generative pot produce informații false, dar prezentate cu o siguranță remarcabilă. 

În al doilea rând, medicul trebuie să înțeleagă că responsabilitatea nu poate fi delegată algoritmului. „Dacă folosesc un sistem AI și iau o decizie medicală pe baza rezultatului său, responsabilitatea profesională rămâne a mea.” Apoi, există problema datelor: „Un medic nu poate introduce pur și simplu datele identificabile ale unui pacient într-un serviciu AI fără să știe ce se întâmplă cu acele date și în ce condiții sunt procesate”. 

Și mai este un aspect esențial pe care medicii trebuie să-l înțeleagă: etica. Nu este suficient ca un sistem AI să fie performant. El trebuie să fie sigur, echitabil, transparent și utilizat cu respectarea autonomiei pacientului și a responsabilității profesionale, punctează conf. dr. Berghea. „Organizația Mondială a Sănătății insistă asupra acestor principii și avertizează inclusiv asupra «automation bias» – tendința oamenilor de a acorda algoritmului o încredere excesivă și de a trece cu vederea propriile semnale de alarmă.” 

În opinia sa, există însă și o problemă etică despre care omenirea va discuta tot mai mult în viitor: cine decide că un medic trebuie să utilizeze un anumit sistem AI? „Faptul că o tehnologie este nouă și performantă nu înseamnă automat că trebuie introdusă imediat în practica medicală. Medicul trebuie să știe ce face sistemul, cât de bine a fost validat, pe ce populație a fost evaluat, care sunt limitele sale și ce se întâmplă atunci când greșește.” 

Proces participativ, nu unul pur administrativ 

Un alt aspect foarte important este acela că nu trebuie să presupunem că orice rezistență a medicilor față de inteligența artificială înseamnă conservatorism sau teamă de tehnologie. Uneori, spune conf. dr. Berghea, rezistența este justificată. „Dacă un angajator cumpără un sistem AI și spune medicilor «de mâine îl utilizați», fără să îi consulte, fără să îl valideze în contextul local, fără să îi instruiască și fără să explice foarte clar cine răspunde atunci când algoritmul greșește, este foarte posibil ca medicii să perceapă sistemul nu ca pe un instrument de sprijin, ci ca pe un instrument de control sau chiar de transfer al responsabilității.” 

Iar aici apare o problemă foarte subtilă, spune el. Un sistem poate avea rezultate excelente într-un studiu internațional, dar asta nu înseamnă că funcționează la fel de bine într-un spital din România. „Pot exista diferențe de populație, prevalență a bolilor, protocoale, infrastructură, terminologie medicală, fluxuri de lucru sau chiar de modul în care sunt introduse datele. Pentru sistemele AI din sănătate, contextul în care sunt dezvoltate și implementate contează foarte mult.” 

De aceea, medicul Florian Berghea crede că implementarea AI în medicină trebuie să fie un proces participativ, nu unul pur administrativ. „Medicul trebuie implicat încă din etapa în care se alege și se testează sistemul. Trebuie să poată spune unde funcționează, unde nu funcționează și ce riscuri vede în practica reală.” 

OMS recomandă, de altfel, implicarea profesioniștilor din sănătate și a pacienților încă din etapele de dezvoltare și implementare a sistemelor AI, mai punctează el. „În definitiv, dacă vrem ca medicii să aibă încredere în inteligența artificială, trebuie să le oferim și dreptul de a nu avea încredere în ea atunci când există motive obiective. Încrederea nu se obține printr-o decizie managerială. Se construiește prin validare, transparență, educație și experiență pozitivă în practica reală.”   

Carte de vizită 

Dr. Florian Berghea este medic reumatolog și conferențiar la Universitatea de Medicină „Carol Davila” din București. Activează și în aria managementului și eticii medicale și a cercetării. Totodată, este director al Centrului pentru Studii privind Tehnologiile Medicale. În 2023, la Spitalul Clinic „Sf. Maria”, a susținut primul curs cu predare duală profesor - inteligență artificială în domeniul medical. La acel moment, conf. dr. Florian Berghea și asistentul său de AI, ChatGPT 4, au predat interactiv cursul de Reumatologie studenților de anul V de la UMF „Carol Davila” București*. 

*https://tinyurl.com/c3ybw9y5 

Pacientul va folosi inteligența artificială. Întrebarea este dacă o va folosi singur, fără niciun reper, sau dacă noi, medicii, îl vom ajuta să o folosească mai responsabil. (Conf. dr. Florian Berghea)