Chatboții inteligenți, precum ChatGPT și Gemini, pot oferi diagnostice medicale greșite într-un procent alarmant de cazuri. Un studiu recent, citat de surse media din România, arată că aceste instrumente pot induce în eroare pacienții, chiar și atunci când au acces la informații detaliate despre o boală. Riscul de eroare crește semnificativ în cazul informațiilor incomplete.
Rezultatele arată că peste 40% din diagnosticele stabilite de acești chatboți sunt eronate, chiar și atunci când au la dispoziție date complete despre afecțiuni. Cifra crește dramatic, depășind 80%, în situațiile în care informațiile disponibile sunt limitate. Această constatare ridică semne de întrebare serioase cu privire la utilizarea inteligenței artificiale în domeniul medical, mai ales în ceea ce privește autonomia și încrederea în aceste sisteme.
Controverse pe piața de inteligență artificială
Studiul a fost efectuat de cercetători de la Mass General Brigham din Massachusetts. Au fost testate 21 de modele lingvistice, inclusiv cele dezvoltate de companii precum OpenAI, Anthropic, Google, xAI și DeepSeek. Cercetarea a implicat furnizarea etapizată a informațiilor medicale legate de diverse patologii, inclusiv rezultate ale analizelor de laborator și constatări ale consultațiilor.
Experții au observat că toate modelele lingvistice analizate suferă de „halucinații”. Acesta este termenul tehnic utilizat pentru a descrie tendința sistemelor de inteligență artificială de a inventa informații atunci când nu pot oferi un răspuns clar. Acesta este un aspect esențial al limitărilor actuale ale acestor tehnologii, care pot genera rezultate inexacte.
Limitări și promisiuni în domeniul medical
Performanța chatboților în domeniul medical este direct proporțională cu cantitatea de informații accesibile. Chiar și cu date complete, algoritmii actuali pot induce în eroare utilizatorii. Acesta este un aspect crucial, având în vedere potențialul impact al diagnosticului medical asupra sănătății pacienților.
În ciuda acestor limitări, dezvoltarea inteligenței artificiale în medicină continuă. Companiile investesc masiv în îmbunătățirea preciziei și fiabilității acestor sisteme. Promisiunea este de a oferi un acces mai rapid și mai eficient la informații medicale. Totuși, rezultatele cercetărilor actuale subliniază importanța prudenței și necesitatea supravegherii umane, mai ales în situații critice.
Implicații pentru pacienți și profesioniști
Rezultatele studiului au implicații importante atât pentru pacienți, cât și pentru profesioniștii din domeniul medical. Pacienții trebuie să fie conștienți de riscurile potențiale ale utilizării acestor instrumente. Totodată, profesioniștii sunt obligați să valideze și să interpreteze cu atenție informațiile generate de inteligența artificială, minimizând astfel riscul unor decizii medicale greșite.
Studiul subliniază importanța unei abordări prudente în utilizarea inteligenței artificiale în medicină. În ciuda progreselor tehnologice, este crucială menținerea rolului esențial al medicului și necesitatea unei evaluări atente și critice a informațiilor furnizate de aceste sisteme.
Studiul a fost publicat în revista Jama Network Open și a generat dezbateri în comunitatea medicală cu privire la siguranța și aplicabilitatea inteligenței artificiale în diagnosticarea medicală.
