Atenție la sfaturile medicale oferite de inteligența artificială: studiile arată riscuri și limitări
Două studii recente trag un semnal de alarmă cu privire la utilizarea sistemelor de inteligență artificială (AI) pentru obținerea informațiilor medicale. Cercetările evidențiază dificultățile acestor sisteme în a identifica informațiile eronate și sugerează o abordare precaută în ceea ce privește încrederea acordată acestor instrumente în domeniul sănătății.
Modelele AI pot fi induse în eroare de limbajul medical sofisticat
Un studiu publicat în revista The Lancet Digital Health a examinat reacțiile modelelor AI la informațiile medicale false. Testele au implicat 20 de modele AI, utilizând peste 3,4 milioane de solicitări inspirate din discuții reale de pe forumuri, rețele sociale și documente medicale modificate. Rezultatele au arătat că sistemele AI sunt vulnerabile la dezinformare, mai ales atunci când aceasta este prezentată într-un limbaj clinic sau academic.
Concret, dacă o afirmație falsă este formulată într-un limbaj simplu, chatboții pot fi mai sceptici. Totuși, când aceeași informație este prezentată într-un format similar unui raport medical, sistemele AI o pot accepta mai ușor, repetând recomandări greșite. Unul dintre exemplele menționate de cercetători include recomandarea de a introduce căței de usturoi în rect pentru a „întări sistemul imunitar”.
Potrivit lui Mahmud Omar, cercetător la Mount Sinai Medical Center și coautor al studiului, „problema principală este modul în care aceste modele livrează informația”. Spre deosebire de un medic care își poate exprima incertitudinea sau recomanda investigații suplimentare, un chatbot poate oferi un răspuns greșit cu aceeași convingere ca și unul corect. Acest lucru subliniază riscurile potențiale pentru utilizatorii care caută sfaturi medicale prin intermediul acestor sisteme.
Chatboții medicali nu oferă, adesea, mai multe informații decât o simplă căutare online
Un alt studiu, publicat în Nature Medicine, a analizat utilitatea chatboților în luarea deciziilor medicale, cum ar fi stabilirea dacă este necesară o vizită la medic sau la camera de gardă. Concluzia generală a fost surprinzătoare: răspunsurile generate de AI nu aduc, în multe cazuri, o claritate mai mare decât o simplă căutare pe internet.
Problema constă în faptul că utilizatorii nu formulează întotdeauna corect întrebările, iar răspunsurile primite pot amesteca informații corecte cu recomandări discutabile. Deși aceste sisteme pot oferi sugestii utile, persoanele fără pregătire medicală nu au posibilitatea de a evalua cu exactitate corectitudinea informațiilor.
De exemplu, un utilizator care caută informații despre o durere de cap severă ar putea primi recomandarea de a amâna vizita la medic, fără a putea evalua potențialul pericol al simptomelor. Cercetările au evidențiat, astfel, limitările actuale ale inteligenței artificiale în domeniul sănătății și necesitatea unei abordări critice a informațiilor furnizate de aceste sisteme.
În contextul acestor constatări, specialiștii subliniază importanța consultării profesioniștilor din domeniul medical pentru a obține informații precise și personalizate. Companiile din domeniul tehnologiei continuă să dezvolte și să perfecționeze aceste sisteme, dar utilizatorii ar trebui să fie conștienți de riscurile potențiale.
Sursa: Playtech.ro
