Google revine asupra funcției AI Overviews din cauza riscurilor pentru sănătatea publică, după dezvăluiri alarmante legate de informațiile generate automat. Compania a decis recent să dezactiveze prezentarea rezultatelor bazate pe inteligența artificială pentru anumite căutări cu tematică medicală, în urma unei investigații publicate la începutul anului 2026 ce a scos în lumină erori grave și potențial fatale. Acțiunea vine într-un context tensionat, în care responsabilitatea și siguranța informațiilor medicale online sunt în centrul unui controversat cocteil de dileme etice și tehnice.
Dincolo de controverse: problemele AI Overviews în domeniul sănătății
Dezvăluirile făcute de jurnaliștii de la The Guardian au adus în atenția publicului o realitate îngrijorătoare: sistemul AI al Google utilizează recomandări medicale incorecte, unele potențial devastatoare pentru sănătatea utilizatorilor. Un exemplu concret a fost recomandarea făcută persoanelor cu cancer pancreatic de a evita alimentele bogate în grăsimi, o sfaturere contrazisă flagrant de recomandările clinice, ce indică necesitatea unui aport caloric crescut pentru aceste pacienți. Medicii au explicat clar că această recomandare greșită are potențialul să agraveze starea pacienților și chiar să le pună în pericol viața.
Alt caz semnalat, considerat „alarmant”, privea interpretarea testelor de evaluare a funcției hepatice. AI Overviews furniza informații eronate despre valorile normale ale acestor analize, ceea ce putea duce pe unii utilizatori să își neglijeze probleme grave ale ficatului, crezând că sunt sănătoși. În plus, rezultatele false au condus deja la eliminarea completă a rezumatelor pentru întrebări precum „care este intervalul normal pentru analizele de sânge ale ficatului?”, Google preferând să afișeze doar rezultate clasice, fără intervenția AI.
Retragerea și implicațiile pentru tehnologia AI în medicină
Decizia Google de a opri afișarea acestor rezultate provine, cel mai probabil, din preocuparea pentru siguranța utilizatorilor. Deși compania nu a făcut declarații oficiale privind motivele exacte, măsura vine într-un context în care funcția AI Overviews a fost criticată de mai mult timp pentru recomandări absurde sau chiar periculoase. În trecut, sistemul a fost implicat în virale din mediul online, cu sugestii precum „folosește lipiciul pe pizza” sau „consumă pietre”, indicând gravitatea problemelor legate de verificarea și controlul calității informațiilor generate.
Aceasta nu este prima dată când AI Overviews a fost criticat pentru erori grave. Funcția a fost deja subiectul mai multor procese în justiție, reclamanții susținând că informațiile prompte și automatizate pot induce în eroare utilizatorii, cauzând chiar prejudicii reale. În domeniul medical, unde certitudinea și precizia sunt esențiale, orice greșeală poate avea consecințe grave, uneori fatale.
Ce urmează pentru AI și sănătate
Pentru moment, Google a luat măsuri pentru a limita răspândirea informațiilor medicale nesigure și a eliminat aceste rezultate generate de AI din căutări sensibile. Rămâne de urmărit dacă aceste măsuri reprezintă doar o soluție temporară sau dacă semnalizează o recalibrare mai profundă a tehnologiei AI în domeniul sănătății. Astfel de incidente accentuează faptul că, indiferent de avansul tehnologic, parteneriatul dintre oameni și inteligență artificială trebuie să fie guvernat de reguli stricte și verificări riguroase.
De altfel, pe fondul crițicilor și al proceselor din justiție, experții avertizează asupra pericolului pe termen lung reprezentat de utilizarea AI în domeniul medical, unde orice greșeală poate avea rezultate tragice. În timp ce tehnologia are potențialul de a revoluționa informarea și gestionarea sănătății, este clar că pentru moment, ea trebuie să fie utilizată cu prudență și însoțită de metode robuste de verificare, pentru a nu deveni o sursă de pericol, în loc de sprijin.
