Inteligența Artificială (AI) generativă, chiar dacă este implementată pe scară largă de companii precum Google, se confruntă cu o problemă majoră: acuratețea. Noile funcții prezentate în căutări, cum ar fi rezumatele bazate pe AI, pot afișa răspunsuri greșite în proporție semnificativă, generând zeci de milioane de informații discutabile în fiecare oră.
Acuratețea, o problemă persistentă
Un studiu recent indică faptul că sistemul „AI Overview” al Google oferă răspunsuri corecte în aproximativ 90% din cazuri. Cu toate acestea, având în vedere volumul imens de căutări procesate zilnic, un procentaj de eroare de 10% se traduce în zeci de milioane de răspunsuri potențial incorecte. Aceste erori sunt greu de detectat și corectat, sistemul fiind imprevizibil din acest punct de vedere. Funcția este plasată strategic în partea de sus a paginii de rezultate, ceea ce încurajează utilizatorii să aibă încredere în informațiile oferite.
Surse îndoielnice și manipulare intenționată
O parte din problema erorilor generate de AI este legată de sursele de informații utilizate. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent. Deși în unele cazuri sursele sunt credibile, AI-ul le poate interpreta greșit. Există, de asemenea, riscul ca persoane rău intenționate să creeze conținut fals pentru a manipula rezultatele căutărilor. Aceste informații pot fi preluate de AI și pot genera răspunsuri incorecte.
Recomandări și măsuri de precauție
Este esențial ca instrumentele bazate pe AI să fie abordate cu scepticism. Chiar dacă o eroare la fiecare zece răspunsuri poate părea minoră, impactul este semnificativ, având în vedere numărul mare de căutări efectuate zilnic. Studiile sugerează, de asemenea, că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive. Recomandarea principală rămâne avertismentul afișat de sistem: „AI-ul poate greși, așa că verifică informațiile!”
