Conform HotNews: Studiul recent publicat de cercetători de la Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza ridică semne de întrebare cu privire la modul în care interacțiunea cu chatboturile AI ne afectează capacitatea de a recunoaște propriile limite cognitive. Conform concluziilor, simpla expunere la un asistent virtual bazat pe inteligență artificială poate diminua semnificativ abilitatea oamenilor de a admite că nu știu un răspuns.
AI-ul ne învață să răspundem, chiar și când nu știm
Cercetarea a implicat peste 3.000 de participanți, supuși la cinci experimente menite să evalueze impactul AI asupra criteriilor după care oamenii decid dacă pot oferi un răspuns sau nu. Participanților li s-au adresat întrebări dificile, având mereu opțiunea de a declara „nu știu”. Jumătate dintre participanți au avut, însă, acces la răspunsurile unui chatbot AI.
Pentru a izola efectul psihologic al prezenței AI, cercetătorii au ales întrebări cu detalii vizuale specifice din filme, informații pe care modelele lingvistice actuale tind să le „halucineze”, adică să le inventeze. Mai mult, a fost utilizat un model AI configurat să greșească frecvent, eliminând astfel posibilitatea ca încrederea participanților să fie justificată de o competență generală superioară a AI-ului.
Rezultatele au fost clare: în absența AI-ului, 44% dintre participanți au optat pentru a spune „nu știu”. Atunci când au avut acces la chatbot, acest procent a scăzut dramatic la doar 3%. În același timp, acuratețea răspunsurilor a scăzut considerabil, în timp ce încrederea participanților în propriile răspunsuri a aproape dublat. Oamenii au răspuns mai des, au greșit mai mult, dar au fost mult mai convinși de corectitudinea informațiilor oferite. Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și co-autor al studiului, a explicat: „Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor.”
Metacogniția, afectată de interacțiunea cu AI
Studiul se concentrează pe impactul AI asupra metacogniției, adică asupra capacității noastre de a ne evalua propriile cunoștințe și de a înțelege când dispunem de suficiente informații pentru a formula un răspuns. Metacogniția este esențială pentru a face distincția între „știu”, „cred că știu” și „nu știu”. Fără acest mecanism, indivizii devin mai vulnerabili la erori și la tragerea unor concluzii pripite, dar cu convingere. Riscul este de a ajunge să „halucinăm” răspunsuri, la fel cum fac și chatboturile AI, imitând încrederea artificială a acestora.
Confuzia generată de răspunsurile AI pare să provină nu din corectitudinea lor, ci din fluența și coerența cu care sunt prezentate. Creierul uman tinde să asocieze această aparență de siguranță cu veridicitatea informației, acceptând-o fără o verificare amănunțită, doar pentru că sună plauzibil și bine formulat.
Spre deosebire de oameni, care pot suspenda judecata și admite incertitudinea, modelele lingvistice sunt construite să genereze un răspuns la aproape orice interogare. Chiar și în lipsa unor date suficiente, ele produc cea mai probabilă continuare a textului, fără a avea o evaluare reală a propriilor limite. Obiceiul de a delega astfel de sarcini unui sistem care rareori admite incertitudinea poate conduce la o comportament similar în rândul utilizatorilor.
Mai mult, studiul indică faptul că AI-ul poate determina participanții să renunțe la răspunsuri corecte, bazate pe propria judecată, în favoarea unor informații eronate, dar prezentate cu suficientă convingere. Acest fenomen este notabil, având în vedere scepticismul natural al oamenilor față de sfaturile externe. În mod obișnuit, o divergență de opinie duce la o evaluare atentă a punctului de vedere al celuilalt, nu la adoptarea imediată a acestuia. În acest caz, însă, chiar și atunci când răspunsul AI contrazicea convingerile inițiale ale participanților, încrederea în corectitudinea finală a crescut, inversând reacția normală de prudență.
Sursa: HotNews
