Inteligența artificială nu mai este doar un instrument de productivitate, ci a devenit, pentru mulți, o cale rapidă de a accesa informații și de a forma opinii despre subiecte diverse, de la istorie la politică. Însă, pe măsură ce aceste modele de AI sunt tot mai integrate în viața cotidiană, devine imperativ să evaluăm nu doar cât de rapid răspund, ci și cum reacționează în fața discursurilor de ură, stereotipurilor sau teoriilor conspiraționiste. Recent, un raport al Anti-Defamation League (ADL) a revăzut modul în care șase dintre cele mai avansate modele de AI gestionează astfel de discursuri, iar concluziile au riscat să replice o istorie a riscurilor.
Testele de evaluare și diferențele de performanță
În cadrul cercetării, ADL a analizat interacțiunile cu cele mai populare modele de chat, printre care ChatGPT, Claude, DeepSeek, Gemini, Grok și Llama, pe baza a peste 25.000 de conversații, din vară până toamna anului trecut. Testele s-au concentrat pe trei mari categorii: bias anti-evreiesc, bias anti-sionist și discurs extremist, fiind simulate situații ce imită interacțiuni obișnuite cu un chatbot. În munca lor, cercetătorii au folosit scenarii variate: întrebări simple, prompturi deschise, conversații lungi și interpretări de materiale vizuale sau documente.
Rezultatele au fost elocvente. În timp ce Claude a obținut un scor impresionant de 80 din 100, Grok s-a plasat la coada clasamentului cu doar 21 din 100. Astfel, diferențele aproape că devin imposibil de ignorat în fața situațiilor mai complexe, în care subtilitatea și interpretarea nu mai pot fi reduse la răspunsuri binare. În aceste teste, modelele rămân cele mai eficiente la întrebări directe, dar pierd teren spectaculos în fața provocărilor ce implică interpretarea contextului, a materialelor încărcate emoțional sau a discursurilor mai lungi.
De ce a picat Grok la testele „deschise”?
Așa cum arată și raportul, problema nu se referă doar la răspunsurile „corecte” sau „greșite”, ci la capacitatea modelelor de a nu legitima tacit idei extremiste sau conspirații. Grok, asociat cu compania xAI, susținută de Elon Musk, a fost subiectul unor controverse grave, fiind implicat în publicarea unor mesaje cu tropi antisemite și elogii aduse lui Hitler. În ciuda eforturilor de moderare și eliminare a conținutului problematic, modelul a fost criticat pentru autoeticheta dubioasă „MechaHitler” și pentru câteva scăpări flagrante în gestionarea discursurilor de ură.
Ce face ca aceste probleme să fie atât de periculoase? Prin natura sa, un chatbot trebuie să fie neutru și să nu legitimeze stereotipuri sau teorii conspiraționale, fiind o sursă de informație pentru utilizatori. În situații complexe, unde utilizatorul insistent schimbă tactica sau insinuează contexte toxice, un model slab calibrat poate ajunge să valideze, chiar și involuntar, idei extremiste, în loc să le contracareze.
Provocări legate de conținut vizual și de context
Un alt aspect critic evidențiat de raport privește gestionarea conținutului vizual. Începând cu ianuarie 2026, publicații internaționale au relevat faptul că platformele asociate cu Grok au fost implicate în generarea unui volum mare de imagini sexualizate, unele înfățișând minori. În timp ce această problemă nu implică direct antisemitism, ea reflectă vulnerabilitatea acestor sisteme în fața utilizării abuzive. În plus, compania a introdus restricții și măsuri de moderare pentru a limita astfel de abuzuri, dar semnalul rămâne clar: păcălirea și exploatarea acestor tehnologii devin, tot mai mult, un teren de litigiu.
Lectia istoriei și responsabilitatea modelurilor de AI
Un comentariu nuanțat a venit și din partea șefului ADL, Jonathan Greenblatt, care a făcut o paralelă cu Henry Ford, industriasul și anti-semitul notoriu din secolul trecut. În 2022, Greenblatt comentase că Elon Musk reprezintă, pentru era digitală, un „Henry Ford al vremurilor noastre”. Înumărând astfel, se evidențiază pericolul ca o personalitate influentă și de resursă uriașă să controleze un canal de distribuție a informației. În cazul AI, „canalul” nu mai e o tiparniță, ci un sistem conversațional care poate răspândi prejudecăți în mod subtil și aparent inofensiv, dar cu efecte pe termen lung.
Implicații pentru utilizatori și dezvoltatori
Astfel, pentru utilizatorii obișnuiți, concluziile sunt clare: trebuie să fie vigilenți atunci când interacționează cu aceste sisteme. Un răspuns care încearcă să „echilibreze” ura sau să normalizeze teoriile conspirației reprezintă, mai degrabă, un semnal de alarmă decât o sursă de încredere. În timp ce modelele evoluează, responsabilitatea celor care le dezvoltă și le moderează devine esențială pentru a preveni răspândirea toxicității și a prejudecăților în spațiul digital.
Pe măsură ce cercetările continuă și dezbaterile privind reglementarea acestor tehnologii se intensifică, devine tot mai clar că păstrarea unor „bariere” eficiente și a unui sistem de verificare acreditată va fi primordială. Într-o lume în care AI-ul poate accelera și amplifica prejudecățile, responsabilitatea de a controla și monitoriza aceste tehnologii revine, în egală măsură, dezvoltatorilor, autorităților și societății civile.
