Conform Mediafax: Modelele de inteligență artificială (IA) prezintă o tendință îngrijorătoare de a amplifica prejudecățile de gen în poveștile pentru copii, chiar și atunci când personajele animale nu au un gen specificat. Un studiu recent a analizat șase modele IA generative importante, solicitându-le să creeze narațiuni despre animale vorbitoare, iar rezultatele au indicat o subreprezentare masivă a personajelor feminine.
Prejudecăți accentuate în poveștile generate de IA
Cercetătorii au analizat aproximativ 23.800 de povești generate de modele precum Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3. Frecvența personajelor feminine în aceste narațiuni a fost extrem de scăzută, apărând în doar 2% dintre cazuri. În schimb, personajele masculine au fost predominant, regăsite în 41% dintre povești, în timp ce în 57% dintre cazuri genul personajelor a fost omis complet de IA.
Această observație contrastează cu analiza unor cărți populare pentru copii, unde personajele animale masculine apar de două ori mai des decât cele feminine. În studiul IA, discrepanța este mult mai accentuată: personajele feminine au apărut în doar 513 povești, comparativ cu 9.673 de povești în care personajele erau de sex masculin, o diferență de aproape 19 ori. Acest lucru sugerează că, în loc să evite sau să distribuie echilibrat genurile, modelele IA generative au perpetuat și chiar au exacerbat stereotipurile existente.
Rolul datelor de antrenament în perpetuarea prejudecăților
Este cunoscut faptul că modelele IA reflectă datele pe baza cărora au fost antrenate. În cazul poveștilor, acestea au fost expuse la un volum mare de texte literare și culturale, care, la rândul lor, pot conține propriile prejudecăți. Totuși, situația observată în studiul IA depășește simpla reflectare a datelor inițiale, indicând o amplificare activă a acestor disparități.
Faptul că IA generează povești cu mai puține personaje feminine decât oamenii care primesc aceeași sarcină este un semnal de alarmă. Pe măsură ce inteligența artificială devine un instrument tot mai utilizat în diverse domenii, de la creație de conținut la cercetare științifică și programare, înțelegerea limitărilor sale, inclusiv a prejudecăților inerente, devine esențială.
Implicații pentru utilizarea inteligenței artificiale
Studiul subliniază importanța supravegherii și a auditării continue a modelelor IA. Informațiile pe care le primesc aceste sisteme, precum și modul în care le procesează și le prezintă, sunt cruciale pentru acuratețea și echitatea rezultatelor. Prezența discretă a personajelor feminine în poveștile create de IA ridică întrebări despre modul în care aceste tehnologii pot contribui la formarea percepțiilor, în special în rândul copiilor.
Modelele IA generative au creat mai puține povești cu personaje animale feminine decât oamenii cărora li s-a dat aceeași cerință. Această constatare este cu atât mai relevantă cu cât IA este integrată tot mai mult în activitățile cotidiene și profesionale. Studiul reprezintă un avertisment important că prejudecățile și chiar acuratețea acestor modele „inteligente” depind în mare măsură de informațiile furnizate de oameni.
Sursa: Mediafax
