Cercetătorii trag un semnal de alarmă cu privire la potențialul semnificativ al personajelor virtuale generate de inteligența artificială (IA) de a influența opinia publică și sistemele democratice. Studiile recente arată că aceste entități digitale, din ce în ce mai greu de distins de oameni, pot participa activ la dezbaterile online și pot manipula percepțiile cu o eficiență remarcabilă.
Noi instrumente pentru manipulare online
Un document recent publicat într-o revistă de specialitate detaliază modul în care aceste personaje IA, capabile să imite comportamentul uman online, pot fi folosite pentru a influența discuțiile. Sistemele respective pot intra în comunități digitale, pot participa la conversații și pot promova anumite puncte de vedere cu o viteză extraordinară. Spre deosebire de rețelele de boți mai vechi, aceste agenții IA pot colabora instantaneu, pot răspunde la feedback și pot menține narațiuni coerente pe mii de conturi.
Progresele înregistrate în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au facilitat posibilitatea ca un singur operator să controleze rețele vaste de „voci” IA. Aceste personaje pot părea autentice, adaptându-se la limbajul și tonul specific fiecărei comunități online și interacționând într-un mod care le face greu de deosebit de utilizatorii umani. Mai mult, ele au capacitatea de a desfășura milioane de experimente la scară mică pentru a determina care mesaje au cel mai mare impact.
Prin această metodă, agenții IA își pot rafina strategiile de comunicare în timp real, creând iluzia unui consens public larg. În realitate, acest consens este creat artificial și are ca scop influențarea dezbaterilor politice.
Deepfake-urile și știrile false, primele semne de alarmă
Deși „roiurile” de IA complet dezvoltate sunt încă în stadiul teoretic, semnele de avertizare sunt deja vizibile. Deepfake-urile și sursele de știri false au influențat deja discuțiile electorale în țări precum Statele Unite, Taiwan, Indonezia și India, conform unor cercetători. În același timp, organizațiile de monitorizare au identificat rețele pro-Kremlin răspândind cantități mari de conținut online.
Se crede că această activitate are drept scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, afectând potențial comportamentul acestor sisteme și informațiile pe care le prioritizează. Astfel, prin influențarea datelor de antrenament, pot fi create sisteme de IA care să răspândească anumite narative sau să promoveze anumite agende politice.
Impactul asupra democrației, un viitor incert
Experții avertizează asupra impactului potențial al acestor „roiuri” de IA asupra echilibrului de putere în societățile democratice. Cercetătorii subliniază că aceste sisteme vor schimba modul în care oamenii percep informațiile online. Un expert a avertizat că „un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
Analizele sugerează că această creștere a utilizării IA în manipularea informațiilor ar putea avea consecințe semnificative asupra proceselor democratice.
