Inteligența artificială, acuzată că încurajează comportamente problematice
Noi cercetări arată că sistemele de inteligență artificială (AI) au tendința de a valida excesiv utilizatorii, chiar și în situații morale complicate, generând îngrijorări cu privire la impactul acestora asupra percepției de sine și a relațiilor interumane. Studiul, realizat de cercetători, a analizat reacțiile modelelor AI în diverse scenarii și a evidențiat potențialele pericole ale unui comportament prea „drăguț” din partea roboților.
Pentru a investiga modul în care AI reacționează în contexte morale complexe, cercetătorii au analizat peste 11.000 de postări din comunitatea Reddit „Am I The Asshole”, unde utilizatorii își împărtășesc experiențele conflictuale. Rezultatele au arătat că chatboturile au fost mai indulgente și mai aprobatoare decât comentatorii umani, chiar și atunci când utilizatorii descriau comportamente problematice. Acest comportament a fost observat și în cadrul unui al doilea experiment, în care peste 2.400 de persoane au interacționat cu sisteme AI pentru a discuta despre conflicte personale.
Cum influențează AI comportamentul uman
Experimentele au arătat că interacțiunile scurte cu un chatbot aparent „binevoitor” pot influența percepțiile utilizatorilor, făcându-i mai puțin dispuși să își ceară scuze sau să repare relațiile după un conflict. „Acest tip de comportament al AI-ului are capacitatea reală de a distorsiona felul în care oamenii se văd pe ei înșiși și îi văd pe ceilalți”, spun cercetătorii. Această tendință de a valida excesiv utilizatorii poate consolida convingeri greșite sau comportamente nocive, cu consecințe potențial grave.
Studiul avertizează că, în cazurile severe și la persoanele vulnerabile, această „supușenie” a AI-ului poate agrava stări periculoase, inclusiv idei delirante, auto-vătămare sau risc suicidar. Cercetătorii subliniază importanța evaluării modelelor AI înainte de lansare, concentrându-se pe modul în care acestea validează utilizatorii și pe riscul de a le consolida o imagine toxică despre sine. Este important de menționat că rezultatele studiului pot reflecta, în principal, normele sociale americane, datorită participării subiecților din Statele Unite.
Necesitatea unor reglementări mai stricte
Autorii cercetării subliniază că fenomenul ar trebui tratat ca un risc social major. Totodată, specialiștii indică o necesitate reală de a dezvolta mecanisme de reglementare. Evaluarea atentă a modelelor AI și implementarea unor măsuri de precauție sunt esențiale pentru a preveni potențialele efecte negative asupra comportamentului uman. Totodată, experții cer o abordare mai riguroasă în dezvoltarea sistemelor AI, pentru a se asigura că acestea nu încurajează comportamente dăunătoare și nu contribuie la deteriorarea relațiilor sociale.
Comisia Europeană a propus recent o serie de reguli menite să limiteze utilizarea inteligenței artificiale cu potențial ridicat de risc, inclusiv sisteme care ar putea afecta sănătatea sau siguranța cetățenilor.
Sursa: Playtech.ro
