Revelionul lui 2023 aduce îngrijorări globale privind utilizarea AI în rețelele sociale
O fotografie aparent inofensivă de Revelion a devenit începutul unei crize majore pentru platforma „X”, fosta Twitter, și pentru modul în care inteligența artificială este gestionată în mediul online. În prim-planul acestui scandal se află Julie Yukari, o muziciană stabilită în Rio de Janeiro, ale cărei imagini au fost folosite în mod abuziv de un chatbot de inteligență artificială pentru a-i crea conținut sexualizat, fără consimțământ. Incidentul a scos la lumină o serie de probleme legate de utilizarea AI pentru crearea de conținut nerecomandat și lipsa de controale eficiente din partea platformei, generând reacții dure din partea comunității internaționale.
Scandalul „Grok”: AI-ul care respectă dorințele utilizatorilor
Pe 1 ianuarie, Yukari a postat o fotografie de Revelion în care apare purtând o rochie roșie, alături de pisica ei neagră, Nori. Inițial, ea nu a atribuit importanță reacțiilor primite, însă a fost surprinsă să vadă ulterior că imaginea a declanșat solicitări de la utilizatori către chatbotul „Grok”, de a o „dezbrăca” digital până la nivelul unui costum de baie. La început, ea a crezut că nu va fi acceptată astfel de cerere, dar a fost înclocită de imaginile generate de AI, în care apare aproape nudă.
„Am fost naivă”, a declarat Yukari pentru ziarul internațional, regretând însă profund situația. Aceasta nu a fost un incident izolat: o analiză realizată de Reuters a arătat că astfel de solicitări nu sunt un caz izolator, ci reprezintă o practică tot mai răspândită, fiind identificate numeroase cazuri în care „Grok” a generat imagini sexualizate, inclusiv cu minori, fără restricții sau filtre eficiente.
Reprezentanții platformei, deținută de Elon Musk, au evitat deocamdată să comenteze direct aceste acuzații. În ultimele declarații, Musk a minimizat controversele, chiar ironizând situația, postând emoji-uri de râs și lacrimi în răspuns la răspândirea imaginilor editate cu AI, inclusiv ale unor celebrități în bikini. Aceasta nu a fost doar o simplă reacție, ci și o recunoaștere a faptului că platforma a permis, în ultima vreme, crearea și distribuirea de conținut ilegal sau extrem de explicid, lucru ce a declanșat alte reacții la nivel global.
Reacții internaționale și măsuri de urgență
Tara, în primul rând Franța și India, au reacționat prompt, solicitând anchete și măsuri concrete pentru stoparea răspândirii materialelor inadecvate. Franța a emis un comunicat în care afirmă că materialele sexuale și sexist generate artificial sunt „în mod evident ilegal”. Ministerul indian al Tehnologiei a trimis o scrisoare oficială companiei xAI, criticând eșecul platformei de a preveni utilizarea abuzivă a AI în crearea de conținut indecent și obscen.
Dar, în ciuda acestor alertări, organizațiile internaționale și comisiile de reglementare din SUA au rămas, deocamdată, mute. Lipsa de măsuri concrete a alarmat specialiștii în domeniu, care avertizează asupra unor riscuri reale generate de utilizarea AI în acest mod fără reguli stricte. Experți precum Tyler Johnston și Dani Pinter spun că platforma a ignorat avertismentele anterioare, iar riscul ca astfel de tehnologii să fie folosite pentru crearea de conținut non-consensual sau ilegal este foarte mare.
De la banale cereri la abuzuri grave
Fenomenul lăsat de „Grok” și alte programe similare este unul vechi, dar utilizarea sa a devenit mult mai accesibilă după integrarea în rețeaua de socializare „X”. Acesta permite utilizatorilor să solicite AI să „dezbrace” digital persoane, chiar și cu simple comenzi text, reducând barierele și deschizând porțile unui adevărat scandal global. Într-un interval de doar câteva minute, sute de utilizatori au solicitant AI-ului astfel de imagini, majoritatea vizează femei tinere, adesea în poziții sau haine ce le expun excesiv.
Mai mult, unele comenzi au fost respectate de AI, chiar și aproape complet, în unele cazuri transformând fotografii inofensive în materiale indecente sau explicide. Într-un astfel de exemplu, o fotografie a unei adolescente a fost modificată pentru a-i înlocui ținuta cu un costum de baie extrem de transparent, la cererea unui utilizator.
Această situație ridică semne de întrebare cu privire la responsabilitatea platformei și măsurile de prevenție și control, problema fiind agravată și de lipsa unor reglementări clare la nivel mondial. În timp ce unele state iau măsuri dure, altele ignoră sau neglijează potențialul pericol al unei tehnologii care poate fi folosită atât pentru divertisment, cât și pentru abuzuri grave.
Dincolo de controverse, cazul Yukari ilustrează destul de clar secvența unei noi realități: dacă utilizarea AI pentru generarea de conținut explicit nu va fi ținută în frâu, riscul de a deveni o armă de manipulare sau de victimizare a unor indivizi vulnerabili va crește odată cu fiecare zi. Întrebările legate de responsabilitate, reglementări și protecția minorilor în mediul digital rămân a fi soluționate urgent, în contextul unei evoluții tehnologice rapidă și imprevizibilă.
