Imagini degradante cu copii și femei circulă pe X, în ciuda angajamentului platformei de a le interzice
Imaginile degradante cu minori și femei, căror haine le-au fost digital îndepărtate, continuă să fie distribuite pe platforma lui Elon Musk, X, în ciuda promisiunilor de a suspenda utilizatorii care generează astfel de conținut. Aceste acțiuni au stârnit numeroase îngrijorări, mai ales după ce chatbot-ul Grok AI a fost actualizat, facilitând crearea de fotografii sexualizate.
Reacția autorităților britanice
Ofcom, organismul de reglementare al comunicațiilor din Regatul Unit, a declarat că a luat legătura urgent cu X și xAI pentru a înțelege măsurile pe care acestea le-au adoptat pentru a respecta obligațiile legale de protecție a utilizatorilor. Reprezentanții Ofcom au precizat că vor evalua necesitatea unei investigații, în funcție de răspunsul companiei.
Politicienii britanici și activiștii pentru drepturile femeilor au criticat guvernul, acuzându-l că întârzie să pună în aplicare legislația adoptată cu șase luni în urmă, care interzice crearea unor astfel de imagini intime. Acest climat de incertitudine a fost exacerbat de faptul că multe victime ale acestor practici nu au protecția necesară în fața infractionalităților cibernetice.
Îngrijorările comunității internaționale
În contextul în care valul de imagini degradată si̦ sexualizate a devenit viral în perioada sărbătorilor de iarnă, Comisia Europeană a anunțat că analizează, cu seriozitate, plângerile legate de utilizarea Grok pentru generarea și distribuirea de imagini sexualizate cu copii. Aceasta subliniază impactul global al fenomenului și nevoia de coordonare internațională în combaterea unor astfel de abuzuri.
Evoluțiile recente au atras atenția asupra unei probleme de amploare. O cercetare realizată de AI Forensics a identificat un număr alarmant de imagini generate în această direcție. Din cele 50.000 de menționări ale contului Grok pe X, aproximativ un sfert au fost solicitări pentru generarea de noi imagini, multe dintre acestea fiind de natură explicit sexuală.
Vocea victimelor
Printre vocile cele mai răsunătoare se află Ashley St Clair, mama unuia dintre copiii lui Musk, care a reclamant că Grok i-a generat o imagine din copilărie în care apărea în costum de baie. “Este dezgustător să vezi o astfel de manipulare a imaginii unui copil,” a declarat ea. La fel de revoltată este și actrița Nell Fisher, care la doar 14 ani a fost victima unei manipulări prin care a fost plasată într-o costum de baie provocatoare.
Furia a crescut pe rețelele sociale, unde multe femei au descoperit că imaginile lor au fost editate fără consimțământul lor, cu conținut de natură extrem de degradantă. Unele dintre aceste imagini prezintă substanțe care sugerează acte de agresiune sexuală, ceea ce intensifică gravitatea situației.
Responsabilitatea platformelor digitale
În răspunsul său, Musk a încercat să minimizeze problema, inițial exprimând amuzament față de tendințele de pe platformă. Ulterior, după reacția furioasă a publicului și a experților legali, a afirmat că “orice utilizator al Grok care generează conținut ilegal va suporta aceleași consecințe ca și cei care încarcă material ilegal”. Cu toate acestea, mulți au rămas sceptici în privința angajamentului real al platformei de a controla astfel de abuzuri.
Un purtător de cuvânt al X a declarat că platforma ia măsuri împotriva conținutului ilegal, inclusiv prin suspendarea conturilor și colaborarea cu autoritățile locale. Deși Grok a recunoscut existența unor “lapse de siguranță”, nu este clar dacă aceste măsuri sunt implementate în mod eficient.
Situația subliniază o lacună legislativă în Regatul Unit, unde, deși crearea unor imagini fără consimțământ este ilegală, reglementările actuale nu sunt suficient de clare sau de riguroase pentru a aborda rapid aceste abuzuri. Campaniile pentru o legislație mai strictă au crescut, dar acțiunile concrete întârzie, lăsând victimele acestor infracțiuni într-o vulnerabilitate continuă.
