Compania X, acuzată de disponibilizarea aplicației Grok pentru generarea de conținut sexual explicit
La începutul acestei săptămâni, compania din spatele platformei X a făcut publice măsuri menite să limiteze utilizarea tehnologiei de inteligență artificială Grok pentru crearea de imagini și videoclipuri cu conținut sexual neconsensual. Reprezentanții au declarat că au implementat „instrumente tehnologice” pentru a preveni abuzurile, subliniind „toleranța zero” față de nuditatea nonconsensuală și exploatarea sexuală, inclusiv în cazul minorilor. Cu toate acestea, recente investigații și dezvăluiri arată că riscul persistă, fiind nevoie de măsuri mai ferme pentru a proteja drepturile și siguranța utilizatorilor.
Aplicația Grok și riscurile violenței online
Dincolo de declarațiile oficiale, o anchetă realizată de publicația britanică The Guardian a scos la lumină o situație alarmantă. În ciuda măsurilor anunțate, versiunea separată a aplicației, denumită Grok Imagine, rămâne disponibilă pe platforme web și poate fi utilizată fără probleme pentru generarea de imagini și videoclipuri de natură sexualizată, pornind de la fotografii obișnuite ale unor femei îmbrăcate sau chiar de la imagini publice. Aceste materiale pot fi apoi distribuite rapid pe rețeaua socială X, făcând posibilă răspândirea în masă a conținutului abuziv cu doar câteva clicuri.
Reprezentanții organizațiilor pentru drepturile femeilor și lupta împotriva violenței online sunt hotărâți să tragă un semnal de alarmă. Aceștia susțin că situația relevă o lipsă acută de asumare reală din partea companiei, care continuă să pună în circulație instrumente periculoase, deși a promis limitări. „Este inadmisibil ca asemenea instrumente să fie disponibile în continuare. Vorbim despre abuz sexual digital și despre o încălcare gravă a consimțământului”, au transmis activiștii, solicitând intervenția rapidă a autorităților competente pentru restricționarea acestor practici.
Reacții oficiale și preocupări la nivel internațional
Situația a atras atenția autorităților din mai multe țări. În Marea Britanie, premierul Keir Starmer a catalogat imaginile generate de IA ca fiind „scandaloase”, adăugând că libertatea de exprimare nu trebuie să justifice încălcarea dreptului la consimțământ. În paralel, Ofcom, autoritatea de reglementare în domeniul mass-media, a demarat o anchetă oficială pentru a verifica dacă platforma X respectă legislația privind siguranța online. Anunțul a fost urmat de investigații și în alte țări, precum Canada, unde autoritățile își doresc să înțeleagă mai bine implicațiile acestor tehnologii.
Pe lângă aceste reacții, mai multe state din Asia analizează posibilitatea de a bloca complet accesul la Grok, considerând riscurile pe care le aduce în contextul creatorii și distribuitorii de conținut abuziv.
Responsabilitatea tehnologică și perspectivele viitoare
Situația Grok nu este izolată, dar readuce în discuție problema responsabilității companiilor din domeniul tehnologic. Promovarea inteligenței artificiale generative ca un instrument revoluționar trebuie să fie însoțită de măsuri stricte pentru prevenirea abuzurilor. Specialiștii avertizează că, în absența unor norme clare și a aplicării lor riguroase, aceste tehnologii pot fi transformate în arme împotriva drepturilor femeilor, alimentând cultura hărțuirii digitale și încălcarea intimității.
Deocamdată, compania din spatele platformei X încearcă să se apere, dar presiunea publicului și a autorităților internaționale crește. Criticile și investigațiile vor obliga, cel mai probabil, la ajustări majore și la elaborarea unor reguli mai stricte pentru utilizarea AI-ului generativ, astfel încât tehnologia să nu fie folosită ca instrument de abuz și opresiune. În condițiile în care controversele se înmulțesc, perspectivele pentru un cadru mai sigur și responsabil în domeniu rămân încă incert.
