Uniunea Europeană se pregătește să interzică dezvoltarea și utilizarea sistemelor de inteligență artificială (AI) care pot genera imagini explicite sau intime ale persoanelor reale fără acordul acestora. Noua reglementare face parte dintr-un pachet legislativ mai amplu care vizează controlul tehnologiilor AI și introduce o abordare inovatoare, concentrându-se direct pe dezvoltatori, nu doar pe utilizatorii finali.
O inițiativă legislativă cu impact major
Propunerea legislativă, care urmează să fie adoptată, prevede că dezvoltatorii de sisteme AI vor fi obligați să demonstreze că au implementat mecanisme eficiente pentru a preveni generarea de conținut ilegal. În practică, acest lucru ar putea însemna implementarea unor filtre mai stricte, verificări suplimentare și limitări tehnice ale modelelor AI. „Este pentru prima dată când legislația europeană vizează direct tehnologia în sine, nu doar utilizatorii care o folosesc abuziv”, se arată în documentele de referință. Schimbarea reflectă evoluția rapidă a AI, capabilă să creeze imagini extrem de realiste, greu de distins de cele autentice.
Scandalul Grok și consecințele sale
Decizia a fost accelerată de scandalul generat de chatbot-ul Grok, dezvoltat de xAI. Platforma a fost utilizată pentru a genera imagini intime false, bazate pe fotografii reale ale unor persoane. Această situație a stârnit un val de critici și a determinat compania să limiteze rapid funcțiile respective. În paralel, autoritățile din UE și Marea Britanie au demarat investigații pentru a verifica dacă au fost încălcate legile privind siguranța online și moderarea conținutului. Incidența a subliniat necesitatea unor reguli mai clare și a unei responsabilități mai mari în domeniul AI.
Implicații pentru companii și utilizatori
Legislația ridică, de asemenea, întrebări dificile. O provocare majoră este cum poate un sistem AI să determine dacă o persoană și-a dat consimțământul pentru crearea unei imagini. Această problemă tehnică va influența modul în care sunt dezvoltate aplicațiile viitoare. Propunerea face parte dintr-un efort mai larg al UE de a reglementa inteligența artificială și de a proteja utilizatorii. „Pe măsură ce tehnologia devine tot mai puternică, presiunea pentru reguli clare și responsabilitate crește”, se menționează în raportul oficial. Parlamentul European va dezbate în următoarele luni propunerea, cu posibilitatea de a aduce amendamente.
Sursa: Playtech.ro
