Coreea de Sud devine prima țară din lume care implementează o legislație strictă pentru reglementarea utilizării inteligenței artificiale, o mișcare clar menită să anticipeze riscurile și să stimuleze inovația în același timp. Legea, intrată în vigoare săptămâna trecută, obligă companiile care dezvoltă și furnizează servicii AI să aplice etichete invizibile pe conținutul generat artificial și prevede reguli stricte pentru utilizarea sistemelor cu impact ridicat. Dar în timp ce autoritățile spirituiesc să creeze un cadru legal solid, criticii, atât din partea startup-urilor locale, cât și din partea societății civile, avertizează asupra faptului că noile prevederi pot merge prea departe sau, din contră, nu asigură protecția necesară utilizatorilor vulnerabili.
Legislația, un pas istoric în reglementarea AI la nivel mondial
Implementată pe fondul unui val de temeri globale legate de manipularea informației și de riscul de dezinformare, noua lege reprezintă o premieră mondială. În esență, ea cere companiilor să insereze filigrane digitale invizibile pe rezultatele generate de AI – fie că este vorba de cărți de artă, desene animate sau alte forme de conținut vizual. În cazul conținutului profund falsificat, precum deepfake-urile realiste, legislația solicită etichete vizibile, menite să informeze publicul despre natura artificială a materialului.
Pe lângă această regulă, legea impune evaluatorilor de sisteme de inteligență artificială să realizeze analize de risc și să documenteze deciziile automate. În cazul în care o decizie critică, precum aprobarea unui împrumut sau diagnostic medical, este luată exclusiv de AI, trebuie să existe o justificare clară și trasabilă. Autoritățile recunosc însă că placuta de prag pentru a asigura o siguranță completă este momentan aproape intangibilă, deoarece niciun model nu îndeplinește toate criteriile stabilite din cauza tehnologiei actuale.
Impactul asupra industriei și protecția cetățenilor în contextul fenomenului deepfake
Pentru sectorul tehnologic, noile reguli aduc atât oportunități, cât și provocări. În timp ce scopul oficialilor este de a sprijini dezvoltarea industriei AI în mod responsabil, critici din cadrul startup-urilor și organizațiilor civice susțin că măsura duce la o reglementare excesivă, care poate inhiba inovația sau poate lăsa fără protecție utilizatorii expuși riscurilor.
Coreea de Sud are un rol de lider în fenomenul deepfake, reprezentând peste jumătate din cazurile globale raportate ale victimelor. În 2023, un raport al unei firme americane de specialitate a arătat că peste 53% din aceste victime globale sunt din această țară. Mai recent, o investigație din 2024 a scos la iveală existența unor rețele masive pe platforma Telegram, unde se distribuiau imagini sexuale fake create cu ajutorul AI, implicând femei și minore.
Originea acestei legislații datează însă dinainte de criza deepfake – primul proiect de lege privind AI fiind depus în Parlamentul sud-coreean încă din iulie 2020. În ciuda întârzierilor, inițiativa a fost alimentată nu doar de dorința de a controla extremismul digital, ci și de eforturile guvernului de a poziționa Coreea de Sud în top trei țări în domeniul inteligenței artificiale, alături de Statele Unite și China. Oficialii subliniază că legile sunt în mare parte menite să sprijine și să stimuleze creșterea industriei, evitând restricțiile excesive.
Limitările și viitorul reglementării AI în Coreea de Sud
Deși noua legislație marchează un pas important pentru protecția cetățenilor, criticii atrag atenția că măsurile actuale oferă, cel mult, o protecție limitată. Grupurile civice și experții în drepturile omului avertizează că sistemele nu pot ancora încă în mod real o responsabilizare a operatorilor, iar riscul de abuz sau de prejudiciu persistă în spațiul nesupravegheat al AI-ului.
Intențiile guvernului sunt clare: vrea să asigure un echilibru între stimularea industriei și protecția publicului, dar în contextul exponențial al avansurilor tehnologice, această legislație trebuie cel puțin adaptată și completată pe măsură ce noile provocări apar. În prezent, se pune un accent deosebit pe dezvoltarea de modele de inteligență artificială mai sigure, însă chiar și elitistele standarde internaționale par departe de a fi realizabile, ori pentru a fi eficiente, trebuie să fie susținute de o supraveghere constantă și de reglementări flexibile, în ritmul rapid al evoluțiilor tehnologice.
