Conform Mediafax: ONU lansează un avertisment sever privind inteligența artificială autonomă
Înaltul Comisar al Națiunilor Unite pentru Drepturile Omului, VOLKER TURK, a tras un semnal de alarmă cu privire la dezvoltarea rapidă a sistemelor de inteligență artificială (IA) tot mai autonome, avertizând că acestea ar putea depăși capacitatea umană de control. Declarațiile au fost făcute luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului. Oficialul ONU a pledat pentru instituirea rapidă a unui sistem de guvernanță pentru inteligența artificială, înainte ca tehnologia să devină prea dificil de gestionat.
Linii roșii pentru inteligența artificială
VOLKER TURK a subliniat necesitatea stabilirii unor „linii roșii” comune privind dezvoltarea și utilizarea inteligenței artificiale. Acestea ar trebui să vizeze statele care găzduiesc infrastructura IA, precum și pe cele implicate în lanțurile de aprovizionare. „Avem nevoie, cel puțin, ca țările care găzduiesc IA și cele care participă la lanțurile lor de aprovizionare să convină asupra unor linii roșii comune”, a declarat oficialul ONU. El a cerut, de asemenea, verificarea independentă a sistemelor de IA și o cooperare mai strânsă între companiile din industrie în ceea ce privește siguranța. În zilele următoare, TURK intenționează să transmită o scrisoare companiilor din sector, îndemnându-le să ia măsuri concrete pentru reducerea riscurilor.
Autonomia crescândă a modelelor IA
Modelele generative de inteligență artificială demonstrează deja o capacitate crescută de a executa sarcini complexe și de a lua decizii fără o intervenție umană constantă. Unele sisteme pot identifica singure pașii necesari pentru a îndeplini o sarcină, depășind simpla urmărire a unor instrucțiuni secvențiale primite de la utilizator. Această autonomie tot mai accentuată ridică întrebări legitime despre modul în care comportamentul acestor sisteme poate fi supravegheat și limitat eficient.
Impactul IA asupra societății
Riscurile asociate cu inteligența artificială nu se limitează doar la posibilitatea ca sistemele să devină incontrolabile. VOLKER TURK a atras atenția asupra impactului semnificativ pe care această tehnologie îl poate avea asupra vieții cotidiene, solicitând evaluarea atentă a efectelor asupra pieței muncii, democrației, mediului și, în ultimă instanță, asupra drepturilor fundamentale ale omului. Oficialul a criticat, de asemenea, concentrarea excesivă a puterii tehnologice în mâinile unui număr restrâns de companii și indivizi, subliniind că dezvoltarea IA trebuie să fie însoțită de reglementări solide care să protejeze drepturile oamenilor.
El a menționat exemplele pozitive din Uniunea Europeană și Coreea de Sud, care au implementat măsuri pentru limitarea riscurilor din mediul digital și din domeniul inteligenței artificiale, precum Digital Services Act (DSA) în UE, care obligă marile platforme online să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, și cerințe de transparență în Coreea de Sud. Cu toate acestea, TURK a avertizat că recunoașterea necesității unor reglementări nu s-a transpus încă suficient în măsuri concrete. VOLKER TURK a reiterat îngrijorările exprimate de unii actori din sector, conform cărora IA avansată ar putea reprezenta un „risc existențial pentru umanitate”.
Sursa: Mediafax
