Conform Mediafax: Dezbaterea privind potențialele riscuri existențiale asociate inteligenței artificiale (AI) capătă amploare, determinând directori executivi din companii de pionierat să ceară o încetinire a ritmului de dezvoltare a sistemelor de vârf. Un cercetător de la Anthropic, Jacob Coxon, a inițiat discuția, invocând teama că sistemele AI ar putea scăpa de sub control, o postare care a atins peste 100 de milioane de vizualizări. Ulterior, Evan Hubinger, coordonatorul cercetării privind alinierea AI la valorile umane la aceeași companie, a estimat că riscul extincției umane în următorul deceniu ar putea depăși 10%.
Cum ar putea AI să devină o amenințare
Scenariile invocate de specialiști se bazează pe două premise principale: depășirea radicală a capacităților cognitive umane de către sistemele viitoare și disocierea obiectivelor acestora de interesele omenirii. Un exemplu clasic descrie o superinteligență care, urmărește un scop aparent benign, dar într-un mod conflictual cu supraviețuirea umană. De asemenea, există temeri legate de utilizarea sistemelor avansate pentru dezvoltarea de arme biologice sau alte acțiuni cu potențial catastrofal. Totuși, unii analiști, precum Michael Vermeer de la RAND, sugerează că o parte dintre aceste predicții se bazează pe prea multe presupuneri neverificabile, apropiindu-se mai mult de credință decât de analiza empirică.
Riscuri mai imediate și concrete
În timp ce extincția totală nu este singurul scenariu, analize precum cea a RAND, citată de Nature, examinează riscuri mai concrete, legate de arme nucleare, biotehnologie și modificări atmosferice. În aceste analize, extincția completă provocată de arme nucleare nu a fost considerată fezabilă, însă alte scenarii nu au putut fi excluse. Totuși, implementarea unor astfel de dezastre de către un sistem AI ar necesita o capacitate semnificativă de interacțiune fizică cu mediul, acțiuni ce ar putea fi detectate și oprite.
Cercetătorii în siguranța AI avertizează asupra unor pericole mai apropiate și tangibile: dezinformarea, atacurile cibernetice, facilitarea dezvoltării de arme biologice, erorile în sisteme critice și utilizarea neadecvată a modelelor în contexte cu risc ridicat.
Capacități îngrijorătoare ale modelelor AI
Companiile de AI au început să publice propriile evaluări. Anthropic a demonstrat că modelele sale pot executa sarcini din domeniul militar și de dezvoltare a armelor, necesitănd anterior experți umani. OpenAI a raportat că GPT-6 Astra a atins un nivel „critic” în securitate cibernetică, putând identifica vulnerabilități necunoscute și elabora metode de exploatare a sistemelor protejate. Aceste constatări au determinat implementarea unor măsuri suplimentare de monitorizare și izolare.
Apelul companiilor la o încetinire
Directorul Anthropic, Dario Amodei, susține că dezvoltarea trebuie „ritmată” pentru a permite măsurilor de siguranță să țină pasul cu progresele tehnologice. Compania a lansat un program ce implică evaluatori independenți pentru verificarea practicilor de securitate. OpenAI pledează pentru standarde internaționale privind evaluarea riscurilor și stabilirea unor condiții clare pentru încetinirea sau oprirea dezvoltării sistemelor avansate.
Opoziția față de limitarea dezvoltării
Cu toate acestea, nu există un consens în industrie. Președintele american DONALD Trump s-a opus public solicitărilor de încetinire. În Congresul american, însă, există inițiative legislative care propun interzicerea dezvoltării „superinteligenței artificiale” și o pauză temporară în dezvoltarea sistemelor AI avansate. La nivel global, lipsa unui cadru unic de reglementare și competiția tehnologică dintre SUA și China complică eforturile de coordonare internațională.
Datele actuale nu permit o concluzie științifică sigură despre un scenariu catastrofal, deși riscul existențial nu poate fi complet exclus. Modelele AI devin din ce în ce mai capabile în domenii precum programarea, cercetarea și securitatea cibernetică, accelerând, conform OpenAI și Anthropic, chiar și dezvoltarea generațiilor viitoare de sisteme. Astfel, întrebarea principală pentru cercetători vizează capacitatea de a măsura și controla riscurile înainte ca sistemele să depășească semnificativ capacitățile actuale.
Sursa: Mediafax
