IA: Noile arme nucleare? Modelele avansate aleg escaladarea în simulările de criză
Modelele sofisticate de inteligență artificială (IA), inclusiv ChatGPT, Claude și Gemini, au demonstrat o înclinație alarmantă spre escaladarea conflictelor nucleare în cadrul simulărilor de criză. Cercetarea, realizată de un specialist de la King’s College London, dezvăluie că aceste sisteme optează în mod repetat pentru amenințări cu arme nucleare în diverse scenarii geopolitice. Rezultatele ridică semne serioase de întrebare cu privire la influența pe care o poate avea tehnologia IA asupra deciziilor strategice viitoare.
Metodologia: simulări inspirate de Războiul Rece
Studiul a comparat comportamentul a trei platforme lingvistice majore: ChatGPT (OpenAI), Claude (Anthropic) și Gemini Flash (Google). Fiecare dintre algoritmi a fost plasat în rolul liderului unei superputeri atomice, într-un context inspirat de tensiunile din timpul Războiului Rece. Sistemele au fost supuse unor exerciții în care trebuia să răspundă la manevrele adversarului și să elaboreze tactici diplomatice și militare.
Rezultatele au fost îngrijorătoare. În fiecare scenariu testat, cel puțin un sistem de IA a ales să intensifice conflictul prin amenințări nucleare. Kenneth Payne, autorul studiului, a remarcat un aspect critic: „toate cele trei modele au tratat armele nucleare tactice drept o simplă treaptă în lanțul escaladării”. Această percepție sugerează o lipsă de conștientizare a consecințelor catastrofale ale unui război nuclear.
Comportamente distincte, rezultate similare
Deși au manifestat comportamente distincte, toate platformele au evidențiat aceeași tendință periculoasă. Claude a sugerat lovituri atomice în 64% din situații, deși a evitat să propună un război nuclear total. ChatGPT, inițial reticent la escaladare, a recurs frecvent la amenințări nucleare sub presiunea timpului. Gemini a fost cel mai imprevizibil, oscilând între metode convenționale și propuneri de atacuri strategice masive.
Într-un caz concret, Gemini a emis un ultimatum explicit: oprirea imediată a operațiunilor adverse sau declanșarea „unei lansări strategice nucleare complete”. Această lipsă de reținere sugerează că algoritmii pot prezenta o abordare extrem de riscantă în contextul crizelor geopolitice, unde consecințele pot fi devastatoare.
Echipa de cercetare a oferit sistemelor IA opțiuni de de-escaladare, de la compromisuri diplomatice minore până la reluarea jocului de la zero. Cu toate acestea, aceste alternative au fost ignorate în majoritatea cazurilor. Revenirea la situația inițială s-a produs în doar 7% din cazuri, indicând o preferință clară pentru pozițiile dure sau ostile.
Deși autorii studiului subliniază că nu există intenția de a încredința codurile nucleare inteligenței artificiale, integrrea acestor sisteme în analiza strategică și asistarea decizională le conferă o importanță crescândă. O explicație plauzibilă ar fi că software-ul procesează conflictul în termeni abstracți, fiind lipsit de încărcătura emoțională și istorică care îi face pe oameni să conștientizeze tragedia de la Hiroshima. Un alt factor ar putea fi incapacitatea sistemelor de a „înțelege” consecințele reale ale unui război atomic.
În contextul extinderii IA în sectoare cheie, este crucial să înțelegem mecanismul de „raționament” al acestor sisteme. Guvernele din întreaga lume vor analiza atent rezultatele cercetării.
Sursa: Mediafax
