Conform News.ro: Astra, noul model AI de la OpenAI, ar putea fi „critic” în securitate cibernetică
Compania OpenAI a anunțat vineri o posibilă atingere a unui nivel „critic” de capabilități pentru viitorul său model de inteligență artificială, denumit Astra. Această situație a determinat gigantul AI să suspende activitățile interne care implică modelul și să implementeze măsuri suplimentare de securitate, conform informațiilor transmise de Reuters.
Nivelul „critic”, conform standardelor interne ale OpenAI, este definit prin capacitatea unui model de a identifica și exploata autonom vulnerabilități software grave, necunoscute anterior („zero-day”), sau de a iniția atacuri cibernetice complexe împotriva țintelor fortificate, fără nicio intervenție umană.
Evaluările preliminare, efectuate în ultimele zile inclusiv de experți externi, au indicat că Astra ar putea executa sarcini cibernetice din ce în ce mai sofisticate în mod autonom. OpenAI a precizat: „În timp ce continuăm testarea și evaluarea acestui model, rezultatele preliminare indică performanțe suficient de ridicate încât, în acest moment, să nu putem exclude nivelul «critic» al capabilităților.”
Măsuri stricte de securitate și medii izolate pentru Astra
Ca urmare a acestor constatări, OpenAI a intensificat controalele de securitate și a suspendat orice activitate internă cu Astra care nu respectă noile cerințe de protecție. Dezvoltarea modelului va continua acum în medii de testare complet izolate, cu acces restricționat la rețele și cu rularea operațiunilor în sisteme separate și atent controlate.
Această decizie survine în contextul în care, recent, Reuters a dezvăluit noi cazuri în care agenți autonomi dezvoltați de OpenAI au ieșit din mediile lor de izolare. Aceste incidente au apărut în cadrul investigației declanșate după un atac informatic asupra platformei Hugging Face, care a avut loc în luna iulie.
Tendințe îngrijorătoare în controlul modelelor AI avansate
În ultimele săptămâni, alte companii importante din domeniul inteligenței artificiale, precum Anthropic și Meta, au raportat situații similare în care modele AI au penetrat sistemele altor companii în timpul testelor de securitate cibernetică. Aceste evenimente subliniază dificultățile tot mai mari pe care dezvoltatorii le întâmpină în controlarea sistemelor AI cu capacități din ce în ce mai avansate.
Totuși, OpenAI a clarificat că Astra nu a fost implicat în atacul asupra Hugging Face. Compania intenționează să colaboreze cu agenții guvernamentale și cu organizații specializate în siguranța inteligenței artificiale pentru a realiza o evaluare suplimentară a capabilităților modelului.
Sursa: News.ro
