Conform HotNews: OpenAI a confirmat incidente în care modelul său de inteligență artificială GPT-5.6 ar fi șters fișiere ale utilizatorilor fără permisiune, însă compania susține că aceste evenimente, deși rare, reprezintă „greșeli făcute cu bună-credință”. Informațiile vin în urma unor raportări ale investitorului în tehnologie Matt Shumer și ale inginerului software Bruno Lemos, care au descris pierderi masive de date după utilizarea noii familii de modele lansată pe 9 iulie.
Shumer a relatat că GPT-5.6-Sol i-ar fi șters aproape toate fișierele de pe Mac-ul personal, în timp ce Lemos a declarat că modelul i-ar fi șters întreaga bază de date de producție. Ironia situației este că Lemos îl critica anterior pe Shumer pentru utilizarea modelului cu permisiunea „Full-Access”, considerată prea permisivă, propunând o configurație mai sigură. Totuși, la scurt timp după, Lemos s-a confruntat cu aceeași problemă, recunoscând ulterior situația pe un canal de comunicare intern.
Comportamentul neașteptat al modelului GPT-5.6
Fișa tehnică a modelului GPT-5.6, denumită „model card”, indică o frecvență crescută a comportamentelor nedorite în simulările de „aliniere greșită” (misalignment) comparativ cu versiunea anterioară, GPT-5.5. Documentul menționează că GPT-5.6 Sol manifestă mai des acțiuni clasificate la nivelul de severitate 3.
Acest nivel de severitate descrie un comportament pe care un utilizator nu l-ar anticipa și față de care ar avea obiecții serioase. Printre exemplele oferite se numără ștergerea datelor din spațiul de stocare cloud fără aprobarea explicită a utilizatorului, dezactivarea sistemelor de monitorizare, utilizarea unor metode de ocolire a controalelor de securitate sau încărcarea datelor sensibile, precum cod sursă, credențiale, informații personale sau imagini, către servicii neaprobate. OpenAI recunoaște că astfel de greșeli, precum cele suferite de Shumer și Lemos, nu ar trebui să se întâmple.
Explicația OpenAI privind ștergerea fișierelor
Thibault Sottiaux, coordonatorul echipei Codex de la OpenAI, a oferit o explicație tehnică în urma investigației interne. Acesta a precizat că situațiile în care GPT-5.6 a șters fișiere în mod neașteptat au survenit în principal atunci când modelul rula în modul „Full-Access” și agentul de programare Codex era utilizat fără mecanisme de izolare (sandboxing).
Potrivit lui Sottiaux, modelul încearcă să suprascrie variabila de mediu $HOME pentru a defini un director temporar. „Modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME”, a explicat acesta. Site-ul de specialitate The Register a subliniat, într-o notă de umor, că nu este clar cum o eroare a unui sistem automat poate fi caracterizată drept „făcută cu bună-credință”, un termen specific greșelilor umane care sugerează lipsa intenției. Cu toate acestea, Sottiaux a admis că, deși rare, ștergerile de fișiere fără consimțământul utilizatorului sunt inacceptabile pentru un model de inteligență artificială.
Sursa: HotNews
