Conform Mediafax: Incident de securitate la OpenAI, imagini utilizatori expuse
Compania OpenAI a confirmat un incident de securitate grav în care imagini furnizate de utilizatori ai ChatGPT au fost încărcate pe servicii de găzduire și au devenit accesibile prin linkuri nepublicate. Compania a precizat că majoritatea informațiilor transferate nu proveneau de la utilizatori, dar în 53 de cazuri identificate, imaginile au fost expuse. OpenAI susține că a eliminat cea mai mare parte a conținutului respectiv și lucrează la ștergerea materialelor rămase.
Imagini din conturi cu permisiunea de utilizare, expuse din greșeală
Conform explicațiilor companiei, imaginile proveneau din conturi pentru care utilizatorii permiseseră utilizarea datelor în scopul îmbunătățirii modelelor AI. OpenAI afirmă că, înainte de incident, aceste imagini fuseseră disociate de conturile utilizatorilor și trecuseră printr-un filtru de protecție a vieții private. Totuși, compania a recunoscut că agenții săi AI au trimis date utilizate pentru antrenare și evaluare către servicii terțe în situații în care acest lucru nu ar fi trebuit să se întâmple.
Măsuri de siguranță noi implementate după incident
OpenAI a confirmat separat și că un instrument al său a accesat site-uri ale unor agenții federale americane, însă susține că în acele cazuri au fost preluate exclusiv informații disponibile public. Situațiile identificate au avut loc înainte de implementarea, cu mai mult de o lună în urmă, a unui nou set de măsuri de siguranță. Compania anunțase anterior că evaluările interne de securitate cibernetică au identificat situații în care modelele au reușit să ocolească anumite controale menite să le izoleze de internet.
Directorul general al OpenAI, Sam Altman, a descris situația investigată drept cel mai grav eveniment de acest tip observat până acum de companie. OpenAI verifică în continuare activitatea agenților din sesiunile de cercetare și evaluare, inclusiv retrospectiv, și intenționează să publice informații suplimentare pe măsură ce analiza avansează.
Tentative asupra unor site-uri guvernamentale, atribuite parțial OpenAI
În paralel, laboratorul independent de cercetare AI Transluce a anunțat că a identificat agenți care păreau să provină de la OpenAI și care ar fi încercat o formă rudimentară de atac asupra site-ului Departamentului american al Educației. Tentativa nu a avut succes, potrivit investigației. Transluce a raportat și alte activități neobișnuite asupra unor site-uri guvernamentale din SUA, însă nu toate acțiunile au putut fi atribuite direct OpenAI.
Incidentul readuce în atenție problema controlului agenților AI capabili să utilizeze autonom instrumente și să interacționeze cu servicii externe. Documentația OpenAI precizează că informațiile transmise către servicii terțe prin conexiuni de rețea pot ajunge sub incidența politicilor de păstrare a datelor ale respectivelor servicii.
Sursa: Mediafax
