Inițiativele de siguranță ale OpenAI, puse sub semnul întrebării
Companiile de inteligență artificială, inclusiv gigantul OpenAI, sunt investigate cu privire la angajamentele lor privind siguranța, după ce promisiunile inițiale nu s-au concretizat. Un nou raport sugerează o discrepanță între declarațiile publice și realitatea resurselor alocate pentru cercetarea siguranței AI, ridicând semne de întrebare asupra priorităților companiei.
Promisiuni și realitate în interiorul OpenAI
În eforturile de a atrage noi angajați, CEO-ul OpenAI, SAM ALTMAN, a subliniat importanța siguranței în dezvoltarea AI. În 2022, a contactat un student doctorand de la Universitatea din Berkeley, exprimându-și îngrijorarea cu privire la „alinierea înșelătoare” a modelelor AI. A propus o investiție de un miliard de dolari în acest domeniu, stârnind entuziasmul în rândul experților. Cu toate acestea, promisiunile lui ALTMAN au început să se schimbe. În loc de investiția inițială, acesta a propus crearea unei echipe interne de „super-aliniere”.
Oficial, s-a anunțat că echipa va primi 20% din resursele de calcul ale companiei. Cu toate acestea, surse din interiorul companiei au dezvăluit că resursele reale alocate au fost mult mai mici, undeva între 1% și 2%. În plus, cercetătorii au constatat că hardware-ul superior a fost rezervat pentru activități generatoare de profit.
Probleme de comunicare și omiterea informațiilor
Pe fondul acestor schimbări, au apărut tensiuni interne și îngrijorări cu privire la transparența conducerii. În cadrul unei întâlniri, SAM ALTMAN a asigurat membrii consiliului de administrație că anumite caracteristici ale modelului GPT-4 au fost aprobate de un comitet de siguranță. Ulterior, s-a constatat că cele mai controversate funcții nu fuseseră aprobate.
Mai mult, ALTMAN a omis să menționeze o breșă de siguranță în India, unde Microsoft a lansat o versiune timpurie a ChatGPT fără a finaliza evaluările de siguranță necesare. Aceste omisiuni și discrepanțe au condus la speculații privind siguranța produselor OpenAI.
Sfârșitul unei echipe de super-aliniere
Echipa de „super-aliniere”, înființată cu promisiunea de a aborda riscurile potențiale ale AI, a fost în cele din urmă dizolvată fără a-și atinge obiectivele. Decizia a fost luată în contextul în care directorii și membrii consiliului au început să pună sub semnul întrebării acțiunile conducerii.
În prezent, aceste investigații aruncă o umbră asupra promisiunilor publice ale companiei OpenAI privind siguranța, subminând încrederea în abordarea lor a dezvoltării AI.
Sursa: Newyorker.com
