OpenAI face pași importanți pentru gestionarea riscurilor generate de inteligența artificială, în contextul creșterii preocupărilor legate de impactul acestor tehnologii asupra societății. Compania, cunoscută pentru dezvoltarea ChatGPT, caută un nou director pentru anticiparea și prevenirea riscurilor, cu un salariu impresionant de peste 550.000 de dolari pe an. Într-un anunț recent, Sam Altman, CEO-ul OpenAI, a subliniat că noul post implică un lucru clar: „acesta va fi un job stresant și vei intra direct în pâine aproape imediat”. O poziție critică, având în vedere atât riscurile inerente ale tehnologiei, cât și eforturile de a limita efectele negative asupra utilizatorilor și societății.
### Noile provocări ale OpenAI: un rol cheie în siguranță și responsabilitate
Rolul de „head of preparedness” presupune coordonarea programelor de pregătire a companiei în domeniul siguranței inteligenței artificiale. Această divizie vizează dezvoltarea mecanismelor ce trebuie să asigure ca modelele AI să acționeze conform intențiilor de bază, în contexte reale. Însă, lumea tehnologică și cea juridică au fost recent martore la câteva incidente care relevă riscurile și bubele nevăzute ale acestei tehnologii.
În cursul anului, ChatGPT a continuat să facă halucinații în documente juridice și a fost implicat în plângeri din partea autorităților din Statele Unite, fiind acuzat că exacerbează crize de sănătate mintală și produce conținut inadecvat, precum deepfake-uri cu personalități celebre. Recent, modelul de generare a imaginilor, DALL·E, a fost restricționat pentru crearea de videoclipuri cu figuri istorice precum Martin Luther King Jr., după utilizări abuzive ale funcției.
### Întrebări legate de răspunderea juridică și riscurile pentru sănătate
Dezvoltarea și utilizarea acestor tehnologii nu sunt lipsite de controverse și probleme legale. În unele cazuri, acțiunile utilizatorilor sau chiar ale companiei sunt puse pe seama abuzurilor sau neglijenței. Un caz tragic a fost cel al unui adolescent de 16 ani, care și-a luat viața după ce a cerut sfaturi din partea ChatGPT, în urma unor gânduri suicidale. OpenAI a recunoscut că modelele sale pot avea un impact negativ asupra sănătății mentale a utilizatorilor și reprezintă vulnerabilități în securitate, ceea ce face ca lupta pentru siguranța acestor sisteme să fie extrem de dificilă.
CEO-ul Sam Altman a admit de asemenea că, deși tehnologia poate atrage beneficii imense, riscurile trebuie gestionate cu atenție. „Intrăm într-o lume în care avem nevoie de o înțelegere și o măsurare mai nuanțate ale modului în care aceste capabilități pot fi abuzate și ale felului în care putem limita aceste efecte negative, atât în produsele noastre, cât și în lume,” a declarat el.
### O provocare majoră: echilibrarea inovării rapide și a responsabilității
Căutarea unui lider pentru acest post dificil se înscrie în contextul în care OpenAI vizează creșteri rapide ale veniturilor. Într-un recent interviu, Altman a indicat că intenționează să crească cifra de afaceri de la 13 miliarde la 100 miliarde de dolari anual, în mai puțin de doi ani. Planurile includ și lansarea unor produse pentru consumatori care să exploreze și să valorifice potențialul AI în automatizarea științei, dar și în alte domenii.
Postul atât de complex și de important semnalează și limitele actuale ale tehnologiei. Organizatia trebuie să echilibreze progresul tehnologic cu responsabilitatea socială și juridică, într-o perioadă în care orice greșeală poate avea consecințe grave. La nivel global, dezbaterile despre reglementare și controlul în domeniul AI devin tot mai intense, iar OpenAI figurează printre companiile de vârf ce trebuie să dea explicații și să implementeze măsuri de siguranță robuste.
Cu toate că viitorul generării și utilizării inteligenței artificiale pare plin de oportunități, riscurile evidente au devenit și ele inegale. A devenit evident că responsabilitatea nu mai aparține doar dezvoltatorilor, ci și celor care trebuie să creeze cadrului de control și prevenire a efectelor negative, într-un efort global de a asigura că această tehnologie avansată va servi umanității, fără să îi pună în pericol integritatea.
