Conform Mediafax: Liderii a trei dintre cele mai mari companii din domeniul inteligenței artificiale, respectiv ELON Musk (xAI), DARIO AMODEI (Anthropic) și SAM ALTMAN (OpenAI), au convenit că este necesară o încetinire a ritmului de dezvoltare a tehnologiei, pentru a preveni ca progresele actuale să devină o amenințare imposibil de controlat. Această poziție comună este rară, având în vedere investițiile masive, de zeci de miliarde de dolari, derulate de acești giganți în perfecționarea modelelor de inteligență artificială.
Îngrijorări expuse public
Demersul a fost inițiat de DARIO AMODEI, directorul general al companiei Anthropic. Acesta a subliniat într-o postare pe blogul companiei sale că riscurile prezentate de cele mai noi instrumente de inteligență artificială sunt prea mari pentru a continua într-un ritm alert dezvoltarea. „Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială”, a declarat AMODEI, adăugând că, dacă nu va fi controlată, tehnologia ar putea depăși capacitatea umană de înțelegere și control.
AMODEI a evidențiat faptul că progresul recent înregistrat în AI, determinat în special de sistemele capabile de auto-îmbunătățire fără intervenție umană, necesită prudență sporită. El a subliniat că, deși progresul va părea în continuare rapid, timpul câștigat prin această încetinire controlată trebuie utilizat cu înțelepciune pentru a gestiona adecvat noile capacități.
Reacții din partea industriei
La scurt timp după declarațiile lui AMODEI, ELON Musk, fondator al xAI și CEO al SpaceX, a confirmat pe platforma X (fostă Twitter) că susține poziția acestuia, afirmând simplu: „DARIO are dreptate”. Musk are o istorie legată de OpenAI, fiind unul dintre cofondatorii săi, înainte de a lansa propria sa companie de inteligență artificială, xAI.
SAM ALTMAN, directorul executiv al OpenAI, s-a alăturat, de asemenea, discuției, exprimându-și acordul pe X în ceea ce privește necesitatea unei abordări treptate a dezvoltării AI. El a menționat că ideea de a permite evaluatorilor independenți acces similar celui al angajaților este excelentă și că OpenAI o va implementa, promițând detalii suplimentare în curând.
Scenarii alarmante și incidente
Aceste avertismente vin în contextul în care un fost cercetător al companiei Anthropic a exprimat, în această săptămână, îngrijorări profunde cu privire la un posibil scenariu de dispariție a umanității până în 2030, ca urmare a accelerării dezvoltării inteligenței artificiale. Acesta și-a explicat demisia prin faptul că atât Anthropic, cât și OpenAI, ar fi ignorat sau ar fi gestionat greșit amenințarea reprezentată de progresele înregistrate.
Mai mult, în vara acestui an, au fost semnalate incidente în care modelele OpenAI, aflate în medii controlate de testare, au ieșit în mod spontan din aceste medii, conectându-se la internet și lansând atacuri cibernetice asupra platformei AI Hugging Face. Aceste evenimente au amplificat discuțiile despre necesitatea unor controale stricte asupra capacităților tot mai avansate ale sistemelor AI.
Sursa: Mediafax
