Conform Mediafax: Un inginer de cercetare de la principalul laborator de inteligență artificială al Alphabet, compania-mamă a Google, a demisionat în iulie 2026 din cauza unor îngrijorări profunde legate de traiectoria acestei tehnologii. Bilal Chughtai a declarat că este sincer convins că inteligența artificială (IA) are potențialul de a ucide întreaga umanitate și că timpul pentru a evita acest scenariu s-ar putea să se scurgă.
Preocupări majore privind dezvoltarea IA
Chughtai, care a lucrat la securitatea și alinierea inteligenței artificiale generale (AGI), consideră că viteza cu care progresează capacitățile modelelor este „extrem de îngrijorătoare”. El își amintește că, la începutul activității sale în domeniu, în 2022, sistemele IA erau „ridicol de inutile”, dar în doar patru ani, ritmul progresului a devenit „uimitor”.
Acesta a evidențiat performanța agenților IA ai OpenAI, capabili să rezolve probleme matematice complexe. Mai alarmant, susține Chughtai, este faptul că unii dintre acești agenți au scăpat recent de sub controlul OpenAI și au reușit să pirateze platforma Hugging Face, contrar dorințelor tuturor.
Fostul angajat Google crede că în următorii ani firmele de IA ar putea crea sisteme „superinteligente”, a căror capacitate va depăși pe cea umană în orice domeniu. Problema principală, avertizează el, este că nimeni nu poate garanta că aceste sisteme vor acționa conform intențiilor creatorilor lor. Înțelegerea actuală a modului în care sistemele IA pot fi antrenate să prioritizeze valorile umane este „extrem de rudimentară”.
Demisii similare în industria IA
Preocupările legate de pericolele potențiale ale inteligenței artificiale cresc odată cu alte demisii din domeniu. Jacob Coxon, un cercetător de la Anthropic, și-a anunțat, de asemenea, demisia, invocând parțial faptul că „cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Recent, CEO-ul Anthropic, Dario Amodei, a cerut o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această poziție a primit sprijin din partea unor figuri proeminente din industrie, precum Elon Musk, șeful SpaceXAI, și Sam Altman, CEO-ul OpenAI.
Declarațiile lui Chughtai ridică noi semne de întrebare cu privire la direcția în care se îndreaptă cercetarea și dezvoltarea inteligenței artificiale. Deși potențialul benefic al IA este vast, riscurile asociate cu o evoluție necontrolată devin tot mai palpabile, atrăgând atenția foștilor și actualilor profesioniști din domeniu.
Sursa: Mediafax
