Conform Mediafax: Anthropic, compania care dezvoltă inteligența artificială, anunță progrese semnificative ale modelului său Claude, care coordonează acum 26% din activitatea de cercetare și dezvoltare a organizației. Potrivit Associated Press, acest procent traduce în capacitatea modelului de a finaliza majoritatea sarcinilor de la început până la sfârșit, pornind de la o instrucțiune generală, dar cu o supraveghere umană activă.
Modelul Claude nu operează încă în mod complet autonom. Cu toate acestea, se estimează că aproximativ 90% din activitatea de cercetare și dezvoltare a companiei se realizează într-un regim de colaborare cu Claude. Aceasta implică faptul că modelul poate genera volume mari de muncă sub îndrumarea atentă a specialiștilor umani.
Anunțul survine într-un context în care o serie de personalități marcante din domeniul inteligenței artificiale, în frunte cu CEO-ul Anthropic, Dario Amodei, militează pentru o decelerare a ritmului de dezvoltare a tehnologiei, invocând motive legate de siguranță.
Transparență în dezvoltarea inteligenței artificiale
Pe măsură ce liderii din industrie dezbat posibilitatea încetinirii dezvoltării inteligenței artificiale, Anthropic subliniază necesitatea de a reduce decalajul informațional dintre laboratoarele de vârf și publicul larg. Compania consideră că este esențială o mai bună măsurare a progreselor înregistrate în domeniul AI, precum și o raportare publică a acestora. Acest lucru ar oferi societății posibilitatea de a decide cum să utilizeze informațiile obținute.
Anthropic avertizează că modelele AI care își accelerează propria dezvoltare ar putea face ca înțelegerea sau controlul acestor sisteme de către oameni să devină mai dificil. Prin publicarea unor indicatori relevanți, compania susține că se poate ajunge la o mai bună înțelegere a proximității laboratoarelor de inteligență artificială față de atingerea auto-îmbunătățirii recursive, adică abilitatea unui model de a-și construi propriul succesor în mod autonom.
Măsuri de supraveghere și control
Compania a detaliat și măsurile de supraveghere a agenților pe care le-a implementat. Astfel, în luna august, aproximativ 30.000 de agenți AI desfășurau activități de cercetare și inginerie. Aceste măsuri de supraveghere sunt considerate cruciale pentru a identifica frecvența cu care comportamentul necorespunzător al agenților este detectat de sistemele de monitorizare.
Anthropic și-a asumat recent angajamentul de a desemna evaluatori externi independenți, care vor fi integrați în cadrul companiei pentru a supraveghea eforturile depuse în materie de siguranță. Această inițiativă vine în completarea eforturilor interne de a asigura o dezvoltare responsabilă a inteligenței artificiale.
Sursa: Mediafax
