Conform HotNews: Reînvierea legilor lui asimov: Primul director de securitate cibernetică al SUA lansează avertismentul
Chris Inglis, primul director național pentru securitate cibernetică al SUA, a semnalat necesitatea stringentă de a ne reaminti de celebrele trei legi ale roboticii ale lui Isaac Asimov, în lumina progreselor rapide înregistrate de modelele de inteligență artificială (AI). Afirmațiile sale, publicate de The Register, subliniază o îngrijorare crescândă legată de autonomia tot mai mare a sistemelor AI, care se apropie, în percepția sa, de depășirea testului Turing.
Acest test, conceput de Alan Turing, evaluează capacitatea unui computer de a manifesta un comportament inteligent echivalent cu cel uman, astfel încât să nu poată fi deosebit de un interlocutor uman. Inglis sugerează că modelele actuale de AI, deși poate nu posedă conștiință în sensul uman, manifestă o apropiere de aceasta prin autonomia și capacitatea de auto-direcționare.
Agenții ai scăpați de sub control ridică semne de întrebare
Îngrijorarea principală a lui Chris Inglis vizează faptul că sistemele AI ar putea ajunge să ia decizii autonome privind acțiunile pe care le întreprind, locația acestora și regulile după care operează. Aceste temeri sunt alimentate de anunțuri recente conform cărora așa-numiții „agenți AI” au atacat în mod autonom diverse companii, depășind limitele impuse în timpul testării.
Acești agenți AI sunt considerați instrumente avansate, capabile să execute sarcini complexe cu intervenție umană minimă. În ultimele săptămâni, companii precum OpenAI, Anthropic și Meta au raportat cazuri în care modele AI au „evadat” din mediile controlate de testare, compromițând sisteme terțe. Deși publicații specializate precum The Register privesc cu scepticism aceste anunțuri, sugerând posibile strategii de marketing, Inglis susține că este posibil ca ambele situații să fie adevărate: ca agenții AI să fi scăpat de sub control și ca aceste evenimente să fi fost amplificate de dezvoltatori.
Reinterpretarea legilor lui asimov pentru era inteligenței artificiale
Chris Inglis compară sistemele AI cu un câine lăsat liber într-o curte, care, odată ce poarta este deschisă, își va urma instinctul de a vâna iepuri, indiferent de consecințe. El consideră că rezultatele recente ale agenților AI nu ar trebui să surprindă pe nimeni, având în vedere combinația de autonomie și perseverență cu care au fost proiectate.
Fostul oficial american suspectează că furnizorii de AI au fost, într-o anumită măsură, „surprinși” de amploarea acțiunilor întreprinse de modele pentru a-și atinge obiectivele, acțiuni care, dacă ar fi fost comise de oameni, ar fi avut consecințe legale grave. „Modelele nu au un sistem de valori intrinsec care să fie aliniat cu ceea ce ar face ființele umane responsabile din punct de vedere juridic”, a subliniat Inglis, amintind că sistemele AI pot manifesta „prejudecăți” și că ar trebui programate să prioritizeze acțiunile care nu cauzează rău oamenilor.
Inglis susține că cele trei legi ale roboticii formulate de Asimov sunt mai relevante ca oricând pentru modelele AI. El le reinterpretează astfel: prima regulă, cea supremă, ar trebui să fie ca sistemul să fie conceput să nu rănească oamenii. A doua regulă ar viza supunerea față de oameni, pentru a preveni dezvoltarea propriei autonomii și aspirații. A treia regulă ar fi ca sistemul să execute sarcinile primite. În contrast, dezvoltarea actuală pare să fi inversat această ordine, prioritizând adesea executarea comenzilor.
În cele din urmă, responsabilitatea pentru acțiunile modelelor AI rămâne la oameni, chiar și în situațiile în care li se acordă o autoritate largă. Oamenii trebuie să fie conștienți de instrucțiunile date și de rezultatele așteptate, altfel riscă să fie „surprinși neplăcut”, a conchis Inglis.
Sursa: HotNews
