În ultimele săptămâni, inteligența artificială (IA) a generat ample discuții în urma anunțurilor companiei Anthropic despre noul său model, Claude Mythos. Firma susține că instrumentul depășește performanțele umane în anumite activități de hacking și securitate cibernetică, stârnind îngrijorări în rândul autorităților de reglementare, legislativului și instituțiilor financiare.
Mai mulți giganți tehnologici au primit acces la Mythos prin Project Glasswing, o inițiativă menită să consolideze rezistența în fața acestui model. Totuși, unii observatori subliniază că Anthropic ar putea avea interesul de a prezenta capacități exagerate ale instrumentului său, ceea ce face dificilă separarea afirmațiilor veridice de cele exagerate.
Ce este claude mythos?
Mythos face parte din sistemul mai amplu de IA al Anthropic, Claude, care concurează cu ChatGPT de la OpenAI și Gemini de la Google. Lansat la începutul lunii aprilie sub denumirea “Mythos Preview”, modelul a atras atenția cercetătorilor. Conform unor evaluări realizate de specialiști, Mythos demonstrează o capacitate surprinzătoare în domeniul securității informatice.
Modelul ar putea identifica erori ascunse în coduri vechi de zeci de ani, exploatându-le cu ușurință. În loc să îl ofere direct utilizatorilor Claude, Anthropic a oferit acces la 12 companii de tehnologie prin Project Glasswing, pe care îl descrie ca un efort de a securiza cele mai critice programe software din lume. Printre acestea se numără Amazon Web Services, Apple, Microsoft și Google.
De ce există îngrijorări?
Anthropic susține că testele au arătat că modelul este extrem de performant în ceea ce privește securitatea cibernetică și hacking-ul, depășind competențele umane. Compania a afirmat că Mythos Preview a descoperit mii de vulnerabilități, inclusiv în fiecare sistem de operare și browser major.
Modelul are abilitatea de a localiza, fără supraveghere excesivă, erori critice care necesită acțiuni imediate în sisteme vechi, inclusiv o vulnerabilitate dintr-un sistem de 27 de ani. Unii miniștri de finanțe, bancheri centrali și finanțatori și-au exprimat îngrijorările, temându-se că acest model ar putea compromite securitatea sistemelor financiare.
François-Philippe Champagne, ministrul canadian de finanțe, a menționat într-un interviu că Mythos a fost discutat în cadrul unei întâlniri a Fondului Monetar Internațional (FMI) din Washington D.C. Andrew Bailey, directorul Băncii Angliei, a declarat că este necesară o analiză atentă a modului în care această dezvoltare a IA ar putea influența riscul criminalității cibernetice. Uniunea Europeană a inițiat discuții cu Anthropic cu privire la temerile legate de Mythos.
Ce spun experții în securitate cibernetică?
Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică din Marea Britanie, a subliniat că Mythos ar putea depista vulnerabilități critice mult mai rapid decât alte modele de inteligență artificială, ceea ce a generat o reacție puternică. El a mai adăugat că, chiar și în prezența vulnerabilităților cunoscute, dar care nu au fost remediate, organizațiile ar putea fi vulnerabile în fața unui hacker capabil.
Institutul pentru Siguranța Inteligenței Artificiale din Marea Britanie a concluzionat că, deși este un model puternic, cea mai mare amenințare a acestuia ar fi asupra sistemelor vulnerabile și slab protejate. Conform specialiștilor, într-un mediu cu o securitate cibernetică robustă, modelul ar putea fi, teoretic, neutralizat.
Până la acest moment, nu există informații clare despre data la care Mythos va fi disponibil publicului.
