NOU MODEL DE INTELIGENȚĂ ARTIFICIALĂ, PREA PERICULOS PENTRU PUBLIC: COMPANIA ANTHROPIC AMÂNĂ LANSAREA
Compania americană Anthropic a decis să nu lanseze public noul model de inteligență artificială Mythos Preview, din cauza performanțelor sale remarcabile în identificarea vulnerabilităților informatice. Dezvoltatorii se tem că sistemul ar putea fi exploatat de hackeri sau spioni. Decizia reflectă îngrijorări tot mai mari cu privire la impactul potențial al inteligenței artificiale asupra securității cibernetice.
Capacități Avansate de Detectare a Vulnerabilităților
Modelul Claude Mythos Preview, conform Anthropic, este capabil să detecteze vulnerabilități critice în sisteme de operare și browsere. Compania a efectuat teste în diverse scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o modalitate de a depăși restricțiile unui mediu virtual securizat, reușind să transmită un mesaj din interiorul acestuia. Mai mult, a publicat detalii despre vulnerabilitate pe diverse site-uri.
Anthropic a descoperit, de asemenea, că modelul poate identifica erori grave în nucleul Linux, utilizat pe majoritatea serverelor din lume. În plus, Mythos a reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD. Capacitățile avansate au determinat compania să ia măsuri de precauție.
Parteneriat cu Companii Tehnologice și Discuții cu Guvernul SUA
Anthropic va utiliza modelul Mythos Preview într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Proiectul va implica companii mari din tehnologie, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilități și de a îmbunătăți securitatea sistemelor informatice. Compania intenționează să facă publice concluziile programului ulterior.
În plus, Anthropic a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale, justificând colaborarea cu autoritățile. Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Specialiștii din domeniul securității anticipează apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă în următorii șase până la 18 luni.
