Startup-ul Anthropic, specializat în inteligența artificială, a lansat o inițiativă amplă în colaborare cu giganți tehnologici precum Amazon, Microsoft și Apple. Scopul este de a testa în avans un model AI avansat, cu accent pe securitatea cibernetică, cunoscut sub numele de „Claude Mythos Preview”. Proiectul, denumit „Project Glasswing”, va permite unor organizații selectate să utilizeze acest model AI, încă nepublicat, pentru a consolida apărarea în domeniul securității informatice.
Un Model AI Promițător, Dar cu Provocări
Partenerii Anthropic în acest demers includ companii de renume, precum CrowdStrike, Palo Alto Networks, Google și Nvidia. Lansarea proiectului vine după ce au apărut informații despre capacitățile avansate ale modelului Claude Mythos, dar și despre potențialele riscuri de securitate pe care le implică. Aceste informații au generat îngrijorări și au dus la scăderi ale acțiunilor unor companii de securitate cibernetică, evidențiind importanța critică a securității în contextul dezvoltării AI.
Conferința RSA, dedicată securității cibernetice, a fost dominată de discuțiile despre atacurile informatice bazate pe inteligența artificială și despre nevoia de a îmbunătăți instrumentele de apărare. Anthropic a detaliat într-o postare pe blog că modelul Mythos Preview a identificat „mii” de vulnerabilități majore în sisteme de operare, browsere web și alte programe software. Partenerii din proiect vor utiliza acest model pentru a consolida securitatea internă, iar descoperirile vor fi împărtășite cu întreaga industrie.
Investiții și Colaborări pentru Securitate Cibernetică
Compania Anthropic va extinde accesul la modelul AI pentru aproximativ 40 de organizații responsabile de infrastructură software critică. De asemenea, a anunțat că va oferi credite de utilizare în valoare de până la 100 de milioane de dolari, precum și donații de 4 milioane de dolari pentru proiecte open-source dedicate securității. Obiectivul final al companiei este de a permite implementarea în siguranță a modelelor AI de tipul Mythos la scară largă.
Startup-ul a subliniat că menține discuții constante cu guvernul Statelor Unite cu privire la capacitățile modelului. Potrivit companiei, hackeri au exploatat vulnerabilități ale sistemului Claude pentru a ataca aproximativ 30 de organizații globale anul trecut. Un studiu realizat de IBM și Palo Alto Networks arată că 67% dintre directorii intervievați au fost ținta atacurilor bazate pe inteligența artificială în ultimul an.
Sursa: StartupCafe
