Alerta din China: Agenții AI, vulnerabili la atacuri cibernetice
Echipa de răspuns la incidente informatice din China avertizează asupra riscurilor asociate utilizării platformei OpenClaw, o unealtă bazată pe inteligența artificială. Specialiștii atrag atenția că, fără măsuri suplimentare de protecție, agenții AI pot fi vulnerabili la atacuri cibernetice sofisticate, cu potențialul de a compromite date sensibile sau de a oferi control nedorit asupra sistemelor.
Principala vulnerabilitate constă în accesul extins pe care agenții AI îl au la sistemele pe care rulează. Deoarece sunt proiectați să execute automat sarcini, atacatorii pot exploata aceste privilegii pentru a prelua controlul dispozitivelor sau pentru a extrage informații confidențiale.
Provocarea „Prompt Injection”: Cum pot hackerii să manipuleze agenții AI
Una dintre cele mai mari amenințări identificate este reprezentată de atacurile de tip „prompt injection”. Aceste atacuri presupun ascunderea de instrucțiuni malițioase în pagini web sau în conținuturi aparent inofensive. „Dacă agentul AI accesează acea pagină pentru analiză sau sumarizare, poate ajunge să execute instrucțiunile ascunse fără să realizeze că sunt periculoase”, explică experții.
Această metodă, cunoscută și sub numele de „indirect prompt injection”, folosește funcții obișnuite ale agenților inteligenți, cum ar fi analiza paginilor web sau generarea de rezumate, pentru a introduce comenzi manipulatorii. Consecințele pot varia de la alterarea răspunsurilor generate de AI până la scurgerea de informații sensibile. În unele cazii, aceste atacuri pot fi folosite pentru a manipula rezultatele motoarelor de căutare sau pentru a influența procese automate, cum ar fi recrutarea.
Cercetătorii în securitate au descoperit că chiar și funcții aparent inofensive pot deveni vectori de atac. De exemplu, previzualizarea linkurilor în aplicații de mesagerie poate fi exploatată pentru a transmite date confidențiale fără ca utilizatorul să interacționeze direct.
Alte vulnerabilități OpenClaw: de la ștergere de date la extensii malițioase
Pe lângă „prompt injection”, experții au identificat și alte vulnerabilități potențiale asociate cu utilizarea platformei OpenClaw. Una dintre ele este posibilitatea ca agentul AI să interpreteze greșit anumite instrucțiuni și să șteargă accidental date importante. De asemenea, ecosistemul de extensii al platformei prezintă riscuri, deoarece utilizatorii pot instala „skills” din surse online, unele dintre acestea putând conține cod malițios.
Pentru a reduce aceste riscuri, specialiștii recomandă limitarea accesului la porturile de administrare ale platformei, izolarea aplicației în containere dedicate, evitarea stocării parolelor în format text simplu și instalarea extensiilor doar din surse de încredere. În plus, actualizarea constantă a agentului și dezactivarea actualizărilor automate pentru extensii pot reduce semnificativ riscurile.
În ultima perioadă, numărul de atacuri cibernetice care vizează agenți AI a crescut. Recent, au fost descoperite depozite false pe platforme de dezvoltare software, care distribuiau programe malware specializate în furtul de date, mascate sub forma unor instalatoare pentru aplicații.
Sursa: Playtech.ro
