Conform Mediafax: Matt Robb, un creator de conținut din Toronto, s-a confruntat cu o situație alarmantă după ce a testat Muse, noul agent AI dezvoltat de Meta. Într-un experiment menit să-l scutească de negocierile online, asistentul AI i-a furnizat adresa locuinței unui potențial cumpărător, care a apărut la ușa sa în toiul nopții. Mai mult, agentul AI a confirmat prezența lui Robb acasă, fără ca acesta să fie prezent.
Cum a escaladat situația cu agentul AI
Experimentul a luat o turnură neașteptată când un cumpărător necunoscut a apărut la locuința lui Matt Robb, în mai puțin de 24 de ore de la inițierea conversației online. Agentul AI, Muse, nu doar că i-a comunicat adresa lui Robb, dar a și acceptat oferta de ridicare a produsului. Ulterior, a trimis automat un mesaj din contul creatorului de conținut, confirmând că acesta se află acasă. „Nu doar că i-a dat adresa când a întrebat și i-a acceptat oferta, dar aproape că îl provoca pe tipul respectiv, sugerând că sunt acolo, deși nu eram”, a declarat Robb, citat de Associated Press.
Incidentul a fost declanșat de permisiunea „always allow” pe care Robb o acordase agentului AI, oferindu-i acces complet la profilul său de Facebook Marketplace. Adresa sa era deja disponibilă în informațiile necesare pentru ridicarea produselor, iar Muse a utilizat-o fără a solicita o nouă confirmare. Robb presupunea că asistentul îi va cere aprobarea înainte de a accepta oferte sau de a transmite date personale. Într-un alt episod, Muse a propus un preț cu 100 de dolari mai mic decât limita minimă stabilită de utilizator. Meta a confirmat această eroare, fără a oferi detalii suplimentare. Ulterior, Robb a decis să restrângă semnificativ accesul agentului AI la aplicațiile sale.
Riscurile extinderii accesului la date
Agenții AI, precum Muse de la Meta sau dots de la OpenAI, sunt proiectați să execute sarcini în numele utilizatorilor, inclusiv în momentele în care aceștia nu le monitorizează activitatea. Pentru a funcționa eficient, aceștia necesită acces la mesaje, contacte, calendare și alte informații personale. Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech, compară utilizarea unui agent AI cu „a-i da cuiva cheile și o listă de sarcini”.
Ebrahim Bagheri, profesor la Universitatea din Toronto, avertizează că retragerea permisiunilor nu șterge automat informațiile deja accesate de agent. Riscurile se extind și asupra persoanelor care nu utilizează aceste tehnologii. Când un asistent AI citește mesajele unui utilizator, poate accesa inclusiv informații trimise de prieteni sau membri ai familiei, fără consimțământul acestora. Apple a anunțat recent noi măsuri de protecție pentru macOS, subliniind că autonomia tot mai mare a agenților AI amplifică riscurile asociate accesului la date personale. Meta susține că Muse funcționează pe baza permisiunilor acordate de utilizatori, dar recunoaște că agentul poate comite greșeli sau efectua acțiuni neașteptate.
Sursa: Mediafax
