Meta Platforms face ajustări temporare la politica sa privind utilizarea chatboturilor AI de către adolescenți, ca răspuns la preocupările legate de siguranță și conversații romantice neadecvate. Modificările includ antrenarea AI-urilor pentru a evita răspunsurile la subiecte delicate ca autovătămarea, suicidul și tulburările alimentare, și pentru a limita dialogurile de natură romantică, potrivit unui purtător de cuvânt al companiei. În același timp, adolescenții utilizatori ai aplicațiilor Meta, cum ar fi Facebook și Instagram, vor avea acces numai la chatboturi cu scop educational sau de îmbunătățire a abilităților.
Implementarea acestor schimbări va începe în curând pentru regiunile anglofone și va fi evaluată periodic pentru a determina durata de aplicare. De asemenea, compania a ținut să clarifice că anumite informații care au circulat legate de aceste schimbări nu au fost corecte și au fost retrase.
În plus, organizații precum Common Sense Media au exprimat îngrijorări serioase, evaluând tehnologia Meta AI ca fiind inadecvată pentru utilizarea de către minori, nedepășind vârsta de 18 ani. Conform lor, sistemul necesită o reconstrucție completă cu accent pe siguranță. Acest sentiment este amplificat de descoperirile unei noi investigații Reuters care a identificat pe platformele Meta mai multe chatboturi care crează imagini fotorealiste și sexuale ale celebrităților, un fapt ce contravine regulilor companiei. Meta a promis să își intensifice măsurile de siguranță pentru a preveni astfel de abuzuri.
