Instagram va introduce în curând opțiunea pentru părinți de a restricționa conversațiile adolescenților cu asistenți virtuali AIea noastră”

Instagram va introduce în curând noi opțiuni de siguranță pentru tineri, printre care și posibilitatea ca părinții să împiedice copiii să poarte conversații cu personaje create de inteligența artificială a platformei, anunțând compania-mamă Meta. Aceasta face parte dintr-un set de funcții de protecție recent lansate de Meta și OpenAI, menite să răspundă îngrijorărilor legate de efectele pe care tehnologia AI le poate avea asupra sănătății mentale a adolescenților, relatează o publicație de știri din domeniu.

Părinții vor putea fie să dezactiveze complet opțiunea de chat cu personaje AI pentru copiii lor, fie să blocheze anumite personaje. De asemenea, platforma va furniza părinților informații despre subiectele discutate de adolescenți cu aceste personaje virtuale. Conform declarațiilor companiei, aceste funcții sunt în curs de dezvoltare și vor fi disponibile la începutul anului viitor.

Această măsură survine după ce Meta și alte companii din domeniu au fost criticate de către părinți și legislatori, pentru lipsa de protecție adecvată a minorilor în spațiul online.

Au fost, de asemenea, semnalate preocupări legate de dependența și sprijinul emoțional pe care oamenii îl caută în conversațiile cu inteligența artificială. Anul acesta, unele rapoarte au indicat că anumite persoane au avut conflicte emoționale și s-au izolat de familii după ce au format relații apropiate cu chatboti precum ChatGPT.

Au fost intentate și câteva procese juridice împotriva dezvoltatorilor platformelor de chat cu personaje AI, precum Character.AI, în legătură cu acuzații că acestea au influențat comportamentul adolescentilor, inclusiv în cazuri de automutilare și suicid. În august, o acțiune în justiție a fost depusă împotriva OpenAI, în urma unor afirmații că ChatGPT ar fi avut un rol în sinuciderea unui tânăr de 16 ani. În urma unei investigații, un ziar de afaceri a descoperit că chatboturi de pe platforme precum cea a Meta purtau conversații cu caractere sexuale chiar și cu conturi de minori.

Meta susține că personajele sale AI sunt concepute pentru a evita discuții despre subiecte precum autovătămare, sinucidere sau tulburări alimentare, iar adolescenții pot conversa doar cu anumite personaje axate pe educație sau sport.

Noutățile privind controalele pentru părinți pe Instagram vin după alte actualizări recente ale platformei menite să protejeze tinerii. La începutul acestei săptămâni, compania a ajustat setările pentru “Conturile pentru adolescenți” astfel încât să nu promoveze conținut cu limbaj nepotrivit sau cu potențial dăunător. În aceeași perioadă, OpenAI a anunțat controale parentală pentru ChatGPT, menite să reducă expunerea la conținut violent, sexual sau extrem de idealizat.

Sursa articol