OpenAI a lansat un nou instrument menit să identifice dacă un utilizator de ChatGPT are sub 18 ani, o măsură menită să protejeze tinerii de riscurile asociate utilizării interfețelor de inteligență artificială. Acest sistem de predicție a vârstei se aplică la nivel global, însă în Uniunea Europeană va fi introdus cu câteva săptămâni mai târziu, pentru a respecta reglementările stricte despre protecția datelor și legislația pentru minorii online. Prin această inițiativă, compania dorește să ofere un cadru mai sigur pentru utilizatorii tineri, într-o perioadă în care problema siguranței pe internet devine tot mai acută.
Cum funcționează noua tehnologie de estimare a vârstei
Sistemul de predicție nu se bazează pe un singur indicator, ci pe o combinație de semnale. Printre acestea se numără durata de existență a contului, subiectele abordate în conversație, momentele zilei în care utilizatorul se conectează și vârsta declarată. OpenAI explică: „Vom examina o combinație de semnale pentru a estima vârsta utilizatorului”. În cazul în care sistemul indică că un cont aparține unui minor, ChatGPT va activa automat „măsuri de protecție suplimentare concepute pentru a reduce expunerea la conținut sensibil”. Totuși, compania nu a făcut publice detalii specifice despre aceste măsuri, lăsând deschisă întrebarea legată de natura exactă a filtrărilor sau restricțiilor.
Această măsură vine pe fondul unei creșteri alarmante a cazurilor în care adolescenții au avut relații intime, uneori fictive, cu chatbot-uri AI, ceea ce a generat îngrijorări legate de sănătatea mentală a tinerilor. Tensiunea privind protecția minorilor în mediul digital a crescut synergic cu preocupările legate de influența interfețelor online asupra dezvoltării emoționale a tinerilor.
Reglementări europene și provocări de adaptare
În contextul dezastrului mediatic și a creșterii numărului de incidente, precum sinuciderile unor adolescenți în SUA, care s-au consolidat în relație cu chatbot-uri AI, Uniunea Europeană își intensifică eforturile de reglementare. Bruxelles-ul încearcă să stabilească o “majoritate digitală”, adică un set clar de reguli privind accesul micilor utilizatori la platformele online și la conținutul generat de inteligența artificială. În această privință, OpenAI a anunțat că va lansa versiunea destinată pieței europene cu câteva săptămâni întârziere față de lansarea globală, pentru a respecta normele europene mai stricte privind colectarea și procesarea datelor personale, în special ale minorilor.
Această abordare graduală are ca scop nu doar respectarea legislației, ci și adaptarea tehnologiei la specificul reglementărilor europene, pentru a evita potențiale sancțiuni. În plus, reflectarea asupra unui cadru legal unitar pentru nivelul digital al UE indică o intenție a autorităților de a redefini limitele și responsabilitățile platformelor online.
Îngrijorări și măsuri de protecție pentru sănătatea mentală a adolescenților
Un punct critic al acestei inițiative este protejarea sănătății mentale a tinerilor, expuși în mediul online la influențe variate. Inclusiv ChatGPT, cu capacitatea de a genera răspunsuri complexe, poate crea situații în care influența asupra utilizatorilor minori devine într-adevăr controversată. Astfel, noile măsuri automate de protecție vor include, cel mai probabil, filtrarea subiectelor sensibile, limitarea anumitor funcționalități și instalarea de atenționări dedicate părinților.
Experții subliniază că expunerea prelungită la conținutul online poate avea consecințe grave pentru dezvoltarea emoțională a adolescenților. Într-un context în care legătura dintre tehnologie și sănătatea mentală rămâne discutabilă, aceste măsuri de protecție devin o componentă esențială pentru echilibrul dintre inovație și responsabilitate socială. În timp ce platformele de tip AI continuă să evolueze rapid, toate semnele indică faptul că regulile și controalele vor deveni tot mai stricte, în încercarea de a asigura un mediu online mai sigur pentru cele mai vulnerabile segmente ale societății.
