OpenAI introduce o funcție pentru a monitoriza starea emoțională a utilizatorilor ChatGPT
Gigantul tehnologic OpenAI face un pas important în gestionarea impactului psihologic al chatbot-ului său, ChatGPT. Compania a anunțat recent o nouă funcție care va permite utilizatorilor adulți să desemneze o persoană de contact pentru a primi notificări în cazul în care sistemul detectează semnale de potențială nevoie de sprijin. Decizia vine în contextul unor preocupări tot mai mari legate de efectele interacțiunilor prelungite cu inteligența artificială, inclusiv raportări despre utilizatori care au dezvoltat stări anxioase sau chiar gânduri suicidare.
Această schimbare de abordare marchează o evoluție a discursului companiilor de tehnologie, care trec de la accentul pus exclusiv pe inovație și capacități tehnologice, la recunoașterea și abordarea potențialelor efecte negative ale produselor lor. Presiunea publică, dar și acțiunile în instanță legate de cazuri de utilizatori care au suferit din cauza interacțiunilor cu ChatGPT, au determinat compania să ia măsuri. Acum, OpenAI se confruntă cu un număr tot mai mare de procese privind siguranța consumatorilor și chiar cazuri de „wrongful death”, adică procese legate de decese pentru care reclamanții consideră că firma poartă o parte din responsabilitate.
Provocări în implementarea noii funcții
Momentul ales de OpenAI pentru introducerea acestei funcții nu este întâmplător. Compania încearcă să gestioneze o presiune din ce în ce mai mare dinspre opinia publică și dinspre zona juridică. Scopul declarat este de a arăta că OpenAI tratează mai serios problema și că încearcă să creeze o plasă de siguranță pentru utilizatorii adulți aflați în situații vulnerabile. Cu toate acestea, implementarea funcției prezintă o serie de provocări.
Una dintre principalele dileme este definirea exactă a ceea ce înseamnă „ar putea avea nevoie” de sprijin. Sistemul trebuie să decidă care sunt pragurile care indică o trecere de la o conversație obișnuită la o situație de potențial pericol. Dacă pragurile sunt stabilite prea sus, funcția riscă să devină ineficientă, reacționând doar în cazuri extreme. Dacă pragurile sunt fixate prea jos, există riscul de alarme false, încălcări ale confidențialității și, implicit, o scădere a încrederii în sistem.
Relația dintre oameni și inteligența artificială
Una dintre cele mai importante constatări este că mulți utilizatori folosesc chatbot-ul nu doar ca un instrument, ci ca un spațiu emoțional. Pentru unii, inteligența artificială este mai accesibilă și mai ieftină decât terapia tradițională. Un aspect important este că unii utilizatori consideră mai ușor să împărtășească gânduri intime cu un bot decât cu o altă persoană. Această tendință poate conduce utilizatorii să petreacă ore în șir discutând despre probleme personale, frici sau idei periculoase cu ChatGPT.
Un aspect critic este că funcția de contact de încredere ar putea ocoli tocmai utilizatorii care au cea mai mare nevoie de ajutor. Dacă o persoană nu activează opțiunea, iar sistemul detectează semnale îngrijorătoare, rămâne întrebarea ce face compania cu acea informație. De asemenea, spiralele delirante sau suicidare nu au afectat exclusiv persoane cu diagnostice psihiatrice cunoscute, ceea ce complică și mai mult imaginea.
Această măsură de protecție introduce o serie de dileme, printre care și cele legate de stocarea informațiilor utilizatorilor. În prezent, nu este clar cum OpenAI intenționează să gestioneze datele sensibile pe care le colectează.
Ultima actualizare oficială a companiei arată că OpenAI a anunțat, de asemenea, parteneriate cu experți în domeniul sănătății mintale pentru a dezvolta în continuare protocoalele de intervenție.
Sursa: Playtech.ro
