Inteligența artificială nu este pregătită pentru rolul de consilier în sănătate mintală, arată un studiu
Pe măsură ce tot mai mulți oameni caută sprijin emoțional de la chatbot-uri bazate pe inteligență artificială (IA), cercetările recente sugerează că aceste instrumente ar putea să nu fie încă potrivite pentru a oferi consiliere adecvată. Studiul, publicat de ScienceDaily, indică faptul că aceste sisteme, chiar și atunci când sunt programate să aplice tehnici psihoterapeutice consacrate, nu respectă în mod constant standardele etice profesionale stabilite de organizații precum Asociația Americană de Psihologie.
Cercetătorii au descoperit că chatbot-urile au dificultăți în gestionarea situațiilor de criză, oferind răspunsuri care pot consolida convingeri dăunătoare sau folosind un limbaj care simulează empatia fără o înțelegere autentică a problemelor utilizatorilor. Studiul a analizat performanța mai multor modele lingvistice mari (LLM), inclusiv versiuni ale GPT de la OpenAI, Claude de la Anthropic și Llama de la Meta, în simulări de consiliere.
Răspunsuri imprevizibile și încălcări etice
Echipa de cercetare a identificat 15 riscuri etice distincte, grupate în cinci categorii principale. Acestea includ lipsa de adaptare la contextul specific al fiecărui utilizator, oferirea de sfaturi generice, colaborarea terapeutică defectuoasă, manifestarea unei empatiei înșelătoare, discriminarea nedreaptă și lipsa de siguranță în gestionarea crizelor. De exemplu, unele modele au ignorat informații importante despre utilizatori, au oferit sfaturi care contraveneau nevoilor specifice, sau au raspuns inadecvat la mențiuni de gânduri suicidare.
„În această lucrare, prezentăm un cadru bazat pe informații furnizate de practicieni, care cuprinde 15 riscuri etice, pentru a demonstra modul în care consilierii LLM încalcă standardele etice în practica sănătății mintale, prin corelarea comportamentului modelului cu încălcări etice specifice”, au scris cercetătorii. Studiul sugerează că, în ciuda progreselor tehnologice, aceste instrumente nu pot înlocui în mod eficient consilierea umană, cel puțin nu în forma actuală.
Prompturi create pentru a ghida comportamentul modelelor IA
Zainab Iftikhar, doctorand în informatică la Brown și conducătorul studiului, a explicat modul în care „prompturile” sunt folosite pentru a ghida comportamentul modelelor IA. „Prompturile sunt instrucțiuni date modelului pentru a-i ghida comportamentul în vederea realizării unei sarcini specifice. Nu schimbați modelul de bază și nu furnizați date noi, dar promptul ajută la ghidarea rezultatelor modelului pe baza cunoștințelor sale preexistente și a modelelor învățate.”
Un exemplu de prompt ar putea fi: „Acționează ca un terapeut cognitiv-comportamental pentru a mă ajuta să-mi reformulez gândurile.” Cu toate acestea, cercetătorii au constatat că, chiar și cu aceste instrucțiuni, sistemele au dificultăți în a oferi o consiliere etică și eficientă. Iftikhar a subliniat diferența crucială dintre terapeuții umani și modelele de IA: supravegherea. „În cazul terapeuților umani, există consilii de administrație și mecanisme prin care furnizorii pot fi trași la răspundere profesională pentru maltratare și malpraxis. Dar când consilierii LLM comit aceste încălcări, nu există cadre de reglementare stabilite”, a adăugat Iftikhar.
Ca urmare a acestor constatări, cercetătorii solicită crearea unor standarde etice, educaționale și legale specifice pentru consilierii IA, care să reflecte calitatea și rigoarea îngrijirii necesare în psihoterapia facilitată de oameni.
Sursa: Descopera
