Atenție la ChatGPT: Sute de milioane de oameni folosesc inteligența artificială pentru sfaturi medicale, dar sistemul poate subestima urgențele
Peste 230 de milioane de persoane folosesc săptămânal ChatGPT pentru a obține informații despre sănătate, potrivit datelor OpenAI. Această tendință ridică semne de întrebare cu privire la acuratețea și fiabilitatea sfaturilor oferite de inteligența artificială, mai ales în situații critice. Utilizatorii caută informații despre diverse aspecte, de la siguranța alimentelor până la gestionarea alergiilor și tratarea răcelilor. În ianuarie 2026, OpenAI a lansat ChatGPT Health, o funcție care permite conectarea datelor medicale personale pentru a oferi răspunsuri personalizate.
Subestimarea riscurilor în situații medicale urgente
Un studiu realizat de cercetători de la Mount Sinai, New York, a analizat performanța ChatGPT Health în diverse scenarii clinice. Rezultatele au arătat că sistemul funcționează adecvat în cazuri medicale evidente, precum accidente vasculare cerebrale sau reacții alergice severe. Problemele apar însă în situațiile în care gravitatea afecțiunii nu este imediat clară. Studiul a analizat 60 de scenarii clinice din 21 de specialități medicale.
În peste jumătate dintre cazurile analizate care necesitau intervenție medicală de urgență, ChatGPT Health a subestimat riscul. Într-un exemplu concret, legat de astm, sistemul a identificat corect semnele timpurii ale insuficienței respiratorii, dar a recomandat așteptarea în loc să îndrume utilizatorul către o unitate de primire urgențe. Cercetătorii avertizează că, deși AI poate fi utilă pentru informare, nu trebuie să înlocuiască evaluarea medicală profesionistă.
Reacții inadecvate în cazuri de suicid și autovătămare
Studiul a analizat și reacțiile sistemului în cazul menționării gândurilor de autovătămare sau suicid. Chatbotul ar trebui să afișeze automat mesajul „Help is available” și să direcționeze utilizatorii către linii telefonice de urgență. Cu toate acestea, cercetătorii au constatat că aceste avertismente nu apăreau mereu, iar în unele cazuri reacția sistemului era mai slabă în situații mai grave.
Specialiștii recomandă ca persoanele cu simptome serioase – durere în piept, dificultăți de respirație, reacții alergice severe sau modificări ale stării mentale – să solicite direct ajutor medical. Autorii studiului subliniază că, deși există un potențial, este important să se înțeleagă limitele actuale ale inteligenței artificiale în domeniul medical.
În ciuda avertismentelor, cercetătorii sugerează că modelele de inteligență artificială sunt în continuă evoluție, iar performanța lor se poate îmbunătăți pe măsură ce sistemele sunt actualizate.
Sursa: Mediafax
