ChatGPT, testat în evaluarea științifică: rezultate îngrijorătoare
Un nou studiu a evaluat capacitatea modelului de inteligență artificială ChatGPT de a analiza și evalua ipoteze științifice. Rezultatele chestionării, care a implicat sute de astfel de ipoteze, au evidențiat o serie de deficiențe îngrijorătoare. Cercetarea a fost menită să determine acuratețea și consistența răspunsurilor furnizate de ChatGPT în contextul evaluării unor afirmații științifice.
Echipa de cercetători a pus modelului întrebări referitoare la peste 700 de ipoteze științifice. Pentru a măsura gradul de consecvență, aceeași întrebare a fost adresată de zece ori pentru fiecare ipoteză. Această metodă a permis o evaluare detaliată a modului în care ChatGPT procesează informațiile și formulează răspunsuri.
Nivelul de acuratețe și consecvența răspunsurilor
Studiul a scos la iveală dificultăți semnificative în ceea ce privește acuratețea și consistența răspunsurilor. Rezultatele sugerează că, în multe cazuri, modelul de inteligență artificială nu a reușit să ofere răspunsuri corecte sau consistente. Acest lucru ridică semne de întrebare cu privire la utilizarea ChatGPT în domenii care necesită o înțelegere profundă și precisă a informațiilor științifice.
Una dintre principalele preocupări a fost lipsa de consistență a răspunsurilor. „Am constatat că ChatGPT oferă răspunsuri diferite la aceeași întrebare, ceea ce indică o lipsă de stabilitate în procesul de evaluare”, au declarat cercetătorii implicați în studiu. Această fluctuație în răspunsuri subliniază dificultățile modelului în a procesa și interpreta informațiile în mod fiabil. De asemenea, acuratețea a fost pusă sub semnul întrebării, cu o probabilitate crescută de răspunsuri inexacte sau parțial corecte.
Implicații pentru aplicațiile practice
Deficiențele identificate în studiu au implicații importante pentru potențialele aplicații ale ChatGPT în diverse domenii. De la asistența în cercetare până la educație, utilizarea necontrolată a modelului poate conduce la interpretări eronate sau decizii bazate pe informații incorecte. „Este crucial ca utilizatorii să fie conștienți de limitările acestui tip de inteligență artificială, mai ales în contextul evaluării informațiilor științifice”, au subliniat autorii studiului.
Mai mult, cercetătorii au atras atenția asupra necesității unei validări riguroase a rezultatelor generate de astfel de modele înainte de a fi utilizate în contexte critice. Implementarea unor mecanisme de verificare și calibrare ar putea reduce riscurile asociate cu utilizarea ChatGPT. Studiul a subliniat importanța dezvoltării unor instrumente mai precise și fiabile, care să asigure o înțelegere corectă și consistentă a datelor științifice.
În urma publicării studiului, numeroase instituții de cercetare și companii implicate în dezvoltarea inteligenței artificiale au anunțat evaluări suplimentare ale modelului ChatGPT, cu accent pe îmbunătățirea acurateței și a fiabilității acestuia.
Sursa: G4Media
