Conform Playtech.ro: Inteligenta artificiala (AI) revolutioneaza cercetarea stiintifica, insa un risc major, adesea greu de detectat, planeaza asupra validitatii descoperirilor: posibilitatea ca AI-ul sa modifice subtil datele, influentand astfel concluziile studiilor. Problema nu rezida in crearea de false descoperiri de la zero, ci in alterarea semnalelor reale prin amplificare, reducere sau schimbare de caracteristici, rezultatele parand in continuare plauzibile.
Cercetatorii se confrunta cu provocarea de a sesiza aceste modificari, mai ales daca nu au o intelegere aprofundata a modului in care modelul AI a operat asupra datelor. Diferenta intre o eroare ocazionala si o distorsiune subtila poate fi una cruciala pentru integritatea procesului stiintific.
AlphaFold 3, un studiu de caz al erorilor AI
Un exemplu relevant in acest sens vine de la AlphaFold 3, un model performant in predicția structurilor si interactiunilor moleculare. O lucrare publicata in prestigioasa revista Nature in 2024 a dezvaluit ca acest sistem poate genera „structuri halucinate” in anumite regiuni ale proteinelor, acolo unde definitia structurala este limitata.
Desi nivelurile scazute de incredere furnizate de AlphaFold 3 pot servi ca semnal de avertizare pentru cercetatori, nu toate erorile AI sunt la fel de vizibile. Un model ar putea introduce distorsiuni suficiente in seturile de date incat un efect biologic real sa devina mai greu de observat. In loc sa creeze o descoperire falsa, AI-ul ar putea contribui, paradoxal, la pierderea uneia reale. Un posibil tratament eficient, de exemplu, ar putea fi respins daca datele procesate nu mai reflecta fidel semnalul initial.
Descoperiri accidentale, dincolo de erori
Ceea ce este si mai neasteptat este faptul ca o „halucinatie” AI ar putea, in mod accidental, sa directioneze cercetatorii catre o descoperire autentica. Istoria stiintei este presarata cu exemple de rezultate neprevazute, nascute din erori de laborator sau observatii neintentionate. Daca o ipoteza generata de AI este ulterior verificata si confirmata independent, originea ei nu diminueaza valoarea rezultatului obtinut.
Diferenta esentiala consta insa in modul in care rezultatul oferit de AI este tratat ulterior. Daca este considerat o ipoteza care necesita verificare, o eroare ramane o simpla ipoteza gresita. Insa, daca este preluat ca o observatie reala, introdus in lantul de dovezi fara o validare riguroasa, aceeasi eroare poate influenta concluziile unui intreg proiect de cercetare, compromitand, pe termen lung, integritatea stiintei.
Un studiu recent publicat în jurnalul „Science Advances” subliniază importanța validării independente a rezultatelor generate de AI în diverse domenii, de la medicină la știința materialelor. Cercetătorii avertizează că o dependență excesivă de instrumentele AI, fără o verificare critică, poate duce la concluzii eronate cu consecințe semnificative. Totodată, se subliniază necesitatea dezvoltării unor mecanisme de auditare mai eficiente pentru modelele AI utilizate în cercetarea științifică.
Sursa: Playtech.ro
