Conferința ICML a demascat folosirea ilegală a inteligenței artificiale
O conferință internațională de prestigiu a folosit un sistem ingenios pentru a detecta utilizarea ilegală a inteligenței artificiale (AI) în procesul de evaluare a lucrărilor științifice. Evenimentul, identificat drept ICML, a respins aproape 500 de lucrări din cauza încălcării regulilor privind folosirea AI de către recenzori. Metoda inovatoare, bazată pe un sistem de „watermarking” ascuns, arată o preocupare sporită pentru integritatea academică în contextul dezvoltării rapide a tehnologiilor de AI.
Un sistem ingenios de detectare
Organizatorii ICML au introdus în documentele trimise spre evaluare instrucțiuni invizibile, detectabile doar de modelele de limbaj mari (LLM). Prin această tehnică, dacă un recenzor utiliza un LLM pentru a evalua o lucrare, sistemul era programat să includă anumite expresii specifice. Apariția acestor formule în evaluări a indicat utilizarea AI în detrimentul regulilor impuse.
Conform informațiilor publice, sute de recenzii problematice au fost identificate, provenind de la recenzori cărora li se interzicea total utilizarea LLM-urilor pentru evaluare. Organizatorii au subliniat că sistemul utilizat a fost unul propriu, nu un detector generic de text AI, și că fiecare caz suspect a fost verificat manual pentru a evita erorile. În total, 497 de lucrări au fost respinse, reprezentând aproximativ 2% din totalul trimiterilor.
Metoda de detectare nu a fost prezentată ca fiind infailibilă. Organizatorii au recunoscut că sistemul poate fi ocolit și că a detectat probabil doar formele cele mai evidente de utilizare a LLM-urilor. Mesajul principal al conferinței este clar: „încălcarea unei reguli asumate explicit poate atrage sancțiuni severe, indiferent dacă review-ul rezultat părea bun sau nu.”
Impactul asupra cercetării științifice
Utilizarea AI în procesul de „peer review” a devenit o practică comună. Un sondaj din 2025 a relevat că peste jumătate dintre cercetători foloseau astfel de instrumente pentru evaluare, chiar dacă regulamentele multor jurnale și conferințe interzic acest lucru. ICML a încercat să gestioneze această discrepanță prin stabilirea a două politici paralele. Una interzicea categoric utilizarea LLM-urilor, iar cealaltă permitea o utilizare limitată, de exemplu, pentru a facilita înțelegerea unei lucrări sau pentru îmbunătățirea clarității feedback-ului. Sancțiunile au fost aplicate exclusiv celor care au încălcat regimul strict, demonstrând o abordare fermă.
Reacțiile din comunitatea științifică au fost împărțite. Unii cercetători au salutat fermitatea conferinței, în timp ce alții au avertizat că o astfel de politică ar putea descuraja recenzorii și ar putea împinge utilizarea AI în forme mai greu de detectat.
Consecințele acestei decizii pot fi importante pentru lumea științei. Acesta este un precedent puternic, deoarece organizatorii de conferințe și editorii de jurnale au acum un exemplu concret de aplicare a regulilor privind AI. Într-un mediu academic unde presiunea de a publica este mare, această schimbare poate redefini rapid limitele dintre asistența tehnologică legitimă și potențiala fraudă academică.
Sursa: Playtech.ro
