Conform Digi24: Cum ajunge un videoclip fals despre răpiri să fie viral pe TikTok fără etichetă AI
Un cercetător specializat în inteligență artificială, Bayar Menzat, a explicat la Digi24 mecanismele prin care videoclipurile generată cu ajutorul inteligenței artificiale ajung să fie distribuite pe platforme precum TikTok fără a fi etichetate corespunzător. Acesta a subliniat că, deși inițial TikTok aplică o etichetă automată pentru conținutul generat de AI, aceasta poate dispărea ușor prin redistribuiri succesive, adăugare de text nou sau scăderea rezoluției video.
Astfel, un videoclip cu o ambulanță falsă care „fura copii”, viralizat recent pe TikTok și care a contribuit la un atac real asupra unei ambulanțe în județul Cluj, ar fi putut pierde eticheta de conținut generat de inteligența artificială, devenind mult mai greu de identificat ca fals. Menzat a atras atenția că tehnologia AI, deși avansată, încă prezintă anumite „defecte” sau inconsistențe care pot trăda natura sa artificială.
Semnele subtile ale conținutului generat de AI
Cercetătorul a detaliat că videoclipurile create cu ajutorul inteligenței artificiale pot manifesta probleme legate de „temporaritate”. Acestea pot include apariții sau dispariții bruște ale unor elemente din cadru, cum ar fi un șofer care dispare pentru o secundă sau o ușă care se închide și se deschide într-un mod nenatural. Aceste mici detalii, cauzate de imaturitatea tehnologiei, pot servi drept indicii pentru detectarea conținutului sintetic.
De asemenea, o rezoluție scăzută a videoclipului, folosită adesea pentru a masca defectele vizuale specifice generării prin AI, reprezintă un alt semnal de alarmă. Cu toate acestea, Bayar Menzat a subliniat că oamenii care au fost expuși anterior la diverse exemple de conținut generat de inteligența artificială devin mai abili în a discerne între realitate și ficțiune digitală.
Educația digitală, o barieră împotriva dezinformării
Studiile citate de cercetător arată că familiarizarea cu caracteristicile specifice videoclipurilor generate de AI, cum ar fi durata constantă, paleta de culori similară sau vocile repetitive, ajută publicul să identifice mai ușor astfel de conținuturi. Repetiția și uniformitatea elementelor vizuale și auditive în creațiile AI facilitează recunoașterea lor.
Menzat a oferit exemplul unei strategii simple pentru a educa persoanele mai în vârstă, propunându-le să le arate câteva exemple de videoclipuri generate de AI, ajutându-le astfel să înțeleagă mai rapid mecanismele și să devină mai critice în fața informațiilor online. El consideră că educația digitală și conștientizarea sunt esențiale pentru a combate răspândirea dezinformării.
Diferențierea între AI generativ și manipularea informației
Cu toate acestea, cercetătorul subliniază importanța de a separa conceptul de inteligență artificială generativă de cel de dezinformare pură. Un exemplu concret este cazul ambulanței care ar fi „furat copii”, unde, conform lui Menzat, ar fi putut fi vorba de o simplă manipulare prin adăugarea unui text fals peste un videoclip real, fără implicarea directă a inteligenței artificiale pentru generarea imaginii sau a sunetului.
Cazul atacului asupra ambulanței din județul Cluj, în urma căruia șapte persoane au fost arestate preventiv, a scos la iveală pericolul informațiilor false, amplificate de platforme precum TikTok. Suspecții au acționat crezând într-un mit despre răpiri de copii, un mit popularizat pe rețelele sociale, demonstrând astfel impactul negativ al dezinformării asupra siguranței publice.
Sursa: Digi24
