YouTube lansează un nou instrument pentru a detecta deepfake-uri cu politicieni și jurnaliști
Platforma video YouTube implementează un nou sistem menit să identifice și să semnaleze videoclipuri generate cu inteligență artificială (AI) care folosesc chipurile unor persoane reale. Programul, inițial testat pentru creatorii de conținut, este extins acum pentru a include oficiali, jurnaliști și candidați politici, cu scopul de a combate răspândirea dezinformării și a proteja identitatea vizuală a acestora. Totuși, instrumentul nu garantează eliminarea automată a materialelor false, iar succesul său va depinde de capacitatea YouTube de a distinge între conținut legitim și falsuri nocive.
Cum funcționează sistemul de detectare a chipurilor
Noul sistem, asemănător cu instrumentul Content ID utilizat pentru drepturile de autor, scanează videoclipurile pentru a identifica apariții ale chipurilor persoanelor înregistrate în program. Dacă se detectează o posibilă potrivire cu un chip, persoana respectivă poate analiza clipul și poate solicita eliminarea acestuia prin intermediul procedurii de raportare a încălcărilor de confidențialitate. Pentru a participa, utilizatorii trebuie să își verifice identitatea, datele fiind folosite exclusiv pentru verificarea identității și funcționarea instrumentului, nu pentru antrenarea modelelor AI. Intenția YouTube este de a extinde treptat accesul la acest instrument, dar pilotul actual servește atât ca o fază de testare tehnică, cât și politică, în special în zonele în care libertatea de exprimare se ciocnește cu protecția identității.
Provocări și responsabilități în combaterea deepfake-urilor
Unul dintre aspectele cele mai discutate ale acestei inițiative este faptul că detectarea videoclipurilor false nu implică eliminarea lor automată. YouTube subliniază că va continua să protejeze libertatea de exprimare și conținutul de interes public, inclusiv parodia și satira, chiar dacă acestea folosesc chipurile unor persoane publice. Platforma se confruntă cu o provocare majoră: găsirea unui echilibru între protejarea identității și evitarea cenzurii legitime. În plus, responsabilitatea principală revine în continuare persoanelor vizate, care trebuie să se înscrie, să își verifice identitatea, să revizuiască materialele semnalate și să depună cereri de eliminare. Așadar, deși instrumentul oferă un ajutor, procesul poate fi dificil pentru cei vizați de campanii de dezinformare.
YouTube explorează potențialul de monetizare a imaginii digitale
Dincolo de apărarea împotriva deepfake-urilor, YouTube explorează posibilități de monetizare a imaginii generate cu AI. Rene Ritchie, creator liaison la YouTube, a menționat într-un material video că platforma analizează modalități prin care creatorii și artiștii ar putea gestiona, autoriza și beneficia financiar de utilizarea AI a imaginii lor. Această abordare ar putea transforma modul în care sunt percepute deepfake-urile, trecând de la o amenințare la un instrument potențial de venituri, bazat pe consimțământ și licențiere. Compania intenționează să sprijine reglementări puternice, precum NO FAKES Act, văzut ca un model de protecție a identității în era AI.
În martie 2026, YouTube a lansat o nouă etapă în implementarea acestui sistem.
Sursa: Playtech.ro
