Deepfake-urile sunt mai mult decât simple trucuri tehnologice – ele reprezintă o amenințare reală pentru democrație și justiție. Această tehnologie avansată, care poate crea imagini și înregistrări video convingătoare, este un produs al progresului rapid al inteligenței artificiale. Dar în timp ce progresele sunt uimitoare, riscurile devin din ce în ce mai evidente. De la manipularea probelor judiciare până la influențarea alegerilor, deepfake-urile schimbă regulile jocului într-un mod periculos
Trăim într-o lume în continuă mișcare, o lume care dezvolta constant instrumente noi cu scopul de a ușura viața individului, iar popularitatea uneltelor tech de tipul ChatGPT care folosesc inteligenta artificiala nu poate fi ignorată. Considerată chiar ca dovada unei noi Revoluții Industriale inteligenta artificiala este un subiect complex, iar viteza cu care inteligenta artificiala este dezvoltata, devenind din ce in ce mai autonoma si puternica, ar trebui sa ne motiveze să creăm să implementăm standarde și ghiduri de buna utilizare a inteligenței artificiale. De altfel, poate cel mai îngrijorător produs al inteligenței artificiale este o formă de media artificială, numita deepfake.
Deepfake-urile sunt videouri, imagini sau secvențe audio care sunt editate sau chiar generate în întregime de către instrumente de inteligenta artificiala. Deși aceasta tehnologie exista încă din anii 1990, folosirea comercială a început in 2018, când aplicația FakeApp a fost lansată prin intermediul căreia utilizatorii puteau schimba fețele persoanelor care apar într-un video. În prezent, deepfake-urile au devenit din ce în ce mai credibile, iar urmările acestora sunt îngrijorătoare, afectând viața privată a individului. De exemplu, experții avertizează ca aceasta tehnologie este deja folosită pentru a defăima oameni, ca in cazul unui liceu din New Jersey SUA in care un grup de elevi au generat și răspândit imagini explicite folosind fețele colegelor lor. De asemenea, este important de înțeles că deepfake-urile au si un impact mult mai amplu, în arii mai largi, precum domeniul justiției.
Astfel, prin manipularea imaginilor, filmărilor sau înregistrărilor audio apar nenumărate probleme. De exemplu, integritatea probelor poate fi pusă sub semnul întrebării atunci când natura acestor probe este îndoielnică. Mai mult, deși există instrumente avansate care pot ajuta la stabilirea credibilității probelor, multe sisteme judiciare nu au acces la astfel de unelte, iar astfel cazuri întregi sunt puse în pericol. De exemplu, în cazul României, tehnologia avansată pentru detectarea deepfake-urilor nu este disponibilă.
O alta problema cauzata de deepfake-uri este extrem de relevantă anul acesta, un an în care o mare parte din glob a avut alegeri atât la nivel național cât și la nivel internațional, ca în cazul alegerilor pentru Parlamentul Uniunii Europene. Deepfake-urile pot fi folosite pentru a crea videouri false, care au potențialul de a manipula opiniile cetățenilor care ar putea foarte ușor sa își schimbe părerea pe care o au despre candidați. De exemplu, acest fenomen a fost foarte larg răspândit în cazul alegerilor americane, iar locuitorii statului New Hampshire au fost victimele unor apeluri telefonice în care vocea lui Joe Biden îi încuraja sa nu iasă la vot. Astfel de manipulări sunt o reala amenințare pentru democrație, afectând elementul de baza prin care cetățenii se pot exprima- votul.
Astfel, este esențial ca legislația actuala sa fie modernizata pentru a tine pasul cu schimbările din lumea reala. La nivel european, în 2022 a fost semnat Actul legislativ privind serviciile digitale, o inițiativă care încearcă sa reglementeze acest fenomen și își propune sa protejeze spațiul digital și toți utilizatorii din mediul online. Aceștia reprezintă 45 de milioane de cetățeni UE conform Consiliului Uniunii Europene. În cazul României, anul acesta a fost pus în vigoare Ordinul 20721/2024 pentru constituirea punctului unic de contact privind preluarea sesizărilor referitoare la conținutul deepfake, dar lacunele legislative încă sunt prezente în reglementarea legislativă a acestei probleme.
De asemenea, pe lângă actualizarea legislației, o alta soluție începe chiar cu investițiile făcute în domeniul tehnologic pentru a dezvolta instrumentele de detectare menționate mai sus. Astfel, prin investiții mai mari, tehnologia de detectare a deepfake-urilor poate deveni mai accesibila, iar in același timp o tehnologie accesibilă ușurează implementarea platformelor de depistare a deepfake-urilor în domenii diverse.Deepfake-urile nu sunt doar o problemă tehnologică, ci și una socială, politică și juridică. Fără legislație modernizată și investiții în tehnologie, ne aflăm în pericol de a pierde controlul asupra spațiului digital. Este responsabilitatea guvernelor să protejeze cetățenii și să anticipeze modul în care această tehnologie va evolua, asigurând un viitor mai sigur pentru toți.
Articol realizat de Daria Goldenberg, în parteneriat cu avocat Camelia Ionescu