Telecomunicatii

Fenomenul deepfake

Fenomenul deepfake: Ce efecte poate avea asupra opiniei publice?

01.06.2022

Deepfake reprezintă o falsificare a conţinutului video prin care o persoană dintr-o imagine sau dintr-un videoclip deja existent este înlocuită cu altcineva. Fenomenul deepfake a luat amploare în ultima perioadă, iar acest lucru îngrijorează autorităţile. Cu toate că deepfake-urile audio şi foto au apărut de mult, până acum a fost extrem de greu să se modifice conţinut video. Odată cu dezvoltarea tehnologiei este din ce în ce mai dificilă clasificarea videoclipurilor ca autentice sau false.

Deepfake-urile pot fi utilizate pentru a defăima, uzurpa identitatea și pentru a răspândi informații false. Principala problemă este că omenirea ar putea ajunge în situaţia în care nu mai este posibil să se determine dacă conținutul de pe internet este adevărat sau nu.

În acest context, atât autorităţile, marile universităţi de tehnologie, cât şi companiile private din întreaga lume au anunţat investiţii importante pentru a combate acest fenomen, întrucât există riscuri de manipulare a opiniei publice.

Ce este deepfake?

Deepfake reprezintă o falsificare a conţinutului video prin care o persoană dintr-o imagine sau dintr-un videoclip deja existent este înlocuită cu altcineva. Mai exact, este vorba de imagini prelucrate, unde fețele persoanelor sunt alterate şi schimbate, înlocuind identitatea altcuiva.

Deepfake folosește tehnici de învățare automată și inteligență artificială pentru a manipula sau genera conținut vizual și audio, cu un potențial ridicat de a înșela. Principalele metode de învățare automată utilizate pentru a crea deepfake-uri se bazează pe învățarea profundă și implică antrenarea arhitecturilor de rețele neuronale generative, cum ar fi codificatoarele automate sau rețelele de publicitate generative (GAN-uri).

Deepfake folosește tehnici de învățare automată și inteligență artificială pentru a manipula sau genera conținut vizual și audio, cu un potențial ridicat de a înșela

Deepfake-urile au atras atenția pe scară largă pentru utilizările lor în crearea de materiale pornografice, știri false, farse, materiale folosite pentru intimidare și fraudă financiară.

Acest lucru a generat răspunsuri atât din partea firmelor private, cât și a autorităţilor pentru a detecta și limita utilizarea acestora.

Cele mai cunoscute deepfake-uri

Primul exemplu elocvent de deepfake a apărut în 22 mai 2019, când un videoclip cu Nancy Pelosi, președintele Camerei Reprezentanților a Statelor Unite ale Americii și al treilea om în stat, a fost modificat astfel încât aceasta să pară beată.

După aceea au apărut deepfake-uri cu Donald Trump, Barack Obama, Kim Jong Un, Vladimir Putin etc.

Un alt deepfake care ar fi putut avea efecte puternice este cel din 16 martie 2022, când pe rețelele de socializare a circulat un videoclip fals de un minut în care președintele Ucrainei, Volodimir Zelenski, le-a spus soldaților săi să depună armele și să se predea Rusiei. După ce informaţia a fost dezmințită, Facebook și YouTube au şters imaginile. Hackerii au introdus imaginile false într-un crawl de știri cu text derulat în direct de la postul de televiziune Ukraine 24.

Pe 16 martie 2022, pe rețelele de socializare a circulat un videoclip fals de un minut în care președintele Ucrainei, Volodimir Zelenski, le-a spus soldaților săi să depună armele și să se predea Rusiei

În plus, tehnologia deepfake poate crea fotografii convingătoare, dar complet fictive, precum şi „fake-uri de voce” sau „clone de voce” ale unor persoane publice. În luna martie a anului 2021, șeful unei filiale a unei firme germane de energie din Marea Britanie a plătit aproape 200.000 de lire sterline într-un cont bancar din Ungaria, după ce a fost sunat de „o voce” care a imitat vocea CEO-ului german. Asigurătorii companiei cred că vocea a fost un deepfake, dar dovezile sunt neclare.

Tehnologia deepfake poate crea fotografii convingătoare, dar complet fictive, precum şi „fake-uri de voce” sau „clone de voce” ale unor persoane publice

Efecte puternice asupra oamenilor

Deepfake-urile create pentru manipulare, cum ar fi știrile false, sunt extrem de dăunătoare dacă nu se face nimic pentru a crește gradul de conștientizare asupra acestei tehnologii. Astfel, videoclipurile autentice și deepfake-urile ar putea deveni imposibil de diferenţiat pe fondul progresului rapid al inteligenței artificiale și a graficii pe computer.

Videoclipurile autentice și deepfake-urile ar putea deveni imposibil de diferenţiat pe fondul progresului rapid al inteligenței artificiale și a graficii pe computer

Un specialist în fraude online al Google, Shuman Ghosemajumder, spune că aceste fenomen reprezintă o preocupare pentru întreaga societate şi că se va ajunge în situaţia în care un individ ar putea folosi această tehnologie pentru a produce milioane de videoclipuri deepfake într-un timp foarte scurt.

Pe măsură ce noile tehnici permit oamenilor necalificați să facă deepfake-uri, este posibil ca videoclipurile false să se răspândească dincolo de lumea politică şi a celebrităţilor.

Un alt pericol care poate apărea este legat de încrederea în orice conţinut video. Oamenii vor fi păcăliţi şi după ce își vor da seama de acest lucru nu vor mai avea încredere în veridicitatea oricărui alt conținut video.

Care este soluția pentru a combate deepfake-urile?

În mod ironic, soluţia este reprezentată tot de Inteligenţa Artificială. Cu ajutorul ei se pot depista videoclipurilor false, însă multe sisteme de detectare existente au o problemă serioasă: funcționează cel mai bine pentru celebrități, deoarece se pot antrena pe ore întregi de filmări disponibile gratuit.

În mod ironic, soluția pentru a combate fenomenul deepfake este reprezentată tot de Inteligenţa Artificială

Guvernele, universitățile și giganţii de tehnologie finanțează cercetări pentru a detecta deepfake-urile. Luna trecută, a început „Deepfake Detection Challenge”, competiţie susținută de Microsoft, Facebook și Amazon, care va include echipe de cercetare de pe tot globul. Acestea concurează pentru a descoperi cum poate fi detectat deepfack-ul de realitate.

De asemenea, Facebook a dezvoltat un algoritm prin care detectează deepfake-urile, însă aceste este încă la început.

Aşadar, deepfake-urile pot avea un impact puternic asupra oamenilor, acest fenomen fiind doar un exemplu al modului în care tehnologia este folosită pentru a face rău. Din fericire, în curând, cel mai probabil se vor dezvolta instrumente pentru a combate deepfake-urile, firmele de tehnologie şi autorităţile lucrând împreună la sisteme de detectare care urmăresc să semnaleze falsurile ori de câte ori apar.

Citeşte şi Web3: Tehnologia care va schimba modul în care folosim internetul