Ceea ce au adus cu adevărat ultimii ani nou în industria înșelătoriilor este deepfake, tehnologia care a pus capăt certitudinii: „am văzut în film, trebuie să fie real“. Tehnologia deepfake folosește „efectele speciale“ manipulează imagini umane și practic poate înfățișa ca o scenă filmată realist orice scenariu fantastic, respectiv înșelător. Pare filmat, pare complet realist, dar este complet fals. De aici decurge necesitatea de a manifesta suspiciune față de ceea ce vedem într-un film. Pe măsură ce tehnologia evoluează, criteriile tehnice de departajare a unui deepfake de o filmare reală sunt din ce în ce mai puține. Iar tehnologia evoluează mult mai repede și poate fi accesată acum mult mai simplu și mai rapid decât pot organismele naționale sau international care ne protejează. Inclusiv Forumul Economic Mondial a atras atenție asupra capacității pe care o are tehnologia deepfake de a submina parcursurile economice firești, dar și procesul democratic. Se incearcă mai multe metode de control și supraveghere tehnică, însă în prezent cea mai bună cale de a ne feri de efectele sale nocive este clasicul discernământ și strămoșeasca chibzuință.
Toată lumea e de mult familiarizată cu procedeele de alterare a imaginilor fotografice prin celebrul Photoshop. Deepfake este cu totul alt nivel, nu numai pentru că acum se pot alterna imagini filmate, ci și pentru că este vorba despe un sistem care învață și care se dezvoltă practic „singur“.
Deepfakes pot fi create folosind imagini, videoclipuri și audio.
Deepfakes se numesc astfel deoarece au fost posibile datorită unei ramuri a „învățării profunde” numită Generative Adversarial Networks (GAN). GAN-urile se bazează pe tehnologia „rețelelor neuronale”, dar, în timp ce rețelele neuronale pot fi folosite doar pentru a percepe cantități mari de date, GAN-urile au oferit rețelelor neuronale capacitatea de a crea conținut nou.
Tehnologia a fost folosită mai intâi în industria cinematografică, apoi a migrat spre alți utilizatori, ca de exemplu educație, marketing sau chiar aducerea „înapoi la viață” a celor decedați.
Deepfakes au trecut apoi în domeniul escrocheriilor și șantajului – iar aici conduc deepfakes pornografice folosite pentru șantaj.
În primele zile ale deepfakes, acestea erau relativ ușor de depistat: personajele nu clipeau, mișcarea buzelor nu era sincronizată cu ceea ce spuneau, nu aveau umbre sau erau luminate nefiresc, din unghiuri diferite, părul nu se mișca sincron cu capul. Pe măsură ce tehnologia evoluează, aceste probleme se reduc și imaginile devin din ce în ce mai realiste.
Totuși, per ansamblu, rareori aceste creații reușesc să fie pe deplin convingătoare – se manifestă mai mult sau mai puțin discret efectul care a fost numit „uncanny valley“: creierul simte că ceva nu este natural, fără a putea preciza exact ce. Ca urmare, de câte ori simțim această senzație difuză de nefiresc merită să cercetăm amănunțit sursa informației.
Totuși, trebuie să știm că senzația poate apărea și la conținuturi perfect reale, precum și că există deepfakes care nu ne dau o astfel de senzație sau, din diferite motive, nu am putut fi suficient de atenți la această senzație.
Sunt în curs de dezvoltare instrumente care folosesc chiar inteligența artificială pentru a identifica deepfakes, dar rămâne de văzut în ce ritm și dacă acuratețea lor va putea ține pasul cu ritmul de evoluție al tehnologiei deepfake. Sunt de asemenea în lucru diferite mecanisme de control, inclusiv legislative, dar trebuie să ținem seama de faptul că tehnologiile evoluează galopant.
Cert este că e mai înțelept să ne bazăm pe judecata noastră asupra conținutului unui video.
Dacă doar rareori poți identifica /detecta direct un deepfake bine făcut, întotdeauna poți chibzui asupra conținutului.
Tocmai în acest context al falsurilor și înșelătoriilor grave este important să nu acționezi la impuls, să nu te lași presat, să verifici informații, să nu te dezvălui.
Recentele escrocherii care au implicat folosirea imaginii unor persoane publice arată că devine din ce în ce mai imperativ să judecăm toate conținuturile (inclusiv cele filmate care par reale) după plauzibilitate și sensul mesajului, mai mult decât după prestigiul influencerului, confruntând informațiile din mai multe surse DIFERITE.
Însă este adevărat că greu putem afla care surse sunt cu adevărat diferite și de multe ori nu avem de-a face cu vânzare prin influencing, ci cu aparente informații/știri.
În majoritatea cazurilor, indicii există – chiar victimele relatează că au putut observa indicii sau efectul „uncanny valley“, dar le-au ignorat. De ce? Pentru că se simțeau sub presiune.
Primul mesaj auzit și perceput a fost cel de urgență, panică „acționează repede, nu ai timp de gândit“. De aceea exact aceste mesaje ar trebui să ne trezească vigilența. Dacă ți se comandă să te agiți și să te îngrijorezi, respira adânc și judecă puțin.
Ai tot timpul să fii în panică. Mai întâi gândește-te. Află cine vorbește. Cine dă mesajul și ce interese poate avea?
Ce-i de făcut?
– Nu ignorați indicii, anomalii, neconcordanțe pe care le sesizați.
– Evitați efectul de autoritate și mai ales judecățile pripite – când ți se impune acțiune urgentă nu trebuie să intri în panică, ci să intri la idei!
- Examinați informațiile care se pot verifica.
It’s not deep, but is fake!
Apar din ce în ce mai multe profile false pe facebook, aparent personalități care se arată interesate de muritori de rând și încep să le pună întrebări ca să afle informații personale.
Ce-i de făcut?
– Identifică semnele falsului din profil – erori de grafică, incompatibilități.
– Nu da detalii de conturi, dar nici alte tipuri de informații personale. Orice informație poate fi folosită, pentru o schemă de înșelătorie ulterioară, poate când ai uitat deja de conversație.
