Pe 13 martie 2024 s-a desfășurat ediția a treia (2024) a Conferinței anuale „Fii un consumator informat! E important!“ care marchează Ziua Mondială a Drepturilor Consumatorilor, manifestare organizată de Asociația Sută la Sută Românesc și Tribuna Consumatorilor, în parteneriat cu Autoritatea Națională pentru Protecția Consumatorilor.
În cadrul conferinței, cel de-al doilea panel de discuții a avut în centru modul în care se poate orienta acum un consumator în mediul virtual, respectiv cele mai arzătoare probleme ale momentului: cele legate de deepfake și cele legate de comerțul electronic.
Lumea digitală și inteligența artificială (AI) evoluează într-un ritm căruia consumatorii și autoritățile trebuie să îi facă față. Dacă în anii trecuți ne-am confruntat cu adaptarea la lumea digitală în contextul publicității false generate de influenceri, contextul actual ne face să ne uităm la influența DEEP FAKE generat prin AI deja pe mai multe piețe: produse promovate online cu imaginea unor persoane publice/ VIP/ influencers, scams prin intermediul rețelelor telecom, dar și scheme și investiții financiare. Unele scenarii de înșelătorie prin deepfake au devenit cunoscute după demascarea în media (accidentul, folosirea imaginii unor personalități – Andreea Esca, ministrul economiei) dar „creativitatea“ în acest domeniu sigur nu se va opri aici. Inclusiv Forumul Economic Mondial a atras atenția asupra capacității pe care o are tehnologia deepfake de a submina parcursurile economice firești, dar și procesul democratic. Se încearcă mai multe metode de control și supraveghere tehnică, la nivel internațional.
În cadrul conferinței desfășurate pe 13 martie, consumatorii români au avut ocazia să afle informații la zi în domeniu de la cea mai competentă sursă – respectiv domnul Bogdan Mihai Dumea, secretar de stat la Ministerul Cercetării Inovării și Digitalizării.
Deepfake – precauții și reglementări
Deepfake este un subiect de interes, un subiect important pentru anul în care suntem, fiind un an electoral, în România și pe tot globul. Ce știm despre deepfake?
Bogdan Mihai Dumea: Deepfake este o tehnologie care integrează inteligența artificială pentru a crea imagini, videoclipuri, materiale audio false, dar care par în același timp foarte reale. Este o tehnologie care ar putea fi folosită pentru a manipula opinia publică, pentru a crea știri false sau poate chiar de a discredita diverse persoane. Avem în Parlament deja un proiect de lege care ar trebui să reglementeze și să pedepsească infracțiunile legate de deepfake. Deepfake-ul este orice conținut falsificat de tip imagine, video sau audio, care este realizat cu inteligența artificială și care creează aparența că o persoană a spus sau a făcut anumite lucruri care nu ii aparțin – și această persoana nu și-a dat consimțământul pentru realizarea unui astfel de material.
Ce poate face deci cetățeanul în condițiile în care inteligența artificială poate fi folosită la scrierea unor texte convingătoare, realiste, e-mail-uri poate frauduloase și așa mai departe, profile false pe Facebook?
Bogdan Mihai Dumea: În primul rând să caute surse de informare cât mai curate și mai echilibrate. Ceea ce ar putea guvernul sau statul să facă este să pedepsim, atunci când putem să identificăm de unde provine inșelătoria, să pedepsim cât mai drastic astfel de comportament care poate influența viața cetățenilor într-un mod foarte grav. Proiectul de lege despre care vă spuneam mai devreme prevede într-adevăr o serie de amenzi semnificative și inclusiv o componentă penală cu posibilitatea de a merge către închisoare între 1 și 3 ani. Așa este prevăzut în acest moment. Desigur, aici este o întreagă dezbatere, atât în România, dar mai ales la nivel european, pentru a defini unde tragem linie, ca să ne asigurăm un echilibru între libertatea de exprimare și protejarea persoanelor în cauza. Trebuie să protejăm și libertatea de exprimare, să le dăm voie oamenilor să genereze conținut cu AI, dar în același timp să nu fie unul dăunător sau care să inducă în eroare.
Care ar fi, din experiența dumneavoastră, primul indiciu care ar trebui să ne facă să suspectăm o fraudă, o intenție frauduloasă?
Bogdan Mihai Dumea: Calitatea deepfake-urilor în acest moment este destul de bună. Urmează să vedem, într-o perioadă de timp foarte scurtă, materiale care nu vor putea fi diferențiate de cele autentic filmate. Și atunci, un indiciu ar fi să ne uităm cât de absurd este, sau sursa de unde provine această informare. Ca cetățean, trebuie să avem totuși capacitatea de a interpreta lucrurile, dar mai ales să ne asigurăm că materialele provin din surse corecte, oficiale și nu de la oricine de pe internet. Cred că ține și de atitudinea cetățeanului, de a se informa corect din surse credibile, nu de oriunde de pe rețelele de socializare, unde cu siguranță vor apărea din ce în ce mai multe materiale de acest gen.
In ceea ce privește consumul, cred că ceea ce putem face cel mai bine este să informăm cetățenii să aibă o atitudine preventivă, atunci când citesc sau observă materiale online, respectiv să trateze, ca să spunem așa, cu picioarele într-un vas cu apă rece și cu gheață, lucrurile care par prea bune ca să fie reale. Până la urmă, nu cred că vom ajunge la momentul în care să blocăm complet deepfake-urile. Ele vor continua să existe, iar autoritățile statului, atât în România cât și în celelalte state, le vor pedepsi atunci când acele informații dăunează sau informează greșit. Sperăm insă că și cetățenii vor dezvolta natural, într-un timp cât mai scurt, această abilitate de a deosebi un deepfake sau o informație pe care să o trateze ca pe un divertisment. In acest moment, ceea ce putem face este să ne asigurăm că în proiectul de lege pe care îl avem în vedere vor fi prevăzute sancțiuni semnificative pentru deepfake și să integrăm in cele mai bune forme conceptele pe care le vedem acum în discuție de la nivel european, astfel încât să avem o lege corectă, stabilă, care să găsească și echilibru între libertatea de exprimare și protejarea persoanelor.
Pe 12 martie s-au împlinit 35 de ani de la crearea internetului, World Wide Web, și, mă rog, prima pagină de net a apărut doi ani mai târziu, de 12 martie 1989. Acum nu ne putem imagina viața fără el, sunt 5,35 de milioane de oameni conectați la net astăzi, 96,5% din accesări sunt de pe telefon, unde deepfake-ul începe să câștige teren. Guvernele pot detecta sursele eventualelor înșelăciuni?
Bogdan Mihai Dumea: Proiectul nostru de lege prevede pedepse, inclusiv penale, de la 1 la 3 ani. Ne dorim să ne creștem capacitatea de a identifica sursele și de a pedepsi corespunzător acești creatori de conținut. Dar sigur nu vom putea face asta în 100% din cazuri, pentru că, practic, orice persoană poate fi creator de deepfake, folosind un telefon mobil sau câteva aplicații de pe internet cu niște sume modice. Identificarea este un proces extrem de dificil, dar sper ca în viitor să găsim noi soluții tehnice care să ajute la identificarea surselor.
Cum se vede din biroul dumneavoastră cooperarea internațională la nivel de deepfake între România și restul lumii?
Bogdan Mihai Dumea: Unul dintre motivele pentru care a fost trimis proiectul legii deepfake înapoi în comisie a fost tocmai pentru a integra aspectele care vin din partea Comisiei Europene. România este un membru prezent, activ și implicat în a lucra împreună cu experții de la Comisia Europeană și experții din toate țările Uniunii pentru a găsi cele mai bune modalități de prevenție și de identificare a deepfake-urilor.
A listat cineva câteva indicii pentru a recunoaște un deepfake? Și există vreo instanță în momentul de față căreia să i adreseze cineva, un posibil consumator, care a marșat la o astfel de înșelătorie și se simte înșelat?
Bogdan Mihai Dumea: Cele mai bune abilități în a identifica deepfake-urile provin în special de la rețelele sociale: Facebook, Instagram, Twitter, care au echipe specializate și au tehnologie de a identifica deepfake-uri și de a le bloca inclusiv. Este evident că nu fac lucrul ăsta 100% perfect, însă ei au și capacitatea cea mai mare, dar și obligația de a identifica și de a bloca astfel de dezinformări. Nu există un ghid oficial publicat, promovat din partea noastră, însă există foarte multe materiale online provenite de la companii și de la entități semnificative, care au experți și abilități în sensul ăsta, sunt tutoriale și exemple care pot fi luate în considerare. Dar, ce vă spuneam mai devreme, mă aștept că într-o perioadă foarte scurtă de timp, de câteva luni, că tot am intrat în zona electorală, mă aștept că deepfake-urile să nu mai poată fi identificate atât de ușor.
Digitalizarea în România: prezent și eforturi pentru viitor
Este corect să spunem în România că „la un click distanță“ se rezolvă orice?
Bogdan Mihai Dumea: Într-adevăr, nu e corect să spunem că la un click distanță se rezolvă orice. Nu se rezolvă orice. Și realitatea ne-a arătat în 2022 când s-a publicat indexul, Digital Economy and Society Index, ne-a arătat că România stă, de fapt, la coada Europei, locul 27 din 27, din acest punct de vedere al digitalizării serviciilor publice. Realitatea este că nu suntem la nivelul la care trebuie, însă există investiții semnificative și planuri puse în funcțiune, atât legat de cloud-ul guvernamental, de migrarea serviciilor publice și de tot cumulul și aspectele pe care Ministerul Digitalizării și le-a propus. Adevărul este că in România serviciile publice sunt de obicei la cca 30 clickuri, nicidecum la unul singur. Însă se lucrează intens în a reduce numărul de clickuri și de a muta cât mai multe din serviciile publice în mediul online. Nu poate fi vorba să le mutăm total și definitiv, în sensul de a nu le mai permite la ghiseu, de a inchide ghiseele, trebuie lăsăm oamenii care vor să interacționeze fizic să meargă la ghișeu. Vrem insă să ducem și în mediul online aceste servicii publice, astfel încât să mai simplificăm viețile oamenilor. Vă dau un exemplu, cred că anul trecut s-a lansat aplicația ROID de către Autoritatea pentru Digitalizarea României, partea ministerului nostru. Este o aplicație în care tot mai multe instituții și servicii publice se vor integra, astfel încât dumneavoastră să aveți un singur cont, o singură identitate online digitală în aplicația ROID, aplicația oficială și de acolo să intrați pe diverse alte ministere, alte servicii, alți furnizori de servicii publice, dar tot nu o să fie la un click distanță, tot vor fi ceva mai multe. Poate nu 30, sperăm să fie din ce în ce mai eficientizat și mai ușor, iar ROID este o aplicație care ne va ușura viața, în sensul că nu trebuie să vă faceți conturi diferite pe toate platformele, aveți un singur cont pe această aplicație oficială a statului, ROID, și de aici puteți merge către MAI, către ANAF etc.
Însă dacă cineva spune “la un click distanță“ într-un clip publicitar difuzat la radio și referitor la un serviciu comercial, nu este treaba Ministerului Digitalizării. Pentru asta există CNA și CNA ascultă și radio-ul, se uită și la televizor. Este decizia lor dacă intervin sau nu atunci când cineva emite în spațiu public diverse informații care sunt mai puțin reale și nu e o chestiune pe care să o reglementeze Ministerul Cercetării, Inovării și Digitalizării
Pe internet ne vin tot felul de oferte, unele aproape realiste, de reduceri, și să zicem că ai apucat să dai acolo datele de pe card, adresa. Când știi deja că riști, cine te poate apăra? Sigur, legea te poate apăra, la un moment dat, adică până la justiție, poate banii deja ți-au fost extrași banii din cont.
Bogdan Mihai Dumea: Din punctul meu de vedere, cred că cea mai bună instituție este Autoritatea Națională pentru Protecția Consumatorului, având și atribuții în acest sens, și sper că colegii de acolo, de la ANPC, vor dezvolta din ce în ce mai multe soluții, astfel încât să și prevină, nu doar să intervină, atunci când aceste cazuri apar. Și am încredere că lucrurile se vor îmbunătăți pe măsură ce și statul își va dezvolta competențele digitale necesare.
Cum va fi România peste 10 ani, din punct de vedere digital?
Bogdan Mihai Dumea: Pot să vă spun cum văd eu România digitală peste 10 ani, pentru că am lucrat în ultimii 2 ani la un ghid al digitalizării instituțiilor publice, ghid pe care îl vom publica în foarte scurt timp. Și acolo, din punctul nostru de vedere, trebuie urmate câteva direcții foarte clare. Una dintre direcții este One Stop Only: atunci când cetățeanul va dori să rezolve ceva în relația cu statul, să obțină ceva, sau să clarifice, sau să plătească ceva, va avea de mers într-un singur punct și va fi suficient să ia legătura cu o singură persoană sau o singură soluție IT, astfel încât să-și rezolve problema. Practic ne dorim să nu îl mai plimbăm pe la mai multe ghișee fizice sau la mai multe aplicații online, să nu-i mai complicăm viața cu un flux de documente pe care el trebuie să-l obțină într-o perioadă de timp din diverse surse și din diverse locuri, ci să definim acest concept de One Stop Shop. Dacă e vorba de un ghișeu fizic, să fie un ghișeu unic de unde cetățeanul să-și poată rezolva astfel toate aspectele care țin de serviciile publice, iar dacă este un cetățean care este mai interesat de soluțiile digitale – și sperăm că marea majoritate se vor îndrepta în direcția asta – să avem o singură aplicație care să încorporeze absolut toate serviciile publice. Deci să nu mai avem aplicații distincte, câte 10-20 de aplicații, fiecare cu funcția sa, ci să avem o singură aplicație a statului prin care cetățeanul să poate spune de ce are nevoie și apoi, în spate, toate instituțiile, toate autoritățile să-și facă treaba, să-și schimbe informații între ele pentru a-i rezolva această problemă. Practic, cetățeanul să aibă o singură aplicație prin care intră în legătură cu statul și să nu îl mai intereseze ce instituții își fac treaba în spate.
–––––––––––––––––––––––––––––––––––––
Conferința a tratat subiecte de actualitate și au orientat atenția consumatorilor către subiecte relevante precum sustenabilitatea, evitarea risipei alimentare, importanța digitalizării în era e-commerce, dar și beneficiile și pericolele pe care le aduce folosirea inteligenței artificiale. Invitați au fost secretarul de stat în Ministerul Cercetării, Inovării și Digitalizării, dl. Bogdan Dumea, președintele ANPC, dl. Horia Constantinescu, doamna Lidia Nica– director executiv Romalimenta și invitați din sectorul privat.
Organizată de: Asociația Sută la Sută Românesc.
Eveniment susținut de Romalimenta, cu sprijinul Mondelez International, eMAG, Catena, Altex.
