Asociațiile consumatorilor din 13 țări europene și Statele Unite ale Americii au subliniat riscurile modelelor generative de inteligență artificială precum ChatGPT într-un raport și au îndemnat autoritățile de reglementare să intervină.
Modelele AI generative pot produce text, imagini sau conținut video sofisticat, pe baza solicitărilor utilizatorilor. Această tehnologie a devenit din ce în ce mai populară odată cu lansarea ChatGPT, stârnind speranțe masive legate de potențialul său, dar și preocupări cu privire la riscurile sale. „IA generativă, cum ar fi ChatGPT, a deschis tot felul de posibilități pentru consumatori, dar există îngrijorări serioase cu privire la modul în care aceste sisteme ar putea înșela, manipula și dăuna oamenilor. Aceste sisteme pot fi, de asemenea, folosite pentru a răspândi dezinformarea, a perpetua părtinirile care amplifică discriminarea sau pot fi folosite pentru fraudă”, a declarat Ursula Pachl, director general adjunct al Organizației Europene a Consumatorilor, citată de EURACTIV.
Autoritatea italiană de protecție a datelor a fost prima care a analizat problema, solicitând furnizorului ChatGPT OpenAI să implementeze unele măsuri corective. În consecință, a fost înființat un grup operativ la nivelul UE pentru a coordona acțiunile de asigurare a respectării confidențialității privind această tehnologie.
Forbrukerrådet, asociația norvegiană a consumatorilor, a publicat un raport pentru a detalia preocupările restante ale consumatorilor.
Pot inventa „fapte” din surse inexistente
Responsabilitatea acestor sisteme este o preocupare de top, deoarece organizațiile de consumatori subliniază faptul că marile companii Big Tech și-au închis sistemele controlului extern, făcând aproape imposibilă înțelegerea practicilor lor de colectare a datelor și a procesului de luare a deciziilor.
O altă amenințare esențială identificată este inexactitatea, și anume faptul că ChatGPT și like-urile tind să scoată informațiile din context sau chiar să inventeze „fapte” din surse inexistente, dar care sună realiste pentru utilizatori. Crearea de conținut manipulator sau înșelător este o îngrijorare suplimentară, întrucât implică a-i manipula emoțional pe consumatori, pentru a cumpăra un anumit produs.
Uzurparea identității și falsurile profunde au fost deja identificate ca potențiali factori favorizanți pentru campaniile de dezinformare, în special în contextul prezenței la vot, Comisia Europeană propunând introducerea etichetelor pentru conținutul generat de AI în Codul de practică al UE privind dezinformarea.
Capacitatea de a uzurpa identitatea cu acuratețe poate, de asemenea, să permită escrocilor să producă conținut înșelător, cum ar fi e-mailurile de phishing la scară, un risc deja evidențiat într-un raport rapid al Europol, agenția de aplicare a legii a UE.
Brando Benifei, unul dintre deputații care se ocupă de dosar, a propus să anticipeze intrarea în aplicare a regulamentului AI pentru modelele de bază sau generativă. Chestiunea va fi discutată la următoarea sesiune de negocieri, din 18 iulie. (redacția UZPR)
Foto: unsplash.com