Inteligența artificială: oportunități și pericole

Inteligența artificială (IA) ne influențează tot mai mult viața. Iată avantajele, dar și aspectele negative, care amenință securitatea, democrația, companiile și locurile de muncă.

Data publicării: 22-10-2020 Ultima actualizare: 07-05-2025 - 06:33 Timp de lectură: 10 minute

Pe măsură ce inteligența artificială pătrunde în viețile noastre, devine tot mai necesar să o reglementăm.

Creșterea și bunăstarea Europei depind foarte mult de modul în care vom utiliza datele și tehnologiile conectate. IA ne poate schimba radical viața, în bine sau în rău.

De aceea, în iunie 2024, Parlamentul European a adoptat Legea privind Inteligența Artificială - primul set de reguli cuprinzătoare din lume pentru sisteme IA sigure și care să respecte drepturile fundamentale.

În continuare, iată câteva oportunități esențiale și pericole legate de viitoarele aplicații ale IA și cum urmărește Legea IA să le gestioneze.

Ce este inteligența artificială și cum este ea utilizată: mai multe informații.

Avantajele IA

În țările UE, industria digitală și aplicațiile destinate companiilor (business-to-business) sunt foarte dezvoltate. Cu o infrastructură digitală de înaltă calitate și un cadru de reglementare care protejează viața privată și libertatea de exprimare, UE ar putea deveni un lider mondial în economia datelor și aplicațiile ei.

Beneficiile IA pentru cetățeni

Datorită IA, cetățenii ar putea beneficia de: servicii de asistență medicală mai bune, autovehicule și alte sisteme de transport mai sigure, produse și servicii adaptate, mai ieftine și mai durabile. IA facilitează totodată accesul la informații, educație și formare.

IA poate îmbunătăți și siguranța la locul de muncă, deoarece roboții pot realiza activitățile periculoase din anumite domenii, și poate duce la apariția unor noi profesii, pe măsură ce industriile bazate pe IA se dezvoltă și sunt în continuă schimbare.

Oportunități create de inteligența artificială pentru companii

În cazul companiilor, IA poate facilita dezvoltarea unei noi generații de produse și servicii, chiar în sectoare în care companiile europene dețin deja poziții solide: economia verde și circulară, echipamentele, agricultura, asistența medicală, moda și turismul. Alte beneficii pot fi: optimizarea vânzărilor, îmbunătățirea întreținerii echipamentelor, creșterea volumului și a calității producției, îmbunătățirea serviciilor pentru clienți și economisirea energiei.

Oportunități generate de IA în serviciile publice

IA utilizată în serviciile publice poate reduce costurile și oferi noi posibilități în domenii precum: transportul public, educația, gestionarea energiei și a deșeurilor, și poate îmbunătăți durabilitatea produselor. Astfel, IA ar putea contribui la realizarea obiectivelor prevăzute în Pactul verde european.

Consolidarea democrației

Monitorizarea bazată pe date, prevenirea dezinformării și a atacurilor cibernetice și asigurarea accesului la informații de calitate ar putea întări democrația. Ar putea susține totodată diversitatea și deschiderea, prin atenuarea riscului de prejudiciu în deciziile de angajare și prin utilizarea datelor analitice.

IA, securitate și siguranță

Se preconizează că IA va fi utilizată mai mult în prevenirea criminalității și în sistemul de justiție penală: ea ar permite prelucrarea mai rapidă a seturilor de date masive, evaluarea mai precisă a riscurilor de fugă ale deținuților, iar infracțiunile sau chiar atacurile teroriste ar putea fi prevenite. Platformele online utilizează deja IA pentru a detecta și combate comportamentul online ilegal și necorespunzător.

În domeniul militar, IA poate fi utilizată pentru strategii de apărare și atac în hacking și phishing sau pentru a viza sisteme vitale în războiul cibernetic; avantajul principal al sistemelor de arme autonome este potențialul de a se implica într-un conflict armat cu un risc redus de vătămare fizică.

Pericole și provocări generate de IA

Recurgerea pe scară tot mai mare la sistemele de IA este însoțită și de potențiale riscuri.

Uzul redus sau excesiv al IA

Utilizarea redusă a IA este considerată un pericol major: oportunități ratate pentru UE ar putea însemna o implementare deficitară a unor programe importante, pierderea avantajului competitiv față de alte regiuni, stagnare economică și limitarea oportunităților pentru cetățeni. Utilizarea redusă ar putea avea drept cauze neîncrederea publicului și a companiilor în IA, infrastructura deficitară, lipsa de inițiativă, investiții scăzute sau piețe digitale fragmentate, dat fiind că învățarea automată a IA depinde de date.

Uzul excesiv poate ridica și el probleme, cum ar fi: investiții în aplicații IA care se dovedesc inutile sau aplicarea IA în activități pentru care nu este adaptată, de exemplu, pentru a explica aspectele societale complexe.

Legea IA dorește să abordeze ambele riscuri. Se urmărește încurajarea în Europa a unei IA care să prezinte încredere atât pentru cetățeni cât și pentru companii, care să țină cont de riscurile inerente și care să poziționeze Europa ca o forță în acest domeniu.

Răspunderea: Cine este responsabil pentru daunele cauzate de IA?

O provocare importantă este stabilirea responsabilității pentru daunele cauzate de un dispozitiv sau serviciu operat de IA: în cazul unui accident în care este implicat un automobil autonom, daunele ar trebui suportate de proprietar, de producătorul de automobile sau de programator?

Dacă producătorul nu ar avea nicio responsabilitate, nu ar exista niciun stimulent pentru a furniza un bun sau un serviciu de calitate, ceea ce ar putea afecta încrederea cetățenilor în tehnologie; însă reglementările ar putea fi, de asemenea, prea stricte și ar putea frâna inovarea.

Amenințările IA la adresa drepturilor fundamentale și democrației

Rezultatele produse de IA depind de modul în care este concepută și de datele pe care le utilizează. Atât conceperea cât și datele pot fi distorsionate în mod intenționat sau neintenționat. De exemplu, este posibil ca anumite aspecte importante ale unui chestiuni să nu fie programate în algoritm sau ar putea fi programate astfel încât să reflecte și să reproducă poziții structurale distorsionate. În plus, utilizarea cifrelor pentru a reprezenta realități sociale complexe ar putea da impresia că IA este concretă și exactă, când de fapt nu este („mathwashing” - falsa neutralitate numerică).

Dacă nu este utilizată corespunzător, IA poate conduce la decizii influențate de date precum etnia, sexul sau vârsta în procese precum angajarea sau concedierea, acordarea de împrumuturi sau chiar în cadrul procedurilor penale.

IA ar putea avea un impact grav asupra dreptului la viață privată și la protecția datelor. Spre exemplu, ar putea fi utilizată în echipamente de recunoaștere facială sau pentru urmărirea online și crearea de profiluri a persoanelor fizice. În plus, IA permite fuzionarea unor informații furnizate de o persoană și obținerea de noi date, ceea ce poate duce la rezultate neașteptate pentru respectiva persoană.

Poate reprezenta totodată o amenințare la adresa democrației; IA a fost deja blamată pentru crearea camerelor de ecou online pe baza comportamentului online anterior al unei persoane. Aceste camere implică afișarea cu predilecție a unui tip de conținut apreciat de o persoană, în loc să creeze un mediu propice dezbaterilor pluraliste, accesibile în mod echilibrat și favorabile incluziunii. Poate fi folosită chiar pentru a crea materiale video, audio și imagini false extrem de realiste (așa-numitele deep fakes), ce implică riscuri financiare, dăunează reputației și periclitează procesul decizional. Toate acestea pot avea drept consecință crearea de diviziune și polarizare în spațiul public mergând până la manipularea alegerilor.

IA ar putea juca, de asemenea, un rol în a împiedica libertatea de întrunire și de protest, din cauza acțiunii de urmărire și de profilare a anumitor persoane pe baza convingerilor sau acțiunilor lor.

Pentru a preveni părtinirea, Legea IA impune ca seturile de date utilizate pentru antrenarea IA să fie cât mai complete și lipsite de erori posibil. De asemenea, ea reglementează utilizarea anumitor aplicații IA care pot amenința drepturile cetățenilor - de exemplu, utilizarea sistemelor de identificare biometrică de către forțele de ordine este interzisă, cu excepția unor cazuri strict definite.

Legea IA a introdus, de asemenea, o cerință conform căreia imaginile, conținutul audio sau video creat sau manipulat artificial, adică deep fakes, trebuie etichetate ca atare în mod clar și vizibil.

Impactul IA asupra locurilor de muncă

Se preconizează că utilizarea IA în domeniul muncii va duce la eliminarea unui număr mare de locuri de muncă. Dar se prevede totodată că IA va crea și va îmbunătăți locurile de muncă și educația, iar cursurile de formare vor avea un rol crucial în prevenirea șomajului pe termen lung și în asigurarea unei forțe de muncă calificate.

Concurența

Agregarea datelor poate duce deopotrivă la denaturarea concurenței, deoarece actorii ce dețin mai multe informații ar putea obține un avantaj și elimina în mod eficient concurenții.

Riscuri la adresa siguranței și securității

Aplicațiile IA care sunt în contact fizic cu persoanele sau sunt integrate în corpul uman pot prezenta riscuri în materie de siguranță, căci pot fi concepute și utilizate în mod necorespunzător sau piratate. Utilizarea insuficient reglementată a IA în domeniul armelor ar putea duce la pierderea controlului omului asupra armelor periculoase.

Provocări în materie de transparență

Ar putea fi exploatate dezechilibrele privind accesul la informații. De exemplu, pe baza comportamentului online al unei persoane sau a altor date, fără știrea acesteia, un vânzător online poate utiliza IA pentru a estima cât este dispusă să plătească persoana respectivă; o campanie politică își poate adapta mesajul pornind de la aceleași date. Un alt aspect ce ține de transparență este faptul că uneori nu este clar dacă oamenii interacționează cu IA sau cu o persoană.

Legea IA abordează aceste provocări reglementând folosirea IA pentru a preveni manipularea comportamentului uman, înșelătoria sau exploatarea vulnerabilităților oamenilor.

Citiți cum vor deputații să configureze legislația asupra datelor pentru a impulsiona inovarea și a crește siguranța.