Index 
 Înapoi 
 Înainte 
 Text integral 
Procedură : 2015/2103(INL)
Stadiile documentului în şedinţă
Stadii ale documentului : A8-0005/2017

Texte depuse :

A8-0005/2017

Dezbateri :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Voturi :

PV 16/02/2017 - 6.9
Explicaţii privind voturile

Texte adoptate :

P8_TA(2017)0051

Texte adoptate
PDF 522kWORD 78k
Joi, 16 februarie 2017 - Strasbourg Ediţie definitivă
Normele de drept civil privind robotica
P8_TA(2017)0051A8-0005/2017
Rezoluţie
 Anexă

Rezoluţia Parlamentului European din 16 februarie 2017 conținând recomandări adresate Comisiei referitoare la normele de drept civil privind robotica (2015/2103(INL))

Parlamentul European,

–  având în vedere articolul 225 din Tratatul privind funcționarea Uniunii Europene,

–  având în vedere Directiva 85/374/CEE a Consiliului(1),

–  având în vedere studiul privind Aspectele etice ale sistemelor ciber-fizice (Ethical Aspects of Cyber-Physical Systems) efectuat în numele comitetului pentru Evaluarea opțiunilor științifice și tehnologice (STOA) din cadrul Parlamentului și gestionat de Unitatea de prospectivă științifică (STOA), Direcția Generală Servicii de cercetare parlamentară;

–  având în vedere articolele 46 și 52 din Regulamentul său de procedură,

–  având în vedere raportul Comisiei pentru afaceri juridice și avizele Comisiei pentru transport și turism, Comisiei pentru libertăți civile, justiție și afaceri interne, Comisiei pentru ocuparea forței de muncă și afaceri sociale, Comisiei pentru mediu, sănătate publică și siguranță alimentară, Comisiei pentru industrie, cercetare și energie și Comisiei pentru piața internă și protecția consumatorilor (A8-0005/2017),

Introducere

A.  întrucât, de la monstrul Frankenstein al lui Mary Shelley, până la mitul clasic al lui Pygmalion, trecând prin legenda Golemului din Praga sau robotul lui Karel Čapek, autorul care a inventat termenul, oamenii și-au imaginat posibilitatea de a construi mașini inteligente, de cele mai multe ori androizi cu caracteristici umane;

B.  întrucât umanitatea se află acum în pragul unei ere în care roboții, boții, androizii și alte materializări ale inteligenței artificiale (IA), încă și mai sofisticate, par să declanșeze o nouă revoluție industrială, care va afecta probabil toate straturile societății, fiind astfel de o importanță vitală ca legiuitorii să ia în considerare implicațiile și efectele juridice și etice ale acestui fenomen, fără a frâna însă inovarea;

C.  întrucât este necesară o definiție general acceptată a roboților și a IA, care să fie flexibilă și care să lase loc inovării;

D.  întrucât, în perioada 2010 - 2014, creșterea medie a vânzărilor de roboți s-a cifrat la 17 % pe an, iar în 2014 vânzările au crescut cu 29 %, saltul anual cel mai mare înregistrat vreodată, principalii factori de creștere fiind furnizorii de piese pentru autovehicule și industria electrică/electronică; întrucât depunerile anuale de brevete pentru tehnologia robotică s-au triplat în ultimul deceniu;

E.  întrucât, în ultimii 200 de ani, numărul locurilor de muncă a crescut continuu datorită dezvoltării tehnologice; întrucât dezvoltarea roboticii și a IA poate transforma viața și practicile de muncă, poate crește eficiența, economiile și nivelul de siguranță și poate oferi un nivel mai bun de servicii; întrucât robotica și IA promit, pe termen scurt și mediu, să aducă beneficii în materie de eficiență și economii, nu numai în sectorul productiv și în cel comercial, ci și în domenii precum transporturile, serviciile medicale, educația și agricultura, oferind totodată posibilitatea de a evita expunerea oamenilor la unele situații periculoase, cum ar fi în cazul decontaminării siturilor poluate cu substanțe toxice;

F.  întrucât îmbătrânirea populației este rezultatul unei speranțe de viață mai mari, datorate progresului condițiilor de viață și al medicinei moderne, și este una dintre cele mai mari provocări de ordin politic, social și economic ale secolului al XXI-lea pentru societățile europene; întrucât, până în 2025, peste 20 % dintre europeni vor avea 65 de ani sau mai mult, cu o creștere deosebit de rapidă a numărului celor în vârstă de peste 80 de ani, ceea ce va duce la un echilibru complet diferit între generații în societățile noastre; întrucât este în interesul societății ca persoanele mai în vârstă să rămână sănătoase și active cât mai mult timp;

G.  întrucât, pe termen lung, tendința actuală îndreptată spre dezvoltarea unor mașini inteligente și autonome, cu capacitatea de a fi antrenate și de a lua decizii în mod independent, prezintă o serie de avantaje economice, dar ridică diverse probleme legate de efectele directe și indirecte asupra societății în ansamblu;

H.  întrucât învățarea automatizată oferă societății beneficii enorme în domeniul economic și al inovației, prin îmbunătățirea considerabilă a capacității de analiză a datelor, însă dă naștere și unor provocări în ceea ce privește asigurarea nediscriminării, respectarea garanțiilor procedurale, transparența și inteligibilitatea proceselor decizionale;

I.  întrucât, de asemenea, trebuie evaluate schimbările economice și impactul asupra pieței muncii datorate roboticii și a învățării automatizate; întrucât, deși aduce avantaje incontestabile, utilizarea roboticii poate determina modificarea pieței muncii, impunându-se, prin urmare, o reflecție asupra viitorului educației, al ocupării forței de muncă și al politicilor sociale;

J.  întrucât utilizarea la scară largă a roboticii ar putea să nu ducă în mod automat la înlocuirea locurilor de muncă, însă locurile de muncă cu calificare mai redusă din sectoarele ocupaționale intensive ar putea fi mai vulnerabile la extinderea automatizării; întrucât această tendință ar putea aduce anumite procese de producție înapoi în UE; întrucât o serie de cercetări au demonstrat că ocuparea forței de muncă crește mult mai rapid în sectoarele profesionale în care se folosesc mai mult computerele; întrucât automatizarea locurilor de muncă poate elibera oamenii de munci manuale monotone, permițându-le să se îndrepte spre sarcini mai creative și cu mai multă însemnătate; întrucât automatizarea obligă guvernele să investească în educație și în alte reforme pentru a îmbunătăți realocările în privința tipurilor de competențe de care lucrătorii viitorului vor avea nevoie;

K.  întrucât, în fața unor divizări crescânde a societății, cu o clasă de mijloc în scădere, este important să se țină cont de faptul că dezvoltarea roboticii poate conduce la o concentrare acută a bogăției și a influenței în mâinile unei minorități;

L.  întrucât dezvoltarea roboticii și a IA va influența fără îndoială peisajul pieței muncii, creând noi probleme legate de responsabilitate, și eliminând altele; întrucât responsabilitatea juridică trebuie clar definită atât la nivelul modelului de afaceri, cât și la nivelul modelelor de muncă, în eventualitatea apariției unor urgențe sau a unor probleme;

M.  întrucât tendința spre automatizare impune ca cei implicați în dezvoltarea și comercializarea aplicațiilor de IA să includă securitatea și etica încă din etapele inițiale, recunoscând astfel că trebuie să fie pregătiți să accepte răspunderea juridică pentru calitatea tehnologiei pe care o produc;

N.  întrucât Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului(2) (Regulamentul general privind protecția datelor) stabilește un cadru juridic pentru protecția datelor personale; întrucât alte aspecte legate de accesul la date și de protecția datelor cu caracter personal și a vieții private rămân încă de soluționat, dat fiind faptul că ar putea să mai apară probleme legate de viața privată datorate comunicării fără intervenție umană a aplicațiilor și componentelor între ele, precum și cu bazele de date;

O.  întrucât evoluțiile din robotică și IA pot și ar trebui concepute în așa fel încât să protejeze demnitatea, autonomia și autodeterminarea persoanelor, în special în domenii precum îngrijirea umană și acompanierea și, în contextul aparaturii medicale, al „reparării” sau al „ameliorării capacităților” ființelor umane;

P.  întrucât, în final, există posibilitatea ca pe termen lung IA să depășească capacitatea intelectuală umană;

Q.  întrucât dezvoltarea continuă și extinderea utilizării proceselor decizionale automatizate și algoritmice va avea fără îndoială un impact asupra alegerilor pe care persoanele private (de exemplu oameni de afaceri sau utilizatori ai internetului) și autoritățile publice administrative, judiciare sau de altă natură le vor face în luarea unei decizii finale legate de consum, de afaceri sau de exercitarea autorității; întrucât este necesară integrarea unor garanții și a unor posibilități de control și verificare umane în procesele decizionale automatizate și algoritmice;

R.  întrucât mai multe jurisdicții străine, printre care SUA, Japonia, China și Coreea de Sud, au în vedere și, într-o oarecare măsură, au și luat măsuri normative legate de robotică și IA, iar unele state membre au început, de asemenea, să analizeze idea elaborării unor norme juridice și a realizării unor modificări ale legislației, pentru a ține seama de aplicațiile emergente ale acestor tehnologii;

S.  întrucât industria europeană ar putea beneficia de pe urma unei abordări eficiente, coerente și transparente a reglementărilor la nivelul Uniunii, oferind condiții corespunzătoare, predictibile și suficient de clare, în cadrul cărora întreprinderile să poată dezvolta aplicații și planifica modelele de afaceri la scară europeană, garantându-le, în același timp, Uniunii și statelor membre că își vor păstra controlul asupra standardelor normative de stabilit, astfel încât să nu fie forțate să adopte și funcționeze pe baza unor standarde stabilite de alții, și anume de țările terțe care se află în avangarda dezvoltării roboticii și a IA;

Principii generale

T.  întrucât trebuie considerat că legile lui Asimov(3) îi vizează pe proiectanții, producătorii și operatorii roboților, inclusiv a celor cu autonomie integrată și capacitate individuală de învățare, deoarece aceste legi nu pot fi convertite în cod-mașină;

U.  întrucât sunt necesare o serie de norme care să reglementeze în special răspunderea, transparența și responsabilitatea, reflectând valorile specific europene și valorile umaniste universale care caracterizează contribuția europeană adusă societății; întrucât normele nu trebuie să afecteze procesul de cercetare, inovare și dezvoltarea în domeniul roboticii;

V.  întrucât Uniunea ar putea juca un rol esențial în ceea ce privește stabilirea principiilor etice fundamentale care trebuie respectate la dezvoltarea, programarea și utilizarea roboților și a IA, precum și la integrarea unor astfel de principii în reglementările și codurile de conduită ale UE, pentru a configura revoluția tehnologică astfel încât să servească umanității, iar robotica și IA avansate să fie disponibile pe scară largă, evitându-se, pe cât se poate, potențialele capcane;

W.  întrucât la prezenta rezoluție este anexată o Cartă privind robotica, elaborată cu sprijinul Unității de prospectivă științifică (STOA), Direcția Generală Servicii de cercetare parlamentară, și în aceasta se propune un cod de conduită etică pentru inginerii din domeniul roboticii, un cod de conduită pentru comitetele pentru etică în cercetare și o „licență” pentru proiectanți, respectiv o „licență” pentru utilizatori;

X.  întrucât Uniunea are nevoie de o abordare treptată, pragmatică și precaută, de tipul celei a lui Jean Monnet(4), cu privire la inițiativele viitoare privind robotica și IA, pentru a nu descuraja inovarea;

Y.  întrucât, având în vedere stadiul atins în dezvoltarea roboticii și a IA, este recomandabil să se înceapă cu aspectele legate de răspunderea civilă;

Răspunderea

Z.  întrucât, datorită impresionantelor progrese tehnologice din ultimul deceniu, nu numai că roboții sunt în prezent capabili de activități care, de obicei, erau desfășurate exclusiv de oameni, dar dezvoltarea unor anumite caracteristici autonome și cognitive - de exemplu, capacitatea de a învăța din experiență și de a lua decizii în mod aproape independent - i-a apropiat din ce în ce mai mult de agenții care interacționează cu mediul și care sunt în măsură să-l modifice în mod semnificativ; întrucât, într-un astfel de context, răspunderea juridică ce decurge dintr-o acțiune dăunătoare a unui robot devine o chestiune esențială;

AA.  întrucât autonomia unui robot poate fi definită drept capacitatea de a lua decizii și de a le transpune în practică în lumea exterioară, independent de influența sau controlul exterior; întrucât această autonomie este de natură pur tehnologică, iar nivelul ei depinde de cât de sofisticat a fost concepută interacțiunea robotului cu mediul sau ambiant;

AB.  întrucât, cu cât roboții sunt mai autonomi, cu atât mai puțin pot fi considerați doar simple instrumente la dispoziția altor actori (cum ar fi producătorul, operatorul, proprietarul, utilizatorul etc.); întrucât, în schimb, apar întrebări privind măsura în care normele obișnuite privind răspunderea sunt suficiente sau dacă sunt necesare principii și norme noi, care să ofere claritate privind răspunderea juridică a diferiților actori pentru actele și omisiunile roboților atunci când cauzele nu pot fi imputate unui actor uman anume sau privind măsura în care actele sau omisiunile roboților care au provocat prejudicii ar fi putut fi evitate;

AC.  întrucât, în cele din urmă, autonomia roboților ridică problema naturii lor în contextul actualelor categorii juridice sau a necesității creării unei noi categorii, cu propriile sale caracteristici și implicații;

AD.  întrucât, în condițiile actualului cadru juridic, roboții nu pot fi ținuți răspunzători per se pentru acte sau omisiuni care provoacă daune unor terți; întrucât normele existente privind răspunderea acoperă cazurile în care cauza unui act sau a unei omisiuni a unui robot poate fi identificată ca fiind un anumit agent uman, cum ar fi producătorul, operatorul, proprietarul sau utilizatorul și în care respectivul agent ar fi putut să prevadă și să evite comportamentul dăunător al robotului; întrucât, în plus, producătorii, operatorii, proprietarii și utilizatorii ar putea fi ținuți răspunzători strict pentru actele sau omisiunile unui robot;

AE.  întrucât, potrivit cadrului juridic actual, răspunderea pentru produs - în care producătorul unui produs este responsabil pentru funcționarea defectuoasă - și normele care guvernează răspunderea pentru acțiuni dăunătoare - în care utilizatorul unui produs este responsabil pentru un comportament care generează prejudicii - se aplică prejudiciilor cauzate de roboți sau IA;

AF.  întrucât, în situația în care un robot poate lua decizii autonome, normele tradiționale nu vor fi suficiente pentru a atrage răspunderea juridică pentru daunele cauzate de acesta, deoarece nu permit identificarea părții în sarcina căreia ar cădea răspunderea despăgubirii și impunerea reparării prejudiciului provocat;

AG.  întrucât neajunsurile actualului cadru juridic sunt vizibile și în domeniul răspunderii contractuale, în măsura în care mașinile concepute să-și aleagă partenerii, să negocieze clauzele contractuale, să încheie contracte și să decidă dacă și cum să le implementeze fac imposibilă aplicarea normelor tradiționale; întrucât acest lucru evidențiază necesitatea unor norme noi, eficiente și ancorate în actualitate, care să corespundă dezvoltării tehnologice și inovațiilor recent apărute și utilizate pe piață;

AH.  întrucât, în ceea ce privește răspunderea delictuală, Directiva 85/374/CEE a Consiliului nu poate acoperi decât daunele provocate de defectele de fabricație ale roboților, cu condiția ca persoana vătămată să poată dovedi prejudiciul real, defectul produsului și raportul cauzal dintre prejudiciu și defect, drept pentru care cadrul răspunderii stricte sau al răspunderii fără culpă ar putea fi insuficient;

AI.  întrucât, fără a aduce atingere domeniului de aplicare al Directivei 85/374/CEE, actualul cadru juridic nu ar fi suficient pentru a acoperi daunele provocate de noua generație de roboți, în măsura în care aceștia sunt dotați cu capacități adaptive și de învățare care atrag după sine un anumit grad de imprevizibilitate comportamentală, deoarece acești roboți învăță în mod autonom, pe baza propriei lor experiențe, și interacționează cu mediul lor ambiant într-un mod unic și impredictibil;

Principii generale privind dezvoltarea roboticii și a inteligenței artificiale pentru uz civil

1.  invită Comisia să propună definiții comune la nivelul Uniunii ale sistemelor ciberfizice, sistemelor autonome, roboților inteligenți autonomi și ale subcategoriilor acestora, ținând seama de următoarele caracteristici ale unui robot inteligent:

   dobândește autonomie cu ajutorul senzorilor și/sau prin schimburi de date cu mediul său ambiant (interconectivitate) și negociază și analizează aceste date;
   dispune de sisteme de învățare individuală din experiență și prin interacțiune (criteriu opțional);
   dispune cel puțin de un suport fizic minor;
   are capacitatea de a-și adapta comportamentul și acțiunile la mediul ambiant;
   nu este viu în sens biologic;

2.  consideră că ar trebui introdus un sistem cuprinzător, la nivelul Uniunii, de înregistrare a roboților avansați în cadrul pieței sale interne, atunci când este important și necesar pentru anumite categorii de roboți și invită Comisia să stabilească criterii de clasificare a roboților în vederea identificării celor care ar trebui înregistrați; solicită, în acest context, Comisiei să analizeze dacă ar fi de dorit ca sistemul de înregistrare și registrul să fie gestionate de o Agenție a UE pentru Robotică și Inteligență artificială;

3.  subliniază că dezvoltarea roboticii ar trebui să se orienteze spre completarea capacităților umane și nu spre înlocuirea lor; consideră că este esențial să se garanteze că, în dezvoltarea roboticii și a IA, oamenii au control asupra aparatelor inteligente în orice moment; consideră că ar trebui acordată o atenție specială eventualității creării unei legături emoționale între om și robot - în special în cazul grupurilor vulnerabile (copiii, persoanele în vârstă sau persoanele cu dizabilități) - și evidențiază problemele ridicate de impactul emoțional sau fizic grav pe care acest atașament emoțional l-ar putea avea asupra utilizatorului uman;

4.  subliniază că o abordare la nivelul Uniunii poate facilita dezvoltarea prin faptul că permite evitarea fragmentării pe piața internă și evidențiază, de asemenea, importanța principiului recunoașterii reciproce în utilizarea transfrontalieră a roboților și a sistemelor robotizate; reamintește că testarea, certificarea și aprobarea pentru piață ar trebui să fie necesare numai într-un singur stat membru; subliniază că această abordare ar trebui să fie însoțită de o supraveghere efectivă a pieței;

5.  subliniază importanța luării unor măsuri pentru a sprijini întreprinderile mici și mijlocii și startup-urile din domeniul roboticii care creează noi segmente de piață în acest sector sau care utilizează roboții în activitatea lor;

Cercetarea și inovarea

6.  subliniază că multe aplicații de robotică sunt încă în fază experimentală; salută faptul că din ce în ce mai multe proiecte de cercetare sunt finanțate din fondurile statelor membre și din cele ale Uniunii; consideră că este esențial ca Uniunea, alături de statele membre prin finanțări publice, să rămână lideri în cercetarea din domeniul roboticii și inteligenței artificiale; invită Comisia și statele membre să consolideze instrumentele financiare pentru proiectele de cercetare în domeniul roboticii și al TIC, inclusiv parteneriatele public-privat, și să aplice în politicile lor de cercetare principiile științei deschise și inovării etic responsabile; subliniază necesitatea alocării unor resurse suficiente pentru identificarea soluțiilor adecvate la provocările de ordin social, etic, juridic și economic pe care le ridică dezvoltarea tehnologică și aplicațiile sale;

7.  solicită Comisiei și statelor membre să impulsioneze programele de cercetare, să favorizeze o analiză a riscurilor și oportunităților pe termen lung ale roboticii și tehnologiilor IA și să încurajeze cât mai curând inițierea unui dialog public structurat privind consecințele dezvoltării respectivelor tehnologii; invită Comisia să își crească sprijinul, în cadrul evaluării cadrului financiar multianual la jumătatea perioadei, pentru programul SPARC finanțat prin Orizont 2020; solicită Comisiei și statelor membre să-și unească eforturile pentru a monitoriza atent și a garanta o tranziție fără dificultăți a acestor tehnologii de la cercetare la comercializarea și utilizarea pe piață, după o evaluare corespunzătoare a siguranței și respectând principiul precauției;

8.  subliniază că inovarea în robotică și în IA și integrarea acestor tehnologii în economie și societate necesită o infrastructură digitală care să asigure o conectivitate ubicuă; invită Comisia să definească un cadru care să răspundă cerințelor de conectivitate pentru viitorul digital al Uniunii și să se asigure că accesul la rețelele de bandă largă și 5G respectă pe deplin principiul neutralității rețelei;

9.  este ferm convins că interoperabilitatea între sisteme, dispozitive și servicii cloud, bazată pe securitate și respectarea vieții private încă din momentul conceperii, este esențială pentru ca fluxurile de date în timp real să permită roboților și IA să devină mai flexibili și mai autonomi; solicită Comisiei să promoveze un mediu deschis, de la standarde deschise și modele inovatoare de acordare a licenței, la platforme deschise și transparență, pentru a evita blocajul în sistemele cu drepturi rezervate, care restrâng interoperabilitatea;

Principiile etice

10.  remarcă faptul că potențialul capacitant al utilizării roboticii este nuanțat de o serie de tensiuni și riscuri care ar trebui atent analizate din perspectiva siguranței umane, a sănătății și securității, a libertății, vieți private și demnității, a autodeterminării, nediscrimării și protecției datelor personale;

11.  consideră esențial ca actualul cadru juridic al Uniunii Europene să fie actualizat și completat, dacă este cazul, printr-o serie de principii etice orientative adaptate complexității roboticii și a numeroaselor sale implicații sociale, medicale și bioetice; consideră că este necesar un cadru etic orientativ clar, strict și eficient pentru dezvoltarea, proiectarea, fabricarea, utilizarea și modificarea roboților, pentru a completa recomandările juridice din raport, din legislația națională și din acquis-ul Uniunii; propune, în anexa la rezoluție, un cadru sub forma unei carte constând dintr-un cod de conduită pentru inginerii din domeniul roboticii, precum și un cod de conduită pentru comitetele pentru etica cercetării, cu ocazia revizuirii protocoalelor robotice și a licențelor tipizate pentru proiectanți și utilizatori;

12.  atrage atenția asupra principiului transparenței, conform căruia ar trebui să fie întotdeauna posibil să se prezinte motivele subiacente oricărei decizii luate cu ajutorul IA care poate avea un impact important asupra vieții uneia sau mai multor persoane; consideră că trebuie să fie întotdeauna posibil să se reducă calculele sistemelor de IA la o formă inteligibilă pentru oameni; consideră că roboții avansați ar trebui echipați cu o „cutie neagră” care să înregistreze date privind toate tranzacțiile efectuate de mașina respectivă, inclusiv logica care a contribuit la deciziile respective;

13.  relevă faptul că acest cadru etic orientativ ar trebui să fie bazat pe principiile beneficienței, non-maleficienței, autonomiei și justiției, pe principiile și valorile consacrate în Articolul 2 din Tratatul privind Uniunea Europeană și în Carta drepturilor fundamentale, precum demnitatea umană, egalitatea, justiția și echitatea, nediscriminarea, consimțământul în cunoștință de cauză, respectarea vieții private și protecția datelor, pe principiile și valorile fundamentale ale dreptului Uniunii, cum ar fi nestigmatizarea, transparența, autonomia, responsabilitatea individuală și răspunderea socială, precum și pe practicile și codurile etice existente;

14.  consideră că ar trebui acordată o atenție specială roboților care reprezintă un pericol semnificativ pentru confidențialitate prin faptul că sunt plasați în sfere în mod tradițional protejate și private sau pentru că sunt capabili să extragă și să transmită date cu caracter personal sau sensibil;

O agenție europeană

15.  consideră că este necesară o cooperare consolidată între statele membre și Comisie pentru a garanta coerența normelor transfrontaliere în Uniune, care ar încuraja colaborarea între industriile europene și ar permite utilizarea în întreaga Uniune a unor roboți care respectă nivelurile impuse de siguranță și securitate, precum și principiile etice consacrate în dreptul Uniunii;

16.  solicită Comisiei să analizeze posibilitatea creării unei Agenții Europene pentru Robotică și Inteligență artificială, pentru a oferi cunoștințele tehnice, etice și reglementare necesare în vederea susținerii actorilor publici relevanți, atât la nivelul Uniunii, cât și al statelor membre, în eforturile lor de a oferi o reacție promptă, etică și bine informată la noile oportunități și provocări, în special la cele care decurg din evoluțiile tehnologice din domeniul roboticii, de exemplu în sectorul transporturilor;

17.  consideră că potențialul și problemele legate de utilizarea roboticii și dinamica actuală a investițiilor justifică dotarea agenției europene cu un buget și un personal adecvat, incluzând juriști și experți externi în tehnică și etică, dedicați monitorizării transsectoriale și multidisciplinare a aplicațiilor bazate pe robotică, identificării standardelor pentru practicile optime și, dacă este cazul, recomandării unor măsuri de reglementare, definirii unor noi principii și abordării potențialelor probleme legate de protecția consumatorilor și a provocărilor recurente; solicită Comisiei (și agenției europene, dacă va fi creată) să informeze anual Parlamentul European cu privire la cele mai recente evoluții din domeniul roboticii și la toate măsurile care trebuie luate;

Drepturile de proprietate intelectuală și fluxurile de date

18.  constată că nu există prevederi legale care să se aplice în mod specific roboticii, dar că regimurile juridice și doctrinele existente pot fi aplicate cu ușurință la robotică, deși unele aspecte par să necesite o analiză specială; solicită Comisiei să susțină o abordare orizontală tehnologic neutră a proprietății intelectuale, aplicabilă în diferitele sectoare în care poate fi utilizată robotica;

19.  invită Comisia și statele membre să se asigure că normele de drept civil în sectorul roboticii sunt în conformitate cu Regulamentul privind protecția datelor și respectă principiile necesității și proporționalității; invită Comisia și statele membre să țină seama de evoluțiile tehnologice rapide din domeniul roboticii, inclusiv de evoluția sistemelor ciberfizice și să se asigure că dreptul Uniunii nu rămâne în urma dezvoltării și implementării tehnologice;

20.  subliniază că dreptul la respectarea vieții private și la protecția datelor cu caracter personal, consacrate la articolele 7 și 8 din Cartă și la articolul 16 din Tratatul privind funcționarea Uniunea Europeană (TFUE), se aplică în toate sferele roboticii, precum și că trebuie respectat pe deplin cadrul juridic al Uniunii privind protecția datelor; solicită, în această privință, clarificarea, în cuprinsul cadrului de punere în aplicare a Regulamentului general privind protecția datelor, a normelor și criteriilor privind utilizarea camerelor de luat vederi și a senzorilor roboților; solicită Comisiei să se asigure că sunt respectate principiile de protecție a datelor, cum ar fi respectarea din concepție și cea implicită a vieții private, reducerea la minimum a datelor sau limitarea scopului, și sunt utilizate mecanisme de control transparente pentru persoanele vizate și măsuri corective corespunzătoare, în conformitate cu dreptul Uniunii privind protecția datelor , precum si că sunt promovate și integrate în politicile Uniunii recomandările și standardele adecvate;

21.  subliniază faptul că libera circulație a datelor este esențială pentru economia digitală și dezvoltarea sectorului roboticii și inteligenței artificiale; subliniază că, pentru utilizarea adecvată a roboților și a IA, este esențial un nivel înalt de securitate a sistemelor robotice; subliniază că trebuie asigurată protecția rețelelor de roboți și IA interconectate pentru a preveni eventuala periclitare a securității; subliniază că un nivel ridicat de securitate, de protecție a datelor cu caracter personal și de respectare a vieții private în comunicarea dintre oameni, roboți și inteligența artificială este esențial; subliniază responsabilitatea proiectanților roboticii și a IA de a dezvolta produse sigure, securizate și adecvate scopului lor; invită Comisia și statele membre să sprijine și să stimuleze dezvoltarea tehnologiei necesare, inclusiv a asigurării securității prin proiectare;

Standardizare, siguranță și securitate

22.  subliniază că stabilirea unor standarde și acordarea interoperabilității este esențială pentru viitorul concurenței în domeniul tehnologiilor IA și roboticii; îi solicită Comisiei să-și continue activitatea de armonizare la nivel internațional a standardelor tehnice, în special împreună cu organizațiile europene de standardizare și cu Organizația Internațională de Standardizare, pentru a stimula inovarea, a evita fragmentarea pieței interne și garanta un nivel ridicat de siguranță a produselor și de protecție a consumatorilor, incluzând, atunci când este cazul, standarde minime de siguranță în mediul de muncă; subliniază importanța unor standarde de inginerie inversă și a unor standarde deschise legale pentru a maximiza importanța inovației și a se asigura că roboții pot comunica între ei; salută în acest sens instituirea unor comisii tehnice speciale, precum ISO/TC 299 Robotics, care se ocupă exclusiv de elaborarea standardelor în domeniul roboticii;

23.  subliniază că testarea roboților în condiții reale este esențială pentru a identifica și a evalua riscurile pe care le-ar putea genera, precum și evoluția lor tehnologică dincolo de stadiul pur experimental de laborator; subliniază, în acest sens, că testarea roboților în condiții reale, în special în orașe și în trafic, ridică numeroase probleme, printre care obstacolele care încetinesc evoluția etapelor de testare, și necesită o strategie și un mecanism de monitorizare eficiente; invită Comisia să elaboreze criterii uniforme în toate statele membre, pe care fiecare stat membru în parte să le utilizeze pentru a identifica domeniile în care sunt permise experimentele cu roboți, cu respectarea principiului precauției;

Mijloacele autonome de transport

a)Vehiculele autonome

24.  subliniază că transportul autonom acoperă toate formele de transport rutier, feroviar, aerian și pe apă de o manieră automată, conectată și autonomă, inclusiv pentru vehicule, trenuri, nave, feriboturi, aeronave, drone, precum și toate viitoarele forme pe care le vor lua evoluțiile și inovările din sector;

25.  consideră că sectorul autovehiculelor are nevoie, cu maximă urgență, de norme ale Uniunii și mondiale eficiente, care să asigure dezvoltarea transfrontalieră a vehiculelor automatizate și autonome, astfel încât să exploateze pe deplin potențialul economic și beneficiile care derivă din efectele pozitive ale tendințelor tehnologice; subliniază că abordările normative fragmentare ar frâna implementarea unor sisteme autonome de transport și ar periclita competitivitatea europeană;

26.  atrage atenția asupra faptului că timpul de reacție al conducătorului este esențial atunci când acesta preia neașteptat comanda unui vehicul și, de aceea, solicită părților implicate să prevadă valori realiste, care sunt deosebit de importante în chestiunile legate de siguranță și de răspundere;

27.  consideră că trecerea la vehicule autonome va avea efecte asupra următoarelor aspecte: răspunderea civilă (răspundere și asigurare), siguranța rutieră, toate chestiunile legate de mediu (eficiența energetică, utilizarea tehnologiilor și a surselor de energie regenerabile), aspecte legate de date (accesul la date, protecția datelor, confidențialitatea și partajarea datelor), aspecte legate de infrastructura TIC (densitatea ridicată a unor comunicații eficiente și fiabile) și ocuparea forței de muncă (crearea sau pierderea locurilor de muncă, formarea șoferilor vehiculelor grele de marfă pentru a le putea utiliza pe cele automatizate); subliniază că vor fi necesare investiții substanțiale în drumuri, energie și infrastructura TIC; solicită Comisiei să țină seama de aspectele menționate mai sus în activitatea sa legată de mijloacele autonome de transport;

28.  subliniază importanța capitală a unei poziționări fiabile și a furnizării prompte de informații de către programele europene de navigație prin satelit Galileo și EGNOS pentru introducerea vehiculelor autonome, și solicită insistent, în această privință, terminarea și lansarea sateliților necesari pentru finalizarea sistemului european de poziționare Galileo;

29.  atrage atenția asupra valorii adăugate ridicate a vehiculelor autonome pentru persoanele cu mobilitate redusă, având în vedere că le permit o participare mai eficace la transportul rutier individual, facilitându-le astfel viața de zi cu zi;

b) Dronele (RPAS)

30.  recunoaște rezultatele pozitive înregistrate în tehnologia dronelor, în special în ceea ce privește căutarea și salvarea; subliniază că un cadru la nivelul Uniunii privind utilizarea dronelor este important pentru protecția siguranței, a securității și a vieții private a cetățenilor Uniunii și îi solicită Comisiei să dea curs recomandărilor din Rezoluția Parlamentului din 29 octombrie 2015 referitoare la utilizarea în siguranță a sistemelor de aeronave pilotate de la distanță (RPAS), cunoscute în mod curent sub denumirea de vehicule aeriene fără pilot (UAV) în domeniul aviației civile(5); invită insistent Comisia să prezinte o evaluare a aspectelor legate de siguranță în ceea ce privește folosirea dronelor pe scară largă; invită Comisia să examineze necesitatea de a introduce un sistem obligatoriu de urmărire și identificare pentru RPAS care să permită stabilirea poziției în timp real a aeronavei în timpul utilizării; reamintește că omogenitatea și siguranța aeronavelor fără pilot ar trebui asigurate prin măsurile prevăzute de Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului(6);

Roboții de asistență

31.  subliniază că cercetarea și dezvoltarea din domeniul roboților destinați îngrijirii vârstnicilor s-a generalizat și s-a ieftinit de-a lungul timpului, permițând realizarea unor produse mai funcționale și acceptate în mai mare măsură de consumatori; remarcă gama largă de aplicații ale acestor tehnologii, care le oferă persoanelor în vârstă, celor cu dizabilități și celor afectați de demență, de tulburări cognitive sau de pierderi de memorie beneficii legate de profilaxie, asistență, monitorizare, stimulare și însoțire;

32.  relevă faptul că contactul uman constituie unul dintre aspectele fundamentale ale îngrijirii persoanelor; consideră că înlocuirea factorului uman cu roboți ar putea dezumaniza practicile de îngrijire a persoanelor, dar, pe de altă parte, recunoaște că roboții ar putea efectua sarcinile automatizate de îngrijire și ar putea facilita activitatea asistenților din acest sector, consolidând totodată serviciile umane de îngrijire și direcționând mai precis reabilitarea, ceea ce ar permite personalului medical și celor responsabili de îngrijiri să dedice mai mult timp diagnosticării și ameliorării planificării variantelor de tratament; subliniază că, în pofida potențialului roboților de a îmbunătăți mobilitatea și integrarea persoanelor cu dizabilități și a vârstnicilor, îngrijitorii umani vor continua să fie necesari și vor constitui o sursă importantă de interacțiune socială, care nu va putea fi niciodată înlocuită în totalitate;

Roboții medicali

33.  subliniază importanța unei educații, formării și pregătirii corespunzătoare a personalului medical, cum ar fi doctorii și asistenții, pentru atingerea unui nivel maxim de competență profesională, precum și pentru menținerea și protecția sănătății pacienților; subliniază necesitatea definirii unor cerințe profesionale minimale pe care să le satisfacă chirurgii pentru a li se permite să utilizeze roboți chirurgicali; consideră fundamentală respectarea principiului autonomiei supravegheate a roboților, conform căruia planificarea inițială a tratamentului și decizia finală privind efectuarea acestuia trebuie să aparțină întotdeauna unui chirurg uman; scoate în evidență importanța formării utilizatorilor, pentru a le permite să se familiarizeze cu cerințele tehnice din domeniu; atrage atenția asupra tendinței în creștere de autodiagnosticare cu ajutorul unui robot mobil și a necesității implicite ca doctorii să fie pregătiți pentru a se ocupa de cazuri autodiagnosticate; consideră că utilizarea acestor tehnologii nu trebuie să reducă sau să afecteze relația medic-pacient, ci trebuie să le ofere medicilor asistență în diagnosticarea și/sau tratarea pacienților, pentru a reduce riscul erorii umane, a crește calitatea vieții și a mări speranța de viață;

34.  consideră că roboții medicali continuă să înregistreze progrese în chirurgia de înaltă precizie și în îndeplinirea unor proceduri repetitive, precum și că au potențialul de a îmbunătăți rezultatele reabilitării și oferă un sprijin logistic foarte eficace în spitale; constată că roboții medicali au potențialul de a reduce și costurile serviciilor medicale, permițând personalului medical să își transfere atenția de la tratament la profilaxie și disponibilizând un buget mai mare pentru o mai bună ajustare la diversitatea nevoilor pacienților, pentru formarea permanentă a personalului medical și pentru cercetare;

35.  invită Comisia să se asigure că procedurile pentru testarea unor noi dispozitive medicale robotizate sunt sigure, în special în cazul dispozitivelor implantate în corpul uman, înainte de data la care Regulamentul (UE) 2017/745 privind dispozitivele medicale va deveni aplicabil;

Repararea și ameliorarea capacităților umane

36.  remarcă progresul major și marele potențial al roboticii în domeniul vindecării și compensării organelor și funcțiilor umane deteriorate, dar și chestiunile complexe pe care le implică îndeosebi posibilitățile de ameliorare a capacităților umane, întrucât roboții medicali și mai ales sistemele ciberfizice (SCF) ne pot schimba concepția asupra sănătății organismului uman, din moment ce pot fi purtate direct sau implantate în corpul uman; subliniază importanța creării unor comitete de etică a roboților în spitale și în alte instituții medicale, care să dispună de un personal corespunzător și să aibă sarcina de a analiza și a oferi asistență la rezolvarea problemelor etice complexe sau inedite, care afectează îngrijirea și tratamentul pacienților; le solicită Comisiei și statelor membre să elaboreze orientări care să ajute la înființarea și funcționarea unor astfel de comitete;

37.  subliniază că, în domeniul aplicațiilor medicale vitale, precum protezele robotice, trebuie să se asigure un acces continuu și viabil la întreținere, la perfecționare și, în special, la actualizări ale softului menite să rezolve eventualele disfuncțiuni sau vulnerabilități;

38.  recomandă crearea unor organisme independente de încredere care să dispună de mijloacele necesare pentru a oferi servicii persoanelor care poartă dispozitive medicale vitale avansate, precum întreținere, reparații și îmbunătățiri, inclusiv actualizări de software, în special în cazul în care aceste servicii nu mai sunt efectuate de furnizorul inițial; sugerează crearea unei obligații pentru producători de a furniza acestor organisme independente de încredere instrucțiuni de proiectare cuprinzătoare, inclusiv codul sursă, similare cu depozitul legal al publicațiilor la biblioteca națională;

39.  atrage atenția asupra riscurilor aferente posibilității ca sistemele CPS integrate în corpul uman să fie piratate sau dezactivate sau să le fie șterse memoriile, deoarece acest lucru ar putea pune în pericol sănătatea umană și, în cazuri extreme, chiar viața umană și subliniază, prin urmare, prioritatea care trebuie acordată protecției respectivelor sisteme;

40.  subliniază importanța garantării unui acces egal universal la astfel de inovații, instrumente și intervenții tehnologice; solicită Comisiei și statelor membre să promoveze dezvoltarea tehnologiilor de asistare, pentru a favoriza dezvoltarea și adoptarea acestor tehnologii de către cei care au nevoie de ele, în conformitate cu articolul 4 din Convenția ONU privind drepturile persoanelor cu dizabilități, la care Uniunea este parte;

Educația și ocuparea forței de muncă;

41.  atrage atenția asupra previziunilor Comisiei, potrivit cărora, până în 2020, Europa s-ar putea confrunta cu o lipsă de până la 825 000 de specialiști în domeniul TIC, iar 90 % dintre locurile de muncă vor necesita cel puțin competențe digitale de bază; salută inițiativa Comisiei de a propune o foaie de parcurs pentru eventuala utilizare și revizuire a unui cadru de competențe digitale și a descriptorilor competențelor digitale pentru cursanții de toate nivelurile, și solicită Comisiei să ofere un sprijin semnificativ pentru dezvoltarea competențelor digitale în rândul tuturor grupurilor de vârstă și indiferent de statutul profesional, ca un prim pas către o mai bună aliniere a cererii și ofertei pe piața forței de muncă; subliniază faptul că dezvoltarea roboticii impune statelor membre să dezvolte sisteme de formare și de educație mai flexibile, pentru a se asigura că strategiile de formare corespund necesităților economiei roboticii;

42.  consideră că identificarea mai multor femei tinere interesate de o carieră digitală și angajarea mai multor femei în posturi din sectorul digital ar aduce beneficii acestei industrii, femeilor și economiei europene; le solicită Comisiei și statelor membre să lanseze inițiative pentru a sprijini femeile în domeniul TIC și pentru a le amplifica competențele digitale;

43.  invită Comisia să înceapă să analizeze și să monitorizeze mai îndeaproape tendințele ocupaționale pe termen mediu și lung, concentrându-se mai ales asupra creării și pierderii de locuri de muncă din diverse domenii/sectoare de calificare, pentru a ști în ce domenii sunt create locuri de muncă și în ce domenii se pierd locuri de muncă ca rezultat al utilizării crescânde a roboților;

44.  subliniază importanța anticipării schimbărilor în societate, ținând seama de efectele posibile ale dezvoltării și utilizării roboților și a IA; solicită Comisiei să analizeze diferitele scenarii posibile și consecințele lor asupra viabilității sistemelor de securitate socială ale statelor membre;

45.  evidențiază importanța flexibilității competențelor, precum și a competențelor sociale, creative și digitale în educație; își exprimă convingerea că, pe lângă cunoștințele academice transmise în școli, învățarea trebuie să constituie o permanență de-a lungul vieții;

46.  ia act de marele potențial al roboticii pentru îmbunătățirea siguranței la locul de muncă prin transferarea unui număr de sarcini periculoase și nocive de la om la roboți, dar, în același timp, observă potențialul lor de a crea o serie de noi riscuri, datorită numărului tot mai mare de interacțiuni om-robot la locul de muncă; subliniază, în această privință, importanța aplicării unor norme stricte și orientate spre viitor pentru interacțiunile om-robot pentru a garanta sănătatea, siguranța și respectarea drepturilor fundamentale la locul de muncă;

Impactul asupra mediului

47.  remarcă că dezvoltarea roboticii și a IA ar trebui realizată astfel încât impactul asupra mediului să fie limitat, printr-un consum de energie eficace, prin utilizarea energiilor regenerabile și a materiilor rare în vederea eficienței energetice, prin minimalizarea deșeurilor, cum ar fi cele electrice și electronice și prin reparabilitate; prin urmare, încurajează Comisia să includă principiile economiei circulare în orice politică a Uniunii în domeniul roboticii; remarcă faptul că utilizarea roboticii va avea un impact pozitiv asupra mediului, în special în domeniul agriculturii, aprovizionării cu produse alimentare și transportului, îndeosebi prin dimensiunile reduse ale utilajelor și prin utilizarea limitată a îngrășămintelor, energiei și apei, precum și prin agricultura de precizie și optimizarea traseelor;

48.  subliniază că CPS vor conduce la crearea de sisteme energetice și de infrastructură care au capacitatea de a controla fluxul energiei electrice de la producător la consumator și vor avea, de asemenea, ca rezultat crearea de „prosumatori” de energie, care produc și, în același timp, consumă energie, permițând astfel beneficii majore pentru mediu;

Răspunderea

49.  consideră că răspunderea civilă pentru prejudiciile cauzate de roboți constituie o chestiune esențială, care trebuie analizată și soluționată la nivelul Uniunii, astfel încât să se asigure același nivel de eficiență, transparență și consecvență în asigurarea securității juridice în întreaga Uniune , în beneficiul cetățenilor, al consumatorilor și al întreprinderilor deopotrivă;

50.  ia act de faptul că dezvoltarea tehnologiei roboților va presupune o mai bună înțelegere a bazelor comune necesare pentru activitățile desfășurate împreună de oameni și roboți, care ar trebui să se sprijine pe două relații centrale interdependente precum previzibilitatea și controlabilitatea; atrage atenția că aceste două relații interdependente sunt esențiale pentru a determina ce informații trebuie partajate între oameni și roboți și în ce mod poate fi realizată o bază comună între oameni și roboți pentru ca interacțiunea lor să se desfășoare în bune condiții;

51.  îi solicită Comisiei să prezinte, în temeiul articolului 114 din TFUE, o propunere de instrument legislativ privind aspectele de ordin juridic ale dezvoltării și utilizării roboticii și IA preconizate în următorii 10-15 ani, combinat cu instrumente nelegislative de tipul orientărilor și codurilor de conduită, conform recomandărilor formulate în anexă;

52.  consideră că, indiferent ce soluție juridică se aplică răspunderii civile pentru prejudiciile cauzate de roboți în alte cazuri decât cele care implică daune aduse proprietății, viitorul instrument legislativ nu trebuie să restrângă în niciun fel tipul sau valoarea daunelor care ar putea fi recuperate, și nici să limiteze formele de compensare care ar putea fi oferite părții vătămate, exclusiv pe motivul că prejudiciul a fost provocat de un agent non-uman;

53.  consideră că viitorul instrument legislativ trebuie să se bazeze pe o evaluare temeinică din partea Comisiei, care să determine dacă ar trebui să se aplice perspectiva răspunderii stricte sau cea a controlului riscurilor;

54.  consideră că răspunderea strictă presupune doar dovada producerii prejudiciului și stabilirea legăturii cauzale dintre funcționarea dăunătoare a robotului și daunele suferite de persoana vătămată;

55.  observă că abordarea bazată pe gestionarea riscurilor nu se axează pe persoana „care a acționat neglijent” ca fiind răspunzătoare în mod individual, ci pe persoana care poate, în anumite împrejurări, să reducă la minim riscurile și să trateze problema impactului negativ;

56.  consideră că, în principiu, odată ce părțile responsabile în ultimă instanță au fost identificate, răspunderea lor ar trebui să fie proporțională cu nivelul real al instrucțiunilor date robotului și cu gradul de autonomie al acestuia, astfel încât, cu cât capacitatea de învățare sau autonomia robotului este mai mare și cu cât „instruirea” acestuia este mai lungă, cu atât mai mare ar trebui să fie răspunderea instructorului său; remarcă, în special, că atunci când se încearcă identificarea persoanei căreia i se datorează în mod real comportamentul dăunător al unui robot, competențele ce rezultă din „instruirea” dată acestuia nu trebuie să fie confundate cu competențele care depind strict de capacitatea sa de învățare proprie; consideră că, cel puțin în stadiul actual, responsabilitatea trebuie să incumbe ființei umane, și nu roboților;

57.  relevă faptul că o soluție posibilă la problema complexă a atribuirii răspunderii pentru prejudiciul provocat de roboții din ce în ce mai autonomi ar putea consta într-o schemă obligatorie de asigurare, similară celei, deja în uz, pentru autovehicule, de exemplu; observă însă că, spre deosebire de schema de asigurare pentru traficul rutier, în cazul căreia asigurarea acoperă actele și greșelile umane, un sistem de asigurare pentru roboți ar trebui să țină cont de întreg lanțul potențial al răspunderii;

58.  consideră că, așa cum este cazul cu asigurarea pentru vehiculele cu motor, un astfel de sistem de asigurare ar putea fi suplimentat printr-un fond, pentru a garanta despăgubirea în cazurile în care nu există nicio acoperire asigurativă; îi solicită sectorului asigurărilor să elaboreze noi produse și tipuri de oferte, care să fie în acord cu progresele roboticii;

59.  îi solicită Comisiei ca, atunci când efectuează o evaluare de impact al viitorului său instrument legislativ, să exploreze, să analizeze și să evalueze implicațiile tuturor soluțiilor juridice posibile, cum ar fi:

   (a) instituirea unei scheme de asigurări obligatorii atunci când este util și necesar pentru categorii specifice de roboți prin care, în mod similar cu ceea ce se întâmplă deja cu autovehiculele, producătorii sau proprietarii roboților să fie obligați să se asigure contra prejudiciilor potențiale provocate de roboții lor;
   (b) înființarea unui fond de compensare care să servească nu numai la garantarea despăgubirii în cazul în care pentru daunele provocate de un robot nu ar exista nicio acoperire asigurativă;
   (c) crearea posibilității ca producătorul, programatorul, proprietarul sau utilizatorul să beneficieze de o răspundere limitată în cazul în care contribuie la un fond de compensare sau în care subscriu în comun o asigurare pentru a garanta despăgubirea în cazul în care daunele sunt cauzate de un robot;
   (d) decizia de a crea sau nu un fond general pentru toți roboții autonomi inteligenți, sau un fond separat pentru fiecare categorie de roboți, și de a plăti sau nu o contribuție ca taxă unică la plasarea robotului pe piață, ori a unor contribuții periodice pe durata de viață a robotului;
   (e) garantarea vizibilității legăturii dintre un robot și fondul său printr-un număr de înregistrare individual, care să figureze într-un registru specific al Uniunii, ceea ce i-ar permite oricărei entități care interacționează cu robotul să fie informată cu privire la natura fondului, la limitele răspunderii sale în caz de daune aduse proprietății, la numele și funcțiile celor care contribuie și la toate celelalte amănunte pertinente;
   (f) crearea unui statut juridic specific pentru roboți, astfel încât cel puțin cei mai sofisticați roboți autonomi să poată avea un statut de persoană electronică responsabilă pentru repararea prejudiciilor pe care le cauzează și să poată fi aplicată eventual personalitatea electronică în cazurile în care roboții iau decizii autonome sau interacționează independent, în alt fel, cu terți;

Aspecte internaționale

60.  constată că, deși normele actuale de drept internațional privat în materia accidentelor rutiere aplicabile în Uniune nu necesită o modificare substanțială urgentă pentru a le pune de acord cu dezvoltarea vehiculelor autonome, simplificarea prezentului sistemului dual de stabilire a dreptului aplicabil (pe baza Regulamentului (CE) nr. 864/2007 al Parlamentului European și al Consiliului(7) și a Convenției de la Haga din 4 mai 1971 privind legea aplicabilă accidentelor rutiere) ar îmbunătăți securitatea juridică și ar limita posibilitățile de alegere a jurisdicției celei mai favorabile;

61.  consideră că ar fi necesar să fie modificate unele acorduri internaționale, cum ar fi Convenția de la Viena din 8 noiembrie 1968 privind circulația rutieră și Convenția de la Haga privind dreptul aplicabil în cazul accidentelor rutiere;

62.  așteaptă de la Comisie să se asigure că statele membre implementează uniform dispozițiile de drept internațional care ar trebui modificate, cum ar fi Convenția de la Viena privind circulația rutieră, astfel încât să facă posibilă deplasarea vehiculelor fără conducător, și solicită Comisiei, statelor membre și acestui sector să transpună cât mai curând obiectivele Declarației de la Amsterdam;

63.  încurajează puternic cooperarea internațională în cadrul examinării aspectelor societale, etice și juridice problematice, pe baza căreia să se stabilească standarde normative, sub auspiciile Organizației Națiunilor Unite;

64.  subliniază că restricțiile și condițiile stabilite în Regulamentul (CE) nr. 428/2009 al Parlamentului European și al Consiliului(8) privind produsele cu dublă utilizare în legătură cu comercializarea acestor produse - bunuri, software și tehnologii cu aplicații atât civile, cât și militare și/sau care pot contribui la proliferarea armelor de distrugere în masă - ar trebui să se aplice și roboticii;

Aspecte finale

65.  îi solicită, în temeiul articolului 225 din TFUE, Comisiei să prezinte, pe baza articolului 114 din TFUE, o propunere de directivă privind normele de drept civil în domeniul roboticii, dând curs recomandărilor stabilite în anexă;

66.  confirmă că aceste recomandări respectă drepturile fundamentale și principiul subsidiarității;

67.  consideră că propunerea solicitată ar avea implicații financiare dacă se creează o nouă agenție europeană;

o
o   o

68.  îi încredințează Președintelui sarcina de a transmite Consiliului și Comisiei prezenta propunere, precum și recomandările din anexă.

(1) Directiva Consiliului 85/374/CEE din 25 iulie 1985 de apropiere a actelor cu putere de lege și a actelor administrative ale statelor membre cu privire la răspunderea pentru produsele cu defect (JO L 210, 7.8.1985, p. 29).
(2) Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului din 27 aprilie 2016 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date și de abrogare a Directivei 95/46/CE (Regulamentul general privind protecția datelor) (JO L 119, 4.5.2016, p. 1).
(3) Un robot nu trebuie să cauzeze vreun rău unei ființe umane și nici să permită, prin inacțiune, ca unei ființe umane să i se facă vreun rău. (2) Un robot trebuie să se supună ordinelor date de ființele umane, cu excepția cazului în care acestea sunt în contradicție cu prima lege. (3) Un robot trebuie să-și apere propria existență, atât timp cât acest lucru nu contravine primei și celei de a doua legi (a se vedea I. Asimov, Runaround, 1943). Și (0) Un robot nu are voie să pricinuiască vreun rău umanității sau să permită prin neintervenție ca umanitatea să fie pusă în pericol.
(4) Cf. Declarației Schuman (1950): „Europa nu va fi construită dintr-odată sau ca urmare a unui plan unic, ci prin realizări concrete, care vor genera în primul rând o solidaritate de fapt”.
(5) Texte adoptate, P8_TA(2015)0390.
(6) Regulamentul (CE) nr. 216/2008 al Parlamentului European și al Consiliului din 20 februarie 2008 privind normele comune în domeniul aviației civile și instituirea unei Agenții Europene de Siguranță a Aviației și de abrogare a Directivei 91/670/CEE a Consiliului, a Regulamentului (CE) nr. 1592/2002 și a Directivei 2004/36/CE (JO L 79, 19.3.2008, p. 1).
(7) Regulamentul (CE) nr. 864/2007 al Parlamentului European și al Consiliului din 11 iulie 2007 privind legea aplicabilă obligațiilor necontractuale (Roma II) (JO L 199, 31.7.2007, p. 40).
(8) Regulamentul (CE) nr. 428/2009 al Consiliului din 5 mai 2009 de instituire a unui regim comunitar pentru controlul exporturilor, transferului, serviciilor de intermediere și tranzitului de produse cu dublă utilizare, (JO L 134, 29.5.2009, p. 1).


ANEXĂ LA REZOLUȚIE:

RECOMANDĂRI REFERITOARE LA CONȚINUTUL PROPUNERII SOLICITATE

Definirea și clasificarea „roboților inteligenți”

Ar trebui stabilită o definiție europeană comună a roboților „inteligenți” autonomi, incluzând, dacă este cazul, definiții ale subcategoriilor acestora, ținând seama de următoarele caracteristici:

–  capacitatea de a dobândi autonomie cu ajutorul senzorilor și/sau prin schimburi de date cu mediul său ambiant (interconectivitate) și analizarea acestor date;

–  capacitatea de a învăța din experiență și prin interacțiune;

–  forma suportului fizic al robotului;

–  capacitatea de a-și adapta comportamentul și acțiunile la mediul ambiant.

Înregistrarea roboților inteligenți

În scopul trasabilității și pentru a facilita transpunerea în practică a recomandărilor viitoare, ar trebui introdus un sistem de înregistrare a roboților avansați, bazat pe criterii de clasificare a roboților. Sistemul de înregistrare și registrul ar trebui să funcționeze la nivelul Uniunii și să cuprindă piața internă; acestea ar putea fi gestionate de Agenția UE pentru Robotică și Inteligență artificială, dacă este creată.

Răspunderea civilă

Indiferent de soluția juridică aleasă pentru răspunderea roboților și a aparatelor înzestrate cu inteligență artificială în alte cazuri decât cele care implică daune materiale, aceasta nu trebuie să limiteze în niciun fel tipul sau amploarea daunelor care pot face obiectul unei despăgubiri și nici să limiteze formele de despăgubire care ar putea fi oferite părții vătămate, pentru simplul motiv că prejudiciul a fost provocat de un agent ne-uman.

Viitorul instrument legislativ trebuie să se bazeze pe o evaluare temeinică din partea Comisiei care să determine dacă ar trebui să se aplice perspectiva răspunderii stricte sau cea a controlului riscurilor.

Ar trebui instituit un regim de asigurare obligatorie care s-ar putea baza pe obligația producătorului de a contracta o asigurare pentru roboții autonomi pe care îi fabrică.

Sistemul de asigurări ar trebui completat de un fond care să garanteze că despăgubirile pot fi compensate în cazurile în care nu există o asigurare.

Orice decizie politică cu privire la normele de răspundere civilă aplicabile roboților și aparatelor înzestrate cu inteligență artificială ar trebui luată după consultarea corespunzătoare a rezultatelor unui proiect de cercetare și dezvoltare la scară europeană dedicat roboților și neuroștiințelor, cu participarea unor oameni de știință și experți capabili să evalueze toate riscurile și consecințele aferente.

Interoperabilitatea, accesul la coduri și drepturile de proprietate intelectuală

Ar trebui asigurată interoperabilitatea roboților autonomi conectați în rețea care interacționează între ei. Accesul la codul sursă, la datele de intrare și la detaliile de construcție ar trebui să fie disponibil în caz de necesitate pentru a investiga accidentele și daunele cauzate de „roboții inteligenți”, precum și pentru a garanta în permanență funcționarea, disponibilitatea, fiabilitatea, siguranța și securitatea lor.

Carta privind robotica

Atunci când prezintă propunerea legislativă privind robotica, Comisia ar trebui să țină seama de principiile consacrate în următoarea Cartă a roboticii.

CARTA PRIVIND ROBOTICA

Codul de conduită etică propus în domeniul roboticii va sta la baza identificării, monitorizării și respectării principiilor etice fundamentale din faza de proiectare și dezvoltare.

Cadrul, conceput după evaluarea rezultatelor unui proiect de cercetare și dezvoltare la scară europeană dedicat roboților și neuroștiințelor, trebuie să fie conceput într-un mod judicios care să permită ajustări individuale de la caz la caz pentru a se evalua dacă un anumit comportament este corect sau greșit într-o anumită situație și a se lua decizii în conformitate cu o ierarhie de valori prestabilită.

Codul nu ar trebui să se substituie imperativului de a aborda toate provocările juridice majore în acest domeniu, ci ar trebui să aibă o funcție complementară. Acesta va facilita, mai degrabă, instituirea unor categorii etice pentru robotică, va susține eforturile de inovare responsabilă în acest domeniu și va aborda preocupările publicului.

Ar trebui să se pună un accent special pe etapele de cercetare și dezvoltare tehnologică ale traiectoriei tehnologice pertinente (procesul de proiectare, evaluarea etică, controalele de audit etc.). Codul ar trebui să se ocupe de necesitatea respectării de către cercetători, practicieni, utilizatori și proiectanți a standardelor etice, dar și să introducă o procedură de soluționare a dilemelor etice din domeniu și să permită acestor sisteme să funcționeze într-un mod responsabil din punct de vedere etic.

CODUL DE CONDUITĂ ETICĂ PENTRU INGINERII ÎN ROBOTICĂ

PREAMBUL

Codul de conduită îi invită pe toți cercetătorii și proiectanții să acționeze în mod responsabil și ținând pe deplin seama de necesitatea de a respecta demnitatea, viața privată și siguranța oamenilor.

Codul solicită o cooperare strânsă între toate disciplinele, pentru a se asigura că activitățile de cercetare în domeniul roboticii în Uniunea Europeană se desfășoară în condiții de siguranță, de o manieră etică și într-un mod eficient.

Codul de conduită cuprinde toate activitățile de cercetare și dezvoltare în domeniul roboticii.

Codul de conduită este facultativ și oferă o serie de principii și orientări generale pentru acțiunile ce trebuie întreprinse de toți actorii.

Organismele de finanțare a cercetării în robotică, organizațiile de cercetare, cercetătorii și comisiile de etică sunt încurajați să ia considerare, încă din etapele inițiale, implicațiile viitoare ale tehnologiilor sau ale obiectelor cercetării și să dezvolte o cultură a responsabilității în raport cu provocările și oportunitățile viitorului.

Organismele publice și private de finanțare a cercetării în robotică trebuie să solicite realizarea unei evaluări a riscurilor care să fie prezentată împreună cu fiecare propunere de finanțare pentru cercetare în domeniul roboticii. Un astfel de cod ar trebui să stipuleze că responsabilitatea revine oamenilor, și nu roboților.

Cercetătorii în domeniul roboticii ar trebui să se angajeze să urmeze un nivel maxim de conduită etică și profesională și să respecte următoarele principii:

beneficiență - roboții ar trebui să acționeze în interesul oamenilor;

ne-maleficiență - principiul „în primul rând, nu fă rău”: roboții nu trebuie să cauzeze daune omului;

autonomie - capacitatea de lua decizii în deplină libertate și în cunoștință de cauză cu privire la termenii interacțiunii cu roboții;

justiție - repartizarea echitabilă a beneficiilor asociate cu robotica și accesibilitatea roboților de asistență la domiciliu și în special a roboților care asigură asistență medicală.

Drepturile fundamentale

Activitățile de cercetare în domeniul roboticii ar trebui să respecte drepturile fundamentale și să se desfășoare în interesul binelui și autodeterminării persoanelor și societății în ceea ce privește proiectarea, realizarea, diseminarea și utilizarea. Demnitatea și autonomia umană, atât fizică, cât și psihologică, trebuie să fie întotdeauna respectate.

Precauția

Activitățile de cercetare în domeniul roboticii ar trebui efectuate în conformitate cu principiul precauției, anticipând impactul potențial al rezultatelor în materie de siguranță și luând măsurile de precauție necesare, proporțional cu nivelul de protecție, încurajând în același timp progresele în beneficiul societății și al mediului.

Caracterul incluziv

Inginerii specializați în robotică garantează transparența și respectarea dreptului legitim de acces la informație al tuturor actorilor. Incluziunea permite participarea la procesele decizionale ale tuturor actorilor implicați sau vizați de activitățile de cercetare în domeniul roboticii.

Responsabilitatea

Inginerii în robotică ar trebui să fie răspunzători pentru impactul social și ecologic și pentru consecințele asupra sănătății umane pe care robotica le poate cauza pentru generațiile prezente și viitoare.

Siguranța

Proiectanții de roboți ar trebui să ia în considerare confortul fizic, siguranța, sănătatea și drepturile persoanelor. Inginerii în robotică trebuie să nu prejudicieze starea de bine a oamenilor, respectând totodată drepturile omului, și să comunice cu promptitudine factorii care ar putea pune în pericol publicul sau mediul.

Reversibilitatea

Reversibilitatea, condiție necesară a controlabilității, este un concept fundamental atunci când roboții sunt programați să se comporte într-un mod sigur și fiabil. Un model de reversibilitate a acțiunilor comunică robotului care acțiuni sunt reversibile și cum să revină asupra lor în cazul în care sunt reversibile. Capacitatea de a anula ultima acțiune sau o secvență de acțiuni permite utilizatorilor să anuleze acțiunile nedorite și să revină la etapa „bună” a activității lor.

Viața privată

Dreptul la viață privată trebuie respectat întotdeauna. Un inginer în robotică trebuie să se asigure că informațiile private sunt păstrate în siguranță și utilizate numai în mod corespunzător. De asemenea, un inginer în robotică trebuie să garanteze că persoanele nu sunt identificabile în mod personal, cu excepția unor împrejurări excepționale și atunci numai cu consimțământul în cunoștință de cauză, clar și lipsit de ambiguitate. Ar trebuie să se urmărească obținerea consimțământului în cunoștință de cauză al persoanei înainte de orice interacțiune om-mașină. Ca atare, proiectanții specializați în robotică poartă răspunderea de a dezvolta și a urma procedurile de aprobare valabilă, de confidențialitate, anonimat, tratament echitabil și de respectare a garanțiilor procedurale. Proiectanții se vor conforma tuturor solicitărilor ca orice date conexe să fie distruse și eliminate din toate seturile de date.

Maximizarea beneficiilor și reducerea la minimum a prejudiciilor

Cercetătorii trebuie să caute să maximizeze beneficiile activității lor în toate etapele, de la început până la difuzare. Lezarea participanților la cercetare/subiecților umani/participanților la un experiment, test sau studiu trebuie evitată. În cazul în care riscurile apar ca un element inevitabil, ce face parte integrantă din cercetare, ar trebui realizată o evaluare a riscurilor și protocoale de gestiune solide, care să fie respectate. În mod normal, riscul de a provoca un prejudiciu nu ar trebui să fie mai mare decât cel întâlnit în viața obișnuită, cu alte cuvinte oamenii nu ar trebui să fie expuși la riscuri mai mari sau în plus față de cele la care sunt expuși în viață normală a acestora. Funcționarea unui sistem robotizat ar trebui să se bazeze întotdeauna pe o evaluare aprofundată a riscurilor, care ar trebui să se bazeze pe principiile precauției și proporționalității.

COMITETELE PENTRU ETICĂ ÎN CERCETARE (CEtC)

Principii

Independența

Procesul de evaluare etică ar trebui să fie independent de cercetarea propriu-zisă. Acest principiu evidențiază necesitatea de a evita conflictele de interese dintre cercetători și persoanele care evaluează protocolul de etică, precum și între evaluatori și structurile organizaționale de guvernare.

Competența

Procesul de evaluare etică ar trebui realizat de evaluatori care dispun de cunoștințele specializate corespunzătoare, ținând seama de necesitatea analizării cu atenție a componenței și a formării specifice în materie de etică a CEtC.

Transparența și responsabilitatea

Procesul de evaluare ar trebui să fie responsabil și să poată face obiectul unui control. CEtC trebuie să recunoască propriile responsabilități și să fie situate în mod corespunzător în structurile organizaționale care conferă transparență funcționării lor și procedurilor de menținere și reevaluare a standardelor.

Rolul unui Comitet pentru etică în cercetare

Un comitet pentru etică în cercetare este în mod normal responsabil de examinarea tuturor cercetărilor care implică participarea umană efectuate de către persoane fizice angajate în instituția în cauză sau de către aceasta; de asigurarea faptului că evaluarea de etică este realizată în mod independent, competent și în timp util; de protejarea demnității, a drepturilor și stării de confort a participanților la cercetare; de luarea în considerare a siguranței cercetătorului (cercetătorilor); de luarea în considerare a intereselor legitime ale altor părți interesate; de adoptarea unor decizii în cunoștință de cauză cu privire la meritul științific al propunerilor; și de prezentarea de recomandări în cunoștință de cauză cercetătorilor în cazul în care propunerea este considerată insuficientă în anumite privințe.

Constituirea unui Comitet pentru etică în cercetare

Un Comitet pentru etică în cercetare ar trebui în mod normal să fie multidisciplinar, să includă atât bărbați, cât și femei; să fie format din membri cu o amplă experiență și cunoștințe de specialitate în cercetarea în domeniul roboticii. Mecanismul de numire ar trebui să funcționeze astfel încât membrii comitetului să dispună de un echilibru adecvat între cunoștințele științifice specializate, formare filozofică, juridică sau etică și cunoașterea opiniilor nespecialiștilor și să cuprindă cel puțin un membru cu cunoștințe de specialitate în domeniul eticii, utilizatori de servicii de specialitate în domeniul sănătății, educației sau serviciilor sociale, în cazul în care acestea fac obiectul activităților de cercetare, precum și persoane cu competențe metodologice specifice relevante pentru cercetarea pe care o evaluează; ele trebuie să fie astfel constituite încât să se evite conflictele de interese.

Monitorizarea

Toate organizațiile de cercetare ar trebui să instituie proceduri corespunzătoare pentru a monitoriza desfășurarea activităților de cercetare care au primit aprobarea comitetului de etică până când vor fi finalizate, și să urmărească continuu dacă designul cercetării anticipează schimbările posibile de-a lungul timpului de care ar trebui să se țină seama. Monitorizarea ar trebui să fie proporțională cu natura și cu gradul de risc asociat cercetării. În cazul în care un CEtC consideră că un raport de monitorizare suscită dubii majore legate de desfășurarea etică a studiului, ar trebui să solicite o descriere detaliată și completă a cercetării în vederea efectuării unei evaluări etice cuprinzătoare. În cazul în care se consideră că un studiu este realizat într-un mod lipsit de etică, ar trebui să se ia în considerare retragerea aprobării acestuia, iar cercetarea ar trebui suspendată sau întreruptă.

LICENȚELE PENTRU PROIECTANȚI

–  Ar trebui să țineți seama de valorile europene ale demnității, autonomiei și autodeterminării, libertății și justiției înainte, în timpul și după procesul de proiectare, dezvoltare și furnizare a unor astfel de tehnologii, inclusiv de necesitatea de a nu aduce prejudicii, de a nu răni, de a nu înșela și de a nu exploata utilizatorii (vulnerabili).

–  Ar trebui să introduceți principii fiabile de proiectare a sistemului la nivelul tuturor aspectelor funcționării unui robot, atât pentru proiectarea hardware, cât și software, precum și pentru orice tip de prelucrare de date în interiorul sau în exteriorul platformei în scopuri de securitate.

–  Ar trebui să introduceți confidențialitatea prin concepție, astfel încât să se asigure că informațiile confidențiale sunt păstrate în siguranță și utilizate numai în mod corespunzător.

–  Ar trebui să integrați mecanisme „opt-out” evidente („kill switch”) care ar trebui să fie în concordanță cu obiectivele rezonabile ale proiectului.

–  Ar trebui să vă asigurați că un robot funcționează în conformitate cu principiile etice și juridice locale, naționale și internaționale.

–  Ar trebui să vă asigurați că procesul decizional al roboților permite reconstituirea și trasabilitatea pe faze.

–  Ar trebui să vă asigurați că este necesar să se asigure o transparență maximă în procesul de programare a sistemelor robotizate, precum și previzibilitatea comportamentului robotizat.

–  Ar trebui să analizați previzibilitatea unui sistem om-robot prin luarea în considerare a incertitudinii în interpretare și acțiune și a posibilelor erori robotice sau umane.

–  Ar trebui să dezvoltați instrumente de trasabilitate la stadiul proiectării robotului. Aceste instrumente vor facilita contabilizarea și explicarea comportamentului robotic, chiar dacă într-o măsură limitată, la diferitele niveluri destinate experților, operatorilor și utilizatorilor.

–  Ar trebui să elaborați protocoale de proiectare și de evaluare și să vă alăturați potențialilor utilizatori și părți interesate în momentul evaluării beneficiilor și riscurilor roboticii, inclusiv cele cognitive, psihologice și ambientale.

–  Ar trebui să vă asigurați că roboții sunt identificabili ca roboți atunci când interacționează cu oamenii.

–  Ar trebui să protejați securitatea și sănătatea celor care interacționează și vin în contact cu robotica, având în vedere faptul că roboții ca produse ar trebui să fie concepuți utilizându-se procese care să asigure siguranța și securitatea. Un inginer specializat în robotică trebuie să nu prejudicieze starea de bine a oamenilor, respectând, în același timp, drepturile omului și nu poate pune în acțiune un robot fără a garanta siguranța, eficacitatea și reversibilitatea funcționării sistemului.

–  Ar trebui să obțineți un aviz favorabil din partea unui CetC înainte de testarea unui robot într-un mediu real sau care implică subiecți umani în procedurile de proiectare și dezvoltare.

LICENȚELE PENTRU UTILIZATORI

–  Aveți dreptul de a utiliza un robot fără riscuri sau teamă de vătămare fizică sau psihologică.

–  Ar trebui să aveți dreptul de a vă aștepta ca un robot să îndeplinească orice sarcină pentru care a fost conceput în mod explicit.

–  Ar trebui să fiți conștient că orice robot pot avea limitări cognitive, de percepție și de acționare.

–  Ar trebui să respectați fragilitatea umană, atât fizică, cât și psihologică, precum și nevoile emoționale ale oamenilor.

–  Ar trebui să țineți seama de drepturile la intimitate ale persoanelor fizice, inclusiv în ceea ce privește dezactivarea monitoarelor video în timpul procedurilor intime.

–  Nu sunteți autorizat să colectați, să utilizați sau să divulgați informații cu caracter personal fără consimțământul explicit al persoanei vizate.

–  Nu sunteți autorizat să utilizați un robot într-un mod care contravine principiilor și normelor etice sau juridice.

–  Nu aveți autorizația să modificați un robot pentru a-i permite să funcționeze ca o armă.

Notă juridică