MIETINTÖ ehdotuksesta Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta

22.5.2023 - (COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD)) - ***I

Sisämarkkina- ja kuluttajansuojavaliokunta
Kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunta
Esittelijä: Brando Benifei, Ioan-Dragoş Tudorache
(Valiokuntien yhteiskokoukset – työjärjestyksen 58 artikla)
Työjärjestyksen 57 artiklan mukaisesti yhteistyöhön osallistuvien valiokuntien valmistelijat:
Eva Maydell, teollisuus-, tutkimus- ja energiavaliokunta
Marcel Kolaja, kulttuuri- ja koulutusvaliokunta
Axel Voss, oikeudellisten asioiden valiokunta
PR_COD_1amCom

Tarkistukset

• 001-771 (PDF - 871 KB)
• 001-771 (DOC - 366 KB)
• 772-773 (PDF - 103 KB)
• 772-773 (DOC - 39 KB)
• 774-783 (PDF - 126 KB)
• 774-783 (DOC - 41 KB)
• 784-789 (PDF - 119 KB)
• 784-789 (DOC - 40 KB)
• 790-790 (PDF - 112 KB)
• 790-790 (DOC - 39 KB)
• 791-795 (PDF - 107 KB)
• 791-795 (DOC - 77 KB)
• 796-796/REV1 (PDF - 96 KB)
• 796-796/REV1 (DOC - 70 KB)
• 797-799 (PDF - 110 KB)
• 797-799 (DOC - 75 KB)
• 800-801 (PDF - 96 KB)
• 800-801 (DOC - 39 KB)
• 802-802 (PDF - 99 KB)
• 802-802 (DOC - 71 KB)
• 803-807 (PDF - 102 KB)
• 803-807 (DOC - 40 KB)
• 808-808 (PDF - 940 KB)
• 808-808 (DOC - 316 KB)

LUONNOS EUROOPAN PARLAMENTIN LAINSÄÄDÄNTÖPÄÄTÖSLAUSELMAKSI

ehdotuksesta Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta

(COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD))

(Tavallinen lainsäätämisjärjestys: ensimmäinen käsittely)

Euroopan parlamentti, joka

– ottaa huomioon komission ehdotuksen Euroopan parlamentille ja neuvostolle (COM(2021)0206),

– ottaa huomioon Euroopan unionin toiminnasta tehdyn sopimuksen 294 artiklan 2 kohdan, 16 artiklan ja 114 artiklan, joiden mukaisesti komissio on antanut ehdotuksen Euroopan parlamentille (C9-0146/2021),

– ottaa huomioon Euroopan unionin toiminnasta tehdyn sopimuksen 294 artiklan 3 kohdan,

– ottaa huomioon työjärjestyksen 59 artiklan,

– ottaa huomioon sisämarkkina- ja kuluttajansuojavaliokunnan ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunnan työjärjestyksen 58 artiklan mukaisen yhteiskäsittelyn,

– ottaa huomioon teollisuus-, tutkimus- ja energiavaliokunnan, kulttuuri- ja koulutusvaliokunnan, oikeudellisten asioiden valiokunnan, ympäristön, kansanterveyden ja elintarvikkeiden turvallisuuden valiokunnan sekä liikenne- ja matkailuvaliokunnan lausunnot,

– ottaa huomioon sisämarkkina- ja kuluttajansuojavaliokunnan ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunnan mietinnön (A9-0188/2023),

1. vahvistaa jäljempänä esitetyn ensimmäisen käsittelyn kannan;

2. pyytää komissiota antamaan asian uudelleen Euroopan parlamentin käsiteltäväksi, jos se korvaa ehdotuksensa, muuttaa sitä huomattavasti tai aikoo muuttaa sitä huomattavasti;

3. kehottaa puhemiestä välittämään parlamentin kannan neuvostolle ja komissiolle sekä kansallisille parlamenteille.

 

Tarkistus  1

 

Ehdotus asetukseksi

Johdanto-osan 4 a viite (uusi)

Komission teksti	Tarkistus
	ottavat huomioon Euroopan keskuspankin lausunnon,

Tarkistus  2

 

Ehdotus asetukseksi

Johdanto-osan 4 b viite (uusi)

Komission teksti	Tarkistus
	ottavat huomioon Euroopan tietosuojaneuvoston ja Euroopan tietosuojavaltuutetun yhteisen lausunnon,

Tarkistus  3

 

Ehdotus asetukseksi

Johdanto-osan 1 kappale

Komission teksti	Tarkistus
(1) Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa vahvistamalla yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden ja perusoikeuksien suojelun korkeaan tasoon, ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella.	(1) Tämän asetuksen tarkoituksena on edistää ihmiskeskeisen ja luotettavan tekoälyn käyttöönottoa ja varmistaa terveyden, turvallisuuden, perusoikeuksien, demokratian, oikeusvaltion ja ympäristön korkeatasoinen suojelu tekoälyjärjestelmien haitallisilta vaikutuksilta unionissa ja tukea innovointia sekä parantaa sisämarkkinoiden toimintaa. Tässä asetuksessa vahvistetaan yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle, käyttöönotolle ja käytölle ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella. Tietyillä tekoälyjärjestelmillä voi myös olla vaikutusta demokratiaan ja oikeusvaltioon sekä ympäristöön. Näitä huolenaiheita käsitellään erityisesti tämän asetuksen liitteissä lueteltujen kriittisten alojen ja käyttötapausten osalta.

Tarkistus  4

 

Ehdotus asetukseksi

Johdanto-osan 1 a kappale (uusi)

Komission teksti	Tarkistus
	(1 a) Tällä asetuksella olisi suojattava unionin arvoja, helpotettava tekoälyn hyötyjen jakamista yhteiskunnassa, suojeltava yksilöitä, yrityksiä, demokratiaa ja oikeusvaltiota sekä ympäristöä riskeiltä ja samalla edistettävä innovointia ja työllisyyttä sekä varmistettava unionin johtoasema alalla.

Tarkistus  5

 

Ehdotus asetukseksi

Johdanto-osan 2 kappale

Komission teksti	Tarkistus
(2) Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti. Siltä osin kuin tämä asetus sisältää yksilöiden suojelua henkilötietojen käsittelyssä koskevia erityissääntöjä, joilla rajoitetaan tekoälyjärjestelmien käyttöä reaaliaikaista biometristä etätunnistusta varten julkisissa tiloissa lainvalvontatarkoituksessa, tämä asetus on aiheellista perustaa kyseisten erityissääntöjen osalta SEUT-sopimuksen 16 artiklaan. Kun otetaan huomioon nämä erityissäännöt ja SEUT-sopimuksen 16 artiklan käyttö, on aiheellista kuulla Euroopan tietosuojaneuvostoa.	(2) Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on luotettavaa ja turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa luotettavan tekoälyn saavuttamiseksi ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta, innovointia ja käyttöönottoa sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti.

Tarkistus  6

 

Ehdotus asetukseksi

Johdanto-osan 2 a kappale (uusi)

Komission teksti	Tarkistus
	(2 a) Koska tekoäly perustuu usein suurten tietomäärien käsittelyyn ja useat tekoälyjärjestelmät ja -sovellukset perustuvat henkilötietojen käsittelyyn, on aiheellista perustaa tämä asetus SEUT 16 artiklaan, jossa vahvistetaan luonnollisten henkilöiden oikeus henkilötietojen käsittelyn suojaan ja säädetään yksilöiden suojelusta henkilötietojen käsittelyssä koskevien sääntöjen antamisesta.

Tarkistus  7

 

Ehdotus asetukseksi

Johdanto-osan 2 b kappale (uusi)

Komission teksti	Tarkistus
	(2 b) Henkilötietojen suojaa koskeva perusoikeus on turvattu erityisesti asetuksilla (EU) 2016/679 ja (EU) 2018/1725 sekä direktiivillä 2016/680. Lisäksi direktiivillä 2002/58/EY suojellaan yksityisyyttä ja viestinnän luottamuksellisuutta, mukaan lukien säätämällä kaikkien henkilötietojen ja muiden kuin henkilötietojen tallentamisesta päätelaitteelle ja pääsystä näihin tietoihin. Nämä säädökset ovat perusta kestävälle ja vastuulliselle tietojen käsittelylle, myös silloin, kun datajoukot sisältävät sekä henkilötietoja että muita kuin henkilötietoja. Tällä asetuksella ei pyritä vaikuttamaan henkilötietojen käsittelyä koskevan voimassa olevan unionin lainsäädännön soveltamiseen, mukaan lukien kyseisten säädösten noudattamisen valvonnasta vastaavien riippumattomien valvontaviranomaisten tehtävät ja toimivalta. Tämä asetus ei vaikuta yksityiselämää ja henkilötietojen suojaa koskeviin perusoikeuksiin sellaisina kuin niistä säädetään tietosuojaa ja yksityisyyttä koskevassa unionin lainsäädännössä ja sellaisina kuin ne on vahvistettu Euroopan unionin perusoikeuskirjassa, jäljempänä ’perusoikeuskirja’.

Tarkistus  8

 

Ehdotus asetukseksi

Johdanto-osan 2 c kappale (uusi)

Komission teksti	Tarkistus
	(2 c) Tekoälyjärjestelmiin sovelletaan unionissa asiaankuuluvaa tuoteturvallisuuslainsäädäntöä, joka tarjoaa kuluttajia vaarallisilta tuotteilta yleisesti suojaavan kehyksen, ja tällaista lainsäädäntöä olisi jatkossakin sovellettava. Tämä asetus ei myöskään rajoita kuluttajansuojaa ja tuoteturvallisuutta koskevissa muissa unionin säädöksissä, kuten asetuksessa (EU) 2017/2394, asetuksessa (EU) 2019/1020 ja direktiivissä 2001/95/EY yleisestä tuoteturvallisuudesta sekä direktiivissä 2013/11/EU, vahvistettujen sääntöjen soveltamista.

Tarkistus  9

 

Ehdotus asetukseksi

Johdanto-osan 2 d kappale (uusi)

Komission teksti	Tarkistus
	(2 d) SEUT 114 artiklan 2 kohdan mukaisesti tällä asetuksella ei saisi heikentää työntekijöiden oikeuksia ja etuja vaan täydentää niitä. Siksi tämä asetus ei saisi vaikuttaa sosiaalipolitiikkaa koskevan unionin lainsäädännön eikä kansallisen työlainsäädännön ja työmarkkinakäytäntöjen soveltamiseen, millä tarkoitetaan mitä tahansa lain säännöstä tai sopimusmääräystä, joka koskee työehtoja, työoloja, mukaan lukien työterveys ja -turvallisuus, sekä työnantajien ja työntekijöiden välistä suhdetta, mukaan lukien tiedottaminen, kuuleminen ja osallistuminen. Tämä asetus ei saisi vaikuttaa jäsenvaltioissa ja unionin tasolla tunnustettujen perusoikeuksien noudattamiseen, mukaan lukien oikeus tai vapaus ryhtyä lakkoon tai muuhun jäsenvaltioiden työmarkkinajärjestelmien piiriin kuuluvaan toimeen, kansallisen lainsäädännön ja käytännön mukaisesti. Se ei myöskään saisi vaikuttaa neuvottelukäytäntöihin, oikeuteen neuvotella, tehdä ja panna täytäntöön työehtosopimuksia tai oikeuteen ryhtyä työtaistelutoimiin kansallisen lain ja/tai käytännön mukaisesti. Se ei saisi missään tapauksessa estää komissiota ehdottamasta erityistä lainsäädäntöä sellaisten työntekijöiden oikeuksista ja vapauksista, joihin tekoälyjärjestelmillä on vaikutusta.

Tarkistus  10

 

Ehdotus asetukseksi

Johdanto-osan 2 e kappale (uusi)

Komission teksti	Tarkistus
	(2 e) Tämä asetus ei saisi vaikuttaa direktiivissä ... [COD 2021/414/EC] vahvistettuihin säännöksiin, joiden tarkoituksena on parantaa alustatyön työoloja.

Tarkistus  11

 

Ehdotus asetukseksi

Johdanto-osan 2 f kappale (uusi)

Komission teksti	Tarkistus
	(2 f) Tämän asetuksen olisi autettava tukemaan tutkimusta ja innovointia, se ei saisi heikentää tutkimus- ja kehitystoimintaa ja sen olisi kunnioitettava tieteellisen tutkimuksen vapautta. Siksi sen soveltamisalan ulkopuolelle on jätettävä tekoälyjärjestelmät, jotka on erityisesti kehitetty yksinomaan tieteellistä tutkimusta ja kehittämistä varten, ja varmistettava, että asetus ei vaikuta muulla tavoin tekoälyjärjestelmiä koskevaan tieteelliseen tutkimus- ja kehitystoimintaan. Kaikessa tutkimus- ja kehitystoiminnassa olisi joka tapauksessa noudatettava perusoikeuskirjaa, unionin lainsäädäntöä sekä kansallista lainsäädäntöä.

Tarkistus  12

 

Ehdotus asetukseksi

Johdanto-osan 3 kappale

Komission teksti	Tarkistus
(3) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa monenlaisia taloudellisia ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa. Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, koulutuksen, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan, julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja.	(3) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa ja tuottaakin jo monenlaisia taloudellisia, ympäristöön liittyviä ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa, jos sitä kehitetään asiaankuuluvien yleisten periaatteiden mukaisesti perusoikeuskirjaa ja unionin perustana olevia arvoja noudattaen. Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, elintarvikkeiden turvallisuuden, koulutuksen, tiedotusvälineiden, urheilun, kulttuurin, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan, kriisinhallinnan, julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden, ympäristönseurannan, biologisen monimuotoisuuden ja ekosysteemien säilyttämisen ja ennallistamisen sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja.

Tarkistus  13

 

Ehdotus asetukseksi

Johdanto-osan 3 a kappale (uusi)

Komission teksti	Tarkistus
	(3 a) Jotta voidaan edistää hiilineutraaliustavoitteiden saavuttamista, eurooppalaisten yritysten olisi pyrittävä hyödyntämään kaikkia saatavilla olevia teknologisia edistysaskeleita, jotka voivat auttaa pääsemään tavoitteeseen. Tekoäly on teknologiaa, jolla on potentiaalia käytettäväksi teollisissa, ympäristöön ja terveyteen liittyvissä ja muissa prosesseissa syntyvän jatkuvasti kasvavan datamäärän käsittelemiseen. Tekoälypohjaisiin analysointi- ja optimointivälineisiin tehtävien investointien helpottamiseksi tällä asetuksella olisi luotava ennakoitavissa oleva ja oikeasuhteinen ympäristö vähäriskisille teollisille ratkaisuille.

Tarkistus  14

 

Ehdotus asetukseksi

Johdanto-osan 4 kappale

Komission teksti	Tarkistus
(4) Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä etuja ja oikeuksia. Tällainen vahinko voi olla aineellista tai aineetonta.	(4) Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista ja tekniikan kehitystasosta riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä tai yksityisiä etuja ja luonnollisten henkilöiden perusoikeuksia. Tällainen vahinko voi olla aineellista tai aineetonta, kuten fyysistä, psykologista, yhteiskunnallista tai taloudellista vahinkoa.

Tarkistus  15

 

Ehdotus asetukseksi

Johdanto-osan 4 a kappale (uusi)

Komission teksti	Tarkistus
	(4 a) Kun otetaan huomioon, että tekoälyllä voi olla merkittävä vaikutus yhteiskuntaan ja että on tarpeen rakentaa luottamusta, on erittäin tärkeää, että tekoälyä ja sen sääntelykehystä kehitetään SEU 2 artiklassa vahvistettujen unionin arvojen, perussopimuksissa vahvistettujen perusoikeuksien ja -vapauksien, perusoikeuskirjan ja kansainvälisen ihmisoikeuslainsäädännön mukaisesti. Tekoälyn ennakkoehtona olisi oltava teknologian ihmiskeskeisyys. Sillä ei saisi korvata ihmisen itsemääräämisoikeutta eikä se saisi sisältää oletusta yksilönvapauden menettämisestä. Sen olisi palveltava ensisijaisesti yhteiskunnan etuja ja yhteistä hyvää. Olisi otettava käyttöön suojatoimia, jolla varmistetaan sellaisen tekoälyn kehittäminen ja käyttö, johon on sisäänrakennettu eettisiä periaatteita ja jossa kunnioitetaan unionin arvoja ja noudatetaan perusoikeuskirjaa.

Tarkistus  16

 

Ehdotus asetukseksi

Johdanto-osan 5 kappale

Komission teksti	Tarkistus
(5) Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen suojelun, kuten terveyden ja turvallisuuden sekä perusoikeuksien suojelun, korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista ja käyttöönottoa ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Vahvistamalla kyseiset säännöt tällä asetuksella tuetaan Eurooppa-neuvoston33 asettamaa tavoitetta, jonka mukaan unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt34.	(5) Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen, kuten terveyden ja turvallisuuden, perusoikeuksien, demokratian ja oikeusvaltion sekä ympäristön suojelun korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Näiden sääntöjen olisi oltava selkeitä, niiden olisi suojeltava hyvin perusoikeuksia ja tuettava uusia innovatiivisia ratkaisuja, ja niiden olisi mahdollistettava unionin arvojen mukaisia tekoälyjärjestelmiä kehittävien julkisten ja yksityisten toimijoiden eurooppalainen ekosysteemi. Vahvistamalla kyseiset säännöt sekä innovointia tukevat toimenpiteet, joissa keskitytään erityisesti pk- ja startup-yrityksiin, tällä asetuksella tuetaan Eurooppa-neuvoston33 asettamaa tavoitetta, jonka mukaan edistetään Euroopassa kehitettyä tekoälyä ja unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt34.
__________________	__________________
33 Eurooppa-neuvosto, Eurooppa-neuvoston ylimääräinen kokous (1.–2.10.2020) – Päätelmät, EUCO 13/20, 2020, s. 6.	33 Eurooppa-neuvosto, Eurooppa-neuvoston ylimääräinen kokous (1.–2.10.2020) – Päätelmät, EUCO 13/20, 2020, s. 6.
34 Euroopan parlamentin päätöslauselma, annettu 20 päivänä lokakuuta 2020, suosituksista komissiolle tekoälyä, robotiikkaa ja niihin liittyvää teknologiaa koskevien eettisten näkökohtien kehyksestä, 2020/2012(INL).	34 Euroopan parlamentin päätöslauselma, annettu 20 päivänä lokakuuta 2020, suosituksista komissiolle tekoälyä, robotiikkaa ja niihin liittyvää teknologiaa koskevien eettisten näkökohtien kehyksestä, 2020/2012(INL).

Tarkistus  17

 

Ehdotus asetukseksi

Johdanto-osan 5 a kappale (uusi)

Komission teksti	Tarkistus
	(5 a) Jotta voidaan edistää tekoälyn kehittämistä unionin arvoja kunnioittaen, unionin on poistettava suurimmat puutteet ja esteet, jotka haittaavat digitaalisen muutoksen potentiaalin hyödyntämistä, kuten digitaaliset taidot omaavien työntekijöiden puute, kyberturvallisuusongelmat, investointien ja rahoituksen saatavuuden puute sekä olemassa olevat tai mahdolliset erot suurten yritysten, pk-yritysten ja startup-yritysten välillä. Erityisesti olisi pyrittävä varmistamaan, että tekoälyn ja uusiin teknologioihin liittyvän innovoinnin hyödyt saadaan korjattua kaikilla unionin alueilla ja että erityisesti alueille, jotka joidenkin digitalisaation indikaattoreiden perusteella saattavat olla kehityksestä jäljessä, tarjotaan riittävästi investointeja ja resursseja.

Tarkistus  18

 

Ehdotus asetukseksi

Johdanto-osan 6 kappale

Komission teksti	Tarkistus
(6) Tekoälyjärjestelmän käsite olisi määriteltävä selkeästi, jotta voidaan taata oikeusvarmuus ja samalla tarjota joustovaraa teknologian tulevan kehityksen huomioon ottamiseksi. Määritelmän olisi perustuttava ohjelmiston keskeisiin toiminnallisiin ominaisuuksiin, erityisesti siihen, että se pystyy tuottamaan tiettyjen ihmisen määrittelemien tavoitteiden osalta tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöön, jonka kanssa järjestelmä on vuorovaikutuksessa joko fyysisessä tai digitaalisessa ulottuvuudesta. Tekoälyjärjestelmät voidaan suunnitella toimimaan eriasteisesti itsenäisesti ja niitä voidaan käyttää erillisinä tai tuotteen osina riippumatta siitä, onko järjestelmä fyysisesti integroitu tuotteeseen (sulautettu) vai palveleeko se tuotteen toiminnallisuutta ilman, että se on integroitu siihen (sulauttamaton). Tekoälyjärjestelmän määritelmää olisi täydennettävä sen kehittämisessä käytettyjen erityisten tekniikoiden ja lähestymistapojen luettelolla, joka olisi pidettävä ajan tasalla markkinoiden ja teknologian kehityksen huomioon ottamiseksi siten, että komissio hyväksyy delegoituja säädöksiä luettelon muuttamiseksi.	(6) Tekoälyjärjestelmän käsite tässä asetuksessa olisi määriteltävä selkeästi ja yhdenmukaistettava mahdollisimman pitkälle tekoälyn alalla toimivien kansainvälisten organisaatioiden tekemän työn kanssa, jotta voidaan taata oikeusvarmuus, yhdenmukaistaminen ja laaja hyväksyntä ja samalla tarjota joustovaraa alan nopean teknologisen kehityksen huomioon ottamiseksi. Määritelmän olisi lisäksi perustuttava tekoälyn keskeisiin ominaisuuksiin, kuten sen oppimis-, päättely- tai mallintamiskykyihin, jotta se erottuisi yksinkertaisemmista ohjelmistojärjestelmistä tai ohjelmointimenetelmistä. Tekoälyjärjestelmät on suunniteltu toimimaan eriasteisen itsenäisesti, mikä tarkoittaa, että ne toimivat ainakin jossakin määrin ihmisen valvonnasta riippumattomasti ja kykenevät ainakin jossakin määrin toimimaan ilman ihmisen ohjausta. ’Konepohjaisella’ tarkoitetaan, että tekoälyjärjestelmät toimivat koneissa. Eksplisiittisillä ja implisiittisillä tavoitteilla tarkoitetaan, että tekoälyjärjestelmät voivat toimia eksplisiittisten ihmisen määrittelemien tavoitteiden tai implisiittisten tavoitteiden mukaisesti. Tekoälyjärjestelmän tavoitteet voivat erota tekoälyjärjestelmän käyttötarkoituksesta jossakin tietyssä yhteydessä. Viittaus ennusteisiin käsittää sisällön, jota tässä asetuksessa pidetään yhtenä ennusteen muotona, koska se on yksi tekoälyjärjestelmän tuottamista mahdollisista tuotoksista. Tätä asetusta sovellettaessa ympäristöt olisi ymmärrettävä yhteyksiksi, joissa tekoälyjärjestelmät toimivat, ja tekoälyjärjestelmän tuottamat tuotokset, toisin sanoen ennusteet, suositukset tai päätökset, vastaavat järjestelmän tavoitteisiin kyseisestä ympäristöstä tulevien syötteiden pohjalta. Tällaiset tuotokset puolestaan vaikuttavat jälleen kyseiseen ympäristöön pelkästään sisällyttämällä siihen uutta tietoa.

Tarkistus  19

 

Ehdotus asetukseksi

Johdanto-osan 6 a kappale (uusi)

Komission teksti	Tarkistus
	(6 a) Tekoälyjärjestelmillä on usein koneoppimiskykyä, joka auttaa niitä mukautumaan ja suorittamaan itsenäisesti uusia tehtäviä. Koneoppimisella tarkoitetaan laskentaprosessia, jossa mallin parametrit optimoidaan datan pohjalta; kyseessä on matemaattinen konstruktio, jossa tuotos generoidaan syöttötietojen pohjalta. Koneoppimisen lähestymistavat sisältävät muun muassa ohjatun, ohjaamattoman ja vahvistavan oppimisen, jossa käytetään erilaisia menetelmiä, kuten neuroverkkoihin perustuvaa syväoppimista. Tämän asetuksen tarkoituksena on käsitellä uusia mahdollisia riskejä, joita voi syntyä hallinnan siirtämisestä tekoälyjärjestelmille ja erityisesti sellaisille järjestelmille, jotka voivat kehittyä niiden käyttöönoton jälkeen. Useiden tällaisten tekoälyjärjestelmien toiminta ja tuotokset perustuvat abstrakteihin matemaattisiin suhteisiin, joita ihmisen on vaikea ymmärtää, valvoa ja jäljittää erityisiin syötteisiin. Näillä monimutkaisilla ja läpinäkymättömillä ominaisuuksilla (”mustan laatikon” ongelma) on vaikutusta vastuuvelvollisuuteen ja selitettävyyteen. Vastaavasti myös yksinkertaisemmasta tekniikasta, kuten tietämykseen perustuvista lähestymistavoista, Bayes-estimoinnista tai päätöspuista, voi olla seurauksena lainsäädännön puutteita, joita on käsiteltävä tässä asetuksessa, erityisesti jos kyseistä tekniikkaa käytetään hybridijärjestelmissä yhdessä koneoppimisen lähestymistapojen kanssa.

Tarkistus  20

 

Ehdotus asetukseksi

Johdanto-osan 6 b kappale (uusi)

Komission teksti	Tarkistus
	(6 b) Tekoälyjärjestelmiä voidaan käyttää erillisinä ohjelmistojärjestelminä, integroituina (sulautettuina) fyysiseen tuotteeseen, palvelemaan fyysisen tuotteen toiminnallisuutta ilman, että järjestelmä on integroitu siihen (sulauttamaton), tai laajemman järjestelmän tekoälykomponenttina. Jos laajempi järjestelmä ei voisi toimia ilman kyseistä tekoälykomponenttia, koko laajemman järjestelmän olisi tämän asetuksen mukaisesti katsottava muodostavan yhden yksittäisen tekoälyjärjestelmän.

Tarkistus  21

 

Ehdotus asetukseksi

Johdanto-osan 7 kappale

Komission teksti	Tarkistus
(7) Tässä asetuksessa käytetty biometristen tietojen käsite on yhdenmukainen Euroopan parlamentin ja neuvoston asetuksen (EU) 2016/67935 4 artiklan 14 alakohdassa, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/172536 3 artiklan 18 alakohdassa ja Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/68037 3 artiklan 13 alakohdassa määritellyn biometristen tietojen käsitteen kanssa ja sitä olisi tulkittava johdonmukaisesti tämän kanssa.	(7) Tässä asetuksessa käytetty biometristen tietojen käsite on yhdenmukainen Euroopan parlamentin ja neuvoston asetuksen (EU) 2016/67935 4 artiklan 14 alakohdassa määritellyn biometristen tietojen käsitteen kanssa ja sitä olisi tulkittava johdonmukaisesti tämän kanssa. Biometriikkaan perustuvat tiedot ovat tietoja, jotka saadaan luonnollisen henkilön fyysisten, fysiologisten tai käyttäytymiseen liittyvien signaalien, kuten kasvonilmeiden, liikkeiden, pulssin, äänen, näppäinpainallusten tai kävelyn, erityisellä teknisellä käsittelyllä ja joiden perusteella voi olla mahdollista tunnistaa luonnollinen henkilö tai varmistaa kyseisen henkilön tunnistaminen.
__________________	__________________
35 Euroopan parlamentin ja neuvoston asetus (EU) 2016/679, annettu 27 päivänä huhtikuuta 2016, luonnollisten henkilöiden suojelusta henkilötietojen käsittelyssä sekä näiden tietojen vapaasta liikkuvuudesta ja direktiivin 95/46/EY kumoamisesta (yleinen tietosuoja-asetus) (EUVL L 119, 4.5.2016, s. 1).	35 Euroopan parlamentin ja neuvoston asetus (EU) 2016/679, annettu 27 päivänä huhtikuuta 2016, luonnollisten henkilöiden suojelusta henkilötietojen käsittelyssä sekä näiden tietojen vapaasta liikkuvuudesta ja direktiivin 95/46/EY kumoamisesta (yleinen tietosuoja-asetus) (EUVL L 119, 4.5.2016, s. 1).
36 Euroopan parlamentin ja neuvoston asetus (EU) 2018/1725, annettu 23 päivänä lokakuuta 2018, luonnollisten henkilöiden suojelusta unionin toimielinten, elinten ja laitosten suorittamassa henkilötietojen käsittelyssä ja näiden tietojen vapaasta liikkuvuudesta sekä asetuksen (EY) N:o 45/ 2001 ja päätöksen N:o 1247/2002/EY kumoamisesta (EUVL L 295, 21.11.2018, s. 39).
37 Euroopan parlamentin ja neuvoston direktiivi (EU) 2016/680, annettu 27 päivänä huhtikuuta 2016, luonnollisten henkilöiden suojelusta toimivaltaisten viranomaisten suorittamassa henkilötietojen käsittelyssä rikosten ennalta estämistä, tutkimista, paljastamista tai rikoksiin liittyviä syytetoimia tai rikosoikeudellisten seuraamusten täytäntöönpanoa varten sekä näiden tietojen vapaasta liikkuvuudesta ja neuvoston puitepäätöksen 2008/977/YOS kumoamisesta (direktiivi lainvalvontatarkoituksessa käsiteltyjen henkilötietojen suojasta) (EUVL L 119, 4.5.2016, s. 89).

Tarkistus  22

 

Ehdotus asetukseksi

Johdanto-osan 7 a kappale (uusi)

Komission teksti	Tarkistus
	(7 a)  Tässä asetuksessa käytetty biometrisen tunnistuksen käsite olisi määriteltävä ihmisen fyysisten, fysiologisten, käyttäytymiseen liittyvien ja psykologisten ominaisuuksien, kuten kasvojen, silmien liikkeen, kasvonilmeiden, kehon muodon, äänen, puheen, kävelyn, asennon, sydämen lyöntitiheyden, verenpaineen, hajun, näppäinpainallusten tai psykologisten reaktioiden (kuten vihan, hädän tai surun), automaattiseksi tunnistamiseksi yksilön henkilöllisyyden toteamiseksi vertaamalla kyseisen yksilön biometrisiä tietoja tietokantaan tallennettuihin toisten yksilöiden biometrisiin tietoihin (yksi moneen -tunnistaminen) riippumatta siitä, onko kyseinen yksilö antanut tähän suostumustaan.

Tarkistus  23

 

Ehdotus asetukseksi

Johdanto-osan 7 b kappale (uusi)

Komission teksti	Tarkistus
	(7 b) Tässä asetuksessa käytetty biometrisen luokittelun käsite olisi määriteltävä luonnollisten henkilöiden luokitteluksi tiettyihin ryhmiin tai heidän ominaispiirteidensä ja ominaisuuksiensa, kuten sosiaalisen tai biologisen sukupuolen, iän, hiusten värin, silmien värin, tatuointien, etnisen tai yhteiskunnallisen alkuperän, terveydentilan, henkisten tai fyysisten valmiuksien, käyttäytymisen tai luonteenpiirteiden, kielen, uskonnon, kansalliseen vähemmistöön kuulumisen tai sukupuolisen tai poliittisen suuntautumisen, päättelemiseksi heidän biometristen tai biometriikkaan perustuvien tietojensa tai niistä pääteltävissä olevien tietojen perusteella.

Tarkistus  24

 

Ehdotus asetukseksi

Johdanto-osan 8 kappale

Komission teksti	Tarkistus
(8) Tässä asetuksessa käytetty biometrisen etätunnistusjärjestelmän käsite olisi määriteltävä toiminnallisesti tekoälyjärjestelmäksi, joka on tarkoitettu luonnollisten henkilöiden tunnistamiseen etäältä vertaamalla henkilön biometrisiä tietoja viitetietokannan sisältämiin biometrisiin tietoihin ja tietämättä ennalta, onko kohteena oleva henkilö läsnä ja voidaanko hänet tunnistaa, riippumatta käytetyistä tekniikoista, prosesseista tai biometristen tietojen tyypeistä. Kun otetaan huomioon reaaliaikaisten ja jälkikäteisten biometrisen etätunnistusjärjestelmien erilaiset ominaisuudet ja käyttötavat sekä niihin liittyvät erilaiset riskit, nämä järjestelmät olisi erotettava toisistaan. Reaaliaikaisissa järjestelmissä biometristen tietojen kerääminen, vertailu ja tunnistaminen tapahtuvat välittömästi, lähes välittömästi tai joka tapauksessa ilman merkittävää viivettä. Tältä osin ei pitäisi olla mahdollista kiertää tämän asetuksen sääntöjä, jotka koskevat kyseisten tekoälyjärjestelmien reaaliaikaista käyttöä, käyttämällä vähäisiä viivästyksiä. Reaaliaikaisissa järjestelmissä käytetään kameran tai muun toiminnoltaan samankaltaisen laitteen tuottamaa ”suoraa” tai ”lähes suoraa” materiaalia, kuten videokuvaa. Jälkikäteisissä järjestelmissä biometriset tiedot on sitä vastoin jo kerätty, ja vertailu ja tunnistaminen tapahtuvat vasta merkittävän viiveen jälkeen. Kyse on kameravalvontajärjestelmien tai yksityisten laitteiden tuottamien kuvien tai videokuvan kaltaisesta materiaalista, joka on luotu ennen kuin järjestelmää käytetään asianomaisiin luonnollisiin henkilöihin.	(8) Tässä asetuksessa käytetty biometrisen etätunnistusjärjestelmän käsite olisi määriteltävä toiminnallisesti tekoälyjärjestelmäksi, joka on tarkoitettu luonnollisten henkilöiden tunnistamiseen etäältä vertaamalla henkilön biometrisiä tietoja viitetietokannan sisältämiin biometrisiin tietoihin ja tietämättä ennalta, onko kohteena oleva henkilö läsnä ja voidaanko hänet tunnistaa, riippumatta käytetyistä tekniikoista, prosesseista tai biometristen tietojen tyypeistä ja lukuun ottamatta todennusjärjestelmiä, jotka pelkästään vertaavat yksilön biometrisiä tietoja tämän aiemmin antamiin biometrisiin tietoihin (yksi yhteen -todennus). Kun otetaan huomioon reaaliaikaisten ja jälkikäteisten biometrisen etätunnistusjärjestelmien erilaiset ominaisuudet ja käyttötavat sekä niihin liittyvät erilaiset riskit, nämä järjestelmät olisi erotettava toisistaan. Reaaliaikaisissa järjestelmissä biometristen tietojen kerääminen, vertailu ja tunnistaminen tapahtuvat välittömästi, lähes välittömästi tai joka tapauksessa ilman merkittävää viivettä. Tältä osin ei pitäisi olla mahdollista kiertää tämän asetuksen sääntöjä, jotka koskevat kyseisten tekoälyjärjestelmien reaaliaikaista käyttöä, käyttämällä vähäisiä viivästyksiä. Reaaliaikaisissa järjestelmissä käytetään kameran tai muun toiminnoltaan samankaltaisen laitteen tuottamaa ”suoraa” tai ”lähes suoraa” materiaalia, kuten videokuvaa. Jälkikäteisissä järjestelmissä biometriset tiedot on sitä vastoin jo kerätty, ja vertailu ja tunnistaminen tapahtuvat vasta merkittävän viiveen jälkeen. Kyse on kameravalvontajärjestelmien tai yksityisten laitteiden tuottamien kuvien tai videokuvan kaltaisesta materiaalista, joka on luotu ennen kuin järjestelmää käytetään asianomaisiin luonnollisiin henkilöihin. Koska biometrisen tunnistuksen käsite on riippumaton yksilön suostumuksesta, tätä määritelmää sovelletaan silloinkin, kun biometrisen etätunnistusjärjestelmän valvonnassa olevaan paikkaan on sijoitettu varoitusilmoituksia, eikä esirekisteröinti tosiasiassa kumoa sitä.

Tarkistus  25

 

Ehdotus asetukseksi

Johdanto-osan 8 a kappale (uusi)

Komission teksti	Tarkistus
	(8 a) Luonnollisten henkilöiden tunnistamisessa etäältä tehdään ero biometristen etätunnistusjärjestelmien ja sellaisten biometrisiä tunnistuskeinoja käyttävien yksilöiden lähitunnistusjärjestelmien välillä, joiden ainoa tarkoitus on vahvistaa, onko jonkin tietyn tunnistettavan luonnollisen henkilön luvallista esimerkiksi käyttää jotakin palvelua tai laitetta tai päästä joihinkin tiloihin.

Tarkistus  26

 

Ehdotus asetukseksi

Johdanto-osan 9 kappale

Komission teksti	Tarkistus
(9) Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoitettavan mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa. Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita. Käsite ei kata myöskään verkkoympäristöjä, sillä ne eivät ole fyysisiä tiloja. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, myymälät ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet.	(9) Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoittavan mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa ja riippumatta mahdollisista kapasiteettirajoituksista. Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita. Käsite ei kata myöskään verkkoympäristöjä, sillä ne eivät ole fyysisiä tiloja. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, urheilupaikat, koulut, yliopistot, sairaaloiden ja pankkien asiaankuuluvat osat, huvipuistot, festivaalit, myymälät ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet.

Tarkistus  27

 

Ehdotus asetukseksi

Johdanto-osan 9 a kappale (uusi)

Komission teksti	Tarkistus
	(9 a) On tärkeää huomata, että tekoälyjärjestelmien olisi pyrittävä parhaalla mahdollisella tavalla noudattamaan yleisiä periaatteita, joilla luodaan korkean tason kehys edistämään johdonmukaista ihmiskeskeistä lähestymistapaa eettiseen ja luotettavaan tekoälyyn perusoikeuskirjan ja unionin perustana olevien arvojen mukaisesti, mukaan lukien perusoikeuksien suojelu, ihmisen toimijuus ja ihmisen suorittama valvonta, tekninen luotettavuus ja turvallisuus, yksityisyyden suoja ja datan hallinta, läpinäkyvyys, syrjimättömyys ja oikeudenmukaisuus sekä yhteiskunnallinen ja ekologinen hyvinvointi.

Tarkistus  28

 

Ehdotus asetukseksi

Johdanto-osan 9 b kappale (uusi)

Komission teksti	Tarkistus
	(9 b) Tekoälylukutaidolla tarkoitetaan osaamista, tietämystä ja ymmärrystä, joiden avulla tarjoajat, käyttäjät ja asianomaiset henkilöt voivat ottaen huomioon oikeutensa ja velvollisuutensa tämän asetuksen puitteissa ottaa tietoon perustuen käyttöön tekoälyjärjestelmiä sekä saada tietoa tekoälyn mahdollisuuksista ja riskeistä ja mahdollisista vahingoista, joita se voi aiheuttaa, ja siten edistää sen demokraattista valvontaa. Tekoälylukutaidon ei pitäisi rajoittua välineisiin ja teknologioihin liittyvään oppimiseen, vaan sillä olisi myös pyrittävä antamaan tarjoajille ja käyttäjille käsitteet ja taidot, joita tarvitaan tämän asetuksen noudattamisen ja täytäntöönpanon varmistamiseksi. Sen vuoksi on tarpeen, että komissio, jäsenvaltiot sekä tekoälyjärjestelmien tarjoajat ja käyttäjät edistävät yhteistyössä kaikkien asiaankuuluvien sidosryhmien kanssa kaikenikäisten ihmisten, myös naisten ja tyttöjen, riittävän tekoälylukutaidon kehittämistä kaikilla yhteiskunnan aloilla ja että edistymistä tässä asiassa seurataan tiiviisti.

Tarkistus  29

 

Ehdotus asetukseksi

Johdanto-osan 10 kappale

Komission teksti	Tarkistus
(10) Jotta voidaan varmistaa tasapuoliset toimintaedellytykset ja yksilöiden oikeuksien ja vapauksien tehokas suojelu kaikkialla unionissa, tällä asetuksella vahvistettuja sääntöjä olisi sovellettava tekoälyjärjestelmien tarjoajiin syrjimättömällä tavalla riippumatta siitä, ovatko ne sijoittautuneet unioniin vai kolmanteen maahan, sekä unioniin sijoittautuneisiin tekoälyjärjestelmien käyttäjiin.	(10) Jotta voidaan varmistaa tasapuoliset toimintaedellytykset ja yksilöiden oikeuksien ja vapauksien tehokas suojelu kaikkialla unionissa ja kansainvälisellä tasolla, tällä asetuksella vahvistettuja sääntöjä olisi sovellettava tekoälyjärjestelmien tarjoajiin syrjimättömällä tavalla riippumatta siitä, ovatko ne sijoittautuneet unioniin vai kolmanteen maahan, sekä unioniin sijoittautuneisiin tekoälyjärjestelmien käyttöönottajiin. Jotta unioni pysyisi perusarvoilleen uskollisena, sellaisten tekoälyjärjestelmien, jotka on tarkoitettu käytäntöihin, joiden ei voida tämän asetuksen mukaisesti katsoa olevan hyväksyttävissä, ei voida myöskään katsoa olevan hyväksyttävissä unionin ulkopuolella johtuen niiden erityisen haitallisesta vaikutuksesta perusoikeuskirjassa vahvistettuihin perusoikeuksiin. Tämän vuoksi on asianmukaista kieltää unioniin sijoittautuneiden tarjoajien harjoittama tällaisten tekoälyjärjestelmien vienti kolmansiin maihin.

Tarkistus  30

 

Ehdotus asetukseksi

Johdanto-osan 11 kappale

Komission teksti	Tarkistus
(11) Tiettyjen tekoälyjärjestelmien digitaalisen luonteen vuoksi niiden olisi kuuluttava tämän asetuksen soveltamisalaan myös silloin, kun niitä ei saateta markkinoille, oteta käyttöön eikä käytetä unionissa. Tämä koskee esimerkiksi unioniin sijoittautunutta toimijaa, joka hankkii tiettyjä palveluja unionin ulkopuolelle sijoittautuneelta toimijalta sellaisen tekoälyjärjestelmän toteuttaman toiminnon osalta, joka katsotaan suuririskiseksi ja jolla on vaikutuksia unionissa oleviin luonnollisiin henkilöihin. Tällaisessa tapauksessa unionin ulkopuolelle sijoittautuneen toimijan käyttämä tekoälyjärjestelmä voisi käsitellä dataa, joka on kerätty unionissa ja siirretty sieltä laillisesti, ja toimittaa unionissa sijaitsevalle hankintasopimuksen tehneelle toimijalle tästä käsittelystä saatavia tekoälyjärjestelmän tuloksia ilman, että kyseistä tekoälyjärjestelmää saatetaan markkinoille, otetaan käyttöön tai käytetään unionissa. Jotta estettäisiin tämän asetuksen kiertäminen ja varmistettaisiin unionissa sijaitsevien luonnollisten henkilöiden tehokas suojelu, tätä asetusta olisi sovellettava myös kolmanteen maahan sijoittautuneisiin tekoälyjärjestelmien tarjoajiin ja käyttäjiin siltä osin kuin kyseisten järjestelmien tuottamaa tuotosta käytetään unionissa. Jotta otettaisiin kuitenkin huomioon olemassa olevat järjestelyt ja erityiset tarpeet yhteistyöhön sellaisten ulkomaisten kumppanien kanssa, joiden kanssa vaihdetaan tietoja ja todisteita, tätä asetusta ei pitäisi soveltaa kolmannen maan viranomaisiin eikä kansainvälisiin järjestöihin, kun ne toimivat unionin tai sen jäsenvaltioiden kanssa kansallisella tai Euroopan tasolla tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa. Tällaisia sopimuksia on tehty kahdenvälisesti jäsenvaltioiden ja kolmansien maiden välillä tai Euroopan unionin, Europolin ja muiden EU:n virastojen sekä kolmansien maiden ja kansainvälisten järjestöjen välillä.	(11) Tiettyjen tekoälyjärjestelmien digitaalisen luonteen vuoksi niiden olisi kuuluttava tämän asetuksen soveltamisalaan myös silloin, kun niitä ei saateta markkinoille, oteta käyttöön eikä käytetä unionissa. Tämä koskee esimerkiksi unioniin sijoittautunutta toimijaa, joka hankkii tiettyjä palveluja unionin ulkopuolelle sijoittautuneelta toimijalta sellaisen tekoälyjärjestelmän toteuttaman toiminnon osalta, joka katsotaan suuririskiseksi ja jolla on vaikutuksia unionissa oleviin luonnollisiin henkilöihin. Tällaisessa tapauksessa unionin ulkopuolelle sijoittautuneen toimijan käyttämä tekoälyjärjestelmä voisi käsitellä dataa, joka on kerätty unionissa ja siirretty sieltä laillisesti, ja toimittaa unionissa sijaitsevalle hankintasopimuksen tehneelle toimijalle tästä käsittelystä saatavia tekoälyjärjestelmän tuloksia ilman, että kyseistä tekoälyjärjestelmää saatetaan markkinoille, otetaan käyttöön tai käytetään unionissa. Jotta estettäisiin tämän asetuksen kiertäminen ja varmistettaisiin unionissa sijaitsevien luonnollisten henkilöiden tehokas suojelu, tätä asetusta olisi sovellettava myös kolmanteen maahan sijoittautuneisiin tekoälyjärjestelmien tarjoajiin ja käyttöönottajiin siltä osin kuin kyseisten järjestelmien tuottamaa tuotosta on tarkoitus käyttää unionissa. Jotta otettaisiin kuitenkin huomioon olemassa olevat järjestelyt ja erityiset tarpeet yhteistyöhön sellaisten ulkomaisten kumppanien kanssa, joiden kanssa vaihdetaan tietoja ja todisteita, tätä asetusta ei pitäisi soveltaa kolmannen maan viranomaisiin eikä kansainvälisiin järjestöihin, kun ne toimivat unionin tai sen jäsenvaltioiden kanssa kansallisella tai Euroopan tasolla tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa. Tällaisia sopimuksia on tehty kahdenvälisesti jäsenvaltioiden ja kolmansien maiden välillä tai Euroopan unionin, Europolin ja muiden EU:n virastojen sekä kolmansien maiden ja kansainvälisten järjestöjen välillä. Tämä poikkeus olisi kuitenkin rajoitettava koskemaan luotettavia maita ja kansainvälisiä järjestöjä, joilla on samat arvot kuin unionilla.

Tarkistus  31

 

Ehdotus asetukseksi

Johdanto-osan 12 kappale

Komission teksti	Tarkistus
(12) Tätä asetusta olisi sovellettava myös unionin toimielimiin, toimistoihin, elimiin ja virastoihin, kun ne toimivat tekoälyjärjestelmän tarjoajana tai käyttäjänä. Tekoälyjärjestelmät, jotka on kehitetty tai joita käytetään yksinomaan sotilaallisiin tarkoituksiin, olisi jätettävä tämän asetuksen soveltamisalan ulkopuolelle, kun kyseinen käyttö kuuluu Euroopan unionista tehdyn sopimuksen (TEU) V osastossa säännellyn yhteisen ulko- ja turvallisuuspolitiikan yksinomaiseen toimivaltaan. Tämän asetuksen ei pitäisi rajoittaa Euroopan parlamentin ja neuvoston direktiivin 2000/31/EY II luvun IV jaksossa vahvistettujen välityspalvelujen tarjoajien vastuuta koskevien säännösten [sellaisina kuin ne korvataan digipalvelusäädöksen vastaavilla säännöksillä] soveltamista.	(12) Tätä asetusta olisi sovellettava myös unionin toimielimiin, toimistoihin, elimiin ja virastoihin, kun ne toimivat tekoälyjärjestelmän tarjoajana tai käyttöönottajana. Tekoälyjärjestelmät, jotka on kehitetty tai joita käytetään yksinomaan sotilaallisiin tarkoituksiin, olisi jätettävä tämän asetuksen soveltamisalan ulkopuolelle, kun kyseinen käyttö kuuluu Euroopan unionista tehdyn sopimuksen (SEU) V osastossa säännellyn yhteisen ulko- ja turvallisuuspolitiikan yksinomaiseen toimivaltaan. Tämän asetuksen ei pitäisi rajoittaa Euroopan parlamentin ja neuvoston direktiivin 2000/31/EY II luvun IV jaksossa vahvistettujen välityspalvelujen tarjoajien vastuuta koskevien säännösten [sellaisina kuin ne korvataan digipalvelusäädöksen vastaavilla säännöksillä] soveltamista.

Tarkistus  32

 

Ehdotus asetukseksi

Johdanto-osan 12 a kappale (uusi)

Komission teksti	Tarkistus
	(12 a) Avoimesti jaetut ja käyttäjien vapaasti saatavilla olevat ohjelmistot ja data, joita tai joiden muunneltuja versioita käyttäjät voivat vapaasti käyttää, muunnella ja jakaa uudelleen, voivat edistää tutkimusta ja innovointia markkinoilla. Komission tutkimukset myös osoittavat, että vapaiden ja avoimen lähdekoodin ohjelmistojen osuus Euroopan unionin BKT:stä voi olla 65–95 miljardia euroa ja että ne voivat tarjota merkittäviä kasvumahdollisuuksia Euroopan taloudelle. Vapaiden ja avoimen lähdekoodin lisenssien avulla käyttäjät voivat käyttää, kopioida, jakaa, tutkia, muuttaa ja parantaa ohjelmistoja ja tietoja, mallit mukaan lukien. Jotta voidaan edistää tekoälyn kehittämistä ja käyttöönottoa erityisesti pk- ja startup-yrityksissä, tieteellisessä tutkimuksessa ja myös yksittäisten henkilöiden toimesta, tätä asetusta ei pitäisi soveltaa tällaisiin vapaisiin ja avoimen lähdekoodin tekoälykomponentteihin, paitsi jos jokin tarjoaja saattaa niitä markkinoille tai ottaa niitä käyttöön osana jotakin suuririskistä tekoälyjärjestelmää tai jotakin tämän asetuksen II tai IV osaston soveltamisalaan kuuluvaa tekoälyjärjestelmää.

Tarkistus  33

 

Ehdotus asetukseksi

Johdanto-osan 12 b kappale (uusi)

Komission teksti	Tarkistus
	(12 b) Vapaiden ja avoimen lähdekoodin tekoälykomponenttien yhteistyöhön perustuvan kehittämisen tai niiden asettamisen saataville avoimissa tietovarastoissa ei pitäisi tarkoittaa markkinoille saattamista tai käyttöönottoa. Toiminnan kaupallisuudesta, kun sillä tarkoitetaan markkinoille saattamista, voi kuitenkin olla merkkinä hinnan periminen vapaan ja avoimen lähdekoodin tekoälykomponentista, mikroyritysten välisiä liiketoimia lukuun ottamatta, mutta myös hinnan periminen teknisistä tukipalveluista, muita vastikkeellisia palveluja edellyttävän ohjelmistoalustan tarjoaminen tai henkilötietojen käyttäminen muutoin kuin yksinomaan ohjelmiston turvallisuuden, yhteensopivuuden tai yhteentoimivuuden parantamiseen.

Tarkistus  34

 

Ehdotus asetukseksi

Johdanto-osan 12 c kappale (uusi)

Komission teksti	Tarkistus
	(12 c) Vapaan ja avoimen lähdekoodin tekoälykomponenttien kehittäjiä ei pitäisi velvoittaa tämän asetuksen nojalla noudattamaan tekoälyarvoketjulle asetettuja vaatimuksia eikä etenkään sellaista tarjoajaa koskevia vaatimuksia, joka on käyttänyt tällaista vapaata ja avoimen lähdekoodin tekoälykomponenttia. Vapaiden ja avoimen lähdekoodin tekoälykomponenttien kehittäjiä olisi kuitenkin kannustettava noudattamaan dokumentoinnin laajalti hyväksyttyjä käytänteitä, kuten malli- ja datakortteja, jotta voidaan nopeuttaa tiedon jakamista tekoälyn arvoketjussa ja edistää luotettavia tekoälyjärjestelmiä unionissa.

Tarkistus  35

 

Ehdotus asetukseksi

Johdanto-osan 13 kappale

Komission teksti	Tarkistus
(13) Jotta voidaan varmistaa terveyteen, turvallisuuteen ja perusoikeuksiin liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava yhteiset normit. Näiden normien olisi oltava Euroopan unionin perusoikeuskirjan, jäljempänä ’perusoikeuskirja’, mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa.	(13) Jotta voidaan varmistaa terveyteen, turvallisuuteen ja perusoikeuksiin sekä demokratiaan, oikeusvaltioon ja ympäristöön liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava yhteiset normit. Näiden normien olisi oltava perusoikeuskirjan, Euroopan vihreän kehityksen ohjelman, unionin digitaalisia oikeuksia koskevan yhteisen julistuksen ja tekoälyä käsittelevän korkean tason asiantuntijaryhmän luotettavaa tekoälyä koskevien eettisten ohjeiden mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa.

Tarkistus  36

 

Ehdotus asetukseksi

Johdanto-osan 14 kappale

Komission teksti	Tarkistus
(14) Tekoälyjärjestelmiä koskevien oikeasuhteisten ja tehokkaiden sitovien sääntöjen käyttöön ottamiseksi olisi noudatettava selkeästi määriteltyä riskiperusteista lähestymistapaa. Tässä lähestymistavassa tällaisten sääntöjen tyyppi ja sisältö olisi sovitettava niiden riskien voimakkuuden ja laajuuden mukaan, joita tekoälyjärjestelmät voivat aiheuttaa. Sen vuoksi on tarpeen kieltää tietyt tekoälyyn liittyvät käytännöt, vahvistaa suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset ja asianomaisten toimijoiden velvollisuudet sekä asettaa läpinäkyvyysvelvoitteita tietyille tekoälyjärjestelmille.	(14) Tekoälyjärjestelmiä koskevien oikeasuhteisten ja tehokkaiden sitovien sääntöjen käyttöön ottamiseksi olisi noudatettava selkeästi määriteltyä riskiperusteista lähestymistapaa. Tässä lähestymistavassa tällaisten sääntöjen tyyppi ja sisältö olisi sovitettava niiden riskien voimakkuuden ja laajuuden mukaan, joita tekoälyjärjestelmät voivat aiheuttaa. Sen vuoksi on tarpeen kieltää tietyt tekoälyyn liittyvät käytännöt, joita ei voida hyväksyä, vahvistaa suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset ja asianomaisten toimijoiden velvollisuudet sekä asettaa läpinäkyvyysvelvoitteita tietyille tekoälyjärjestelmille.

Tarkistus  37

 

Ehdotus asetukseksi

Johdanto-osan 15 kappale

Komission teksti	Tarkistus
(15) Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, tietosuoja ja yksityisyyden suoja sekä lapsen oikeudet.	(15) Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja loukkaavia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, tietosuoja ja yksityisyyden suoja sekä lapsen oikeudet.

Tarkistus  38

 

Ehdotus asetukseksi

Johdanto-osan 16 kappale

Komission teksti	Tarkistus
(16) Sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joiden tarkoituksena on vääristää ihmisten käyttäytymistä, mistä todennäköisesti aiheutuu fyysisiä tai psyykkisiä haittoja, olisi kiellettävä. Tällaisissa tekoälyjärjestelmissä käytetään subliminaalisia komponentteja, joita henkilöt eivät voi havaita, tai hyödynnetään lasten ja ihmisten haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa. Tällaisen vaikuttamisen tarkoituksena on vääristää henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa haittaa kyseiselle henkilölle tai toiselle henkilölle. Tällaista aikomusta ei voida olettaa, jos ihmisen käyttäytymisen vääristyminen johtuu tekoälyjärjestelmän ulkopuolisista tekijöistä, jotka eivät ole järjestelmän tarjoajan tai käyttäjän hallittavissa. Kielto ei saisi rajoittaa tällaisiin tekoälyjärjestelmiin liittyvää perustelluissa tarkoituksissa tehtävää tutkimusta, jos tällainen tutkimus ei merkitse sellaista tekoälyjärjestelmän käyttöä ihmisen ja koneen välisissä suhteissa, joka altistaa luonnolliset henkilöt haitoille, ja tutkimus suoritetaan tieteellistä tutkimusta koskevien tunnustettujen eettisten normien mukaisesti.	(16) Sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joiden tavoitteena on vääristää tai jotka olennaisesti vääristävät ihmisten käyttäytymistä, mistä todennäköisesti aiheutuu fyysisiä tai psyykkisiä haittoja, olisi kiellettävä. Tämän rajoituksen olisi katsottava käsittävän tekoälyjärjestelmillä tuetut neuroteknologiat, joita käytetään aivojen ja tietokoneen rajapintojen kautta kerättyjen neurotietojen seurantaan tai käyttöön tai niihin vaikuttamiseen, jos ne vääristävät luonnollisen henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa haittaa kyseiselle henkilölle tai toiselle henkilölle. Tällaisissa tekoälyjärjestelmissä käytetään subliminaalisia komponentteja, joita henkilöt eivät voi havaita, tai hyödynnetään henkilöiden ja tiettyjen henkilöryhmien haavoittuvuuksia, jotka liittyvät heidän tunnettuihin tai ennakoituihin luonteenpiirteisiinsä, ikäänsä, fyysiseen tai psyykkisen vammaansa tai sosiaaliseen tai taloudelliseen tilanteeseensa. Tällaisen vaikuttamisen tarkoituksena on vääristää tai se vääristää henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa merkittävää haittaa kyseiselle henkilölle, toiselle henkilölle tai henkilöryhmille, mukaan lukien haitat, joita voi kertyä ajan mittaan. Tällaista aikomusta vääristää käyttäytymistä ei voida olettaa, jos vääristyminen johtuu tekoälyjärjestelmän ulkopuolisista tekijöistä, jotka eivät ole järjestelmän tarjoajan hallittavissa, kuten tekijöistä, joita tekoälyjärjestelmän tarjoaja tai käyttöönottaja ei voi kohtuudella ennakoida ja vähentää. Järjestelmän tarjoajalla tai käyttöönottajalla ei kuitenkaan tarvitse olla aikomusta aiheuttaa merkittävää haittaa, jos tällaista haittaa aiheutuu tekoälyä hyödyntävistä manipuloivista tai hyväksikäyttävistä käytännöistä. Tällaisia tekoälykäytäntöjä koskevat kiellot täydentävät direktiivin 2005/29/EY säännöksiä, joiden mukaan sopimattomat kaupalliset menettelyt ovat kiellettyjä, riippumatta siitä, käytetäänkö niissä kenties tekoälyjärjestelmiä. Tällaisessa yhteydessä esimerkiksi mainonnan alalla toteutettavien unionin lainsäädännön mukaisten laillisten kaupallisten menettelyjen ei pitäisi sinällään katsoa rikkovan kieltoa. Kielto ei saisi rajoittaa tällaisiin tekoälyjärjestelmiin liittyvää perustelluissa tarkoituksissa tehtävää tutkimusta, jos tällainen tutkimus ei merkitse sellaista tekoälyjärjestelmän käyttöä ihmisen ja koneen välisissä suhteissa, joka altistaa luonnolliset henkilöt haitoille, ja tutkimus suoritetaan tieteellistä tutkimusta koskevien tunnustettujen eettisten normien mukaisesti ja sellaisen nimenomaisen tietoisen suostumuksen perusteella, jonka järjestelmille altistuvat henkilöt antavat tai tarpeen mukaan henkilön laillinen holhooja antaa.

Tarkistus  39

 

Ehdotus asetukseksi

Johdanto-osan 16 a kappale (uusi)

Komission teksti	Tarkistus
	(16 a) Sellaiset tekoälyjärjestelmät, joilla luonnolliset henkilöt luokitellaan tiettyihin ryhmiin tunnettujen tai pääteltyjen arkaluonteisten tai suojattujen ominaisuuksien perusteella, ovat erityisen tunkeilevia, ihmisarvoa loukkaavia ja niihin liittyy suuri syrjinnän riski. Tällaisia ominaisuuksia ovat muun muassa sukupuoli ja sukupuoli-identiteetti, rotu, etninen alkuperä, maahanmuuttaja- tai kansalaisuusasema, poliittinen suuntautuminen, seksuaalinen suuntautuminen, uskonto, vammaisuus tai muut seikat, joihin perustuva syrjintä kielletään perusoikeuskirjan 21 artiklassa sekä asetuksen (EU) 2016/769 9 artiklassa. Siksi tällaiset järjestelmät olisi kiellettävä.

Tarkistus  40

 

Ehdotus asetukseksi

Johdanto-osan 17 kappale

Komission teksti	Tarkistus
(17) Tekoälyjärjestelmät, joiden avulla viranomaiset toteuttavat tai heidän puolestaan toteutetaan luonnollisten henkilöiden sosiaalista pisteytystä yleistä tarkoitusta varten, voivat johtaa syrjiviin tuloksiin ja tiettyjen ryhmien syrjäytymiseen. Ne voivat loukata oikeutta ihmisarvoon ja syrjimättömyyteen sekä tasa-arvon ja oikeussuojan arvoja. Tällaiset tekoälyjärjestelmät arvioivat tai luokittelevat luonnollisten henkilöiden luotettavuutta heidän sosiaalisen käyttäytymisensä perusteella useissa yhteyksissä tai heidän tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella. Tällaisista tekoälyjärjestelmistä saadut sosiaaliset pisteet voivat johtaa luonnollisten henkilöiden tai kokonaisten henkilöryhmien haitalliseen tai epäedulliseen kohteluun sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin, tai haitalliseen kohteluun, joka on suhteetonta tai perusteetonta heidän sosiaalisen käyttäytymisensä vakavuuteen nähden. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä.	(17) Tekoälyjärjestelmät, joiden avulla toteutetaan luonnollisten henkilöiden sosiaalista pisteytystä yleistä tarkoitusta varten, voivat johtaa syrjiviin tuloksiin ja tiettyjen ryhmien syrjäytymiseen. Ne loukkaavat oikeutta ihmisarvoon ja syrjimättömyyteen sekä tasa-arvon ja oikeussuojan arvoja. Tällaiset tekoälyjärjestelmät arvioivat tai luokittelevat luonnollisia henkilöitä tai ryhmiä heidän sosiaaliseen käyttäytymiseensä useissa yhteyksissä liittyvien monien tietopisteiden ja ajallisen esiintymisen perusteella tai heidän tunnettujen, pääteltyjen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella. Tällaisista tekoälyjärjestelmistä saadut sosiaaliset pisteet voivat johtaa luonnollisten henkilöiden tai kokonaisten henkilöryhmien haitalliseen tai epäedulliseen kohteluun sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin, tai haitalliseen kohteluun, joka on suhteetonta tai perusteetonta heidän sosiaalisen käyttäytymisensä vakavuuteen nähden. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä.

Tarkistus  41

 

Ehdotus asetukseksi

Johdanto-osan 18 kappale

Komission teksti	Tarkistus
(18) Tekoälyjärjestelmien käyttöä luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksessa pidetään erityisen vakavana puuttumisena asianomaisten henkilöiden oikeuksiin ja vapauksiin, sillä se voi vaikuttaa suuren väestönosan yksityiselämään, synnyttää tunteen jatkuvasta valvonnasta ja estää välillisesti kokoontumisvapauden ja muiden perusoikeuksien käyttämisen. Lisäksi tällaisten reaaliaikaisten järjestelmien käyttöön liittyvien vaikutusten välittömyys ja rajalliset mahdollisuudet lisätarkastuksiin tai korjauksiin lisäävät lainvalvontatoimien kohteena olevien henkilöiden oikeuksiin ja vapauksiin kohdistuvia riskejä.	(18) Tekoälyjärjestelmien käyttöä luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa pidetään erityisen vakavana puuttumisena asianomaisten henkilöiden oikeuksiin ja vapauksiin, ja se voi viime kädessä vaikuttaa suuren väestönosan yksityiselämään, synnyttää tunteen jatkuvasta valvonnasta, antaa julkisissa tiloissa biometristä tunnistamista käyttäville osapuolille hallitsemattoman valta-aseman ja estää välillisesti oikeusvaltioon olennaisesti kuuluvien kokoontumisvapauden ja muiden perusoikeuksien käyttämisen. Luonnollisten henkilöiden biometriseen etätunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Lisäksi tällaisten reaaliaikaisten järjestelmien käyttöön liittyvien vaikutusten välittömyys ja rajalliset mahdollisuudet lisätarkastuksiin tai korjauksiin lisäävät lainvalvontatoimien kohteena olevien henkilöiden oikeuksiin ja vapauksiin kohdistuvia riskejä. Siksi kyseisten järjestelmien käyttö julkisilla paikoilla olisi kiellettävä. Vastaavasti olisi kiellettävä tekoälyjärjestelmät, joita käytetään julkisissa tiloissa tallennetun kuvamateriaalin analysointiin jälkikäteisissä biometrisissä etätunnistusjärjestelmissä, ellei tuomioistuin ole antanut ennakkoon lupaa niiden käyttöön lainvalvonnassa, kun se on ehdottoman välttämätöntä johonkin jo tehtyyn vakavaan rikokseen liittyvän kohdennetun etsinnän kannalta.

Tarkistus  42

 

Ehdotus asetukseksi

Johdanto-osan 19 kappale

Komission teksti	Tarkistus
(19) Näiden järjestelmien käyttö lainvalvontatarkoituksiin olisi sen vuoksi kiellettävä lukuun ottamatta kolmea tyhjentävästi lueteltua ja kapeasti määriteltyä tilannetta, joissa käyttö on ehdottoman välttämätöntä sellaisen tärkeän yleisen edun saavuttamiseksi, jonka merkitys on riskejä suurempi. Näihin tilanteisiin kuuluvat mahdollisten rikosten uhrien, myös kadonneiden lasten, etsintä; tietyt luonnollisten henkilöiden henkeen tai fyysiseen turvallisuuteen kohdistuvan uhat tai terrori-iskun uhat; sekä neuvoston puitepäätöksessä 2002/584/YOS38 tarkoitettujen rikosten tekijöiden tai tällaisista rikoksista epäiltyjen havaitseminen, paikantaminen, tunnistaminen tai syytteeseenpano, jos näistä rikoksista voi asianomaisessa jäsenvaltiossa seurata vapaudenmenetyksen käsittävä rangaistus tai turvaamistoimenpide, jonka enimmäisaika on vähintään kolme vuotta, siten kuin ne on määritelty kyseisen jäsenvaltion oikeudessa. Tällainen kansallisen lainsäädännön mukaisen vapaudenmenetyksen käsittävän rangaistuksen tai turvaamistoimenpiteen vähimmäisaika auttaa osaltaan varmistamaan, että rikoksen olisi oltava riittävän vakava, jotta sillä voidaan tarvittaessa perustella reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö. Lisäksi neuvoston puitepäätöksessä 2002/584/YOS luetelluista 32 rikoksesta jotkin ovat käytännössä todennäköisesti merkityksellisempiä kuin toiset, koska reaaliaikaiseen biometriseen etätunnistukseen turvautuminen on oletettavasti hyvin vaihtelevassa määrin välttämätöntä ja oikeasuhteista, kun eri lueteltujen rikosten tekijöitä tai niistä epäiltyjä pyritään käytännössä havaitsemaan, paikantamaan, tunnistamaan tai panemaan syytteeseen ja kun otetaan huomioon todennäköiset erot vahingon tai mahdollisten kielteisten seurausten vakavuudessa, todennäköisyydessä ja laajuudessa.	Poistetaan.
__________________
38 Neuvoston puitepäätös 2002/584/YOS, tehty 13 päivänä kesäkuuta 2002, eurooppalaisesta pidätysmääräyksestä ja jäsenvaltioiden välisistä luovuttamismenettelyistä (EYVL L 190, 18.7.2002, s. 1).

Tarkistus  43

 

Ehdotus asetukseksi

Johdanto-osan 20 kappale

Komission teksti	Tarkistus
(20) Sen varmistamiseksi, että näitä järjestelmiä käytetään vastuullisella ja oikeasuhteisella tavalla, on myös tärkeää vahvistaa, että kussakin näistä kolmesta tyhjentävästi luetellusta ja suppeasti määritellystä tilanteesta olisi otettava huomioon tietyt tekijät, erityisesti pyynnön perusteena olevan tilanteen luonne ja käytön seuraukset kaikkien asianomaisten henkilöiden oikeuksille ja vapauksille sekä käyttöä koskevat suojatoimet ja ehdot. Lisäksi reaaliaikaisten biometristen etätunnistusjärjestelmien käytölle julkisissa tiloissa lainvalvontatarkoituksessa olisi asetettava asianmukaiset aika- ja tilarajat ottaen erityisesti huomioon uhkia, uhreja tai rikoksentekijää koskevat todisteet tai tiedossa olevat seikat. Henkilöitä koskevan viitetietokannan olisi oltava kuhunkin käyttötapaukseen sopiva kussakin edellä mainitussa kolmessa tapauksessa.	Poistetaan.

Tarkistus  44

 

Ehdotus asetukseksi

Johdanto-osan 21 kappale

Komission teksti	Tarkistus
(21) Jokaisen reaaliaikaisen biometrisen etätunnistusjärjestelmän käytön julkisissa tiloissa lainvalvontatarkoituksessa olisi edellytettävä jäsenvaltion oikeusviranomaisen tai riippumattoman hallintoviranomaisen nimenomaista ja erityistä lupaa. Tällainen lupa olisi periaatteessa saatava ennen käyttöä, lukuun ottamatta asianmukaisesti perusteltuja kiireellisiä tapauksia eli tilanteita, joissa kyseisten järjestelmien käyttötarve on sellainen, että luvan saamisen ennen käytön aloittamista on tosiasiallisesti ja objektiivisesti mahdotonta. Tällaisissa kiireellisissä tilanteissa käyttö olisi rajoitettava siihen, mikä on ehdottoman välttämätöntä, ja siihen olisi sovellettava asianmukaisia suojatoimia ja ehtoja, jotka määritellään kansallisessa lainsäädännössä ja jotka lainvalvontaviranomainen itse määrittää kunkin yksittäisen kiireellisen käyttötapauksen yhteydessä. Lisäksi lainvalvontaviranomaisen olisi tällaisissa tilanteissa pyrittävä saamaan lupa mahdollisimman pian ja esitettävä samalla syyt siihen, miksi lupaa ei ole voitu pyytää aikaisemmin.	Poistetaan.

Tarkistus  45

 

Ehdotus asetukseksi

Johdanto-osan 22 kappale

Komission teksti	Tarkistus
(22) Osana tässä asetuksessa vahvistettuja kattavia puitteita on myös aiheellista säätää, että tällaisen tämän asetuksen mukaisen käytön olisi oltava mahdollista jäsenvaltion alueella vain jos ja siltä osin kuin kyseinen jäsenvaltio on kansallisen lainsäädäntönsä yksityiskohtaisissa säännöissä nimenomaisesti päättänyt säätää mahdollisuudesta sallia tällainen käyttö. Näin ollen jäsenvaltiot voivat tämän asetuksen nojalla olla säätämättä tällaisesta mahdollisuudesta lainkaan tai säätää tällaisesta mahdollisuudesta vain joidenkin tässä asetuksessa yksilöityjen tavoitteiden osalta, joilla sallittu käyttö voidaan perustella.	Poistetaan.

Tarkistus  46

 

Ehdotus asetukseksi

Johdanto-osan 23 kappale

Komission teksti	Tarkistus
(23) Tekoälyjärjestelmien käyttö luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksessa edellyttää välttämättä biometristen tietojen käsittelyä. Tämän asetuksen sääntöjä, joissa kielletään tietyin poikkeuksin tällainen käyttö ja jotka perustuvat SEUT-sopimuksen 16 artiklaan, olisi sovellettava erityissäännöksinä (lex specialis) suhteessa direktiivin (EU) 2016/680 10 artiklaan sisältyviin biometristen tietojen käsittelyä koskeviin sääntöihin, eli niillä säännellään kattavasti tällaista käyttöä ja siihen liittyvien biometristen tietojen käsittelyä. Sen vuoksi tällaisen käytön ja käsittelyn olisi oltava mahdollista ainoastaan siinä määrin kuin se on yhteensopivaa tässä asetuksessa vahvistetun kehyksen kanssa, eikä toimivaltaisten viranomaisten pitäisi kyseisen kehyksen ulkopuolella lainvalvontatarkoituksessa toimiessaan voida käyttää tällaisia järjestelmiä ja käsitellä niiden yhteydessä tällaisia tietoja direktiivin (EU) 2016/680 10 artiklassa luetelluin perustein. Tässä yhteydessä tämän asetuksen tarkoituksena ei ole muodostaa oikeusperustaa direktiivin (EU) 2016/680 8 artiklan mukaiselle henkilötietojen käsittelylle. Reaaliaikaisten biometristen etätunnistusjärjestelmien käyttöä julkisissa tiloissa muihin tarkoituksiin kuin lainvalvontaan, myös toimivaltaisten viranomaisten toimesta, ei kuitenkaan pitäisi sisällyttää tässä asetuksessa vahvistettuun erityiskehykseen, joka koskee tällaista käyttöä lainvalvontatarkoituksessa. Tällaisen muussa kuin lainvalvontatarkoituksessa tapahtuvan käytön ei sen vuoksi pitäisi edellyttää tämän asetuksen mukaista lupaa eikä sen täytäntöönpanemiseksi annettujen kansallisen lainsäädännön yksityiskohtaisten sääntöjen soveltamista.	Poistetaan.

Tarkistus  47

 

Ehdotus asetukseksi

Johdanto-osan 24 kappale

Komission teksti	Tarkistus
(24) Kaikessa biometristen tietojen ja muiden henkilötietojen käsittelyssä, joka liittyy tekoälyjärjestelmien käyttöön biometriseen tunnistamiseen muussa yhteydessä kuin tässä asetuksessa säännellyssä reaaliaikaisten biometristen etätunnistusjärjestelmien käytössä julkisissa tiloissa lainvalvontatarkoituksessa, myös silloin, kun toimivaltaiset viranomaiset käyttävät kyseisiä järjestelmiä julkisissa tiloissa muihin tarkoituksiin kuin lainvalvontaan, olisi edelleen noudatettava kaikkia asetuksen (EU) 2016/679 9 artiklan 1 kohdasta, asetuksen (EU) 2018/1725 10 artiklan 1 kohdasta ja direktiivin (EU) 2016/680 10 artiklasta johtuvia vaatimuksia.	(24) Kaikessa biometristen tietojen ja muiden henkilötietojen käsittelyssä, joka liittyy tekoälyjärjestelmien käyttöön biometriseen tunnistamiseen muussa yhteydessä kuin tässä asetuksessa säännellyssä reaaliaikaisten biometristen etätunnistusjärjestelmien käytössä julkisissa tiloissa, olisi edelleen noudatettava kaikkia asetuksen (EU) 2016/679 9 artiklan 1 kohdasta, asetuksen (EU) 2018/1725 10 artiklan 1 kohdasta ja direktiivin (EU) 2016/680 10 artiklasta johtuvia vaatimuksia.

Tarkistus  48

 

Ehdotus asetukseksi

Johdanto-osan 25 kappale

Komission teksti	Tarkistus
(25) Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Yhdistyneen kuningaskunnan ja Irlannin asemasta vapauden, turvallisuuden ja oikeuden alueen osalta tehdyn pöytäkirjan N:o 21 6 a artiklan mukaisesti Irlantia eivät sido tämän asetuksen 5 artiklan 1 kohdan d alakohdassa ja 2 ja 3 kohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, siinä tapauksessa, että Irlantia eivät sido rikosasioissa tehtävän oikeudellisen yhteistyön tai poliisiyhteistyön muotoa koskevat säännöt, jotka edellyttävät SEUT-sopimuksen 16 artiklan perusteella vahvistettujen säännösten noudattamista.	(25) Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Yhdistyneen kuningaskunnan ja Irlannin asemasta vapauden, turvallisuuden ja oikeuden alueen osalta tehdyn pöytäkirjan N:o 21 6 a artiklan mukaisesti Irlantia eivät sido tämän asetuksen 5 artiklan 1 kohdan d alakohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, siinä tapauksessa, että Irlantia eivät sido rikosasioissa tehtävän oikeudellisen yhteistyön tai poliisiyhteistyön muotoa koskevat säännöt, jotka edellyttävät SEUT-sopimuksen 16 artiklan perusteella vahvistettujen säännösten noudattamista.

Tarkistus  49

 

Ehdotus asetukseksi

Johdanto-osan 26 kappale

Komission teksti	Tarkistus
(26) Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Tanskan asemasta tehdyn pöytäkirjan N:o 22 2 ja 2 a artiklan mukaisesti tämän asetuksen 5 artiklan 1 kohdan d alakohdassa ja 2 ja 3 kohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, eivät sido Tanskaa eikä niitä sovelleta Tanskaan.	(26) Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Tanskan asemasta tehdyn pöytäkirjan N:o 22 2 ja 2 a artiklan mukaisesti tämän asetuksen 5 artiklan 1 kohdan d alakohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, eivät sido Tanskaa eikä niitä sovelleta Tanskaan.

Tarkistus  50

 

Ehdotus asetukseksi

Johdanto-osan 26 a kappale (uusi)

Komission teksti	Tarkistus
	(26 a) Lainvalvontaviranomaisten käyttämiin tai heidän puolestaan käytettyihin tekoälyjärjestelmiin, joiden avulla laaditaan luonnollisten henkilöiden profilointiin perustuvia ennusteita, profiileja tai riskinarviointeja, tai tietoanalyysejä, jotka perustuvat luonteenpiirteisiin ja ominaispiirteisiin, mukaan lukien henkilön sijainti, tai luonnollisten henkilöiden tai henkilöryhmien aiempaan rikolliseen käyttäytymiseen, todellisen tai mahdollisen rikoksen tai rikosten esiintymisen tai toistumisen tai muun kriminalisoidun sosiaalisen käyttäytymisen tai hallinnollisten rikkomusten ennustamiseksi, petoksia ennustavat järjestelmät mukaan lukien, liittyy erityinen riski tiettyihin henkilöihin tai henkilöryhmiin kohdistuvasta syrjinnästä, koska ne loukkaavat ihmisarvoa ja syyttömyysolettamaa koskevaa keskeistä oikeudellista periaatetta. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä.

Tarkistus  51

 

Ehdotus asetukseksi

Johdanto-osan 26 b kappale (uusi)

Komission teksti	Tarkistus
	(26 b) Summittainen ja kohdentamaton biometristen tietojen haravointi sosiaalisesta mediasta tai valvontakamerakuvista kasvojentunnistustietokantojen luomiseksi tai laajentamiseksi lisäävät tunnetta joukkovalvonnasta ja voivat johtaa perusoikeuksien, myös yksityisyyden suojaa koskevan oikeuden, vakaviin loukkauksiin. Tämän vuoksi tekoälyjärjestelmien käyttö tähän tarkoitukseen olisi kiellettävä.

Tarkistus  52

 

Ehdotus asetukseksi

Johdanto-osan 26 c kappale (uusi)

Komission teksti	Tarkistus
	(26 c) Vakavaa huolta on herättänyt sellaisten tekoälyjärjestelmien tieteellinen perusta, joilla pyritään havaitsemaan tunteita, fyysisiä tai fysiologisia piirteitä, kuten kasvonilmeitä, liikkeitä, pulssi tai ääntä. Tunteet tai tunteenilmaisut ja niiden tulkitseminen vaihtelevat huomattavasti eri kulttuureissa ja tilanteissa ja jopa yksilön tasolla. Tällaisten teknologioiden olennaisia puutteita ovat muun muassa vähäinen luotettavuus (tunneluokkia ei ole määritelty luotettavasti tiettyjen yhteisten fyysisten tai fysiologisten liikkeiden perusteella eikä niitä liitetä niihin yksiselitteisesti), tarkkuuden puute (fyysiset tai fysiologiset ilmaisut eivät vastaa täsmälleen tunneluokkia) ja heikko yleistettävyys (kontekstin ja kulttuurin vaikutuksia ei ole otettu riittävästi huomioon). Luotettavuuteen liittyviä ongelmia ja näin ollen merkittäviä väärinkäytön riskejä voi erityisesti syntyä, kun järjestelmä otetaan käyttöön todellisissa tilanteissa lainvalvonnassa, rajavalvonnassa, työpaikoilla ja oppilaitoksissa. Siksi sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joita on tarkoitus käyttää näissä yhteyksissä henkilöiden tunnetilan havaitsemiseen, olisi kiellettävä.

Tarkistus  53

 

Ehdotus asetukseksi

Johdanto-osan 26 d kappale (uusi)

Komission teksti	Tarkistus
	(26 d) Tämän asetuksen ei pitäisi vaikuttaa käytäntöihin, jotka on kielletty unionin lainsäädännössä, kuten tietosuojaa, syrjimättömyyttä, kuluttajansuojaa ja kilpailua koskevassa lainsäädännössä.

Tarkistus  54

 

Ehdotus asetukseksi

Johdanto-osan 27 kappale

Komission teksti	Tarkistus
(27) Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille tai otettava käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä. Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on merkittävä haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on.	(27) Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille, otettava käyttöön tai käytettävä vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä, perusoikeudet, demokratia, oikeusvaltio ja ympäristö mukaan lukien. Jotta varmistetaan yhdenmukaisuus alakohtaisen lainsäädännön kanssa ja vältetään päällekkäisyyksiä, suuririskisiä tekoälyjärjestelmiä koskevissa vaatimuksissa olisi otettava huomioon alakohtainen lainsäädäntö, jossa asetetaan vaatimukset tämän asetuksen soveltamisalaan kuuluville suuririskisille tekoälyjärjestelmille, kuten lääkinnällisistä laitteista annettu asetus (EU) 2017/745, in vitro -diagnostiikkaan tarkoitetuista lääkinnällisistä laitteista annettu asetus (EU) 2017/746 ja konedirektiivi 2006/42/EY. Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on merkittävä haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on. Kun otetaan huomioon teknologian nopea kehitys ja mahdolliset tekoälyjärjestelmien käyttöön tehtävät muutokset, liitteessä III olevaa suuririskisten alojen ja käyttötapausten luetteloa olisi joka tapauksessa tarkasteltava säännöllisesti uudelleen säännöllisissä arvioinneissa.

Tarkistus  55

 

Ehdotus asetukseksi

Johdanto-osan 28 kappale

Komission teksti	Tarkistus
(28) Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden komponentteina. Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja. Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, kuluttajansuoja, työntekijöiden oikeudet, vammaisten oikeudet, oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, oikeus puolustukseen ja syyttömyysolettama sekä oikeus hyvään hallintoon. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu EU:n perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvan haitan vakavuutta, myös suhteessa ihmisten terveyteen ja turvallisuuteen.	(28) Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden turvakomponentteina. Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja.

Tarkistus  56

 

Ehdotus asetukseksi

Johdanto-osan 28 a kappale (uusi)

Komission teksti	Tarkistus
	(28 a) Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, oikeus koulutukseen, kuluttajansuoja, työntekijöiden oikeudet, vammaisten oikeudet, sukupuolten tasa-arvo, teollis- ja tekijänoikeudet, oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, oikeus puolustukseen ja syyttömyysolettama sekä oikeus hyvään hallintoon. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvan haitan vakavuutta, myös suhteessa ihmisten terveyteen ja turvallisuuteen tai ympäristöön.

Tarkistus  57

 

Ehdotus asetukseksi

Johdanto-osan 29 kappale

Komission teksti	Tarkistus
(29) Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/200839, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/201340, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/201341, Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU42, Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/79743, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/85844, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/113945 ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/214446 soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi- ja valvontamekanismeihin ja -viranomaisiin.	(29) Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/200839, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/201340, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/201341, Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU42, Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/79743, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/85844, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/113945 ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/214446 soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi-, markkinavalvonta- ja valvontamekanismeihin ja -viranomaisiin.
__________________	__________________
39 Euroopan parlamentin ja neuvoston asetus (EY) N:o 300/2008, annettu 11 päivänä maaliskuuta 2008, yhteisistä siviili-ilmailun turvaamista koskevista säännöistä ja asetuksen (EY) N:o 2320/2002 kumoamisesta (EUVL L 97, 9.4.2008, s. 72).	39 Euroopan parlamentin ja neuvoston asetus (EY) N:o 300/2008, annettu 11 päivänä maaliskuuta 2008, yhteisistä siviili-ilmailun turvaamista koskevista säännöistä ja asetuksen (EY) N:o 2320/2002 kumoamisesta (EUVL L 97, 9.4.2008, s. 72).
40 Euroopan parlamentin ja neuvoston asetus (EU) N:o 167/2013, annettu 5 päivänä helmikuuta 2013, maa- ja metsätaloudessa käytettävien ajoneuvojen hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 1).	40 Euroopan parlamentin ja neuvoston asetus (EU) N:o 167/2013, annettu 5 päivänä helmikuuta 2013, maa- ja metsätaloudessa käytettävien ajoneuvojen hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 1).
41 Euroopan parlamentin ja neuvoston asetus (EU) N:o 168/2013, annettu 15 päivänä tammikuuta 2013, kaksi- ja kolmipyöräisten ajoneuvojen ja nelipyörien hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 52).	41 Euroopan parlamentin ja neuvoston asetus (EU) N:o 168/2013, annettu 15 päivänä tammikuuta 2013, kaksi- ja kolmipyöräisten ajoneuvojen ja nelipyörien hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 52).
42 Euroopan parlamentin ja neuvoston direktiivi 2014/90/EU, annettu 23 päivänä heinäkuuta 2014, laivavarusteista ja neuvoston direktiivin 96/98/EY kumoamisesta (EUVL L 257, 28.8.2014, s. 146).	42 Euroopan parlamentin ja neuvoston direktiivi 2014/90/EU, annettu 23 päivänä heinäkuuta 2014, laivavarusteista ja neuvoston direktiivin 96/98/EY kumoamisesta (EUVL L 257, 28.8.2014, s. 146).
43 Euroopan parlamentin ja neuvoston direktiivi (EU) 2016/797, annettu 11 päivänä toukokuuta 2016, rautatiejärjestelmän yhteentoimivuudesta Euroopan unionissa (EUVL L 138, 26.5.2016, s. 44).	43 Euroopan parlamentin ja neuvoston direktiivi (EU) 2016/797, annettu 11 päivänä toukokuuta 2016, rautatiejärjestelmän yhteentoimivuudesta Euroopan unionissa (EUVL L 138, 26.5.2016, s. 44).
44 Euroopan parlamentin ja neuvoston asetus (EU) 2018/858, annettu 30 päivänä toukokuuta 2018, moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden hyväksynnästä ja markkinavalvonnasta, asetusten (EY) N:o 715/2007 ja (EY) N:o 595/2009 muuttamisesta sekä direktiivin 2007/46/EY kumoamisesta (EUVL L 151, 14.6.2018, s. 1).	44 Euroopan parlamentin ja neuvoston asetus (EU) 2018/858, annettu 30 päivänä toukokuuta 2018, moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden hyväksynnästä ja markkinavalvonnasta, asetusten (EY) N:o 715/2007 ja (EY) N:o 595/2009 muuttamisesta sekä direktiivin 2007/46/EY kumoamisesta (EUVL L 151, 14.6.2018, s. 1).
45 Euroopan parlamentin ja neuvoston asetus (EU) 2018/1139, annettu 4 päivänä heinäkuuta 2018, yhteisistä siviili-ilmailua koskevista säännöistä ja Euroopan unionin lentoturvallisuusviraston perustamisesta, Euroopan parlamentin ja neuvoston asetusten (EY) N:o 2111/2005, (EY) N:o 1008/2008, (EU) N:o 996/2010, (EU) N:o 376/2014 ja direktiivien 2014/30/EU ja 2014/53/EU muuttamisesta sekä Euroopan parlamentin ja neuvoston asetusten (EY) N:o 552/2004, (EY) N:o 216/2008 ja neuvoston asetuksen (ETY) N:o 3922/91 kumoamisesta (EUVL L 212, 22.8.2018, s. 1).	45 Euroopan parlamentin ja neuvoston asetus (EU) 2018/1139, annettu 4 päivänä heinäkuuta 2018, yhteisistä siviili-ilmailua koskevista säännöistä ja Euroopan unionin lentoturvallisuusviraston perustamisesta, Euroopan parlamentin ja neuvoston asetusten (EY) N:o 2111/2005, (EY) N:o 1008/2008, (EU) N:o 996/2010, (EU) N:o 376/2014 ja direktiivien 2014/30/EU ja 2014/53/EU muuttamisesta sekä Euroopan parlamentin ja neuvoston asetusten (EY) N:o 552/2004, (EY) N:o 216/2008 ja neuvoston asetuksen (ETY) N:o 3922/91 kumoamisesta (EUVL L 212, 22.8.2018, s. 1).
46 Euroopan parlamentin ja neuvoston asetus (EU) 2019/2144, annettu 27 päivänä marraskuuta 2019, moottoriajoneuvojen ja niiden perävaunujen sekä näihin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden tyyppihyväksyntävaatimuksista niiden yleisen turvallisuuden ja ajoneuvon matkustajien ja loukkaantumiselle alttiiden tienkäyttäjien suojelun osalta, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858 muuttamisesta ja Euroopan parlamentin ja neuvoston asetusten (EY) N:o 78/2009, (EY) N:o 79/2009 ja (EY) N:o 661/2009 sekä komission asetusten (EY) N:o 631/2009, (EU) N:o 406/2010, (EU) N:o 672/2010, (EU) N:o 1003/2010, (EU) N:o 1005/2010, (EU) N:o 1008/2010, (EU) N:o 1009/2010, (EU) N:o 19/2011, (EU) N:o 109/2011, (EU) N:o 458/2011, (EU) N:o 65/2012, (EU) N:o 130/2012, (EU) N:o 347/2012, (EU) N:o 351/2012, (EU) N:o 1230/2012 ja (EU) 2015/166 kumoamisesta (EUVL L 325, 16.12.2019, s. 1).	46 Euroopan parlamentin ja neuvoston asetus (EU) 2019/2144, annettu 27 päivänä marraskuuta 2019, moottoriajoneuvojen ja niiden perävaunujen sekä näihin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden tyyppihyväksyntävaatimuksista niiden yleisen turvallisuuden ja ajoneuvon matkustajien ja loukkaantumiselle alttiiden tienkäyttäjien suojelun osalta, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858 muuttamisesta ja Euroopan parlamentin ja neuvoston asetusten (EY) N:o 78/2009, (EY) N:o 79/2009 ja (EY) N:o 661/2009 sekä komission asetusten (EY) N:o 631/2009, (EU) N:o 406/2010, (EU) N:o 672/2010, (EU) N:o 1003/2010, (EU) N:o 1005/2010, (EU) N:o 1008/2010, (EU) N:o 1009/2010, (EU) N:o 19/2011, (EU) N:o 109/2011, (EU) N:o 458/2011, (EU) N:o 65/2012, (EU) N:o 130/2012, (EU) N:o 347/2012, (EU) N:o 351/2012, (EU) N:o 1230/2012 ja (EU) 2015/166 kumoamisesta (EUVL L 325, 16.12.2019, s. 1).

Tarkistus  58

 

Ehdotus asetukseksi

Johdanto-osan 30 kappale

Komission teksti	Tarkistus
(30) Tekoälyjärjestelmät, jotka ovat tietyn unionin yhdenmukaistamislainsäädännön soveltamisalaan kuuluvien tuotteiden turvakomponentteja tai ovat itse tuotteita, on aiheellista luokitella suuririskisiksi tämän asetuksen mukaisesti, jos kyseiselle tuotteelle tehdään vaatimustenmukaisuuden arviointimenettely kolmatta osapuolta edustavassa vaatimustenmukaisuuden arviointilaitoksessa mainitun asiaa koskevan unionin yhdenmukaistamislainsäädännön mukaisesti. Tällaisia tuotteita ovat erityisesti koneet, lelut, hissit, räjähdysvaarallisissa tiloissa käytettäviksi tarkoitetut laitteet ja suojajärjestelmät, radiolaitteet, painelaitteet, huviveneet, köysiratalaitteistot, kaasumaisia polttoaineita polttavat laitteet sekä lääkinnälliset laitteet ja in vitro -diagnostiikkaan tarkoitetut lääkinnälliset laitteet.	(30) Tekoälyjärjestelmät, jotka ovat tietyn liitteessä II luetellun unionin yhdenmukaistamislainsäädännön soveltamisalaan kuuluvien tuotteiden turvakomponentteja tai ovat itse tuotteita, on aiheellista luokitella suuririskisiksi tämän asetuksen mukaisesti, jos kyseiselle tuotteelle tehdään vaatimustenmukaisuuden arviointimenettely olennaisten turvallisuusvaatimusten täyttämisen varmistamiseksi kolmatta osapuolta edustavassa vaatimustenmukaisuuden arviointilaitoksessa mainitun asiaa koskevan unionin yhdenmukaistamislainsäädännön mukaisesti. Tällaisia tuotteita ovat erityisesti koneet, lelut, hissit, räjähdysvaarallisissa tiloissa käytettäviksi tarkoitetut laitteet ja suojajärjestelmät, radiolaitteet, painelaitteet, huviveneet, köysiratalaitteistot, kaasumaisia polttoaineita polttavat laitteet sekä lääkinnälliset laitteet ja in vitro -diagnostiikkaan tarkoitetut lääkinnälliset laitteet.

Tarkistus  59

 

Ehdotus asetukseksi

Johdanto-osan 31 kappale

Komission teksti	Tarkistus
(31) Tekoälyjärjestelmän luokittelun suuririskiseksi tämän asetuksen mukaisesti ei välttämättä pitäisi tarkoittaa sitä, että tuotetta, jonka turvakomponentti on tekoälyjärjestelmä, tai itse tekoälyjärjestelmää tuotteena pidetään suuririskisenä tuotteeseen sovellettavassa asiaa koskevassa unionin yhdenmukaistamislainsäädännössä vahvistettujen perusteiden mukaisesti. Tämä koskee erityisesti Euroopan parlamentin ja neuvoston asetusta (EU) 2017/74547 ja Euroopan parlamentin ja neuvoston asetusta (EU) 2017/74648, joissa säädetään keskisuuren ja suuren riskin tuotteita koskevasta kolmannen osapuolen suorittamasta vaatimustenmukaisuuden arvioinnista.	(31) Tekoälyjärjestelmän luokittelun suuririskiseksi tämän asetuksen mukaisesti ei pitäisi tarkoittaa sitä, että tuotetta, jonka turvakomponentti on tekoälyjärjestelmä, tai itse tekoälyjärjestelmää tuotteena pidetään suuririskisenä tuotteeseen sovellettavassa asiaa koskevassa unionin yhdenmukaistamislainsäädännössä vahvistettujen perusteiden mukaisesti. Tämä koskee erityisesti Euroopan parlamentin ja neuvoston asetusta (EU) 2017/74547 ja Euroopan parlamentin ja neuvoston asetusta (EU) 2017/74648, joissa säädetään keskisuuren ja suuren riskin tuotteita koskevasta kolmannen osapuolen suorittamasta vaatimustenmukaisuuden arvioinnista.
__________________	__________________
47 Euroopan parlamentin ja neuvoston asetus (EU) 2017/745, annettu 5 päivänä huhtikuuta 2017, lääkinnällisistä laitteista, direktiivin 2001/83/EY, asetuksen (EY) N:o 178/2002 ja asetuksen (EY) N:o 1223/2009 muuttamisesta sekä neuvoston direktiivien 90/385/ETY ja 93/42/ETY kumoamisesta (EUVL L 117, 5.5.2017, s. 1).	47 Euroopan parlamentin ja neuvoston asetus (EU) 2017/745, annettu 5 päivänä huhtikuuta 2017, lääkinnällisistä laitteista, direktiivin 2001/83/EY, asetuksen (EY) N:o 178/2002 ja asetuksen (EY) N:o 1223/2009 muuttamisesta sekä neuvoston direktiivien 90/385/ETY ja 93/42/ETY kumoamisesta (EUVL L 117, 5.5.2017, s. 1).
48 Euroopan parlamentin ja neuvoston asetus (EU) 2017/746, annettu 5 päivänä huhtikuuta 2017, in vitro -diagnostiikkaan tarkoitetuista lääkinnällisistä laitteista sekä direktiivin 98/79/EY ja komission päätöksen 2010/227/EU kumoamisesta (EUVL L 117, 5.5.2017, s. 176).	48 Euroopan parlamentin ja neuvoston asetus (EU) 2017/746, annettu 5 päivänä huhtikuuta 2017, in vitro -diagnostiikkaan tarkoitetuista lääkinnällisistä laitteista sekä direktiivin 98/79/EY ja komission päätöksen 2010/227/EU kumoamisesta (EUVL L 117, 5.5.2017, s. 176).

Tarkistus  60

 

Ehdotus asetukseksi

Johdanto-osan 32 kappale

Komission teksti	Tarkistus
(32) Erilliset tekoälyjärjestelmät eli muut suuririskiset tekoälyjärjestelmät kuin ne, jotka ovat tuotteiden turvakomponentteja tai jotka ovat itse tuotteita, olisi luokiteltava suuririskisiksi, jos ne suunnitellun käyttötarkoituksensa perusteella aiheuttavat suuren riskin ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille, kun otetaan huomioon sekä mahdollisen haitan vakavuus että sen esiintymistodennäköisyys, ja niitä käytetään asetuksessa erikseen määritellyillä aloilla. Näiden järjestelmien yksilöinti perustuu samoihin menetelmiin ja kriteereihin, joita sovelletaan myös suuririskisten tekoälyjärjestelmien luetteloon tulevaisuudessa tehtäviin muutoksiin.	(32) Erilliset tekoälyjärjestelmät eli muut suuririskiset tekoälyjärjestelmät kuin ne, jotka ovat tuotteiden turvakomponentteja tai jotka ovat itse tuotteita ja jotka kuuluvat jonkin liitteessä III luetellun alan ja käyttötapauksen piiriin, olisi luokiteltava suuririskisiksi, jos ne käyttötarkoituksensa perusteella aiheuttavat merkittävän riskin ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille sekä ympäristölle, jos tekoälyjärjestelmää käytetään kriittisen infrastruktuurin turvakomponenttina. Tällainen merkittävä riski olisi määritettävä arvioimalla yhtäältä riskin vaikutusta sen vakavuuden tasoon, voimakkuuteen, esiintymisen todennäköisyyteen ja kestoon nähden ja toisaalta sitä, voiko riski vaikuttaa johonkin yksittäiseen henkilöön, useisiin henkilöihin tai johonkin tiettyyn henkilöryhmään. Tällaisen yhdistelmän perusteella riski voisi asiayhteydestä riippuen olla esimerkiksi luonnolliselle henkilölle erittäin vakava mutta sen todennäköisyys olisi pieni tai sen todennäköisyys olisi ihmisryhmälle suuri mutta voimakkuus olisi pieni pitkällä aikavälillä. Näiden järjestelmien yksilöinti perustuu samoihin menetelmiin ja kriteereihin, joita sovelletaan myös suuririskisten tekoälyjärjestelmien luetteloon tulevaisuudessa tehtäviin muutoksiin.

Tarkistus  61

 

Ehdotus asetukseksi

Johdanto-osan 32 a kappale (uusi)

Komission teksti	Tarkistus
	(32 a) Tarjoajien, joiden tekoälyjärjestelmät kuuluvat jonkin luettelossa III luetellun alan ja käyttötapauksen piiriin ja jotka katsovat, että heidän järjestelmänsä ei aiheuta terveyteen, turvallisuuteen, perusoikeuksiin tai ympäristöön kohdistuvan haitan merkittävää riskiä, olisi ilmoitettava asiasta kansallisille valvontaviranomaisille perustellulla ilmoituksella. Ilmoitus voisi olla yhden sivun mittainen yhteenveto, joka sisältäisi asiaankuuluvat tiedot asianomaisesta tekoälyjärjestelmästä sekä sen tarkoituksesta ja siitä, miksi siitä ei aiheutuisi merkittävää riskiä terveydelle, turvallisuudelle, perusoikeuksille tai ympäristölle. Komission olisi määritettävä kriteerit, joiden avulla yritykset voivat arvioida, koituisiko niiden järjestelmästä tällaisia riskejä, sekä laadittava helppokäyttöinen standardoitu ilmoitusmalli. Tarjoajien olisi toimitettava ilmoitus mahdollisimman varhain ja joka tapauksessa ennen tekoälyjärjestelmän markkinoille saattamista tai sen käyttöönottoa, mieluiten sen kehittämisvaiheessa, ja heidän olisi voitava vapaasti saattaa se markkinoille milloin tahansa ilmoittamisen jälkeen. Jos viranomainen katsoo, että kyseinen tekoälyjärjestelmä on luokiteltu väärin, sen olisi vastustettava ilmoitusta kolmen kuukauden kuluessa. Vastustus olisi perusteltava ja siinä olisi asianmukaisesti täsmennettävä, miksi tekoälyjärjestelmä on luokiteltu väärin. Tarjoajan olisi voitava valittaa ja antaa lisäperusteluja. Jos ilmoitusta ei ole kolmen kuukauden kuluessa vastustettu, kansalliset valvontaviranomaiset voisivat siitä huolimatta vielä suorittaa toimenpiteitä, jos tekoälyjärjestelmästä aiheutuu kansallisella tasolla riski, kuten minkä tahansa markkinoille saatetun tekoälyjärjestelmän tapauksessa. Kansallisten valvontaviranomaisten olisi toimitettava vuosittain tekoälytoimistolle kertomukset, joissa esitetään yksityiskohtaisesti vastaanotetut ilmoitukset ja tehdyt päätökset.

Tarkistus  62

 

Ehdotus asetukseksi

Johdanto-osan 33 kappale

Komission teksti	Tarkistus
(33) Luonnollisten henkilöiden biometriseen etätunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Sen vuoksi reaaliaikaiset ja jälkikäteiset biometriset etätunnistusjärjestelmät olisi luokiteltava suuririskisiksi. Kun otetaan huomioon niiden aiheuttamat riskit, molempiin biometrisiin etätunnistusjärjestelmiin olisi sovellettava lokitusvalmiuksia ja ihmisen suorittamaa valvontaa koskevia erityisvaatimuksia.	Poistetaan.

 

Tarkistus  63

 

Ehdotus asetukseksi

Johdanto-osan 33 a kappale (uusi)

Komission teksti	Tarkistus
	(33 a) Koska biometriset tiedot muodostavat asetuksen (EU) 2016/679 mukaisesti erityisen arkaluonteisten henkilötietojen luokan, on asianmukaista, että biometristen ja biometriikkaan perustuvien järjestelmien useat kriittiset käyttötapaukset luokitellaan suuririskisiksi. Näin ollen olisi luokiteltava suuririskisiksi sellaiset tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden biometriseen tunnistukseen, sekä tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi päättelyjen tekemiseen luonnollisten henkilöiden henkilökohtaisista ominaisuuksista biometristen tai biometriikkaan perustuvien tietojen perusteella, mukaan lukien tunteentunnistusjärjestelmät ja lukuun ottamatta tämän asetuksen mukaisesti kiellettyjä järjestelmiä. Näihin ei pitäisi sisällyttää tekoälyjärjestelmiä, joita on tarkoitus käyttää biometriseen todennukseen, joka käsittää tunnistautumisen, ja joiden ainoana tarkoituksena on vahvistaa, että tietty luonnollinen henkilö on se henkilö, joka hän väittää olevansa, sekä vahvistaa luonnollisen henkilön henkilöllisyys ainoastaan jonkin palvelun, laitteen tai tilojen käyttämiseksi (yksi yhteen -varmentaminen). Biometristen tai biometriikkaan perustuvien järjestelmien, joista säädetään unionin lainsäädännössä kyberturvallisuutta ja henkilötietojen suojaa koskevien toimenpiteiden mahdollistamiseksi, ei pitäisi katsoa aiheuttavan merkittävää riskiä terveydelle, turvallisuudelle ja perusoikeuksille.

Tarkistus  64

 

Ehdotus asetukseksi

Johdanto-osan 34 kappale

Komission teksti	Tarkistus
(34) Kriittisen infrastruktuurin hallinnan ja toiminnan osalta on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tieliikenteen sekä vesi-, kaasu-, lämmitys- ja sähköhuollon hallinnassa ja toiminnassa, koska niiden viat tai toimintahäiriöt voivat vaarantaa ihmisten hengen ja terveyden suuressa mittakaavassa ja aiheuttaa tuntuvia häiriöitä yhteiskunnallisen ja taloudellisen toiminnan tavanomaisessa harjoittamisessa.	(34) Kriittisen infrastruktuurin hallinnan ja toiminnan osalta on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina vesi-, kaasu-, lämmitys- ja sähköhuollon sekä kriittisen digitaalisen infrastruktuurin hallinnassa ja toiminnassa, koska niiden viat tai toimintahäiriöt voivat haitata tällaisen kriittisen infrastruktuurin varmuutta ja eheyttä ja siten vaarantaa ihmisten hengen ja terveyden suuressa mittakaavassa ja aiheuttaa tuntuvia häiriöitä yhteiskunnallisen ja taloudellisen toiminnan tavanomaisessa harjoittamisessa. Kriittisen infrastruktuurin, mukaan lukien kriittinen digitaalinen infrastruktuuri, turvakomponentit ovat järjestelmiä, joita käytetään suoraan suojaamaan kriittisen infrastruktuurin fyysistä koskemattomuutta tai henkilöiden terveyttä ja turvallisuutta ja omaisuuden turvallisuutta. Tällaisten komponenttien vikaantuminen tai toimintahäiriö saattaa johtaa suoraan riskeihin kriittisen infrastruktuurin fyysiselle koskemattomuudelle ja näin ollen riskeihin henkilöiden terveydelle ja turvallisuudelle ja omaisuuden turvallisuudelle. Komponentteja, jotka on tarkoitettu käytettäviksi pelkästään kyberturvallisuustarkoituksiin, ei pitäisi katsoa turvakomponenteiksi. Esimerkkejä tällaisista turvakomponenteista voivat olla järjestelmät vedenpaineen seuraamiseksi tai palohälytysohjausjärjestelmät pilvipalvelukeskuksissa.

Tarkistus  65

 

Ehdotus asetukseksi

Johdanto-osan 35 kappale

Komission teksti	Tarkistus
(35) Tekoälyjärjestelmiä, joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä, olisi pidettävä suuririskisinä, koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja niitä käytetään epäasianmukaisesti, ne voivat loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi ja ne voivat jatkaa historiallisia syrjinnän muotoja.	(35) Tekoälyjärjestelmien käyttöönotto koulutuksessa on tärkeää, jotta voidaan auttaa nykyaikaistamaan kokonaisia koulutusjärjestelmiä, parantaa koulutuksen laatua sekä verkon ulkopuolella että verkossa ja nopeuttaa digitaalista koulutusta, jolloin se on myös laajemman yleisön saatavilla. Tekoälyjärjestelmät, joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin, vaikuttamaan olennaisesti koulutukseen pääsyä koskeviin päätöksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä, tai yksittäiselle henkilölle soveltuvan koulutustason arviointiin ja vaikuttamaan olennaisesti sen yleissivistävän tai ammatillisen koulutuksen tasoon, jota henkilö myöhemmin saa tai johon hän voi päästä, tai opiskelijoiden tarkkailuun tai kielletyn käyttäytymisen havaitsemiseen kokeiden aikana, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi, koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja niitä käytetään epäasianmukaisesti, ne voivat olla erityisen tunkeilevia ja loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi, ja ne voivat jatkaa historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen.

Tarkistus  66

 

Ehdotus asetukseksi

Johdanto-osan 36 kappale

Komission teksti	Tarkistus
(36) Tekoälyjärjestelmät, joita käytetään työllistämisessä, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen sekä tehtävien jakamiseen työhön liittyvissä sopimussuhteissa oleville henkilöille ja heidän seurantaansa tai arviointiinsa, olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi näiden henkilöiden tuleviin uranäkymiin ja toimeentuloon. Näiden työhön liittyvien sopimussuhteiden olisi koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaisia henkilöitä ei periaatteessa pitäisi katsoa tässä asetuksessa tarkoitetuiksi käyttäjiksi. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä sopimussuhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat vaikuttaa myös heidän tietosuojaa ja yksityisyyden suojaa koskeviin oikeuksiinsa.	(36) Tekoälyjärjestelmät, joita käytetään työllistämisessä, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, työsuhteen solmimista, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen tai vaikuttamaan olennaisesti tällaisiin päätöksiin sekä yksilölliseen tehtävien jakamiseen yksilöllisen käyttäytymisen, henkilökohtaisten piirteiden tai biometristen tietojen perusteella taikka työhön liittyvissä sopimussuhteissa olevien henkilöiden seurantaan tai arviointiin, olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi näiden henkilöiden tuleviin uranäkymiin, toimeentuloon ja työntekijöiden oikeuksiin. Näiden työhön liittyvien sopimussuhteiden olisi merkityksellisellä tavalla koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä sopimussuhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat heikentää myös keskeisiltä osin heidän tietosuojaa ja yksityisyyden suojaa koskevia perusoikeuksiaan. Tämän asetuksen soveltaminen ei vaikuta unionin ja jäsenvaltioiden toimivaltaan säätää tarkemmista säännöistä tekoälyjärjestelmien käytöstä työllisyyteen liittyvissä kysymyksissä.

Tarkistus  67

 

Ehdotus asetukseksi

Johdanto-osan 37 kappale

Komission teksti	Tarkistus
(37) Toinen osa-alue, jolla tekoälyjärjestelmien käyttöön on kiinnitettävä erityistä huomiota, on sellaisten olennaisten yksityisten ja julkisten palvelujen ja etujen saatavuus ja käyttö, joita ihmiset tarvitsevat voidakseen osallistua täysipainoisesti yhteiskuntaan tai parantaakseen elintasoaan. Etenkin tekoälyjärjestelmät, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi, koska ne määrittävät kyseisten henkilöiden mahdollisuuden saada taloudellisia resursseja tai olennaisia palveluja, kuten asumis-, sähkö- ja televiestintäpalveluja. Tähän tarkoitukseen käytetyt tekoälyjärjestelmät voivat johtaa henkilöiden tai henkilöryhmien syrjintään ja pitää yllä historiallisia syrjinnän muotoja, jotka perustuvat esimerkiksi rotuun tai etniseen alkuperään, vammaisuuteen, ikään tai sukupuoliseen suuntautumiseen, tai luoda uusia syrjiviä vaikutuksia. Kun otetaan huomioon vaikutusten erittäin rajallinen laajuus ja markkinoilla saatavilla olevat vaihtoehdot, on aiheellista vapauttaa vaatimuksista tekoälyjärjestelmien käyttö luottokelpoisuuden arvioinnissa ja luottopisteytyksessä, kun pienet tarjoajat ottavat järjestelmiä käyttöön omaan käyttöönsä. Luonnolliset henkilöt, jotka hakevat tai saavat viranomaisilta julkisen avun etuuksia ja palveluja, ovat yleensä riippuvaisia näistä etuuksista ja palveluista ja haavoittuvassa asemassa vastuussa oleviin viranomaisiin nähden. Jos tekoälyjärjestelmiä käytetään sen määrittämiseen, olisiko viranomaisten evättävä tällaiset etuudet ja palvelut tai rajoitettava niitä, peruutettava ne tai perittävä ne takaisin, niillä voi olla merkittävä vaikutus henkilöiden toimeentuloon ja ne voivat loukata heidän perusoikeuksiaan, kuten oikeutta sosiaaliseen suojeluun, syrjimättömyyteen, ihmisarvoon tai tehokkaisiin oikeussuojakeinoihin. Tällaiset järjestelmät olisi sen vuoksi luokiteltava suuririskisiksi. Tämä asetus ei kuitenkaan saisi haitata innovatiivisten lähestymistapojen kehittämistä ja käyttöä julkishallinnossa, sillä se hyötyisi vaatimustenmukaisten ja turvallisten tekoälyjärjestelmien laajemmasta käytöstä edellyttäen, että kyseisiin järjestelmiin ei liity suurta oikeushenkilöihin ja luonnollisiin henkilöihin kohdistuvaa riskiä. Myös tekoälyjärjestelmät, joita käytetään pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, olisi luokiteltava suuririskisiksi, koska ne tekevät päätöksiä tilanteissa, jotka ovat erittäin kriittisiä ihmisten hengen ja terveyden ja heidän omaisuutensa kannalta.	(37) Toinen osa-alue, jolla tekoälyjärjestelmien käyttöön on kiinnitettävä erityistä huomiota, on sellaisten olennaisten yksityisten ja julkisten palvelujen, mukaan lukien terveydenhuollon palvelut ja olennaiset palvelut, kuten muun muassa asumis-, sähkönjakelu-, lämmitys-, jäähdytys- ja internetpalvelut, ja etujen saatavuus ja käyttö, joita ihmiset tarvitsevat voidakseen osallistua täysipainoisesti yhteiskuntaan tai parantaakseen elintasoaan. Etenkin tekoälyjärjestelmät, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi, koska ne määrittävät kyseisten henkilöiden mahdollisuuden saada taloudellisia resursseja tai olennaisia palveluja, kuten asumis-, sähkö- ja televiestintäpalveluja. Tähän tarkoitukseen käytetyt tekoälyjärjestelmät voivat johtaa henkilöiden tai henkilöryhmien syrjintään ja pitää yllä historiallisia syrjinnän muotoja, jotka perustuvat esimerkiksi rotuun tai etniseen alkuperään, sukupuoleen, vammaisuuteen, ikään tai sukupuoliseen suuntautumiseen, tai luoda uusia syrjiviä vaikutuksia. Tekoälyjärjestelmien, joista säädetään unionin lainsäädännössä rahoituspalvelujen tarjoamiseen liittyvien petosten havaitsemiseksi, ei pitäisi katsoa olevan tämän asetuksen mukaisesti suuririskisiä. Luonnolliset henkilöt, jotka hakevat tai saavat viranomaisilta julkisen avun etuuksia ja palveluja, mukaan lukien terveydenhuollon palvelut ja olennaiset palvelut, kuten muun muassa asumis-, sähkönjakelu-, lämmitys-, jäähdytys- ja internetpalvelut, ovat yleensä riippuvaisia näistä etuuksista ja palveluista ja haavoittuvassa asemassa vastuussa oleviin viranomaisiin nähden. Jos tekoälyjärjestelmiä käytetään sen määrittämiseen, olisiko viranomaisten evättävä tällaiset etuudet ja palvelut tai rajoitettava niitä, peruutettava ne tai perittävä ne takaisin, niillä voi olla merkittävä vaikutus henkilöiden toimeentuloon ja ne voivat loukata heidän perusoikeuksiaan, kuten oikeutta sosiaaliseen suojeluun, syrjimättömyyteen, ihmisarvoon tai tehokkaisiin oikeussuojakeinoihin. Vastaavasti tekoälyjärjestelmät, jotka on tarkoitettu luonnollisten henkilöiden sairausvakuutus- ja henkivakuutuskelpoisuutta koskevien päätösten tekemiseen tai vaikuttamaan olennaisesti tällaisiin päätöksiin, voivat myös vaikuttaa merkittävästi henkilöiden toimeentuloon ja loukata heidän perusoikeuksiaan esimerkiksi rajoittamalla terveydenhoitoon pääsyä tai jatkamalla henkilökohtaisiin ominaisuuksiin perustuvaa syrjintää. Tällaiset järjestelmät olisi sen vuoksi luokiteltava suuririskisiksi. Tämä asetus ei kuitenkaan saisi haitata innovatiivisten lähestymistapojen kehittämistä ja käyttöä julkishallinnossa, sillä se hyötyisi vaatimustenmukaisten ja turvallisten tekoälyjärjestelmien laajemmasta käytöstä edellyttäen, että kyseisiin järjestelmiin ei liity suurta oikeushenkilöihin ja luonnollisiin henkilöihin kohdistuvaa riskiä. Myös tekoälyjärjestelmät, joita käytetään luonnollisten henkilöiden hätäpuhelujen arvioinnissa ja luokittelussa tai pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, olisi luokiteltava suuririskisiksi, koska ne tekevät päätöksiä tilanteissa, jotka ovat erittäin kriittisiä ihmisten hengen ja terveyden ja heidän omaisuutensa kannalta.

Tarkistus  68

 

Ehdotus asetukseksi

Johdanto-osan 37 a kappale (uusi)

Komission teksti	Tarkistus
	(37 a) Kun otetaan huomioon poliisi- ja oikeusviranomaisten rooli ja vastuu sekä niiden rikosten torjumista, tutkimista, selvittämistä tai syytteeseenpanoa tai rikosoikeudellisten seuraamusten täytäntöönpanoa varten tekemien päätösten vaikutus, jotkut tietyt tekoälysovellusten käyttötapaukset on luokiteltava suuririskisiksi erityisesti tapauksissa, joissa on mahdollista vaikuttaa merkittävästi yksilöiden elämään tai perusoikeuksiin.

Tarkistus  69

 

Ehdotus asetukseksi

Johdanto-osan 38 kappale

Komission teksti	Tarkistus
(38) Lainvalvontaviranomaisten toimille, joihin liittyy tiettyä tekoälyjärjestelmien käyttöä, on ominaista huomattava vallan epätasapaino, ja ne voivat johtaa luonnollisen henkilön valvontaan, pidättämiseen tai vapaudenmenetykseen sekä muihin perusoikeuskirjassa taattuihin perusoikeuksiin kohdistuviin haitallisiin vaikutuksiin. Erityisesti jos tekoälyjärjestelmää ei ole koulutettu laadukkaalla datalla, se ei täytä riittäviä vaatimuksia tarkkuutensa tai luotettavuutensa suhteen tai sitä ei ole suunniteltu ja testattu asianmukaisesti ennen markkinoille saattamista tai muuta käyttöönottoa, se voi valikoida henkilöitä syrjivästi tai muulla tavoin väärin tai epäoikeudenmukaisesti. Lisäksi merkittävien menettelyllisten perusoikeuksien, joita ovat muun muassa oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen sekä oikeus puolustukseen ja syyttömyysolettama, käyttö voisi vaikeutua erityisesti silloin, kun tällaiset tekoälyjärjestelmät eivät ole riittävän läpinäkyviä, selitettävissä olevia ja dokumentoituja. Sen vuoksi on aiheellista luokitella suuririskisiksi joukko tekoälyjärjestelmiä, jotka on tarkoitettu käytettäviksi lainvalvonnan yhteydessä, kun tarkkuus, luotettavuus ja läpinäkyvyys ovat erityisen tärkeitä haitallisten vaikutusten välttämiseksi, kansalaisten luottamuksen säilyttämiseksi sekä vastuuvelvollisuuden ja tehokkaiden oikeussuojakeinojen varmistamiseksi. Kun otetaan huomioon kyseessä olevien toimintojen luonne ja niihin liittyvät riskit, näihin suuririskisiin tekoälyjärjestelmiin olisi katsottava kuuluvan erityisesti tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää yksilöllisiin riskiarviointeihin, valheenpaljastukseen ja vastaaviin välineisiin tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen, ”syväväärennösten” havaitsemiseen, todistusaineiston luotettavuuden arviointiin rikosoikeudellisissa menettelyissä, todellisen tai mahdollisen rikoksen esiintymisen tai toistumisen ennustamiseen luonnollisten henkilöiden profiloinnin tai luonnollisten henkilöiden tai ryhmien persoonallisuuspiirteiden ja ominaispiirteiden tai aiemman rikollisen käyttäytymisen arvioinnin perusteella, rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä tapahtuvaan profilointiin tai luonnollisia henkilöitä koskevaan rikosanalyysiin. Tekoälyjärjestelmiä, jotka on erityisesti tarkoitettu käytettäviksi vero- ja tulliviranomaisten hallinnollisissa menettelyissä, ei pitäisi pitää suuririskisinä tekoälyjärjestelminä, joita lainvalvontaviranomaiset käyttävät rikosten ennalta estämiseen, tutkimiseen, paljastamiseen tai rikoksiin liittyviin syytetoimiin.	(38) Lainvalvontaviranomaisten toimille, joihin liittyy tiettyä tekoälyjärjestelmien käyttöä, on ominaista huomattava vallan epätasapaino, ja ne voivat johtaa luonnollisen henkilön valvontaan, pidättämiseen tai vapaudenmenetykseen sekä muihin perusoikeuskirjassa taattuihin perusoikeuksiin kohdistuviin haitallisiin vaikutuksiin. Erityisesti jos tekoälyjärjestelmää ei ole koulutettu laadukkaalla datalla, se ei täytä riittäviä vaatimuksia suorituskykynsä, tarkkuutensa tai luotettavuutensa suhteen, tai sitä ei ole suunniteltu ja testattu asianmukaisesti ennen markkinoille saattamista tai muuta käyttöönottoa, se voi valikoida henkilöitä syrjivästi tai muulla tavoin väärin tai epäoikeudenmukaisesti. Lisäksi merkittävien menettelyllisten perusoikeuksien, joita ovat muun muassa oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen sekä oikeus puolustukseen ja syyttömyysolettama, käyttö voisi vaikeutua erityisesti silloin, kun tällaiset tekoälyjärjestelmät eivät ole riittävän läpinäkyviä, selitettävissä olevia ja dokumentoituja. Sen vuoksi on aiheellista luokitella suuririskisiksi joukko tekoälyjärjestelmiä, jotka on tarkoitettu käytettäviksi lainvalvonnan yhteydessä, kun tarkkuus, luotettavuus ja läpinäkyvyys ovat erityisen tärkeitä haitallisten vaikutusten välttämiseksi, kansalaisten luottamuksen säilyttämiseksi sekä vastuuvelvollisuuden ja tehokkaiden oikeussuojakeinojen varmistamiseksi. Kun otetaan huomioon kyseessä olevien toimintojen luonne ja niihin liittyvät riskit, näihin suuririskisiin tekoälyjärjestelmiin olisi katsottava kuuluvan erityisesti tekoälyjärjestelmät, joita on tarkoitus käyttää lainvalvontaviranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää lainvalvontaviranomaisten tukemiseksi valheenpaljastuksessa ja vastaavissa välineissä, sikäli kuin niiden käyttö on asiaankuuluvan unionin lainsäädännön ja kansallisen lainsäädännön mukaan sallittua, todistusaineiston luotettavuuden arviointiin rikosoikeudellisissa menettelyissä, rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä tapahtuvaan profilointiin tai luonnollisia henkilöitä koskevaan rikosanalyysiin. Tekoälyjärjestelmiä, jotka on erityisesti tarkoitettu käytettäviksi vero- ja tulliviranomaisten hallinnollisissa menettelyissä, ei pitäisi luokitella suuririskisiksi tekoälyjärjestelmiksi, joita lainvalvontaviranomaiset käyttävät rikosten ennalta estämiseen, tutkimiseen, paljastamiseen tai rikoksiin liittyviin syytetoimiin. Lainvalvonta- ja oikeusviranomaisten harjoittama tekoälyn käyttö ei saisi lisätä eriarvoisuutta, sosiaalista eriytymistä tai syrjäytymistä. Tekoälyvälineiden käytön vaikutuksia rikoksesta epäiltyjen puolustusoikeuksiin ei pitäisi jättää huomiotta, etenkään vaikeuksia saada niiden toimintaa koskevia merkityksellisiä tietoja ja siitä erityisesti tutkinnan kohteena oleville henkilöille aiheutuvaa ongelmaa haastaa tekoälyvälineiden tulokset tuomioistuimessa.

Tarkistus  70

 

Ehdotus asetukseksi

Johdanto-osan 39 kappale

Komission teksti	Tarkistus
(39) Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joita muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa vastaavien toimivaltaisten viranomaisten on tarkoitus käyttää valheenpaljastimina ja vastaavina välineinä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen; jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; sekä toimivaltaisten viranomaisten avustamiseen turvapaikka-, viisumi- ja oleskelulupahakemusten ja niihin liittyvien valitusten käsittelyssä, kun tavoitteena on vahvistaa asemaa hakevien luonnollisten henkilöiden kelpoisuus. Tämän asetuksen soveltamisalaan kuuluvien muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan alan tekoälyjärjestelmien olisi oltava Euroopan parlamentin ja neuvoston direktiivissä 2013/32/EU49, Euroopan parlamentin ja neuvoston asetuksessa (EY) N:o 810/200950 ja muussa asiaa koskevassa lainsäädännössä säädettyjen asiaankuuluvien menettelyvaatimusten mukaisia.	(39) Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan tehtävistä vastaavien unionin virastojen, laitosten tai elinten on tarkoitus käyttää valheenpaljastuksessa ja vastaavissa välineissä, sikäli kuin niiden käyttö on asiaankuuluvan unionin lainsäädännön ja kansallisen lainsäädännön mukaan sallittua, jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; toimivaltaisten viranomaisten avustamiseen turvapaikka-, viisumi- ja oleskelulupahakemuksia ja niihin liittyviä valituksia koskevan näytön todenperäisyyden käsittelyssä ja arvioinnissa, kun tavoitteena on vahvistaa asemaa hakevien luonnollisten henkilöiden kelpoisuus; henkilötietojen valvontaan, tarkkailuun tai käsittelyyn rajavalvonnassa luonnollisten henkilöiden havaitsemista, tunnistamista tai henkilöllisyyden määrittämistä varten; muuttoliikkeeseen ja rajanylityksiin liittyvien suuntausten ennakoimiseksi tai ennustamiseksi. Tämän asetuksen soveltamisalaan kuuluvien muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan alan tekoälyjärjestelmien olisi oltava Euroopan parlamentin ja neuvoston direktiivissä 2013/32/EU49, Euroopan parlamentin ja neuvoston asetuksessa (EY) N:o 810/200950 ja muussa asiaa koskevassa lainsäädännössä säädettyjen asiaankuuluvien menettelyvaatimusten mukaisia. Jäsenvaltioiden tai unionin toimielinten, virastojen ja elinten ei missään tapauksessa tulisi käyttää tekoälyjärjestelmiä muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa keinona kiertää pakolaisten oikeusasemasta 28 päivänä heinäkuuta 1951 tehdyn yleissopimuksen, sellaisena kuin se on muutettuna 31 päivänä tammikuuta 1967 tehdyllä pöytäkirjalla, mukaisia kansainvälisiä velvoitteitaan, eikä niitä saisi käyttää millään tavoin palauttamiskiellon periaatteen vastaisesti tai unioniin johtavien turvallisten ja tehokkaiden laillisten väylien epäämiseen, mukaan lukien oikeus kansainväliseen suojeluun.
__________________	__________________
49 Euroopan parlamentin ja neuvoston direktiivi 2013/32/EU, annettu 26 päivänä kesäkuuta 2013, kansainvälisen suojelun myöntämistä tai poistamista koskevista yhteisistä menettelyistä (EUVL L 180, 29.6.2013, s. 60).	49 Euroopan parlamentin ja neuvoston direktiivi 2013/32/EU, annettu 26 päivänä kesäkuuta 2013, kansainvälisen suojelun myöntämistä tai poistamista koskevista yhteisistä menettelyistä (EUVL L 180, 29.6.2013, s. 60).
50 Euroopan parlamentin ja neuvoston asetus (EY) N:o 810/2009, annettu 13 päivänä heinäkuuta 2009, yhteisön viisumisäännöstön laatimisesta (viisumisäännöstö) (EUVL L 243, 15.9.2009, s. 1).	50 Euroopan parlamentin ja neuvoston asetus (EY) N:o 810/2009, annettu 13 päivänä heinäkuuta 2009, yhteisön viisumisäännöstön laatimisesta (viisumisäännöstö) (EUVL L 243, 15.9.2009, s. 1).

Tarkistus  71

 

Ehdotus asetukseksi

Johdanto-osan 40 kappale

Komission teksti	Tarkistus
(40) Tietyt oikeudenhoitoon ja demokraattisiin prosesseihin tarkoitetut tekoälyjärjestelmät olisi luokiteltava suuririskisiksi ottaen huomioon niiden mahdollinen merkittävä vaikutus demokratiaan, oikeusvaltioon, yksilön vapauksiin sekä oikeuteen tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen. Erityisesti mahdollisten vinoutumien, virheiden ja läpinäkymättömyyden riskeihin puuttumiseksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joiden tarkoituksena on auttaa oikeusviranomaisia tutkimaan ja tulkitsemaan tosiseikkoja ja lainsäädäntöä sekä soveltamaan lainsäädäntöä konkreettisiin tosiseikkoihin. Tällaista luokitusta ei kuitenkaan pitäisi ulottaa tekoälyjärjestelmiin, jotka on tarkoitettu puhtaasti hallinnollisiin tukitoimiin, jotka eivät vaikuta oikeudenkäyttöön yksittäisissä tapauksissa, kuten tuomioistuinten päätösten, asiakirjojen tai tietojen anonymisointiin tai pseudonymisointiin, henkilöstön väliseen viestintään, hallinnollisiin tehtäviin tai resurssien jakamiseen.	(40) Tietyt oikeudenhoitoon ja demokraattisiin prosesseihin tarkoitetut tekoälyjärjestelmät olisi luokiteltava suuririskisiksi ottaen huomioon niiden mahdollinen merkittävä vaikutus demokratiaan, oikeusvaltioon, yksilön vapauksiin sekä oikeuteen tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen. Erityisesti mahdollisten vinoutumien, virheiden ja läpinäkymättömyyden riskeihin puuttumiseksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu oikeusviranomaisten tai hallintoelinten tai näiden puolesta käytettäviksi oikeusviranomaisten tai hallintoelinten auttamiseksi tutkimaan ja tulkitsemaan tosiseikkoja ja lainsäädäntöä sekä soveltamaan lainsäädäntöä konkreettisiin tosiseikkoihin tai käytettäviksi vastaavalla tavalla vaihtoehtoisessa riidanratkaisussa. Tekoälyvälineiden käytöllä voidaan tukea mutta ei korvata tuomareiden päätöksentekovaltaa tai oikeuslaitoksen riippumattomuutta, koska lopullisten päätösten on myös jatkossa oltava ihmisen tekemiä. Tällaista luokitusta ei kuitenkaan pitäisi ulottaa tekoälyjärjestelmiin, jotka on tarkoitettu puhtaasti hallinnollisiin tukitoimiin, jotka eivät vaikuta oikeudenkäyttöön yksittäisissä tapauksissa, kuten tuomioistuinten päätösten, asiakirjojen tai tietojen anonymisointiin tai pseudonymisointiin, henkilöstön väliseen viestintään, hallinnollisiin tehtäviin tai resurssien jakamiseen.

Tarkistus  72

 

Ehdotus asetukseksi

Johdanto-osan 40 a kappale (uusi)

Komission teksti	Tarkistus
	(40 a) Jotta voidaan puuttua perusoikeuskirjan 39 artiklassa vahvistettuun äänioikeuteen kohdistuviin asiattoman ulkopuolisen sekaantumisen riskeihin sekä riskeihin kohtuuttomista vaikutuksista demokraattisiin prosesseihin, demokratiaan ja oikeusvaltioon, sellaiset tekoälyjärjestelmät olisi luokiteltava suuririskisiksi, jotka on tarkoitettu käytettäviksi vaikuttamaan vaalien tai kansanäänestysten tulokseen tai vaaleissa tai kansanäänestyksissä äänioikeuttaan käyttävien luonnollisten henkilöiden äänestyskäyttäytymiseen, lukuun ottamatta tekoälyjärjestelmiä, joiden tuotoksille luonnolliset henkilöt eivät suoraan altistu, kuten välineet, joita käytetään poliittisten kampanjoiden hallinnolliseen ja logistiseen järjestämiseen, optimointiin ja jäsentämiseen.

Tarkistus  73

 

Ehdotus asetukseksi

Johdanto-osan 40 b kappale (uusi)

Komission teksti	Tarkistus
	(40 b) Kun otetaan huomioon, missä laajuudessa luonnolliset henkilöt käyttävät erittäin suuriksi verkkoalustoiksi nimettyjen sosiaalisen median alustojen tarjoamia palveluja, tällaisia verkkoalustoja voidaan käyttää tavalla, joka vaikuttaa voimakkaasti verkkoturvallisuuteen, yleisen mielipiteen ja keskustelun muokkaamiseen, vaaleihin ja demokraattisiin prosesseihin sekä yhteiskunnallisiin huolenaiheisiin. Sen vuoksi on asianmukaista, että tätä asetusta sovelletaan näiden verkkoalustojen suosittelujärjestelmissään käyttämiin tekoälyjärjestelmiin, jotta voidaan varmistaa, että tekoälyjärjestelmät täyttävät tässä asetuksessa säädetyt vaatimukset, mukaan lukien datan hallintaa, teknistä dokumentaatiota ja jäljitettävyyttä, avoimuutta, ihmisen suorittamaa valvontaa, tarkkuutta ja luotettavuutta koskevat tekniset vaatimukset. Tämän asetuksen noudattamisen olisi mahdollistettava se, että tällaiset erittäin suuret verkkoalustat voivat noudattaa asetuksen (EU) 2022/2065 34 ja 35 artiklassa säädettyjä laajempia riskinarviointi- ja riskinvähentämisvelvoitteitaan. Tässä asetuksessa säädetyt velvoitteet eivät rajoita asetuksen (EU) 2022/2065 soveltamista, ja niiden olisi täydennettävä asetuksen (EU) 2022/2065 mukaisia velvoitteita, kun sosiaalisen median alusta on nimetty erittäin suureksi verkkoalustaksi. Erittäin suuriksi verkkoalustoiksi nimettyjen sosiaalisen median alustojen Euroopan laajuinen vaikutus huomioon ottaen asetuksen (EU) 2022/2065 nojalla nimettyjen viranomaisten olisi toimittava valvontaviranomaisina tämän säännöksen täytäntöönpanon valvonnassa.

Tarkistus  74

 

Ehdotus asetukseksi

Johdanto-osan 41 kappale

Komission teksti	Tarkistus
(41) Sen, että tekoälyjärjestelmä luokitellaan tässä asetuksessa suuririskiseksi, ei pitäisi tulkita osoittavan, että järjestelmän käyttö on välttämättä laillista muiden unionin säädösten tai unionin oikeuden kanssa yhteensopivan kansallisen lainsäädännön nojalla, jota on annettu esimerkiksi henkilötietojen suojasta tai valheenpaljastimien ja vastaavien välineiden tai muiden järjestelmien käytöstä tai luonnollisen henkilön emotionaalisen tilan havaitsemisesta. Tällaisen käytön olisi jatkuttava yksinomaan perusoikeuskirjasta ja sovellettavista unionin johdetun oikeuden säädöksistä ja kansallisesta lainsäädännöstä johtuvien sovellettavien vaatimusten mukaisesti. Tätä asetusta ei pitäisi ymmärtää niin, että siinä säädettäisiin oikeusperustasta henkilötietojen käsittelylle, mukaan lukien tarvittaessa erityiset henkilötietoryhmät.	(41) Sen, että tekoälyjärjestelmä luokitellaan tässä asetuksessa suuririskiseksi tekoälyjärjestelmäksi, ei pitäisi tulkita osoittavan, että järjestelmän käyttö on välttämättä laillista tai laitonta muiden unionin säädösten tai unionin oikeuden kanssa yhteensopivan kansallisen lainsäädännön nojalla, jota on annettu esimerkiksi henkilötietojen suojasta. Tällaisen käytön olisi jatkuttava yksinomaan perusoikeuskirjasta ja sovellettavista unionin johdetun oikeuden säädöksistä ja kansallisesta lainsäädännöstä johtuvien sovellettavien vaatimusten mukaisesti.

Tarkistus  75

 

Ehdotus asetukseksi

Johdanto-osan 41 a kappale (uusi)

Komission teksti	Tarkistus
	(41 a) Jo nykyisin useita oikeudellisesti sitovia unionin tason sekä kansallisen ja kansainvälisen tason sääntöjä sovelletaan tekoälyjärjestelmiin tai niillä on tekoälyjärjestelmien kannalta merkitystä. Näitä ovat muun muassa unionin primaarilainsäädäntö (Euroopan unionin perussopimukset ja sen perusoikeuskirja) ja unionin sekundaarilainsäädäntö (esimerkiksi yleinen tietosuoja-asetus, syrjinnän vastaiset direktiivit, konedirektiivi, tuotevastuudirektiivi, asetus muiden kuin henkilötietojen vapaasta liikkuvuudesta, kuluttajalainsäädäntö sekä työterveyttä ja -turvallisuutta koskevat direktiivit) samoin kuin Yhdistyneiden kansakuntien ihmisoikeussopimukset ja Euroopan neuvoston yleissopimukset (kuten Euroopan ihmisoikeussopimus) ja kansalliset lait. Monialaisten sääntöjen lisäksi on olemassa useita tiettyihin tekoälysovelluksiin sovellettavia alakohtaisia sääntöjä (esimerkiksi lääkinnällisiä laitteita koskeva asetus terveydenhuoltoalalla).

Tarkistus  76

 

Ehdotus asetukseksi

Johdanto-osan 42 kappale

Komission teksti	Tarkistus
(42) Jotta voidaan vähentää riskejä, joita unionin markkinoille saatetuista tai muuten käyttöön otetuista suuririskisistä tekoälyjärjestelmistä aiheutuu käyttäjille ja asianomaisille henkilöille, olisi sovellettava tiettyjä pakollisia vaatimuksia, joissa otetaan huomioon järjestelmän suunniteltu käyttötarkoitus sekä tarjoajan perustama riskinhallintajärjestelmä.	(42) Jotta voidaan vähentää riskejä, joita unionin markkinoille saatetuista tai muuten käyttöön otetuista suuririskisistä tekoälyjärjestelmistä aiheutuu käyttöönottajille ja asianomaisille henkilöille, olisi sovellettava tiettyjä pakollisia vaatimuksia, joissa otetaan huomioon järjestelmän suunniteltu käyttötarkoitus ja kohtuudella ennakoitavissa oleva väärinkäyttö sekä tarjoajan perustama riskinhallintajärjestelmä. Näiden vaatimusten olisi oltava tavoitelähtöisiä, tarkoituksenmukaisia, kohtuullisia ja tehokkaita ilman, että ne aiheuttavat toimijoille kohtuutonta sääntelytaakkaa tai kustannuksia.

Tarkistus  77

 

Ehdotus asetukseksi

Johdanto-osan 43 kappale

Komission teksti	Tarkistus
(43) Suuririskisiin tekoälyjärjestelmiin olisi sovellettava vaatimuksia, jotka koskevat käytettyjen datajoukkojen laatua, teknistä dokumentaatiota ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttäjille, ihmisen suorittamaa valvontaa sekä luotettavuutta, tarkkuutta ja kyberturvallisuutta. Nämä vaatimukset ovat tarpeen, jotta voidaan tehokkaasti vähentää terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä, siltä osin kuin niitä esiintyy järjestelmän käyttötarkoituksen perusteella, ja koska muita vähemmän kauppaa rajoittavia toimenpiteitä ei ole kohtuudella käytettävissä, jolloin vältetään perusteettomat kaupan rajoitukset.	(43) Suuririskisiin tekoälyjärjestelmiin olisi sovellettava vaatimuksia, jotka koskevat käytettyjen datajoukkojen laatua ja merkityksellisyyttä, teknistä dokumentaatiota ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttöönottajille, ihmisen suorittamaa valvontaa sekä luotettavuutta, tarkkuutta ja kyberturvallisuutta. Nämä vaatimukset ovat tarpeen, jotta voidaan tehokkaasti vähentää terveyteen, turvallisuuteen ja perusoikeuksiin sekä ympäristöön, demokratiaan ja oikeusvaltioon kohdistuvia riskejä, siltä osin kuin niitä esiintyy järjestelmän käyttötarkoituksen tai kohtuudella ennakoitavissa olevan väärinkäytön perusteella, ja koska muita vähemmän kauppaa rajoittavia toimenpiteitä ei ole kohtuudella käytettävissä, jolloin vältetään perusteettomat kaupan rajoitukset.

Tarkistus  78

 

Ehdotus asetukseksi

Johdanto-osan 44 kappale

Komission teksti	Tarkistus
(44) Datan korkea laatu on olennaisen tärkeää monien tekoälyjärjestelmien suorituskyvyn kannalta, erityisesti kun käytetään tekniikoita, joihin sisältyy mallien kouluttamista, jotta voidaan varmistaa, että suuririskinen tekoälyjärjestelmä toimii tarkoitetulla tavalla ja turvallisesti eikä siitä tule unionin lainsäädännössä kiellettyä syrjinnän lähdettä. Korkealaatuiset koulutus-, validointi- ja testausdatajoukot edellyttävät asianmukaisia datahallinto- ja hallintakäytäntöjä. Koulutus-, validointi- ja testausdatajoukkojen olisi oltava riittävän merkityksellisiä, edustavia ja virheettömiä ja täydellisiä järjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä olisi lisäksi oltava asianmukaiset tilastolliset ominaisuudet, myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Koulutus-, validointi- ja testausdatajoukoissa olisi erityisesti otettava niiden käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaispiirteet, ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle tai asiayhteydelle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Jotta voitaisiin suojella muita tekoälyjärjestelmissä esiintyvästä vinoutumisesta mahdollisesti johtuvalta syrjinnältä, tarjoajien olisi voitava käsitellä myös erityisiä henkilötietoryhmiä tärkeän yleisen edun nimissä, jotta voidaan varmistaa suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seuranta, havaitseminen ja korjaaminen.	(44) Korkealaatuisen datan saatavuudella on ensisijainen rooli monien tekoälyjärjestelmien rakenteen ja suorituskyvyn varmistamisen kannalta, erityisesti kun käytetään tekniikoita, joihin sisältyy mallien kouluttamista, jotta voidaan varmistaa, että suuririskinen tekoälyjärjestelmä toimii tarkoitetulla tavalla ja turvallisesti eikä siitä tule yksi unionin lainsäädännössä kielletyistä syrjinnän lähteistä. Korkealaatuiset koulutus-, validointi- ja testausdatajoukot edellyttävät asianmukaisia datahallinto- ja hallintakäytäntöjä. Koulutus- ja tarpeen mukaan validointi- ja testausdatajoukkojen sekä tunnisteiden olisi oltava riittävän merkityksellisiä, edustavia, asianmukaisesti tarkistettu virheiden varalta ja mahdollisimman täydellisiä järjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä olisi lisäksi oltava asianmukaiset tilastolliset ominaisuudet, myös niiden henkilöiden tai henkilöryhmien osalta, joihin liittyen suuririskistä tekoälyjärjestelmää on tarkoitus käyttää, ja erityisesti olisi pyrittävä vähentämään datajoukkojen mahdollisia vinoutumia, jotka voivat johtaa niiden henkilöiden perusoikeuksien vaarantumiseen, joihin suuririskinen tekoälyjärjestelmä vaikuttaa, tai heitä syrjiviin tuloksiin. Taustalla oleviin datajoukkoihin voi esimerkiksi sisältyä vinoutumia erityisesti silloin, kun käytetään historiallisia tietoja, algoritmien kehittäjät ottavat ne käyttöön tai kun järjestelmät otetaan käyttöön todellisissa olosuhteissa. Dataan sisältyvät vinoutumat vaikuttavat tekoälyjärjestelmien tuottamiin tuloksiin, ja tällaisilla vinoutumilla on taipumus vähitellen lisääntyä ja siten ylläpitää ja lisätä olemassa olevaa syrjintää erityisesti tiettyihin haavoittuvassa asemassa oleviin tai etnisiin ryhmiin tai rodullistettuihin yhteisöihin kuuluvien henkilöiden osalta. Koulutus-, validointi- ja testausdatajoukoissa olisi erityisesti otettava niiden käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaispiirteet, ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, kontekstuaaliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle tai asiayhteydelle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Jotta voitaisiin suojella muita tekoälyjärjestelmissä esiintyvästä vinoutumisesta mahdollisesti johtuvalta syrjinnältä, tarjoajien olisi poikkeuksellisesti ja kaikkien tässä asetuksessa sekä asetuksessa (EU) 2016/679, direktiivissä (EU) 2016/680 ja asetuksessa (EU) 2018/1725 säädettyjen sovellettavien edellytysten mukaisesti voitava käsitellä myös erityisiä henkilötietoryhmiä tärkeän yleisen edun nimissä, jotta voidaan varmistaa suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seuranta, havaitseminen ja korjaaminen. Vinoutuma olisi ymmärrettävä siten, että se aiheuttaa luonnolliseen henkilöön kohdistuvaa suoraa tai välillistä syrjivää vaikutusta. Datan hallintaan liittyviä vaatimuksia voidaan noudattaa turvautumalla kolmansiin osapuoliin, jotka tarjoavat sertifioituja säännösten noudattamista koskevia palveluja, mukaan lukien datan hallinnan, datajoukon eheyden sekä datakoulutus-, validointi- ja testauskäytäntöjen todentaminen.

Tarkistus  79

 

Ehdotus asetukseksi

Johdanto-osan 45 kappale

Komission teksti	Tarkistus
(45) Suuririskisten tekoälyjärjestelmien kehittämiseksi tiettyjen toimijoiden, esimerkiksi tarjoajien, ilmoitettujen laitosten ja muiden asiaankuuluvien tahojen, kuten digitaali-innovaatiokeskittymien, testauslaitosten ja tutkijoiden, olisi voitava saada käyttöönsä ja käyttää korkealaatuisia datajoukkoja tähän asetukseen liittyvillä toiminta-aloillaan. Komission perustama yhteinen eurooppalainen data-avaruus ja datan jakamisen helpottaminen yritysten välillä ja viranomaisten kanssa yleisen edun nimissä ovat ratkaisevan tärkeitä, jotta voidaan tarjota luotettava, vastuullinen ja syrjimätön pääsy korkealaatuiseen dataan tekoälyjärjestelmien koulutusta, validointia ja testausta varten. Esimerkiksi terveydenhuollon alalla eurooppalainen terveysdata-avaruus helpottaa terveysdatan syrjimätöntä saatavuutta ja tekoälyalgoritmien koulutusta näillä datajoukoilla yksityisyyden suojaavalla, turvallisella, oikea-aikaisella, läpinäkyvällä ja luotettavalla tavalla ja asianmukaisen institutionaalisen hallinnon alaisena. Asiaankuuluvat toimivaltaiset viranomaiset, myös alakohtaiset viranomaiset, jotka tarjoavat dataa tai tukevat datan saatavuutta, voivat myös tukea korkealaatuisen datan tarjoamista tekoälyjärjestelmien koulutusta, validointia ja testausta varten.	(45) Suuririskisten tekoälyjärjestelmien kehittämiseksi ja arvioimiseksi tiettyjen toimijoiden, esimerkiksi tarjoajien, ilmoitettujen laitosten ja muiden asiaankuuluvien tahojen, kuten digitaali-innovaatiokeskittymien, testauslaitosten ja tutkijoiden, olisi voitava saada käyttöönsä ja käyttää korkealaatuisia datajoukkoja tähän asetukseen liittyvillä toiminta-aloillaan. Komission perustama yhteinen eurooppalainen data-avaruus ja datan jakamisen helpottaminen yritysten välillä ja viranomaisten kanssa yleisen edun nimissä ovat ratkaisevan tärkeitä, jotta voidaan tarjota luotettava, vastuullinen ja syrjimätön pääsy korkealaatuiseen dataan tekoälyjärjestelmien koulutusta, validointia ja testausta varten. Esimerkiksi terveydenhuollon alalla eurooppalainen terveysdata-avaruus helpottaa terveysdatan syrjimätöntä saatavuutta ja tekoälyalgoritmien koulutusta näillä datajoukoilla yksityisyyden suojaavalla, turvallisella, oikea-aikaisella, läpinäkyvällä ja luotettavalla tavalla ja asianmukaisen institutionaalisen hallinnon alaisena. Asiaankuuluvat toimivaltaiset viranomaiset, myös alakohtaiset viranomaiset, jotka tarjoavat dataa tai tukevat datan saatavuutta, voivat myös tukea korkealaatuisen datan tarjoamista tekoälyjärjestelmien koulutusta, validointia ja testausta varten.

Tarkistus  80

 

Ehdotus asetukseksi

Johdanto-osan 45 a kappale (uusi)

Komission teksti	Tarkistus
	(45 a) Oikeus yksityisyyteen ja henkilötietojen suojaan on taattava tekoälyjärjestelmän koko elinkaaren ajan. Tässä yhteydessä oleellisen tärkeitä ovat tietojen minimoinnin ja sisäänrakennetun ja oletusarvoisen tietosuojan periaatteet, sellaisina kuin niistä säädetään unionin tietosuojalainsäädännössä, kun tietojen käsittelyyn sisältyy yksityishenkilöiden perusoikeuksiin kohdistuvia huomattavia riskejä. Tekoälyjärjestelmien tarjoajien ja käyttäjien olisi toteutettava viimeisintä teknistä kehitystä edustavia ja organisatorisia toimenpiteitä näiden oikeuksien suojelemiseksi. Toimenpiteisiin olisi anonymisoinnin ja salauksen lisäksi sisällyttävä myös sellaisten yhä laajemmin saatavilla olevien tekniikoiden käyttö, jotka mahdollistavat algoritmien tuomisen dataan ja auttavat saamaan arvokasta tietoa ilman, että raakadataa tai strukturoitua dataa välitetään osapuolten kesken tai kopioidaan tarpeettomasti.

Tarkistus  81

 

Ehdotus asetukseksi

Johdanto-osan 46 kappale

Komission teksti	Tarkistus
(46) Tämän asetuksen vaatimusten noudattamisen todentamisen kannalta on olennaisen tärkeää saada tietoa siitä, miten suuririskiset tekoälyjärjestelmät on kehitetty ja miten ne toimivat koko niiden elinkaaren ajan. Tämä edellyttää, että tiedot säilytetään ja että saatavilla on tekninen dokumentaatio, joka sisältää tiedot, joita tarvitaan sen arvioimiseksi, onko tekoälyjärjestelmä asiaankuuluvien vaatimusten mukainen. Tällaisiin tietoihin olisi sisällyttävä järjestelmän yleiset ominaisuudet, valmiudet ja rajoitukset, algoritmit, data, koulutus-, testaus- ja validointiprosessit sekä sovellettua riskinhallintajärjestelmää koskevat asiakirjat. Tekninen dokumentaatio olisi pidettävä ajan tasalla.	(46) Tämän asetuksen vaatimusten noudattamisen todentamisen kannalta on olennaisen tärkeää saada ymmärrettävää tietoa siitä, miten suuririskiset tekoälyjärjestelmät on kehitetty ja miten ne toimivat koko niiden käyttöiän ajan. Tämä edellyttää, että tiedot säilytetään ja että saatavilla on tekninen dokumentaatio, joka sisältää tiedot, joita tarvitaan sen arvioimiseksi, onko tekoälyjärjestelmä asiaankuuluvien vaatimusten mukainen. Tällaisiin tietoihin olisi sisällyttävä järjestelmän yleiset ominaisuudet, valmiudet ja rajoitukset, algoritmit, data, koulutus-, testaus- ja validointiprosessit sekä sovellettua riskinhallintajärjestelmää koskevat asiakirjat. Tekninen dokumentaatio olisi pidettävä asianmukaisesti ajan tasalla tekoälyjärjestelmän koko elinkaaren ajan. Tekoälyjärjestelmillä voi elinkaarensa aikana olla merkittäviä ympäristövaikutuksia, ja ne voivat kuluttaa paljon energiaa. Jotta voidaan saada parempi käsitys tekoälyjärjestelmien ympäristövaikutuksista, tarjoajien laatimaan tekniseen dokumentaatioon olisi sisällyttävä tiedot tekoälyjärjestelmän energiankulutuksesta, myös kehitysvaiheen aikaisesta kulutuksesta ja odotetusta kulutuksesta sen käytön aikana. Tällaisissa tiedoissa olisi otettava huomioon asiaankuuluva unionin ja kansallinen lainsäädäntö. Annettujen tietojen olisi oltava ymmärrettäviä, vertailukelpoisia ja todennettavia, ja tätä varten komission olisi laadittava ohjeet mittausta ja tietojen raportointia koskevista yhdenmukaisista menetelmistä. Sen varmistamiseksi, että yksi ainoa dokumentaatio on mahdollinen, vaadittuun dokumentaatioon ja asiaankuuluvassa unionin lainsäädännössä mahdollisesti vaadittavaan dokumentaatioon liittyvien termien ja määritelmien olisi oltava mahdollisimman yhdenmukaisia.

Tarkistus  82

 

Ehdotus asetukseksi

Johdanto-osan 46 a kappale (uusi)

Komission teksti	Tarkistus
	(46 a) Tekoälyjärjestelmissä olisi otettava huomioon viimeisintä kehitystä edustavat menetelmät ja asiaankuuluvat sovellettavat normit energiankäytön, luonnonvarojen käytön ja jätteen vähentämiseksi sekä niiden energiatehokkuuden ja järjestelmien yleisen tehokkuuden parantamiseksi. Tämän asetuksen soveltamisen kannalta merkittäviä tekoälyjärjestelmien ympäristönäkökohtia ovat tekoälyjärjestelmän energiankulutus kehitys-, koulutus- ja käyttöönottovaiheessa sekä näiden tietojen kirjaaminen, raportointi ja tallentaminen. Tekoälyjärjestelmien suunnittelun olisi mahdollistettava energian ja luonnonvarojen kulutuksen mittaaminen ja asiaan liittyvien lokitietojen tuottaminen jokaisessa kehitys-, koulutus- ja käyttöönottovaiheessa. Tekoälyjärjestelmien päästöjen seurannan ja raportoinnin on oltava luotettavaa, avointa, johdonmukaista ja täsmällistä. Jotta voidaan varmistaa tämän asetuksen yhdenmukainen soveltaminen ja vakaa oikeudellinen ekosysteemi tarjoajille ja käyttöönottajille sisämarkkinoilla, komission olisi laadittava yhteiset eritelmät menetelmistä energian ja luonnonvarojen kulutusta kehitys-, koulutus- ja käyttöönottovaiheessa koskevan raportointi- ja dokumentointivaatimuksen täyttämiseksi. Tällaisilla mittausmenetelmiä koskevilla yhteisillä eritelmillä voidaan luoda perustaso, jonka perusteella komissio voi paremmin päättää, tarvitaanko tulevia sääntelytoimia, tehtyään vaikutustenarvioinnin, jossa otetaan huomioon voimassa oleva lainsäädäntö.

Tarkistus  83

 

Ehdotus asetukseksi

Johdanto-osan 46 b kappale (uusi)

Komission teksti	Tarkistus
	(46 b) Tämän asetuksen tavoitteiden saavuttamiseksi ja unionin ympäristötavoitteiden edistämiseksi samalla kun varmistetaan sisämarkkinoiden moitteeton toiminta voi olla tarpeen antaa kestävyyttä koskevia suosituksia ja ohjeita sekä mahdollisesti asettaa sitä koskevia tavoitteita. Tätä varten komissiolla on oikeus kehittää menetelmä, jolla edistetään keskeisten tulosindikaattoreiden ja kestävän kehityksen tavoitteita koskevan viitekehyksen käyttöönottoa. Tavoitteena olisi ensisijaisesti oltava, että mahdollistetaan oikeudenmukainen vertailu tekoälyn täytäntöönpanovalintojen välillä ja tarjotaan kannustimia tehokkaampien tekoälyteknologioiden käytön edistämiseksi ja energia- ja luonnonvarakysymysten käsittelemiseksi. Tämän tavoitteen saavuttamiseksi tässä asetuksessa olisi säädettävä keinoista kehitys- ja koulutusvaiheen sekä käyttöönoton päästöistä ilmoitettujen tietojen perustason keräämisen järjestämiseksi.

Tarkistus  84

 

Ehdotus asetukseksi

Johdanto-osan 47 a kappale (uusi)

Komission teksti	Tarkistus
	(47a) Tällaisten tekoälyn päätöksenteon läpinäkyvyyttä ja selitettävyyttä koskevien vaatimusten olisi myös autettava torjumaan digitaaliseen epäsymmetriaan sekä yksilöihin ja heidän tietoiseen suostumukseen kohdistettuun dark patterns -tekniikkaan liittyviä pelotevaikutuksia.

Tarkistus  85

 

Ehdotus asetukseksi

Johdanto-osan 49 kappale

Komission teksti	Tarkistus
(49) Suuririskisten tekoälyjärjestelmien olisi toimittava johdonmukaisesti koko elinkaarensa ajan ja saavutettava asianmukainen tarkkuuden, luotettavuuden ja kyberturvallisuuden taso yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti.Tarkkuustaso ja tarkkuusmittarit olisi ilmoitettava käyttäjille.	(49) Suuririskisten tekoälyjärjestelmien olisi toimittava johdonmukaisesti koko elinkaarensa ajan ja saavutettava asianmukainen tarkkuuden, luotettavuuden ja kyberturvallisuuden taso yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti. Suorituskykymittarit ja niiden odotettu taso olisi määriteltävä niin, että ensisijaisena tavoitteena on tekoälyjärjestelmän riskien ja kielteisten vaikutusten vähentäminen. Suorituskykymittareiden odotettu taso olisi ilmoitettava käyttöönottajille selkeästi, avoimesti, helppotajuisesti ja ymmärrettävästi. Suorituskykymittareiden ilmoittamista ei voida pitää todisteena tulevasta tasosta, vaan on sovellettava asiaankuuluvia menetelmiä yhdenmukaisen tason varmistamiseksi käytön aikana. Olemassa olevat standardointiorganisaatiot voivat vahvistaa standardit mutta vertailuanalyyseja on koordinoitava sen määrittämiseksi, miten tekoälyjärjestelmien standardoituja vaatimuksia ja ominaisuuksia olisi mitattava. Euroopan tekoälyviraston olisi tuotava yhteen kansalliset ja kansainväliset metrologia- ja vertailuanalyysiviranomaiset ja annettava ei-sitovaa ohjeistusta, jotta voidaan ratkaista asianmukaisen suorituskyvyn ja luotettavuuden tasojen mittaamiseen liittyvät tekniset näkökohdat.

Tarkistus  86

 

Ehdotus asetukseksi

Johdanto-osan 50 kappale

Komission teksti	Tarkistus
(50) Tekninen luotettavuus on yksi suuririskisten tekoälyjärjestelmien keskeinen vaatimus. Niiden olisi kestettävä järjestelmän rajoituksiin liittyviä riskejä (esim. virheet, viat, epäjohdonmukaisuudet, odottamattomat tilanteet) sekä ilkivaltaisia toimia, jotka voivat vaarantaa tekoälyjärjestelmän turvallisuuden ja johtaa haitalliseen tai muuten ei-toivottuun käyttäytymiseen. Se, ettei näiltä riskeiltä suojauduta, voi johtaa turvallisuusvaikutuksiin tai vaikuttaa kielteisesti perusoikeuksiin esimerkiksi virheellisten päätösten tai tekoälyjärjestelmän tuottamien väärien tai puolueellisten tulosten vuoksi.	(50) Tekninen luotettavuus on yksi suuririskisten tekoälyjärjestelmien keskeinen vaatimus. Niiden olisi kestettävä järjestelmän rajoituksiin liittyviä riskejä (esim. virheet, viat, epäjohdonmukaisuudet, odottamattomat tilanteet) sekä ilkivaltaisia toimia, jotka voivat vaarantaa tekoälyjärjestelmän turvallisuuden ja johtaa haitalliseen tai muuten ei-toivottuun käyttäytymiseen. Se, ettei näiltä riskeiltä suojauduta, voi johtaa turvallisuusvaikutuksiin tai vaikuttaa kielteisesti perusoikeuksiin esimerkiksi virheellisten päätösten tai tekoälyjärjestelmän tuottamien väärien tai puolueellisten tulosten vuoksi. Tekoälyjärjestelmän käyttäjien olisi toteutettava toimia, joilla varmistetaan, ettei mahdollinen kompromissi luotettavuuden ja tarkkuuden välillä johda vähemmistöön kuuluvien alaryhmien kannalta syrjiviin tai kielteisiin tuloksiin.

Tarkistus  87

 

Ehdotus asetukseksi

Johdanto-osan 51 kappale

Komission teksti	Tarkistus
(51) Kyberturvallisuudella on ratkaiseva merkitys varmistettaessa, että tekoälyjärjestelmät kestävät järjestelmän haavoittuvuuksia hyödyntävien vihamielisten kolmansien osapuolten yritykset muuttaa niiden käyttöä, käyttäytymistä tai suorituskykyä tai vaarantaa niiden turvallisuusominaisuudet. Tekoälyjärjestelmiin kohdistuvissa kyberhyökkäyksissä voidaan käyttää hyväksi tekoälyyn liittyviä resursseja, kuten koulutusdatajoukkoja (esim. datamyrkytys) tai koulutettuja malleja (esim. kontradiktoriset hyökkäykset), tai hyödyntää tekoälyjärjestelmän digitaalisten resurssien tai taustalla olevan tieto- ja viestintätekniikkainfrastruktuurin haavoittuvuuksia. Jotta voidaan varmistaa riskeihin nähden asianmukainen kyberturvallisuuden taso, suuririskisten tekoälyjärjestelmien tarjoajien olisi toteutettava asianmukaisia toimenpiteitä ottaen tarvittaessa huomioon myös taustalla oleva tieto- ja viestintätekniikkainfrastruktuuri.	(51) Kyberturvallisuudella on ratkaiseva merkitys varmistettaessa, että tekoälyjärjestelmät kestävät järjestelmän haavoittuvuuksia hyödyntävien vihamielisten kolmansien osapuolten yritykset muuttaa niiden käyttöä, käyttäytymistä tai suorituskykyä tai vaarantaa niiden turvallisuusominaisuudet. Tekoälyjärjestelmiin kohdistuvissa kyberhyökkäyksissä voidaan käyttää hyväksi tekoälyyn liittyviä resursseja, kuten koulutusdatajoukkoja (esim. datamyrkytys) tai koulutettuja malleja (esim. kontradiktoriset hyökkäykset tai luottamuksellisuuteen kohdistuvat hyökkäykset), tai hyödyntää tekoälyjärjestelmän digitaalisten resurssien tai taustalla olevan tieto- ja viestintätekniikkainfrastruktuurin haavoittuvuuksia. Jotta voidaan varmistaa riskeihin nähden asianmukainen kyberturvallisuuden taso, suuririskisten tekoälyjärjestelmien tarjoajien sekä ilmoitettujen laitosten, toimivaltaisten kansallisten viranomaisten ja markkinavalvontaviranomaisten olisi toteutettava asianmukaisia toimenpiteitä ottaen tarvittaessa huomioon myös taustalla oleva tieto- ja viestintätekniikkainfrastruktuuri. Suuririskisiin tekoälyjärjestelmiin olisi oltava saatavilla turvaratkaisuja ja korjaustiedostoja tuotteen koko käyttöiän ajan tai tuoteneutraaleissa tapauksissa valmistajan ilmoittaman ajan.

Tarkistus  88

 

Ehdotus asetukseksi

Johdanto-osan 53 a kappale (uusi)

Komission teksti	Tarkistus
	(53 a) Vammaisten henkilöiden oikeuksia koskevan Yhdistyneiden kansakuntien yleissopimuksen allekirjoittajina unioni ja jäsenvaltiot ovat oikeudellisesti velvoitettuja suojelemaan vammaisia henkilöitä syrjinnältä ja edistämään heidän yhdenvertaisuuttaan, varmistamaan, että vammaiset henkilöt voivat käyttää tieto- ja viestintäteknologiaa ja -järjestelmiä yhdenvertaisesti muiden kanssa, ja varmistamaan vammaisten henkilöiden yksityisyyden kunnioittamisen. Koska tekoälyjärjestelmät ovat yhä tärkeämpiä ja niitä käytetään yhä enemmän, yleismaailmallisten suunnitteluperiaatteiden soveltamisella kaikkiin uusiin teknologioihin ja palveluihin olisi varmistettava kaikille, joihin tekoälyteknologia mahdollisesti vaikuttaa tai jotka käyttävät sitä, myös vammaisille henkilöille, täysimääräinen, tasapuolinen ja rajoittamaton mahdollisuus käyttää niitä tavalla, jossa otetaan kaikilta osin huomioon heidän ihmisarvonsa ja monimuotoisuutensa. Sen vuoksi on olennaisen tärkeää, että tarjoajat varmistavat esteettömyysvaatimusten, kuten direktiivin (EU) 2016/2102 ja direktiivin (EU) 2019/882, täysimääräisen noudattamisen. Tarjoajien olisi varmistettava, että näitä vaatimuksia noudatetaan sisäänrakennetusti. Sen vuoksi tarvittavat toimenpiteet olisi sisällytettävä mahdollisuuksien mukaan suuririskisen tekoälyjärjestelmän suunnitteluun.

Tarkistus  89

 

Ehdotus asetukseksi

Johdanto-osan 54 kappale

Komission teksti	Tarkistus
(54) Tarjoajan olisi perustettava luotettava laadunhallintajärjestelmä, varmistettava vaaditun vaatimustenmukaisuuden arviointimenettelyn suorittaminen, laadittava asiaa koskeva dokumentaatio ja perustettava vankka markkinoille saattamisen jälkeinen seurantajärjestelmä. Viranomaiset, jotka ottavat käyttöön suuririskisiä tekoälyjärjestelmiä omaan käyttöönsä, voivat tarvittaessa hyväksyä ja panna täytäntöön laadunhallintajärjestelmää koskevat säännöt osana kansallisella tai alueellisella tasolla hyväksyttyä laadunhallintajärjestelmää ottaen huomioon alan erityispiirteet ja kyseisen viranomaisen toimivallan ja organisaation.	(54) Tarjoajan olisi perustettava luotettava laadunhallintajärjestelmä, varmistettava vaaditun vaatimustenmukaisuuden arviointimenettelyn suorittaminen, laadittava asiaa koskeva dokumentaatio ja perustettava vankka markkinoille saattamisen jälkeinen seurantajärjestelmä. Tarjoajilta, joilla on jo käytössä standardeihin, kuten ISO 9001 -standardiin tai muihin asiaankuuluviin standardeihin, perustuvia laadunhallintajärjestelmiä, ei pitäisi edellyttää täysimääräistä päällekkäistä laadunhallintajärjestelmää vaan pikemmin tarjoajien nykyisten järjestelmien mukauttamista tämän asetuksen erityisvaatimusten noudattamiseen liittyvien tiettyjen näkökohtien mukaisesti. Tämä olisi otettava huomioon myös tulevassa standardoinnissa tai komission antamissa asiaa koskevissa ohjeissa. Viranomaiset, jotka ottavat käyttöön suuririskisiä tekoälyjärjestelmiä omaan käyttöönsä, voivat tarvittaessa hyväksyä ja panna täytäntöön laadunhallintajärjestelmää koskevat säännöt osana kansallisella tai alueellisella tasolla hyväksyttyä laadunhallintajärjestelmää ottaen huomioon alan erityispiirteet ja kyseisen viranomaisen toimivallan ja organisaation.

Tarkistus  90

 

Ehdotus asetukseksi

Johdanto-osan 56 kappale

Komission teksti	Tarkistus
(56) Tämän asetuksen täytäntöönpanon mahdollistamiseksi ja tasapuolisten toimintaedellytysten luomiseksi toimijoille ja ottaen huomioon digitaalisten tuotteiden saataville asettamisen eri muodot on tärkeää varmistaa, että unioniin sijoittautunut henkilö voi kaikissa olosuhteissa antaa viranomaisille kaikki tarvittavat tiedot tekoälyjärjestelmän vaatimustenmukaisuudesta. Siksi jos maahantuojaa ei voida yksilöidä, unionin ulkopuolelle sijoittautuneiden tarjoajien on ennen tekoälyjärjestelmiensä asettamista saataville unionin markkinoilla nimettävä kirjallisella toimeksiannolla unioniin sijoittautunut valtuutettu edustaja.	(56) Tämän asetuksen täytäntöönpanon mahdollistamiseksi ja tasapuolisten toimintaedellytysten luomiseksi toimijoille ja ottaen huomioon digitaalisten tuotteiden saataville asettamisen eri muodot on tärkeää varmistaa, että unioniin sijoittautunut henkilö voi kaikissa olosuhteissa antaa viranomaisille kaikki tarvittavat tiedot tekoälyjärjestelmän vaatimustenmukaisuudesta. Siksi unionin ulkopuolelle sijoittautuneiden tarjoajien on ennen tekoälyjärjestelmiensä asettamista saataville unionin markkinoilla nimettävä kirjallisella toimeksiannolla unioniin sijoittautunut valtuutettu edustaja.

Tarkistus  91

 

Ehdotus asetukseksi

Johdanto-osan 58 kappale

Komission teksti	Tarkistus
(58) Kun otetaan huomioon tekoälyjärjestelmien luonne ja niiden käyttöön mahdollisesti liittyvät turvallisuuteen ja perusoikeuksiin kohdistuvat riskit, mukaan lukien tarve varmistaa tekoälyjärjestelmän suorituskyvyn asianmukainen seuranta todellisissa olosuhteissa, on asianmukaista asettaa käyttäjille erityisiä vastuita. Käyttäjien olisi erityisesti käytettävä suuririskisiä tekoälyjärjestelmiä käyttöohjeiden mukaisesti, ja tarvittaessa olisi säädettävä tietyistä muista tekoälyjärjestelmien toiminnan seurantaa ja tietojen säilyttämistä koskevista velvoitteista.	(58) Kun otetaan huomioon tekoälyjärjestelmien luonne ja niiden käyttöön mahdollisesti liittyvät turvallisuuteen ja perusoikeuksiin kohdistuvat riskit, mukaan lukien tarve varmistaa tekoälyjärjestelmän suorituskyvyn asianmukainen seuranta todellisissa olosuhteissa, on asianmukaista asettaa käyttöönottajille erityisiä vastuita. Käyttöönottajien olisi erityisesti käytettävä suuririskisiä tekoälyjärjestelmiä käyttöohjeiden mukaisesti, ja tarvittaessa olisi säädettävä tietyistä muista tekoälyjärjestelmien toiminnan seurantaa ja tietojen säilyttämistä koskevista velvoitteista.

Tarkistus  92

 

Ehdotus asetukseksi

Johdanto-osan 58 a kappale (uusi)

Komission teksti	Tarkistus
	(58 a) Vaikka tekoälyjärjestelmiin liittyvät riskit voivat olla seurausta tavasta, jolla tällaiset järjestelmät suunnitellaan, riskit voivat myös johtua siitä, miten tällaisia tekoälyjärjestelmiä käytetään. Suuririskisen tekoälyjärjestelmän käyttöönottajilla on siksi ratkaiseva rooli sen varmistamisessa, että perusoikeuksia suojellaan ja että ne täydentävät tarjoajan velvoitteita, kun tekoälyjärjestelmää kehitetään. Käyttöönottajilla on parhaat mahdollisuudet ymmärtää, miten suuririskistä tekoälyjärjestelmää käytetään konkreettisesti, ja näin ollen he voivat tunnistaa mahdollisia merkittäviä riskejä, joita ei ollut ennakoitu kehitysvaiheessa, koska he tuntevat tarkemmin käyttöyhteyden, ihmiset tai ihmisryhmät, joihin vaikutukset todennäköisesti kohdistuvat, mukaan lukien syrjäytyneet ja haavoittuvat ryhmät. Käyttöönottajien olisi yksilöitävä kyseisessä käyttöyhteydessä asianmukaiset hallintorakenteet, kuten ihmisen suorittamaa valvontaa, valitustenkäsittelymenettelyjä ja muutoksenhakumenettelyjä koskevat järjestelyt, koska hallintorakenteita koskevat valinnat voivat olla keskeisessä asemassa lievennettäessä perusoikeuksiin kohdistuvia riskejä konkreettisissa käyttötapauksissa. Jotta voidaan tehokkaasti varmistaa perusoikeuksien suojelu, suuririskisten tekoälyjärjestelmien käyttöönottajien olisi ennen niiden käyttöönottoa tehtävä perusoikeusvaikutusten arviointi. Vaikutustenarviointiin olisi liitettävä yksityiskohtainen suunnitelma, jossa kuvataan toimenpiteitä tai välineitä, jotka auttavat vähentämään yksilöityihin perusoikeuksiin kohdistuvia riskejä viimeistään järjestelmän käyttöönottovaiheessa. Jos tällaista suunnitelmaa ei voida laatia, käyttöönottajan ei pitäisi ottaa järjestelmää käyttöön. Käyttöönottajan olisi vaikutustenarvioinnin toteuttamisvaiheessa ilmoitettava asiasta kansalliselle valvontaviranomaiselle ja mahdollisuuksien mukaan asiaankuuluville sidosryhmille sekä sellaisten henkilöryhmien edustajille, joihin tekoälyjärjestelmä todennäköisesti vaikuttaa, kerätäkseen asiaankuuluvia tietoja, jotka katsotaan tarpeellisiksi vaikutustenarvioinnin suorittamiseksi, ja heitä kannustetaan asettamaan yhteenveto perusoikeusvaikutusten arvioinnistaan julkisesti saataville verkkosivustollaan. Näitä velvoitteita ei pitäisi soveltaa pk-yrityksiin, joiden voi vähäisten resurssien vuoksi olla vaikea järjestää tällaista kuulemista. Näiden olisi kuitenkin myös pyrittävä ottamaan tällaiset edustajat mukaan, kun ne suorittavat perusoikeusvaikutusten arviointiaan. Lisäksi mahdollinen vaikutus ja demokraattisen valvonnan tarve huomioon ottaen suuririskisten tekoälyjärjestelmien käyttöönottajia, jotka ovat viranomaisia tai unionin toimielimiä, elimiä tai laitoksia, tai asetuksen (EU) 2022/1925 nojalla portinvartijaksi nimettyjä yrityksiä, olisi vaadittava rekisteröimään suuririskisten tekoälyjärjestelmien käyttö julkiseen tietokantaan. Muut käyttöönottajat voivat rekisteröidä käytön vapaaehtoisesti.

Tarkistus  93

 

Ehdotus asetukseksi

Johdanto-osan 59 kappale

Komission teksti	Tarkistus
(59) Tekoälyjärjestelmän käyttäjän olisi ymmärrettävä tarkoittavan luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, jonka valvonnassa tekoälyjärjestelmää käytetään, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa.	(59) Tekoälyjärjestelmän käyttöönottajan olisi ymmärrettävä tarkoittavan luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, jonka valvonnassa tekoälyjärjestelmää käytetään, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa.

Tarkistus  94

 

Ehdotus asetukseksi

Johdanto-osan 60 kappale

Komission teksti	Tarkistus
(60) Tekoälyn arvoketjun monimutkaisuuden vuoksi asiaankuuluvien kolmansien osapuolten, erityisesti ohjelmistojen, ohjelmistotyökalujen ja komponenttien sekä ennalta koulutettujen mallien ja datan myyntiin ja toimittamiseen osallistuvien kolmansien osapuolten tai verkkopalvelujen tarjoajien, olisi tarpeen mukaan tehtävä yhteistyötä tarjoajien ja käyttäjien kanssa, jotta ne voivat noudattaa tämän asetuksen mukaisia velvoitteitaan, sekä tämän asetuksen nojalla perustettujen toimivaltaisten viranomaisten kanssa.	(60) Tekoälyn arvoketjussa usein useat toimijat toimittavat välineitä ja palveluja mutta myös komponentteja tai prosesseja, jotka tarjoaja sisällyttää tekoälyjärjestelmään, mukaan lukien tietojen keruu ja esikäsittely, mallien kouluttaminen ja uudelleenkouluttaminen, mallien testaus ja arviointi, integrointi ohjelmistoihin tai muut mallien kehittämisen näkökohdat. Toimijat voivat asettaa tarjontansa kaupallisesti saataville suoraan tai välillisesti rajapintojen, kuten sovellusrajapintojen (API), kautta ja jakaa niitä vapaalla ja avoimen lähdekoodin lisenssillä mutta yhä enemmän myös tekoälyn työvoima-alustojen, koulutettujen parametrien edelleenmyynnin ja mallinkehittämisen omatoimipakettien kautta tai tarjoamalla malliarkkitehtuurin maksullista käyttöoikeutta mallien kehittämiseksi ja kouluttamiseksi. Tämän tekoälyn arvoketjun monimutkaisuuden vuoksi kaikkien asiaankuuluvien kolmansien osapuolten, erityisesti ohjelmistotyökalujen, komponenttien, ennalta koulutettujen mallien tai tekoälyjärjestelmään sisällytetyn datan kehittämiseen, myyntiin ja kaupalliseen jakeluun osallistuvien kolmansien osapuolten tai verkkopalvelujen tarjoajien, olisi omia teollis- ja tekijänoikeuksiaan tai liikesalaisuuksiaan vaarantamatta tarpeen mukaan asetettava saataville vaadittava tieto, koulutus tai asiantuntemus ja tehtävä yhteistyötä tarjoajien kanssa, jotta ne voivat valvoa tämän asetuksen soveltamisalaan kuuluvan tekoälyjärjestelmän kaikkia vaatimustenmukaisuuden kannalta olennaisia näkökohtia. Jotta tekoälyn arvoketjun hallinta olisi kustannustehokasta, kunkin kolmannen osapuolen, joka toimittaa tarjoajalle välineen, palvelun, komponentin tai prosessin, jonka tarjoaja myöhemmin sisällyttää tekoälyjärjestelmään, on nimenomaisesti ilmoitettava valvonnan taso.

Tarkistus  95

 

Ehdotus asetukseksi

Johdanto-osan 60 a kappale (uusi)

Komission teksti	Tarkistus
	(60 a) Jos yhdellä osapuolella on vahvempi neuvotteluasema, on olemassa riski, että kyseinen osapuoli voisi hyödyntää tällaista asemaa toisen sopimuspuolen vahingoksi, kun neuvotellaan suuririskiseen tekoälyjärjestelmään käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamisesta taikka asiaan liittyvien velvoitteiden rikkomista tai lopettamista koskevista oikeussuojakeinoista. Tällainen sopimuksiin liittyvä epätasapaino aiheuttaa erityisesti haittaa mikroyrityksille, pienille ja keskisuurille sekä startup-yrityksille, paitsi jos ne ovat sellaisen yrityksen omistuksessa tai toimivat alihankkijana sellaiselle yritykselle, joka pystyy maksamaan alihankkijalle asianmukaisen korvauksen, koska niillä ei ole valmiuksia neuvotella sopimusehdoista eikä kenties muuta mahdollisuutta kuin hyväksyä yksipuoliset sopimusehdot. Näin ollen kohtuuttomien sopimusehtojen, jotka koskevat suuririskisessä tekoälyjärjestelmässä käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamista taikka asiaan liittyvien velvoitteiden rikkomista tai lopettamista koskevia oikeussuojakeinoja, ei pitäisi sitoa tällaisia mikroyrityksiä, pieniä ja keskisuuria sekä startup-yrityksiä, kun ne on asetettu niille yksipuolisesti.

Tarkistus  96

 

Ehdotus asetukseksi

Johdanto-osan 60 b kappale (uusi)

Komission teksti	Tarkistus
	(60 b) Sopimusehtoja koskevissa säännöissä olisi otettava huomioon sopimusvapauden periaate, joka on olennainen käsite yritysten välisissä suhteissa. Kohtuuttomuuden arviointia koskevaa testiä ei näin ollen pitäisi tehdä kaikille sopimusehdoille vaan ainoastaan mikroyrityksille, pienille ja keskisuurille sekä startup-yrityksille yksipuolisesti asetetuille ehdoille. Tämä koskee ”ota tai jätä” -tilanteita, joissa toinen osapuoli laatii tietyn sopimusehdon eikä mikroyritys, pieni tai keskisuuri taikka startup-yritys voi vaikuttaa kyseisen ehdon sisältöön, vaikka se yrittää neuvotella siitä. Sopimusehtoa, jonka yksi osapuoli on antanut ja jonka mikroyritys, pieni tai keskisuuri tai startup-yritys on hyväksynyt, tai ehtoa, josta neuvotellaan ja sen jälkeen sovitaan muutetussa muodossa sopimuspuolten välillä, ei pitäisi pitää yksipuolisesti asetettuna ehtona.

Tarkistus  97

 

Ehdotus asetukseksi

Johdanto-osan 60 c kappale (uusi)

Komission teksti	Tarkistus
	(60 c) Lisäksi kohtuuttomia sopimusehtoja koskevia sääntöjä pitäisi soveltaa ainoastaan sopimuksen niihin osatekijöihin, jotka koskevat suuririskiseen tekoälyjärjestelmään käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamista taikka asiaan liittyvien velvoitteiden rikkomista tai lopettamista koskevia oikeussuojakeinoja. Tässä asetuksessa säädettyä kohtuuttomuustestiä ei pitäisi tehdä muille saman sopimuksen osille, jotka eivät liity näihin osatekijöihin.

Tarkistus  98

 

Ehdotus asetukseksi

Johdanto-osan 60 d kappale (uusi)

Komission teksti	Tarkistus
	(60 d) Kohtuuttomien sopimusehtojen tunnistamisperusteita olisi sovellettava vain liiallisiin sopimusehtoihin, joissa vahvempaa neuvotteluasemaa käytetään väärin. Valtaosa niistä sopimusehdoista, jotka ovat toiselle osapuolelle kaupallisesti edullisempia kuin toiselle, mukaan lukien sopimusehdot, jotka ovat tavanomaisia yritysten välisissä sopimuksissa, ilmentää normaalilla tavalla sopimusvapauden periaatetta, ja niitä sovelletaan edelleen. Jos sopimusehto ei sisälly niiden ehtojen luetteloon, jotka katsotaan aina kohtuuttomiksi, sovelletaan yleistä kohtuuttomuussäännöstä. Tältä osin kohtuuttomien ehtojen luettelossa olevia ehtoja olisi käytettävä mittapuuna tulkittaessa yleistä kohtuuttomuussäännöstä.

Tarkistus  99

 

Ehdotus asetukseksi

Johdanto-osan 60 e kappale (uusi)

Komission teksti	Tarkistus
	(60 e) Perusmallit edustavat viimeaikaista kehitystä, ja niissä tekoälymalleja kehitetään algoritmeista, jotka on suunniteltu optimoimaan tuotosten yleisyys ja monipuolisuus. Näitä malleja koulutetaan usein monenlaisilla datalähteillä ja suurilla datamäärillä, jotta ne voivat suorittaa kattavasti toimintaketjun loppupään tehtäviä ja myös sellaisia tehtäviä, joita varten niitä ei ole erityisesti kehitetty ja koulutettu. Perusmalli voi olla yksi- tai multimodaalinen, ja sitä voidaan kouluttaa erilaisin menetelmin, kuten ohjatulla oppimisella tai vahvistusoppimisella. Jotakin perusmallia voidaan toteuttaa tietyn käyttötarkoituksen tekoälyjärjestelmillä tai yleiskäyttöisillä tekoälyjärjestelmillä, mikä tarkoittaa, että kutakin perusmallia voidaan käyttää uudelleen lukemattomissa ketjun loppupään tekoälyjärjestelmissä tai yleiskäyttöisissä tekoälyjärjestelmissä. Nämä mallit ovat yhä tärkeämpiä monille ketjun loppupään sovelluksille ja järjestelmille.

Tarkistus  100

 

Ehdotus asetukseksi

Johdanto-osan 60 f kappale (uusi)

Komission teksti	Tarkistus
	(60 f) Jos perusmallit tarjotaan palveluna, kuten esimerkiksi sovellusrajapintojen kautta, yhteistyön ketjun loppupään tarjoajien kanssa olisi jatkuttava koko sen ajan, jona kyseistä palvelua tarjotaan ja tuetaan, jotta riskien asianmukainen lieventäminen on mahdollista, paitsi jos perusmallin tarjoaja siirtää koulutusmallin sekä välittää kattavat ja asianmukaiset tiedot järjestelmän datajoukoista ja kehittämisprosessista tai rajoittaa palvelua, kuten sovellusrajapintaa, siten, että ketjun loppupään tarjoaja pystyy noudattamaan tätä asetusta täysimääräisesti ilman perusmallin alkuperäisen tarjoajan lisätukea.

Tarkistus  101

 

Ehdotus asetukseksi

Johdanto-osan 60 g kappale (uusi)

Komission teksti	Tarkistus
	(60 g) Tekoälyjärjestelmien arvoketjun luonteen ja monitahoisuuden vuoksi on tärkeää selkeyttää tekoälyjärjestelmien kehittämiseen osallistuvien toimijoiden roolia. On hyvin epävarmaa, miten perusmallit tulevat kehittymään paitsi luokittelunsa myös niiden itsehallinnon osalta. Sen vuoksi on olennaisen tärkeää selventää perusmallien tarjoajien oikeudellista asemaa. Kun otetaan huomioon näiden mallien monimutkaisuus ja odottamattomat vaikutukset, se, että ketjun loppupään tekoälyn tarjoajalla ei ole määräysvaltaa perusmallin kehittämiseen ja tästä johtuva valtasuhteiden epätasapaino, ja jotta voidaan varmistaa vastuiden oikeudenmukainen jakautuminen tekoälyn arvoketjussa, tällaisiin malleihin olisi sovellettava tämän asetuksen mukaisesti oikeasuhteisia ja täsmällisempiä vaatimuksia ja velvoitteita. Perusmallien yhteydessä olisi arvioitava ja vähennettävä mahdollisia riskejä ja haittoja asianmukaisen suunnittelun, testauksen ja analysoinnin avulla, niissä olisi toteutettava datan hallinnan toimenpiteitä, mukaan lukien vinoutumien arviointi, ja niiden olisi täytettävä tekniset suunnitteluvaatimukset, jotta varmistetaan asiaankuuluvat suorituskyvyn, ennustettavuuden, tulkittavuuden, korjattavuuden, turvallisuuden ja kyberturvallisuuden tasot. Lisäksi niiden olisi oltava ympäristönormien mukaisia. Velvoitteiden lisäksi olisi sovellettava standardeja. Lisäksi perusmalleihin olisi sovellettava tiedonantovelvoitteita ja niihin liittyen olisi laadittava kaikki tarvittava tekninen dokumentaatio, jotta mahdolliset ketjun loppupään tarjoajat voivat täyttää tämän asetuksen mukaiset velvoitteensa. Generatiivisten perusmallien yhteydessä olisi varmistettava avoimuus sen suhteen, että sisällön tuottaa tekoälyjärjestelmä eikä ihminen. Nämä erityisvaatimukset ja -velvoitteet eivät tarkoita sitä, että perusmalleja pidettäisiin suuririskisinä tekoälyjärjestelminä, vaan niillä olisi taattava, että saavutetaan tämän asetuksen tavoitteet, jotka koskevat perusoikeuksien, terveyden ja turvallisuuden, ympäristön, demokratian ja oikeusvaltioperiaatteen suojelun korkean tason varmistamista. Ennalta koulutettuja malleja, jotka on kehitetty suppeampaan, vähemmän yleiseen ja rajoitetumpaan joukkoon sovelluksia, joita ei voida mukauttaa monenlaisiin tehtäviin, kuten yksinkertaisia monikäyttöisiä tekoälyjärjestelmiä, ei olisi pidettävä tässä asetuksessa tarkoitettuina perusmalleina, koska ne ovat paremmin tulkittavissa, minkä vuoksi niiden käyttäytymistä voidaan ennakoida paremmin.

Tarkistus  102

 

Ehdotus asetukseksi

Johdanto-osan 60 h kappale (uusi)

Komission teksti	Tarkistus
	(60 h) Perusmallien luonteen vuoksi vaatimustenmukaisuuden arviointia koskevaa asiantuntemusta ei ole riittävästi ja kolmannen osapuolen suorittaman tarkastuksen menetelmiä kehitetään edelleen. Ala onkin itse kehittämässä uusia perusmallien arvioinnin tapoja, jotka täyttävät osittain tarkastuksen tavoitteen (esim. mallin arviointi, nk. red teaming -testaus tai koneoppimisen todentamis- ja validointitekniikat). Perusmallien sisäisiä arviointeja olisi voitava soveltaa laajasti (esimerkiksi jakelukanavista, toimintatavoista ja kehitysmenetelmistä riippumattomasti), jotta voidaan puuttua tällaisiin malleihin liittyviin riskeihin ottaen huomioon alan viimeisimmät käytännöt ja keskittyä kehittämään riittävää teknistä ymmärrystä mallista ja sen valvontaa, kohtuullisesti ennakoitavissa olevien riskien hallintaa sekä mallin laajaa analysointia ja testausta asianmukaisin toimenpitein, kuten riippumattomien arvioijien avulla. Koska perusmallit edustavat uutta ja nopeasti etenevää kehitystä tekoälyn alalla, komission ja tekoälytoimiston on asianmukaista seurata ja arvioida säännöllisesti tällaisten mallien lainsäädännön ja hallinnan kehystä ja erityisesti tällaisiin malleihin perustuvien generatiivisten tekoälyjärjestelmien osalta, sillä ne herättävät merkittäviä kysymyksiä unionin oikeuden ja tekijänoikeussääntöjen vastaisen sisällön tuottamisesta ja mahdollisesta väärinkäytöstä. Olisi selvennettävä, että tämä asetus ei saisi vaikuttaa tekijänoikeutta ja lähioikeuksia koskevaan unionin lainsäädäntöön, mukaan lukien Euroopan parlamentin ja neuvoston direktiivit 2001/29/EY, 2004/48/EY ja (EU) 2019/790.

Tarkistus  103

 

Ehdotus asetukseksi

Johdanto-osan 61 kappale

Komission teksti	Tarkistus
(61) Standardoinnilla olisi oltava keskeinen rooli, jotta tarjoajien käyttöön saadaan teknisiä ratkaisuja, joilla voidaan varmistaa tämän asetuksen noudattaminen. Tarjoajien olisi voitava osoittaa noudattavansa tämän asetuksen vaatimuksia noudattamalla Euroopan parlamentin ja neuvoston asetuksessa (EU) N:o 1025/201254 määriteltyjä yhdenmukaistettuja standardeja. Komissio voisi kuitenkin hyväksyä yhteisiä teknisiä eritelmiä aloilla, joilla ei ole yhdenmukaistettuja standardeja tai joilla ne ovat riittämättömiä.	(61) Standardoinnilla olisi oltava keskeinen rooli, jotta tarjoajien käyttöön saadaan teknisiä ratkaisuja, joilla voidaan varmistaa tämän asetuksen noudattaminen. Tarjoajien olisi voitava osoittaa noudattavansa tämän asetuksen vaatimuksia noudattamalla Euroopan parlamentin ja neuvoston asetuksessa (EU) N:o 10252012/[1] määriteltyjä yhdenmukaistettuja standardeja. Jotta voidaan varmistaa standardien tehokkuus unionin politiikan välineinä ja ottaen huomioon standardien merkitys varmistettaessa tämän asetuksen vaatimusten noudattaminen ja yritysten kilpailukyvyn suhteen, on tarpeen turvata etujen tasapuolinen edustus ottamalla kaikki asiaankuuluvat sidosryhmät mukaan standardien kehittämiseen. Standardointiprosessin olisi oltava läpinäkyvä sen suhteen, mitä oikeushenkilöitä ja luonnollisia henkilöitä standardointitoimintaan osallistuu.
__________________	__________________
54 Euroopan parlamentin ja neuvoston asetus (EU) N:o 1025/2012, annettu 25 päivänä lokakuuta 2012, eurooppalaisesta standardoinnista, neuvoston direktiivien 89/686/ETY ja 93/15/ETY sekä Euroopan parlamentin ja neuvoston direktiivien 94/9/EY, 94/25/EY, 95/16/EY, 97/23/EY, 98/34/EY, 2004/22/EY, 2007/23/EY, 2009/23/EY ja 2009/105/EY muuttamisesta ja neuvoston päätöksen 87/95/ETY ja Euroopan parlamentin ja neuvoston päätöksen N:o 1673/2006/EY kumoamisesta (EUVL L 316, 14.11.2012, s. 12).	54 Euroopan parlamentin ja neuvoston asetus (EU) N:o 1025/2012, annettu 25 päivänä lokakuuta 2012, eurooppalaisesta standardoinnista, neuvoston direktiivien 89/686/ETY ja 93/15/ETY sekä Euroopan parlamentin ja neuvoston direktiivien 94/9/EY, 94/25/EY, 95/16/EY, 97/23/EY, 98/34/EY, 2004/22/EY, 2007/23/EY, 2009/23/EY ja 2009/105/EY muuttamisesta ja neuvoston päätöksen 87/95/ETY ja Euroopan parlamentin ja neuvoston päätöksen N:o 1673/2006/EY kumoamisesta (EUVL L 316, 14.11.2012, s. 12).

Tarkistus  104

 

Ehdotus asetukseksi

Johdanto-osan 61 a kappale (uusi)

Komission teksti	Tarkistus
	(61 a) Vaatimusten noudattamisen helpottamiseksi komission olisi esitettävä ensimmäiset standardointipyynnöt viimeistään kahden kuukauden kuluttua tämän asetuksen voimaantulosta. Näin voitaisiin parantaa oikeusvarmuutta ja siten edistää tekoälyyn tehtäviä investointeja ja innovointia sekä unionin markkinoiden kilpailukykyä ja kasvua ja samalla parantaa useiden sidosryhmien toteuttamaa hallintoa, jossa ovat edustettuina asiaankuuluvat eurooppalaiset sidosryhmät, kuten tekoälytoimisto, eurooppalaiset standardointiorganisaatiot ja unionin asiaankuuluvan alakohtaisen lainsäädännön mukaisesti perustetut elimet tai asiantuntijaryhmät sekä toimiala, pk-yritykset, startup-yritykset, kansalaisyhteiskunta, tutkijat ja työmarkkinaosapuolet, ja viime kädessä helpottaa maailmanlaajuista standardointiyhteistyötä tekoälyn alalla unionin arvojen mukaisesti. Standardointipyyntöä valmistellessaan komission olisi kuultava tekoälytoimistoa ja tekoälyä käsittelevää neuvoa-antavaa foorumia asiaankuuluvan asiantuntemuksen varmistamiseksi.

Tarkistus  105

 

Ehdotus asetukseksi

Johdanto-osan 61 b kappale (uusi)

Komission teksti	Tarkistus
	(61 b) Kun tekoälyjärjestelmiä on tarkoitus käyttää työpaikoilla, yhdenmukaistetut standardit olisi rajoitettava teknisiin eritelmiin ja menettelyihin.

Tarkistus  106

 

Ehdotus asetukseksi

Johdanto-osan 61 c kappale (uusi)

Komission teksti	Tarkistus
	(61 c) Komission olisi voitava hyväksyä yhteisiä eritelmiä tietyin edellytyksin, jos asiaankuuluvaa yhdenmukaistettua standardia ei ole tai perusoikeuksiin liittyvien erityisten huolenaiheiden ratkaisemiseksi. Koko laatimisprosessin ajan komission olisi kuultava säännöllisesti tekoälytoimistoa ja sen neuvoa-antavaa foorumia, eurooppalaisia standardointiorganisaatioita ja unionin asiaankuuluvan alakohtaisen lainsäädännön mukaisesti perustettuja elimiä tai asiantuntijaryhmiä sekä asiaankuuluvia sidosryhmiä, kuten toimialaa, pk-yrityksiä, startup-yrityksiä, kansalaisyhteiskuntaa, tutkijoita ja työmarkkinaosapuolia.

Tarkistus  107

 

Ehdotus asetukseksi

Johdanto-osan 61 d kappale (uusi)

Komission teksti	Tarkistus
	(61 d) Hyväksyessään yhteisiä eritelmiä komission olisi pyrittävä yhdenmukaistamaan tekoälyn sääntelyä samanmielisten maailmanlaajuisten kumppanien kanssa, mikä on olennaista innovoinnin ja rajatylittävien kumppanuuksien edistämiseksi tekoälyn alalla, sillä samanmielisten kumppanien kanssa tehtävällä koordinoinnilla kansainvälisissä standardointielimissä on erittäin suuri merkitys.

Tarkistus  108

 

Ehdotus asetukseksi

Johdanto-osan 62 kappale

Komission teksti	Tarkistus
(62) Jotta voidaan varmistaa suuririskisten tekoälyjärjestelmien korkea luotettavuus, kyseisille järjestelmille olisi tehtävä vaatimustenmukaisuuden arviointi ennen kuin ne saatetaan markkinoille tai otetaan käyttöön.	(62) Jotta voidaan varmistaa suuririskisten tekoälyjärjestelmien korkea luotettavuus, kyseisille järjestelmille olisi tehtävä vaatimustenmukaisuuden arviointi ennen kuin ne saatetaan markkinoille tai otetaan käyttöön. Lisätäkseen luottamusta arvoketjuun ja antaakseen yrityksille varmuuden järjestelmiensä suorituskyvystä, tekoälykomponentteja toimittavat kolmannet osapuolet voivat vapaaehtoisesti hakea kolmannen osapuolen suorittamaa vaatimustenmukaisuuden arviointia.

Tarkistus  109

 

Ehdotus asetukseksi

Johdanto-osan 64 kappale

Komission teksti	Tarkistus
(64) Kun otetaan huomioon, että markkinoille saattamista edeltävässä vaiheessa toimivilla ammattimaisilla sertifioijilla on laajempi kokemus tuoteturvallisuuden alalla, ja koska asiaan liittyvät riskit ovat luonteeltaan erilaisia, ainakin tämän asetuksen soveltamisen alkuvaiheessa on asianmukaista rajoittaa kolmannen osapuolen suorittaman vaatimustenmukaisuuden arvioinnin soveltamisalaa muiden kuin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien osalta. Sen vuoksi tarjoajan olisi pääsääntöisesti suoritettava tällaisten järjestelmien vaatimustenmukaisuuden arviointi omalla vastuullaan, lukuun ottamatta ainoastaan tekoälyjärjestelmiä, joita on tarkoitus käyttää henkilöiden biometriseen etätunnistukseen ja joiden osalta olisi säädettävä ilmoitetun laitoksen osallistumisesta vaatimustenmukaisuuden arviointiin, mikäli näitä järjestelmiä ei ole kielletty.	(64) Kun otetaan huomioon suuririskisten tekoälyjärjestelmien monimutkaisuus ja niihin liittyvät riskit, on olennaisen tärkeää kehittää asianmukaisemmat valmiudet kolmansien osapuolten suorittamaa suuririskisten tekoälyjärjestelmien vaatimustenmukaisuuden arviointia varten. Kun otetaan huomioon markkinoille saattamista edeltävässä vaiheessa toimivien ammattimaisten sertifioijien tämänhetkinen kokemus tuoteturvallisuuden alalla, ja koska asiaan liittyvät riskit ovat luonteeltaan erilaisia, ainakin tämän asetuksen soveltamisen alkuvaiheessa on asianmukaista rajoittaa kolmannen osapuolen suorittaman vaatimustenmukaisuuden arvioinnin soveltamisalaa muiden kuin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien osalta. Sen vuoksi tarjoajan olisi pääsääntöisesti suoritettava tällaisten järjestelmien vaatimustenmukaisuuden arviointi omalla vastuullaan, lukuun ottamatta ainoastaan tekoälyjärjestelmiä, joita on tarkoitus käyttää henkilöiden biometriseen etätunnistukseen, tai tekoälyjärjestelmiä, joita on tarkoitus käyttää päättelyjen tekemiseen luonnollisten henkilöiden henkilökohtaisista ominaisuuksista biometristen tai biometriikkaan perustuvien tietojen perusteella, tunteentunnistusjärjestelmät mukaan lukien, ja joiden osalta olisi säädettävä ilmoitetun laitoksen osallistumisesta vaatimustenmukaisuuden arviointiin, mikäli näitä järjestelmiä ei ole kielletty.

Tarkistus  110

 

Ehdotus asetukseksi

Johdanto-osan 65 kappale

Komission teksti	Tarkistus
(65) Jotta tekoälyjärjestelmille, joita on tarkoitus käyttää henkilöiden biometriseen etätunnistukseen, voidaan tehdä kolmannen osapuolen suorittama vaatimustenmukaisuuden arviointi, kansallisten toimivaltaisten viranomaisten olisi nimettävä tämän asetuksen nojalla ilmoitetut laitokset edellyttäen, että ne täyttävät tietyt vaatimukset, jotka koskevat erityisesti riippumattomuutta, pätevyyttä ja eturistiriitojen puuttumista.	(65) Jotta kolmannen osapuolen suorittamat vaatimustenmukaisuuden arvioinnit voidaan vaadittaessa toteuttaa, kansallisten toimivaltaisten viranomaisten olisi nimettävä tämän asetuksen nojalla ilmoitetut laitokset edellyttäen, että ne täyttävät tietyt vaatimukset, jotka koskevat erityisesti riippumattomuutta, pätevyyttä, eturistiriitojen puuttumista ja kyberturvallisuutta koskevia vähimmäisvaatimuksia. Jäsenvaltioiden olisi kannustettava nimeämään riittävä määrä vaatimustenmukaisuuden arviointilaitoksia, jotta sertifiointi voidaan toteuttaa oikea-aikaisesti. Vaatimustenmukaisuuden arviointilaitosten arviointia, nimeämistä, ilmoittamista ja valvontaa koskevat menettelyt olisi toteutettava jäsenvaltioissa mahdollisimman yhdenmukaisesti, jotta voidaan poistaa hallinnolliset esteet ja varmistaa sisämarkkinoiden potentiaalin toteutuminen.

Tarkistus  111

 

Ehdotus asetukseksi

Johdanto-osan 65 a kappale (uusi)

Komission teksti	Tarkistus
	(65 a) Maailman kauppajärjestön sopimukseen kaupan teknisistä esteistä perustuvien unionin sitoumusten mukaisesti on asianmukaista maksimoida toimivaltaisten vaatimustenmukaisuuden arviointilaitosten tuottamien testitulosten hyväksyminen riippumatta siitä, mille alueelle ne ovat sijoittautuneet, jos se on tarpeen sen osoittamiseksi, että ne ovat asetuksen sovellettavien vaatimusten mukaisia. Komission olisi aktiivisesti selvitettävä tätä tarkoitusta varten mahdollisia kansainvälisiä välineitä ja erityisesti pyrittävä tekemään vastavuoroista tunnustamista koskevia sopimuksia sellaisten maiden kanssa, jotka ovat tekniseltä kehitykseltään vastaavalla tasolla ja joilla on yhteensopiva lähestymistapa tekoälyyn ja vaatimustenmukaisuuden arviointiin.

Tarkistus  112

 

Ehdotus asetukseksi

Johdanto-osan 66 kappale

Komission teksti	Tarkistus
(66) Unionin yhdenmukaistamislainsäädännössä säänneltyjä tuotteita koskevan yleisesti vahvistetun merkittävän muutoksen käsitteen mukaisesti on aiheellista, että tekoälyjärjestelmälle tehdään uusi vaatimustenmukaisuuden arviointi aina, kun tapahtuu muutos, joka voi vaikuttaa siihen, onko järjestelmä tämän asetuksen mukainen, tai kun järjestelmän käyttötarkoitus muuttuu. Lisäksi sellaisten tekoälyjärjestelmien osalta, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen (eli ne mukauttavat automaattisesti tapaa, jolla toiminnot toteutetaan), on tarpeen vahvistaa säännöt, joiden mukaan algoritmiin ja sen suorituskykyyn tehtävien muutosten, jotka tarjoaja on määritellyt ennalta ja jotka on arvioitu ensimmäisen vaatimustenmukaisuuden arvioinnin yhteydessä, ei pitäisi katsoa muodostavan merkittävää muutosta.	(66) Unionin yhdenmukaistamislainsäädännössä säänneltyjä tuotteita koskevan yleisesti vahvistetun merkittävän muutoksen käsitteen mukaisesti on aiheellista, että suuririskiselle tekoälyjärjestelmälle tehdään uusi vaatimustenmukaisuuden arviointi aina, kun tapahtuu ennakoimaton muutos, joka menee tarjoajan valvomia tai ennalta määrittelemiä muutoksia pidemmälle, jatkuva oppiminen mukaan lukien, ja joka voi luoda uuden riskin, jota ei voida hyväksyä, ja voi merkittävästi vaikuttaa siihen, onko suuririskinen tekoälyjärjestelmä tämän asetuksen mukainen, tai kun järjestelmän käyttötarkoitus muuttuu. Lisäksi sellaisten tekoälyjärjestelmien osalta, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen (eli ne mukauttavat automaattisesti tapaa, jolla toiminnot toteutetaan), on tarpeen vahvistaa säännöt, joiden mukaan algoritmiin ja sen suorituskykyyn tehtävien muutosten, jotka tarjoaja on määritellyt ennalta ja jotka on arvioitu ensimmäisen vaatimustenmukaisuuden arvioinnin yhteydessä, ei pitäisi katsoa muodostavan merkittävää muutosta. Samaa olisi sovellettava tekoälyjärjestelmään yleisistä turvallisuussyistä tehtäviin päivityksiin ja muutoksiin, joita tehdään järjestelmän suojaamiseksi manipulointiin liittyviltä jatkuvasti muuttuvilta uhkilta, edellyttäen, että ne eivät muodosta merkittävää muutosta.

Tarkistus  113

 

Ehdotus asetukseksi

Johdanto-osan 67 kappale

Komission teksti	Tarkistus
(67) Suuririskisissä tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia, jotta ne voivat liikkua vapaasti sisämarkkinoilla. Jäsenvaltiot eivät saisi perusteettomasti estää sellaisten suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöön ottamista, jotka ovat tässä asetuksessa vahvistettujen vaatimusten mukaisia ja joissa on CE-merkintä.	(67) Suuririskisissä tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia, jotta ne voivat liikkua vapaasti sisämarkkinoilla. Fyysisiin suuririskisiin tekoälyjärjestelmiin olisi kiinnitettävä fyysinen CE-merkintä, jota voidaan täydentää digitaalisella CE-merkinnällä. Pelkästään digitaalisessa muodossa olevissa suuririskisissä tekoälyjärjestelmissä olisi käytettävä digitaalista CE-merkintää. Jäsenvaltiot eivät saisi perusteettomasti estää sellaisten suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöön ottamista, jotka ovat tässä asetuksessa vahvistettujen vaatimusten mukaisia ja joissa on CE-merkintä.

Tarkistus  114

 

Ehdotus asetukseksi

Johdanto-osan 68 kappale

Komission teksti	Tarkistus
(68) Tietyissä olosuhteissa innovatiivisten teknologioiden nopea saatavuus voi olla ratkaisevan tärkeää ihmisten terveyden ja turvallisuuden sekä koko yhteiskunnan kannalta. Siksi on asianmukaista, että yleiseen turvallisuuteen tai luonnollisten henkilöiden elämän ja terveyden suojeluun sekä teollisen ja kaupallisen omaisuuden suojeluun liittyvistä poikkeuksellisista syistä jäsenvaltiot voisivat sallia sellaisten tekoälyjärjestelmien markkinoille saattamisen tai käyttöönoton, joille ei ole tehty vaatimustenmukaisuuden arviointia.	(68) Tietyissä olosuhteissa innovatiivisten teknologioiden nopea saatavuus voi olla ratkaisevan tärkeää ihmisten terveyden ja turvallisuuden, ympäristön ja ilmastonmuutoksen sekä koko yhteiskunnan kannalta. Siksi on asianmukaista, että luonnollisten henkilöiden elämän ja terveyden, ympäristön ja kriittisen infrastruktuurin suojeluun liittyvistä poikkeuksellisista syistä jäsenvaltiot voisivat sallia sellaisten tekoälyjärjestelmien markkinoille saattamisen tai käyttöönoton, joille ei ole tehty vaatimustenmukaisuuden arviointia.

Tarkistus  115

 

Ehdotus asetukseksi

Johdanto-osan 69 kappale

Komission teksti	Tarkistus
(69) Jotta helpotettaisiin komission ja jäsenvaltioiden työtä tekoälyn alalla ja lisättäisiin avoimuutta yleisöön nähden, muiden kuin asiaa koskevan unionin voimassa olevan yhdenmukaistamislainsäädännön soveltamisalaan kuuluviin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien tarjoajia olisi vaadittava rekisteröimään suuririskinen tekoälyjärjestelmänsä EU:n tietokantaan, jonka komissio perustaa ja jota se hallinnoi. Komission olisi oltava kyseisen tietokannan rekisterinpitäjä Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/172555 mukaisesti. Jotta tietokanta olisi täysin toimintavalmis kuin se otetaan käyttöön, sen perustamismenettelyyn olisi sisällyttävä komission laatimat toiminnalliset eritelmät ja riippumaton auditointiraportti.	(69) Jotta helpotettaisiin komission ja jäsenvaltioiden työtä tekoälyn alalla ja lisättäisiin avoimuutta yleisöön nähden, muiden kuin asiaa koskevan unionin voimassa olevan yhdenmukaistamislainsäädännön soveltamisalaan kuuluviin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien tarjoajia olisi vaadittava rekisteröimään suuririskinen tekoälyjärjestelmänsä ja perusmallinsa EU:n tietokantaan, jonka komissio perustaa ja jota se hallinnoi. Tietokannan olisi oltava vapaasti ja julkisesti saatavilla, helposti ymmärrettävä ja koneellisesti luettavissa. Tietokannan olisi myös oltava käyttäjäystävällinen ja helposti selattava, ja sen hakutoiminnon olisi oltava vähintään sellainen, että yleisö voi tehdä tietokannassa hakuja tiettyjen suuririskisten järjestelmien, paikkojen, liitteen IV mukaisten riskiluokkien ja avainsanojen perusteella. Myös käyttöönottajien, jotka ovat viranomaisia tai unionin toimielimiä, elimiä, laitoksia tai virastoja tai jotka toimivat näiden puolesta, sekä käyttöönottajien, jotka ovat asetuksen (EU) 2022/1925 nojalla portinvartijaksi nimettyjä yrityksiä, olisi rekisteröidyttävä EU:n tietokantaan ennen kuin ne ottavat käyttöön tai käyttävät suuririskistä tekoälyjärjestelmää ensimmäistä kertaa ja jokaisen merkittävän muutoksen jälkeen. Muilla käyttöönottajilla olisi oltava oikeus tehdä niin vapaaehtoisesti. Kaikki suuririskisiin tekoälyjärjestelmiin tehtävät merkittävät muutokset on myös rekisteröitävä EU:n tietokantaan. Komission olisi oltava kyseisen tietokannan rekisterinpitäjä Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/172555 mukaisesti. Jotta tietokanta olisi täysin toimintavalmis kun se otetaan käyttöön, sen perustamismenettelyyn olisi sisällyttävä komission laatimat toiminnalliset eritelmät ja riippumaton auditointiraportti. Komission olisi otettava huomioon kyberturvallisuuteen ja -vaaroihin liittyvät riskit suorittaessaan tehtäviään EU:n tietokannan rekisterinpitäjänä. Jotta voitaisiin maksimoida tietokannan saatavuus yleisölle ja yleisön tietokannan käyttö, tietokannan ja sen kautta saataville asetettujen tietojen olisi oltava direktiivin (EU) 2019/882 vaatimusten mukaisia.
__________________	__________________
55 Euroopan parlamentin ja neuvoston asetus (EU) 2016/679, annettu 27 päivänä huhtikuuta 2016, luonnollisten henkilöiden suojelusta henkilötietojen käsittelyssä sekä näiden tietojen vapaasta liikkuvuudesta ja direktiivin 95/46/EY kumoamisesta (yleinen tietosuoja-asetus) (EUVL L 119, 4.5.2016, s. 1).	55 Euroopan parlamentin ja neuvoston asetus (EU) 2016/679, annettu 27 päivänä huhtikuuta 2016, luonnollisten henkilöiden suojelusta henkilötietojen käsittelyssä sekä näiden tietojen vapaasta liikkuvuudesta ja direktiivin 95/46/EY kumoamisesta (yleinen tietosuoja-asetus) (EUVL L 119, 4.5.2016, s. 1).

Tarkistus  116

 

Ehdotus asetukseksi

Johdanto-osan 71 kappale

Komission teksti	Tarkistus
(71) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka edellyttää uudenlaisia viranomaisvalvonnan muotoja ja turvallista tilaa kokeiluille samalla kun varmistetaan vastuullinen innovointi ja asianmukaisten suojatoimien ja riskinhallintatoimenpiteiden integrointi. Jotta voidaan varmistaa innovaatiomyönteinen, tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen oikeudellinen kehys, yhden tai useamman jäsenvaltion kansallisia toimivaltaisia viranomaisia olisi kannustettava perustamaan tekoälyn sääntelyn testiympäristöjä, joilla helpotetaan innovatiivisten tekoälyjärjestelmien kehittämistä ja testausta tiukassa viranomaisvalvonnassa ennen kuin nämä järjestelmät saatetaan markkinoille tai otetaan muulla tavoin käyttöön.	(71) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka edellyttää uudenlaisia viranomaisvalvonnan muotoja ja turvallista ja valvottua tilaa kokeiluille samalla kun varmistetaan vastuullinen innovointi ja asianmukaisten suojatoimien ja riskinhallintatoimenpiteiden integrointi. Jotta voidaan varmistaa innovaatiota edistävä, tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen oikeudellinen kehys, jäsenvaltioiden olisi perustettava vähintään yksi tekoälyn sääntelyn testiympäristö, jolla helpotetaan innovatiivisten tekoälyjärjestelmien kehittämistä ja testausta tiukassa viranomaisvalvonnassa ennen kuin nämä järjestelmät saatetaan markkinoille tai otetaan muulla tavoin käyttöön. On toivottavaa, että tällä hetkellä jäsenvaltioiden harkintaan jätetystä sääntelyn testiympäristöjen perustamisesta tehdään seuraavassa vaiheessa pakollista ja että testiympäristöille vahvistetaan kriteerit. Pakollinen testiympäristö voitaisiin myös perustaa yhdessä yhden tai useamman muun jäsenvaltion kanssa edellyttäen, että testiympäristö kattaisi asianomaisten jäsenvaltioiden kansallisen tason. Lisäksi testiympäristöjä voidaan perustaa eri tasoilla, myös jäsenvaltioiden välillä, rajatylittävän yhteistyön ja synergioiden helpottamiseksi. Kansallisen tason pakollista testiympäristöä lukuun ottamatta jäsenvaltioiden olisi myös voitava perustaa virtuaalisia tai hybriditestiympäristöjä. Kaikissa sääntelyn testiympäristöissä olisi voitava ottaa huomioon sekä fyysiset että virtuaaliset tuotteet. Testiympäristöjä perustavien viranomaisten olisi myös varmistettava, että sääntelyn testiympäristöillä on riittävät taloudelliset ja henkilöresurssit niiden toimintaa varten.

Tarkistus  117

 

Ehdotus asetukseksi

Johdanto-osan 72 kappale

Komission teksti	Tarkistus
(72) Sääntelyn testiympäristöjen tavoitteena olisi oltava tekoälyyn liittyvän innovoinnin edistäminen luomalla hallittu kokeilu- ja testausympäristö kehitysvaiheessa ja markkinoille saattamista edeltävässä vaiheessa, jotta voidaan varmistaa, että innovatiiviset tekoälyjärjestelmät ovat tämän asetuksen ja muun asiaankuuluvan unionin ja jäsenvaltioiden lainsäädännön mukaisia, ja jotta voidaan parantaa innovoijien oikeusvarmuutta ja toimivaltaisten viranomaisten valvontaa sekä ymmärrystä tekoälyn käytön mahdollisuuksista ja siihen liittyvistä riskeistä ja vaikutuksista ja nopeuttaa markkinoille pääsyä muun muassa poistamalla esteitä pieniltä ja keskisuurilta yrityksiltä (pk-yrityksiltä) ja startup-yrityksiltä. Yhdenmukaisen täytäntöönpanon varmistamiseksi koko unionissa ja mittakaavaetujen saavuttamiseksi on aiheellista vahvistaa yhteiset säännöt sääntelyn testiympäristöjen toteuttamiselle ja puitteet testiympäristöjen valvontaan osallistuvien asiaankuuluvien viranomaisten väliselle yhteistyölle. Tämän asetuksen olisi muodostettava oikeusperusta sellaisten henkilötietojen käytölle, jotka on kerätty muihin tarkoituksiin tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä, asetuksen (EU) 2016/679 6 artiklan 4 kohdan ja asetuksen (EU) 2018/1725 6 artiklan mukaisesti ja rajoittamatta direktiivin (EU) 2016/680 4 artiklan 2 kohdan soveltamista. Testiympäristön osallistujien olisi varmistettava asianmukaiset suojatoimet ja tehtävä yhteistyötä toimivaltaisten viranomaisten kanssa muun muassa noudattamalla niiden ohjeita ja toimimalla nopeasti ja vilpittömästi lieventääkseen mahdollisia turvallisuuteen ja perusoikeuksiin kohdistuvia suuria riskejä, joita voi syntyä testiympäristössä tapahtuvan kehittämisen ja kokeilun aikana. Testiympäristön osallistujien käyttäytyminen olisi otettava huomioon, kun toimivaltaiset viranomaiset päättävät hallinnollisen sakon määräämisestä asetuksen 2016/679 83 artiklan 2 kohdan ja direktiivin 2016/680 57 artiklan nojalla.	(72) Sääntelyn testiympäristöjen tavoitteena olisi oltava: testiympäristöjä perustavien viranomaisten osalta ymmärryksen parantaminen teknisestä kehityksestä, valvontamenetelmien parantaminen ja ohjeistuksen antaminen tekoälyjärjestelmien kehittäjille ja tarjoajille tämän asetuksen tai tapauksen mukaan muun sovellettavan unionin ja jäsenvaltioiden lainsäädännön sekä perusoikeuskirjan vaatimusten noudattamiseksi; mahdollisten tarjoajien osalta tekoälyjärjestelmiin liittyvien innovatiivisten ratkaisujen testaamisen ja kehittämisen mahdollistaminen ja helpottaminen markkinoille saattamista edeltävässä vaiheessa, jotta voidaan parantaa oikeusvarmuutta, testiympäristöjä perustavien viranomaisten sääntelyyn liittyvää oppimista valvotussa ympäristössä paremman ohjeistuksen kehittämiseksi ja määrittää oikeudellisen kehyksen mahdolliset tulevat parannukset tavallisessa lainsäätämisjärjestyksessä. Tällaisten tekoälyjärjestelmien kehittämisen ja testauksen aikana havaittuja merkittäviä riskejä olisi vähennettävä välittömästi, ja jos tämä ei onnistu, kehittämis- ja testausprosessi on keskeytettävä, kunnes riskejä voidaan vähentää. Yhdenmukaisen täytäntöönpanon varmistamiseksi koko unionissa ja mittakaavaetujen saavuttamiseksi on aiheellista vahvistaa yhteiset säännöt sääntelyn testiympäristöjen toteuttamiselle ja puitteet testiympäristöjen valvontaan osallistuvien asiaankuuluvien viranomaisten väliselle yhteistyölle. Jäsenvaltioiden olisi varmistettava, että sääntelyn testiympäristöt ovat laajalti saatavilla kaikkialla unionissa mutta niihin osallistumisen olisi pysyttävä vapaaehtoisena. Erityisen tärkeää on varmistaa, että pk-yrityksillä ja startup-yrityksillä on helppo pääsy näihin testiympäristöihin ja että ne ovat aktiivisesti mukana ja osallistuvat innovatiivisten tekoälyjärjestelmien kehittämiseen ja testaamiseen, jotta ne voivat osallistua toimiin hyödyntäen taitotietoaan ja kokemustaan.

Tarkistus  118

 

Ehdotus asetukseksi

Johdanto-osan 72 a kappale (uusi)

Komission teksti	Tarkistus
	(72 a) Tämän asetuksen olisi muodostettava oikeusperusta sellaisten henkilötietojen käytölle vain tietyin edellytyksin, jotka on kerätty muihin tarkoituksiin tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä, asetuksen (EU) 2016/679 6 artiklan 4 kohdan ja asetuksen (EU) 2018/1725 6 artiklan mukaisesti ja rajoittamatta direktiivin (EU) 2016/680 4 artiklan 2 kohdan soveltamista. Testiympäristöön osallistuvien mahdollisten tarjoajien olisi varmistettava asianmukaiset suojatoimet ja tehtävä yhteistyötä toimivaltaisten viranomaisten kanssa muun muassa noudattamalla niiden ohjeita ja toimimalla nopeasti ja vilpittömästi vähentääkseen mahdollisia turvallisuuteen, terveyteen, ympäristöön ja perusoikeuksiin kohdistuvia suuria riskejä, joita voi syntyä testiympäristössä tapahtuvan kehittämisen ja kokeilun aikana. Testiympäristöön osallistuvien mahdollisten tarjoajien käyttäytyminen olisi otettava huomioon, kun toimivaltaiset viranomaiset päättävät koskien heidän testiympäristöön osallistumisensa peruuttamista toistaiseksi tai kokonaan, määrätäänkö asetuksen (EU) 2016/679 83 artiklan 2 kohdan ja direktiivin (EU) 2016/680 57 artiklan nojalla hallinnollinen sakko.

Tarkistus  119

 

Ehdotus asetukseksi

Johdanto-osan 72 b kappale (uusi)

Komission teksti	Tarkistus
	(72 b) Jotta voidaan varmistaa, että tekoäly johtaa yhteiskunnallisesti ja ympäristön kannalta suotuisiin tuloksiin, jäsenvaltioiden olisi tuettava ja edistettävä tekoälyn tutkimusta ja kehittämistä yhteiskunnan ja ympäristön kannalta suotuisten tulosten tukemiseksi osoittamalla riittävästi resursseja, myös julkista ja unionin rahoitusta, ja antamalla kansalaisyhteiskunnan johtamille hankkeille ensisijainen pääsy sääntelyn testiympäristöihin. Tällaisten hankkeiden olisi perustuttava tekoälyn kehittäjien, eriarvoisuuteen ja syrjimättömyyteen, saavutettavuuteen, kuluttajiin, ympäristöön, ja digitaalisiin oikeuksiin perehtyneiden asiantuntijoiden sekä tiedeyhteisön välisen poikkitieteellisen yhteistyön periaatteeseen.

Tarkistus  120

 

Ehdotus asetukseksi

Johdanto-osan 73 kappale

Komission teksti	Tarkistus
(73) Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tietoisuuden lisäämistä ja tiedotusta. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät.	(73) Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tekoälylukutaitoa, tietoisuuden lisäämistä ja tiedotusta. Jäsenvaltioiden on käytettävä olemassa olevia kanavia ja perustettava tarvittaessa uusia erityiskanavia viestintään pk-yritysten, startup-yritysten, käyttäjien ja muiden innovoijien kanssa, jotta voidaan antaa ohjeistusta ja vastata kysymyksiin tämän asetuksen täytäntöönpanosta. Tällaisia olemassa olevia kanavia voisivat olla muun muassa Euroopan unionin kyberturvallisuusviraston tietoturvaloukkauksiin reagoivat ja niitä tutkivat yksiköt (CSIRT), kansalliset tietosuojaviranomaiset, tekoälyyn keskittyvä tilauspohjainen alusta, eurooppalaiset digitaali-innovointikeskittymät ja muut unionin ohjelmista rahoitettavat asiaankuuluvat välineet sekä komission ja jäsenvaltioiden kansallisella tai unionin tasolla perustamat testaus- ja kokeilulaitokset. Nämä kanavat tekevät tarvittaessa yhteistyötä, jotta voidaan luoda synergioita ja varmistaa, että niiden startup-yrityksille, pk-yrityksille ja käyttäjille antamat ohjeet ovat yhtenäisiä. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Komissio arvioi säännöllisesti sertifioinnista ja vaatimusten noudattamisesta pk-yrityksille ja startup-yrityksille aiheutuvia kustannuksia muun muassa kuulemalla avoimesti pk-yrityksiä, startup-yrityksiä ja käyttäjiä, ja tekee yhteistyötä jäsenvaltioiden kanssa tällaisten kustannusten alentamiseksi. Esimerkiksi pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät. Keskisuurilla yrityksillä, jotka ovat äskettäin vaihtaneet luokkaa suosituksen 2003/361/EY liitteen 16 artiklassa tarkoitetulla tavalla pienestä keskisuureksi yritykseksi, on oltava mahdollisuus osallistua näihin aloitteisiin ja saada ohjeistusta jäsenvaltioiden asianmukaiseksi katsoman ajan, koska tällaisilla uusilla keskisuurilla yrityksillä ei välttämättä aina ole tarvittavia oikeudellisia resursseja ja koulutusta säännösten asianmukaisen ymmärtämisen ja noudattamisen varmistamiseksi.

 

Tarkistus  121

 

Ehdotus asetukseksi

Johdanto-osan 74 kappale

Komission teksti	Tarkistus
(74) Jotta voidaan minimoida markkinoilla olevan tiedon ja asiantuntemuksen puutteesta aiheutuvat riskit täytäntöönpanolle ja helpotetaan tämän asetuksen mukaisten velvoitteiden noudattamista tarjoajien ja ilmoitettujen laitosten taholta, tekoälyyn keskittyvän tilauspohjaisen alustan, eurooppalaisten digitaali-innovointikeskittymien sekä komission ja jäsenvaltioiden kansallisella tai EU:n tasolla perustamien testaus- ja kokeilulaitosten olisi mahdollisuuksien mukaan edistettävä tämän asetuksen täytäntöönpanoa. Ne voivat tehtäviensä ja osaamisalojensa puitteissa antaa erityisesti teknistä ja tieteellistä tukea tarjoajille ja ilmoitetuille laitoksille.	(74) Jotta voidaan minimoida markkinoilla olevan tiedon ja asiantuntemuksen puutteesta aiheutuvat riskit täytäntöönpanolle ja helpotetaan tämän asetuksen mukaisten velvoitteiden noudattamista tarjoajien ja ilmoitettujen laitosten taholta, tekoälyyn keskittyvän tilauspohjaisen alustan, eurooppalaisten digitaali-innovointikeskittymien sekä komission ja jäsenvaltioiden kansallisella tai EU:n tasolla perustamien testaus- ja kokeilulaitosten olisi edistettävä tämän asetuksen täytäntöönpanoa. Ne voivat tehtäviensä ja osaamisalojensa puitteissa antaa erityisesti teknistä ja tieteellistä tukea tarjoajille ja ilmoitetuille laitoksille.

Tarkistus  122

 

Ehdotus asetukseksi

Johdanto-osan 76 kappale

Komission teksti	Tarkistus
(76) Tämän asetuksen sujuvan, tehokkaan ja yhdenmukaisen täytäntöönpanon helpottamiseksi olisi perustettava Euroopan tekoälyneuvosto. Neuvoston olisi vastattava useista neuvoa-antavista tehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, esimerkiksi tässä asetuksessa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai voimassa olevista standardeista, sekä neuvojen ja avun antamisesta komissiolle tekoälyyn liittyvissä erityiskysymyksissä.	(76) Hajanaisuuden välttämiseksi, sisämarkkinoiden optimaalisen toiminnan varmistamiseksi, tämän asetuksen tehokkaan ja yhdenmukaisen täytäntöönpanon varmistamiseksi, luotettavuuden korkean tason saavuttamiseksi sekä terveyden, turvallisuuden, perusoikeuksien, ympäristön, demokratian ja oikeusvaltion suojelemiseksi tekoälyjärjestelmien osalta kaikkialla unionissa, kansallisten valvontaviranomaisten, unionin toimielinten, elinten, laitosten ja virastojen tukemiseksi aktiivisesti tähän asetukseen liittyvissä asioissa ja tekoälyn käyttöönoton lisäämiseksi kaikkialla unionissa olisi perustettava Euroopan tekoälyvirasto. Tekoälytoimistolla olisi oltava oikeushenkilöllisyys, sen olisi toimittava täysin riippumattomasti ja vastattava useista neuvoa-antavista tehtävistä ja koordinointitehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, ja sillä olisi oltava riittävä rahoitus ja henkilöstö. Jäsenvaltioiden olisi annettava tekoälytoimiston strateginen ohjaus ja valvonta tekoälytoimiston hallintoneuvoston tehtäväksi yhdessä komission, Euroopan tietosuojavaltuutetun, Euroopan unioninperusoikeusviraston ja Euroopan unionin kyberturvallisuusviraston kanssa. Pääjohtajan olisi vastattava tekoälytoimiston sihteeristön toiminnan hallinnoinnista ja toimiston edustamisesta. Sidosryhmien olisi osallistuttava virallisesti tekoälytoimiston työhön neuvoa-antavassa foorumissa, jossa olisi varmistettava sidosryhmien monipuolinen ja tasapuolinen edustus ja jonka olisi neuvottava tekoälytoimistoa tähän asetukseen liittyvissä seikoissa. Jos tekoälytoimiston perustaminen osoittautuu riittämättömäksi varmistamaan tämän asetuksen täysin johdonmukainen soveltaminen unionin tasolla ja tehokkaat rajatylittävät täytäntöönpanotoimenpiteet, olisi harkittava tekoälyviraston perustamista.

Tarkistus  123

 

Ehdotus asetukseksi

Johdanto-osan 77 kappale

Komission teksti	Tarkistus
(77) Jäsenvaltioilla on keskeinen rooli tämän asetuksen soveltamisessa ja täytäntöönpanon valvonnassa. Tältä osin kunkin jäsenvaltion olisi nimettävä yksi tai useampi kansallinen toimivaltainen viranomainen valvomaan tämän asetuksen soveltamista ja täytäntöönpanoa. Jotta voidaan lisätä organisoinnin tehokkuutta jäsenvaltioissa ja luoda virallinen yhteyspiste yleisölle ja muille vastaaville tahoille jäsenvaltioissa ja unionissa, kussakin jäsenvaltiossa olisi nimettävä yksi kansallinen viranomainen kansalliseksi valvontaviranomaiseksi.	(77) Kunkin jäsenvaltion olisi nimettävä kansallinen valvontaviranomainen valvomaan tämän asetuksen soveltamista ja täytäntöönpanoa. Sen olisi myös edustettava jäsenvaltiotaan tekoälytoimiston hallintoneuvostossa. Näin voidaan lisätä organisoinnin tehokkuutta jäsenvaltioissa ja luoda virallinen yhteyspiste yleisölle ja muille vastaaville tahoille jäsenvaltioissa ja unionissa. Kunkin kansallisen valvontaviranomaisen olisi toimittava täysin riippumattomasti hoitaessaan tehtäviään ja käyttäessään valtuuksiaan tämän asetuksen mukaisesti.

Tarkistus  124

 

Ehdotus asetukseksi

Johdanto-osan 77 a kappale (uusi)

Komission teksti	Tarkistus
	(77 a) Kansallisten valvontaviranomaisten olisi valvottava tämän asetuksen nojalla annettujen säännösten soveltamista ja edistettävä sen yhdenmukaista soveltamista koko unionissa. Tätä varten kansallisten valvontaviranomaisten olisi tehtävä yhteistyötä keskenään sekä asiaankuuluvien kansallisten toimivaltaisten viranomaisten, komission ja tekoälytoimiston kanssa.

Tarkistus  125

 

Ehdotus asetukseksi

Johdanto-osan 77 b kappale (uusi)

Komission teksti	Tarkistus
	(77 b) Kunkin kansallisen valvontaviranomaisen jäsenen tai henkilöstön olisi unionin tai jäsenvaltion lainsäädännön mukaisesti pidettävä salassa sekä toimikautensa aikana että sen jälkeen kaikki luottamukselliset tiedot, jotka ovat tulleet heidän tietoonsa heidän suorittaessaan tehtäviään tai käyttäessään valtuuksiaan. Heidän toimikautensa aikana tätä salassapitovelvollisuutta olisi sovellettava etenkin liikesalaisuuksiin ja luonnollisten henkilöiden tekemiin ilmoituksiin tämän asetuksen rikkomisista.

Tarkistus  126

 

Ehdotus asetukseksi

Johdanto-osan 78 kappale

Komission teksti	Tarkistus
(78) Sen varmistamiseksi, että suuririskisten tekoälyjärjestelmien tarjoajat voivat ottaa huomioon suuririskisten tekoälyjärjestelmien käytöstä saadut kokemukset järjestelmiensä parantamisessa ja suunnittelu- ja kehitysprosessissa tai voivat toteuttaa ajoissa kaikki mahdolliset korjaavat toimet, kaikilla tarjoajilla olisi oltava käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Järjestelmä on keskeisessä asemassa myös sen varmistamisessa, että riskeihin, joita mahdollisesti aiheutuu tekoälyjärjestelmistä, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen, voidaan puuttua tehokkaammin ja oikea-aikaisemmin. Tässä yhteydessä olisi myös edellytettävä, että tarjoajilla on käytössä järjestelmä, jolla ne voivat ilmoittaa asiaankuuluville viranomaisille kaikista vakavista vaaratilanteista tai perusoikeuksia suojaavan kansallisen ja unionin lainsäädännön rikkomisista, jotka ovat seurausta tekoälyjärjestelmien käytöstä.	(78) Sen varmistamiseksi, että suuririskisten tekoälyjärjestelmien tarjoajat voivat ottaa huomioon suuririskisten tekoälyjärjestelmien käytöstä saadut kokemukset järjestelmiensä parantamisessa ja suunnittelu- ja kehitysprosessissa tai voivat toteuttaa ajoissa kaikki mahdolliset korjaavat toimet, kaikilla tarjoajilla olisi oltava käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Järjestelmä on keskeisessä asemassa myös sen varmistamisessa, että riskeihin, joita mahdollisesti aiheutuu tekoälyjärjestelmistä, jotka jatkavat oppimista tai kehittyvät markkinoille saattamisen tai käyttöönoton jälkeen, voidaan puuttua tehokkaammin ja oikea-aikaisemmin. Tässä yhteydessä olisi myös edellytettävä, että tarjoajilla on käytössä järjestelmä, jolla ne voivat ilmoittaa asiaankuuluville viranomaisille kaikista vakavista vaaratilanteista tai kansallisen ja unionin lainsäädännön rikkomisista, mukaan lukien perusoikeuksia ja kuluttajien oikeuksia suojaavan lainsäädännön rikkomisista, jotka ovat seurausta tekoälyjärjestelmien käytöstä, ja että ne toteuttavat asianmukaiset korjaavat toimenpiteet. Myös käyttöönottajien olisi ilmoitettava asiaankuuluville viranomaisille kaikista vakavista vaaratilanteista tai perusoikeuksia suojaavan kansallisen ja unionin lainsäädännön rikkomisista, jotka ovat seurausta tekoälyjärjestelmien käytöstä, kun käyttäjät tulevat tietoisiksi tällaisista vaaratilanteista tai rikkomisista.

Tarkistus  127

 

Ehdotus asetukseksi

Johdanto-osan 79 kappale

Komission teksti	Tarkistus
(79) Jotta voidaan varmistaa tässä asetuksessa, joka on osa unionin yhdenmukaistamislainsäädäntöä, vahvistettujen vaatimusten ja velvollisuuksien asianmukainen ja tehokas täytäntöönpano, asetuksella (EU) 2019/1020 perustettua markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevaa järjestelmää olisi sovellettava kokonaisuudessaan. Kansallisilla viranomaisilla tai elimillä, jotka valvovat perusoikeuksia suojelevan unionin lainsäädännön soveltamista, mukaan lukien tasa-arvoelimet, olisi voitava saada käyttöönsä kaikki tämän asetuksen nojalla laadittu dokumentaatio, jos se on tarpeen niiden toimeksiannon kannalta.	(79) Jotta voidaan varmistaa tässä asetuksessa, joka on osa unionin yhdenmukaistamislainsäädäntöä, vahvistettujen vaatimusten ja velvollisuuksien asianmukainen ja tehokas täytäntöönpano, asetuksella (EU) 2019/1020 perustettua markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevaa järjestelmää olisi sovellettava kokonaisuudessaan. Tämän asetuksen soveltamiseksi kansallisten valvontaviranomaisten olisi toimittava tämän asetuksen soveltamisalaan kuuluvien tekoälyjärjestelmien markkinavalvontaviranomaisina lukuun ottamatta tämän asetuksen liitteen II soveltamisalaan kuuluvia tekoälyjärjestelmiä. Kun on kyse liitteessä II lueteltujen säädösten soveltamisalaan kuuluvista tekoälyjärjestelmistä, kyseisten säädösten mukaisesti toimivaltaisten viranomaisten olisi edelleen toimittava johtavana viranomaisena. Kansallisten valvontaviranomaisten ja liitteessä II luetelluissa säädöksissä tarkoitettujen toimivaltaisten viranomaisten olisi tehtävä yhteistyötä aina kun se on tarpeen. Liitteessä II luetelluissa säädöksissä tarkoitettujen toimivaltaisten viranomaisten olisi tarvittaessa lähetettävä kansalliselle valvontaviranomaiselle pätevää henkilöstöä avustamaan sen tehtävien suorittamisessa. Tätä asetusta sovellettaessa kansallisilla valvontaviranomaisilla olisi oltava samat valtuudet ja velvollisuudet kuin asetuksen (EU) 2019/1020 mukaisilla markkinavalvontaviranomaisilla. Kansallisten viranomaisten tai elinten, jotka valvovat perusoikeuksia suojelevan unionin lainsäädännön soveltamista, mukaan lukien tasa-arvoelimet, olisi voitava saada käyttöönsä kaikki tämän asetuksen nojalla laadittu dokumentaatio, jos se on tarpeen niiden toimeksiannon kannalta. Kansalliselle valvontaviranomaiselle olisi perustellusta pyynnöstä annettava pääsy suuririskisen tekoälyjärjestelmän koulutus-, validointi- ja testausdatajoukkoihin sekä koulutettuun malliin ja koulutusmalliin, mukaan lukien sen asiaankuuluvat malliparametrit ja niiden toteutus-/käyttöympäristö, kun kaikki muut kohtuulliset keinot vaatimustenmukaisuuden arvioimiseksi tai todentamiseksi on käytetty. Kansalliselle valvontaviranomaiselle voidaan poikkeuksellisesti antaa perustellusta pyynnöstä pääsy tämän asetuksen soveltamisalaan kuuluvien yksinkertaisempien ohjelmistojärjestelmien, jotka eivät perustu koulutettuihin malleihin, lähdekoodiin, kun kaikki muut keinot vaatimustenmukaisuuden todentamiseksi on käytetty. Jos kansalliselle valvontaviranomaiselle on tämän asetuksen mukaisesti myönnetty pääsy koulutus-, validointi- ja testausdatajoukkoihin, pääsy olisi mahdollistettava asianmukaisin teknisin keinoin ja välinein joko paikan päällä tai poikkeuksellisissa olosuhteissa etänä. Kansallisen valvontaviranomaisen olisi käsiteltävä kaikkia tietoja, mukaan lukien lähdekoodi, ohjelmistot ja data, luottamuksellisina tietoina ja noudatettava asiaankuuluvaa teollis- ja tekijänoikeuksien ja liikesalaisuuksien suojaa koskevaa unionin lainsäädäntöä. Kansallisen valvontaviranomaisen olisi poistettava kaikki saadut tiedot tutkinnan päätyttyä.

Tarkistus  128

 

Ehdotus asetukseksi

Johdanto-osan 80 kappale

Komission teksti	Tarkistus
(80) Rahoituspalveluja koskevaan unionin lainsäädäntöön sisältyy sisäistä hallintoa ja riskinhallintaa koskevia säännöksiä ja vaatimuksia, joita sovelletaan säänneltyihin rahoituslaitoksiin niiden tarjotessa kyseisiä palveluja, myös silloin, kun ne käyttävät tekoälyjärjestelmiä. Jotta voidaan varmistaa tämän asetuksen ja rahoituspalveluja koskevan unionin lainsäädännön asiaa koskevien sääntöjen ja vaatimusten johdonmukainen soveltaminen ja täytäntöönpano, rahoituspalvelulainsäädännön valvonnasta ja täytäntöönpanosta vastaavat viranomaiset, tarvittaessa myös Euroopan keskuspankki, olisi nimettävä toimivaltaisiksi viranomaisiksi valvomaan tämän asetuksen täytäntöönpanoa, myös markkinavalvontatoimia, säänneltyjen ja valvottujen rahoituslaitosten tarjoamien tai käyttämien tekoälyjärjestelmien osalta. Jotta voidaan edelleen parantaa johdonmukaisuutta tämän asetuksen ja Euroopan parlamentin ja neuvoston direktiivin 2013/36/EU56 nojalla säänneltyihin luottolaitoksiin sovellettavien sääntöjen välillä, direktiivin 2013/36/EU mukaisiin nykyisiin velvoitteisiin ja menettelyihin on aiheellista sisällyttää myös vaatimustenmukaisuuden arviointimenettely ja jotkin tarjoajien menettelylliset velvoitteet, jotka liittyvät riskinhallintaan, markkinoille saattamisen jälkeiseen seurantaan ja dokumentaatioon. Päällekkäisyyksien välttämiseksi olisi harkittava myös rajoitettuja poikkeuksia tarjoajien laadunhallintajärjestelmään ja suuririskisten tekoälyjärjestelmien käyttäjille asetettuun seurantavelvoitteeseen siltä osin kuin niitä sovelletaan direktiivillä 2013/36/EU säänneltyihin luottolaitoksiin.	(80) Rahoituspalveluja koskevaan unionin lainsäädäntöön sisältyy sisäistä hallintoa ja riskinhallintaa koskevia säännöksiä ja vaatimuksia, joita sovelletaan säänneltyihin rahoituslaitoksiin niiden tarjotessa kyseisiä palveluja, myös silloin, kun ne käyttävät tekoälyjärjestelmiä. Jotta voidaan varmistaa tämän asetuksen ja rahoituspalveluja koskevan unionin lainsäädännön asiaa koskevien sääntöjen ja vaatimusten johdonmukainen soveltaminen ja täytäntöönpano, rahoituspalvelulainsäädännön valvonnasta ja täytäntöönpanosta vastaavat toimivaltaiset viranomaiset, tarvittaessa myös Euroopan keskuspankki, olisi nimettävä toimivaltaisiksi viranomaisiksi valvomaan tämän asetuksen täytäntöönpanoa, myös markkinavalvontatoimia, säänneltyjen ja valvottujen rahoituslaitosten tarjoamien tai käyttämien tekoälyjärjestelmien osalta. Jotta voidaan edelleen parantaa johdonmukaisuutta tämän asetuksen ja Euroopan parlamentin ja neuvoston direktiivin 2013/36/EU56 nojalla säänneltyihin luottolaitoksiin sovellettavien sääntöjen välillä, direktiivin 2013/36/EU mukaisiin nykyisiin velvoitteisiin ja menettelyihin on aiheellista sisällyttää myös vaatimustenmukaisuuden arviointimenettely ja jotkin tarjoajien menettelylliset velvoitteet, jotka liittyvät riskinhallintaan, markkinoille saattamisen jälkeiseen seurantaan ja dokumentaatioon. Päällekkäisyyksien välttämiseksi olisi harkittava myös rajoitettuja poikkeuksia tarjoajien laadunhallintajärjestelmään ja suuririskisten tekoälyjärjestelmien käyttöönottajille asetettuun seurantavelvoitteeseen siltä osin kuin niitä sovelletaan direktiivillä 2013/36/EU säänneltyihin luottolaitoksiin.
__________________	__________________
56 Euroopan parlamentin ja neuvoston direktiivi 2013/36/EU, annettu 26 päivänä kesäkuuta 2013, oikeudesta harjoittaa luottolaitostoimintaa ja luottolaitosten ja sijoituspalveluyritysten vakavaraisuusvalvonnasta, direktiivin 2002/87/EY muuttamisesta sekä direktiivien 2006/48/EY ja 2006/49/EY kumoamisesta (EUVL L 176, 27.6.2013, s. 338).	56 Euroopan parlamentin ja neuvoston direktiivi 2013/36/EU, annettu 26 päivänä kesäkuuta 2013, oikeudesta harjoittaa luottolaitostoimintaa ja luottolaitosten ja sijoituspalveluyritysten vakavaraisuusvalvonnasta, direktiivin 2002/87/EY muuttamisesta sekä direktiivien 2006/48/EY ja 2006/49/EY kumoamisesta (EUVL L 176, 27.6.2013, s. 338).

Tarkistus  129

 

Ehdotus asetukseksi

Johdanto-osan 80 a kappale (uusi)

Komission teksti	Tarkistus
	(80 a) Kun otetaan huomioon tämän asetuksen tavoitteet, erityisesti luonnollisten henkilöiden terveyden, turvallisuuden ja perusoikeuksien suojelun vastaavan tason varmistaminen, oikeusvaltion ja demokratian suojelun varmistaminen, ja kun otetaan huomioon, että tekoälyjärjestelmien näihin oikeuksiin kohdistuvien riskien lieventämistä ei välttämättä saavuteta riittävällä tavalla kansallisella tasolla tai näitä riskejä saatetaan tulkita eri tavoilla, mikä saattaa lopulta johtaa luonnollisten henkilöiden suojelun tason eroihin ja aiheuttaa markkinoiden pirstaloitumista, kansallisille valvontaviranomaisille olisi annettava valtuudet suorittaa yhteisiä tutkimuksia tai turvautua unionin suojamenettelyyn tehokkaan täytäntöönpanon varmistamiseksi. Yhteiset tutkimukset olisi aloitettava, kun kansallisella valvontaviranomaisella on riittävät perusteet uskoa, että tämän asetuksen rikkomisessa on kyse laajalle levinneestä rikkomisesta, tai että siinä on kyse laajalle levinneestä rikkomisesta, jolla on unionin laajuinen ulottuvuus, tai kun tekoälyjärjestelmä tai perusmalli aiheuttaa riskin, joka vaikuttaa tai todennäköisesti vaikuttaa vähintään 45 miljoonaan yksityishenkilöön useammassa kuin yhdessä jäsenvaltiossa.

Tarkistus  130

 

Ehdotus asetukseksi

Johdanto-osan 82 kappale

Komission teksti	Tarkistus
(82) On tärkeää, että tekoälyjärjestelmät, jotka liittyvät tuotteisiin, jotka eivät ole tämän asetuksen mukaisesti suuririskisiä ja joiden ei näin ollen tarvitse täyttää tässä asetuksessa vahvistettuja vaatimuksia, ovat kuitenkin turvallisia, kun ne saatetaan markkinoille tai otetaan käyttöön. Tämän tavoitteen saavuttamiseksi Euroopan parlamentin ja neuvoston direktiiviä 2001/95/EY57 sovellettaisiin turvaverkkona.	(82) On tärkeää, että tekoälyjärjestelmät, jotka liittyvät tuotteisiin, jotka eivät ole tämän asetuksen mukaisesti suuririskisiä ja joiden ei näin ollen tarvitse täyttää suuririskisille tekoälyjärjestelmille vahvistettuja vaatimuksia, ovat kuitenkin turvallisia, kun ne saatetaan markkinoille tai otetaan käyttöön. Tämän tavoitteen saavuttamiseksi Euroopan parlamentin ja neuvoston direktiiviä 2001/95/EY57 sovellettaisiin turvaverkkona.
__________________	__________________
57 Euroopan parlamentin ja neuvoston direktiivi 2001/95/EY, annettu 3 päivänä joulukuuta 2001, yleisestä tuoteturvallisuudesta (EYVL L 11, 15.1.2002, s. 4).	57 Euroopan parlamentin ja neuvoston direktiivi 2001/95/EY, annettu 3 päivänä joulukuuta 2001, yleisestä tuoteturvallisuudesta (EYVL L 11, 15.1.2002, s. 4).

Tarkistus  131

 

Ehdotus asetukseksi

Johdanto-osan 83 kappale

Komission teksti	Tarkistus
(83) Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta.	(83) Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi pyrittävä läpinäkyvyyteen ja avoimuuteen ja kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta ottamalla käyttöön teknisiä ja organisatorisia toimenpiteitä toimintansa yhteydessä saamiensa tietojen turvallisuuden ja luottamuksellisuuden suojelemiseksi, myös teollis- ja tekijänoikeuksien sekä yleisten ja kansallisten turvallisuusetujen osalta. Jos komission, kansallisten toimivaltaisten viranomaisten ja tämän asetuksen mukaisesti ilmoitettujen laitosten toiminta johtaa teollis- ja tekijänoikeuksien rikkomiseen, jäsenvaltioiden olisi säädettävä asianmukaisista toimenpiteistä ja oikeussuojakeinoista teollis- ja tekijänoikeuksien noudattamisen varmistamiseksi direktiiviä 2004/48/EY soveltaen.

Tarkistus  132

 

Ehdotus asetukseksi

Johdanto-osan 84 kappale

Komission teksti	Tarkistus
(84) Jäsenvaltioiden olisi toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että tämän asetuksen säännökset pannaan täytäntöön, ja säädettävä niiden rikkomiseen sovellettavista tehokkaista, oikeasuhteisista ja varoittavista seuraamuksista. Tiettyjen rikkomisten osalta jäsenvaltioiden olisi otettava huomioon tässä asetuksessa vahvistetut marginaalit ja kriteerit. Euroopan tietosuojavaltuutetulla olisi oltava valta määrätä sakkoja tämän asetuksen soveltamisalaan kuuluville unionin toimielimille, virastoille ja elimille.	(84) Tämän asetuksen noudattamisen varmistamiseksi kansallisen valvontaviranomaisen olisi tässä asetuksessa säädetyn menettelyn mukaisia menettelyjä suorittaessaan voitava määrätä sakkoja. Jäsenvaltioiden olisi toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että tämän asetuksen säännökset pannaan täytäntöön, ja säädettävä niiden rikkomiseen sovellettavista tehokkaista, oikeasuhteisista ja varoittavista seuraamuksista. Tämän asetuksen rikkomisesta määrättävien hallinnollisten seuraamusten tehostamiseksi ja yhdenmukaistamiseksi tietyistä rikkomisista määrättäville hallinnollisille sakoille olisi vahvistettava enimmäismäärät. Arvioidessaan sakkojen määrää kansallisten toimivaltaisten viranomaisten olisi kussakin yksittäisessä tapauksessa otettava huomioon kaikki kyseisen tilanteen kannalta merkittävät olosuhteet sekä erityisesti rikkomisen ja sen seurausten luonne, vakavuus ja kesto sekä tarjoajan organisaation koko erityisesti, jos tarjoaja on pk- tai startup-yritys. Euroopan tietosuojavaltuutetulla olisi oltava valta määrätä sakkoja tämän asetuksen soveltamisalaan kuuluville unionin toimielimille, virastoille ja elimille. Tämän asetuksen mukaisista seuraamuksista ja oikeudenkäyntikuluista ei pitäisi voida sopia sopimuslausekkeissa tai muunlaisilla sopimusjärjestelyillä.

Tarkistus  133

 

Ehdotus asetukseksi

Johdanto-osan 84 a kappale (uusi)

Komission teksti	Tarkistus
	(84 a) Koska tekoälyjärjestelmät voivat vakavasti heikentää luonnollisten henkilöiden, oikeushenkilöiden ja luonnollisten henkilöiden ryhmien oikeuksia ja vapauksia, on olennaisen tärkeää, että luonnollisilla henkilöillä, oikeushenkilöillä ja luonnollisten henkilöiden ryhmillä on tarkoituksenmukainen mahdollisuus käyttää ilmoitus- ja oikeussuojamekanismeja ja että heillä on oikeus käyttää oikeasuhteisia ja tehokkaita oikeussuojakeinoja. Heidän olisi voitava ilmoittaa tämän asetuksen rikkomisista kansalliselle valvontaviranomaiselleen, ja heillä olisi oltava oikeus tehdä valitus tekoälyjärjestelmien tarjoajista tai käyttöönottajista. Käyttöönottajien olisi tarvittaessa tarjottava luonnollisten henkilöiden, oikeushenkilöiden ja luonnollisten henkilöiden ryhmille käyttöön sisäisiä valitusmekanismeja. Luonnollisilla henkilöillä, oikeushenkilöillä ja luonnollisten henkilöiden ryhmillä olisi oltava myös oikeus tehokkaisiin oikeussuojakeinoihin kansallisen valvontaviranomaisen tekemän heitä koskevan oikeudellisesti sitovan päätöksen osalta tai jos kansallinen valvontaviranomainen ei käsittele valitusta, ilmoita valituksen tekijälle valituksen etenemisestä tai alustavasta ratkaisusta tai noudata velvollisuuttaan tehdä valitusta koskeva lopullinen päätös, sanotun kuitenkaan rajoittamatta muita hallinnollisia muutoksenhakukeinoja tai muita kuin oikeudellisia oikeussuojakeinoja.

Tarkistus  134

 

Ehdotus asetukseksi

Johdanto-osan 84 b kappale (uusi)

Komission teksti	Tarkistus
	(84 b) Asianomaisille henkilöille olisi aina ilmoitettava, että heidän tapauksessaan sovelletaan suuririskistä tekoälyjärjestelmää, kun käyttöönottajat käyttävät suuririskistä tekoälyjärjestelmää apuna luonnollisia henkilöitä koskevassa päätöksenteossa tai tekemään tällaisia päätöksiä. Näiden tietojen perusteella asianomaiset henkilöt voivat käyttää tämän asetuksen mukaista oikeuttaan saada selitys. Kun käyttöönottajat antavat tämän asetuksen mukaisesti selityksen asianomaisille henkilöille, niiden olisi otettava huomioon keskivertokuluttajan tai yksilön asiantuntemus ja tietämys.

Tarkistus  135

 

Ehdotus asetukseksi

Johdanto-osan 84 c kappale (uusi)

Komission teksti	Tarkistus
	(84 c) Väärinkäytösten paljastajien suojelua koskevaa unionin lainsäädäntöä (direktiivi (EU) 2019/1937) sovelletaan täysimääräisesti tutkijoihin, suunnittelijoihin, kehittäjiin, hankkeiden toteuttajiin, tarkastajiin, tuotepäälliköihin, insinööreihin ja talouden toimijoihin, jotka saavat tietoja siitä, että tekoälyjärjestelmän tarjoaja tai tämän tekoälyjärjestelmä rikkoo unionin lainsäädäntöä.

Tarkistus  136

 

Ehdotus asetukseksi

Johdanto-osan 85 kappale

Komission teksti	Tarkistus
(85) Sen varmistamiseksi, että sääntelykehystä voidaan tarvittaessa mukauttaa, komissiolle olisi siirrettävä valta hyväksyä Euroopan unionin toiminnasta tehdyn sopimuksen 290 artiklan mukaisesti säädösvallan siirron nojalla annettavia delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa tekoälyjärjestelmien määrittelemiseksi, liitteessä II esitettyä unionin yhdenmukaistamislainsäädännön luetteloa, liitteessä III esitettyä suuririskisten tekoälyjärjestelmien luetteloa, liitteessä IV määriteltyä teknistä dokumentaatiota koskevia säännöksiä, liitteessä V esitetyn EU-vaatimustenmukaisuusvakuutuksen sisältöä, liitteissä VI ja VII esitettyjä vaatimustenmukaisuuden arviointimenettelyjä koskevia säännöksiä sekä säännöksiä, joilla määritetään suuririskiset tekoälyjärjestelmät, joihin olisi sovellettava laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuvaa vaatimustenmukaisuuden arviointimenettelyä. On erityisen tärkeää, että komissio asiaa valmistellessaan toteuttaa asianmukaiset kuulemiset, myös asiantuntijatasolla, ja että nämä kuulemiset toteutetaan paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa58 vahvistettujen periaatteiden mukaisesti. Jotta voitaisiin erityisesti varmistaa tasavertainen osallistuminen delegoitujen säädösten valmisteluun, Euroopan parlamentille ja neuvostolle toimitetaan kaikki asiakirjat samaan aikaan kuin jäsenvaltioiden asiantuntijoille, ja Euroopan parlamentin ja neuvoston asiantuntijoilla on järjestelmällisesti oikeus osallistua komission asiantuntijaryhmien kokouksiin, joissa valmistellaan delegoituja säädöksiä.	(85) Sen varmistamiseksi, että sääntelykehystä voidaan tarvittaessa mukauttaa, komissiolle olisi siirrettävä valta hyväksyä Euroopan unionin toiminnasta tehdyn sopimuksen 290 artiklan mukaisesti säädösvallan siirron nojalla annettavia delegoituja säädöksiä, joilla muutetaan liitteessä II esitettyä unionin yhdenmukaistamislainsäädännön luetteloa, liitteessä III esitettyä suuririskisten tekoälyjärjestelmien luetteloa, liitteessä IV määriteltyä teknistä dokumentaatiota koskevia säännöksiä, liitteessä V esitetyn EU-vaatimustenmukaisuusvakuutuksen sisältöä, liitteissä VI ja VII esitettyjä vaatimustenmukaisuuden arviointimenettelyjä koskevia säännöksiä sekä säännöksiä, joilla määritetään suuririskiset tekoälyjärjestelmät, joihin olisi sovellettava laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuvaa vaatimustenmukaisuuden arviointimenettelyä. On erityisen tärkeää, että komissio asiaa valmistellessaan toteuttaa asianmukaiset kuulemiset, myös asiantuntijatasolla, ja että nämä kuulemiset toteutetaan paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa58 vahvistettujen periaatteiden mukaisesti. Näissä kuulemisissa olisi oltava mukana tasapuolisesti eri sidosryhmiä, mukaan lukien kuluttajajärjestöt, kansalaisyhteiskunta, asianomaisia henkilöitä edustavat järjestöt, eri alojen ja erikokoisten yritysten edustajat sekä tutkijat ja tieteenharjoittajat. Jotta voitaisiin erityisesti varmistaa tasavertainen osallistuminen delegoitujen säädösten valmisteluun, Euroopan parlamentille ja neuvostolle toimitetaan kaikki asiakirjat samaan aikaan kuin jäsenvaltioiden asiantuntijoille, ja Euroopan parlamentin ja neuvoston asiantuntijoilla on järjestelmällisesti oikeus osallistua komission asiantuntijaryhmien kokouksiin, joissa valmistellaan delegoituja säädöksiä.
__________________	__________________
58 EUVL L 123, 12.5.2016, s. 1.	58 EUVL L 123, 12.5.2016, s. 1.

Tarkistus  137

 

Ehdotus asetukseksi

Johdanto-osan 85 a kappale (uusi)

Komission teksti	Tarkistus
	(85 a) Kun otetaan huomioon teknologian nopea kehitys ja suuririskisten tekoälyjärjestelmien arvioinnin edellyttämä tekninen asiantuntemus, komission olisi tarkasteltava säännöllisesti uudelleen ja vähintään vuosittain tämän asetuksen täytäntöönpanoa, erityisesti kiellettyjä tekoälyjärjestelmiä, avoimuusvelvoitteita sekä suuririskisten alojen ja käyttötapausten luetteloa, ja kuultava tekoälytoimistoa ja asiaankuuluvia sidosryhmiä.

Tarkistus  138

 

Ehdotus asetukseksi

Johdanto-osan 87 a kappale (uusi)

Komission teksti	Tarkistus
	(87 a) Koska tekoälyjärjestelmien ja niihin liittyvän tieto- ja viestintätekniikan, mukaan lukien ohjelmistot, laitteistot ja erityisesti datakeskukset, luonnonvarojen ja energian käytöstä, jätteen tuottamisesta ja muista ympäristövaikutuksista on vain rajallisesti tietoa, komission olisi otettava käyttöön asianmukainen menetelmä tämän asetuksen ympäristövaikutuksen ja vaikuttavuuden arvioimeksi unionin ympäristö- ja ilmastotavoitteiden valossa.

Tarkistus  139

 

Ehdotus asetukseksi

Johdanto-osan 89 kappale

Komission teksti	Tarkistus
(89) Euroopan tietosuojavaltuutettua ja Euroopan tietosuojaneuvostoa on kuultu asetuksen (EU) 2018/1725 42 artiklan 2 kohdan mukaisesti, ja ne antoivat lausuntonsa […],	(89) Euroopan tietosuojavaltuutettua ja Euroopan tietosuojaneuvostoa on kuultu asetuksen (EU) 2018/1725 42 artiklan 2 kohdan mukaisesti, ja ne antoivat lausuntonsa 18 päivänä kesäkuuta 2021,

Tarkistus  140

 

Ehdotus asetukseksi

1 artikla – 1 kohta (uusi)

Komission teksti	Tarkistus
	1. Tämän asetuksen tarkoituksena on edistää ihmiskeskeisen ja luotettavan tekoälyn käyttöönottoa ja varmistaa terveyden, turvallisuuden, perusoikeuksien, demokratian, oikeusvaltion ja ympäristön korkeatasoinen suojelu tekoälyjärjestelmien haitallisilta vaikutuksilta unionissa ja tukea innovointia.

Tarkistus  141

 

Ehdotus asetukseksi

1 artikla – 1 kohta – d alakohta

Komission teksti	Tarkistus
(d) läpinäkyvyyttä koskevat yhdenmukaistetut säännöt tekoälyjärjestelmille, jotka on tarkoitettu toimimaan vuorovaikutuksessa luonnollisten henkilöiden kanssa, tunteentunnistusjärjestelmille ja biometrisille luokittelujärjestelmille sekä tekoälyjärjestelmille, joita käytetään kuva-, ääni- tai videosisällön tuottamiseen tai manipulointiin;	(d) läpinäkyvyyttä koskevat yhdenmukaistetut säännöt tietyille tekoälyjärjestelmille;

Tarkistus  142

Ehdotus asetukseksi

1 artikla – 1 kohta – e alakohta

Komission teksti	Tarkistus
(e) markkinoiden seurantaa ja valvontaa koskevat säännöt.	(e) markkinoiden seurantaa ja valvontaa sekä hallinnointia ja täytäntöönpanoa koskevat säännöt;

Tarkistus  143

 

Ehdotus asetukseksi

1 artikla – 1 kohta – e a alakohta (uusi)

Komission teksti	Tarkistus
	(e a) innovointia tukevat toimenpiteet, joissa keskitytään erityisesti pk-yrityksiin ja startup-yrityksiin, mukaan lukien sääntelyn testiympäristöjen perustaminen ja kohdennetut toimenpiteet pk-yrityksiin ja startup-yrityksiin kohdistuvan sääntelytaakan vähentämiseksi;

Tarkistus  144

 

Ehdotus asetukseksi

1 artikla – 1 kohta – e b alakohta (uusi)

Komission teksti	Tarkistus
	(e b) unionin tekoälytoimiston perustamista ja toimintaa koskevat säännöt.

Tarkistus  145

 

Ehdotus asetukseksi

2 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) unionissa sijaitseviin tekoälyjärjestelmien käyttäjiin;	(b) unioniin sijoittautuneisiin tai unionissa sijaitseviin tekoälyjärjestelmien käyttöönottajiin;

Tarkistus  146

 

Ehdotus asetukseksi

2 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
(c) kolmannessa maassa sijaitseviin tekoälyjärjestelmien tarjoajiin ja käyttäjiin, kun järjestelmän tuottamaa tulosta käytetään unionissa.	(c) niihin tekoälyjärjestelmien tarjoajiin ja käyttöönottajiin, joiden sijoittautumispaikka on tai jotka sijaitsevat sellaisessa kolmannessa maassa, jossa sovelletaan jonkin jäsenvaltion lakia kansainvälisen julkisoikeuden nojalla tai kun järjestelmän tuottamaa tulosta on tarkoitus käyttää unionissa;

Tarkistus  147

 

Ehdotus asetukseksi

2 artikla – 1 kohta – c a alakohta (uusi)

Komission teksti	Tarkistus
	(c a) tarjoajiin, jotka saattavat markkinoille tai ottavat käyttöön 5 artiklassa tarkoitettuja tekoälyjärjestelmiä unionin ulkopuolella, jos tällaisten järjestelmien tarjoaja tai jakelija sijaitsee unionissa;

Tarkistus  148

 

Ehdotus asetukseksi

2 artikla – 1 kohta – c b alakohta (uusi)

Komission teksti	Tarkistus
	(c b) tekoälyjärjestelmien maahantuojiin ja jakelijoihin sekä tekoälyjärjestelmien tarjoajien valtuutettuihin edustajiin, jos tällaisten maahantuojien, jakelijoiden tai valtuutettujen edustajien sijoittautumispaikka on tai ne sijaitsevat unionissa;

Tarkistus  149

 

Ehdotus asetukseksi

2 artikla – 1 kohta – c c alakohta (uusi)

Komission teksti	Tarkistus
	(c c) 3 artiklan 8 a alakohdassa määriteltyihin asianomaisiin henkilöihin, jotka sijaitsevat unionissa ja joiden terveyteen, turvallisuuteen tai perusoikeuksiin unionissa markkinoille saatetun tai käyttöön otetun tekoälyjärjestelmän käyttö vaikuttaa haitallisesti.

Tarkistus  150

 

Ehdotus asetukseksi

2 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Suuririskisiin tekoälyjärjestelmiin, jotka ovat seuraavien säädösten soveltamisalaan kuuluvia tuotteita tai järjestelmiä tai niiden turvakomponentteja, sovelletaan ainoastaan tämän asetuksen 84 artiklaa:	2. Suuririskisiin tekoälyjärjestelmiin, jotka ovat tuotteita tai järjestelmiä tai niiden turvakomponentteja ja jotka kuuluvat liitteessä II olevassa B osassa luetellun yhdenmukaistamislainsäädännön soveltamisalaan, sovelletaan ainoastaan tämän asetuksen 84 artiklaa.

Tarkistus  151

 

Ehdotus asetukseksi

2 artikla – 2 kohta – a alakohta

Komission teksti	Tarkistus
(a) asetus (EY) N:o 300/2008;	Poistetaan.

Tarkistus  152

 

Ehdotus asetukseksi

2 artikla – 2 kohta – b alakohta

Komission teksti	Tarkistus
(b) asetus (EU) N:o 167/2013;	Poistetaan.

Tarkistus  153

 

Ehdotus asetukseksi

2 artikla – 2 kohta – c alakohta

Komission teksti	Tarkistus
(c) asetus (EU) N:o 168/2013;	Poistetaan.

Tarkistus  154

 

Ehdotus asetukseksi

2 artikla – 2 kohta – d alakohta

Komission teksti	Tarkistus
(d) direktiivi 2014/90/EU;	Poistetaan.

Tarkistus  155

 

Ehdotus asetukseksi

2 artikla – 2 kohta – e alakohta

Komission teksti	Tarkistus
(e) direktiivi (EU) 2016/797;	Poistetaan.

Tarkistus  156

 

Ehdotus asetukseksi

2 artikla – 2 kohta – f alakohta

Komission teksti	Tarkistus
(f) asetus (EU) 2018/858;	Poistetaan.

Tarkistus  157

 

Ehdotus asetukseksi

2 artikla – 2 kohta – g alakohta

Komission teksti	Tarkistus
(g) asetus (EU) 2018/1139;	Poistetaan.

Tarkistus  158

 

Ehdotus asetukseksi

2 artikla – 2 kohta – h alakohta

Komission teksti	Tarkistus
(h) asetus (EU) 2019/2144.	Poistetaan.

Tarkistus  159

 

Ehdotus asetukseksi

2 artikla – 4 kohta

Komission teksti	Tarkistus
4. Tätä asetusta ei sovelleta kolmannen maan viranomaisiin eikä tämän asetuksen soveltamisalaan 1 kohdan nojalla kuuluviin kansainvälisiin järjestöihin, jos kyseiset viranomaiset tai järjestöt käyttävät tekoälyjärjestelmiä unionin tai yhden tai useamman jäsenvaltion kanssa tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa.	4. Tätä asetusta ei sovelleta kolmannen maan viranomaisiin eikä tämän asetuksen soveltamisalaan 1 kohdan nojalla kuuluviin kansainvälisiin järjestöihin, jos kyseiset viranomaiset tai järjestöt käyttävät tekoälyjärjestelmiä kansainvälisen yhteistyön tai unionin tai yhden tai useamman jäsenvaltion kanssa tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa ja jos niistä on tehty komission päätös direktiivin (EU) 2016/680 36 artiklan tai asetuksen (EU) 2016/679 45 artiklan mukaisesti (tietosuojan riittävyyttä koskeva päätös) tai jos ne ovat osa unionin ja kyseisen kolmannen maan tai kansainvälisen järjestön välillä SEUT 218 artiklan nojalla tehtyä kansainvälistä sopimusta, jossa annetaan yksityisyydensuojaa, perusoikeuksia ja yksilön vapauksia koskevat riittävät takeet.

Tarkistus  160

 

Ehdotus asetukseksi

2 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Henkilötietojen suojaa, yksityisyyttä ja viestinnän luottamuksellisuutta koskevaa unionin lainsäädäntöä sovelletaan henkilötietoihin, joita käsitellään tässä asetuksessa säädettyjen oikeuksien ja velvoitteiden yhteydessä. Tämä asetus ei vaikuta asetusten (EU) 2016/679 ja (EU) 2018/1725 eikä direktiivien 2002/58/EY ja (EU) 2016/680 soveltamiseen, sanotun kuitenkaan rajoittamatta tämän asetuksen 10 artiklan 5 kohdassa ja 54 artiklassa säädettyjen järjestelyjen soveltamista.

Tarkistus  161

 

Ehdotus asetukseksi

2 artikla – 5 b kohta (uusi)

Komission teksti	Tarkistus
	5 b. Tällä asetuksella ei rajoiteta muissa kuluttajansuojaan ja tuoteturvallisuuteen liittyvissä unionin säädöksissä vahvistettujen sääntöjen soveltamista.

Tarkistus  162

 

Ehdotus asetukseksi

2 artikla – 5 c kohta (uusi)

Komission teksti	Tarkistus
	5 c. Tällä asetuksella ei estetä jäsenvaltioita tai unionia pitämästä voimassa tai ottamasta käyttöön lakeja, asetuksia tai hallinnollisia määräyksiä, jotka ovat työntekijöiden kannalta suotuisampia ja suojelevat heidän oikeuksiaan liittyen tekoälyjärjestelmien käyttöön työnantajien toimesta, tai kannustamasta soveltamaan työntekijöiden kannalta suotuisampia työehtosopimuksia tai sallimasta niiden soveltamisen.

Tarkistus  163

 

Ehdotus asetukseksi

2 artikla – 5 d kohta (uusi)

Komission teksti	Tarkistus
	5 d. Tätä asetusta ei sovelleta tekoälyjärjestelmää koskevaan tutkimus-, testaus- ja kehittämistoimintaan ennen järjestelmän markkinoille saattamista tai käyttöönottoa, edellyttäen, että toiminnassa noudatetaan perusoikeuksia ja sovellettavaa unionin lainsäädäntöä. Tämä poikkeus ei kata testausta todellisissa olosuhteissa. Siirretään komissiolle valta antaa 73 artiklan mukaisesti delegoituja säädöksiä, joilla selvennetään tämän kohdan soveltamista ja täsmennetään tätä poikkeusta sen nykyisen ja mahdollisen väärinkäytön estämiseksi. Tekoälytoimisto antaa 56 artiklan mukaisesti tutkimus- ja kehittämistoiminnan hallinnointia koskevaa ohjeistusta ja pyrkii myös koordinoimaan sitä, miten kansalliset valvontaviranomaiset soveltavat sitä.

Tarkistus  164

 

Ehdotus asetukseksi

2 artikla – 5 e kohta (uusi)

Komission teksti	Tarkistus
	5 e. Tätä asetusta ei sovelleta vapaiden ja avoimen lähdekoodin lisenssien perusteella toimitettaviin tekoälykomponentteihin, paitsi jos jokin tarjoaja saattaa niitä markkinoille tai ottaa niitä käyttöön osana suuririskistä tekoälyjärjestelmää tai tämän asetuksen II tai IV osaston soveltamisalaan kuuluvaa tekoälyjärjestelmää. Tätä poikkeusta ei sovelleta 3 artiklassa määriteltyihin perusmalleihin.

Tarkistus  165

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 alakohta

Komission teksti	Tarkistus
(1) ’tekoälyjärjestelmällä’ ohjelmistoa, joka on kehitetty käyttäen yhtä tai useampaa liitteessä I lueteltua tekniikkaa ja lähestymistapaa ja joka voi tuottaa tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöihin, joiden kanssa järjestelmät ovat vuorovaikutuksessa;	(1) ’tekoälyjärjestelmällä’ konejärjestelmää, joka on suunniteltu toimimaan eriasteisen itsenäisesti ja joka voi tuottaa tiettyjen eksplisiittisten ja implisiittisten tavoitteiden saavuttamiseksi tuotoksia, kuten ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat todellisiin tai virtuaalisiin ympäristöihin;

Tarkistus  166

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 a alakohta (uusi)

Komission teksti	Tarkistus
	(1 a) ’riskillä’ haitan esiintymisen todennäköisyyden ja haitan vakavuuden yhdistelmää;

Tarkistus  167

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 b alakohta (uusi)

Komission teksti	Tarkistus
	(1 b) ’merkittävällä riskillä’ riskiä, joka on merkittävä sen vakavuuden, voimakkuuden, esiintymisen todennäköisyyden ja vaikutusten keston yhdistelmän vuoksi ja koska se voi vaikuttaa yksittäiseen henkilöön, useisiin henkilöihin tai johonkin tiettyyn henkilöryhmään;

Tarkistus  168

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 c alakohta (uusi)

Komission teksti	Tarkistus
	(1 c) ’perusmallilla’ tekoälyjärjestelmämallia, joka on koulutettu skaalattavasti laajamittaisella datalla, suunniteltu tuottamaan yleisluonteisia tuotoksia ja jota voidaan mukauttaa monenlaisiin eri tehtäviin;

Tarkistus  169

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 d alakohta (uusi)

Komission teksti	Tarkistus
	(1 d) ’yleiskäyttöisellä tekoälyjärjestelmällä’ tekoälyjärjestelmää, jota voidaan käyttää monenlaisissa sovelluksissa, joihin sitä ei ole tarkoituksellisesti ja erityisesti suunniteltu, ja mukauttaa niihin;

Tarkistus  170

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 e alakohta (uusi)

Komission teksti	Tarkistus
	(1 e) ’mittavilla koulutusajoilla’ sellaisen tehokkaan tekoälymallin tuotantoprosessia, joka edellyttää erittäin korkeaa raja-arvoa suurempia laskentaresursseja;

Tarkistus  171

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 3 alakohta

Komission teksti	Tarkistus
(3) ’pienellä tarjoajalla’ tarjoajaa, joka on komission suosituksessa 2003/361/EY61 tarkoitettu mikroyritys tai pieni yritys;	Poistetaan.
__________________
61 Komission suositus, annettu 6 päivänä toukokuuta 2003, mikroyritysten sekä pienten ja keskisuurten yritysten määritelmästä (EUVL L 124, 20.5.2003, s. 36).

Tarkistus  172

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 4 alakohta

Komission teksti	Tarkistus
(4) ’käyttäjällä’ luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa;	(4) ’käyttöönottajalla’ luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa;

Tarkistus  173

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 8 alakohta

Komission teksti	Tarkistus
(8) ’toimijalla’ tarjoajaa, käyttäjää, valtuutettua edustajaa, maahantuojaa ja jakelijaa;	(8) ’toimijalla’ tarjoajaa, käyttöönottajaa, valtuutettua edustajaa, maahantuojaa ja jakelijaa;

Tarkistus  174

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 8 a alakohta (uusi)

Komission teksti	Tarkistus
	(8 a) ’asianomaisella henkilöllä’ luonnollista henkilöä tai henkilöryhmää, johon tekoälyjärjestelmän käyttö kohdistuu tai johon se muutoin vaikuttaa;

Tarkistus  175

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 11 alakohta

Komission teksti	Tarkistus
(11) ’käyttöönotolla’ tekoälyjärjestelmän toimittamista ensimmäistä käyttöä varten unionin markkinoilla sen suunniteltuun käyttötarkoitukseen suoraan käyttäjälle tai omaan käyttöön;	(11) ’käyttöönotolla’ tekoälyjärjestelmän toimittamista ensimmäistä käyttöä varten unionin markkinoilla sen suunniteltuun käyttötarkoitukseen suoraan käyttöönottajalle tai omaan käyttöön;

Tarkistus  176

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 13 alakohta

Komission teksti	Tarkistus
(13) ’kohtuudella ennakoitavissa olevalla väärinkäytöllä’ tekoälyjärjestelmän käyttöä tavalla, joka ei ole sen käyttötarkoituksen mukainen mutta joka voi olla seurausta kohtuudella ennakoitavissa olevasta ihmisen käyttäytymisestä tai järjestelmän vuorovaikutuksesta muiden järjestelmien kanssa;	(13) ’kohtuudella ennakoitavissa olevalla väärinkäytöllä’ tekoälyjärjestelmän käyttöä tavalla, joka ei ole tarjoajan vahvistamissa käyttöohjeissa ilmoitetun käyttötarkoituksen mukainen mutta joka voi olla seurausta kohtuudella ennakoitavissa olevasta ihmisen käyttäytymisestä tai järjestelmän vuorovaikutuksesta muiden järjestelmien ja myös muiden tekoälyjärjestelmien kanssa;

Tarkistus  177

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 14 alakohta

Komission teksti	Tarkistus
(14) ’tuotteen tai järjestelmän turvakomponentilla’ tuotteen tai järjestelmän komponenttia, joka toteuttaa kyseisen tuotteen tai järjestelmän turvallisuustoimintoa tai jonka vika tai toimintahäiriö vaarantaa ihmisten terveyden ja turvallisuuden tai omaisuuden turvallisuuden;	(14) ’tuotteen tai järjestelmän turvakomponentilla’ liitteessä II luetellun unionin yhdenmukaistamislainsäädännön mukaisesti tuotteen tai järjestelmän komponenttia, joka toteuttaa kyseisen tuotteen tai järjestelmän turvallisuustoimintoa tai jonka vika tai toimintahäiriö vaarantaa ihmisten terveyden ja turvallisuuden;

Tarkistus  178

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 15 alakohta

Komission teksti	Tarkistus
(15) ’käyttöohjeilla’ tietoja, jotka tarjoaja antaa käyttäjälle erityisesti tekoälyjärjestelmän käyttötarkoituksesta ja asianmukaisesta käytöstä, mukaan lukien erityiset maantieteelliset, käyttäytymiseen liittyvät tai toiminnalliset olosuhteet, joissa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää;	(15) ’käyttöohjeilla’ tietoja, jotka tarjoaja antaa käyttöönottajalle erityisesti tekoälyjärjestelmän käyttötarkoituksesta ja asianmukaisesta käytöstä, sekä tietoja mahdollisesti toteutettavista varotoimenpiteistä, mukaan lukien erityiset maantieteelliset, käyttäytymiseen liittyvät tai toiminnalliset olosuhteet, joissa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää;

Tarkistus  179

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 16 alakohta

Komission teksti	Tarkistus
(16) ’tekoälyjärjestelmän palautusmenettelyllä’ kaikkia toimenpiteitä, joiden tarkoituksena on palauttaa käyttäjien saataville asetettu tekoälyjärjestelmä takaisin sen tarjoajalle;	(16) ’tekoälyjärjestelmän palautusmenettelyllä’ kaikkia toimenpiteitä, joiden tarkoituksena on palauttaa takaisin tarjoajalle tekoälyjärjestelmä, joka on asetettu käyttöönottajien saataville;

Tarkistus  180

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 20 alakohta

Komission teksti	Tarkistus
(20) ’vaatimustenmukaisuuden arvioinnilla’ prosessia, jolla todennetaan, täyttyvätkö tämän asetuksen III osaston 2 luvussa vahvistetut tekoälyjärjestelmää koskevat vaatimukset;	(20) ’vaatimustenmukaisuuden arvioinnilla’ prosessia, jolla osoitetaan, täyttyvätkö tämän asetuksen III osaston 2 luvussa vahvistetut tekoälyjärjestelmää koskevat vaatimukset;

Tarkistus  181

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 22 alakohta

Komission teksti	Tarkistus
(22) ’ilmoitetulla laitoksella’ vaatimustenmukaisuuden arviointilaitosta, joka on nimetty tämän asetuksen ja unionin muun asiaankuuluvan yhdenmukaistamislainsäädännön mukaisesti;	(22) ’ilmoitetulla laitoksella’ vaatimustenmukaisuuden arviointilaitosta, joka on ilmoitettu tämän asetuksen ja unionin muun asiaankuuluvan yhdenmukaistamislainsäädännön mukaisesti;

Tarkistus  182

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 23 alakohta

Komission teksti	Tarkistus
(23) ’merkittävällä muutoksella’ tekoälyjärjestelmään sen markkinoille saattamisen tai käyttöönoton jälkeen tehtyä muutosta, joka vaikuttaa siihen, täyttääkö tekoälyjärjestelmä tämän asetuksen III osaston 2 luvussa vahvistetut vaatimukset, tai muuttaa käyttötarkoitusta, jota varten tekoälyjärjestelmä on arvioitu;	(23) ’merkittävällä muutoksella’ tekoälyjärjestelmään sen markkinoille saattamisen tai käyttöönoton jälkeen tehtyä muutosta tai muutosten sarjaa, jota tarjoaja ei ennakoi tai suunnittele alustavassa riskinarvioinnissa ja joka vaikuttaa siihen, miten tekoälyjärjestelmä täyttää tämän asetuksen III osaston 2 luvussa vahvistetut vaatimukset, tai joka muuttaa käyttötarkoitusta, jota varten tekoälyjärjestelmä on arvioitu.

Tarkistus  183

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 24 alakohta

Komission teksti	Tarkistus
(24) ’CE-vaatimustenmukaisuusmerkinnällä’ (CE-merkinnällä) merkintää, jolla tarjoaja osoittaa, että tekoälyjärjestelmä on niiden vaatimusten mukainen, jotka vahvistetaan tämän asetuksen III osaston 2 luvussa ja muussa sovellettavassa unionin lainsäädännössä, jolla yhdenmukaistetaan tuotteiden kaupan pitämisen ehtoja (’unionin yhdenmukaistamislainsäädäntö’ ) ja jossa säädetään merkinnän kiinnittämisestä;	(24) ’CE-vaatimustenmukaisuusmerkinnällä’ (CE-merkinnällä) fyysistä tai digitaalista merkintää, jolla tarjoaja osoittaa, että tekoälyjärjestelmä tai tuote, johon on sulautettu tekoälyjärjestelmä, on niiden vaatimusten mukainen, jotka vahvistetaan tämän asetuksen III osaston 2 luvussa ja muussa sovellettavassa unionin lainsäädännössä, jolla yhdenmukaistetaan tuotteiden kaupan pitämisen ehtoja (’unionin yhdenmukaistamislainsäädäntö’) ja jossa säädetään merkinnän kiinnittämisestä;

Tarkistus  184

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 29 alakohta

Komission teksti	Tarkistus
(29) ’koulutusdatalla’ dataa, jota käytetään tekoälyjärjestelmän kouluttamiseen sovittamalla sen opittavia parametreja, mukaan lukien neuroverkon painotukset;	(29) ’koulutusdatalla’ dataa, jota käytetään tekoälyjärjestelmän kouluttamiseen sovittamalla sen opittavia parametreja;

Tarkistus  185

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 30 alakohta

Komission teksti	Tarkistus
(30) ’validointidatalla’ dataa, jota käytetään koulutetun tekoälyjärjestelmän arviointiin ja sen ei-opittavien parametrien ja oppimisprosessin hienosäätöön muun muassa ylisovittamisen estämiseksi; validointidatajoukko voi olla erillinen datajoukko tai osa koulutusdatajoukkoa joko kiinteällä tai muuttuvalla jaolla;	(30) ’validointidatalla’ dataa, jota käytetään koulutetun tekoälyjärjestelmän arviointiin ja sen ei-opittavien parametrien ja oppimisprosessin hienosäätöön muun muassa ali- tai ylisovittamisen estämiseksi; validointidatajoukko on erillinen datajoukko tai osa koulutusdatajoukkoa joko kiinteällä tai muuttuvalla jaolla;

Tarkistus  186

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 33 alakohta

Komission teksti	Tarkistus
(33) ’biometrisillä tiedoilla’ kaikkia luonnollisen henkilön fyysisiin ja fysiologisiin ominaisuuksiin tai käyttäytymiseen liittyvällä teknisellä käsittelyllä saatuja henkilötietoja, kuten kasvokuvia tai sormenjälkitietoja, joiden perusteella kyseinen luonnollinen henkilö voidaan tunnistaa tai kyseisen henkilön tunnistaminen voidaan varmistaa;	(33) ’biometrisillä tiedoilla’ asetuksen (EU) 2016/679 4 artiklan 14 alakohdassa määriteltyjä biometrisiä tietoja;

Tarkistus  187

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 33 a alakohta (uusi)

Komission teksti	Tarkistus
	(33 a) ’biometriikkaan perustuvilla tiedoilla’ tietoja, jotka saadaan luonnollisen henkilön fyysisten, fysiologisten tai käyttäytymiseen liittyvien signaalien erityisellä teknisellä käsittelyllä;

Tarkistus  188

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 33 b alakohta (uusi)

Komission teksti	Tarkistus
	(33 b) ’biometrisellä tunnistuksella’ ihmisen fyysisten, fysiologisten, käyttäytymiseen liittyvien ja psykologisten ominaisuuksien automaattista tunnistamista yksilön henkilöllisyyden toteamiseksi vertaamalla kyseisen henkilön biometrisiä tietoja tietokantaan tallennettuihin toisten yksilöiden biometrisiin tietoihin (yksi moneen -tunnistaminen);

Tarkistus  189

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 33 c alakohta (uusi)

Komission teksti	Tarkistus
	(33 c) ’biometrisellä todennuksella’ luonnollisten henkilöiden henkilöllisyyden automaattista todentamista vertaamalla yksilön biometrisiä tietoja aiemmin annettuihin biometrisiin tietoihin (yksi yhteen -todennus, mukaan lukien tunnistautuminen);

Tarkistus  190

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 33 d alakohta (uusi)

Komission teksti	Tarkistus
	(33 d) ’erityisillä henkilötietoryhmillä’ asetuksen (EU) 2016/679 9 artiklan 1 kohdassa tarkoitettuja henkilötietoryhmiä;

Tarkistus  191

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 34 alakohta

Komission teksti	Tarkistus
(34) ’tunteentunnistusjärjestelmällä’ tekoälyjärjestelmää, jonka avulla luonnollisten henkilöiden tunteita tai aikomuksia voidaan tunnistaa tai päätellä heidän biometristen tietojensa perusteella;	(34) ’tunteentunnistusjärjestelmällä’ tekoälyjärjestelmää, jonka avulla yksilöiden tai ryhmien tunteita, ajatuksia, mielentiloja tai aikomuksia voidaan tunnistaa tai päätellä heidän biometristen tai biometriikkaan perustuvien tietojensa perusteella;

Tarkistus  192

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 35 alakohta

Komission teksti	Tarkistus
(35) ’biometrisellä luokittelujärjestelmällä’ tekoälyjärjestelmää, jonka avulla luonnolliset henkilöt luokitellaan biometristen tietojen perusteella tiettyihin ryhmiin esimerkiksi sukupuolen, iän, hiusten värin, silmien värin, tatuointien, etnisen alkuperän tai sukupuolisen tai poliittisen suuntautumisen mukaan;	(35) ’biometrisellä luokittelulla’ luonnollisten henkilöiden luokittelua tiettyihin ryhmiin tai heidän ominaispiirteidensä ja ominaisuuksiensa päättelyä heidän biometristen tai biometriikkaan perustuvien tietojensa perusteella tai niistä pääteltävissä olevien tietojen perusteella;

Tarkistus  193

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 36 alakohta

Komission teksti	Tarkistus
(36) ’biometrisellä etätunnistusjärjestelmällä’ tekoälyjärjestelmää, jonka avulla luonnolliset henkilöt voidaan tunnistaa etäältä vertaamalla henkilön biometrisiä tietoja viitetietokantaan sisältyviin biometrisiin tietoihin ilman, että tekoälyjärjestelmän käyttäjä tietää ennakolta, onko henkilö läsnä ja tunnistettavissa;	(36) ’biometrisellä etätunnistusjärjestelmällä’ tekoälyjärjestelmää, jonka avulla luonnolliset henkilöt voidaan tunnistaa etäältä vertaamalla henkilön biometrisiä tietoja viitetietokantaan sisältyviin biometrisiin tietoihin ilman, että tekoälyjärjestelmän käyttöönottaja tietää ennakolta, onko henkilö läsnä ja tunnistettavissa, lukuun ottamatta todennusjärjestelmiä;

Tarkistus  194

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 37 alakohta

Komission teksti	Tarkistus
(37) ’reaaliaikaisella biometrisellä etätunnistusjärjestelmällä’ biometristä etätunnistusjärjestelmää, jossa biometristen tietojen kerääminen, vertailu ja tunnistaminen tapahtuvat ilman merkittävää viivettä. Tämä kattaa välittömän tunnistamisen lisäksi myös vähäiset viiveet, joilla pyritään ehkäisemään harhaanjohtamista;	(Tarkistus ei vaikuta suomenkieliseen versioon.)

Tarkistus  195

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 39 alakohta

Komission teksti	Tarkistus
(39) ’julkisella tilalla’ mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko pääsy ehdollista;	(39) ’julkisella tilalla’ mitä tahansa julkisessa tai yksityisessä omistuksessa olevaa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko pääsy ehdollista, ja riippumatta mahdollisista kapasiteettirajoituksista;

Tarkistus  196

Ehdotus asetukseksi

3 artikla – 1 kohta – 41 alakohta

Komission teksti	Tarkistus
(41) ’lainvalvonnalla’ toimia, joita lainvalvontaviranomaiset toteuttavat rikosten ennalta estämistä, tutkimista, paljastamista tai rikoksiin liittyviä syytetoimia tai rikosoikeudellisten seuraamusten täytäntöönpanoa varten, mukaan lukien yleiseen turvallisuuteen kohdistuvilta uhkilta suojelu ja tällaisten uhkien ehkäisy;	(41) ’lainvalvonnalla’ toimia, joita lainvalvontaviranomaiset toteuttavat tai joita toteutetaan niiden puolesta rikosten ennalta estämistä, tutkimista, paljastamista tai rikoksiin liittyviä syytetoimia tai rikosoikeudellisten seuraamusten täytäntöönpanoa varten, mukaan lukien yleiseen turvallisuuteen kohdistuvilta uhkilta suojelu ja tällaisten uhkien ehkäisy;

Tarkistus  197

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 42 alakohta

Komission teksti	Tarkistus
(42) ’kansallisella valvontaviranomaisella’ viranomaista, jolle jäsenvaltio on antanut vastuun tämän asetuksen täytäntöönpanosta ja soveltamisesta, kyseiselle jäsenvaltiolle uskottujen toimien koordinoinnista, toimimisesta komission keskitettynä yhteyspisteenä ja jäsenvaltion edustamisesta Euroopan tekoälyneuvostossa;	(42) ’kansallisella valvontaviranomaisella’ viranomaista, jolle jäsenvaltio on antanut vastuun tämän asetuksen täytäntöönpanosta ja soveltamisesta, kyseiselle jäsenvaltiolle uskottujen toimien koordinoinnista, toimimisesta komission keskitettynä yhteyspisteenä ja jäsenvaltion edustamisesta tekoälytoimiston hallintoneuvostossa;

Tarkistus  198

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 43 alakohta

Komission teksti	Tarkistus
(43) ’kansallisella toimivaltaisella viranomaisella’ kansallista valvontaviranomaista, ilmoittamisesta vastaavaa viranomaista ja markkinavalvontaviranomaista;	(43) ’kansallisella toimivaltaisella viranomaisella’ mitä tahansa tämän asetuksen täytäntöönpanosta vastaavaa kansallista viranomaista;

Tarkistus  199

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 alakohta – johdantokappale

Komission teksti	Tarkistus
(44) ’vakavalla vaaratilanteella’ mitä tahansa vaaratilannetta, joka suoraan tai välillisesti johtaa, olisi saattanut johtaa tai saattaisi johtaa johonkin seuraavista:	(44) ’vakavalla vaaratilanteella’ mitä tahansa vaaratilannetta tai tekoälyjärjestelmän toimintahäiriötä, joka suoraan tai välillisesti johtaa, olisi saattanut johtaa tai saattaisi johtaa johonkin seuraavista:
	(a) henkilön kuolema tai vakava vahinko henkilön terveydelle,
	(b) vakava häiriö kriittisen infrastruktuurin hallinnassa ja toiminnassa,
	(b a) unionin oikeudessa suojattujen perusoikeuksien loukkaaminen;
	(b b) vakava vahinko omaisuudelle tai ympäristölle;

Tarkistus  200

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 a alakohta (uusi)

Komission teksti	Tarkistus
	(44 a) ’henkilötiedoilla’ asetuksen (EU) 2016/679 4 artiklan 1 alakohdassa määriteltyjä henkilötietoja;

Tarkistus  201

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 b alakohta (uusi)

Komission teksti	Tarkistus
	(44 b) ’muilla kuin henkilötiedoilla’ muita tietoja kuin henkilötietoja;

Tarkistus  202

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 c alakohta (uusi)

Komission teksti	Tarkistus
	(44 c) ’profiloinnilla’ mitä tahansa henkilötietojen automaattista käsittelyä tavalla, joka määritellään asetuksen (EU) 2016/679 4 artiklan 4 alakohdassa tai lainvalvontaviranomaisten osalta direktiivin (EU) 2016/680 3 artiklan 4 alakohdassa tai unionin toimielinten, elinten ja laitosten osalta asetuksen (EU) 2018/1725 3 artiklan 5 alakohdassa;

Tarkistus  203

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 d alakohta (uusi)

Komission teksti	Tarkistus
	(44 d) ’syväväärennöksellä’ manipuloitua tai synteettistä ääni-, kuva- tai videosisältöä, joka voi vaikuttaa virheellisesti aidolta tai totuudenmukaiselta ja jossa esitetään henkilöitä sanomassa tai tekemässä jotain sellaista, jota he eivät ole sanoneet tai tehneet, ja joka on tuotettu käyttäen tekoälytekniikoita, mukaan lukien koneoppiminen ja syväoppiminen;

Tarkistus  204

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 e alakohta (uusi)

Komission teksti	Tarkistus
	(44 e) ’laajalle levinneellä rikkomisella’ yksityishenkilöiden etuja suojaavan unionin lainsäädännön vastaisia tekoja tai laiminlyöntejä,
	(a) jotka ovat vahingoittaneet tai ovat omiaan vahingoittamaan sellaisten yksityishenkilöiden yhteisiä etuja, joiden asuinpaikka on vähintään kahdessa muussa jäsenvaltiossa kuin siinä,
	i) jossa teko tai laiminlyönti sai alkunsa tai tapahtui,
	ii) jonne asianomainen tarjoaja tai tapauksen mukaan sen valtuutettu edustaja on sijoittautunut tai
	iii) jonne käyttöönottaja on sijoittautunut silloin, kun hän syyllistyy rikkomiseen;
	(b) jotka ovat vahingoittaneet tai ovat omiaan vahingoittamaan yksityishenkilöiden yhteisiä etuja ja joilla on yhteisiä piirteitä, kuten sama lainvastainen menettely tai samat edut rikkomuksen kohteena ja jotka ilmenevät samanaikaisesti ja joiden tekijä on sama toimija vähintään kolmessa jäsenvaltiossa;

Tarkistus  205

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 f alakohta (uusi)

Komission teksti	Tarkistus
	(44 f) ’laajalle levinneellä rikkomisella, jolla on unionin laajuinen ulottuvuus’ laajalle levinnyttä rikkomista, joka on vahingoittanut tai on omiaan vahingoittamaan yksityishenkilöiden yhteisiä etuja vähintään kahdessa kolmasosassa jäsenvaltioita, joissa yhteensä on vähintään kaksi kolmasosaa unionin väestöstä;

Tarkistus  206

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 g alakohta (uusi)

Komission teksti	Tarkistus
	(44 g) ’sääntelyn testiympäristöllä’ viranomaisen perustamaa valvottua ympäristöä, joka helpottaa innovatiivisten tekoälyjärjestelmien turvallista kehittämistä, testausta ja validointia rajoitetun ajan tietyn suunnitelman mukaisesti ja sääntelyyn liittyvän valvonnan alaisena ennen kuin ne saatetaan markkinoille tai otetaan käyttöön;

Tarkistus  207

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 h alakohta (uusi)

Komission teksti	Tarkistus
	(44 h) ’kriittisellä infrastruktuurilla’ direktiivin (EU) 2022/2557 2 artiklan 4 alakohdan mukaisesti hyödykettä, tilaa, laitteistoa, verkostoa tai järjestelmää tai osaa hyödykkeestä, tilasta, laitteistosta, verkostosta tai järjestelmästä, joka on välttämätön keskeisen palvelun tarjoamiseksi;

Tarkistus  208

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 k alakohta (uusi)

Komission teksti	Tarkistus
	(44 k) ’sosiaalisella pisteytyksellä’ luonnollisten henkilöiden arviointia tai luokittelua heidän sosiaalisen käyttäytymisensä, sosioekonomisen asemansa tai tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella;

Tarkistus  209

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 l alakohta (uusi)

Komission teksti	Tarkistus
	(44 l) ’sosiaalisella käyttäytymisellä’ tapaa, jolla luonnollinen henkilö on vuorovaikutuksessa muiden luonnollisten henkilöiden tai yhteiskunnan kanssa ja vaikuttaa niihin;

Tarkistus  210

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 m alakohta (uusi)

Komission teksti	Tarkistus
	(44 m) ’alan viimeisimmällä kehityksellä’ tuotteiden, prosessien ja palvelujen teknisten valmiuksien kehittynyttä vaihetta tiettynä ajankohtana perustuen tieteestä, teknologiasta sekä kokemuksen perusteella saatuihin yhdistettyihin tuloksiin;

Tarkistus  211

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 n alakohta (uusi)

Komission teksti	Tarkistus
	(44 n) ’todellisissa olosuhteissa tapahtuvalla testauksella’ laboratorion tai muulla tavoin simuloidun ympäristön ulkopuolella todellisissa olosuhteissa tapahtuvaa tekoälyjärjestelmän väliaikaista testausta, jossa järjestelmää testataan sen käyttötarkoituksen kannalta;

Tarkistus  212

 

Ehdotus asetukseksi

4 artikla

Komission teksti	Tarkistus
4 artikla	Poistetaan.
Liitteen I muuttaminen
Siirretään komissiolle valta antaa 73 artiklan mukaisesti delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa, jotta kyseinen luettelo voidaan saattaa markkinoiden ja teknologian kehityksen tasalle siinä lueteltuja tekniikoita ja lähestymistapoja vastaavien ominaisuuksien perusteella.

Tarkistus  213

 

Ehdotus asetukseksi

4 a artikla (uusi)

Komission teksti	Tarkistus
	4 a artikla
	Kaikkiin tekoälyjärjestelmiin sovellettavat yleiset periaatteet
	1. Kaikkien tämän asetuksen soveltamisalaan kuuluvien toimijoiden on pyrittävä parhaalla mahdollisella tavalla kehittämään ja käyttämään tekoälyjärjestelmiä ja perusmalleja noudattaen seuraavia yleisiä periaatteita, joilla luodaan korkean tason kehys, jolla edistetään johdonmukaista ihmiskeskeistä eurooppalaista lähestymistapaa eettiseen ja luotettavaan tekoälyyn, joka on täysin perusoikeuskirjan ja unionin perustana olevien arvojen mukainen:
	a) ’ihmisen toimijuus ja ihmisen suorittama valvonta’, jolla tarkoitetaan, että tekoälyjärjestelmät on kehitettävä työkaluiksi ja niitä on käytettävä työkaluina, jotka palvelevat ihmisiä, kunnioittavat ihmisarvoa ja itsemääräämisoikeutta ja toimivat siten, että ihmisen on mahdollista hallita ja valvoa niitä;
	b) ’tekninen luotettavuus ja turvallisuus’, jolla tarkoitetaan, että tekoälyjärjestelmät on kehitettävä ja niitä on käytettävä tavalla, jolla pidetään tahattomat ja odottamattomat haitat mahdollisimman vähäisinä ja varmistetaan luotettavuus tahattomissa ongelmatilanteissa sekä palautumiskyky yrityksistä muuttaa tekoälyjärjestelmän käyttöä tai toimintaa siten, että vihamieliset kolmannet osapuolet voisivat käyttää sitä laittomasti;
	c) ’yksityisyys ja tietosuoja’, jolla tarkoitetaan, että tekoälyjärjestelmät on kehitettävä ja niitä on käytettävä olemassa olevia yksityisyydensuojaa ja tietosuojaa koskevien säännösten mukaisesti käsiteltäessä tietoja, jotka täyttävät tiukat vaatimukset laadun ja eheyden osalta;
	d) ’läpinäkyvyys’, jolla tarkoitetaan, että tekoälyjärjestelmiä on kehitettävä ja käytettävä tavalla, joka mahdollistaa asianmukaisen jäljitettävyyden ja selitettävyyden, saa ihmiset tietoiseksi siitä, että he viestivät tai ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, ja tiedottaa käyttäjille asianmukaisesti kulloisenkin tekoälyjärjestelmän suorituskykyyn liittyvistä valmiuksista ja rajoituksista sekä asianomaisille henkilöille heidän oikeuksistaan;
	e) ’monimuotoisuus, syrjimättömyys ja oikeudenmukaisuus’, jolla tarkoitetaan, että tekoälyjärjestelmiä on kehitettävä ja käytettävä tavalla, jossa on mukana monimuotoisia toimijoita ja jolla edistetään yhtäläisiä mahdollisuuksia, sukupuolten tasa-arvoa ja kulttuurien monimuotoisuutta ja vältetään unionin tai kansallisessa lainsäädännössä kiellettyjä syrjiviä vaikutuksia ja epäoikeudenmukaisia vääristymiä;
	f) ’sosiaalinen ja ympäristöön liittyvä hyvinvointi’, jolla tarkoitetaan, että tekoälyjärjestelmiä on kehitettävä ja käytettävä kestävällä ja ympäristöystävällisellä tavalla sekä siten, että ne ovat hyödyksi kaikille ihmisille, seuraten ja arvioiden samalla pitkän aikavälin vaikutuksia yksilöihin, yhteyskuntaan ja demokratiaan.
	2. Edellä oleva 1 kohta ei vaikuta olemassa olevassa unionin ja kansallisessa lainsäädännössä säädettyihin velvoitteisiin. Tarjoajat ja käyttöönottajat soveltavat käytännössä ja noudattavat suuririskisiä tekoälyjärjestelmiä koskevia yleisiä periaatteita noudattamalla 8–15 artiklassa säädettyjä vaatimuksia ja tämän asetuksen III osaston 3 luvussa säädettyjä asiaankuuluvia velvoitteita. Tarjoajat soveltavat käytännössä ja noudattavat perusmalleja koskevia yleisiä periaatteita noudattamalla 28–28 b artiklassa säädettyjä vaatimuksia. Edellä 1 kohdassa tarkoitettujen periaatteiden noudattaminen voidaan varmistaa kaikkien tekoälyjärjestelmien osalta tapauksen mukaan 28 artiklan tai 52 artiklan säännöksillä tai soveltamalla yhdenmukaistettuja standardeja, teknisiä eritelmiä ja 69 artiklassa tarkoitettuja käytännesääntöjä luomatta tämän asetuksen nojalla uusia velvoitteita.
	3. Komissio ja tekoälytoimisto sisällyttävät nämä ohjaavat periaatteet standardointipyyntöihin sekä teknisiä ohjeita käsittäviin suosituksiin tarjoajien ja käyttöönottajien avustamiseksi tekoälyjärjestelmien kehittämisessä ja käytössä. Eurooppalaisten standardointiorganisaatioiden on otettava tämän artiklan 1 kohdassa tarkoitetut yleiset periaatteet huomioon tuotoksiin liittyvinä tavoitteina, kun ne kehittävät suuririskisille tekoälyjärjestelmille asianmukaisia 40 artiklan 2 b kohdassa tarkoitettuja yhdenmukaistettuja standardeja.

Tarkistus  214

 

Ehdotus asetukseksi

4 b artikla (uusi)

Komission teksti	Tarkistus
	4 b artikla
	Tekoälylukutaito
	1. Unioni ja jäsenvaltiot edistävät tämän asetuksen täytäntöönpanon yhteydessä toimenpiteitä riittävän tekoälylukutaidon kehittämiseksi eri aloilla ja ottaen huomioon tarjoaja- ja käyttöönottajaryhmien ja asianomaisten henkilöiden ryhmien erilaiset tarpeet muun muassa koulutus-, osaamis- ja uudelleenkoulutusohjelmien avulla varmistaen samalla asianmukaisen sukupuolten ja ikäryhmien välisen tasapainon, jotta mahdollistetaan tekoälyjärjestelmien demokraattinen valvonta.
	2. Tekoälyjärjestelmien tarjoajien ja käyttöönottajien on toteutettava toimenpiteitä, joilla ne varmistavat henkilöstönsä ja muiden niiden puolesta tekoälyjärjestelmien toiminnasta ja käytöstä vastaavien henkilöiden riittävän tekoälylukutaidon, minkä yhteydessä otetaan huomioon heidän tekninen tietämyksensä, kokemuksensa, koulutuksensa ja tekoälyjärjestelmien käyttöyhteys sekä henkilöt tai henkilöryhmät, joihin tekoälyjärjestelmiä on määrä käyttää.
	3. Tällaiset lukutaitoa edistävät toimenpiteet koostuvat erityisesti tekoälyjärjestelmiä ja niiden toimintaa koskevien peruskäsitteiden ja -taitojen opettamisesta, mukaan lukien erilaiset tuotteet ja käyttötarkoitukset sekä niiden riskit ja hyödyt.
	4. Riittävä tekoälylukutaito on sellainen, joka tarvittaessa edistää tarjoajien ja käyttöönottajien kykyä varmistaa tämän asetuksen noudattaminen ja täytäntöönpano.

Tarkistus  215

 

Ehdotus asetukseksi

5 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa käytetään subliminaalisia tekniikoita, joita henkilö ei havaitse tietoisesti, jotta voidaan olennaisesti vääristää henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa;	(a) sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa käytetään subliminaalisia tekniikoita, joita henkilö ei havaitse tietoisesti, tai tarkoituksellisesti manipuloivia tai harhaanjohtavia tekniikoita, joiden tavoitteena on vääristää tai jotka olennaisesti vääristävät henkilön tai henkilöryhmän käyttäytymistä heikentäen tuntuvasti henkilön kykyä tehdä tietoinen päätös ja saaden tämän tekemään päätöksen, jota hän ei olisi muussa tapauksessa tehnyt, tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle, toiselle henkilölle tai henkilöryhmälle merkittävää haittaa.
	Ensimmäisessä alakohdassa tarkoitettuja subliminaalisia tekniikoita käyttävän tekoälyjärjestelmän kieltoa ei sovelleta tekoälyjärjestelmiin, jotka on tarkoitettu käytettäviksi hyväksyttyihin hoitotarkoituksiin sellaisen nimenomaisen tietoisen suostumuksen perusteella, jonka järjestelmille altistuvat henkilöt antavat tai tarpeen mukaan henkilön laillinen holhooja antaa;

Tarkistus  216

 

Ehdotus asetukseksi

5 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa hyödynnetään tietyn henkilöryhmän haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa, jotta voidaan olennaisesti vääristää kyseiseen ryhmään kuuluvan henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa;	(b) sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa hyödynnetään henkilön tai tietyn henkilöryhmän haavoittuvuuksia, kuten tällaisen henkilön ominaispiirteitä tai tällaisen henkilöryhmän tunnettuja tai ennakoituja luonteenpiirteitä, sosiaalista tai taloudellista tilannetta, ikää tai fyysistä tai psyykkistä kykyä, ja jossa on tavoitteena vääristää tai jossa olennaisesti vääristetään kyseisen henkilön tai kyseiseen ryhmään kuuluvan henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle merkittävää haittaa;

Tarkistus  217

 

Ehdotus asetukseksi

5 artikla – 1 kohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) sellaisten biometristen luokittelujärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joilla luonnollisia henkilöitä luokitellaan arkaluonteisten tai suojattujen ominaisuuksien tai ominaispiirteiden mukaisesti tai kyseisten ominaisuuksien tai ominaispiirteiden päättelyn perusteella. Tätä kieltoa ei sovelleta tekoälyjärjestelmiin, jotka on tarkoitettu käytettäviksi hyväksyttyihin hoitotarkoituksiin sellaisen nimenomaisen tietoisen suostumuksen perusteella, jonka järjestelmille altistuvat henkilöt antavat tai tarpeen mukaan henkilön laillinen holhooja antaa;

Tarkistus  218

 

Ehdotus asetukseksi

5 artikla – 1 kohta – c alakohta – johdantokappale

Komission teksti	Tarkistus
(c) tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö viranomaisten toimesta tai niiden puolesta luonnollisten henkilöiden luotettavuuden arvioimiseksi tai luokittelemiseksi tiettynä ajanjaksona heidän sosiaalisen käyttäytymisensä tai tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella siten, että sosiaalinen pisteytys johtaa jompaankumpaan tai molempiin seuraavista:	(c) tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö luonnollisten henkilöiden tai luonnollisten henkilöiden ryhmien arvioimiseksi tai luokittelemiseksi sosiaalisella pisteytyksellä tiettynä ajanjaksona heidän sosiaalisen käyttäytymisensä tai tunnettujen, pääteltyjen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella siten, että sosiaalinen pisteytys johtaa jompaankumpaan tai molempiin seuraavista:

Tarkistus  219

 

Ehdotus asetukseksi

5 artikla – 1 kohta – c alakohta – i alakohta

Komission teksti	Tarkistus
i) tiettyjen luonnollisten henkilöiden tai heidän ryhmiensä haitallinen tai epäedullinen kohtelu sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin;	(Tarkistus ei vaikuta suomenkieliseen versioon.)

Tarkistus  220

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d alakohta – johdantokappale

Komission teksti	Tarkistus
(d) reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa, paitsi jos ja siltä osin kuin se on ehdottoman välttämätöntä jonkin seuraavan tavoitteen saavuttamiseksi:	(d) reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa;

Tarkistus  221

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d alakohta – i alakohta

Komission teksti	Tarkistus
i) tiettyjen mahdollisten rikoksen uhrien, myös kadonneiden lasten, kohdennettu etsintä;	Poistetaan.

Tarkistus  222

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d alakohta – ii alakohta

Komission teksti	Tarkistus
ii) luonnollisten henkilöiden henkeen tai fyysiseen turvallisuuteen kohdistuvan erityisen, merkittävän ja välittömän uhan tai terrori-iskun ehkäiseminen;	Poistetaan.

Tarkistus  223

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d alakohta – iii alakohta

Komission teksti	Tarkistus
iii) neuvoston puitepäätöksen 2002/584/YOS62 2 artiklan 2 kohdassa tarkoitetun rikoksen tekijän tai tällaisesta rikoksesta epäillyn havaitseminen, paikantaminen, tunnistaminen tai syytteeseenpano, kun rikoksesta voi asianomaisessa jäsenvaltiossa seurata vapaudenmenetyksen käsittävä rangaistus tai turvaamistoimenpide, jonka enimmäisaika on vähintään kolme vuotta, siten kuin se on määritelty kyseisen jäsenvaltion oikeudessa.	Poistetaan.
__________________
62 Neuvoston puitepäätös 2002/584/YOS, tehty 13 päivänä kesäkuuta 2002, eurooppalaisesta pidätysmääräyksestä ja jäsenvaltioiden välisistä luovuttamismenettelyistä (EYVL L 190, 18.7.2002, s. 1).

Tarkistus  224

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d a alakohta (uusi)

Komission teksti	Tarkistus
	(d a) tekoälyjärjestelmän saattaminen markkinoille, käyttöönotto tai käyttö luonnollisia henkilöitä tai heidän ryhmiään koskevissa riskinarvioinneissa, jotta voidaan arvioida riskiä siitä, että luonnollinen henkilö syyllistyy rikokseen tai rikoksen uusimiseen, tai ennustaa todellisen tai mahdollisen rikoksen tai hallinnollisen rikkomuksen esiintymistä tai toistumista luonnollisen henkilön profiloinnin tai luonnollisen henkilön tai luonnollisten henkilöiden ryhmien luonteenpiirteiden ja ominaispiirteiden, mukaan lukien henkilön sijainti, tai aiemman rikollisen käyttäytymisen arvioinnin perusteella.

Tarkistus  225

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d b alakohta (uusi)

Komission teksti	Tarkistus
	(d b) sellaisten tekoälyjärjestelmien saattaminen markkinoille, käyttöönotto tai käyttö, joilla luodaan tai laajennetaan kasvojentunnistustietokantoja haravoimalla kasvokuvia kohdentamattomasti internetistä tai valvontakamerakuvista;

Tarkistus  226

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d c alakohta (uusi)

Komission teksti	Tarkistus
	dc) tekoälyjärjestelmien saattaminen markkinoille, käyttöönotto tai käyttö luonnollisen henkilön tunteiden päättelemiseksi lainvalvonnassa, rajavalvonnassa, työpaikoilla ja oppilaitoksissa.

Tarkistus  227

 

Ehdotus asetukseksi

5 artikla – 1 kohta – d d alakohta (uusi)

Komission teksti	Tarkistus
	(d d) tekoälyjärjestelmien käyttöönotto tai käyttö julkisissa tiloissa tallennetun kuvamateriaalin analysointiin jälkikäteisissä biometrisissä etätunnistusjärjestelmissä, paitsi jos ne edellyttävät unionin oikeuden mukaista tuomioistuimen ennakkoon antamaa lupaa ja ovat ehdottoman välttämättömiä johonkin jo tehtyyn, SEUT 83 artiklan 1 kohdassa määriteltyyn vakavaan rikokseen liittyvän kohdennetun etsinnän kannalta lainvalvonnassa.

Tarkistus  228

 

Ehdotus asetukseksi

5 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Tämä artikla ei vaikuta kieltoihin, joita sovelletaan, jos tekoälykäytäntö rikkoo unionin muuta lainsäädäntöä, kuten tietosuojaa, syrjimättömyyttä, kuluttajansuojaa ja kilpailua koskevaa unionin lainsäädäntöä.

Tarkistus  229

 

Ehdotus asetukseksi

5 artikla – 2 kohta

Komission teksti	Tarkistus
2. Kun reaaliaikaisia biometrisiä etätunnistusjärjestelmiä käytetään julkisissa tiloissa lainvalvontatarkoituksessa minkä tahansa 1 kohdan d alakohdassa tarkoitetun tavoitteen saavuttamiseksi, huomioon on otettava seuraavat tekijät:	Poistetaan.
(a) mahdollisen käytön aiheuttavan tilanteen luonne, erityisesti aiheutuvan vahingon vakavuus, todennäköisyys ja laajuus siinä tapauksessa, että järjestelmää ei käytetä;
(b) järjestelmän käytön seuraukset kaikkien asianomaisten henkilöiden oikeuksille ja vapauksille, erityisesti näiden seurausten vakavuus, todennäköisyys ja laajuus.
Lisäksi kun reaaliaikaisia biometrisiä etätunnistusjärjestelmiä käytetään julkisissa tiloissa lainvalvontatarkoituksessa minkä tahansa 1 kohdan d alakohdassa tarkoitetun tavoitteen saavuttamiseksi, on noudatettava käyttöön liittyviä välttämättömiä ja oikeasuhteisia suojatoimia ja edellytyksiä, erityisesti ajallisia, maantieteellisiä ja henkilötason rajoituksia.

Tarkistus  230

 

Ehdotus asetukseksi

5 artikla – 3 kohta

Komission teksti	Tarkistus
3. Edellä olevan 1 kohdan d alakohdan ja 2 kohdan osalta jokainen reaaliaikaisen biometrisen etätunnistusjärjestelmän yksittäinen käyttö lainvalvontatarkoituksessa julkisissa tiloissa edellyttää sen jäsenvaltion, jossa käyttö tapahtuu, oikeusviranomaisen tai riippumattoman hallintoviranomaisen myöntämää ennakkolupaa, joka annetaan perustellusta pyynnöstä ja 4 kohdassa tarkoitetun kansallisen lainsäädännön yksityiskohtaisten sääntöjen mukaisesti. Asianmukaisesti perustelluissa kiireellisissä tapauksissa järjestelmän käyttö voidaan kuitenkin aloittaa ilman lupaa ja lupa voidaan pyytää vasta käytön aikana tai sen jälkeen.	Poistetaan.
Toimivaltainen oikeus- tai hallintoviranomainen saa myöntää luvan ainoastaan, jos se katsoo sille esitettyjen objektiivisten todisteiden tai selkeiden seikkojen perusteella, että kyseessä oleva reaaliaikaisen biometrisen etätunnistusjärjestelmän käyttö on välttämätöntä ja oikeasuhteista jonkin 1 kohdan d alakohdassa tarkoitetun ja pyynnössä yksilöidyn tavoitteen saavuttamiseksi. Toimivaltaisen oikeus- tai hallintoviranomaisen on pyyntöä koskevaa päätöstä tehdessään otettava huomioon 2 kohdassa tarkoitetut seikat.

Tarkistus  231

 

Ehdotus asetukseksi

5 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jäsenvaltio voi päättää säätää mahdollisuudesta sallia kokonaan tai osittain reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa 1 kohdan d alakohdassa, 2 kohdassa ja 3 kohdassa luetelluin rajoituksin ja edellytyksin. Kyseisen jäsenvaltion on annettava kansallisessa lainsäädännössään tarvittavat yksityiskohtaiset säännöt 3 kohdassa tarkoitettujen lupien pyytämistä, myöntämistä, käyttöä ja valvontaa varten. Näissä säännöissä on myös täsmennettävä, minkä 1 kohdan d alakohdassa lueteltujen tavoitteiden osalta, myös minkä mainitun alakohdan iii alakohdassa tarkoitettujen rikosten osalta, toimivaltaisille viranomaisille voidaan antaa lupa käyttää kyseisiä järjestelmiä lainvalvontatarkoituksessa.	Poistetaan.

Tarkistus  232

 

Ehdotus asetukseksi

6 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) tekoälyjärjestelmä on tarkoitettu käytettäväksi tuotteen turvakomponenttina tai se on itse tuote, joka kuuluu liitteessä II luetellun unionin yhdenmukaistamislainsäädännön soveltamisalaan;	(a) tekoälyjärjestelmä on tarkoitettu käytettäväksi tuotteen turvakomponenttina tai tekoälyjärjestelmä on itse tuote, joka kuuluu liitteessä II luetellun unionin yhdenmukaistamislainsäädännön soveltamisalaan;

Tarkistus  233

 

Ehdotus asetukseksi

6 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) tuotteelle, jonka turvakomponentti on tekoälyjärjestelmä, tai tekoälyjärjestelmälle, joka on itse tuote, on tehtävä kolmannen osapuolen suorittama vaatimustenmukaisuuden arviointi kyseisen tuotteen saattamiseksi markkinoille tai käyttöön ottamiseksi liitteessä II luetellun unionin yhdenmukaistamislainsäädännön mukaisesti.	(b) tuotteelle, jonka turvakomponentti on a alakohdan mukaisesti tekoälyjärjestelmä, tai tekoälyjärjestelmälle, joka on itse tuote, on tehtävä terveys- ja turvallisuusriskeihin liittyvä kolmannen osapuolen suorittama vaatimustenmukaisuuden arviointi kyseisen tuotteen saattamiseksi markkinoille tai käyttöön ottamiseksi liitteessä II luetellun unionin yhdenmukaistamislainsäädännön mukaisesti.

Tarkistus  234

 

Ehdotus asetukseksi

6 artikla – 2 kohta

Komission teksti	Tarkistus
2. Edellä 1 kohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien lisäksi myös liitteessä III tarkoitettuja tekoälyjärjestelmiä pidetään suuririskisinä.	2. Edellä 1 kohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien lisäksi yhden tai useamman liitteessä III luetellun kriittisen alan ja käyttötapauksen piiriin kuuluvia tekoälyjärjestelmiä pidetään suuririskisinä, jos ne aiheuttavat luonnollisten henkilöiden terveyteen, turvallisuuteen tai perusoikeuksiin kohdistuvan haitan merkittävän riskin. Jos tekoälyjärjestelmä kuuluu liitteessä III olevan 2 kohdan soveltamisalaan, sitä on pidettävä suuririskisenä, jos se aiheuttaa merkittävän ympäristöhaitan riskin.
	Komissio antaa kuusi kuukautta ennen tämän asetuksen voimaantuloa ja tekoälytoimistoa ja asiaankuuluvia sidosryhmiä kuultuaan ohjeet, joissa täsmennetään selkeästi olosuhteet, joissa liitteessä III tarkoitettujen tekoälyjärjestelmien tuotos aiheuttaisi luonnollisten henkilöiden terveyteen, turvallisuuteen tai perusoikeuksiin kohdistuvan haitan merkittävän riskin, tai tapaukset, joissa tällaista riskiä ei olisi.

Tarkistus  235

 

Ehdotus asetukseksi

6 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Jos yhden tai useamman liitteessä III tarkoitetun kriittisen alan ja käyttötapauksen piiriin kuuluvat tarjoajat katsovat, että niiden tekoälyjärjestelmä ei aiheuta 2 kohdassa tarkoitettua merkittävää riskiä, niiden on toimitettava kansalliselle valvontaviranomaiselle perusteltu ilmoitus siitä, että niitä eivät koske tämän asetuksen III osaston 2 luvun vaatimukset. Jos tekoälyjärjestelmä on tarkoitettu käytettäväksi kahdessa tai useammassa jäsenvaltiossa, ilmoitus on osoitettava tekoälytoimistolle. Kansallisen valvontaviranomaisen on käsiteltävä ilmoitus ja vastattava siihen joko suoraan tai tekoälytoimiston kautta kolmen kuukauden kuluessa, jos se katsoo, että tekoälyjärjestelmä on luokiteltu väärin, sanotun kuitenkaan rajoittamatta 65 artiklan soveltamista.

Tarkistus  236

 

Ehdotus asetukseksi

6 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 b. Tarjoajille, jotka luokittelevat tekoälyjärjestelmänsä virheellisesti niin, että niihin ei sovelleta tämän asetuksen III osaston 2 luvun vaatimuksia, ja saattavat sen markkinoille ennen kansallisten valvontaviranomaisten vastalauseen esittämiselle asetetun määräajan päättymistä, määrätään sakkoja 71 artiklan nojalla.

Tarkistus  237

 

Ehdotus asetukseksi

6 artikla – 2 b kohta (uusi)

Komission teksti	Tarkistus
	2 c. Kansallisten valvontaviranomaisten on toimitettava tekoälytoimistolle vuosittain kertomus, jossa esitetään yksityiskohtaisesti vastaanotettujen ilmoitusten lukumäärä, niihin liittyvät korkean riskin alat ja vastaanotetuista ilmoituksista tehdyt päätökset.

Tarkistus  238

 

Ehdotus asetukseksi

7 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Siirretään komissiolle valta antaa 73 artiklan mukaisesti delegoituja säädöksiä liitteessä III olevan luettelon päivittämiseksi lisäämällä siihen suuririskisiä tekoälyjärjestelmiä, jos molemmat seuraavista edellytyksistä täyttyvät:	1. Siirretään komissiolle valta antaa 73 artiklan mukaisesti delegoituja säädöksiä liitteen III muuttamisesta siten, että lisätään suuririskisten tekoälyjärjestelmien aloja tai käyttötapauksia, jos nämä aiheuttavat merkittävän riskin terveyteen ja turvallisuuteen kohdistuvasta haitasta tai perusoikeuksiin, ympäristöön, demokratiaan tai oikeusvaltioperiaatteeseen kohdistuvasta kielteisestä vaikutuksesta ja joissa kyseinen riski on vakavuutensa ja esiintymistodennäköisyytensä osalta vähintään yhtä suuri kuin liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisten vaikutusten riski.

Tarkistus  239

 

Ehdotus asetukseksi

7 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) tekoälyjärjestelmiä on tarkoitus käyttää millä tahansa liitteessä III olevassa 1–8 kohdassa luetelluista aloista;	Poistetaan.

Tarkistus  240

 

Ehdotus asetukseksi

7 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) tekoälyjärjestelmät aiheuttavat terveys- ja turvallisuushaitan riskin tai perusoikeuksiin kohdistuvan kielteisen vaikutuksen riskin, joka on vakavuutensa ja esiintymistodennäköisyytensä kannalta vähintään yhtä suuri kuin liitteessä III jo tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisen vaikutuksen riski.	Poistetaan.

Tarkistus  241

 

Ehdotus asetukseksi

7 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Siirretään komissiolle myös valta antaa 73 artiklan mukaisesti delegoituja säädöksiä suuririskisten tekoälyjärjestelmien käyttötapausten poistamiseksi liitteessä III olevasta luettelosta, jos 1 kohdassa tarkoitetut edellytykset eivät enää täyty.

Tarkistus  242

 

Ehdotus asetukseksi

7 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Arvioidessaan 1 kohdan soveltamiseksi, aiheuttaako tekoälyjärjestelmä sellaisen terveys- ja turvallisuushaitan riskin tai perusoikeuksiin kohdistuvan kielteisen vaikutuksen riskin, joka on vähintään yhtä suuri kuin liitteessä III jo tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisen vaikutuksen riski, komissio ottaa huomioon seuraavat kriteerit:	2. Arvioidessaan tekoälyjärjestelmää 1 ja 1 a kohdan soveltamiseksi komissio ottaa huomioon seuraavat kriteerit:

Tarkistus  243

 

Ehdotus asetukseksi

7 artikla – 2 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) tekoälyjärjestelmän yleiset valmiudet ja toiminnot riippumatta sen käyttötarkoituksesta;

Tarkistus  244

 

Ehdotus asetukseksi

7 artikla – 2 kohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) tekoälyjäjärjestelmässä käsitellyn ja käytetyn datan luonne ja määrä;

Tarkistus  245

 

Ehdotus asetukseksi

7 artikla – 2 kohta – b b alakohta (uusi)

Komission teksti	Tarkistus
	(b b) missä määrin tekoälyjärjestelmä toimii itsenäisesti;

Tarkistus  246

 

Ehdotus asetukseksi

7 artikla – 2 kohta – c alakohta

Komission teksti	Tarkistus
(c) missä määrin tekoälyjärjestelmän käyttö on jo aiheuttanut haittaa terveydelle ja turvallisuudelle tai vaikuttanut kielteisesti perusoikeuksiin tai on herättänyt merkittävää huolta tällaisen haitan tai kielteisen vaikutuksen ilmenemisestä, mikä käy ilmi kansallisille toimivaltaisille viranomaisille toimitetuista raporteista tai dokumentoiduista väitteistä;	(c) missä määrin tekoälyjärjestelmän käyttö on jo aiheuttanut haittaa terveydelle ja turvallisuudelle, vaikuttanut kielteisesti perusoikeuksiin, ympäristöön, demokratiaan ja oikeusvaltioon tai on herättänyt merkittävää huolta tällaisen haitan tai kielteisen vaikutuksen todennäköisyydestä, mikä käy ilmi kansallisille valvontaviranomaisille, komissiolle, tekoälytoimistolle, Euroopan tietosuojavaltuutetulle tai Euroopan unionin perusoikeusvirastolle toimitetuista raporteista tai dokumentoiduista väitteistä;

Tarkistus  247

 

Ehdotus asetukseksi

7 artikla – 2 kohta – d alakohta

Komission teksti	Tarkistus
(d) tällaisen haitan tai tällaisen haitallisen vaikutuksen mahdollinen laajuus, erityisesti sen voimakkuus ja kyky vaikuttaa lukuisiin henkilöihin;	(d) tällaisen haitan tai tällaisen haitallisen vaikutuksen mahdollinen laajuus, erityisesti sen voimakkuus ja kyky vaikuttaa lukuisiin henkilöihin tai vaikuttaa suhteettomasti erityiseen henkilöryhmään;

Tarkistus  248

 

Ehdotus asetukseksi

7 artikla – 2 kohta – e alakohta

Komission teksti	Tarkistus
(e) missä määrin henkilöt, joille mahdollisesti aiheutuu haittaa tai joihin mahdollisesti kohdistuu kielteinen vaikutus, ovat riippuvaisia tekoälyjärjestelmän tuottamasta tuloksesta, erityisesti koska käytännöllisistä tai oikeudellisista syistä ei ole kohtuudella mahdollista olla noudattamatta tätä tulosta;	(e) missä määrin henkilöt, joille mahdollisesti aiheutuu haittaa tai joihin mahdollisesti kohdistuu kielteinen vaikutus, ovat riippuvaisia tekoälyjärjestelmän avulla tuotetusta tuotoksesta ja kyseinen tuotos on suoritettavaan toimeen tai tehtävään päätökseen nähden puhtaasti liitännäinen, erityisesti koska käytännöllisistä tai oikeudellisista syistä ei ole kohtuudella mahdollista olla noudattamatta tätä tuotosta;

Tarkistus  249

 

Ehdotus asetukseksi

7 artikla – 2 kohta – e a alakohta (uusi)

Komission teksti	Tarkistus
	(e a) tekoälyjärjestelmän ja sen perustana olevan teknologian mahdollinen väärinkäyttö ja vihamielinen käyttö;

Tarkistus  250

 

Ehdotus asetukseksi

7 artikla – 2 kohta – f alakohta

Komission teksti	Tarkistus
(f) missä määrin henkilöt, joille mahdollisesti aiheutuu haittaa tai joihin mahdollisesti kohdistuu kielteinen vaikutus, ovat haavoittuvassa asemassa tekoälyjärjestelmän käyttäjään nähden, erityisesti vallankäyttöön, tietämykseen, taloudellisiin tai sosiaalisiin olosuhteisiin tai ikään liittyvän epätasapainon vuoksi;	(f) missä määrin on kyse vallan epätasapainosta tai missä määrin henkilöt, joille mahdollisesti aiheutuu haittaa tai joihin mahdollisesti kohdistuu kielteinen vaikutus, ovat haavoittuvassa asemassa tekoälyjärjestelmän käyttäjään nähden, erityisesti aseman, valta-aseman, tietämyksen, taloudellisten tai sosiaalisten olosuhteiden tai iän vuoksi;

Tarkistus  251

 

Ehdotus asetukseksi

7 artikla – 2 kohta – g alakohta

Komission teksti	Tarkistus
(g) missä määrin tekoälyjärjestelmän avulla saatu tulos on helposti peruutettavissa; tuloksia, joilla on vaikutusta ihmisten terveyteen tai turvallisuuteen, ei katsota helposti peruutettaviksi;	(g) missä määrin tekoälyjärjestelmän avulla saatu tulos on helposti peruutettavissa tai korjattavissa; tuloksia, joilla on kielteinen vaikutus ihmisten terveyteen, turvallisuuteen tai perusoikeuksiin sekä ympäristöön, demokratiaan ja oikeusvaltioon, ei katsota helposti peruutettaviksi;

Tarkistus  252

 

Ehdotus asetukseksi

7 artikla – 2 kohta – g a alakohta (uusi)

Komission teksti	Tarkistus
	(g a) missä määrin on saatavilla tekoälyjärjestelmän valvontaa, luotettavuutta ja oikaistavuutta koskevia tehokkaita teknisiä ratkaisuja ja mekanismeja ja missä määrin niitä käytetään;

Tarkistus  253

 

Ehdotus asetukseksi

7 artikla – 2 kohta – g b alakohta (uusi)

Komission teksti	Tarkistus
	(g b) tekoälyjärjestelmän käyttöönotosta yksilöille, ryhmille tai koko yhteiskunnalle koituvan hyödyn suuruus ja todennäköisyys, tuoteturvallisuuden mahdolliset parannukset mukaan lukien;

Tarkistus  254

 

Ehdotus asetukseksi

7 artikla – 2 kohta – g c alakohta (uusi)

Komission teksti	Tarkistus
	(g c) ihmisen suorittaman valvonnan laajuus ja ihmisen väliintulon mahdollisuus sellaisen päätöksen tai suosituksen kumoamiseksi, joka voi mahdollisesti aiheuttaa haittaa;

Tarkistus  255

 

Ehdotus asetukseksi

7 artikla – 2 kohta – h alakohta

Komission teksti	Tarkistus
(i) tekoälyjärjestelmän aiheuttamiin riskeihin liittyvistä tehokkaista oikeussuojakeinoista, lukuun ottamatta vahingonkorvausvaateita;	(h) missä määrin voimassa olevassa unionin lainsäädännössä säädetään
	i) tekoälyjärjestelmän aiheuttamiin vahinkoihin liittyvistä tehokkaista oikeussuojakeinoista, lukuun ottamatta korvausvaateita suorasta tai välillisestä vahingosta;
	ii) tehokkaista toimenpiteistä kyseisten riskien ehkäisemiseksi tai vähentämiseksi merkittävästi.

Tarkistus  256

 

Ehdotus asetukseksi

7 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Arvioidessaan tekoälyjärjestelmää 1 ja 1 a kohdan soveltamiseksi komissio kuulee tekoälytoimistoa ja tarvittaessa niiden ryhmien edustajia, joihin tekoälyjärjestelmä vaikuttaa, sekä toimialaa, riippumattomia asiantuntijoita, työmarkkinaosapuolia ja kansalaisjärjestöjä. Komissio järjestää tähän liittyen myös julkisia kuulemisia ja asettaa näiden kuulemisten ja lopullisen arvioinnin tulokset julkisesti saataville.

Tarkistus  257

 

Ehdotus asetukseksi

7 artikla – 2 b kohta (uusi)

Komission teksti	Tarkistus
	2 b. Tekoälytoimisto, kansalliset valvontaviranomaiset tai Euroopan parlamentti voivat pyytää komissiota arvioimaan ja luokittelemaan uudelleen tekoälyjärjestelmän riskiluokituksen 1 ja 1 a kohdan mukaisesti. Komissio perustelee päätöksensä ja julkaisee perustelut.

Tarkistus  258

 

Ehdotus asetukseksi

8 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Tässä luvussa vahvistettujen vaatimusten noudattamiseksi on otettava asianmukaisesti huomioon 82 b artiklassa tarkoitetut laaditut suuntaviivat ja yleisesti tunnustettu alan viimeisin kehitys, myös asiaa koskevissa 40 ja 41 artiklassa tarkoitetuissa yhdenmukaistetuissa standardeissa ja yhteisissä eritelmissä tai unionin yhdenmukaistamislainsäädännössä esitetyn mukaisesti.

Tarkistus  259

 

Ehdotus asetukseksi

8 artikla – 2 kohta

Komission teksti	Tarkistus
2. Suuririskisen tekoälyjärjestelmän käyttötarkoitus ja 9 artiklassa tarkoitettu riskinhallintajärjestelmä on otettava huomioon varmistettaessa, että kyseisiä vaatimuksia noudatetaan.	2. Suuririskisen tekoälyjärjestelmän käyttötarkoitus, kohtuudella ennakoitavissa olevat väärinkäyttöolosuhteet ja 9 artiklassa tarkoitettu riskinhallintajärjestelmä on otettava huomioon varmistettaessa, että kyseisiä vaatimuksia noudatetaan.

Tarkistus  260

 

Ehdotus asetukseksi

8 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Kun III osaston 2 ja 3 luvussa tai VIII osaston 1, 2 ja 3 luvussa suuririskisille tekoälyjärjestelmille asetetut vaatimukset katetaan liitteessä II olevassa A jaksossa luetellussa unionin yhdenmukaistamislainsäädännössä, tämän asetuksen kyseisissä luvuissa säädetyt vaatimukset tai velvollisuudet katsotaan täytetyiksi, siltä osin kuin niihin sisältyy tekoälykomponentti. Ne III osaston 2 ja 3 luvussa tai VIII osaston 1, 2 ja 3 luvussa suuririskisille tekoälyjärjestelmille asetetut vaatimukset, joita ei kateta liitteessä II olevassa A jaksossa luetellussa unionin yhdenmukaistamislainsäädännössä, sisällytetään tapauksen mukaan kyseiseen unionin yhdenmukaistamislainsäädäntöön. Asiaankuuluva vaatimustenmukaisuuden arviointi on suoritettava osana menettelyjä, joista säädetään liitteessä II olevassa A osassa luetellussa unionin yhdenmukaistamislainsäädännössä.

Tarkistus  261

 

Ehdotus asetukseksi

9 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskisille tekoälyjärjestelmille on perustettava, pantava täytäntöön ja dokumentoitava riskinhallintajärjestelmä ja sitä on pidettävä yllä.	1. Suuririskisille tekoälyjärjestelmille on perustettava, pantava täytäntöön ja dokumentoitava riskinhallintajärjestelmä ja sitä on pidettävä yllä koko tekoälyjärjestelmän elinkaaren ajan. Riskinhallintajärjestelmä voidaan sisällyttää asiaankuuluvaan alakohtaiseen unionin lainsäädäntöön liittyviin jo olemassa oleviin riskinhallintamenettelyihin, tai se voi olla osa niitä, mikäli se täyttää tämän artiklan vaatimukset.

Tarkistus  262

 

Ehdotus asetukseksi

9 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Riskinhallintajärjestelmän on koostuttava iteratiivisesta prosessista, joka jatkuu suuririskisen tekoälyjärjestelmän koko elinkaaren ajan ja joka on saatettava säännöllisesti ja järjestelmällisesti ajan tasalle. Siihen on sisällyttävä seuraavat vaiheet:	2. Riskinhallintajärjestelmän on koostuttava iteratiivisesta prosessista, joka jatkuu suuririskisen tekoälyjärjestelmän koko elinkaaren ajan ja jonka riskinhallintaprosessia on tarkasteltava uudelleen ja päivitettävä säännöllisesti, jotta voidaan varmistaa sen jatkuva tehokkuus, ja jossa kaikki tämän artiklan nojalla tehdyt merkittävät päätökset ja toimet on dokumentoitava. Siihen on sisällyttävä seuraavat vaiheet:

Tarkistus  263

 

Ehdotus asetukseksi

9 artikla – 2 kohta – a alakohta

Komission teksti	Tarkistus
(a) kuhunkin suuririskiseen tekoälyjärjestelmään liittyvien tunnettujen ja ennakoitavissa olevien riskien tunnistaminen ja analysointi;	(a) niiden tunnettujen ja kohtuudella ennakoitavissa olevien riskien tunnistaminen ja arviointi, joita suuririskinen tekoälyjärjestelmä voi aiheuttaa luonnollisten henkilöiden terveydelle tai turvallisuudelle, heidän perusoikeuksilleen, mukaan lukien yhtäläiset mahdollisuudet, demokratialle ja oikeusvaltiolle tai ympäristölle, kun suuririskistä tekoälyjärjestelmää käytetään käyttötarkoituksensa mukaisesti ja kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa;

Tarkistus  264

 

Ehdotus asetukseksi

9 artikla – 2 kohta – b alakohta

Komission teksti	Tarkistus
(b) niiden riskien arviointi, joita voi syntyä, kun suuririskistä tekoälyjärjestelmää käytetään käyttötarkoituksensa mukaisesti ja kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa;	Poistetaan.

Tarkistus  265

 

Ehdotus asetukseksi

9 artikla – 2 kohta – c alakohta

Komission teksti	Tarkistus
(c) muiden mahdollisesti syntyvien riskien arviointi 61 artiklassa tarkoitetusta markkinoille saattamisen jälkeisestä seurantajärjestelmästä kerättyjen tietojen analysoinnin perusteella;	(c) sellaisten uusien merkittävien riskien arviointi, jotka on kuvattu a alakohdassa ja yksilöity 61 artiklassa tarkoitetusta markkinoille saattamisen jälkeisestä seurantajärjestelmästä kerättyjen tietojen analysoinnin perusteella;

Tarkistus  266

 

Ehdotus asetukseksi

9 artikla – 2 kohta – d alakohta

Komission teksti	Tarkistus
(d) asianmukaisten riskinhallintatoimenpiteiden käyttöönotto seuraavien kohtien säännösten mukaisesti.	(d) sellaisten asianmukaisten ja kohdennettujen riskinhallintatoimenpiteiden käyttöönotto, joilla on tarkoitus puuttua tämän kohdan a ja b alakohdan mukaisesti todettuihin riskeihin, seuraavien kohtien säännösten mukaisesti.

Tarkistus  267

 

Ehdotus asetukseksi

9 artikla – 3 kohta

Komission teksti	Tarkistus
3. Edellä 2 kohdan d alakohdassa tarkoitetuissa riskinhallintatoimenpiteissä on otettava asianmukaisesti huomioon vaikutukset ja mahdolliset vuorovaikutukset, jotka johtuvat tässä luvussa säädettyjen vaatimusten soveltamisesta yhdessä. Niissä on otettava huomioon yleisesti tunnustettu alan viimeisin kehitys, myös asiaa koskevissa yhdenmukaistetuissa standardeissa tai yhteisissä eritelmissä esitetyn mukaisesti.	3. Edellä 2 kohdan d alakohdassa tarkoitetuissa riskinhallintatoimenpiteissä on otettava asianmukaisesti huomioon vaikutukset ja mahdolliset vuorovaikutukset, jotka johtuvat tässä luvussa säädettyjen vaatimusten soveltamisesta yhdessä, jotta riskejä voidaan vähentää tehokkaasti ja samalla varmistaa vaatimusten asianmukainen ja oikeasuhteinen täytäntöönpano.

Tarkistus  268

 

Ehdotus asetukseksi

9 artikla – 4 kohta – johdantokappale

Komission teksti	Tarkistus
4. Edellä 2 kohdan d alakohdassa tarkoitettujen riskinhallintatoimenpiteiden on oltava sellaisia, että kuhunkin vaaraan mahdollisesti liittyvän jäännösriskin ja suuririskisten tekoälyjärjestelmien kokonaisjäännösriskin katsotaan olevan hyväksyttävällä tasolla edellyttäen, että suuririskistä tekoälyjärjestelmää käytetään käyttötarkoituksensa mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa. Jäännösriskeistä on ilmoitettava käyttäjälle.	4. Edellä 2 kohdan d alakohdassa tarkoitettujen riskinhallintatoimenpiteiden on oltava sellaisia, että kuhunkin vaaraan mahdollisesti liittyvän asiaankuuluvan jäännösriskin ja suuririskisten tekoälyjärjestelmien kokonaisjäännösriskin katsotaan kohtuudella olevan hyväksyttävällä tasolla edellyttäen, että suuririskistä tekoälyjärjestelmää käytetään käyttötarkoituksensa mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa. Jäännösriskeistä ja tehdyistä perustelluista päätöksistä on ilmoitettava käyttöönottajalle.
	Tarkoituksenmukaisimpia riskinhallintatoimenpiteitä määritettäessä on varmistettava seuraavat seikat:

Tarkistus  269

 

Ehdotus asetukseksi

9 artikla – 4 kohta – 1 alakohta – a alakohta

Komission teksti	Tarkistus
(a) riskien poistaminen tai vähentäminen siinä määrin kuin mahdollista asianmukaisella suunnittelulla ja kehittämisellä;	(a) tunnistettujen riskien poistaminen tai vähentäminen siinä määrin kuin se on teknisesti toteutettavissa suuririskisen tekoälyjärjestelmän asianmukaisella suunnittelulla ja kehittämisellä, joihin tarvittaessa osallistuu asiantuntijoita ja ulkopuolisia sidosryhmiä;

Tarkistus  270

 

Ehdotus asetukseksi

9 artikla – 4 kohta – 1 alakohta – b alakohta

Komission teksti	Tarkistus
(b) tarvittaessa asianmukaisten riskien vähentämis- ja valvontatoimenpiteiden toteuttaminen sellaisten riskien osalta, joita ei voida poistaa;	(b) tarvittaessa asianmukaisten riskien vähentämis- ja valvontatoimenpiteiden toteuttaminen sellaisiin merkittäviin riskeihin puuttumiseksi, joita ei voida poistaa;

Tarkistus  271

 

Ehdotus asetukseksi

9 artikla – 4 kohta – 1 alakohta – c alakohta

Komission teksti	Tarkistus
(c) riittävien tietojen antaminen 13 artiklan mukaisesti erityisesti tämän artiklan 2 kohdan b alakohdassa tarkoitetuista riskeistä ja tarvittaessa käyttäjille annettava koulutus.	(c) vaadittavien tietojen antaminen 13 artiklan mukaisesti ja tarvittaessa käyttöönottajille annettava koulutus.

Tarkistus  272

 

Ehdotus asetukseksi

9 artikla – 4 kohta – 2 alakohta

Komission teksti	Tarkistus
Suuririskisen tekoälyjärjestelmän käyttöön liittyvien riskien poistamisessa tai vähentämisessä on otettava asianmukaisesti huomioon käyttäjältä odotettu tekninen tietämys, kokemus ja koulutus sekä ympäristö, jossa järjestelmää on tarkoitus käyttää.	Suuririskisen tekoälyjärjestelmän käyttöön liittyvien riskien poistamisessa tai vähentämisessä tarjoajien on otettava asianmukaisesti huomioon käyttöönottajan mahdollisesti tarvitsema tekninen tietämys, kokemus ja koulutus, myös suhteessa oletettuun käyttöyhteyteen.

Tarkistus  273

 

Ehdotus asetukseksi

9 artikla – 5 kohta

Komission teksti	Tarkistus
5. Suuririskiset tekoälyjärjestelmät on testattava tarkoituksenmukaisimpien riskinhallintatoimenpiteiden määrittämiseksi. Testauksella on varmistettava, että suuririskiset tekoälyjärjestelmät toimivat johdonmukaisesti käyttötarkoituksensa mukaisesti ja että ne ovat tässä luvussa vahvistettujen vaatimusten mukaisia.	5. Suuririskiset tekoälyjärjestelmät on testattava tarkoituksenmukaisimpien ja kohdennettujen riskinhallintatoimenpiteiden määrittämiseksi ja tällaisten toimenpiteiden vertaamiseksi järjestelmän mahdollisiin hyötyihin ja tavoitteisiin. Testauksella on varmistettava, että suuririskiset tekoälyjärjestelmät toimivat johdonmukaisesti käyttötarkoituksensa mukaisesti ja että ne ovat tässä luvussa vahvistettujen vaatimusten mukaisia.

Tarkistus  274

 

Ehdotus asetukseksi

9 artikla – 6 kohta

Komission teksti	Tarkistus
6. Testausmenettelyjen on sovelluttava tekoälyjärjestelmän suunnitellun käyttötarkoituksen saavuttamiseen, eikä niiden tarvitse ylittää sitä, mikä on tarpeen tämän tarkoituksen saavuttamiseksi.	6. Testausmenettelyjen on sovelluttava tekoälyjärjestelmän suunnitellun käyttötarkoituksen saavuttamiseen.

Tarkistus  275

 

Ehdotus asetukseksi

9 artikla – 7 kohta

Komission teksti	Tarkistus
7. Suuririskisten tekoälyjärjestelmien testaus on tapauksen mukaan suoritettava milloin tahansa kehitysprosessin aikana ja joka tapauksessa ennen markkinoille saattamista tai käyttöönottoa. Testauksessa on käytettävä ennalta määriteltyjä mittareita ja todennäköisyyskynnyksiä, jotka soveltuvat suuririskisen tekoälyjärjestelmän suunniteltuun käyttötarkoitukseen.	7. Suuririskisten tekoälyjärjestelmien testaus on suoritettava ennen markkinoille saattamista tai käyttöönottoa. Testauksessa on käytettävä ennalta määriteltyjä mittareita ja todennäköisyyskynnyksiä, jotka soveltuvat suuririskisen tekoälyjärjestelmän suunniteltuun käyttötarkoitukseen tai kohtuudella ennakoitavissa olevaan väärinkäyttöön.

Tarkistus  276

 

Ehdotus asetukseksi

9 artikla – 8 kohta

Komission teksti	Tarkistus
8. Edellä 1–7 kohdassa kuvattua riskinhallintajärjestelmää täytäntöön pantaessa on kiinnitettävä erityistä huomiota siihen, voivatko lapset todennäköisesti käyttää suuririskistä tekoälyjärjestelmää tai voiko järjestelmä vaikuttaa lapsiin.	8. Edellä 1–7 kohdassa kuvattua riskinhallintajärjestelmää täytäntöön pantaessa tarjoajien on kiinnitettävä erityistä huomiota siihen, miten todennäköisesti suuririskinen tekoälyjärjestelmä vaikuttaa haitallisesti haavoittuviin ryhmiin tai lapsiin.

Tarkistus  277

 

Ehdotus asetukseksi

9 artikla – 9 kohta

Komission teksti	Tarkistus
9. Niiden luottolaitosten osalta, joita säännellään direktiivillä 2013/36/EU, 1–8 kohdassa kuvattujen näkökohtien on oltava osa kyseisten laitosten mainitun direktiivin 74 artiklan mukaisesti vahvistamia riskienhallintamenettelyjä.	9. Niiden tarjoajien ja tekoälyjärjestelmien osalta, jotka kuuluvat jo sellaisten unionin säädösten soveltamisalaan, joissa niiltä edellytetään erityistä riskienhallintaa, mukaan lukien luottolaitokset, joita säännellään direktiivillä 2013/36/EU, 1–8 kohdassa kuvattujen näkökohtien on oltava osa kyseisissä unionin säädöksissä vahvistettuja riskienhallintamenettelyjä tai ne on yhdistettävä niihin.

Tarkistus  278

 

Ehdotus asetukseksi

10 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät, joissa hyödynnetään tekniikoita, joihin sisältyy mallien kouluttaminen datan avulla, on kehitettävä sellaisten koulutus-, validointi- ja testausdatajoukkojen pohjalta, jotka täyttävät 2–5 kohdassa tarkoitetut laatuvaatimukset.	1. Suuririskiset tekoälyjärjestelmät, joissa hyödynnetään tekniikoita, joihin sisältyy mallien kouluttaminen datan avulla, on kehitettävä sellaisten koulutus-, validointi- ja testausdatajoukkojen pohjalta, jotka täyttävät 2–5 kohdassa tarkoitetut laatuvaatimukset, jos se on kulloisenkin markkinasegmentin tai soveltamisalan osalta teknisesti toteutettavissa.
	Tekniikoita, jotka eivät edellytä tunnisteiden lisäämistä syöttötietoihin, kuten ohjaamaton oppiminen ja vahvistusoppiminen, on kehitettävä sellaisten esimerkiksi testaukseen ja todentamiseen käytettävien datajoukkojen pohjalta, jotka täyttävät 2–5 kohdassa tarkoitetut laatukriteerit.

Tarkistus  279

 

Ehdotus asetukseksi

10 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Koulutus-, validointi- ja testausdatajoukkoihin on sovellettava asianmukaisia datahallinto- ja hallintakäytäntöjä. Näiden käytäntöjen on koskettava erityisesti seuraavia seikkoja:	2. Koulutus-, validointi- ja testausdatajoukkoihin on sovellettava tekoälyjärjestelmän käyttöyhteyden ja käyttötarkoituksen kannalta asianmukaisia datahallintokäytäntöjä. Näiden toimenpiteiden on koskettava erityisesti seuraavia seikkoja:

Tarkistus  280

 

Ehdotus asetukseksi

10 artikla – 2 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) avoimuus datan keruun alkuperäisen tarkoituksen suhteen;

Tarkistus  281

 

Ehdotus asetukseksi

10 artikla – 2 kohta – b alakohta

Komission teksti	Tarkistus
(b) datan keruu;	(b) datan keruuprosessit;

Tarkistus  282

 

Ehdotus asetukseksi

10 artikla – 2 kohta – c alakohta

Komission teksti	Tarkistus
(c) asiaankuuluvat tietojenkäsittelytoimet, kuten huomautusten ja tunnisteiden lisääminen, puhdistus, rikastaminen ja yhdistäminen;	(c) tietojenkäsittelytoimet, kuten huomautusten ja tunnisteiden lisääminen, puhdistus, päivittäminen, rikastaminen ja yhdistäminen;

Tarkistus  283

 

Ehdotus asetukseksi

10 artikla – 2 kohta – d alakohta

Komission teksti	Tarkistus
(d) merkityksellisten oletusten muotoilu erityisesti niiden tietojen osalta, joita datan on tarkoitus mitata ja edustaa;	(d) oletusten muotoilu erityisesti niiden tietojen osalta, joita datan on tarkoitus mitata ja edustaa;

Tarkistus  284

 

Ehdotus asetukseksi

10 artikla – 2 kohta – e alakohta

Komission teksti	Tarkistus
(e) tarvittavien datajoukkojen saatavuuden, määrän ja soveltuvuuden ennakkoarviointi;	(e) tarvittavien datajoukkojen saatavuuden, määrän ja soveltuvuuden arviointi;

Tarkistus  285

 

Ehdotus asetukseksi

10 artikla – 2 kohta – f alakohta

Komission teksti	Tarkistus
(f) mahdollisten vinoutumien selvittäminen;	(f) sellaisten mahdollisten vinoutumien selvittäminen, jotka todennäköisesti vaikuttavat ihmisten terveyteen ja turvallisuuteen, vaikuttavat kielteisesti perusoikeuksiin tai johtavat unionin lainsäädännössä kiellettyyn syrjintään, erityisesti silloin, kun tuotokset vaikuttavat tulevien toimintojen syöttötietoihin (’palautesilmukat’), ja asianmukaiset toimenpiteet mahdollisten vinoutumien havaitsemiseksi, estämiseksi ja vähentämiseksi;

Tarkistus  286

 

Ehdotus asetukseksi

10 artikla – 2 kohta – f a alakohta (uusi)

Komission teksti	Tarkistus
	(f a) aiheelliset toimenpiteet mahdollisten vinoutumien havaitsemiseksi, estämiseksi ja vähentämiseksi;

Tarkistus  287

 

Ehdotus asetukseksi

10 artikla – 2 kohta – g alakohta

Komission teksti	Tarkistus
(g) mahdollisten puuttuvien tai puutteellisten tietojen tunnistaminen ja se, miten nämä puutteet voidaan korjata.	(g) sellaisten merkityksellisten puuttuvien tai puutteellisten tietojen tunnistaminen, jotka estävät noudattamasta tätä asetusta, ja se, miten nämä puutteet voidaan korjata.

Tarkistus  288

 

Ehdotus asetukseksi

10 artikla – 3 kohta

Komission teksti	Tarkistus
3. Koulutus-, validointi- ja testausdatajoukkojen on oltava merkityksellisiä, edustavia, virheettömiä ja täydellisiä. Niillä on oltava asianmukaiset tilastolliset ominaisuudet, tarvittaessa myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Nämä datajoukkojen ominaisuudet voidaan saavuttaa yksittäisten datajoukkojen tai niiden yhdistelmän tasolla.	3. Koulutusdatajoukkojen ja mahdollisesti käytettävien validointi- ja testausdatajoukkojen sekä tunnisteiden olisi oltava merkityksellisiä, riittävän edustavia, asianmukaisesti tarkistettuja virheiden varalta ja mahdollisimman täydellisiä suunniteltuun käyttötarkoitukseen nähden. Niillä on oltava asianmukaiset tilastolliset ominaisuudet, tarvittaessa myös niiden henkilöiden tai henkilöryhmien osalta, joihin liittyen suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Nämä datajoukkojen ominaisuudet voidaan on saavutettava yksittäisten datajoukkojen tai niiden yhdistelmän tasolla.

Tarkistus  289

 

Ehdotus asetukseksi

10 artikla – 4 kohta

Komission teksti	Tarkistus
4. Koulutus-, validointi- ja testausdatajoukoissa on otettava käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää.	4. Datajoukoissa on otettava tekoälyjärjestelmän käyttötarkoituksen tai kohtuudella ennakoitavissa olevien väärinkäyttöolosuhteiden edellyttämässä laajuudessa huomioon ne ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, kontekstuaaliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää.

Tarkistus  290

 

Ehdotus asetukseksi

10 artikla – 5 kohta

Komission teksti	Tarkistus
5. Siinä määrin kuin se on ehdottoman välttämätöntä suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seurannan, havaitsemisen ja korjaamisen varmistamiseksi, tällaisten järjestelmien tarjoajat voivat käsitellä asetuksen (EU) 2016/679 9 artiklan 1 kohdassa, direktiivin (EU) 2016/680 10 artiklassa ja asetuksen (EU) 2018/1725 10 artiklan 1 kohdassa tarkoitettuja erityisiä henkilötietoryhmiä edellyttäen, että luonnollisten henkilöiden perusoikeudet ja -vapaudet turvataan asianmukaisilla suojatoimilla, mukaan lukien tekniset rajoitukset, jotka koskevat viimeisintä kehitystä edustavien tietoturvaa ja yksityisyyden suojaa parantavien toimenpiteiden, kuten pseudonymisoinnin, uudelleenkäyttöä ja käyttöä, tai salaus, jos anonymisointi voi vaikuttaa merkittävästi aiottuun käyttötarkoitukseen.	5. Siinä määrin kuin se on ehdottoman välttämätöntä suuririskisiin tekoälyjärjestelmiin liittyvien kielteisten vinoutumien havaitsemisen ja korjaamisen varmistamiseksi, tällaisten järjestelmien tarjoajat voivat poikkeuksellisesti käsitellä asetuksen (EU) 2016/679 9 artiklan 1 kohdassa, direktiivin (EU) 2016/680 10 artiklassa ja asetuksen (EU) 2018/1725 10 artiklan 1 kohdassa tarkoitettuja erityisiä henkilötietoryhmiä edellyttäen, että luonnollisten henkilöiden perusoikeudet ja -vapaudet turvataan asianmukaisilla suojatoimilla, mukaan lukien tekniset rajoitukset, jotka koskevat viimeisintä kehitystä edustavien tietoturvaa ja yksityisyyden suojaa parantavien toimenpiteiden uudelleenkäyttöä ja käyttöä. Jotta tietoja voidaan käsitellä, sovelletaan erityisesti kaikkia seuraavia ehtoja: (a) vinoutumia ei voida tehokkaasti havaita ja korjata käsittelemällä synteettisiä tai anonymisoituja tietoja;
	(b) tiedot pseudonymisoidaan;
	(c) tarjoaja toteuttaa asianmukaiset tekniset ja organisatoriset toimenpiteet sen varmistamiseksi, että tämän kohdan soveltamiseksi käsiteltävät tiedot turvataan ja suojataan asianmukaisia suojatoimia noudattaen ja että ainoastaan valtuutetuilla henkilöillä on pääsy näihin tietoihin asianmukaisten salassapitovelvoitteiden mukaisesti;
	(d) tämän kohdan soveltamiseksi käsiteltyjä tietoja ei välitetä, siirretä tai muutoin saateta muiden osapuolten saataville;
	(e) tämän kohdan soveltamiseksi käsiteltävät tiedot suojataan asianmukaisin teknisin ja organisatorisin toimenpitein ja poistetaan, kun vinoutuma on korjattu tai henkilötietojen säilytysaika päättyy;
	(f) käytössä on tehokkaat ja asianmukaiset toimenpiteet, joilla varmistetaan käsittelyjärjestelmien ja -palvelujen saatavuus, turvallisuus ja häiriönsietokyky teknisten tai fyysisten vaaratilanteiden varalta;
	(g) käytössä on tehokkaat ja asianmukaiset toimenpiteet, joilla varmistetaan tietojen säilytys- ja käsittelytilojen fyysinen turvallisuus, sisäinen tietotekniikan ja tietoturvan hallinnointi ja hallinta sekä prosessien ja tuotteiden sertifiointi.
	Tätä säännöstä käyttävien tarjoajien on laadittava asiakirjat, joissa täsmennetään, miksi erityisten henkilötietoryhmien käsittely oli tarpeen vinoutumien havaitsemiseksi ja korjaamiseksi.

Tarkistus  291

 

Ehdotus asetukseksi

10 artikla – 6 a kohta (uusi)

Komission teksti	Tarkistus
	6 a. Jos tarjoaja ei voi noudattaa tässä artiklassa säädettyjä velvoitteita, koska sillä ei ole pääsyä dataan ja koska data on yksinomaan käyttöönottajan hallussa, käyttöönottaja voidaan sopimuksen perusteella asettaa vastuuseen tämän artiklan mahdollisesta rikkomisesta.

Tarkistus  292

 

Ehdotus asetukseksi

11 artikla – 1 kohta – 1 alakohta

Komission teksti	Tarkistus
Tekninen dokumentaatio on laadittava siten, että siinä osoitetaan suuririskisen tekoälyjärjestelmän olevan tässä luvussa vahvistettujen vaatimusten mukainen ja annetaan kansallisille toimivaltaisille viranomaisille ja ilmoitetuille laitoksille kaikki tarvittavat tiedot sen arvioimiseksi, täyttääkö tekoälyjärjestelmä kyseiset vaatimukset. Sen on sisällettävä vähintään liitteessä IV esitetyt tiedot.	Tekninen dokumentaatio on laadittava siten, että siinä osoitetaan suuririskisen tekoälyjärjestelmän olevan tässä luvussa vahvistettujen vaatimusten mukainen ja annetaan kansallisille valvontaviranomaisille ja ilmoitetuille laitoksille tarvittavat tiedot sen arvioimiseksi, täyttääkö tekoälyjärjestelmä kyseiset vaatimukset. Sen on sisällettävä vähintään liitteessä IV esitetyt tiedot tai pk-yritysten ja startup-yritysten tapauksessa kaikki vastaavat asiakirjat, jotka täyttävät samat tavoitteet, edellyttäen, että toimivaltainen kansallinen viranomainen on antanut tähän hyväksyntänsä.

Tarkistus  293

 

Ehdotus asetukseksi

11 artikla – 2 kohta

Komission teksti	Tarkistus
2. Kun markkinoille saatetaan tai käyttöön otetaan suuririskinen tekoälyjärjestelmä, joka liittyy tuotteeseen, johon sovelletaan liitteessä II olevassa A jaksossa lueteltuja säädöksiä, on laadittava yksi ainoa tekninen dokumentaatio, joka sisältää kaikki liitteessä IV esitetyt tiedot sekä kyseisissä säädöksissä vaaditut tiedot.	2. Kun markkinoille saatetaan tai käyttöön otetaan suuririskinen tekoälyjärjestelmä, joka liittyy tuotteeseen, johon sovelletaan liitteessä II olevassa A jaksossa lueteltuja säädöksiä, on laadittava yksi ainoa tekninen dokumentaatio, joka sisältää kaikki 1 kohdassa esitetyt tiedot sekä kyseisissä säädöksissä vaaditut tiedot.

Tarkistus  294

 

Ehdotus asetukseksi

11 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Tarjoajien, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, on säilytettävä tekninen dokumentaatio osana asiakirjoja, jotka liittyvät mainitun direktiivin 74 artiklan mukaisiin sisäisiin hallinnointi- ja ohjausjärjestelmiin, -prosesseihin ja -menetelmiin.

Tarkistus  295

 

Ehdotus asetukseksi

12 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että ne mahdollistavat tapahtumien automaattisen tallentamisen (’lokitiedot’), kun suuririskiset tekoälyjärjestelmät ovat toiminnassa. Näiden lokitusvalmiuksien on oltava tunnustettujen standardien tai yhteisten eritelmien mukaisia.	1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että ne mahdollistavat tapahtumien automaattisen tallentamisen (’lokitiedot’), kun suuririskiset tekoälyjärjestelmät ovat toiminnassa. Näiden lokitusvalmiuksien on oltava alan viimeisimmän kehityksen ja tunnustettujen standardien tai yhteisten eritelmien mukaisia.

Tarkistus  296

 

Ehdotus asetukseksi

12 artikla – 2 kohta

Komission teksti	Tarkistus
2. Lokitusvalmiuksilla on varmistettava sellainen tekoälyjärjestelmän toiminnan jäljitettävyyden taso koko järjestelmän elinkaaren ajan, joka on oikeassa suhteessa järjestelmän käyttötarkoitukseen.	2. Jotta voidaan varmistaa sellainen tekoälyjärjestelmän toiminnan jäljitettävyyden taso järjestelmän koko käyttöiän ajan, joka on oikeassa suhteessa järjestelmän käyttötarkoitukseen, lokitusvalmiuksien on helpotettava 29 artiklan 4 kohdassa tarkoitettua toiminnan seurantaa sekä 61 artiklassa tarkoitettua markkinoille saattamisen jälkeistä seurantaa. Niiden on erityisesti mahdollistettava sellaisten tilanteiden tunnistamisen kannalta merkityksellisten tapahtumien tallentaminen, jotka voivat
	(a) johtaa siihen, että tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin;
	(b) johtaa suuririskisen tekoälyjärjestelmän merkittävään muutokseen.

Tarkistus  297

 

Ehdotus asetukseksi

12 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että niissä on lokitusvalmiudet, jotka mahdollistavat suuririskisen tekoälyjärjestelmän energiankulutuksen kirjaamisen sekä luonnonvarojen käytön ja ympäristövaikutusten mittaamisen tai laskemisen järjestelmän elinkaaren kaikissa vaiheissa.

Tarkistus  298

 

Ehdotus asetukseksi

12 artikla – 3 kohta

Komission teksti	Tarkistus
3. Lokitusvalmiuksien on erityisesti mahdollistettava suuririskisen tekoälyjärjestelmän toiminnan seuranta sellaisten tilanteiden osalta, jotka voivat johtaa siihen, että tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin tai johtaa huomattavaan muutokseen, ja helpotettava 61 artiklassa tarkoitettua markkinoille saattamisen jälkeistä seurantaa.	Poistetaan.

Tarkistus  299

 

Ehdotus asetukseksi

13 artikla – otsikko

Komission teksti	Tarkistus
Läpinäkyvyys ja tietojen antaminen käyttäjille	Läpinäkyvyys ja tietojen antaminen

Tarkistus  300

 

Ehdotus asetukseksi

13 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että varmistetaan, että niiden toiminta on riittävän läpinäkyvää, jotta käyttäjät voivat tulkita järjestelmän tuloksia ja käyttää niitä asianmukaisesti. On varmistettava sopiva läpinäkyvyyden tyyppi ja taso, jotta voidaan varmistaa tämän osaston 3 luvussa säädettyjen käyttäjän ja tarjoajan asiaankuuluvien velvoitteiden noudattaminen.	1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että varmistetaan, että niiden toiminta on riittävän läpinäkyvää, jotta tarjoajat ja käyttäjät voivat kohtuudella ymmärtää järjestelmän toimintaa. Tekoälyjärjestelmän käyttötarkoituksen mukaisesti on varmistettava sopiva läpinäkyvyys, jotta voidaan varmistaa tämän osaston 3 luvussa säädettyjen tarjoajan ja käyttäjän asiaankuuluvien velvoitteiden noudattaminen.
	Läpinäkyvyydellä tarkoitetaan näin ollen sitä, että suuririskisen tekoälyjärjestelmän markkinoille saattamisen yhteydessä käytetään kaikkia yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti saatavilla olevia teknisiä keinoja sen varmistamiseksi, että tekoälyjärjestelmän tuotokset ovat tarjoajan ja käyttäjän tulkittavissa. Käyttäjälle on annettava mahdollisuus ymmärtää ja käyttää tekoälyjärjestelmää asianmukaisesti tietämällä yleisellä tasolla, miten tekoälyjärjestelmä toimii ja mitä dataa se käsittelee, jotta käyttäjä voi selittää tekoälyjärjestelmän tekemät päätökset asianomaiselle henkilölle 68 artiklan c alakohdan mukaisesti.

Tarkistus  301

 

Ehdotus asetukseksi

13 artikla – 2 kohta

Komission teksti	Tarkistus
2. Suuririskisten tekoälyjärjestelmien mukana on oltava käyttöohjeet asianmukaisessa digitaalisessa tai muussa muodossa, ja niissä on annettava ytimekkäitä, täydellisiä, paikkansapitäviä ja selkeitä tietoja, jotka ovat käyttäjien kannalta olennaisia, esteettömiä ja ymmärrettäviä.	2. Suuririskisten tekoälyjärjestelmien mukana on oltava ymmärrettävät käyttöohjeet asianmukaisessa digitaalisessa muodossa tai ne on asetettava saataville muussa muodossa kestävällä välineellä, ja niissä on annettava ytimekkäitä, paikkansapitäviä, selkeitä ja mahdollisimman täydellisiä tietoja, jotka auttavat käyttäjiä käyttämään ja ylläpitämään tekoälyjärjestelmää sekä tekemään tietoon perustuvia päätöksiä ja jotka ovat käyttäjien kannalta kohtuullisen olennaisia, esteettömiä ja ymmärrettäviä.

Tarkistus  302

 

Ehdotus asetukseksi

13 artikla – 3 kohta – johdantokappale

Komission teksti	Tarkistus
3. Edellä 2 kohdassa tarkoitetuissa tiedoissa on yksilöitävä	3. Edellä 1 kohdassa tarkoitettujen tuotosten saavuttamiseksi 2 kohdassa tarkoitetuissa tiedoissa on yksilöitävä

Tarkistus  303

 

Ehdotus asetukseksi

13 artikla – 3 kohta – a alakohta

Komission teksti	Tarkistus
(a) tarjoajan ja tarvittaessa tämän valtuutetun edustajan henkilöllisyys ja yhteystiedot;	(a) tarjoajan ja tarvittaessa tämän valtuutettujen edustajien henkilöllisyys ja yhteystiedot;

Tarkistus  304

 

Ehdotus asetukseksi

13 artikla – 3 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(aa) jos kyseessä ei ole tarjoaja, vaatimustenmukaisuuden arvioinnin suorittaneen tahon ja tarvittaessa tämän valtuutetun edustajan henkilöllisyys ja yhteystiedot;

Tarkistus  305

 

Ehdotus asetukseksi

13 artikla – 3 kohta – b alakohta – johdantokappale

Komission teksti	Tarkistus
(b) suuririskisen tekoälyjärjestelmän ominaisuudet, valmiudet ja suorituskyvyn rajoitukset, mukaan lukien seuraavat:	(b) suuririskisen tekoälyjärjestelmän ominaisuudet, valmiudet ja suorituskyvyn rajoitukset, mukaan lukien tarvittaessa seuraavat:

Tarkistus  306

 

Ehdotus asetukseksi

13 artikla – 3 kohta – b alakohta – ii alakohta

Komission teksti	Tarkistus
ii) edellä 15 artiklassa tarkoitettu tarkkuuden, luotettavuuden ja kyberturvallisuuden taso, johon nähden suuririskinen tekoälyjärjestelmä on testattu ja validoitu ja jota voidaan odottaa, sekä kaikki tunnetut ja ennakoitavissa olevat olosuhteet, joilla voi olla vaikutusta kyseiseen tarkkuuden, luotettavuuden ja kyberturvallisuuden tasoon;	ii) edellä 15 artiklassa tarkoitettu tarkkuuden, luotettavuuden ja kyberturvallisuuden taso, johon nähden suuririskinen tekoälyjärjestelmä on testattu ja validoitu ja jota voidaan odottaa, sekä kaikki selkeästi tunnetut ja ennakoitavissa olevat olosuhteet, joilla voi olla vaikutusta kyseiseen tarkkuuden, luotettavuuden ja kyberturvallisuuden tasoon;

Tarkistus  307

 

Ehdotus asetukseksi

13 artikla – 3 kohta – b alakohta – iii alakohta

Komission teksti	Tarkistus
iii) kaikki tunnetut tai ennakoitavissa olevat olosuhteet, jotka liittyvät suuririskisen tekoälyjärjestelmän käyttöön sen käyttötarkoituksen mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa ja jotka voivat aiheuttaa terveyteen ja turvallisuuteen tai perusoikeuksiin kohdistuvia riskejä;	iii) kaikki selkeästi tunnetut tai ennakoitavissa olevat olosuhteet, jotka liittyvät suuririskisen tekoälyjärjestelmän käyttöön sen käyttötarkoituksen mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa ja jotka voivat aiheuttaa terveyteen ja turvallisuuteen, perusoikeuksiin tai ympäristöön kohdistuvia riskejä, mukaan lukien tarvittaessa havainnollistavia esimerkkejä tällaisista rajoituksista ja skenaarioista, joihin järjestelmää ei pitäisi käyttää;

Tarkistus  308

 

Ehdotus asetukseksi

13 artikla – 3 kohta – b alakohta – iii a alakohta (uusi)

Komission teksti	Tarkistus
	iii a) se, missä määrin tekoälyjärjestelmä voi antaa selityksen tekemistään päätöksistä;

Tarkistus  309

 

Ehdotus asetukseksi

13 artikla – 3 kohta – b alakohta – v alakohta

Komission teksti	Tarkistus
v) tarvittaessa syöttötietoja koskevat spesifikaatiot tai muut käytettyjä koulutus-, validointi- ja testausdatajoukkoja koskevat olennaiset tiedot ottaen huomioon tekoälyjärjestelmän suunniteltu käyttötarkoitus;	v) merkitykselliset tiedot käyttäjien toimista, jotka voivat vaikuttaa järjestelmän suorituskykyyn, mukaan lukien syöttötietojen tyyppi tai laatu tai muut käytettyjä koulutus-, validointi- ja testausdatajoukkoja koskevat olennaiset tiedot ottaen huomioon tekoälyjärjestelmän suunniteltu käyttötarkoitus;

Tarkistus  310

 

Ehdotus asetukseksi

13 artikla – 3 kohta – e alakohta

Komission teksti	Tarkistus
(e) suuririskisen tekoälyjärjestelmän odotettu käyttöikä ja kaikki tarvittavat huolto- ja hoitotoimenpiteet, joilla varmistetaan tekoälyjärjestelmän asianmukainen toiminta, mukaan lukien ohjelmistopäivitykset.	(e) kaikki tarvittavat huolto- ja hoitotoimenpiteet, joilla varmistetaan tekoälyjärjestelmän asianmukainen toiminta, mukaan lukien ohjelmistopäivitykset, sen odotetun käyttöiän aikana;

Tarkistus  311

 

Ehdotus asetukseksi

13 artikla – 3 kohta – e a alakohta (uusi)

Komission teksti	Tarkistus
	(ea) kuvaus tekoälyjärjestelmään sisältyvistä mekanismeista, joiden avulla käyttäjät voivat asianmukaisesti kerätä, tallentaa ja tulkita lokitietoja 12 artiklan 1 kohdan mukaisesti.

Tarkistus  312

 

Ehdotus asetukseksi

13 artikla – 3 kohta – e b alakohta (uusi)

Komission teksti	Tarkistus
	(eb) Tiedot on annettava vähintään sen maan kielellä, jossa tekoälyjärjestelmää käytetään.

Tarkistus  313

 

Ehdotus asetukseksi

13 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3a. Tässä artiklassa vahvistettujen velvoitteiden noudattamiseksi tarjoajien ja käyttäjien on varmistettava riittävä tekoälylukutaito 4 b artiklan mukaisesti.

Tarkistus  314

 

Ehdotus asetukseksi

14 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että luonnolliset henkilöt voivat tehokkaasti valvoa niitä tekoälyjärjestelmän käytön aikana, mukaan lukien asianmukaisten käyttöliittymävälineiden käyttö.	1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että luonnolliset henkilöt valvovat niitä tehokkaasti oikeassa suhteessa kyseisiin järjestelmiin liittyviin riskeihin nähden, mukaan lukien asianmukaisten käyttöliittymävälineiden käyttö. Ihmisen suorittamasta valvonnasta vastaavilla luonnollisilla henkilöillä on oltava riittävä tekoälylukutaito 4 b artiklan mukaisesti ja tarvittava tuki ja valtuudet tämän tehtävän suorittamiseen tekoälyjärjestelmän käytön aikana ja jotta mahdollistetaan perusteellinen tutkinta vaaratilanteen jälkeen.

Tarkistus  315

 

Ehdotus asetukseksi

14 artikla – 2 kohta

Komission teksti	Tarkistus
2. Ihmisen suorittamalla valvonnalla on pyrittävä ehkäisemään tai minimoimaan terveydelle, turvallisuudelle tai perusoikeuksille aiheutuvat riskit, joita voi syntyä, kun suuririskistä tekoälyjärjestelmää käytetään käyttötarkoituksensa mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa, erityisesti jos tällaiset riskit jatkuvat huolimatta muiden tässä luvussa vahvistettujen vaatimusten soveltamisesta.	2. Ihmisen suorittamalla valvonnalla on pyrittävä ehkäisemään tai minimoimaan terveydelle, turvallisuudelle, perusoikeuksille tai ympäristölle aiheutuvat riskit, joita voi syntyä, kun suuririskistä tekoälyjärjestelmää käytetään käyttötarkoituksensa mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa, erityisesti jos tällaiset riskit jatkuvat huolimatta muiden tässä luvussa vahvistettujen vaatimusten soveltamisesta ja jos yksinomaan tekoälyjärjestelmien automaattisiin prosesseihin perustuvilla päätöksillä on oikeudellisia tai muita merkittäviä vaikutuksia järjestelmän käytön kohteena oleviin ihmisiin tai ihmisryhmiin.

Tarkistus  316

 

Ehdotus asetukseksi

14 artikla – 3 kohta – johdantokappale

Komission teksti	Tarkistus
3. Ihmisen suorittama valvonta on varmistettava jommallakummalla tai molemmilla seuraavista toimenpiteistä:	3. Ihmisen suorittamassa valvonnassa on otettava huomioon tekoälyjärjestelmän erityiset riskit, automaatioaste ja käyttöyhteys, ja se on varmistettava jommallakummalla tai molemmilla seuraavista toimenpidetyypeistä:

Tarkistus  317

 

Ehdotus asetukseksi

14 artikla – 4 kohta – johdantokappale

Komission teksti	Tarkistus
4. Edellä 3 kohdassa tarkoitettujen toimenpiteiden on mahdollistettava se, että henkilöt, joiden tehtäväksi ihmisen suorittama valvonta on annettu, voivat olosuhteiden mukaan	4. Edellä 1–3 kohdan täytäntöönpanoa varten suuririskinen tekoälyjärjestelmä on tarjottava käyttäjälle siten, että luonnolliset henkilöt, joiden tehtäväksi ihmisen suorittama valvonta on annettu, voivat olosuhteiden mukaan ja oikeassa suhteessa niihin nähden

Tarkistus  318

 

Ehdotus asetukseksi

14 artikla – 4 kohta – a alakohta

Komission teksti	Tarkistus
(a) ymmärtää täysin suuririskisen tekoälyjärjestelmän valmiudet ja rajoitukset ja seurata sen toimintaa asianmukaisesti, jotta poikkeavuuksien, toimintahäiriöiden ja odottamattoman suorituskyvyn merkit voidaan havaita ja niihin voidaan puuttua mahdollisimman pian;	(a) tiedostaa ja ymmärtää riittävästi suuririskisen tekoälyjärjestelmän asiaankuuluvat valmiudet ja rajoitukset ja seurata sen toimintaa asianmukaisesti, jotta poikkeavuuksien, toimintahäiriöiden ja odottamattoman suorituskyvyn merkit voidaan havaita ja niihin voidaan puuttua mahdollisimman pian;

Tarkistus  319

 

Ehdotus asetukseksi

14 artikla – 4 kohta – e alakohta

Komission teksti	Tarkistus
(e) puuttua suuririskisen tekoälyjärjestelmän toimintaan tai pysäyttää järjestelmän pysäytyspainikkeella tai vastaavalla menettelyllä.	(e) puuttua suuririskisen tekoälyjärjestelmän toimintaan tai pysäyttää järjestelmän pysäytyspainikkeella tai vastaavalla menettelyllä, jonka avulla järjestelmä voidaan pysäyttää turvallisessa tilassa, paitsi jos ihmisen väliintulo lisää riskejä tai vaikuttaisi kielteisesti suorituskykyyn, kun otetaan huomioon yleisesti tunnustettu alan viimeisin kehitys.

Tarkistus  320

 

Ehdotus asetukseksi

14 artikla – 5 kohta

Komission teksti	Tarkistus
5. Liitteessä III olevan 1 kohdan a alakohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien osalta 3 kohdassa tarkoitetuilla toimenpiteillä on lisäksi varmistettava, että käyttäjä ei toteuta mitään toimia tai tee mitään päätöstä järjestelmästä seuraavan tunnistamisen perusteella, ellei vähintään kaksi luonnollista henkilöä ole todentanut ja vahvistanut sitä.	5. Liitteessä III olevan 1 kohdan a alakohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien osalta 3 kohdassa tarkoitetuilla toimenpiteillä on lisäksi varmistettava, että käyttäjä ei toteuta mitään toimia tai tee mitään päätöstä järjestelmästä seuraavan tunnistamisen perusteella, ellei vähintään kaksi luonnollista henkilöä, joilla on tarvittavat pätevyys, koulutus ja valtuudet, ole todentanut ja vahvistanut sitä.

Tarkistus  321

 

Ehdotus asetukseksi

15 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että ne saavuttavat käyttötarkoitukseensa nähden asianmukaisen tarkkuuden, luotettavuuden ja kyberturvallisuuden tason ja toimivat tässä suhteessa johdonmukaisesti koko elinkaarensa ajan.	1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä noudattaen sisäänrakennetun ja oletusarvoisen turvallisuuden periaatetta. Niiden olisi saavutettava käyttötarkoitukseensa nähden asianmukainen tarkkuuden, luotettavuuden, turvallisuuden ja kyberturvallisuuden taso ja toimittava tässä suhteessa johdonmukaisesti koko elinkaarensa ajan. Näiden vaatimusten noudattamiseen on sisällyttävä kulloisenkin markkinasegmentin tai soveltamisalan viimeisintä kehitystä edustavien toimien täytäntöönpano.

 

Tarkistus  322

 

Ehdotus asetukseksi

15 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Jotta voidaan ratkaista tämän artiklan 1 kohdassa tarkoitettujen asianmukaisen tarkkuuden ja luotettavuuden tasojen mittaamiseen liittyvät tekniset näkökohdat, tekoälytoimisto tuo yhteen kansalliset metrologia- ja vertailuanalyysiviranomaiset ja antaa asiaa koskevaa ei-sitovaa ohjeistusta 56 artiklan 2 kohdan a alakohdan mukaisesti.

Tarkistus  323

 

Ehdotus asetukseksi

15 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	1b. Euroopan unionin kyberturvallisuusvirasto (ENISA) osallistuu toimintaan yhdessä Euroopan tekoälyneuvoston kanssa 56 artiklan 2 kohdan b alakohdan mukaisesti, jotta voidaan käsitellä sisämarkkinoilla esiin nousevia kyberturvallisuuskysymyksiä.

Tarkistus  324

 

Ehdotus asetukseksi

15 artikla – 2 kohta

Komission teksti	Tarkistus
2. Suuririskisten tekoälyjärjestelmien tarkkuustasot ja niihin liittyvät tarkkuusmittarit on ilmoitettava järjestelmän mukana olevissa käyttöohjeissa.	2. Suuririskisten tekoälyjärjestelmien tarkkuustasot ja niihin liittyvät tarkkuusmittarit on ilmoitettava järjestelmän mukana olevissa käyttöohjeissa. Käytetyn kielen on oltava selkeää, siitä ei saa aiheutua väärinkäsityksiä eikä siinä saa olla harhaanjohtavia lausuntoja.

Tarkistus  325

 

Ehdotus asetukseksi

15 artikla – 3 kohta – 1 alakohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien on siedettävä virheitä, vikoja tai epäjohdonmukaisuuksia, joita saattaa esiintyä järjestelmässä tai ympäristössä, jossa järjestelmä toimii, erityisesti siksi, että järjestelmät ovat vuorovaikutuksessa luonnollisten henkilöiden tai muiden järjestelmien kanssa.	On toteutettava teknisiä ja organisatorisia toimenpiteitä sen varmistamiseksi, että suuririskiset tekoälyjärjestelmät sietävät mahdollisimman hyvin virheitä, vikoja tai epäjohdonmukaisuuksia, joita saattaa esiintyä järjestelmässä tai ympäristössä, jossa järjestelmä toimii, erityisesti siksi, että järjestelmät ovat vuorovaikutuksessa luonnollisten henkilöiden tai muiden järjestelmien kanssa.

Tarkistus  326

 

Ehdotus asetukseksi

15 artikla – 3 kohta – 2 alakohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien luotettavuus voidaan saavuttaa teknisillä vararatkaisuilla, joihin voivat kuulua varasuunnitelmat tai vikavarmistussuunnitelmat.	Asianomainen tarjoaja voi saavuttaa suuririskisen tekoälyjärjestelmän luotettavuuden teknisillä vararatkaisuilla, joihin voivat kuulua varasuunnitelmat tai vikavarmistussuunnitelmat, ja ottamalla tarvittaessa huomioon käyttäjän näkemykset.

Tarkistus  327

 

Ehdotus asetukseksi

15 artikla – 3 kohta – 3 alakohta

Komission teksti	Tarkistus
Suuririskiset tekoälyjärjestelmät, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen, on kehitettävä siten, että varmistetaan, että mahdollisesti vinoutuneisiin tuloksiin, jotka johtuvat tulosten käytöstä tulevien toimintojen syöttötietona (’palautesilmukat’), puututaan asianmukaisin korjaavin toimenpitein.	Suuririskiset tekoälyjärjestelmät, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen, on kehitettävä siten, että varmistetaan, että mahdollisesti vinoutuneisiin tuloksiin, jotka vaikuttavat tulevien toimintojen syöttötietoihin (’palautesilmukat’), ja toiminnan aikana oppimiseen käytettyjen syöttötietojen haitalliseen manipulointiin puututaan asianmukaisin korjaavin toimenpitein.

Tarkistus  328

 

Ehdotus asetukseksi

15 artikla – 4 kohta – 1 alakohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien on kestettävä asiaankuulumattomien ulkopuolisten tahojen yritykset muuttaa järjestelmän käyttöä tai suorituskykyä hyödyntämällä järjestelmän haavoittuvuuksia.	Suuririskisten tekoälyjärjestelmien on kestettävä asiaankuulumattomien ulkopuolisten tahojen yritykset muuttaa järjestelmän käyttöä, käyttäytymistä, tuotoksia tai suorituskykyä hyödyntämällä järjestelmän haavoittuvuuksia.

Tarkistus  329

 

Ehdotus asetukseksi

15 artikla – 4 kohta – 3 alakohta

Komission teksti	Tarkistus
Teknisiin ratkaisuihin, joilla puututaan tekoälyn erityisiin haavoittuvuuksiin, on tarvittaessa sisällyttävä toimenpiteitä, joilla ehkäistään ja rajoitetaan hyökkäyksiä, joilla pyritään manipuloimaan koulutusdatajoukkoa (”datamyrkytys”), syöttötietoja, joiden tarkoituksena on saada malli tekemään virhe (”ristiriitaiset esimerkit”), tai mallin puutteita.	Teknisiin ratkaisuihin, joilla puututaan tekoälyn erityisiin haavoittuvuuksiin, on tarvittaessa sisällyttävä toimenpiteitä, joilla ehkäistään, havaitaan, hallitaan, ratkaistaan ja rajoitetaan hyökkäyksiä, joilla pyritään manipuloimaan koulutusdatajoukkoa (”datamyrkytys”) tai koulutuksessa käytettäviä esikoulutettuja komponentteja (”mallimyrkytys”), syöttötietoja, joiden tarkoituksena on saada malli tekemään virhe (”ristiriitaiset esimerkit” tai ”mallin kiertäminen”), luottamuksellisuuteen kohdistuvia hyökkäyksiä tai mallin puutteita, joiden tuloksena saatettaisiin tehdä haitallisten päätöksiä.

Tarkistus  330

 

Ehdotus asetukseksi

III osasto – 3 luku – otsikko

Komission teksti	Tarkistus
SUURIRISKISTEN TEKOÄLYJÄRJESTELMIEN TARJOAJIEN JA KÄYTTÄJIEN JA MUIDEN OSAPUOLTEN VELVOLLISUUDET	SUURIRISKISTEN TEKOÄLYJÄRJESTELMIEN TARJOAJIEN JA KÄYTTÖÖNOTTAJIEN JA MUIDEN OSAPUOLTEN VELVOLLISUUDET

Tarkistus  331

 

Ehdotus asetukseksi

16 artikla – otsikko

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien tarjoajien velvollisuudet	Suuririskisten tekoälyjärjestelmien tarjoajien ja käyttöönottajien ja muiden osapuolten velvollisuudet

Tarkistus  332

 

Ehdotus asetukseksi

16 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) varmistettava, että niiden suuririskiset tekoälyjärjestelmät ovat tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisia;	(a) varmistettava, että niiden suuririskiset tekoälyjärjestelmät ovat tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisia, ennen kuin ne saatetaan markkinoille tai otetaan käyttöön;

Tarkistus  333

 

Ehdotus asetukseksi

16 artikla – 1 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) ilmoitettava nimensä, rekisteröity tuotenimensä tai rekisteröity tavaramerkkinsä sekä osoitteensa ja yhteystietonsa joko suuririskisessä tekoälyjärjestelmässä tai, jos se ei ole mahdollista, tarvittaessa sen mukana seuraavassa dokumentaatiossa;

Tarkistus  334

 

Ehdotus asetukseksi

16 artikla – 1 kohta – a b alakohta (uusi)

Komission teksti	Tarkistus
	(a b) varmistettava, että luonnolliset henkilöt, joiden tehtäväksi ihmisen suorittama suuririskisten tekoälyjärjestelmien valvonta on annettu, on erityisesti tehty tietoisiksi automaatio- ja vahvistusvinoumasta;

Tarkistus  335

 

Ehdotus asetukseksi

16 artikla – 1 kohta – a c alakohta (uusi)

Komission teksti	Tarkistus
	(a c) annettava syöttötietoja koskevat spesifikaatiot tai muut käytettyjä datajoukkoja koskevat merkitykselliset tiedot, mukaan lukien niiden rajoitukset ja oletukset, ottaen huomioon tekoälyjärjestelmän käyttötarkoitus ja ennakoitavissa olevat ja kohtuudella ennakoitavissa olevat väärinkäyttöolosuhteet;

Tarkistus  336

 

Ehdotus asetukseksi

16 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
(c) laadittava suuririskisen tekoälyjärjestelmän tekninen dokumentaatio;	(c) laadittava 11 artiklassa tarkoitettu suuririskisen tekoälyjärjestelmän tekninen dokumentaatio ja säilytettävä se;

Tarkistus  337

 

Ehdotus asetukseksi

16 artikla – 1 kohta – d alakohta

Komission teksti	Tarkistus
(d) säilytettävä suuririskisten tekoälyjärjestelmiensä automaattisesti tuottamat lokitiedot, jos nämä tiedot ovat niiden määräysvallassa;	(d) säilytettävä 20 artiklan mukaisesti suuririskisten tekoälyjärjestelmiensä automaattisesti tuottamat lokitiedot, joita vaaditaan tämän asetuksen noudattamisen varmistamiseksi ja osoittamiseksi, jos nämä tiedot ovat niiden määräysvallassa;

Tarkistus  338

 

Ehdotus asetukseksi

16 artikla – 1 kohta – e alakohta

Komission teksti	Tarkistus
(e) varmistettava, että suuririskiselle tekoälyjärjestelmälle tehdään asiaankuuluva vaatimustenmukaisuuden arviointimenettely ennen sen markkinoille saattamista tai käyttöönottoa;	(e) varmistettava, että suuririskiselle tekoälyjärjestelmälle tehdään 43 artiklan mukaisesti asiaankuuluva vaatimustenmukaisuuden arviointimenettely ennen sen markkinoille saattamista tai käyttöönottoa;

Tarkistus  339

 

Ehdotus asetukseksi

16 artikla – 1 kohta – e a alakohta (uusi)

Komission teksti	Tarkistus
	(e a) laadittava EU-vaatimustenmukaisuusvakuutus 48 artiklan mukaisesti;

Tarkistus  340

 

Ehdotus asetukseksi

16 artikla – 1 kohta – e b alakohta (uusi)

Komission teksti	Tarkistus
	(e b) kiinnitettävä suuririskisiin tekoälyjärjestelmiin CE-merkintä 49 artiklan mukaisesti sen osoittamiseksi, että ne ovat tämän asetuksen mukaisia;

Tarkistus  341

 

Ehdotus asetukseksi

16 artikla – 1 kohta – g alakohta

Komission teksti	Tarkistus
(g) toteutettava tarvittavat korjaavat toimenpiteet, jos suuririskinen tekoälyjärjestelmä ei ole tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen;	(g) toteutettava 21 artiklassa tarkoitetut tarvittavat korjaavat toimenpiteet ja annettava niistä tietoja;

Tarkistus  342

 

Ehdotus asetukseksi

16 artikla – 1 kohta – h alakohta

Komission teksti	Tarkistus
(h) ilmoitettava vaatimustenvastaisuudesta ja toteutetuista korjaavista toimenpiteistä niiden jäsenvaltioiden kansallisille toimivaltaisille viranomaisille ja tarvittaessa ilmoitetulle laitokselle, joissa ne ovat asettaneet tekoälyjärjestelmän saataville tai ottaneet sen käyttöön;	Poistetaan.

Tarkistus  343

 

Ehdotus asetukseksi

16 artikla – 1 kohta – i alakohta

Komission teksti	Tarkistus
(i) kiinnitettävä suuririskisiin tekoälyjärjestelmiinsä CE-merkintä 49 artiklan mukaisesti sen osoittamiseksi, että ne ovat tämän asetuksen mukaisia;	Poistetaan.

Tarkistus  344

 

Ehdotus asetukseksi

16 artikla – 1 kohta – j alakohta

Komission teksti	Tarkistus
(j) osoitettava kansallisen toimivaltaisen viranomaisen pyynnöstä, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen.	(j) osoitettava kansallisen valvontaviranomaisen perustellusta pyynnöstä, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen.

Tarkistus  345

 

Ehdotus asetukseksi

16 artikla – 1 kohta – j a alakohta (uusi)

Komission teksti	Tarkistus
	(j a) varmistettava, että suuririskinen tekoälyjärjestelmä on esteettömyysvaatimusten mukainen.

Tarkistus  346

 

Ehdotus asetukseksi

17 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Suuririskisten tekoälyjärjestelmien tarjoajien on otettava käyttöön laadunhallintajärjestelmä, jolla varmistetaan tämän asetuksen noudattaminen. Järjestelmä on dokumentoitava järjestelmällisesti ja täsmällisesti kirjallisiksi periaatteiksi, menettelyiksi ja ohjeiksi, ja siihen on sisällyttävä ainakin seuraavat seikat:	1. Suuririskisten tekoälyjärjestelmien tarjoajilla on oltava käytössä laadunhallintajärjestelmä, jolla varmistetaan tämän asetuksen noudattaminen. Se on dokumentoitava järjestelmällisesti ja täsmällisesti kirjallisiksi periaatteiksi, menettelyiksi tai ohjeiksi, ja se voidaan sisällyttää unionin alakohtaisten säädösten mukaiseen olemassa olevaan laadunhallintajärjestelmään. Siihen on sisällyttävä ainakin seuraavat seikat:

Tarkistus  347

 

Ehdotus asetukseksi

17 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) strategia säännösten noudattamista varten, mukaan lukien vaatimustenmukaisuusmenettelyjen ja suuririskisiin tekoälyjärjestelmiin tehtyjen muutosten hallintamenettelyjen noudattaminen;	Poistetaan.

Tarkistus  348

 

Ehdotus asetukseksi

17 artikla – 1 kohta – e alakohta

Komission teksti	Tarkistus
(e) sovellettavat tekniset eritelmät, standardit mukaan luettuina, ja, jos asiaankuuluvia yhdenmukaistettuja standardeja ei sovelleta täysimääräisesti, keinot, joilla varmistetaan, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen;	(e) sovellettavat tekniset eritelmät, standardit mukaan luettuina, ja, jos asiaankuuluvia yhdenmukaistettuja standardeja ei sovelleta täysimääräisesti tai ne eivät kata kaikkia asiaankuuluvia vaatimuksia, keinot, joilla varmistetaan, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen;

Tarkistus  349

 

Ehdotus asetukseksi

17 artikla – 1 kohta – f alakohta

Komission teksti	Tarkistus
(f) datanhallintajärjestelmät ja -menettelyt, mukaan lukien datankeruu, datan analysointi, tunnisteiden lisääminen, datan tallentaminen, datan suodattaminen, datanlouhinta, datan yhdistäminen, datan säilyttäminen ja kaikki muut dataan liittyvät toimet, jotka suoritetaan ennen suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöönottoa ja näitä toimia varten;	(f) datanhallintajärjestelmät ja -menettelyt, mukaan lukien datanhankinta, datankeruu, datan analysointi, tunnisteiden lisääminen, datan tallentaminen, datan suodattaminen, datanlouhinta, datan yhdistäminen, datan säilyttäminen ja kaikki muut dataan liittyvät toimet, jotka suoritetaan ennen suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöönottoa ja näitä toimia varten;

Tarkistus  350

 

Ehdotus asetukseksi

17 artikla – 1 kohta – j alakohta

Komission teksti	Tarkistus
(j) kansallisten toimivaltaisten viranomaisten, toimivaltaisten viranomaisten, myös alakohtaisten viranomaisten, jotka tarjoavat pääsyn dataan tai tukevat sitä, ilmoitettujen laitosten, muiden toimijoiden, asiakkaiden tai muiden asianomaisten osapuolten kanssa käytävän viestinnän järjestäminen;	(j) viestinnän järjestäminen asiaankuuluvien toimivaltaisten viranomaisten, myös alakohtaisten viranomaisten kanssa;

Tarkistus  351

 

Ehdotus asetukseksi

17 artikla – 2 kohta

Komission teksti	Tarkistus
2. Edellä 1 kohdassa tarkoitettujen näkökohtien toteutuksen on oltava oikeassa suhteessa tarjoajan organisaation kokoon.	2. Edellä 1 kohdassa tarkoitettujen näkökohtien toteutuksen on oltava oikeassa suhteessa tarjoajan organisaation kokoon. Tarjoajien on joka tapauksessa noudatettava sellaista kurinalaisuutta ja suojelun tasoa, jota edellytetään sen varmistamiseksi, että tekoälyjärjestelmä on tämän asetuksen mukainen.

Tarkistus  352

 

Ehdotus asetukseksi

18 artikla – otsikko

Komission teksti	Tarkistus
Velvollisuus laatia tekninen dokumentaatio	Poistetaan.

Tarkistus  353

 

Ehdotus asetukseksi

18 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskisten tekoälyjärjestelmien tarjoajien on laadittava 11 artiklassa tarkoitettu tekninen dokumentaatio liitteen IV mukaisesti.	Poistetaan.

Tarkistus  354

 

Ehdotus asetukseksi

18 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tarjoajien, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, on säilytettävä tekninen dokumentaatio osana asiakirjoja, jotka liittyvät mainitun direktiivin 74 artiklan mukaisiin sisäisiin hallinnointi- ja ohjausjärjestelmiin, -prosesseihin ja -menetelmiin.	Poistetaan.

Tarkistus  355

 

Ehdotus asetukseksi

19 artikla

Komission teksti	Tarkistus
19 artikla	Poistetaan.
Vaatimustenmukaisuuden arviointi
1. Suuririskisten tekoälyjärjestelmien tarjoajien on varmistettava, että niiden järjestelmille tehdään asiaankuuluva vaatimustenmukaisuuden arviointimenettely 43 artiklan mukaisesti ennen järjestelmien markkinoille saattamista tai käyttöönottoa. Kun vaatimustenmukaisuuden arvioinnin perusteella on osoitettu, että tekoälyjärjestelmät ovat tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisia, tarjoajien on laadittava EU-vaatimustenmukaisuusvakuutus 48 artiklan mukaisesti ja kiinnitettävä CE-vaatimustenmukaisuusmerkintä 49 artiklan mukaisesti.
2. Sellaisten liitteessä III olevan 5 kohdan b alakohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien osalta, joita saattavat markkinoille tai ottavat käyttöön tarjoajat, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, vaatimustenmukaisuuden arviointi on suoritettava osana mainitun direktiivin 97–101 artiklassa tarkoitettua menettelyä.

Tarkistus  356

 

Ehdotus asetukseksi

20 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskisten tekoälyjärjestelmien tarjoajien on säilytettävä suuririskisten tekoälyjärjestelmiensä automaattisesti tuottamat lokitiedot siltä osin kuin tällaiset lokitiedot ovat niiden määräysvallassa käyttäjän kanssa tehdyn sopimusjärjestelyn mukaisesti tai muutoin lain nojalla. Lokitietoja on säilytettävä ajan, joka on asianmukainen ottaen huomioon suuririskisen tekoälyjärjestelmän käyttötarkoitus ja sovellettavat unionin tai kansallisen oikeuden mukaiset velvoitteet.	1. Suuririskisten tekoälyjärjestelmien tarjoajien on säilytettävä suuririskisten tekoälyjärjestelmiensä automaattisesti tuottamat lokitiedot siltä osin kuin tällaiset lokitiedot ovat niiden määräysvallassa. Lokitietoja on säilytettävä vähintään kuuden kuukauden ajan, sanotun kuitenkaan rajoittamatta sovellettavan unionin tai kansallisen lainsäädännön soveltamista. Säilytysajan on vastattava toimialan käytäntöä ja oltava oikeassa suhteessa suuririskisen tekoälyjärjestelmän käyttötarkoitukseen.

Tarkistus  357

 

Ehdotus asetukseksi

21 artikla – 1 kohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien tarjoajien, jotka katsovat tai joilla on syytä uskoa, että niiden markkinoille saattama tai käyttöön ottama järjestelmä ei ole tämän asetuksen mukainen, on välittömästi toteutettava tarvittavat korjaavat toimenpiteet kyseisen järjestelmän saattamiseksi vaatimusten mukaiseksi, sen poistamiseksi markkinoilta tai sitä koskevan palautusmenettelyn järjestämiseksi. Niiden on ilmoitettava asiasta kyseisen suuririskisen tekoälyjärjestelmän jakelijoille ja tarvittaessa valtuutetulle edustajalle ja maahantuojille.	Suuririskisten tekoälyjärjestelmien tarjoajien, jotka katsovat tai joilla on syytä uskoa, että niiden markkinoille saattama tai käyttöön ottama järjestelmä ei ole tämän asetuksen mukainen, on välittömästi toteutettava tarvittavat korjaavat toimenpiteet kyseisen järjestelmän saattamiseksi vaatimusten mukaiseksi, sen poistamiseksi markkinoilta, sen käytön estämiseksi tai sitä koskevan palautusmenettelyn järjestämiseksi.
	Ensimmäisessä kohdassa tarkoitetuissa tapauksissa tarjoajien on välittömästi ilmoitettava
	a. jakelijoille;
	b. maahantuojille;
	c. niiden jäsenvaltioiden kansallisille toimivaltaisille viranomaisille, joissa ne ovat asettaneet tekoälyjärjestelmän saataville tai ottaneet sen käyttöön; ja
	d. mahdollisuuksien mukaan käyttöönottajalle.

Tarkistus  358

 

Ehdotus asetukseksi

21 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Tarjoajien on myös ilmoitettava valtuutetulle edustajalle, jos sellainen on nimetty 25 artiklan mukaisesti, ja ilmoitetulle laitokselle, jos suuririskiselle tekoälyjärjestelmälle on tehty kolmannen osapuolen suorittama vaatimustenmukaisuuden arviointi 43 artiklan mukaisesti. Niiden on tarvittaessa myös tutkittava syitä yhteistyössä käyttöönottajan kanssa.

Tarkistus  359

 

Ehdotus asetukseksi

22 artikla – 1 kohta

Komission teksti	Tarkistus
Mikäli suuririskinen tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin ja kyseinen riski on tarjoajan tiedossa, tarjoajan on välittömästi ilmoitettava erityisesti vaatimustenvastaisuudesta ja toteutetuista korjaavista toimenpiteistä niiden jäsenvaltioiden kansallisille toimivaltaisille viranomaisille, joissa se on asettanut järjestelmän saataville, ja tarvittaessa sille ilmoitetulle laitokselle, joka on antanut todistuksen suuririskiselle tekoälyjärjestelmälle.	Mikäli suuririskinen tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin ja tarjoaja saa tiedon kyseisestä riskistä, tarjoajan on välittömästi ilmoitettava erityisesti vaatimustenvastaisuuden ja asiaankuuluvien toteutettujen korjaavien toimenpiteiden luonteesta niiden jäsenvaltioiden kansallisille valvontaviranomaisille, joissa se on asettanut järjestelmän saataville, ja tarvittaessa sille ilmoitetulle laitokselle, joka on antanut todistuksen suuririskiselle tekoälyjärjestelmälle.

Tarkistus  360

 

Ehdotus asetukseksi

22 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Ensimmäisessä kohdassa tarkoitetuissa tapauksissa suuririskisten tekoälyjärjestelmien tarjoajien on välittömästi ilmoitettava
	a) jakelijoille;
	b) maahantuojille;
	c) niiden jäsenvaltioiden kansallisille toimivaltaisille viranomaisille, joissa ne ovat asettaneet tekoälyjärjestelmän saataville tai ottaneet sen käyttöön; ja
	d) mahdollisuuksien mukaan käyttöönottajille.

Tarkistus  361

 

Ehdotus asetukseksi

22 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	Tarjoajien on myös ilmoitettava valtuutetulle edustajalle, jos sellainen on nimetty 25 artiklan mukaisesti.

Tarkistus  362

 

Ehdotus asetukseksi

23 artikla – otsikko

Komission teksti	Tarkistus
Yhteistyö toimivaltaisten viranomaisten kanssa	Yhteistyö toimivaltaisten viranomaisten, tekoälytoimiston ja komission kanssa

Tarkistus  363

 

Ehdotus asetukseksi

23 artikla – 1 kohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien tarjoajien on kansallisen toimivaltaisen viranomaisen pyynnöstä toimitettava kyseiselle viranomaiselle kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, asianomaisen jäsenvaltion määrittämällä unionin virallisella kielellä. Tarjoajien on kansallisen toimivaltaisen viranomaisen perustellusta pyynnöstä asetettava kyseisen viranomaisen saataville myös suuririskisen tekoälyjärjestelmän automaattisesti tuottamat lokitiedot siltä osin kuin tällaiset lokitiedot ovat niiden määräysvallassa käyttäjän kanssa tehdyn sopimusjärjestelyn mukaisesti tai muutoin lain nojalla.	Suuririskisten tekoälyjärjestelmien tarjoajien ja tapauksen mukaan niiden käyttöönottajien on kansallisen toimivaltaisen viranomaisen tai tapauksen mukaan tekoälytoimiston tai komission perustellusta pyynnöstä toimitettava näille kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, asianomaisen jäsenvaltion määrittämällä unionin virallisella kielellä.

Tarkistus  364

 

Ehdotus asetukseksi

23 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Tarjoajien ja tapauksen mukaan käyttöönottajien on kansallisen toimivaltaisen viranomaisen ja tapauksen mukaan komission perustellusta pyynnöstä asetettava pyynnön esittäneen toimivaltaisen viranomaisen tai tapauksen mukaan komission saataville myös suuririskisen tekoälyjärjestelmän automaattisesti tuottamat lokitiedot siltä osin kuin tällaiset lokitiedot ovat niiden määräysvallassa.

Tarkistus  365

 

Ehdotus asetukseksi

23 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	Kaikkea tietoa, jonka kansallinen toimivaltainen viranomainen tai komissio saa tämän artiklan säännösten mukaisesti, on pidettävä liikesalaisuutena ja käsiteltävä noudattaen 70 artiklassa säädettyjä luottamuksellisuutta koskevia velvoitteita.

Tarkistus  366

 

Ehdotus asetukseksi

25 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jos maahantuojaa ei voida yksilöidä, unionin ulkopuolelle sijoittautuneiden tarjoajien on ennen järjestelmiensä asettamista saataville unionin markkinoilla nimettävä kirjallisella toimeksiannolla unioniin sijoittautunut valtuutettu edustaja.	1. Unionin ulkopuolelle sijoittautuneiden tarjoajien on ennen järjestelmiensä asettamista saataville unionin markkinoilla nimettävä kirjallisella toimeksiannolla unioniin sijoittautunut valtuutettu edustaja.

Tarkistus  367

 

Ehdotus asetukseksi

25 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Valtuutetun edustajan asuin- tai sijoittautumispaikan on oltava jokin niistä jäsenvaltioista, jossa toimintaa 2 artiklan 1 kohdan c b alakohdan mukaisesti harjoitetaan.

Tarkistus  368

 

Ehdotus asetukseksi

25 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	1 b. Toimijan on annettava valtuutetulle edustajalleen tarvittavat valtuudet ja resurssit tämän asetuksen mukaisten tehtävien suorittamiseksi.

Tarkistus  369

 

Ehdotus asetukseksi

25 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Valtuutetun edustajan on suoritettava tarjoajalta saamassaan toimeksiannossa määritellyt tehtävät. Toimeksiannossa valtuutetulle edustajalle on annettava valtuudet suorittaa seuraavat tehtävät:	2. Valtuutetun edustajan on suoritettava tarjoajalta saamassaan toimeksiannossa määritellyt tehtävät. Valtuutetun edustajan on toimitettava markkinavalvontaviranomaisille pyynnöstä jäljennös toimeksiannosta jollakin kansallisen toimivaltaisen viranomaisen määrittämällä unionin toimielinten virallisella kielellä. Tämän asetuksen soveltamiseksi toimeksiannossa valtuutetulle edustajalle on annettava valtuudet suorittaa seuraavat tehtävät:

Tarkistus  370

 

Ehdotus asetukseksi

25 artikla – 2 kohta – a alakohta

Komission teksti	Tarkistus
(a) pitää kansallisten toimivaltaisten viranomaisten ja 63 artiklan 7 kohdassa tarkoitettujen kansallisten viranomaisten saatavilla jäljennös EU-vaatimustenmukaisuusvakuutuksesta ja teknisestä dokumentaatiosta;	(a) varmistaa, että EU-vaatimustenmukaisuusvakuutus ja tekninen dokumentaatio on laadittu ja että tarjoaja on suorittanut asianmukaisen vaatimustenmukaisuuden arviointimenettelyn;

Tarkistus  371

 

Ehdotus asetukseksi

25 artikla – 2 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) pitää kansallisten toimivaltaisten viranomaisten ja 63 artiklan 7 kohdassa tarkoitettujen kansallisten viranomaisten saatavilla jäljennös EU-vaatimustenmukaisuusvakuutuksesta, teknisestä dokumentaatiosta ja tarvittaessa ilmoitetun laitoksen antamasta todistuksesta;

Tarkistus  372

 

Ehdotus asetukseksi

25 artikla – 2 kohta – b alakohta

Komission teksti	Tarkistus
(b) antaa kansalliselle toimivaltaiselle viranomaiselle perustellusta pyynnöstä kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, mukaan lukien pääsy suuririskisen tekoälyjärjestelmän automaattisesti tuottamiin lokitietoihin siltä osin kuin tällaiset lokitiedot ovat tarjoajan määräysvallassa käyttäjän kanssa tehdyn sopimusjärjestelyn mukaisesti tai muutoin lain nojalla;	(b) antaa kansalliselle toimivaltaiselle viranomaiselle perustellusta pyynnöstä kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, mukaan lukien pääsy suuririskisen tekoälyjärjestelmän automaattisesti tuottamiin lokitietoihin siltä osin kuin tällaiset lokitiedot ovat tarjoajan määräysvallassa;

Tarkistus  373

 

Ehdotus asetukseksi

25 artikla – 2 kohta – c alakohta

Komission teksti	Tarkistus
(c) tehdä perustellusta pyynnöstä yhteistyötä toimivaltaisten kansallisten viranomaisten kanssa kaikissa toimissa, joita nämä toteuttavat suuririskisen tekoälyjärjestelmän suhteen.	(c) tehdä perustellusta pyynnöstä yhteistyötä kansallisten valvontaviranomaisten kanssa kaikissa toimissa, joita nämä toteuttavat suuririskisen tekoälyjärjestelmän aiheuttamien riskien vähentämiseksi ja lieventämiseksi;

Tarkistus  374

 

Ehdotus asetukseksi

25 artikla – 2 kohta – c a alakohta (uusi)

Komission teksti	Tarkistus
	(c a) tarpeen mukaan noudattaa 51 artiklassa tarkoitettuja rekisteröintivelvoitteita tai, jos rekisteröinnin suorittaa tarjoaja itse, varmistaa, että liitteessä VIII olevassa 3 kohdassa tarkoitetut tiedot pitävät paikkansa.

Tarkistus  375

 

Ehdotus asetukseksi

25 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Valtuutetulle edustajalle on annettava valtuudet toimia tahona, johon erityisesti kansallinen valvontaviranomainen tai kansalliset toimivaltaiset viranomaiset voivat ottaa yhteyttä toimijan lisäksi tai sen puolesta kaikissa tämän asetuksen noudattamisen varmistamiseen liittyvissä kysymyksissä.

Tarkistus  376

 

Ehdotus asetukseksi

25 artikla – 2 b kohta (uusi)

Komission teksti	Tarkistus
	2 b. Valtuutetun edustajan on päätettävä toimeksianto, jos se katsoo tai sillä on syytä katsoa, että tarjoaja toimii tämän asetuksen mukaisten velvoitteidensa vastaisesti. Tässä tapauksessa sen on myös välittömästi ilmoitettava toimeksiannon päättymisestä ja sen syistä myös sen jäsenvaltion kansalliselle valvontaviranomaiselle, johon se on sijoittautunut, sekä tapauksen mukaan asianomaiselle ilmoitetulle laitokselle.

Tarkistus  377

 

Ehdotus asetukseksi

26 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Suuririskisen tekoälyjärjestelmän maahantuojien on ennen tällaisen järjestelmän markkinoille saattamista varmistettava, että	1. Suuririskisen tekoälyjärjestelmän maahantuojien on ennen tällaisen järjestelmän markkinoille saattamista varmistettava, että kyseinen järjestelmä on tämän asetuksen vaatimusten mukainen, ja varmistettava, että

Tarkistus  378

 

Ehdotus asetukseksi

26 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) kyseisen tekoälyjärjestelmän tarjoaja on suorittanut asianmukaisen vaatimustenmukaisuuden arviointimenettelyn;	(a) kyseisen tekoälyjärjestelmän tarjoaja on suorittanut asiaankuuluvan 43 artiklassa tarkoitetun vaatimustenmukaisuuden arviointimenettelyn;

Tarkistus  379

 

Ehdotus asetukseksi

26 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) tarjoaja on laatinut teknisen dokumentaation liitteen IV mukaisesti;	(b) tarjoaja on laatinut teknisen dokumentaation 11 artiklan ja liitteen IV mukaisesti;

Tarkistus  380

 

Ehdotus asetukseksi

26 artikla – 1 kohta – c a alakohta (uusi)

Komission teksti	Tarkistus
	(c a) tarjoaja on tarvittaessa nimittänyt valtuutetun edustajan 25 artiklan 1 kohdan mukaisesti.

Tarkistus  381

 

Ehdotus asetukseksi

26 artikla – 2 kohta

Komission teksti	Tarkistus
2. Mikäli maahantuoja katsoo tai sillä on syytä uskoa, että suuririskinen tekoälyjärjestelmä ei ole tämän asetuksen mukainen, se ei saa saattaa kyseistä tekoälyjärjestelmää markkinoille ennen kuin järjestelmä on saatettu vaatimusten mukaiseksi. Mikäli suuririskinen tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, maahantuojan on ilmoitettava asiasta tekoälyjärjestelmän tarjoajalle ja markkinavalvontaviranomaisille.	2. Mikäli maahantuoja katsoo tai sillä on syytä uskoa, että suuririskinen tekoälyjärjestelmä ei ole tämän asetuksen mukainen tai että se on väärennetty tai sen mukana on väärennettyjä asiakirjoja, se ei saa saattaa kyseistä tekoälyjärjestelmää markkinoille ennen kuin järjestelmä on saatettu vaatimusten mukaiseksi. Mikäli suuririskinen tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, maahantuojan on ilmoitettava asiasta tekoälyjärjestelmän tarjoajalle ja markkinavalvontaviranomaisille.

Tarkistus  382

 

Ehdotus asetukseksi

26 artikla – 3 kohta

Komission teksti	Tarkistus
3. Maahantuojien on ilmoitettava nimensä, rekisteröity tuotenimensä tai rekisteröity tavaramerkkinsä sekä osoite, josta maahantuojaan voidaan saadaan yhteys, joko suuririskisessä tekoälyjärjestelmässä tai, jos se ei ole mahdollista, sen pakkauksessa tai tarvittaessa sen mukana seuraavassa dokumentaatiossa.	3. Maahantuojien on ilmoitettava nimensä, rekisteröity tuotenimensä tai rekisteröity tavaramerkkinsä sekä osoite, josta maahantuojaan voidaan saadaan yhteys, joko suuririskisessä tekoälyjärjestelmässä ja sen pakkauksessa tai tarvittaessa sen mukana seuraavassa dokumentaatiossa.

Tarkistus  383

 

Ehdotus asetukseksi

26 artikla – 5 kohta

Komission teksti	Tarkistus
5. Maahantuojien on annettava kansallisille toimivaltaisille viranomaisille perustellusta pyynnöstä kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, kielellä, jota kyseinen kansallinen toimivaltainen viranomainen voi helposti ymmärtää, mukaan lukien pääsy suuririskisen tekoälyjärjestelmän automaattisesti tuottamiin lokitietoihin siltä osin kuin tällaiset lokitiedot ovat tarjoajan määräysvallassa käyttäjän kanssa tehdyn sopimusjärjestelyn mukaisesti tai muutoin lain nojalla. Niiden on myös tehtävä yhteistyötä kyseisten viranomaisten kanssa kaikissa toimissa, joita kansallinen toimivaltainen viranomainen toteuttaa kyseisen järjestelmän osalta.	5. Maahantuojien on annettava kansallisille toimivaltaisille viranomaisille perustellusta pyynnöstä kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, kielellä, jota kyseinen viranomainen voi helposti ymmärtää, mukaan lukien pääsy suuririskisen tekoälyjärjestelmän automaattisesti tuottamiin lokitietoihin 20 artiklan mukaisesti siltä osin kuin tällaiset lokitiedot ovat tarjoajan määräysvallassa.

Tarkistus  384

 

Ehdotus asetukseksi

26 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Maahantuojien on tehtävä yhteistyötä kansallisten toimivaltaisten viranomaisten kanssa kaikissa toimissa, joita kyseiset viranomaiset toteuttavat suuririskisen tekoälyjärjestelmän aiheuttamien riskien vähentämiseksi ja lieventämiseksi.

Tarkistus  385

 

Ehdotus asetukseksi

27 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jakelijoiden on ennen suuririskisen tekoälyjärjestelmän asettamista saataville markkinoilla tarkastettava, että suuririskisessä tekoälyjärjestelmässä on vaadittu CE-vaatimustenmukaisuusmerkintä, että sen mukana on vaadittu dokumentaatio ja käyttöohjeet ja että tapauksen mukaan tarjoaja ja maahantuoja ovat noudattaneet tässä asetuksessa säädettyjä velvoitteita.	1. Jakelijoiden on ennen suuririskisen tekoälyjärjestelmän asettamista saataville markkinoilla tarkastettava, että suuririskisessä tekoälyjärjestelmässä on vaadittu CE-vaatimustenmukaisuusmerkintä, että sen mukana on vaadittu dokumentaatio ja käyttöohjeet ja että tapauksen mukaan tarjoaja ja maahantuoja ovat noudattaneet tämän asetuksen 16 ja 26 artiklassa säädettyjä velvoitteitaan.

Tarkistus  386

 

Ehdotus asetukseksi

27 artikla – 2 kohta

Komission teksti	Tarkistus
2. Mikäli jakelija katsoo tai sillä on syytä uskoa, että suuririskinen tekoälyjärjestelmä ei ole tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, se ei saa asettaa suuririskistä tekoälyjärjestelmää saataville markkinoilla ennen kuin järjestelmä on saatettu kyseisten vaatimusten mukaiseksi. Lisäksi mikäli järjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, jakelijan on ilmoitettava asiasta tapauksen mukaan tarjoajalle tai maahantuojalle.	2. Mikäli jakelija katsoo tai sillä on hallussaan olevien tietojen perusteella syytä uskoa, että suuririskinen tekoälyjärjestelmä ei ole tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, se ei saa asettaa suuririskistä tekoälyjärjestelmää saataville markkinoilla ennen kuin järjestelmä on saatettu kyseisten vaatimusten mukaiseksi. Lisäksi mikäli järjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, jakelijan on ilmoitettava asiasta tapauksen mukaan tarjoajalle tai maahantuojalle ja asiaankuuluvalle kansalliselle toimivaltaiselle viranomaiselle.

Tarkistus  387

 

Ehdotus asetukseksi

27 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jakelijan, joka katsoo tai jolla on syytä uskoa, että sen markkinoilla saataville asettama suuririskinen tekoälyjärjestelmä ei ole tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, on toteutettava tarvittavat korjaavat toimenpiteet kyseisen järjestelmän saattamiseksi vaatimusten mukaiseksi, sen poistamiseksi markkinoilta tai sitä koskevan palautusmenettelyn järjestämiseksi tai varmistettava, että tarvittaessa tarjoaja, maahantuoja tai mikä tahansa asiaankuuluva toimija toteuttaa kyseiset korjaavat toimenpiteet. Mikäli suuririskinen tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, jakelijan on välittömästi ilmoitettava asiasta niiden jäsenvaltioiden kansallisille toimivaltaisille viranomaisille, joissa se on asettanut tuotteen saataville, ja annettava yksityiskohtaiset tiedot erityisesti vaatimustenvastaisuudesta ja toteutetuista korjaavista toimenpiteistä.	4. Jakelijan, joka katsoo tai jolla on hallussaan olevien tietojen perusteella syytä uskoa, että sen markkinoilla saataville asettama suuririskinen tekoälyjärjestelmä ei ole tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, on toteutettava tarvittavat korjaavat toimenpiteet kyseisen järjestelmän saattamiseksi vaatimusten mukaiseksi, sen poistamiseksi markkinoilta tai sitä koskevan palautusmenettelyn järjestämiseksi tai varmistettava, että tarvittaessa tarjoaja, maahantuoja tai mikä tahansa asiaankuuluva toimija toteuttaa kyseiset korjaavat toimenpiteet. Mikäli suuririskinen tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, jakelijan on välittömästi ilmoitettava asiasta järjestelmän tarjoajalle tai maahantuojalle ja niiden jäsenvaltioiden kansallisille toimivaltaisille viranomaisille, joissa se on asettanut tuotteen saataville, ja annettava yksityiskohtaiset tiedot erityisesti vaatimustenvastaisuudesta ja toteutetuista korjaavista toimenpiteistä.

Tarkistus  388

 

Ehdotus asetukseksi

27 artikla – 5 kohta

Komission teksti	Tarkistus
5. Suuririskisten tekoälyjärjestelmien jakelijoiden on kansallisen toimivaltaisen viranomaisen pyynnöstä toimitettava kyseiselle viranomaiselle kaikki tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen. Jakelijoiden on myös tehtävä yhteistyötä kyseisen kansallisen toimivaltaisen viranomaisen kanssa kaikissa tämän viranomaisen toteuttamissa toimissa.	5. Suuririskisen tekoälyjärjestelmän jakelijoiden on kansallisen toimivaltaisen viranomaisen perustellusta pyynnöstä toimitettava 1 kohdassa kuvattujen jakelijoiden velvollisuuksien mukaisesti kyseiselle viranomaiselle kaikki hallussaan tai saatavillaan oleva tieto ja dokumentaatio, joka on tarpeen sen osoittamiseksi, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen.

Tarkistus  389

 

Ehdotus asetukseksi

27 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Jakelijoiden on tehtävä yhteistyötä kansallisten toimivaltaisten viranomaisten kanssa kaikissa toimissa, joita kyseiset viranomaiset toteuttavat suuririskisen tekoälyjärjestelmän aiheuttamien riskien vähentämiseksi ja lieventämiseksi.

Tarkistus  390

 

Ehdotus asetukseksi

28 artikla – otsikko

Komission teksti	Tarkistus
Jakelijoiden, maahantuojien, käyttäjien ja muiden kolmansien osapuolten velvollisuudet	Tarjoajien, jakelijoiden, maahantuojien, käyttöönottajien tai muiden kolmansien osapuolten vastuut tekoälyn arvoketjussa

Tarkistus  391

 

Ehdotus asetukseksi

28 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Mitä tahansa jakelijaa, maahantuojaa, käyttäjää tai muuta kolmatta osapuolta pidetään tätä asetusta sovellettaessa tarjoajana ja niitä koskevat samat velvoitteet kuin tarjoajaa 16 artiklan mukaisesti seuraavissa olosuhteissa:	1. Mitä tahansa jakelijaa, maahantuojaa, käyttöönottajaa tai muuta kolmatta osapuolta pidetään tätä asetusta sovellettaessa suuririskisen tekoälyjärjestelmän tarjoajana ja niitä koskevat samat velvoitteet kuin tarjoajaa 16 artiklan mukaisesti seuraavissa olosuhteissa:

Tarkistus  392

 

Ehdotus asetukseksi

28 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) ne saattavat markkinoille tai ottavat käyttöön suuririskisen tekoälyjärjestelmän omalla nimellään tai tavaramerkillään;	(a) ne laittavat nimensä tai tavaramerkkinsä suuririskiseen tekoälyjärjestelmään, joka on jo saatettu markkinoille tai otettu käyttöön;

Tarkistus  393

 

Ehdotus asetukseksi

28 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) ne muuttavat jo markkinoille saatetun tai käyttöön otetun suuririskisen tekoälyjärjestelmän käyttötarkoitusta;	(b) ne tekevät jo markkinoille saatettuun tai jo käyttöön otettuun suuririskiseen tekoälyjärjestelmään merkittävän muutoksen siten, että se pysyy 6 artiklan mukaisena suuririskisenä tekoälyjärjestelmänä;

Tarkistus  394

 

Ehdotus asetukseksi

28 artikla – 1 kohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) ne tekevät sellaiseen tekoälyjärjestelmään, myös yleiskäyttöiseen tekoälyjärjestelmään, jota ei ole luokiteltu suuririskiseksi ja joka on jo saatettu markkinoille tai otettu käyttöön, merkittävän muutoksen siten, että tekoälyjärjestelmästä tulee 6 artiklan mukainen suuririskinen tekoälyjärjestelmä;

Tarkistus  395

 

Ehdotus asetukseksi

28 artikla – 2 kohta

Komission teksti	Tarkistus
2. Edellä 1 kohdan b tai c alakohdassa tarkoitetuissa tilanteissa tarjoajaa, joka on alun perin saattanut suuririskisen tekoälyjärjestelmän markkinoille tai ottanut sen käyttöön, ei enää pidetä tämän asetuksen tarkoituksissa tarjoajana.	2.Edellä 1 kohdan a–b a alakohdassa tarkoitetuissa tilanteissa tarjoajaa, joka on alun perin saattanut tekoälyjärjestelmän markkinoille tai ottanut sen käyttöön, ei enää pidetä kyseisen tekoälyjärjestelmän tarjoajana tätä asetusta sovellettaessa. Tämän entisen tarjoajan on annettava uudelle tarjoajalle tekoälyjärjestelmän tekninen dokumentaatio ja kaikki muut asiaankuuluvat ja kohtuudella odotettavissa olevat tietovalmiudet, tekninen pääsy tai muu apu, jotka perustuvat yleisesti tunnustettuun alan viimeisimpään kehitykseen ja joita tässä asetuksessa säädettyjen velvollisuuksien täyttäminen edellyttää.
	Tätä kohtaa sovelletaan myös 3 artiklassa määriteltyjen perusmallien tarjoajiin, kun perusmalli integroidaan suoraan suuririskiseen tekoälyjärjestelmään.

Tarkistus  396

 

Ehdotus asetukseksi

28 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Suuririskisen tekoälyjärjestelmän tarjoajan ja kolmannen osapuolen, joka toimittaa suuririskisessä tekoälyjärjestelmässä käytettäviä tai siihen integroitavia välineitä, palveluja, komponentteja tai prosesseja, on määritettävä kirjallisella sopimuksella tiedot, valmiudet, tekninen pääsy ja tai muu apu, jotka perustuvat yleisesti tunnustettuun alan viimeisimpään kehitykseen ja jotka kolmannen osapuolen on annettava, jotta suuririskisen tekoälyjärjestelmän tarjoaja voi noudattaa täysimääräisesti tämän asetuksen mukaisia velvoitteita.
	Komissio laatii ja suosittaa ei-sitovia mallisopimusehtoja suuririskisten tekoälyjärjestelmien tarjoajien ja sellaisten kolmansien osapuolten käyttöön, jotka toimittavat suuririskisissä tekoälyjärjestelmissä käytettäviä tai niihin integroitavia välineitä, palveluja, komponentteja tai prosesseja, auttaakseen osapuolia laatimaan ja neuvottelemaan sopimuksia, joissa sopimusperusteiset oikeudet ja velvoitteet ovat tasapainossa ja vastaavat kunkin osapuolen määräysvallan tasoa. Laatiessaan ei-sitovia mallisopimusehtoja komissio ottaa huomioon tietyillä aloilla tai tietyissä liiketoimintamalleissa mahdollisesti sovellettavat sopimusperusteiset vaatimukset. Ei-sitovat sopimusehdot on julkaistava, ja niiden on oltava saatavilla maksutta helposti käytettävässä sähköisessä muodossa tekoälytoimiston verkkosivustolla.

Tarkistus  397

 

Ehdotus asetukseksi

28 artikla – 2 b kohta (uusi)

Komission teksti	Tarkistus
	2 b. Tätä artiklaa sovellettaessa liikesalaisuudet on säilytettävä ja ne saa ilmaista vain sillä edellytyksellä, että toteutetaan etukäteen kaikki direktiivin (EU) 2016/943 mukaiset tarvittavat erityistoimenpiteet niiden luottamuksellisuuden säilyttämiseksi, erityisesti suhteessa kolmansiin osapuoliin. Tarvittaessa voidaan sopia asianmukaisista teknisistä ja organisatorisista järjestelyistä teollis- ja tekijänoikeuksien tai liikesalaisuuksien suojaamiseksi.

Tarkistus  398

 

Ehdotus asetukseksi

28 a artikla (uusi)

Komission teksti	Tarkistus
	28 a artikla
	Pk- tai startup-yritykselle yksipuolisesti asetetut kohtuuttomat sopimusehdot
	1. Sopimusehto, joka koskee suuririskisessä tekoälyjärjestelmässä käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamista taikka oikeussuojakeinoja asiaan liittyvien velvoitteiden rikkomisen tai purkamisen tapauksessa ja jonka yritys on yksipuolisesti asettanut pk-yritykselle tai startup-yritykselle, ei sido viimeksi mainittua yritystä, jos se on kohtuuton.
	2. Sopimusehtoa ei pidetä kohtuuttomana, jos se johtuu sovellettavasta unionin lainsäädännöstä.
	3. Sopimusehto on kohtuuton, jos se on luonteeltaan sellainen, että se objektiivisesti katsottuna heikentää sen osapuolen, jolle ehto on yksipuolisesti asetettu, kykyä suojata asianomaisiin tietoihin liittyvää oikeutettua kaupallista etuaan, tai jos sen käyttö poikkeaa jyrkästi hyvästä kauppatavasta toimitettaessa suuririskisessä tekoälyjärjestelmässä käytettäviä tai siihen integroitavia välineitä, palveluja, komponentteja tai prosesseja, on kunniallisen ja vilpittömän menettelyn vastainen tai luo huomattavan epätasapainon sopimuksen osapuolten oikeuksien ja velvoitteiden välille. Sopimusehto on kohtuuton myös, jos se johtaa 71 artiklassa tarkoitettujen seuraamusten tai niihin liittyvien oikeudenkäyntikulujen siirtämiseen sopimuksen osapuolelta toiselle 71 artiklan 8 kohdassa tarkoitetulla tavalla.
	4. Sopimusehto on tätä artiklaa sovellettaessa kohtuuton, jos sillä on jokin seuraavista tarkoituksista tai vaikutuksista:
	(a) sulkea pois ehdon yksipuolisesti asettaneen osapuolen vastuu tahallisesta teosta tai törkeästä huolimattomuudesta tai rajoittaa kyseisen osapuolen vastuuta;
	(b) sulkea pois sen osapuolen, jolle sopimusehto on yksipuolisesti asetettu, käytettävissä olevat oikeussuojakeinot sopimusvelvoitteiden täyttämättä jättämisen tapauksessa tai sulkea pois ehdon yksipuolisesti asettaneen osapuolen vastuu, jos sopimusvelvoitteita rikotaan;
	(c) antaa ehdon yksipuolisesti asettaneelle osapuolelle yksinoikeus määrittää, ovatko toimitetut tekninen dokumentaatio ja tiedot sopimuksen mukaisia, tai tulkita mitä tahansa sopimusehtoa.
	5. Sopimusehto katsotaan tässä artiklassa tarkoitetulla tavalla yksipuolisesti asetetuksi, jos yksi sopimuspuolista on toimittanut sen eikä toinen sopimuspuoli ole voinut vaikuttaa sen sisältöön, vaikka se on yrittänyt neuvotella siitä. On sopimusehdon toimittaneen sopimuspuolen velvollisuus näyttää toteen, että kyseistä ehtoa ei ole asetettu yksipuolisesti.
	6. Jos kohtuuton sopimusehto voidaan erottaa sopimuksen muista ehdoista, kyseiset muut ehdot ovat edelleen sitovia. Riidanalaisen ehdon toimittanut osapuoli ei saa vedota ehdon kohtuuttomuuteen.
	7. Tätä artiklaa sovelletaan kaikkiin uusiin sopimuksiin, jotka tulevat voimaan ... päivän ...kuuta ... [tämän asetuksen voimaantulopäivä] jälkeen. Yritysten on tarkasteltava uudelleen tämän asetuksen soveltamisalaan kuuluvia nykyisiä sopimusvelvoitteita viimeistään ... päivänä ...kuuta ... [kolmen vuoden kuluttua tämän asetuksen voimaantulopäivästä].
	8. Ottaen huomioon, miten nopeasti markkinoille ilmaantuu innovaatioita, komissio tarkastelee säännöllisesti uudelleen 28 a artiklan luetelmaa kohtuuttomista sopimusehdoista ja päivittää sitä tarvittaessa uusien liiketoimintakäytäntöjen mukaan.

Tarkistus  399

 

Ehdotus asetukseksi

28 b artikla (uusi)

Komission teksti	Tarkistus
	28 b artikla
	Perusmallin tarjoajan velvollisuudet
	1. Perusmallin tarjoajan on ennen sen asettamista saataville markkinoilla tai käyttöönottoa varmistettava, että se on tässä artiklassa säädettyjen vaatimusten mukainen riippumatta siitä, tarjotaanko sitä erillisenä mallina vai sulautetaanko se tekoälyjärjestelmään tai tuotteeseen tai tarjotaanko sitä vapaalla ja avoimen lähdekoodin lisenssillä palveluna tai muiden jakelukanavien kautta.
	2. Sovellettaessa 1 kohtaa perusmallin tarjoajan on:
	(a) osoitettava asianmukaisella suunnittelulla, testauksella ja analysoinnilla, että terveyteen, turvallisuuteen, perusoikeuksiin, ympäristöön, demokratiaan ja oikeusvaltioon kohdistuvat kohtuudella ennakoitavissa olevat riskit tunnistetaan ja niitä vähennetään ja lievennetään ennen kehittämistä ja kehittämisen aikana asianmukaisilla menetelmillä, kuten ottamalla kehitystyöhön mukaan riippumattomia asiantuntijoita, ja että jäljellä olevat riskit, joita ei voida lieventää, dokumentoidaan kehittämisen jälkeen;
	(b) käsiteltävä ja otettava mukaan vain datajoukkoja, joihin sovelletaan perusmallien tapauksessa asianmukaisia datanhallintotoimenpiteitä, erityisesti toimenpiteitä, joilla tutkitaan datalähteiden sopivuutta ja mahdollisia vinoutumia ja niiden asianmukaista vähentämistä;
	(c) suunniteltava perusmalli ja kehitettävä sitä niin, että sen koko elinkaaren ajan saavutetaan asiaankuuluvat suorituskyvyn, ennustettavuuden, tulkittavuuden, oikaistavuuden, turvallisuuden ja kyberturvallisuuden tasot, joita arvioidaan asianmukaisilla menetelmillä, kuten arvioimalla mallia yhdessä riippumattomien asiantuntijoiden kanssa, dokumentoiduilla analyyseillä ja laajamittaisella testauksella konseptin kehittämisen, suunnittelun ja jatkokehittämisen aikana;
	(d) suunniteltava perusmalli ja kehitettävä sitä hyödyntäen sovellettavia standardeja energiankäytön, luonnonvarojen käytön ja jätteen vähentämiseksi sekä energiatehokkuuden ja järjestelmän yleisen tehokkuuden lisäämiseksi, sanotun kuitenkaan rajoittamatta asiaa koskevan voimassa olevan unionin ja kansallisen lainsäädännön soveltamista. Tätä velvoitetta ei sovelleta ennen kuin 40 artiklassa tarkoitetut standardit on julkaistu. Perusmallit on suunniteltava siten, että niillä on valmiudet mitata energian ja luonnonvarojen kulutusta ja, jos se on teknisesti toteutettavissa, muita ympäristövaikutuksia, joita järjestelmien käyttöönotosta ja käytöstä voi aiheutua koko niiden elinkaaren aikana, sekä tuottaa niistä lokitietoja;
	(e) laadittava kattava tekninen dokumentaatio ja ymmärrettävät käyttöohjeet, jotta toimitusketjun loppupään tarjoajat voivat täyttää 16 artiklan ja 28 artiklan 1 kohdan mukaiset velvoitteensa;
	(f) perustettava laadunhallintajärjestelmä, jolla varmistetaan ja dokumentoidaan tämän artiklan noudattaminen ja jossa annetaan mahdollisuus kokeilla eri tapoja täyttää tämä vaatimus;
	(g) rekisteröitävä kyseinen perusmalli 60 artiklassa tarkoitettuun EU:n tietokantaan noudattaen liitteessä VIII olevassa C osassa annettuja ohjeita.
	Näitä vaatimuksia täytettäessä on otettava huomioon yleisesti tunnustettu alan viimeisin kehitys, myös asiaa koskevissa yhdenmukaistetuissa standardeissa tai yhteisissä eritelmissä esitetyn mukaisesti, sekä viimeisimmät arviointi- ja mittausmenetelmät, jotka esitetään erityisesti 58 a artiklassa tarkoitetuissa vertailuanalyysiohjeissa ja -valmiuksissa.
	3. Perusmallien tarjoajien on pidettävä 2 kohdan e alakohdassa tarkoitettu tekninen dokumentaatio kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun perusmalli on saatettu markkinoille tai otettu käyttöön.
	4. Tekoälyjärjestelmissä, jotka on tarkoitettu tuottamaan eriasteisen itsenäisesti sisältöä, kuten kehittynyttä teksti-, kuva-, ääni- tai videosisältöä, jäljempänä ’generatiivinen tekoäly’, käytettävien perusmallien tarjoajien ja tarjoajien, jotka ovat erikoistuneet perustusmallien integrointiin generatiiviseen tekoälyjärjestelmään, on lisäksi
	a) noudatettava 52 artiklan 1 kohdassa säädettyjä läpinäkyvyysvelvoitteita;
	b) koulutettava perusmalli ja tarvittaessa suunniteltava se ja kehitettävä sitä siten, että varmistetaan riittävät suojatoimet unionin lainsäädännön vastaisen sisällön tuottamisen estämiseksi yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti ja rajoittamatta perusoikeuksia, sananvapaus mukaan lukien;
	c) dokumentoitava ja asetettava julkisesti saataville riittävän yksityiskohtainen yhteenveto tekijänoikeuslainsäädännön nojalla suojatun koulutusdatan käytöstä, sanotun kuitenkaan rajoittamatta unionin tai kansallisen tekijänoikeuslainsäädännön soveltamista.

 

Tarkistus  400

 

Ehdotus asetukseksi

29 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskisten tekoälyjärjestelmien käyttäjien on käytettävä tällaisia järjestelmiä niiden mukana seuraavien käyttöohjeiden mukaisesti 2 ja 5 kohdassa säädetyllä tavalla.	1. Suuririskisten tekoälyjärjestelmien käyttöönottajien on toteutettava asianmukaiset tekniset ja organisatoriset toimenpiteet varmistaakseen, että ne käyttävät tällaisia järjestelmiä niiden mukana seuraavien käyttöohjeiden mukaisesti tämän artiklan 2 ja 5 kohdassa säädetyllä tavalla.

 

Tarkistus  401

 

Ehdotus asetukseksi

29 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Siltä osin kuin käyttöönottajat valvovat suuririskistä tekoälyjärjestelmää, niiden on
	i) pantava täytäntöön ihmisen suorittama valvonta tässä asetuksessa säädettyjen vaatimusten mukaisesti;
	ii) varmistettava, että luonnolliset henkilöt, joiden tehtäväksi ihmisen suorittama suuririskisten tekoälyjärjestelmien valvonta on annettu, ovat päteviä ja asianmukaisesti koulutettuja ja heillä on tarvittavat resurssit tekoälyjärjestelmän tehokkaan valvonnan varmistamiseksi 14 artiklan mukaisesti;
	iii) varmistettava, että relevantteja ja asianmukaisia luotettavuutta ja kyberturvallisuutta koskevia toimenpiteitä seurataan säännöllisesti niiden tehokkuuden varmistamiseksi ja että niitä mukautetaan tai päivitetään säännöllisesti.

Tarkistus  402

 

Ehdotus asetukseksi

29 artikla – 2 kohta

Komission teksti	Tarkistus
2. Edellä 1 kohdassa säädetyt velvollisuudet eivät rajoita muiden unionin tai kansallisesta lainsäädännöstä johtuvien käyttäjien velvollisuuksien soveltamista eivätkä käyttäjän harkintavaltaa omien resurssiensa ja toimintojensa järjestämisessä tarjoajan ilmoittamien ihmisen suorittamien valvontatoimien toteuttamiseksi.	2. Edellä 1 ja 1 a kohdassa säädetyt velvollisuudet eivät rajoita muiden unionin tai kansallisesta lainsäädännöstä johtuvien käyttöönottajien velvollisuuksien soveltamista eivätkä käyttöönottajan harkintavaltaa omien resurssiensa ja toimintojensa järjestämisessä tarjoajan ilmoittamien ihmisen suorittamien valvontatoimien toteuttamiseksi.

Tarkistus  403

 

Ehdotus asetukseksi

29 artikla – 3 kohta

Komission teksti	Tarkistus
3. Siltä osin kuin käyttäjä valvoo syöttötietoja, käyttäjän on varmistettava, että syöttötiedot ovat merkityksellisiä suuririskisen tekoälyjärjestelmän käyttötarkoituksen kannalta, sanotun kuitenkaan rajoittamatta 1 kohdan soveltamista.	3. Siltä osin kuin käyttöönottaja valvoo syöttötietoja, käyttöönottajan on varmistettava, että syöttötiedot ovat merkityksellisiä ja riittävän edustavia suuririskisen tekoälyjärjestelmän käyttötarkoituksen kannalta, sanotun kuitenkaan rajoittamatta 1 ja 1 a kohdan soveltamista.

Tarkistus  404

 

Ehdotus asetukseksi

29 artikla – 4 kohta – johdantokappale

Komission teksti	Tarkistus
4. Käyttäjien on seurattava suuririskisen tekoälyjärjestelmän toimintaa käyttöohjeiden perusteella. Jos niillä on syytä uskoa, että käyttöohjeiden mukainen käyttö voi johtaa siihen, että tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, niiden on ilmoitettava asiasta tarjoajalle tai jakelijalle ja keskeytettävä järjestelmän käyttö. Niiden on samoin ilmoitettava tarjoajalle tai jakelijalle, jos ne ovat havainneet 62 artiklassa tarkoitetun vakavan vaaratilanteen tai toimintahäiriön ja keskeytettävä tekoälyjärjestelmän käyttö. Jos käyttäjä ei pysty tavoittamaan tarjoajaa, 62 artiklaa sovelletaan soveltuvin osin.	4. Käyttöönottajien on seurattava suuririskisen tekoälyjärjestelmän toimintaa käyttöohjeiden perusteella ja tarvittaessa ilmoitettava asiasta tarjoajille 61 artiklan mukaisesti. Jos niillä on syytä uskoa, että käyttöohjeiden mukainen käyttö voi johtaa siihen, että tekoälyjärjestelmä aiheuttaa 65 artiklan 1 kohdassa tarkoitetun riskin, niiden on ilman aiheetonta viivytystä ilmoitettava asiasta tarjoajalle tai jakelijalle ja asiaankuuluville kansallisille valvontaviranomaisille sekä keskeytettävä järjestelmän käyttö. Niiden on samoin välittömästi ilmoitettava ensin tarjoajalle ja sen jälkeen maahantuojalle tai jakelijalle ja asiaankuuluville kansallisille valvontaviranomaisille, jos ne ovat havainneet 62 artiklassa tarkoitetun vakavan vaaratilanteen tai toimintahäiriön ja keskeytettävä tekoälyjärjestelmän käyttö. Jos käyttöönottaja ei pysty tavoittamaan tarjoajaa, 62 artiklaa sovelletaan soveltuvin osin.

Tarkistus  405

 

Ehdotus asetukseksi

29 artikla – 4 kohta – 1 alakohta

Komission teksti	Tarkistus
Niiden käyttäjien osalta, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, ensimmäisessä alakohdassa säädetty seurantavelvollisuus katsotaan täytetyksi, kun käyttäjä noudattaa mainitun direktiivin 74 artiklan mukaisia sisäisiä hallinnointi- ja ohjausjärjestelmiä, -prosesseja ja -menetelmiä koskevia sääntöjä.	Niiden käyttöönottajien osalta, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, ensimmäisessä alakohdassa säädetty seurantavelvollisuus katsotaan täytetyksi, kun käyttäjä noudattaa mainitun direktiivin 74 artiklan mukaisia sisäisiä hallinnointi- ja ohjausjärjestelmiä, -prosesseja ja -menetelmiä koskevia sääntöjä.

 

Tarkistus  406

 

Ehdotus asetukseksi

29 artikla – 5 kohta – johdantokappale

Komission teksti	Tarkistus
5. Suuririskisten tekoälyjärjestelmien käyttäjien on säilytettävä suuririskisen tekoälyjärjestelmän automaattisesti tuottamat lokitiedot siltä osin kuin tällaiset lokitiedot ovat niiden määräysvallassa. Lokitietoja on säilytettävä ajan, joka on asianmukainen ottaen huomioon suuririskisen tekoälyjärjestelmän käyttötarkoitus ja sovellettavat unionin tai kansallisen oikeuden mukaiset velvoitteet.	5. Suuririskisten tekoälyjärjestelmien käyttöönottajien on säilytettävä suuririskisen tekoälyjärjestelmän automaattisesti tuottamat lokitiedot, joita tarvitaan tämän asetuksen noudattamisen varmistamiseen ja osoittamiseen, järjestelmän mahdollisten kohtuudella ennakoitavissa olevien toimintahäiriöiden, vaaratilanteiden tai väärinkäyttötapausten jälkitarkastuksiin tai järjestelmän asianmukaisen toiminnan varmistamiseen ja seuraamiseen sen koko elinkaaren ajan, siltä osin kuin tällaiset lokitiedot ovat käyttöönottajien määräysvallassa. Lokitietoja on säilytettävä vähintään kuuden kuukauden ajan, sanotun kuitenkaan rajoittamatta sovellettavan unionin tai kansallisen lainsäädännön soveltamista. Säilytysajan on vastattava toimialan käytäntöä ja oltava oikeassa suhteessa suuririskisen tekoälyjärjestelmän käyttötarkoitukseen.

Tarkistus  407

 

Ehdotus asetukseksi

29 artikla – 5 kohta – 1 alakohta

Komission teksti	Tarkistus
Käyttäjien, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, on säilytettävä lokitiedot osana asiakirjoja, jotka liittyvät mainitun direktiivin 74 artiklan mukaisiin sisäisiin hallinnointi- ja ohjausjärjestelmiin, -prosesseihin ja -menetelmiin.	Käyttöönottajien, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, on säilytettävä lokitiedot osana asiakirjoja, jotka liittyvät mainitun direktiivin 74 artiklan mukaisiin sisäisiin hallinnointi- ja ohjausjärjestelmiin, -prosesseihin ja -menetelmiin.

Tarkistus  408

 

Ehdotus asetukseksi

29 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Ennen suuririskisen tekoälyjärjestelmän käyttöönottoa tai käyttöä työpaikalla käyttöönottajien on kuultava työntekijöiden edustajia sopimuksen aikaansaamiseksi direktiivin 2002/14/EY mukaisesti ja ilmoitettava asianomaisille työntekijöille, että järjestelmää sovelletaan heihin.

Tarkistus  409

 

Ehdotus asetukseksi

29 artikla – 5 b kohta (uusi)

Komission teksti	Tarkistus
	5 b. Suuririskisten tekoälyjärjestelmin käyttöönottajien, jotka ovat viranomaisia tai unionin toimielimiä, elimiä, laitoksia tai virastoja tai 51 artiklan 1 a kohdan b alakohdassa tarkoitettuja yrityksiä, on noudatettava 51 artiklassa tarkoitettuja rekisteröintivelvollisuuksia.

Tarkistus  410

 

Ehdotus asetukseksi

29 artikla – 6 kohta

Komission teksti	Tarkistus
6. Suuririskisten tekoälyjärjestelmien käyttäjien on käytettävä 13 artiklan mukaisesti toimitettuja tietoja noudattaakseen velvollisuuttaan tehdä tarvittaessa tietosuojaa koskeva vaikutustenarviointi asetuksen (EU) 2016/679 35 artiklan tai direktiivin (EU) 2016/680 27 artiklan mukaisesti.	6. Suuririskisten tekoälyjärjestelmien käyttöönottajien on tarvittaessa käytettävä 13 artiklan mukaisesti toimitettuja tietoja noudattaakseen velvollisuuttaan tehdä tietosuojaa koskeva vaikutustenarviointi asetuksen (EU) 2016/679 35 artiklan tai direktiivin (EU) 2016/680 27 artiklan mukaisesti ja julkaista sitä koskeva yhteenveto, ottaen huomioon tekoälyjärjestelmän erityisen käytön ja käyttöyhteyden, jossa sen on tarkoitus toimia. Käyttöönottajat voivat hyödyntää osittain kyseisiä tietosuojaa koskevia vaikutustenarviointeja joidenkin tässä artiklassa säädettyjen velvoitteiden täyttämisessä edellyttäen, että tietosuojaa koskeva vaikutustenarviointi täyttää nämä velvoitteet.

Tarkistus  411

 

Ehdotus asetukseksi

29 artikla – 6 a kohta (uusi)

Komission teksti	Tarkistus
	6 a. Sellaisten liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien käyttöönottajien, jotka tekevät tai auttavat tekemään luonnollisiin henkilöihin liittyviä päätöksiä, on ilmoitettava luonnollisille henkilöille, että heihin sovelletaan suuririskistä tekoälyjärjestelmää, sanotun kuitenkaan rajoittamatta 52 artiklan soveltamista. Näihin tietoihin on sisällyttävä tekoälyjärjestelmän käyttötarkoitus ja sen tekemien päätösten tyyppi. Käyttöönottajan on myös ilmoitettava luonnolliselle henkilölle tämän 68 c artiklassa tarkoitetusta oikeudesta saada selitys.

Tarkistus  412

 

Ehdotus asetukseksi

29 artikla – 6 b kohta (uusi)

Komission teksti	Tarkistus
	6 b. Käyttöönottajien on tehtävä yhteistyötä asiaankuuluvien kansallisten toimivaltaisten viranomaisten kanssa kaikissa toimissa, joita kyseiset viranomaiset toteuttavat suuririskisen tekoälyjärjestelmän suhteen tämän asetuksen täytäntöönpanemiseksi.

Tarkistus  413

 

Ehdotus asetukseksi

29 a artikla (uusi)

Komission teksti	Tarkistus
	29 a artikla
	Suuririskisten tekoälyjärjestelmien perusoikeusvaikutusten arviointi
	Ennen 6 artiklan 2 kohdassa määritellyn suuririskisen tekoälyjärjestelmän käyttöönottoa, lukuun ottamatta tekoälyjärjestelmiä, joka on tarkoitettu käytettäviksi liitteessä III tarkoitetulla 2 alalla, käyttöönottajien on arvioitava järjestelmän vaikutusta kyseisessä käyttöyhteydessä. Tämän arvioinnin on sisällettävä vähintään seuraavat osatekijät:
	(a) selkeä kuvaus järjestelmän käyttötarkoituksesta;
	(b) selkeä kuvaus järjestelmän suunnitellusta maantieteellisestä ja ajallisesta käyttöalasta;
	(c) niiden luonnollisten henkilöiden ja ryhmien luokat, joihin järjestelmän käyttö todennäköisesti vaikuttaa;
	(d) sen todentaminen, että järjestelmän käyttö on perusoikeuksia koskevan unionin ja kansallisen lainsäädännön mukaista;
	(e) suuririskisen tekoälyjärjestelmän käyttöönoton kohtuudella ennakoitavissa olevat vaikutukset perusoikeuksiin;
	(f) erityiset sellaisen haitan riskit, joka todennäköisesti vaikuttaa syrjäytyneisiin henkilöihin tai haavoittuviin ryhmiin;
	(g) järjestelmän käytön kohtuudella ennakoitavissa oleva haitallinen vaikutus ympäristöön;
	(h) yksityiskohtainen suunnitelma siitä, miten havaittuja haittoja ja kielteistä vaikutusta perusoikeuksiin lievennetään;
	(j) hallintojärjestelmä, jonka käyttöönottaja ottaa käyttöön ja johon kuuluvat ihmisen suorittama valvonta, valitusten käsittely ja oikeussuojakeinot.
	2. Jos 1 kohdassa tarkoitetun arvioinnin kuluessa kuvattujen riskien yksityiskohtaista lieventämissuunnitelmaa ei voida määrittää, käyttöönottajan on pidätyttävä ottamasta suuririskistä tekoälyjärjestelmää käyttöön ja ilmoitettava asiasta ilman aiheetonta viivytystä tarjoajalle ja kansalliselle valvontaviranomaiselle. Kansallisten valvontaviranomaisten on 65 ja 67 artiklan mukaisesti otettava nämä tiedot huomioon tutkiessaan järjestelmiä, jotka aiheuttavat riskin kansallisella tasolla.
	3. Edellä 1 kohdassa esitettyä velvoitetta sovelletaan suuririskisen tekoälyjärjestelmän ensimmäiseen käyttöön. Käyttöönottaja voi samanlaisissa tapauksissa tukeutua aiemmin tehtyyn perusoikeusvaikutusten arviointiin tai tarjoajien tekemään olemassa olevaan arviointiin. Jos käyttöönottaja katsoo suuririskisen tekoälyjärjestelmän käytön aikana, että 1 kohdassa luetellut kriteerit eivät enää täyty, sen on tehtävä uusi perusoikeusvaikutusten arviointi.
	4. Vaikutustenarvioinnin aikana käyttöönottajan, pk-yrityksiä lukuun ottamatta, on ilmoitettava asiasta kansalliselle valvontaviranomaiselle ja asiaankuuluville sidosryhmille sekä otettava mahdollisimman suuressa laajuudessa mukaan sellaisia 1 kohdassa tarkoitettuja henkilöitä tai henkilöryhmiä edustavat tahot, joihin suuririskinen tekoälyjärjestelmä todennäköisesti vaikuttaa, joita ovat muun muassa tasa-arvoelimet, kuluttajansuojavirastot, työmarkkinaosapuolet ja tietosuojaviranomaiset, jotta ne voivat ilmaista näkemyksensä vaikutustenarviointia varten. Käyttöönottajan on annettava elimille kuusi viikkoa aikaa vastata. Pk-yritykset voivat vapaaehtoisesti soveltaa tämän kohdan säännöksiä.
	Viranomaiset voidaan 47 artiklan 1 kohdassa tarkoitetussa tapauksessa vapauttaa näistä velvoitteista.
	5. Käyttöönottajan, joka on viranomainen tai 51 artiklan 1 a kohdan b alakohdassa tarkoitettu yritys, on julkaistava yhteenveto vaikutustenarvioinnin tuloksista rekisteröidessään käytön 51 artiklan 2 kohdassa säädetyn velvoitteensa mukaisesti.
	6. Jos käyttöönottajan kuuluu tehdä asetuksen (EU) 2016/679 35 artiklan tai direktiivin (EU) 2016/680 27 artiklan mukainen tietosuojaa koskeva vaikutustenarviointi, 1 kohdassa tarkoitettu perusoikeusvaikutusten arviointi on suoritettava yhdessä tietosuojaa koskevan vaikutustenarvioinnin kanssa. Tietosuojaa koskeva vaikutustenarviointi on julkaistava lisäyksenä.

Tarkistus  414

 

Ehdotus asetukseksi

30 artikla – 1 kohta

 

Komission teksti	Tarkistus
1. Kunkin jäsenvaltion on nimettävä tai perustettava ilmoittamisesta vastaava viranomainen, joka vastaa vaatimustenmukaisuuden arviointilaitosten arviointiin, nimeämiseen ja ilmoittamiseen sekä niiden seurantaan liittyvien tarvittavien menettelyjen perustamisesta ja toteuttamisesta.	1. Kunkin jäsenvaltion on nimettävä tai perustettava ilmoittamisesta vastaava viranomainen, joka vastaa vaatimustenmukaisuuden arviointilaitosten arviointiin, nimeämiseen ja ilmoittamiseen sekä niiden seurantaan liittyvien tarvittavien menettelyjen perustamisesta ja toteuttamisesta. Nämä menettelyt on kehitettävä yhteistyössä kaikkien jäsenvaltioiden ilmoittamisesta vastaavien viranomaisten kesken.

Tarkistus  415

 

Ehdotus asetukseksi

30 artikla – 7 kohta

Komission teksti	Tarkistus
7. Ilmoittamisesta vastaavilla viranomaisilla on oltava käytössään riittävä määrä pätevää henkilöstöä tehtäviensä asianmukaista hoitamista varten.	7. Ilmoittamisesta vastaavilla viranomaisilla on oltava käytössään riittävä määrä pätevää henkilöstöä tehtäviensä asianmukaista hoitamista varten. Pätevällä henkilöstöllä on tarvittaessa oltava Euroopan unionin perusoikeuskirjassa vahvistettujen perusoikeuksien valvonnassa tarvittava asiantuntemus, kuten soveltuvan oikeusalan tutkinto.

Tarkistus  416

 

Ehdotus asetukseksi

30 artikla – 8 kohta

Komission teksti	Tarkistus
8. Ilmoittamisesta vastaavien viranomaisten on varmistettava, että vaatimustenmukaisuuden arvioinnit suoritetaan oikeasuhteisesti välttäen tarjoajille aiheutuvaa tarpeetonta rasitusta ja että ilmoitetut laitokset suorittavat tehtävänsä ottaen asianmukaisesti huomioon yrityksen koon, toimialan ja rakenteen sekä kyseisen tekoälyjärjestelmän monimutkaisuuden.	8. Ilmoittamisesta vastaavien viranomaisten on varmistettava, että vaatimustenmukaisuuden arvioinnit suoritetaan oikeasuhteisesti ja oikea-aikaisesti välttäen tarjoajille aiheutuvaa tarpeetonta rasitusta ja että ilmoitetut laitokset suorittavat tehtävänsä ottaen asianmukaisesti huomioon yrityksen koon, toimialan ja rakenteen sekä kyseisen tekoälyjärjestelmän monimutkaisuuden. Erityistä huomiota on kiinnitettävä komission suosituksessa 2003/361/EY määriteltyjen mikroyritysten sekä pienten ja keskisuurten yritysten hallinnollisen taakan ja säännösten noudattamisesta aiheutuvien kustannusten minimoimiseen.

Tarkistus  417

 

Ehdotus asetukseksi

32 artikla – 1 kohta

Komission teksti	Tarkistus
1. Ilmoittamisesta vastaavat viranomaiset voivat ilmoittaa ainoastaan sellaiset vaatimustenmukaisuuden arviointilaitokset, jotka ovat täyttäneet 33 artiklassa säädetyt vaatimukset.	1. Ilmoittamisesta vastaavien viranomaisten on ilmoitettava ainoastaan sellaiset vaatimustenmukaisuuden arviointilaitokset, jotka ovat täyttäneet 33 artiklassa säädetyt vaatimukset.

Tarkistus  418

 

Ehdotus asetukseksi

32 artikla – 2 kohta

Komission teksti	Tarkistus
2. Ilmoittamisesta vastaavien viranomaisten on tehtävä ilmoitus komissiolle ja muille jäsenvaltioille käyttäen komission kehittämää ja hallinnoimaa sähköistä ilmoitusvälinettä.	2. Ilmoittamisesta vastaavien viranomaisten on tehtävä kustakin 1 kohdassa tarkoitetusta vaatimustenmukaisuuden arviointilaitoksesta ilmoitus komissiolle ja muille jäsenvaltioille käyttäen komission kehittämää ja hallinnoimaa sähköistä ilmoitusvälinettä.

Tarkistus  419

 

Ehdotus asetukseksi

32 artikla – 3 kohta

Komission teksti	Tarkistus
3. Ilmoituksen on sisällettävä täydelliset tiedot vaatimustenmukaisuuden arviointitoimista, vaatimustenmukaisuuden arviointimoduulista tai -moduuleista ja asianomaisista tekoälyteknologioista.	3. Edellä 2 kohdassa tarkoitetun ilmoituksen on sisällettävä täydelliset tiedot vaatimustenmukaisuuden arviointitoimista, vaatimustenmukaisuuden arviointimoduulista tai -moduuleista ja asianomaisista tekoälyteknologioista sekä asiaankuuluva vahvistus pätevyydestä.

Tarkistus  420

 

Ehdotus asetukseksi

32 artikla – 4 kohta

Komission teksti	Tarkistus
4. Asianomainen vaatimustenmukaisuuden arviointilaitos voi suorittaa ilmoitetun laitoksen tehtäviä ainoastaan siinä tapauksessa, että komissio tai muut jäsenvaltiot eivät esitä vastalauseita yhden kuukauden kuluessa ilmoittamisesta.	4. Asianomainen vaatimustenmukaisuuden arviointilaitos voi suorittaa ilmoitetun laitoksen tehtäviä ainoastaan siinä tapauksessa, että komissio tai muut jäsenvaltiot eivät esitä vastalauseita kahden viikon kuluessa ilmoituksen validoinnista, kun ilmoitukseen on liitetty 31 artiklan 2 kohdassa tarkoitettu akkreditointitodistus, tai kahden kuukauden kuluessa ilmoituksesta, kun siihen on liitetty 31 artiklan 3 kohdassa tarkoitettuja asiakirjatodisteita.

Tarkistus  421

 

Ehdotus asetukseksi

32 artikla – 4 a kohta (uusi)

Komission teksti	Tarkistus
	4 a. Jos vastalauseita esitetään, komissio kuulee viipymättä asianomaisia jäsenvaltioita ja vaatimustenmukaisuuden arviointilaitosta. Komissio päättää kuulemisten perusteella, onko valtuutus perusteltu vai ei. Komissio osoittaa päätöksensä asianomaiselle jäsenvaltiolle sekä asianomaiselle vaatimustenmukaisuuden arviointilaitokselle.

Tarkistus  422

 

Ehdotus asetukseksi

32 artikla – 4 b kohta (uusi)

Komission teksti	Tarkistus
	4 b. Jäsenvaltioiden on ilmoitettava vaatimustenmukaisuuden arviointilaitokset komissiolle ja muille jäsenvaltioille.

Tarkistus  423

 

Ehdotus asetukseksi

33 artikla – 2 kohta

Komission teksti	Tarkistus
2. Ilmoitettujen laitosten on täytettävä organisaatiota, laadunhallintaa, resursseja ja prosessia koskevat vaatimukset, jotka ovat tarpeen niiden tehtävien suorittamiseksi.	2. Ilmoitettujen laitosten on täytettävä organisaatiota, laadunhallintaa, resursseja ja prosesseja koskevat vaatimukset, jotka ovat tarpeen niiden tehtävien suorittamiseksi, sekä kyberturvallisuutta koskevat vähimmäisvaatimukset, jotka asetetaan direktiivin (EU) 2022/2555 mukaisesti keskeisten palvelujen tarjoajiksi määritetyille julkishallinnon toimijoille.

Tarkistus  424

 

Ehdotus asetukseksi

33 artikla – 4 kohta

Komission teksti	Tarkistus
4. Ilmoitettujen laitosten on oltava riippumattomia sen suuririskisen tekoälyjärjestelmän tarjoajasta, jonka vaatimustenmukaisuutta ne arvioivat. Ilmoitettujen laitosten on oltava riippumattomia myös kaikista muista toimijoista, joilla on suuririskiseen tekoälyjärjestelmään liittyviä taloudellisia intressejä, sekä kaikista tarjoajan kilpailijoista.	4. Ilmoitettujen laitosten on oltava riippumattomia sen suuririskisen tekoälyjärjestelmän tarjoajasta, jonka vaatimustenmukaisuutta ne arvioivat. Ilmoitettujen laitosten on oltava riippumattomia myös kaikista muista toimijoista, joilla on suuririskiseen tekoälyjärjestelmään liittyviä taloudellisia intressejä, sekä kaikista tarjoajan kilpailijoista. Tämä ei sulje pois sellaisten arvioitujen tekoälyjärjestelmien käyttöä, jotka ovat vaatimustenmukaisuuden arviointilaitoksen toimien kannalta tarpeellisia, tai tällaisten järjestelmien käyttöä henkilökohtaisiin tarkoituksiin.

Tarkistus  425

 

Ehdotus asetukseksi

33 artikla – 4 a kohta (uusi)

Komission teksti	Tarkistus
	4 a. Edellä olevan 1 kohdan mukaisen vaatimustenmukaisuuden arvioinnin suorittavat sellaiset ilmoitettujen laitosten työntekijät, jotka eivät ole suorittaneet mitään muuta arvioitavaan asiaan liittyvää palvelua kuin vaatimustenmukaisuuden arviointi suuririskisen tekoälyjärjestelmän tarjoajalle tai mille tahansa kyseiseen tarjoajaan yhteydessä olevalle oikeushenkilölle arviointia edeltäneiden 12 kuukauden aikana ja jotka ovat sitoutuneet olemaan tarjoamatta niille tällaisia palveluja arvioinnin loppuun saattamista seuraavien 12 kuukauden aikana.

Tarkistus  426

 

Ehdotus asetukseksi

33 artikla – 6 kohta

Komission teksti	Tarkistus
6. Ilmoitetuilla laitoksilla on oltava käytössään dokumentoidut menettelyt, joilla varmistetaan, että niiden henkilöstö, asiantuntijaryhmät, tytäryhtiöt, alihankkijat ja niihin liittyvät tahot tai ulkoisten tahojen henkilöstö noudattavat luottamuksellisuutta sellaisten tietojen osalta, jotka ne saavat haltuunsa vaatimustenmukaisuuden arviointitoimien suorittamisen aikana, paitsi kun lainsäädännössä edellytetään tietojen luovuttamista. Ilmoitettujen laitosten henkilöstöllä on vaitiolovelvollisuus kaikkien niiden tietojen suhteen, joita ne saavat suorittaessaan tämän asetuksen mukaisia tehtäviään, paitsi sen jäsenvaltion ilmoittamisesta vastaaviin viranomaisiin nähden, jossa ne toimivat.	6. Ilmoitetuilla laitoksilla on oltava käytössään dokumentoidut menettelyt, joilla varmistetaan, että niiden henkilöstö, asiantuntijaryhmät, tytäryhtiöt, alihankkijat ja niihin liittyvät tahot tai ulkoisten tahojen henkilöstö noudattavat luottamuksellisuutta sellaisten tietojen osalta, jotka ne saavat haltuunsa vaatimustenmukaisuuden arviointitoimien suorittamisen aikana, paitsi kun lainsäädännössä edellytetään tietojen luovuttamista. Ilmoitettujen laitosten henkilöstöllä on vaitiolovelvollisuus kaikkien niiden tietojen suhteen, joita ne saavat suorittaessaan tämän asetuksen mukaisia tehtäviään, paitsi sen jäsenvaltion ilmoittamisesta vastaaviin viranomaisiin nähden, jossa ne toimivat. Kaikkea tietoa ja dokumentaatiota, jonka ilmoitetut laitokset saavat tämän artiklan säännösten mukaisesti, on käsiteltävä noudattaen 70 artiklassa säädettyjä luottamuksellisuutta koskevia velvoitteita.

Tarkistus  427

 

Ehdotus asetukseksi

34 artikla – 3 kohta

Komission teksti	Tarkistus
3. Toimia voidaan antaa alihankintaan tai teettää tytäryhtiöllä ainoastaan, jos siitä on sovittu tarjoajan kanssa.	3. Toimia voidaan antaa alihankintaan tai teettää tytäryhtiöllä ainoastaan, jos siitä on sovittu tarjoajan kanssa. Ilmoitettujen laitosten on asetettava julkisesti saataville luettelo tytäryhtiöistään.

Tarkistus  428

 

Ehdotus asetukseksi

34 artikla – 4 kohta

Komission teksti	Tarkistus
4. Ilmoitettujen laitosten on pidettävä ilmoittamisesta vastaavan viranomaisen saatavilla asiakirjat, jotka koskevat alihankkijan tai tytäryhtiön pätevyyden arviointia sekä työtä, jonka nämä ovat suorittaneet tämän asetuksen nojalla.	4. Ilmoitettujen laitosten on pidettävä ilmoittamisesta vastaavan viranomaisen saatavilla asiakirjat, jotka koskevat alihankkijan tai tytäryhtiön pätevyyden todentamista sekä työtä, jonka nämä ovat suorittaneet tämän asetuksen nojalla.

Tarkistus  429

 

Ehdotus asetukseksi

35 artikla – otsikko

Komission teksti	Tarkistus
Tämän asetuksen nojalla nimettyjen ilmoitettujen laitosten tunnusnumerot ja luettelot	Ilmoitettujen laitosten tunnusnumerot ja luettelot

Tarkistus  430

 

Ehdotus asetukseksi

36 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jos ilmoittamisesta vastaava viranomainen epäilee tai on saanut tietää, ettei ilmoitettu laitos enää täytä 33 artiklassa säädettyjä vaatimuksia tai ettei se täytä velvollisuuksiaan, kyseisen viranomaisen on tutkittava asia viipymättä ja perinpohjaisesti. Sen on tässä yhteydessä ilmoitettava asianomaiselle ilmoitetulle laitokselle esitetyistä väitteistä ja annettava sille mahdollisuus esittää näkemyksensä. Jos ilmoittamisesta vastaava viranomainen tulee johtopäätökseen, ettei tutkinnan kohteena oleva ilmoitettu laitos enää täytä 33 artiklassa säädettyjä vaatimuksia tai ettei se täytä velvollisuuksiaan, sen on laiminlyönnin vakavuudesta riippuen rajoitettava ilmoitusta taikka peruutettava se toistaiseksi tai kokonaan. Sen on myös ilmoitettava tästä viipymättä komissiolle ja muille jäsenvaltioille.	1. Jos ilmoittamisesta vastaava viranomainen epäilee tai on saanut tietää, ettei ilmoitettu laitos enää täytä 33 artiklassa säädettyjä vaatimuksia tai ettei se täytä velvollisuuksiaan, kyseisen viranomaisen on tutkittava asia viipymättä ja perinpohjaisesti. Sen on tässä yhteydessä ilmoitettava asianomaiselle ilmoitetulle laitokselle esitetyistä väitteistä ja annettava sille mahdollisuus esittää näkemyksensä. Jos ilmoittamisesta vastaava viranomainen tulee johtopäätökseen, ettei ilmoitettu laitos enää täytä 33 artiklassa säädettyjä vaatimuksia tai ettei se täytä velvollisuuksiaan, sen on laiminlyönnin vakavuudesta riippuen rajoitettava ilmoitusta taikka peruutettava se toistaiseksi tai kokonaan. Sen on myös ilmoitettava tästä viipymättä komissiolle ja muille jäsenvaltioille.

Tarkistus  431

 

Ehdotus asetukseksi

36 artikla – 2 kohta

Komission teksti	Tarkistus
2. Jos ilmoitusta rajoitetaan tai se peruutetaan toistaiseksi tai kokonaan tai jos ilmoitettu laitos on lopettanut toimintansa, ilmoittamisesta vastaavan viranomaisen on toteutettava asianmukaiset toimenpiteet varmistaakseen, että kyseisen ilmoitetun laitoksen asiakirja-aineistot joko ottaa nimiinsä toinen ilmoitettu laitos tai ne pidetään ilmoittamisesta vastaavan viranomaisen saatavilla sen pyynnöstä.	2. Jos ilmoitusta rajoitetaan tai se peruutetaan toistaiseksi tai kokonaan tai jos ilmoitettu laitos on lopettanut toimintansa, ilmoittamisesta vastaavan viranomaisen on toteutettava asianmukaiset toimenpiteet varmistaakseen, että kyseisen ilmoitetun laitoksen asiakirja-aineistot joko ottaa nimiinsä toinen ilmoitettu laitos tai ne pidetään ilmoittamisesta vastaavan viranomaisen ja markkinavalvontaviranomaisen saatavilla niiden pyynnöstä.

Tarkistus  432

 

Ehdotus asetukseksi

37 artikla – 1 kohta

Komission teksti	Tarkistus
1. Komissio tutkii tarvittaessa kaikki tapaukset, joissa on syytä epäillä, täyttääkö ilmoitettu laitos 33 artiklassa säädetyt vaatimukset.	1. Komissio tutkii tarvittaessa kaikki tapaukset, joissa on syytä epäillä laitoksen pätevyyttä tai sitä, täyttääkö ilmoitettu laitos edelleen sovellettavat vaatimukset ja velvollisuudet.

Tarkistus  433

 

Ehdotus asetukseksi

37 artikla – 2 kohta

Komission teksti	Tarkistus
2. Ilmoittamisesta vastaavan viranomaisen on toimitettava komissiolle pyynnöstä kaikki merkitykselliset tiedot, jotka koskevat kyseisen ilmoitetun laitoksen ilmoittamista.	2. Ilmoittamisesta vastaavan viranomaisen on toimitettava komissiolle pyynnöstä kaikki merkitykselliset tiedot, jotka koskevat kyseisen ilmoitetun laitoksen ilmoittamista tai sen pätevyyden ylläpitoa.

Tarkistus  434

 

Ehdotus asetukseksi

37 artikla – 3 kohta

Komission teksti	Tarkistus
3. Komissio varmistaa, että kaikkia sen tämän artiklan mukaisten tutkimusten yhteydessä saamia arkaluontoisia tietoja käsitellään luottamuksellisesti.	(Tarkistus ei vaikuta suomenkieliseen versioon.)

Tarkistus  435

 

Ehdotus asetukseksi

37 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jos komissio toteaa, että ilmoitettu laitos ei täytä tai ei enää täytä 33 artiklassa säädettyjä vaatimuksia, se tekee perustellun päätöksen, jossa se pyytää asiasta ilmoituksen tehnyttä jäsenvaltiota ryhtymään tarvittaviin korjaaviin toimenpiteisiin, mukaan luettuna ilmoituksen peruuttaminen tarvittaessa. Kyseinen täytäntöönpanosäädös hyväksytään 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen.	4. Jos komissio toteaa, että ilmoitettu laitos ei täytä tai ei enää täytä sen ilmoittamiselle asetettuja vaatimuksia, se ilmoittaa asiasta ilmoituksen tehneelle jäsenvaltiolle ja pyytää sitä ryhtymään tarvittaviin korjaaviin toimenpiteisiin, mukaan luettuna tarvittaessa ilmoituksen peruuttaminen toistaiseksi tai kokonaan. Mikäli jäsenvaltio ei toteuta tarvittavia korjaavia toimenpiteitä, komissio voi täytäntöönpanosäädöksellä peruuttaa nimeämisen toistaiseksi, rajoittaa sitä tai peruuttaa sen kokonaan. Kyseinen täytäntöönpanosäädös hyväksytään 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen.

Tarkistus  436

 

Ehdotus asetukseksi

38 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Komissio huolehtii osaamisen ja parhaiden käytäntöjen vaihdosta jäsenvaltioiden niiden kansallisten viranomaisten välillä, jotka vastaavat ilmoittamista koskevista toimintalinjoista.

 

Tarkistus  437

 

Ehdotus asetukseksi

40 artikla – 1 kohta

Komission teksti	Tarkistus
Suuririskisiä tekoälyjärjestelmiä, jotka ovat sellaisten yhdenmukaistettujen standardien tai niiden osien mukaisia, joiden viitetiedot on julkaistu Euroopan unionin virallisessa lehdessä, on pidettävä tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisina siltä osin kuin kyseiset standardit kattavat nämä vaatimukset.	Suuririskisiä tekoälyjärjestelmiä ja perusmalleja, jotka ovat sellaisten yhdenmukaistettujen standardien tai niiden osien mukaisia, joiden viitetiedot on julkaistu Euroopan unionin virallisessa lehdessä asetuksen (EU) 1025/2012 mukaisesti, on pidettävä tämän osaston 2 luvussa tai 28 b artiklassa vahvistettujen vaatimusten mukaisina siltä osin kuin kyseiset standardit kattavat nämä vaatimukset.

 

Tarkistus  438

 

Ehdotus asetukseksi

40 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Komissio esittää viimeistään ... päivänä ...kuuta ... [kahden kuukauden kuluttua tämän asetuksen voimaantulopäivästä] asetuksen (EU) N:o 1025/2012 10 artiklan mukaisesti standardointipyyntöjä, jotka kattavat kaikki tämän asetuksen vaatimukset. Standardointipyyntöä valmistellessaan komissio kuulee tekoälytoimistoa ja neuvoa-antavaa foorumia.

 

Tarkistus  439

 

Ehdotus asetukseksi

40 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	Esittäessään standardointipyynnön eurooppalaisille standardointiorganisaatioille komissio täsmentää, että standardien on oltava yhdenmukaisia, myös liitteessä II luetellun alakohtaisen lainsäädännön kanssa, ja niillä on pyrittävä varmistamaan, että unionissa markkinoille saatetut tai käyttöön otetut tekoälyjärjestelmät tai perusmallit täyttävät tässä asetuksessa säädetyt asiaankuuluvat vaatimukset.

 

Tarkistus  440

 

Ehdotus asetukseksi

40 artikla – 1 c kohta (uusi)

Komission teksti	Tarkistus
	Standardointiprosessiin osallistuvien toimijoiden on otettava huomioon 4 artiklan a alakohdassa vahvistetut luotettavan tekoälyn yleiset periaatteet, pyrittävä edistämään tekoälyalan investointeja ja innovointia sekä unionin markkinoiden kilpailukykyä ja kasvua sekä osaltaan edistettävä maailmanlaajuisen standardointiyhteistyön lujittamista ja otettava huomioon olemassa olevat tekoälyalan kansainväliset standardit, jotka ovat unionin arvojen, perusoikeuksien ja etujen mukaisia, ja varmistettava etujen tasapainoinen edustus ja kaikkien asiaankuuluvien sidosryhmien tosiasiallinen osallistuminen asetuksen (EU) N:o 1025/2012 5, 6 ja 7 artiklan mukaisesti.

 

Tarkistus  441

 

Ehdotus asetukseksi

41 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jos 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja ei ole tai jos komissio katsoo, että asiaa koskevat yhdenmukaistetut standardit ovat riittämättömiä tai että on tarpeen puuttua erityisiin turvallisuutta tai perusoikeuksia koskeviin huolenaiheisiin, komissio voi hyväksyä täytäntöönpanosäädöksillä tämän osaston 2 luvussa vahvistettuja vaatimuksia koskevia yhteisiä eritelmiä. Nämä täytäntöönpanosäädökset hyväksytään 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen.	Poistetaan.

 

Tarkistus  442

 

Ehdotus asetukseksi

41 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Komissio voi hyväksyä täytäntöönpanosäädöksellä 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen ja tekoälytoimistoa ja tekoälyä käsittelevää neuvoa-antavaa foorumia kuultuaan tämän osaston 2 luvussa tai 28 b artiklassa vahvistettuja vaatimuksia koskevia yhteisiä eritelmiä, jos kaikki seuraavat edellytykset täyttyvät:
	(a) Euroopan unionin virallisessa lehdessä ei ole jo julkaistu olennaiseen vaatimukseen tai olennaisiin vaatimuksiin liittyvien yhdenmukaistettujen standardien viitetietoja, paitsi jos kyseinen yhdenmukaistettu standardi on voimassa oleva standardi, jota on tarkistettava;
	(b) komissio on pyytänyt yhtä tai useampaa eurooppalaista standardointiorganisaatiota laatimaan 2 luvussa säädettyä olennaista vaatimusta tai säädettyjä olennaisia vaatimuksia koskevan yhdenmukaistetun standardin;
	(c) yksikään eurooppalainen standardointiorganisaatio ei ole hyväksynyt b alakohdassa tarkoitettua pyyntöä tai asianmukaisen yhdenmukaistetun standardin vahvistaminen viivästyy aiheettomasti tai annettu standardi ei täytä asiaa koskevan unionin lainsäädännön vaatimuksia tai se ei ole komission pyynnön mukainen.

 

Tarkistus  443

 

Ehdotus asetukseksi

41 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	1 b. Jos komissio pitää tarpeellisena käsitellä erityisiä perusoikeuksiin liittyviä huolenaiheita, komission 1 a kohdan mukaisesti hyväksymissä yhteisissä eritelmissä on käsiteltävä myös näitä erityisiä perusoikeuksiin liittyviä huolenaiheita.

 

Tarkistus  444

 

Ehdotus asetukseksi

41 artikla – 1 c kohta (uusi)

Komission teksti	Tarkistus
	1 c. Komissio laatii yhteiset eritelmät menetelmille, joilla täytetään vaatimus raportoida energian ja luonnonvarojen kulutuksesta suuririskisen tekoälyjärjestelmän kehittämisen, koulutuksen ja käyttöönoton aikana ja dokumentoida tämä kulutus.

 

Tarkistus  445

 

Ehdotus asetukseksi

41 artikla – 2 kohta

Komission teksti	Tarkistus
2. Komissio kerää 1 kohdassa tarkoitettuja yhteisiä eritelmiä laatiessaan asiaa koskevan alakohtaisen unionin lainsäädännön mukaisesti perustettujen asiaankuuluvien elinten tai asiantuntijaryhmien näkemykset.	2. Komissio kuulee koko 1 a ja 1 b kohdassa tarkoitettujen yhteisten eritelmien laatimisprosessin ajan säännöllisesti tekoälytoimistoa ja neuvoa-antavaa foorumia, eurooppalaisia standardointiorganisaatioita ja asiaa koskevan alakohtaisen unionin lainsäädännön mukaisesti perustettuja elimiä tai asiantuntijaryhmiä sekä muita asiaankuuluvia sidosryhmiä. Komissio täyttää 40 artiklan 1 c kohdassa tarkoitetut tavoitteet ja perustelee asianmukaisesti, miksi se päätti käyttää yhteisiä eritelmiä.
	Jos komissio aikoo hyväksyä yhteisiä eritelmiä tämän artiklan 1 a kohdan mukaisesti, se myös yksilöi selkeästi käsiteltävät erityiset perusoikeuksiin liittyvät huolenaiheet.
	Hyväksyessään yhteisiä eritelmiä tämän artiklan 1 a ja 1 b kohdan mukaisesti komissio ottaa huomioon tämän asetuksen 56 e artiklan b alakohdassa tarkoitetun tekoälytoimiston antaman lausunnon. Jos komissio päättää olla noudattamatta tekoälytoimiston lausuntoa, se antaa tekoälytoimistolle perustellun selityksen.

 

Tarkistus  446

 

Ehdotus asetukseksi

41 artikla – 3 kohta

Komission teksti	Tarkistus
3. Suuririskisiä tekoälyjärjestelmiä, jotka ovat 1 kohdassa tarkoitettujen yhteisten eritelmien mukaisia, on pidettävä tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisina siltä osin kuin kyseiset yhteiset eritelmät kattavat nämä vaatimukset.	3. Suuririskisiä tekoälyjärjestelmiä, jotka ovat 1 a ja 1 b kohdassa tarkoitettujen yhteisten eritelmien mukaisia, on pidettävä tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisina siltä osin kuin kyseiset yhteiset eritelmät kattavat nämä vaatimukset.

 

Tarkistus  447

 

Ehdotus asetukseksi

41 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Jos eurooppalainen standardointiorganisaatio vahvistaa yhdenmukaistetun standardin ja ehdottaa komissiolle sen viitetietojen julkaisemista Euroopan unionin virallisessa lehdessä, komissio arvioi yhdenmukaistetun standardin asetuksen (EU) N:o 1025/2012 mukaisesti. Kun yhdenmukaistetun standardin viitetiedot julkaistaan Euroopan unionin virallisessa lehdessä, komissio kumoaa 1 ja 1 b kohdassa tarkoitetut säädökset tai niiden osat, jotka kattavat samat tämän osaston 2 luvussa vahvistetut vaatimukset.

 

Tarkistus  448

 

Ehdotus asetukseksi

41 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jos tarjoajat eivät noudata 1 kohdassa tarkoitettuja yhteisiä eritelmiä, niiden on perusteltava asianmukaisesti, että ne ovat ottaneet käyttöön vähintään vastaavia teknisiä ratkaisuja.	4. Jos suuririskisten tekoälyjärjestelmien tarjoajat eivät noudata 1 kohdassa tarkoitettuja yhteisiä eritelmiä, niiden on perusteltava asianmukaisesti, että ne ovat ottaneet käyttöön 2 luvussa vahvistetut vaatimukset täyttäviä, vähintään vastaavan tasoisia teknisiä ratkaisuja.

 

Tarkistus  449

 

Ehdotus asetukseksi

42 artikla – 1 kohta

Komission teksti	Tarkistus
1. Ottaen huomioon niiden käyttötarkoitus, suuririskisten tekoälyjärjestelmien, jotka on koulutettu ja testattu datalla, joka koskee erityistä maantieteellistä, käyttäytymiseen liittyvää ja toiminnallista ympäristöä, jossa järjestelmiä on tarkoitus käyttää, on katsottava täyttävän 10 artiklan 4 kohdassa vahvistetut vaatimukset.	1. Ottaen huomioon niiden käyttötarkoitus, suuririskisten tekoälyjärjestelmien, jotka on koulutettu ja testattu datalla, joka koskee erityistä maantieteellistä, käyttäytymiseen liittyvää, viitekehyksenä olevaa ja toiminnallista ympäristöä, jossa järjestelmiä on tarkoitus käyttää, on katsottava täyttävän asiaankuuluvat 10 artiklan 4 kohdassa vahvistetut vaatimukset.

 

Tarkistus  450

 

Ehdotus asetukseksi

43 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Kun tarjoaja on liitteessä III olevassa 1 kohdassa lueteltujen suuririskisten tekoälyjärjestelmien osalta soveltanut 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja tai mahdollisuuksien mukaan 41 artiklassa tarkoitettuja yhteisiä eritelmiä osoittaakseen, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, tarjoajan on noudatettava jompaakumpaa seuraavista menettelyistä:	1. Kun tarjoaja on liitteessä III olevassa 1 kohdassa lueteltujen suuririskisten tekoälyjärjestelmien osalta soveltanut 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja tai mahdollisuuksien mukaan 41 artiklassa tarkoitettuja yhteisiä eritelmiä osoittaakseen, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, tarjoajan on valittava jompikumpi seuraavista menettelyistä:

 

Tarkistus  451

 

Ehdotus asetukseksi

43 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) liitteessä VI tarkoitettu sisäiseen valvontaan perustuva vaatimustenmukaisuuden arviointimenettely;	(a) liitteessä VI tarkoitettu sisäiseen valvontaan perustuva vaatimustenmukaisuuden arviointimenettely; tai

 

Tarkistus  452

 

Ehdotus asetukseksi

43 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) liitteessä VII tarkoitettu laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuva vaatimustenmukaisuuden arviointimenettely, johon osallistuu ilmoitettu laitos.	(Tarkistus ei vaikuta suomenkieliseen versioon.)

 

Tarkistus  453

 

Ehdotus asetukseksi

43 artikla – 1 kohta – 1 alakohta

Komission teksti	Tarkistus
Jos tarjoaja ei ole soveltanut 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja tai on soveltanut niitä vain osittain osoittaakseen, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, tai jos tällaisia yhdenmukaistettuja standardeja ei ole eikä 41 artiklassa tarkoitettuja yhteisiä eritelmiä ole saatavilla, tarjoajan on noudatettava liitteessä VII vahvistettua vaatimustenmukaisuuden arviointimenettelyä.	Osoittaessaan, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen, tarjoajan on noudatettava liitteessä VII vahvistettua vaatimustenmukaisuuden arviointimenettelyä seuraavissa tapauksissa:
	(a) jos sellaisia 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja, joiden viitenumero on julkaistu Euroopan unionin virallisessa lehdessä ja jotka kattavat kaikki tekoälyjärjestelmän asiaankuuluvat turvallisuusvaatimukset, ei ole eikä 41 artiklassa tarkoitettuja yhteisiä eritelmiä ole saatavilla;
	(b) jos a alakohdassa tarkoitettuja teknisiä eritelmiä on olemassa, mutta tarjoaja ei ole soveltanut niitä tai on soveltanut niitä ainoastaan osittain;
	(c) jos yksi tai useampi a alakohdassa tarkoitetuista teknisistä eritelmistä on julkaistu rajoitetusti ja vain standardin siltä osin, jota rajoitus koskee;
	(d) jos tarjoaja katsoo tekoälyjärjestelmän luonteen, suunnittelun, rakenteen tai tarkoituksen edellyttävän kolmannen osapuolen suorittamaa tarkastusta riippumatta järjestelmän riskitasosta.

 

Tarkistus  454

 

Ehdotus asetukseksi

43 artikla – 1 kohta – 2 alakohta

Komission teksti	Tarkistus
Tarjoaja voi valita minkä tahansa ilmoitetuista laitoksista liitteessä VII tarkoitettua vaatimustenmukaisuuden arviointimenettelyä varten. Kuitenkin jos lainvalvonta-, maahanmuutto- tai turvapaikkaviranomaisten sekä EU:n toimielinten, elinten tai virastojen on tarkoitus ottaa järjestelmä käyttöön, ilmoitettuna laitoksena toimii tapauksen mukaan 63 artiklan 5 tai 6 kohdassa tarkoitettu markkinavalvontaviranomainen.	Tarjoaja voi valita minkä tahansa ilmoitetuista laitoksista liitteessä VII tarkoitetun vaatimustenmukaisuuden arviointimenettelyn suorittamista varten. Kuitenkin jos lainvalvonta-, maahanmuutto- tai turvapaikkaviranomaisten sekä EU:n toimielinten, elinten tai virastojen on tarkoitus ottaa järjestelmä käyttöön, ilmoitettuna laitoksena toimii tapauksen mukaan 63 artiklan 5 tai 6 kohdassa tarkoitettu markkinavalvontaviranomainen.

 

Tarkistus  455

 

Ehdotus asetukseksi

43 artikla – 4 kohta – johdantokappale

Komission teksti	Tarkistus
4. Suuririskisille tekoälyjärjestelmille on tehtävä uusi vaatimustenmukaisuuden arviointimenettely aina, kun niitä muutetaan merkittävästi, riippumatta siitä, onko muutettua järjestelmää tarkoitus jaella edelleen vai jatkaako nykyinen käyttäjä sen käyttöä.	4. Suuririskisille tekoälyjärjestelmille, joille on jo tehty vaatimustenmukaisuuden arviointimenettely, on tehtävä uusi vaatimustenmukaisuuden arviointimenettely aina, kun niitä muutetaan merkittävästi, riippumatta siitä, onko muutettua järjestelmää tarkoitus jaella edelleen vai jatkaako nykyinen käyttöönottaja sen käyttöä.

 

Tarkistus  456

 

Ehdotus asetukseksi

43 artikla – 4 a kohta (uusi)

Komission teksti	Tarkistus
	4 a. Pk-yritysten erityisedut ja -tarpeet on otettava huomioon, kun vahvistetaan tämän artiklan mukaisesta kolmannen osapuolen suorittamasta vaatimustenmukaisuuden arvioinnista perittäviä maksuja, alentamalla näitä maksuja suhteessa yritysten kokoon ja markkinaosuuteen.

Tarkistus  457

 

Ehdotus asetukseksi

43 artikla – 5 kohta

Komission teksti	Tarkistus
5. Siirretään komissiolle valta antaa delegoituja säädöksiä 73 artiklan mukaisesti liitteiden VI ja VII saattamiseksi ajan tasalle, jotta voidaan ottaa käyttöön vaatimustenmukaisuuden arviointimenettelyjen osia, jotka ovat tarpeen tekniikan kehityksen huomioon ottamiseksi.	5. Siirretään komissiolle valta antaa delegoituja säädöksiä 73 artiklan mukaisesti liitteiden VI ja VII saattamiseksi ajan tasalle, jotta voidaan ottaa käyttöön vaatimustenmukaisuuden arviointimenettelyjen osia, jotka ovat tarpeen tekniikan kehityksen huomioon ottamiseksi. Tällaisia delegoituja säädöksiä valmistellessaan komissio kuulee tekoälytoimistoa ja sidosryhmiä, joita asia koskee.

Tarkistus  458

 

Ehdotus asetukseksi

43 artikla – 6 kohta

Komission teksti	Tarkistus
6. Siirretään komissiolle valta antaa delegoituja säädöksiä 1 ja 2 kohdan muuttamiseksi, jotta liitteessä III olevassa 2–8 kohdassa tarkoitettuihin suuririskisiin tekoälyjärjestelmiin voidaan soveltaa liitteessä VII tarkoitettua vaatimustenmukaisuuden arviointimenettelyä tai sen osia. Komissio ottaa tällaisia delegoituja säädöksiä hyväksyessään huomioon liitteessä VI tarkoitetun sisäiseen valvontaan perustuvan vaatimustenmukaisuuden arviointimenettelyn tehokkuuden tällaisista järjestelmistä terveydelle ja turvallisuudelle sekä perusoikeuksien suojelulle aiheutuvien riskien ehkäisemisessä tai minimoimisessa sekä riittävien valmiuksien ja resurssien saatavuuden ilmoitetuissa laitoksissa.	6. Siirretään komissiolle valta antaa delegoituja säädöksiä 1 ja 2 kohdan muuttamiseksi, jotta liitteessä III olevassa 2–8 kohdassa tarkoitettuihin suuririskisiin tekoälyjärjestelmiin voidaan soveltaa liitteessä VII tarkoitettua vaatimustenmukaisuuden arviointimenettelyä tai sen osia. Komissio ottaa tällaisia delegoituja säädöksiä hyväksyessään huomioon liitteessä VI tarkoitetun sisäiseen valvontaan perustuvan vaatimustenmukaisuuden arviointimenettelyn tehokkuuden tällaisista järjestelmistä terveydelle ja turvallisuudelle sekä perusoikeuksien suojelulle aiheutuvien riskien ehkäisemisessä tai minimoimisessa sekä riittävien valmiuksien ja resurssien saatavuuden ilmoitetuissa laitoksissa. Tällaisia delegoituja säädöksiä valmistellessaan komissio kuulee tekoälytoimistoa ja sidosryhmiä, joita asia koskee.

Tarkistus  459

 

Ehdotus asetukseksi

44 artikla – 1 kohta

Komission teksti	Tarkistus
1. Ilmoitettujen laitosten liitteen VII mukaisesti antamien todistusten on oltava laadittu sen jäsenvaltion määrittelemällä unionin virallisella kielellä, johon ilmoitettu laitos on sijoittautunut, tai ilmoitetun laitoksen muutoin hyväksymällä unionin virallisella kielellä.	1. Ilmoitettujen laitosten liitteen VII mukaisesti antamien todistusten on oltava laadittu sen jäsenvaltion määrittelemällä yhdellä tai useammalla unionin virallisella kielellä, johon ilmoitettu laitos on sijoittautunut, tai ilmoitetun laitoksen muutoin hyväksymällä yhdellä tai useammalla unionin virallisella kielellä.

Tarkistus  460

 

Ehdotus asetukseksi

44 artikla – 2 kohta

Komission teksti	Tarkistus
2. Todistusten on oltava voimassa niissä ilmoitetun ajanjakson ajan, joka saa olla enintään viisi vuotta. Tarjoajan hakemuksesta todistuksen voimassaoloa voidaan jatkaa uusilla, enintään viiden vuoden pituisilla jaksoilla uudelleenarvioinnin perusteella, joka suoritetaan sovellettavien vaatimustenmukaisuuden arviointimenettelyjen mukaisesti.	2. Todistusten on oltava voimassa niissä ilmoitetun ajanjakson ajan, joka saa olla enintään neljä vuotta. Tarjoajan hakemuksesta todistuksen voimassaoloa voidaan jatkaa uusilla, enintään neljän vuoden pituisilla jaksoilla uudelleenarvioinnin perusteella, joka suoritetaan sovellettavien vaatimustenmukaisuuden arviointimenettelyjen mukaisesti.

Tarkistus  461

 

Ehdotus asetukseksi

44 artikla – 3 kohta

Komission teksti	Tarkistus
3. Jos ilmoitettu laitos toteaa, ettei suuririskinen tekoälyjärjestelmä enää täytä tämän osaston 2 luvussa vahvistettuja vaatimuksia, sen on suhteellisuusperiaate huomioon ottaen peruutettava todistus määräaikaisesti tai kokonaan tai asetettava sille rajoituksia, jollei kyseisten vaatimusten noudattamista ole varmistettu siten, että tarjoaja toteuttaa asianmukaiset korjaavat toimenpiteet ilmoitetun laitoksen asettamassa asianmukaisessa määräajassa. Ilmoitetun laitoksen on perusteltava päätöksensä.	3. Jos ilmoitettu laitos toteaa, ettei suuririskinen tekoälyjärjestelmä enää täytä tämän osaston 2 luvussa vahvistettuja vaatimuksia, sen on peruutettava todistus määräaikaisesti tai kokonaan tai asetettava sille rajoituksia, jollei kyseisten vaatimusten noudattamista ole varmistettu siten, että tarjoaja toteuttaa asianmukaiset korjaavat toimenpiteet ilmoitetun laitoksen asettamassa asianmukaisessa määräajassa. Ilmoitetun laitoksen on perusteltava päätöksensä.

Tarkistus  462

 

Ehdotus asetukseksi

45 artikla – 1 kohta

Komission teksti	Tarkistus
Jäsenvaltioiden on varmistettava, että ilmoitettujen laitosten päätöksiä koskeva muutoksenhakumenettely on niiden osapuolten käytettävissä, joiden oikeutettua etua päätös koskee.	Jäsenvaltioiden on varmistettava, että ilmoitettujen laitosten päätöksiä, myös annettuja vaatimuksenmukaisuustodistuksia, koskeva muutoksenhakumenettely on niiden osapuolten käytettävissä, joiden oikeutettua etua päätös koskee.

Tarkistus  463

 

Ehdotus asetukseksi

46 artikla – 3 kohta

Komission teksti	Tarkistus
3. Kunkin ilmoitetun laitoksen on toimitettava muille ilmoitetuille laitoksille, jotka suorittavat samanlaisia, samat tekoälyteknologiat kattavia vaatimustenmukaisuuden arviointitoimia, asiaankuuluvat tiedot seikoista, jotka liittyvät vaatimustenmukaisuuden arvioinnin kielteisiin tuloksiin ja pyynnöstä myös myönteisiin tuloksiin.	3. Kunkin ilmoitetun laitoksen on toimitettava muille ilmoitetuille laitoksille, jotka suorittavat samanlaisia vaatimustenmukaisuuden arviointitoimia, asiaankuuluvat tiedot seikoista, jotka liittyvät vaatimustenmukaisuuden arvioinnin kielteisiin tuloksiin ja pyynnöstä myös myönteisiin tuloksiin.

Tarkistus  464

 

Ehdotus asetukseksi

47 artikla – 1 kohta

Komission teksti	Tarkistus
1. Poiketen siitä, mitä 43 artiklassa säädetään, mikä tahansa markkinavalvontaviranomainen voi antaa luvan tiettyjen suuririskisten tekoälyjärjestelmien markkinoille saattamiseen tai käyttöönottoon asianomaisen jäsenvaltion alueella poikkeuksellisista yleiseen turvallisuuteen tai ihmisten elämän ja terveyden suojeluun, ympäristönsuojeluun sekä keskeisten teollisten resurssien ja infrastruktuurien suojaamiseen liittyvistä syistä. Lupa on voimassa tarvittavien vaatimustenmukaisuuden arviointimenettelyjen suorittamisen ajan, ja sen voimassaolo päättyy, kun kyseiset menettelyt on saatettu päätökseen. Nämä menettelyt on saatettava päätökseen ilman aiheetonta viivytystä.	1. Poiketen siitä, mitä 43 artiklassa säädetään, mikä tahansa kansallinen valvontaviranomainen voi pyytää, että oikeusviranomainen antaa luvan tiettyjen suuririskisten tekoälyjärjestelmien markkinoille saattamiseen tai käyttöönottoon asianomaisen jäsenvaltion alueella poikkeuksellisista ihmisten elämän ja terveyden suojeluun, ympäristönsuojeluun sekä kriittisen infrastruktuurin suojaamiseen liittyvistä syistä. Lupa on voimassa tarvittavien vaatimustenmukaisuuden arviointimenettelyjen suorittamisen ajan, ja sen voimassaolo päättyy, kun kyseiset menettelyt on saatettu päätökseen. Nämä menettelyt on saatettava päätökseen ilman aiheetonta viivytystä.

Tarkistus  465

 

Ehdotus asetukseksi

47 artikla – 2 kohta

Komission teksti	Tarkistus
2. Edellä 1 kohdassa tarkoitettu lupa voidaan myöntää ainoastaan, jos markkinavalvontaviranomainen toteaa, että suuririskinen tekoälyjärjestelmä täyttää tämän osaston 2 luvun vaatimukset. Markkinavalvontaviranomaisen on ilmoitettava komissiolle ja muille jäsenvaltioille 1 kohdan mukaisesti annetuista luvista.	2. Edellä 1 kohdassa tarkoitettu lupa voidaan myöntää ainoastaan, jos kansallinen valvontaviranomainen ja oikeusviranomainen toteavat, että suuririskinen tekoälyjärjestelmä täyttää tämän osaston 2 luvun vaatimukset. Kansallisen valvontaviranomaisen on ilmoitettava komissiolle, tekoälytoimistolle ja muille jäsenvaltioille 1 kohdan mukaisesti tehdyistä pyynnöistä ja niiden perusteella annetuista luvista.

Tarkistus  466

 

Ehdotus asetukseksi

47 artikla – 3 kohta

Komission teksti	Tarkistus
3. Jos mikään jäsenvaltio tai komissio ei ole 15 kalenteripäivän kuluessa 2 kohdassa tarkoitetun ilmoituksen vastaanottamisesta esittänyt vastalausetta jäsenvaltion markkinavalvontaviranomaisen 1 kohdan mukaisesti antamasta luvasta, luvan katsotaan olevan perusteltu.	3. Jos mikään jäsenvaltio tai komissio ei ole 15 kalenteripäivän kuluessa 2 kohdassa tarkoitetun ilmoituksen vastaanottamisesta esittänyt vastalausetta kansallisen valvontaviranomaisen 1 kohdan mukaisesti jäsenvaltion oikeusviranomaiselle esittämästä lupapyynnöstä, luvan katsotaan olevan perusteltu.

Tarkistus  467

 

Ehdotus asetukseksi

47 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jos 15 kalenteripäivän kuluessa 2 kohdassa tarkoitetun ilmoituksen vastaanottamisesta jokin jäsenvaltio esittää vastalauseita toisen jäsenvaltion markkinavalvontaviranomaisen antamasta luvasta tai jos komissio katsoo, että lupa on unionin lainsäädännön vastainen tai että 2 kohdassa tarkoitettu järjestelmän vaatimustenmukaisuutta koskeva jäsenvaltioiden päätelmä on perusteeton, komissio aloittaa viipymättä asianomaisen jäsenvaltion kuulemisen; asianomaisia toimijoita on kuultava, ja niillä on oltava mahdollisuus esittää näkemyksensä. Komissio päättää kuulemisten perusteella, onko lupa perusteltu vai ei. Komissio osoittaa päätöksensä asianomaiselle jäsenvaltiolle sekä asianomaisille toimijoille.	4. Jos 15 kalenteripäivän kuluessa 2 kohdassa tarkoitetun ilmoituksen vastaanottamisesta jokin jäsenvaltio esittää vastalauseita toisen jäsenvaltion kansallisen valvontaviranomaisen esittämästä pyynnöstä tai jos komissio katsoo, että lupa on unionin lainsäädännön vastainen tai että 2 kohdassa tarkoitettu järjestelmän vaatimustenmukaisuutta koskeva jäsenvaltioiden päätelmä on perusteeton, komissio aloittaa viipymättä asianomaisen jäsenvaltion ja tekoälytoimiston kuulemisen; asianomaisia toimijoita on kuultava, ja niillä on oltava mahdollisuus esittää näkemyksensä. Komissio päättää kuulemisten perusteella, onko lupa perusteltu vai ei. Komissio osoittaa päätöksensä asianomaiselle jäsenvaltiolle sekä asianomaiselle toimijalle tai asianomaisille toimijoille.

Tarkistus  468

 

Ehdotus asetukseksi

47 artikla – 5 kohta

Komission teksti	Tarkistus
5. Jos lupa katsotaan perusteettomaksi, asianomaisen jäsenvaltion markkinavalvontaviranomaisen on peruutettava se.	5. Jos lupa katsotaan perusteettomaksi, asianomaisen jäsenvaltion kansallisen valvontaviranomaisen on peruutettava se.

Tarkistus  469

 

Ehdotus asetukseksi

48 artikla – 1 kohta

Komission teksti	Tarkistus
1. Tarjoajan on laadittava kirjallinen EU-vaatimustenmukaisuusvakuutus kullekin tekoälyjärjestelmälle ja pidettävä se kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun tekoälyjärjestelmä on saatettu markkinoille tai otettu käyttöön. EU-vaatimustenmukaisuusvakuutuksessa on yksilöitävä tekoälyjärjestelmä, jota varten se on laadittu. Jäljennös EU-vaatimustenmukaisuusvakuutuksesta on pyynnöstä annettava asiaankuuluville kansallisille toimivaltaisille viranomaisille.	1. Tarjoajan on laadittava kirjallinen koneluettava, fyysisessä tai sähköisessä muodossa oleva EU-vaatimustenmukaisuusvakuutus kullekin suuririskiselle tekoälyjärjestelmälle ja pidettävä se kansallisen valvontaviranomaisen ja kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun suuririskinen tekoälyjärjestelmä on saatettu markkinoille tai otettu käyttöön. Jäljennös EU-vaatimustenmukaisuusvakuutuksesta on pyynnöstä toimitettava kansalliselle valvontaviranomaiselle ja asiaankuuluville kansallisille toimivaltaisille viranomaisille.

Tarkistus  470

 

Ehdotus asetukseksi

48 artikla – 2 kohta

Komission teksti	Tarkistus
2. EU-vaatimustenmukaisuusvakuutuksessa on ilmoitettava, että kyseinen suuririskinen tekoälyjärjestelmä täyttää tämän osaston 2 luvussa vahvistetut vaatimukset. EU-vaatimustenmukaisuusvakuutuksen on sisällettävä liitteessä V esitetyt tiedot, ja se on käännettävä jollekin sen jäsenvaltion edellyttämälle unionin viralliselle kielelle tai virallisille kielille, jossa suuririskinen tekoälyjärjestelmä asetetaan saataville.	2. EU-vaatimustenmukaisuusvakuutuksessa on ilmoitettava, että kyseinen suuririskinen tekoälyjärjestelmä täyttää tämän osaston 2 luvussa vahvistetut vaatimukset. EU-vaatimustenmukaisuusvakuutuksen on sisällettävä liitteessä V esitetyt tiedot, ja se on käännettävä jollekin sen jäsenvaltion edellyttämälle unionin viralliselle kielelle tai virallisille kielille, jossa suuririskinen tekoälyjärjestelmä saatetaan markkinoille tai asetetaan saataville.

Tarkistus  471

 

Ehdotus asetukseksi

48 artikla – 3 kohta

Komission teksti	Tarkistus
3. Jos suuririskisiin tekoälyjärjestelmiin sovelletaan muuta unionin yhdenmukaistamislainsäädäntöä, jossa myös edellytetään EU-vaatimustenmukaisuusvakuutusta, kaikkien suuririskiseen tekoälyjärjestelmään sovellettavien unionin säädösten osalta on laadittava yksi ainoa EU-vaatimustenmukaisuusvakuutus. Kyseisen vaatimustenmukaisuusvakuutuksen on sisällettävä kaikki tiedot, jotka vaaditaan sen unionin yhdenmukaistamislainsäädännön määrittämiseksi, johon kyseinen vaatimustenmukaisuusvakuutus liittyy.	3. Jos suuririskisiin tekoälyjärjestelmiin sovelletaan muuta unionin yhdenmukaistamislainsäädäntöä, jossa myös edellytetään EU-vaatimustenmukaisuusvakuutusta, kaikkien suuririskiseen tekoälyjärjestelmään sovellettavien unionin säädösten osalta voidaan laatia yksi ainoa EU-vaatimustenmukaisuusvakuutus. Kyseisen vaatimustenmukaisuusvakuutuksen on sisällettävä kaikki tiedot, jotka vaaditaan sen unionin yhdenmukaistamislainsäädännön määrittämiseksi, johon kyseinen vaatimustenmukaisuusvakuutus liittyy.

Tarkistus  472

 

Ehdotus asetukseksi

48 artikla – 5 kohta

Komission teksti	Tarkistus
5. Siirretään komissiolle valta antaa delegoituja säädöksiä 73 artiklan mukaisesti liitteessä V vahvistetun EU-vaatimustenmukaisuusvakuutuksen sisällön päivittämiseksi, jotta siihen voidaan lisätä osatekijöitä, jotka ovat tarpeen tekniikan kehityksen huomioon ottamiseksi.	5. Siirretään komissiolle valta antaa tekoälytoimiston kuulemisen jälkeen delegoituja säädöksiä 73 artiklan mukaisesti liitteessä V vahvistetun EU-vaatimustenmukaisuusvakuutuksen sisällön päivittämiseksi, jotta siihen voidaan lisätä osatekijöitä, jotka ovat tarpeen tekniikan kehityksen huomioon ottamiseksi.

Tarkistus  473

 

Ehdotus asetukseksi

49 artikla – 1 kohta

Komission teksti	Tarkistus
1. CE-merkintä on kiinnitettävä suuririskisiin tekoälyjärjestelmiin näkyvästi, helposti luettavasti ja pysyvästi. Jos tämä ei ole suuririskisen tekoälyjärjestelmän luonteen vuoksi mahdollista tai perusteltua, merkintä on kiinnitettävä pakkaukseen ja tarvittaessa mukana seuraavaan dokumentaatioon.	1. Fyysinen CE-merkintä on kiinnitettävä suuririskisiin tekoälyjärjestelmiin näkyvästi, helposti luettavasti ja pysyvästi ennen kuin suuririskinen tekoälyjärjestelmä saatetaan markkinoille. Jos tämä ei ole suuririskisen tekoälyjärjestelmän luonteen vuoksi mahdollista tai perusteltua, merkintä on kiinnitettävä pakkaukseen ja tarvittaessa mukana seuraavaan dokumentaatioon. Sen yhteyteen voidaan liittää kuvasymboli tai muu erityisestä käyttöön liittyvästä riskistä varoittava merkki.

Tarkistus  474

 

Ehdotus asetukseksi

49 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Pelkästään digitaalisessa muodossa olevissa suuririskisissä tekoälyjärjestelmissä on käytettävä digitaalista CE-merkintää vain, jos siihen pääsee helposti tekoälyjärjestelmän käyttöliittymän kautta tai helposti saatavilla olevan koneluettavan koodin tai muun sähköisen välineen avulla.

Tarkistus  475

 

Ehdotus asetukseksi

49 artikla – 3 kohta

Komission teksti	Tarkistus
3. CE-merkinnän yhteyteen on tarvittaessa liitettävä 43 artiklassa säädetyistä vaatimustenmukaisuusmenettelyistä vastuussa olevan ilmoitetun laitoksen tunnusnumero. Tunnusnumero on ilmoitettava myös kaikessa markkinointimateriaalissa, jossa mainitaan suuririskisen tekoälyjärjestelmän täyttävän CE-merkintää koskevat vaatimukset.	3. CE-merkinnän yhteyteen on tarvittaessa liitettävä 43 artiklassa säädetyistä vaatimustenmukaisuusmenettelyistä vastuussa olevan ilmoitetun laitoksen tunnusnumero. Ilmoitetun laitoksen tunnusnumeron kiinnittää laitos itse tai sen antamien ohjeiden mukaisesti tarjoajan valtuutettu edustaja. Tunnusnumero on ilmoitettava myös kaikessa markkinointimateriaalissa, jossa mainitaan suuririskisen tekoälyjärjestelmän täyttävän CE-merkintää koskevat vaatimukset.

Tarkistus  476

 

Ehdotus asetukseksi

49 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Jos suuririskiset tekoälyjärjestelmät kuuluvat sellaisen muun unionin lainsäädännön soveltamisalaan, jossa myös säädetään CE-merkinnän kiinnittämisestä, CE-merkintä osoittaa, että suuririskinen tekoälyjärjestelmä täyttää myös kyseisessä muussa lainsäädännössä vahvistetut vaatimukset.

Tarkistus  477

 

Ehdotus asetukseksi

50 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
Tarjoajan on pidettävä seuraavat asiakirjat kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun tekoälyjärjestelmä on saatettu markkinoille tai otettu käyttöön:	Tarjoajan on pidettävä seuraavat asiakirjat kansallisen valvontaviranomaisen ja kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun tekoälyjärjestelmä on saatettu markkinoille tai otettu käyttöön:

Tarkistus  478

 

Ehdotus asetukseksi

51 artikla – 1 kohta

Komission teksti	Tarkistus
Ennen 6 artiklan 2 kohdassa tarkoitetun suuririskisen tekoälyjärjestelmän markkinoille saattamista tai käyttöönottoa tarjoajan tai tarvittaessa valtuutetun edustajan on rekisteröitävä se 60 artiklassa tarkoitettuun EU:n tietokantaan.	Ennen 6 artiklan 2 kohdassa tarkoitetun suuririskisen tekoälyjärjestelmän markkinoille saattamista tai käyttöönottoa tarjoajan tai tarvittaessa valtuutetun edustajan on rekisteröitävä se 60 artiklassa tarkoitettuun EU:n tietokantaan 60 artiklan 2 kohdan mukaisesti.

Tarkistus  479

 

Ehdotus asetukseksi

51 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Ennen 6 artiklan 2 kohdan mukaisen suuririskisen tekoälyjärjestelmän käyttöönottoa tai käyttöä seuraaviin ryhmiin kuuluvien käyttöönottajien on rekisteröitävä kyseisen tekoälyjärjestelmän käyttö 60 artiklassa tarkoitettuun EU:n tietokantaan:
	(a) käyttöönottajat, jotka ovat viranomaisia tai unionin toimielimiä, elimiä, laitoksia tai virastoja, tai näiden puolesta toimivat käyttöönottajat;
	(b) käyttöönottajat, jotka ovat asetuksen (EU) 2022/1925 mukaisesti portinvartijaksi nimettyjä yrityksiä.

Tarkistus  480

 

Ehdotus asetukseksi

51 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	Käyttöönottajilla, jotka eivät kuulu 1 a kohdan soveltamisalaan, on oikeus rekisteröidä vapaaehtoisesti 6 artiklan 2 kohdassa tarkoitetun suuririskisen tekoälyjärjestelmän käyttö 60 artiklassa tarkoitettuun EU:n tietokantaan.

Tarkistus  481

 

Ehdotus asetukseksi

51 artikla – 1 c kohta (uusi)

Komission teksti	Tarkistus
	Jokaisen merkittävän muutoksen jälkeen rekisteröintimerkintä on välittömästi päivitettävä.

Tarkistus  482

Ehdotus asetukseksi

IV osasto

Komission teksti	Tarkistus
TIETTYJÄ TEKOÄLYJÄRJESTELMIÄ KOSKEVAT LÄPINÄKYVYYSVELVOITTEET	LÄPINÄKYVYYSVELVOITTEET

Tarkistus  483

 

Ehdotus asetukseksi

52 artikla – otsikko

Komission teksti	Tarkistus
Tiettyjä tekoälyjärjestelmiä koskevat läpinäkyvyysvelvoitteet	Läpinäkyvyysvelvoitteet

Tarkistus  484

 

Ehdotus asetukseksi

52 artikla – 1 kohta

Komission teksti	Tarkistus
1. Tarjoajien on varmistettava, että luonnollisten henkilöiden kanssa vuorovaikutukseen tarkoitetut tekoälyjärjestelmät suunnitellaan ja toteutetaan siten, että luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, paitsi jos tämä on olosuhteiden ja käyttöyhteyden perusteella ilmeistä. Tätä velvoitetta ei sovelleta tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseiset järjestelmät ovat julkisesti saatavilla rikosilmoitusten tekemistä varten.	1. Tarjoajien on varmistettava, että luonnollisten henkilöiden kanssa vuorovaikutukseen tarkoitetut tekoälyjärjestelmät suunnitellaan ja toteutetaan siten, että tarjoaja itse tai käyttäjä ilmoittaa oikea-aikaisesti, selkeästi ja ymmärrettävästi tekoälyjärjestelmälle altistuville luonnollisille henkilöille, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, paitsi jos tämä on olosuhteiden ja käyttöyhteyden perusteella ilmeistä.
	Näihin tietoihin on tapauksen ja tarpeen mukaan sisällytettävä myös se, mihin toimintoihin tekoälyä käytetään, valvooko sitä ihminen ja kuka on vastuussa päätöksentekoprosessista, sekä oikeudet ja prosessit, joiden avulla luonnolliset henkilöt voivat unionin ja kansallisen lainsäädännön mukaisesti vastustaa tällaisten tekoälyjärjestelmien soveltamista heihin ja hakea tuomioistuimelta muutosta tekoälyjärjestelmien tekemiin päätöksiin tai korvausta niiden aiheuttaman haitan vuoksi, mukaan lukien heidän oikeutensa saada selitys. Tätä velvoitetta ei sovelleta tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseiset järjestelmät ovat julkisesti saatavilla rikosilmoitusten tekemistä varten.

Tarkistus  485

 

Ehdotus asetukseksi

52 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tunteentunnistusjärjestelmän tai biometrisen luokitusjärjestelmän käyttäjien on ilmoitettava järjestelmän toiminnasta niille luonnollisille henkilöille, jotka altistuvat järjestelmälle. Tätä velvoitetta ei sovelleta biometriseen luokitteluun käytettyihin tekoälyjärjestelmiin, joita on lain mukaan luvallista käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen.	2. Tunteentunnistusjärjestelmän tai sellaisen biometrisen luokitusjärjestelmän, jota ei ole kielletty 5 artiklan nojalla, käyttäjien on ilmoitettava järjestelmän toiminnasta oikea-aikaisesti, selkeästi ja ymmärrettävästi niille luonnollisille henkilöille, jotka altistuvat järjestelmälle, ja saatava heidän suostumuksensa ennen biometristen ja muiden henkilötietojensa käsittelyä tapauksen mukaan asetuksen (EU) 2016/679, asetuksen (EU) 2016/1725 ja direktiivin (EU) 2016/280 mukaisesti. Tätä velvoitetta ei sovelleta biometriseen luokitteluun käytettyihin tekoälyjärjestelmiin, joita on lain mukaan luvallista käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen.

Tarkistus  486

 

Ehdotus asetukseksi

52 artikla – 3 kohta – 1 alakohta

Komission teksti	Tarkistus
3. Sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja tai muita objekteja tai tapahtumia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta tai totuudenmukaiselta (’syväväärennös’), on ilmoitettava, että sisältö on keinotekoisesti tuotettu tai manipuloitu.	3. Sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi teksti-, ääni- tai kuvasisältöä, joka voi vaikuttaa virheellisesti aidolta tai totuudenmukaiselta ja jossa esitetään henkilöitä sanomassa tai tekemässä jotain sellaista, jota he eivät ole sanoneet tai tehneet, ilman heidän suostumustaan (’syväväärennös’), on ilmoitettava asianmukaisesti, oikea-aikaisesti, selkeästi ja näkyvästi, että sisältö on keinotekoisesti tuotettu tai manipuloitu, sekä mahdollisuuksien mukaan sisällön tuottaneen tai sitä manipuloineen luonnollisen tai oikeushenkilön nimi. Ilmoittamisella tarkoitetaan sisällön merkitsemistä tavalla, joka kertoo, että sisältö on epäaito, ja joka on selvästi kyseisen sisällön vastaanottajan nähtävissä. Sisällön merkitsemiseksi käyttäjien on otettava huomioon yleisesti tunnustettu alan viimeisin kehitys sekä asiaa koskevat yhdenmukaistetut standardit ja eritelmät.

Tarkistus  487

 

Ehdotus asetukseksi

52 artikla – 3 kohta – 2 alakohta

Komission teksti	Tarkistus
Ensimmäistä alakohtaa ei kuitenkaan sovelleta, jos käyttö on lain mukaan sallittua rikosten paljastamiseksi, estämiseksi ja tutkimiseksi ja rikoksia koskevissa syytetoimissa tai jos se on tarpeen EU:n perusoikeuskirjassa taattua sananvapautta ja taiteen ja tieteen vapautta koskevan oikeuden käyttämiseksi ja edellyttäen, että toteutetaan kolmansien osapuolten oikeuksia ja vapauksia koskevat asianmukaiset suojatoimet.	3 a. Edellä olevaa 3 kohtaa ei kuitenkaan sovelleta, jos teksti-, ääni- tai kuvasisältöä tuottavan tai manipuloivan tekoälyjärjestelmän käyttö on lain mukaan sallittua tai jos se on tarpeen EU:n perusoikeuskirjassa taattua sananvapautta ja taiteen ja tieteen vapautta koskevan oikeuden käyttämiseksi ja edellyttäen, että toteutetaan kolmansien osapuolten oikeuksia ja vapauksia koskevat asianmukaiset suojatoimet. Jos sisältö on osa selvästi luovaa, satiirista, taiteellista tai fiktiivistä elokuvaa, videopelien kuvamateriaalia ja vastaavaa teosta tai ohjelmaa, 3 kohdassa säädetyt läpinäkyvyysvelvoitteet rajoittuvat siihen, että tällaisesta tuotetusta tai manipuloidusta sisällöstä ilmoitetaan asianmukaisesti, selkeästi ja näkyvästi tavalla, joka ei haittaa teoksen esittämistä, ja että tapauksen mukaan ilmoitetaan sovellettavat tekijänoikeudet. Se ei myöskään estä lainvalvontaviranomaisia käyttämästä tekoälyjärjestelmiä, joita on tarkoitus käyttää syväväärennösten havaitsemiseen ja niiden käyttöön liittyvien rikosten estämiseen ja tutkimiseen ja näihin rikoksiin liittyviin syytetoimiin.

Tarkistus  488

 

Ehdotus asetukseksi

52 artikla – 3 b kohta (uusi)

Komission teksti	Tarkistus
	3 b. Edellä 1–3 kohdassa tarkoitetut tiedot on annettava luonnollisille henkilöille viimeistään ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä. Niiden on oltava saavutettavia haavoittuvien henkilöiden, kuten vammaisten henkilöiden ja lasten, kannalta, ja niihin on sisällyttävä tapauksen ja tarpeen mukaan tiedot altistuneen luonnollisen henkilön käytettävissä olevista väliintulo- tai ilmoittamismenettelyistä ottaen huomioon yleisesti tunnustettu alan viimeisin kehitys sekä asiaa koskevat yhdenmukaistetut standardit ja yhteiset eritelmät.

Tarkistus  489

 

Ehdotus asetukseksi

53 artikla – 1 kohta

Komission teksti	Tarkistus
1. Yhden tai useamman jäsenvaltion toimivaltaisten viranomaisten tai Euroopan tietosuojavaltuutetun perustamien tekoälyn sääntelyn testiympäristöjen on tarjottava valvottu ympäristö, joka helpottaa innovatiivisten tekoälyjärjestelmien kehittämistä, testausta ja validointia rajoitetun ajan ennen kuin ne saatetaan markkinoille tai otetaan käyttöön tietyn suunnitelman mukaisesti. Tämän on tapahduttava toimivaltaisten viranomaisten suorassa valvonnassa ja ohjauksessa, jotta voidaan varmistaa tämän asetuksen ja tarvittaessa muun testiympäristössä valvotun unionin ja jäsenvaltioiden lainsäädännön noudattaminen.	1. Jäsenvaltioiden on perustettava kansallisella tasolla vähintään yksi tekoälyn sääntelyn testiympäristö, jonka on oltava toiminnassa viimeistään tämän asetuksen soveltamispäivänä. Tämä testiympäristö voidaan perustaa myös yhdessä yhden tai useamman muun jäsenvaltion kanssa.

Tarkistus  490

 

Ehdotus asetukseksi

53 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Lisäksi voidaan perustaa tekoälyn sääntelyn testiympäristöjä alueellisella tai paikallisella tasolla tai yhdessä muiden jäsenvaltioiden kanssa.

Tarkistus  491

 

Ehdotus asetukseksi

53 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	1 b. Komissio ja Euroopan tietosuojavaltuutettu voivat yksin, yhdessä tai yhteistyössä yhden tai useamman jäsenvaltion kanssa myös perustaa tekoälyn sääntelyn testiympäristöjä unionin tasolla.

Tarkistus  492

 

Ehdotus asetukseksi

53 artikla – 1 c kohta (uusi)

Komission teksti	Tarkistus
	1 c. Perustajaviranomaisten on osoitettava riittävät resurssit tämän artiklan tehokkaan ja oikea-aikaisen noudattamisen mahdollistamiseksi.

Tarkistus  493

 

Ehdotus asetukseksi

53 artikla – 1 d kohta (uusi)

Komission teksti	Tarkistus
	1 d. Tekoälyn sääntelyn testiympäristöjen on tarjottava 53 a artiklassa säädettyjen kriteerien mukaisesti valvottu ympäristö, joka edistää innovointia ja helpottaa innovatiivisten tekoälyjärjestelmien kehittämistä, testausta ja validointia rajoitetun ajan ennen kuin ne saatetaan markkinoille tai otetaan käyttöön mahdollisten tarjoajien ja perustajaviranomaisen keskenään sopiman erityissuunnitelman mukaisesti.

Tarkistus  494

 

Ehdotus asetukseksi

53 artikla – 1 e kohta (uusi)

Komission teksti	Tarkistus
	1 e. Tekoälyn sääntelyn testiympäristöjen perustamisella on pyrittävä edistämään seuraavia tavoitteita:
	a) toimivaltaiset viranomaiset antavat tekoälyjärjestelmien mahdollisille tarjoajille ohjeita, jotta varmistetaan tämän asetuksen tai tapauksen mukaan muun sovellettavan unionin ja jäsenvaltioiden lainsäädännön noudattaminen;
	b) mahdolliset tarjoajat antavat mahdollisuuden tekoälyjärjestelmiin liittyvien innovatiivisten ratkaisujen testaamiseen ja kehittämiseen ja helpottavat sitä;
	c) edistetään sääntelyyn liittyvää oppimista valvotussa ympäristössä.

Tarkistus  495

 

Ehdotus asetukseksi

53 artikla – 1 f kohta (uusi)

 

Komission teksti	Tarkistus
	1 f. Perustajaviranomaisten on huolehdittava ohjeistuksesta ja valvonnasta testiympäristössä, jotta voidaan tunnistaa riskit, erityisesti perusoikeuksiin, demokratiaan ja oikeusvaltioon, terveyteen ja turvallisuuteen sekä ympäristöön kohdistuvat riskit, testata ja demonstroida tunnistettujen riskien lieventämistoimenpiteitä ja niiden tehokkuutta sekä varmistaa, että tämän asetuksen ja tarvittaessa muun unionin ja jäsenvaltioiden lainsäädännön vaatimuksia noudatetaan.

Tarkistus  496

 

Ehdotus asetukseksi

53 artikla – 1 f kohta (uusi)

Komission teksti	Tarkistus
	1 g. Perustajaviranomaisten on tarjottava testiympäristöön osallistuville mahdollisille tarjoajille, jotka kehittävät suuririskisiä tekoälyjärjestelmiä, ohjeistusta tässä asetuksessa säädettyjen vaatimusten täyttämisestä ja valvottava tätä täyttämistä, jotta tekoälyjärjestelmät voivat poistua testiympäristöstä sillä oletuksella, että ne ovat tämän asetuksen niiden vaatimusten mukaisia, joita testiympäristössä arvioitiin. Jos tekoälyjärjestelmä täyttää vaatimukset testiympäristöstä poistuessaan, sen oletetaan olevan tämän asetuksen mukainen. Markkinavalvontaviranomaisten tai ilmoitettujen laitosten on otettava perustajaviranomaisen laatimat raportit testiympäristöstä poistumisesta tarvittaessa huomioon vaatimustenmukaisuuden arviointimenettelyjen tai markkinavalvontatarkastusten yhteydessä.

Tarkistus  497

 

Ehdotus asetukseksi

53 artikla – 2 kohta

Komission teksti	Tarkistus
2. Jäsenvaltioiden on varmistettava, että siltä osin kuin innovatiivisiin tekoälyjärjestelmiin liittyy henkilötietojen käsittelyä tai ne muutoin kuuluvat muiden dataan pääsyä tarjoavien tai sitä tukevien kansallisten viranomaisten tai toimivaltaisten viranomaisten valvonnan piiriin, kansalliset tietosuojaviranomaiset ja kyseiset muut kansalliset viranomaiset ovat mukana tekoälyn sääntelyn testiympäristön toiminnassa.	2. Perustajaviranomaisten on varmistettava, että siltä osin kuin innovatiivisiin tekoälyjärjestelmiin liittyy henkilötietojen käsittelyä tai ne muutoin kuuluvat muiden henkilötietoihin pääsyä tarjoavien tai sitä tukevien kansallisten viranomaisten tai toimivaltaisten viranomaisten valvonnan piiriin, kansalliset tietosuojaviranomaiset tai 1 b kohdassa tarkoitetuissa tapauksissa Euroopan tietosuojavaltuutettu ja kyseiset muut kansalliset viranomaiset ovat mukana tekoälyn sääntelyn testiympäristön toiminnassa ja näiden näkökohtien valvonnassa, kukin tehtäviensä ja valtuuksiensa täydessä laajuudessa.

Tarkistus  498

 

Ehdotus asetukseksi

53 artikla – 3 kohta

Komission teksti	Tarkistus
3. Tekoälyn sääntelyn testiympäristöt eivät saa vaikuttaa toimivaltaisten viranomaisten valvonta- ja korjaaviin valtuuksiin. Tällaisten järjestelmien kehittämisen ja testauksen aikana havaittuja terveyteen ja turvallisuuteen sekä perusoikeuksiin kohdistuvia merkittäviä riskejä on vähennettävä välittömästi, ja jos tämä ei onnistu, kehittämis- ja testausprosessi on keskeytettävä, kunnes riskejä voidaan vähentää.	3. Tekoälyn sääntelyn testiympäristöt eivät saa vaikuttaa toimivaltaisten viranomaisten valvonta- ja korjaaviin valtuuksiin, myöskään alueellisella tai paikallisella tasolla. Tällaisten tekoälyjärjestelmien kehittämisen ja testauksen aikana havaittuja perusoikeuksiin, demokratiaan ja oikeusvaltioon, terveyteen ja turvallisuuteen tai ympäristöön kohdistuvia merkittäviä riskejä on vähennettävä välittömästi ja asianmukaisesti. Toimivaltaisilla viranomaisilla on oltava valtuudet keskeyttää testausprosessi tai osallistuminen testiympäristöön toistaiseksi tai kokonaan, jos tehokas lieventäminen ei ole mahdollista, ja niiden on ilmoitettava tällaisesta päätöksestä tekoälytoimistolle.

Tarkistus  499

 

Ehdotus asetukseksi

53 artikla – 4 kohta

Komission teksti	Tarkistus
4. Tekoälyn sääntelyn testiympäristöön osallistujat ovat sovellettavan unionin ja jäsenvaltioiden vastuulainsäädännön nojalla edelleen vastuussa vahingoista, joita kolmansille osapuolille mahdollisesti aiheutuu testiympäristössä suoritettavien kokeiden seurauksena.	4. Tekoälyn sääntelyn testiympäristöön osallistuvat mahdolliset tarjoajat ovat sovellettavan unionin ja jäsenvaltioiden vastuulainsäädännön nojalla edelleen vastuussa vahingoista, joita kolmansille osapuolille mahdollisesti aiheutuu testiympäristössä suoritettavien kokeiden seurauksena. Jos kuitenkin mahdollinen tarjoaja noudattaa tai mahdolliset tarjoajat noudattavat 1 c kohdassa tarkoitettua erityissuunnitelmaa ja osallistumisehtoja ja se noudattaa tai ne noudattavat vilpittömässä mielessä perustajaviranomaisten antamia ohjeita, viranomaiset eivät saa määrätä hallinnollisia sakkoja tämän asetuksen rikkomisesta.

Tarkistus  500

 

Ehdotus asetukseksi

53 artikla – 5 kohta

Komission teksti	Tarkistus
5. Jäsenvaltioiden toimivaltaisten viranomaisten, jotka ovat perustaneet tekoälyn sääntelyn testiympäristöjä, on koordinoitava toimintaansa ja tehtävä yhteistyötä Euroopan tekoälyneuvoston puitteissa. Niiden on toimitettava tekoälyneuvostolle ja komissiolle vuosittain raportit näiden järjestelmien käytön tuloksista, mukaan lukien järjestelmien rakennetta koskevat hyvät käytännöt, saadut kokemukset ja suositukset, ja tarvittaessa tämän asetuksen ja muun testiympäristössä valvotun unionin lainsäädännön soveltamisesta.	5. Perustajaviranomaisten on koordinoitava toimintaansa ja tehtävä yhteistyötä tekoälytoimiston puitteissa.

Tarkistus  501

 

Ehdotus asetukseksi

53 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Perustajaviranomaisten on ilmoitettava tekoälytoimistolle testiympäristön perustamisesta, ja ne voivat pyytää siltä tukea ja ohjeita. Tekoälytoimiston on asetettava julkisesti saataville luettelo suunnitteilla ja olemassa olevista testiympäristöistä ja pidettävä se ajan tasalla, jotta kannustetaan lisäämään vuorovaikutusta sääntelyn testiympäristöissä ja ylikansallista yhteistyötä.

Tarkistus  502

 

Ehdotus asetukseksi

53 artikla – 5 b kohta (uusi)

Komission teksti	Tarkistus
	5 b. Perustajaviranomaisten on toimitettava tekoälytoimistolle ja komissiolle, ellei komissio on ainoa perustajaviranomainen, vuosikertomus vuoden kuluttua testiympäristön perustamisesta ja sen jälkeen joka vuosi testiympäristön lopettamiseen saakka, sekä loppukertomus. Näissä kertomuksissa on annettava tietoa testiympäristöjen toteuttamisen etenemisestä ja tuloksista, mukaan lukien niiden perustamiseen liittyvät hyvät käytännöt, vaaratilanteet, saadut kokemukset ja suositukset, sekä tarvittaessa tämän asetuksen ja muun testiympäristössä valvotun unionin lainsäädännön mahdollisesta tarkistamisesta. Nämä vuosikertomukset tai niiden tiivistelmät on asetettava yleisön saataville verkossa.

Tarkistus  503

 

Ehdotus asetukseksi

53 artikla – 6 kohta

Komission teksti	Tarkistus
6. Tekoälyn sääntelyn testiympäristöjen toimintaa koskevat yksityiskohtaiset säännöt ja edellytykset, mukaan lukien kelpoisuuskriteerit ja menettely testiympäristöön hakemista, valintaa ja osallistumista ja siitä poistumista varten, sekä osallistujien oikeudet ja velvollisuudet vahvistetaan täytäntöönpanosäädöksissä. Nämä täytäntöönpanosäädökset hyväksytään 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen.	6. Komissio kehittää keskitetyn erityisen käyttöliittymän, joka sisältää kaikki merkitykselliset testiympäristöihin liittyvät tiedot, sekä unionin tason keskitetyn yhteyspisteen, joka mahdollistaa vuorovaikutuksen sääntelyn testiympäristöjen kanssa ja jonka avulla sidosryhmät voivat esittää tiedusteluja toimivaltaisille viranomaisille ja pyytää ei-sitovaa ohjeistusta tekoälyteknologiaa sisältävien innovatiivisten tuotteiden, palvelujen tai liiketoimintamallien vaatimustenmukaisuudesta.
	Komissio koordinoi toimia ennakoivasti kansallisten, alueellisten ja tarvittaessa myös paikallisten viranomaisten kanssa.

Tarkistus  504

 

Ehdotus asetukseksi

53 artikla – 6 a kohta (uusi)

53 artikla – 6 a kohta (uusi)

Komission teksti	Tarkistus
	6 a. Edellä olevien 1 ja 1 a kohdan soveltamiseksi komissio toimii täydentävässä tehtävässä antaen jäsenvaltioille mahdollisuuden hyödyntää asiantuntemustaan ja toisaalta avustaen ja tarjoten teknistä tietämystä ja resursseja jäsenvaltioille, jotka pyytävät ohjeistusta sääntelyn testiympäristöjen perustamista ja hallinnointia varten.

Tarkistus  505

 

Ehdotus asetukseksi

53 a artikla (uusi)

53 a artikla (uusi) – otsikko

Komission teksti	Tarkistus
	53 a artikla
	Tekoälyn sääntelyn testiympäristöjen yksityiskohtaiset säännöt ja toiminta
	1. Jotta vältetään hajanaisuus kaikkialla unionissa, komissio hyväksyy tekoälytoimiston kanssa konsultoiden delegoidun säädöksen, jossa esitetään tekoälyn sääntelyn testiympäristöjen perustamista, kehittämistä, toteuttamista, toimintaa ja valvontaa koskevat yksityiskohtaiset säännöt, mukaan lukien kelpoisuuskriteerit ja menettely testiympäristöön hakemista, valintaa ja osallistumista ja siitä poistumista varten, sekä osallistujien oikeudet ja velvollisuudet tämän artiklan säännösten perusteella.
	2. Komissio antaa delegoituja säädöksiä 73 artiklassa tarkoitettua tarkastelumenettelyä noudattaen 12 kuukauden kuluessa tämän asetuksen voimaantulosta ja varmistaa, että:
	(a) sääntelyn testiympäristöihin voivat hakea kaikki tekoälyjärjestelmän mahdolliset tarjoajat, jotka täyttävät kelpoisuus- ja valintakriteerit. Sääntelyn testiympäristöön pääsyä koskevat kriteerit ovat avoimet ja oikeudenmukaiset, ja perustajaviranomaiset ilmoittavat hakijoille päätöksestään kolmen kuukauden kuluessa hakemuksen jättämisestä;
	b) sääntelyn testiympäristöihin on laaja ja yhtäläinen mahdollisuus osallistua, ja ne kykenevät vastaamaan osallistumisesta kiinnostuneiden kysyntään;
	c) tekoälyn sääntelyn testiympäristöihin pääsy on pk-yrityksille ja startup-yrityksille maksutonta, sanotun kuitenkaan rajoittamatta perustajaviranomaisten oikeutta periä poikkeuksellisia kustannuksia oikeudenmukaisesti ja oikeasuhteisesti;
	d) sääntelyn testiympäristöt helpottavat muiden asiaankuuluvien toimijoiden, kuten ilmoitettujen laitosten ja standardointiorganisaatioiden (pk-yritykset, startup-yritykset, yritykset, innovoijat, testaus- ja kokeilulaitokset, tutkimus- ja kokeilulaboratoriot ja digitaali-innovointikeskittymät, osaamiskeskukset, yksittäiset tutkijat), osallistumista tekoälyekosysteemiin, jotta yhteistyö julkisen ja yksityisen sektorin kanssa olisi mahdollista ja helpompaa;
	e) mahdolliset tarjoajat voivat täyttää tässä asetuksessa säädetyt vaatimustenmukaisuuden arviointivelvoitteet tai toteuttaa 69 artiklassa tarkoitettujen käytännesääntöjen vapaaehtoisen soveltamisen valvotussa ympäristössä;
	f) testiympäristöön hakemista, valintaa, siihen osallistumista ja siitä poistumista koskevat menettelyt, prosessit ja hallinnolliset vaatimukset ovat yksinkertaisia, helposti ymmärrettäviä ja niistä tiedotetaan selkeästi, jotta helpotetaan sellaisten pk-yritysten ja startup-yritysten osallistumista, joilla on rajalliset oikeudelliset ja hallinnolliset valmiudet, ja ne yhdenmukaistetaan kautta unionin, jotta vältetään hajanaisuus ja varmistetaan, että osallistuminen jäsenvaltion, komission tai Euroopan tietosuojavaltuutetun perustamaan sääntelyn testiympäristöön tunnustetaan vastavuoroisesti ja yhtäläisesti ja että sillä on samat oikeusvaikutukset kaikkialla unionissa;
	g) tekoälyn sääntelyn testiympäristöön osallistumisen kesto rajataan ajanjaksoon, joka on asianmukainen suhteessa hankkeen monimutkaisuuteen ja laajuuteen;
	h) testiympäristöjen on helpotettava sellaisten välineiden ja infrastruktuurin kehittämistä, joiden avulla voidaan testata, vertailla, arvioida ja selittää tekoälyjärjestelmien sellaisia, testiympäristöissä merkityksellisiä ulottuvuuksia kuin tarkkuus, luotettavuus ja kyberturvallisuus, sekä helpotettava perusoikeuksiin, ympäristöön ja yleensä yhteiskuntaan kohdistuvien riskien minimointia.
	3. Testiympäristöön osallistuville mahdollisille tarjoajille, erityisesti pk-yrityksille ja startup-yrityksille, on tehtävä helpoksi saada käyttöönottoa edeltäviä palveluja, kuten ohjeita tämän asetuksen täytäntöönpanoa varten, ja muita lisäarvoa tuottavia palveluja, kuten apua standardointiasiakirjojen, sertifioinnin ja kuulemisten kanssa, sekä hyödyntää muita digitaalisten sisämarkkinoiden aloitteita, kuten testaus- ja kokeilulaitoksia, digitaalikeskittymiä, osaamiskeskuksia ja EU:n vertailuanalyysivalmiuksia.

Tarkistus  506

 

Ehdotus asetukseksi

54 artikla – otsikko

Komission teksti	Tarkistus
Henkilötietojen jatkokäsittely tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä	Tietojen jatkokäsittely tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä

Tarkistus  507

 

Ehdotus asetukseksi

54 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Muihin tarkoituksiin laillisesti kerättyjä henkilötietoja voidaan käsitellä tekoälyn sääntelyn testiympäristössä tiettyjen innovatiivisten tekoälyjärjestelmien kehittämiseksi ja testaamiseksi seuraavin edellytyksin:	1. Muihin tarkoituksiin laillisesti kerättyjä henkilötietoja voidaan käsitellä tekoälyn sääntelyn testiympäristössä yksinomaan tiettyjen innovatiivisten tekoälyjärjestelmien kehittämiseksi ja testaamiseksi, kun kaikki seuraavat edellytykset täyttyvät:

Tarkistus  508

 

Ehdotus asetukseksi

54 artikla – 1 kohta – a alakohta – johdantokappale

Komission teksti	Tarkistus
(a) innovatiivisia tekoälyjärjestelmiä kehitetään tärkeän yleisen edun turvaamiseksi yhdellä tai useammalla seuraavista aloista:	(a) tekoälyjärjestelmiä kehitetään tärkeän yleisen edun turvaamiseksi yhdellä tai useammalla seuraavista aloista:
	ii) yleinen turvallisuus ja kansanterveys, mukaan lukien tautien havaitseminen, diagnosointi, ehkäisy, torjunta ja hoito;
	iii) korkeatasoinen ympäristönsuojelu ja ympäristön laadun parantaminen, biologisen monimuotoisuuden suojelu, ympäristön pilaantuminen sekä ilmastonmuutoksen hillintä ja siihen sopeutuminen;
	iii a) liikennejärjestelmien, kriittisen infrastruktuurin ja verkkojen turvallisuus ja häiriönsietokyky.

Tarkistus  509

 

Ehdotus asetukseksi

54 artikla – 1 kohta – a alakohta – i alakohta

Komission teksti	Tarkistus
i) rikosten ennalta estäminen, tutkinta, paljastaminen tai rikoksiin liittyvät syytetoimet taikka rikosoikeudellisten seuraamusten täytäntöönpano, mukaan lukien yleiseen turvallisuuteen kohdistuvilta uhkilta suojelu tai tällaisten uhkien ehkäisy, toimivaltaisten viranomaisten valvonnassa ja vastuulla. Käsittelyn on perustuttava jäsenvaltion tai unionin lainsäädäntöön;	Poistetaan.

Tarkistus  510

 

Ehdotus asetukseksi

54 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
(c) käytössä on tehokkaat seurantamekanismit, joiden avulla voidaan havaita, voiko testiympäristössä tehtävien kokeiden aikana syntyä rekisteröityjen perusoikeuksiin kohdistuvia suuria riskejä, sekä mekanismi, jolla näitä riskejä voidaan vähentää nopeasti ja tarvittaessa lopettaa käsittely;	(c) käytössä on tehokkaat seurantamekanismit, joiden avulla voidaan havaita, voiko testiympäristössä tehtävien kokeiden aikana syntyä asetuksen (EU) 2016/679 35 artiklassa ja asetuksen (EU) 2018/1725 35 artiklassa tarkoitettuja rekisteröityjen oikeuksiin ja vapauksiin kohdistuvia suuria riskejä, sekä mekanismi, jolla näitä riskejä voidaan vähentää nopeasti ja tarvittaessa lopettaa käsittely;

Tarkistus  511

 

Ehdotus asetukseksi

54 artikla – 1 kohta – d alakohta

Komission teksti	Tarkistus
(d) kaikki testiympäristössä käsiteltävät henkilötiedot ovat toiminnallisesti erillisessä, itsenäisessä ja suojatussa tietojenkäsittely-ympäristössä osallistujien valvonnassa, ja ainoastaan valtuutetuilla henkilöillä on pääsy kyseisiin tietoihin;	(d) kaikki testiympäristössä käsiteltävät henkilötiedot ovat toiminnallisesti erillisessä, itsenäisessä ja suojatussa tietojenkäsittely-ympäristössä mahdollisten tarjoajien valvonnassa, ja ainoastaan valtuutetuilla henkilöillä on pääsy kyseisiin tietoihin;

Tarkistus  512

 

Ehdotus asetukseksi

54 artikla – 1 kohta – f alakohta

Komission teksti	Tarkistus
(f) testiympäristössä tapahtuva henkilötietojen käsittely ei saa johtaa rekisteröityihin vaikuttaviin toimenpiteisiin tai päätöksiin;	(f) testiympäristössä tapahtuva henkilötietojen käsittely ei saa johtaa rekisteröityihin vaikuttaviin toimenpiteisiin tai päätöksiin eikä vaikuttaa heidän henkilötietojen suojaa koskevassa unionin lainsäädännössä säädettyjen oikeuksiensa soveltamiseen;

Tarkistus  513

 

Ehdotus asetukseksi

54 artikla – 1 kohta – g alakohta

Komission teksti	Tarkistus
(g) kaikki testiympäristössä käsitellyt henkilötiedot poistetaan, kun osallistuminen testiympäristöön on päättynyt tai henkilötietojen säilytysaika päättyy;	(g) kaikki testiympäristössä käsitellyt henkilötiedot suojataan asianmukaisin teknisin ja organisatorisin toimenpitein ja poistetaan, kun osallistuminen testiympäristöön on päättynyt tai henkilötietojen säilytysaika päättyy;

Tarkistus  514

 

Ehdotus asetukseksi

54 artikla – 1 kohta – h alakohta

Komission teksti	Tarkistus
(h) testiympäristössä tapahtuvaa henkilötietojen käsittelyä koskevat lokitiedot säilytetään testiympäristöön osallistumisen ajan ja yhden vuoden ajan osallistumisen päättymisen jälkeen, yksinomaan ja ainoastaan niin kauan kuin se on tarpeen tämän artiklan tai muun sovellettavan unionin tai jäsenvaltioiden lainsäädännön mukaisten vastuuvelvollisuutta ja dokumentointia koskevien velvoitteiden täyttämiseksi;	(h) testiympäristössä tapahtuvaa henkilötietojen käsittelyä koskevat lokitiedot säilytetään testiympäristöön osallistumisen ajan;

Tarkistus  515

 

Ehdotus asetukseksi

54 artikla – 1 kohta – j alakohta

Komission teksti	Tarkistus
(j) lyhyt tiivistelmä testiympäristössä kehitetystä tekoälyhankkeesta, sen tavoitteista ja odotetuista tuloksista julkaistaan toimivaltaisten viranomaisten verkkosivustolla.	(j) lyhyt tiivistelmä testiympäristössä kehitetystä tekoälyjärjestelmästä, sen tavoitteista, hypoteeseista ja odotetuista tuloksista julkaistaan toimivaltaisten viranomaisten verkkosivustolla.

Tarkistus  516

 

Ehdotus asetukseksi

54 a artikla (uusi)

Komission teksti	Tarkistus
	54 a artikla
	Tekoälyn tutkimuksen ja kehittämisen edistäminen yhteiskunnan ja ympäristön kannalta suotuisten tulosten tukemiseksi
	1. Jäsenvaltioiden on edistettävä sellaisten tekoälyratkaisujen tutkimusta ja kehittämistä, joilla tuetaan yhteiskunnan ja ympäristön kannalta suotuisia tuloksia, mukaan lukien muun muassa sellaisten tekoälypohjaisten ratkaisujen kehittäminen, joilla lisätään esteettömyyttä vammaisten henkilöiden kannalta, torjutaan sosioekonomista eriarvoisuutta ja täytetään kestävyyttä ja ympäristöä koskevat tavoitteet,
	(a) antamalla asiaankuuluville hankkeille ensisijainen pääsy tekoälyn sääntelyn testiympäristöihin, jos ne täyttävät kelpoisuusehdot;
	(b) osoittamalla julkista rahoitusta, myös asiaankuuluvista unionin rahastoista, tekoälyn tutkimukseen ja kehittämiseen yhteiskunnan ja ympäristön kannalta suotuisten tulosten tukemiseksi;
	(c) järjestämällä erityisiä tiedotustoimia, jotka koskevat tämän asetuksen soveltamista ja kyseisten hankkeiden tarpeisiin räätälöidyn kohdennetun rahoituksen saatavuutta ja siihen liittyviä hakumenettelyjä;
	(d) perustamalla tarvittaessa, myös testiympäristön yhteyteen, saavutettavia erityiskanavia viestintään hankkeiden kanssa tämän asetuksen täytäntöönpanoa koskevan ohjeistuksen antamiseksi ja sitä koskeviin kysymyksiin vastaamiseksi.
	Jäsenvaltioiden on tuettava kansalaisyhteiskuntaa ja yhteiskunnallisia sidosryhmiä tällaisten hankkeiden johtamisessa tai niihin osallistumisessa.

Tarkistus  517

 

Ehdotus asetukseksi

55 artikla – otsikko

Komission teksti	Tarkistus
Pieniä tarjoajia ja käyttäjiä koskevat toimenpiteet	Pk-yrityksiä, startup-yrityksiä ja käyttäjiä koskevat toimenpiteet

 

Tarkistus  518

 

Ehdotus asetukseksi

55 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) annettava pienille tarjoajille ja startup-yrityksille ensisijainen pääsy tekoälyn sääntelyn testiympäristöihin, jos ne täyttävät kelpoisuusehdot;	(a) annettava unioniin sijoittautuneille pk-yrityksille ja startup-yrityksille ensisijainen pääsy tekoälyn sääntelyn testiympäristöihin, jos ne täyttävät kelpoisuusehdot;

Tarkistus  519

 

Ehdotus asetukseksi

55 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) järjestettävä tämän asetuksen soveltamista koskevia erityisiä tiedotustoimia, jotka on räätälöity pienten tarjoajien ja käyttäjien tarpeisiin;	(b) järjestettävä tämän asetuksen soveltamista koskevia erityisiä tiedotustoimia ja tehokkaita digitaalisten taitojen kehittämistoimia, jotka on räätälöity pk-yritysten, startup-yritysten ja käyttäjien tarpeisiin;

Tarkistus  520

 

Ehdotus asetukseksi

55 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
(c) perustettava tarvittaessa erityinen viestintäkanava pieniä tarjoajia ja käyttäjiä ja muita innovoijia varten tämän asetuksen täytäntöönpanoa koskevan ohjeistuksen antamiseksi ja sitä koskeviin kysymyksiin vastaamiseksi.	(c) käytettävä olemassa olevia erityiskanavia ja perustettava tarvittaessa uusia erityiskanavia viestintään pk-yritysten, startup-yritysten, käyttäjien ja muiden innovoijien kanssa tämän asetuksen täytäntöönpanoa koskevan ohjeistuksen antamiseksi ja sitä koskeviin kysymyksiin vastaamiseksi;

Tarkistus  521

 

Ehdotus asetukseksi

55 artikla – 1 kohta – c a alakohta (uusi)

Komission teksti	Tarkistus
	(c a) edistettävä pk-yritysten ja muiden asiaankuuluvien sidosryhmien osallistumista standardien kehittämisprosessiin.

Tarkistus  522

 

Ehdotus asetukseksi

55 artikla – 2 kohta

Komission teksti	Tarkistus
2. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon 43 artiklan mukaisesta vaatimustenmukaisuuden arvioinnista perittäviä maksuja vahvistettaessa alentamalla näitä maksuja suhteessa tarjoajien kokoon ja markkinoiden kokoon.	2. Pk-yritysten, startup-yritysten ja käyttäjien erityisedut ja -tarpeet on otettava huomioon 43 artiklan mukaisesta vaatimustenmukaisuuden arvioinnista perittäviä maksuja vahvistettaessa alentamalla näitä maksuja suhteessa kehitysvaiheeseen, toimijoiden kokoon, markkinoiden kokoon ja markkinoiden kysyntään. Komissio arvioi säännöllisesti sertifioinnista ja vaatimusten noudattamisesta pk-yrityksille ja startup-yrityksille aiheutuvia kustannuksia, muun muassa kuulemalla avoimesti pk-yrityksiä, startup-yrityksiä ja käyttäjiä, ja tekee yhteistyötä jäsenvaltioiden kanssa tällaisten kustannusten alentamiseksi mahdollisuuksien mukaan. Komissio raportoi näistä havainnoista Euroopan parlamentille ja neuvostolle osana 84 artiklan 2 kohdassa säädettyä tämän asetuksen arviointi- ja uudelleentarkasteluraporttia.

Tarkistus  523

 

Ehdotus asetukseksi

56 artikla – 1 jakso – otsikko

Komission teksti	Tarkistus
	Otsikko
	1 JAKSO: Euroopan tekoälytoimistoa koskevat yleiset säännökset

Tarkistus  524

 

Ehdotus asetukseksi

56 artikla – otsikko

Komission teksti	Tarkistus
Euroopan tekoälyneuvoston perustaminen	Euroopan tekoälytoimiston perustaminen

Tarkistus  525

 

Ehdotus asetukseksi

56 artikla – 1 kohta

Komission teksti	Tarkistus
1. Perustetaan Euroopan tekoälyneuvosto, jäljempänä ’tekoälyneuvosto’.	1. Perustetaan Euroopan tekoälytoimisto, jäljempänä ’tekoälytoimisto’. Tekoälytoimisto on unionin riippumaton elin. Se on oikeushenkilö.

Tarkistus  526

 

Ehdotus asetukseksi

56 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Tekoälyneuvosto neuvoo ja avustaa komissiota	2. Tekoälytoimistolla on sihteeristö, ja sille on osoitettava riittävästi rahoitusta ja henkilöstöä tämän asetuksen mukaisten tehtävien hoitamista varten.

Tarkistus  527

 

Ehdotus asetukseksi

56 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Tekoälytoimiston kotipaikka on Bryssel.

Tarkistus  528

 

Ehdotus asetukseksi

56 a artikla (uusi)

Komission teksti	Tarkistus
	56 a artikla
	Rakenne
	Tekoälytoimiston hallinto- ja johtamisrakenne muodostuu seuraavista:
	(a) hallintoneuvosto, jolla on puheenjohtaja;
	(b) sihteeristö, jonka toimintaa johtaa pääjohtaja;
	(c) neuvoa-antava foorumi.

Tarkistus  529

 

Ehdotus asetukseksi

56 b artikla (uusi)

Komission teksti	Tarkistus
	56 b artikla
	Tekoälytoimiston tehtävät
	Tekoälytoimiston tehtävänä on
	(a) tukea ja neuvoa jäsenvaltioita, kansallisia valvontaviranomaisia, komissiota ja muita unionin toimielimiä, elimiä, laitoksia ja virastoja ja tehdä niiden kanssa yhteistyötä tämän asetuksen täytäntöönpanossa;
	(b) seurata tämän asetuksen tehokasta ja johdonmukaista soveltamista ja varmistaa se, sanotun kuitenkaan rajoittamatta kansallisten valvontaviranomaisten tehtäviä;
	(c) edistää tämän asetuksen soveltamisesta vastaavien kansallisten valvontaviranomaisten välistä koordinointia;
	(d) toimia sovittelijana keskusteltaessa vakavista erimielisyyksistä, joita toimivaltaisten viranomaisten välillä voi syntyä asetuksen soveltamisesta;
	(e) koordinoida 66 a artiklan mukaisia yhteisiä tutkimuksia;
	(f) edistää tehokasta yhteistyötä kolmansien maiden toimivaltaisten viranomaisten ja kansainvälisten järjestöjen kanssa;
	(g) kerätä ja jakaa jäsenvaltioiden asiantuntemusta ja parhaita käytäntöjä sekä auttaa jäsenvaltioiden kansallisia valvontaviranomaisia ja komissiota kehittämään tämän asetuksen täytäntöönpanon edellyttämää organisatorista ja teknistä asiantuntemusta, muun muassa helpottamalla unionin asiantuntijareservin perustamista ja ylläpitoa;
	(h) tutkia omasta aloitteestaan tai hallintoneuvostonsa tai komission pyynnöstä tämän asetuksen täytäntöönpanoon liittyviä kysymyksiä ja antaa lausuntoja, suosituksia tai kirjallisia kannanottoja muun muassa seuraavista:
	i) tekniset eritelmät tai voimassa olevat standardit; ii) komission suuntaviivat;
	iii) käytännesäännöt ja niiden soveltaminen tiiviissä yhteistyössä toimialan ja muiden asiaankuuluvien sidosryhmien kanssa;
	iv) asetuksen mahdollinen tarkistaminen, delegoitujen säädösten valmistelu ja tämän asetuksen mahdollinen mukauttaminen liitteessä II lueteltuihin säädöksiin;
	v) suuntaukset, kuten Euroopan maailmanlaajuinen kilpailukyky tekoälyalalla, tekoälyn käyttöönottoaste unionissa, digitaalisten taitojen kehittäminen ja tekoälyyn liittyvät uudet systeemiset uhat;
	vi) ohjeistus siitä, miten tätä asetusta sovelletaan tekoälyn arvoketjujen alati kehittyvään typologiaan, ja erityisesti vaikutuksista, joita sillä on kaikkien osallistuvien tahojen vastuuvelvollisuuteen;
	(i) antaa
	i) vuosikertomus, johon sisältyy arviointi tämän asetuksen täytäntöönpanosta ja arvio 62 artiklassa tarkoitetuista vakavia vaaratilanteita koskevista ilmoituksista ja 60 artiklassa tarkoitetun tietokannan toiminnasta, ja
	ii) komissiolle suosituksia kiellettyjen käytäntöjen ja liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien luokittelusta, 69 artiklassa tarkoitetuista käytännesäännöistä ja 4 a artiklassa esitettyjen yleisten periaatteiden soveltamisesta;
	(j) avustaa viranomaisia sääntelyn testiympäristöjen perustamisessa ja kehittämisessä ja helpottaa sääntelyn testiympäristöjen keskinäistä yhteistyötä;
	(k) järjestää kokouksia sellaisten unionin virastojen ja hallintoelinten kanssa, joiden tehtävät liittyvät tekoälyyn ja tämän asetuksen täytäntöönpanoon;
	(l)järjestää neljännesvuosittain kuulemisia neuvoa-antavan foorumin kanssa ja tarvittaessa julkisia kuulemisia muiden sidosryhmien kanssa ja julkaista näiden kuulemisten tulokset verkkosivustollaan;
	(m) edistää yleistä tietoisuutta ja ymmärrystä tekoälyjärjestelmien käyttöön liittyvistä hyödyistä, riskeistä, suojatoimista sekä oikeuksista ja velvollisuuksista;
	(n) auttaa kehittämään yhteisiä kriteereitä sekä markkinatoimijoiden ja toimivaltaisten viranomaisten yhteisymmärrystä tässä asetuksessa säädetyistä asiaankuuluvista käsitteistä;
	(o) huolehtia perusmallien seurannasta ja järjestää säännöllistä vuoropuhelua perusmallien kehittäjien kanssa mallien vaatimustenmukaisuudesta sekä tällaisia tekoälymalleja hyödyntävistä tekoälyjärjestelmistä;
	(p) antaa tulkintaohjeita siitä, miten tekoälysäädöstä sovelletaan tekoälyn arvoketjujen alati kehittyvään typologiaan, ja vaikutuksista, joita sillä on kaikkien osallistuvien tahojen vastuuvelvollisuuteen yleisesti tunnustettuun alan viimeisimpään kehitykseen perustuvissa eri skenaarioissa, myös asiaankuuluvissa yhdenmukaistetuissa standardeissa esitetyllä tavalla;
	(q) huolehtia erityisestä valvonnasta ja seurannasta ja vakiinnuttaa säännöllinen vuoropuhelu perusmallien tarjoajien kanssa siitä, ovatko perusmallit ja tällaisia tekoälymalleja hyödyntävät tekoälyjärjestelmät tämän asetuksen 28 b artiklan mukaisia, sekä toimialan parhaista itsehallintokäytännöistä. Kansallisten valvontaviranomaisten, ilmoitettujen laitosten ja markkinavalvontaviranomaisten on voitava osallistua tällaisiin kokouksiin ja antaa niihin panoksensa;
	(r) antaa ja päivittää määräajoin suuntaviivoja kynnysarvoista, joiden perusteella perusmallin kouluttaminen voidaan luokitella mittavaksi koulutusajoksi, kirjata ja seurata tiedossa olevia mittavia koulutusajoja sekä laatia vuosittain kertomus perusmallien kehittämisen, yleistymisen ja käytön tilanteesta kehittäen samalla toimintapoliittisia vaihtoehtoja perusmalleihin liittyvien riskien ja mahdollisuuksien käsittelemiseksi;
	(s) edistää tekoälylukutaitoa 4 b artiklan mukaisesti.

Tarkistus  530

 

Ehdotus asetukseksi

56 c artikla (uusi)

Komission teksti	Tarkistus
	56 c artikla
	Vastuuvelvollisuus, riippumattomuus ja avoimuus
	1. Tekoälytoimisto
	(a) on tämän asetuksen mukaisesti vastuuvelvollinen Euroopan parlamentille ja neuvostolle;
	(b) toimii riippumattomasti suorittaessaan tehtäviään tai käyttäessään valtuuksiaan; ja
	(c) varmistaa toimintansa avoimuuden korkean tason ja kehittää asiaan liittyviä hyviä hallintokäytäntöjä.
	Tekoälyviraston hallussa oleviin asiakirjoihin sovelletaan asetusta (EY) N:o 1049/2001.

Tarkistus  531

 

Ehdotus asetukseksi

-57 a artikla (uusi) – 2 jakso – otsikko

Komission teksti	Tarkistus
	Otsikko
	2 JAKSO: Hallintoneuvosto

Tarkistus  532

 

Ehdotus asetukseksi

-57 a artikla (uusi)

Komission teksti	Tarkistus
	-57 a artikla
	Hallintoneuvoston kokoonpano
	1. Hallintoneuvosto koostuu seuraavista jäsenistä:
	(a) yksi kunkin jäsenvaltion kansallisen valvontaviranomaisen edustaja;
	(b) yksi komission edustaja;
	(c) yksi Euroopan tietosuojavaltuutetun edustaja;
	(d) yksi Euroopan unionin kyberturvallisuusviraston edustaja;
	(e) yksi Euroopan unionin perusoikeusviraston edustaja.
	Kullakin kansallisen valvontaviranomaisen edustajalla on yksi ääni. Komission, Euroopan tietosuojavaltuutetun, Euroopan unionin kyberturvallisuusviraston ja Euroopan unionin perusoikeusviraston edustajilla ei ole äänioikeutta. Kullakin jäsenellä on varajäsen. Hallintoneuvoston jäseniä ja varajäseniä nimitettäessä on otettava huomioon tarve varmistaa sukupuolten tasapuolinen edustus. Hallintoneuvoston jäsenten ja heidän varajäsentensä nimet julkistetaan.
	2. Hallintoneuvoston jäsenillä ja varajäsenillä ei saa olla muita sellaisia tehtäviä eikä kaupallisia etuja, jotka ovat ristiriidassa tämän asetuksen soveltamiseen liittyvän aiheen kanssa.
	3. Hallintoneuvoston kokouksia ja äänestyksiä sekä pääjohtajan nimittämistä ja erottamista tehtävästään koskevat säännöt vahvistetaan -57 b artiklan a alakohdassa tarkoitetussa työjärjestyksessä.

Tarkistus  533

 

Ehdotus asetukseksi

-57 b artikla (uusi)

Komission teksti	Tarkistus
	-57 b artikla
	Hallintoneuvoston tehtävät
	1. Hallintoneuvostolla on seuraavat tehtävät:
	(a) tehdä tekoälytoimiston toimintaa koskevia strategisia päätöksiä ja hyväksyä työjärjestyksensä jäsentensä kahden kolmasosan enemmistöllä;
	(b) panna täytäntöön työjärjestyksensä;
	(c) hyväksyä tekoälytoimiston yhtenäinen ohjelma-asiakirja ja sen julkinen vuosikertomus ja toimittaa ne Euroopan parlamentille, neuvostolle, komissiolle ja tilintarkastustuomioistuimelle;
	(d) hyväksyä tekoälytoimiston talousarvio;
	(e) nimittää pääjohtaja ja tarvittaessa jatkaa tai lyhentää tämän toimikautta tai erottaa tämä tehtävästään;
	(f) päättää tekoälytoimiston sisäisten rakenteiden perustamisesta ja tarvittaessa näiden tekoälytoimiston tehtävien hoitamiseen tarvittavien sisäisten rakenteiden muuttamisesta.

Tarkistus  534

 

Ehdotus asetukseksi

-57 c artikla (uusi)

Komission teksti	Tarkistus
	-57 c artikla
	Hallintoneuvoston puheenjohtaja
	1. Hallintoneuvosto valitsee äänivaltaisten jäsentensä keskuudesta puheenjohtajan ja kaksi varapuheenjohtajaa yksinkertaisella enemmistöllä.
	2. Puheenjohtajan ja varapuheenjohtajien toimikausi on neljä vuotta. Puheenjohtajan ja varapuheenjohtajien toimikausi voidaan uusia kerran.

Tarkistus  535

 

Ehdotus asetukseksi

57 artikla – 3 jakso – otsikko

Komission teksti	Tarkistus
Tekoälyneuvoston rakenne	Sihteeristö

Tarkistus  536

 

Ehdotus asetukseksi

57 artikla – 1 kohta

Komission teksti	Tarkistus
1. Tekoälyneuvoston muodostavat kansalliset valvontaviranomaiset, joita edustaa kyseisen viranomaisen johtaja tai vastaava korkean tason virkamies, sekä Euroopan tietosuojavaltuutettu. Kokouksiin voidaan kutsua myös muita kansallisia viranomaisia, jos käsitellyt asiat ovat niiden kannalta merkityksellisiä.	1. Sihteeristön toimintaa johtaa pääjohtaja. Pääjohtaja on vastuussa toiminnastaan hallintoneuvostolle. Pääjohtaja ei saa pyytää eikä ottaa vastaan ohjeita miltään hallitukselta tai muulta elimeltä, sanotun kuitenkaan rajoittamatta hallintoneuvoston ja unionin toimielinten toimivaltaa.

Tarkistus  537

 

Ehdotus asetukseksi

57 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tekoälyneuvosto hyväksyy työjärjestyksensä komission hyväksynnän saatuaan jäsentensä yksinkertaisella enemmistöllä. Työjärjestys sisältää myös 58 artiklassa lueteltujen tekoälyneuvoston tehtävien suorittamiseen liittyvät operatiiviset näkökohdat. Tekoälyneuvosto voi tarvittaessa perustaa alaryhmiä tiettyjen kysymysten tarkastelua varten.	2. Pääjohtaja osallistuu kuulemistilaisuuksiin kaikista tekoälytoimiston toimintaan liittyvistä asioista ja raportoi pääjohtajan tehtävien hoidosta, kun Euroopan parlamentti tai neuvosto sitä pyytää.

Tarkistus  538

 

Ehdotus asetukseksi

57 artikla – 3 kohta

Komission teksti	Tarkistus
3. Tekoälyneuvoston puheenjohtajana toimii komissio. Komissio kutsuu kokoukset koolle ja laatii esityslistan tämän asetuksen mukaisten tekoälyneuvoston tehtävien ja sen työjärjestyksen mukaisesti. Komissio antaa hallinnollista ja analyyttistä tukea tämän asetuksen mukaiselle tekoälyneuvoston toiminnalle.	3. Pääjohtaja edustaa tekoälytoimistoa, myös tekoälyalan yhteistyötä käsittelevillä kansainvälisillä foorumeilla.

Tarkistus  539

 

Ehdotus asetukseksi

57 artikla – 4 kohta

Komission teksti	Tarkistus
4. Tekoälyneuvosto voi kutsua ulkopuolisia asiantuntijoita ja tarkkailijoita kokouksiinsa ja käydä keskusteluja asianomaisten kolmansien osapuolten kanssa oman toimintansa tueksi asianmukaisessa laajuudessa. Tätä varten komissio voi helpottaa tiedonvaihtoa tekoälyneuvoston ja muiden unionin elinten, laitosten, virastojen ja neuvoa-antavien ryhmien välillä.	4. Sihteeristö antaa hallintoneuvostolle ja neuvoa-antavalle foorumille tekoälytoimiston tehtävien hoitamiseksi tarvittavaa analyyttistä, hallinnollista ja logistista tukea, muun muassa
	(a) panemalla täytäntöön hallintoneuvoston hyväksymät päätökset, ohjelmat ja toiminnot;
	(b) laatimalla vuosittain yhtenäisen ohjelma-asiakirjan luonnoksen, talousarvioesityksen, tekoälytoimiston vuotuisen toimintakertomuksen ja tekoälytoimiston lausuntojen ja kantojen luonnokset sekä toimittamalla ne hallintoneuvostolle;
	(c) koordinoimalla toimintaa tekoälyalan kansainvälisissä yhteistyöfoorumeissa.

Tarkistus  540

 

Ehdotus asetukseksi

58 artikla – 4 jakso – otsikko

Komission teksti	Tarkistus
Tekoälyneuvoston tehtävät	Neuvoa-antava foorumi

Tarkistus  541

 

Ehdotus asetukseksi

58 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
Neuvoessaan ja avustaessaan komissiota 56 artiklan 2 kohdan mukaisesti tekoälyneuvoston tulee erityisesti	Neuvoa-antava foorumi välittää tekoälytoimistolle sidosryhmien näkemykset tähän asetukseen liittyvistä asioista, erityisesti 56 b artiklan l alakohdassa säädettyjen tehtävien osalta.

Tarkistus  542

 

Ehdotus asetukseksi

58 artikla – 2 kohta (uusi)

Komission teksti	Tarkistus
	Neuvoa-antavan foorumin jäsenistössä on oltava tasapainoinen edustus eri sidosryhmistä, joita ovat muun muassa toimiala, startup-yritykset, pk-yritykset, kansalaisyhteiskunta, työmarkkinaosapuolet ja tiedeyhteisö. Kaupallisten ja ei-kaupallisten etujen, sekä kaupallisten etujen osalta pk-yritysten ja muiden yritysten, on oltava tasapainoisesti edustettuina neuvoa-antavan foorumin jäsenistössä.

Tarkistus  543

 

Ehdotus asetukseksi

58 artikla – 3 kohta (uusi)

Komission teksti	Tarkistus
	Hallintoneuvosto nimittää neuvoa-antavan foorumin jäsenet tekoälytoimiston työjärjestyksessä vahvistetun valintamenettelyn mukaisesti, ottaen huomioon avoimuuden tarpeen ja noudattaen 2 kohdassa säädettyjä kriteereitä.

Tarkistus  544

 

Ehdotus asetukseksi

58 artikla – 4 kohta (uusi)

Komission teksti	Tarkistus
	Neuvoa-antavan foorumin jäsenten toimikausi on kaksi vuotta, ja sitä voidaan jatkaa enintään neljällä vuodella.

Tarkistus  545

 

Ehdotus asetukseksi

58 artikla – 5 kohta (uusi)

Komission teksti	Tarkistus
	Euroopan standardointikomitea (CEN), Euroopan sähkötekniikan standardointikomitea (Cenelec) ja Euroopan telealan standardointilaitos (ETSI) ovat neuvoa-antavan foorumin pysyviä jäseniä. Yhteinen tutkimuskeskus on pysyvä jäsen, jolla ei ole äänioikeutta.

Tarkistus  546

 

Ehdotus asetukseksi

58 artikla – 6 kohta (uusi)

Komission teksti	Tarkistus
	Neuvoa-antava foorumi laatii työjärjestyksensä. Se valitsee jäsentensä keskuudesta kaksi puheenjohtajaa noudattaen 2 kohdassa säädettyjä kriteereitä. Puheenjohtajien toimikausi on kaksi vuotta, ja se voidaan uusia kerran.

Tarkistus  547

 

Ehdotus asetukseksi

58 artikla – 7 kohta (uusi)

Komission teksti	Tarkistus
	Neuvoa-antava foorumi kokoontuu vähintään neljä kertaa vuodessa. Neuvoa-antava foorumi voi kutsua kokouksiinsa asiantuntijoita ja muita sidosryhmiä. Pääjohtaja voi osallistua neuvoa-antavan foorumin kokouksiin oma-aloitteisesti.

Tarkistus  548

 

Ehdotus asetukseksi

58 artikla – 8 kohta (uusi)

Komission teksti	Tarkistus
	Edellä 1 kohdassa säädettyä tehtäväänsä hoitaessaan neuvoa-antava foorumi voi laatia lausuntoja, suosituksia ja kirjallisia kannanottoja.

Tarkistus  549

 

Ehdotus asetukseksi

58 artikla – 9 kohta (uusi)

Komission teksti	Tarkistus
	Neuvoa-antava foorumi voi perustaa pysyviä tai tilapäisiä alaryhmiä tarpeen mukaan tarkastelemaan tämän asetuksen tavoitteisiin liittyviä erityiskysymyksiä.

Tarkistus  550

 

Ehdotus asetukseksi

58 artikla – 10 kohta (uusi)

Komission teksti	Tarkistus
	Neuvoa-antava foorumi laatii toiminnastaan vuosikertomuksen. Kertomus asetetaan julkisesti saataville.

Tarkistus  551

 

Ehdotus asetukseksi

58 a artikla – 5 jakso – otsikko

Komission teksti	Tarkistus
	Eurooppalaiset vertailuanalyysiviranomaiset

Tarkistus  552

 

Ehdotus asetukseksi

58 a artikla (uusi)

Komission teksti	Tarkistus
	58 a artikla
	Vertailuanalyysi
	Edellä 15 artiklan 1 a kohdassa tarkoitettujen eurooppalaisten vertailuanalyysiviranomaisten ja tekoälytoimiston on tiiviissä yhteistyössä kansainvälisten kumppaneiden kanssa kehitettävä yhdessä kustannustehokkaita ohjeita ja valmiuksia tekoälyjärjestelmien ja tekoälykomponenttien näkökohtien mittaamista ja vertailemista varten, erityisesti kun on kyse perusmalleista, joilla on merkitystä tämän asetuksen noudattamisen ja täytäntöönpanon kannalta ja jotka perustuvat yleisesti tunnustettuun alan viimeisimpään kehitykseen, myös asiaankuuluvissa yhdenmukaistetuissa standardeissa esitetyllä tavalla.

Tarkistus  553

 

Ehdotus asetukseksi

59 artikla – otsikko

Komission teksti	Tarkistus
Kansallisten toimivaltaisten viranomaisten nimeäminen	Kansallisten valvontaviranomaisten nimeäminen

Tarkistus  554

 

Ehdotus asetukseksi

59 artikla – 1 kohta

Komission teksti	Tarkistus
1. Kunkin jäsenvaltion on perustettava tai nimettävä kansalliset toimivaltaiset viranomaiset tämän asetuksen soveltamisen ja täytäntöönpanon varmistamiseksi. Kansallisten toimivaltaisten viranomaisten on oltava organisaatioltaan sellaisia, että niiden toimien ja tehtävien objektiivisuus ja puolueettomuus on turvattu.	1. Kunkin jäsenvaltion on viimeistään ... päivänä ...kuuta ... [kolmen kuukauden kuluttua tämän asetuksen voimaantulopäivästä] nimettävä yksi kansallinen valvontaviranomainen, jonka on oltava organisaatioltaan sellainen, että sen toimien ja tehtävien objektiivisuus ja puolueettomuus on turvattu.

Tarkistus  555

 

Ehdotus asetukseksi

59 artikla – 2 kohta

Komission teksti	Tarkistus
2. Kunkin jäsenvaltion on nimettävä kansallisten toimivaltaisten viranomaisten joukosta kansallinen valvontaviranomainen. Kansallisen valvontaviranomaisen on toimittava ilmoittamisesta vastaavana viranomaisena ja markkinavalvontaviranomaisena, paitsi jos jäsenvaltiolla on organisatorisia ja hallinnollisia syitä nimetä useampi kuin yksi viranomainen.	2. Kansallisen valvontaviranomaisen on varmistettava tämän asetuksen soveltaminen ja täytäntöönpano. Kun on kyse suuririskisistä tekoälyjärjestelmistä, jotka liittyvät tuotteisiin, joihin sovelletaan liitteessä II lueteltuja säädöksiä, kulloisenkin säädöksen mukaisesti nimettyjen toimivaltaisten viranomaisten on edelleen johdettava hallinnollisia menettelyjä. Jos asiaan kuitenkin liittyy yksinomaan tämän asetuksen soveltamisalaan kuuluvia seikkoja, kyseisiä toimivaltaisia viranomaisia sitovat tämän asetuksen mukaisesti nimetyn kansallisen valvontaviranomaisen määräämät näihin seikkoihin liittyvät toimenpiteet. Kansallisen valvontaviranomaisen on toimittava markkinavalvontaviranomaisena.

Tarkistus  556

 

Ehdotus asetukseksi

59 artikla – 3 kohta

Komission teksti	Tarkistus
3. Jäsenvaltioiden on ilmoitettava nimeämisestä tai nimeämisistä komissiolle sekä tarvittaessa syyt useamman kuin yhden viranomaisen nimeämiselle.	3. Jäsenvaltioiden on viimeistään ... päivänä ...kuuta ... [kolmen kuukauden kuluttua tämän asetuksen voimaantulopäivästä] asetettava julkisesti saataville ja ilmoitettava tekoälytoimistolle ja komissiolle kansallisen valvontaviranomaisen nimi ja ilmoitettava, miten siihen voi ottaa yhteyttä. Kansallinen valvontaviranomainen toimii keskitettynä yhteyspisteenä tämän asetuksen tarkoituksia varten, ja siihen olisi voitava ottaa yhteyttä sähköisen viestinnän keinoin.

Tarkistus  557

 

Ehdotus asetukseksi

59 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jäsenvaltioiden on varmistettava, että kansallisille toimivaltaisille viranomaisille annetaan riittävät taloudelliset ja henkilöstöresurssit, jotta ne voivat hoitaa tämän asetuksen mukaiset tehtävänsä. Kansallisilla toimivaltaisilla viranomaisilla on erityisesti oltava pysyvästi käytettävissään riittävä määrä henkilöstöä, jonka pätevyyteen ja asiantuntemukseen sisältyy tekoälyteknologioiden, datan ja datalaskennan, perusoikeuksien ja terveys- ja turvallisuusriskien syvällinen ymmärtäminen sekä voimassa olevien standardien ja oikeudellisten vaatimusten tuntemus.	4. Jäsenvaltioiden on varmistettava, että kansallisille valvontaviranomaisille annetaan riittävät tekniset, taloudelliset ja henkilöstöresurssit ja infrastruktuuri, jotta ne voivat hoitaa tämän asetuksen mukaiset tehtävänsä tehokkaasti. Kansallisilla valvontaviranomaisilla on erityisesti oltava pysyvästi käytettävissään riittävä määrä henkilöstöä, jonka pätevyyteen ja asiantuntemukseen sisältyy tekoälyteknologioiden, datan ja datalaskennan, henkilötietojen suojan, kyberturvallisuuden, kilpailuoikeuden, perusoikeuksien ja terveys- ja turvallisuusriskien syvällinen ymmärtäminen sekä voimassa olevien standardien ja oikeudellisten vaatimusten tuntemus. Jäsenvaltioiden on arvioitava ja, jos se katsotaan tarpeelliseksi, päivitettävä tässä kohdassa tarkoitettuja pätevyys- ja resurssivaatimuksia vuosittain.

Tarkistus  558

 

Ehdotus asetukseksi

59 artikla – 4 a kohta (uusi)

Komission teksti	Tarkistus
	4 a. Kunkin kansallisen valvontaviranomaisen on käytettävä valtuuksiaan ja hoidettava tehtävänsä riippumattomasti, puolueettomasti ja ilman ennakkoasenteita. Kun kunkin kansallisen valvontaviranomaisen jäsenet hoitavat tehtäviään ja käyttävät valtuuksiaan tämän asetuksen nojalla, he eivät saa pyytää eivätkä ottaa ohjeita miltään elimeltä, ja heidän on pidätyttävä kaikista toimista, jotka ovat ristiriidassa heidän tehtäviensä kanssa.

Tarkistus  559

 

Ehdotus asetukseksi

59 artikla – 4 b kohta (uusi)

Komission teksti	Tarkistus
	4 b. Kansallisten valvontaviranomaisten on täytettävä kyberturvallisuutta koskevat vähimmäisvaatimukset, jotka asetetaan direktiivin (EU) 2022/2555 mukaisesti keskeisten palvelujen tarjoajiksi määritetyille julkishallinnon toimijoille.

Tarkistus  560

 

Ehdotus asetukseksi

59 artikla – 4 c kohta (uusi)

Komission teksti	Tarkistus
	4 c. Kansallisen valvontaviranomaisen on tehtäviään suorittaessaan noudatettava 70 artiklassa säädettyjä luottamuksellisuutta koskevia velvoitteita.

Tarkistus  561

 

Ehdotus asetukseksi

59 artikla – 5 kohta

Komission teksti	Tarkistus
5. Jäsenvaltioiden on raportoitava komissiolle vuosittain kansallisten toimivaltaisten viranomaisten taloudellisten ja henkilöresurssien tilasta ja arvioitava niiden riittävyyttä. Komissio toimittaa nämä tiedot tekoälyneuvostolle keskustelua ja mahdollisia suosituksia varten.	5. Jäsenvaltioiden on raportoitava komissiolle vuosittain kansallisen valvontaviranomaisen taloudellisten ja henkilöresurssien tilasta ja arvioitava niiden riittävyyttä. Komissio toimittaa nämä tiedot tekoälytoimistolle keskustelua ja mahdollisia suosituksia varten.

Tarkistus  562

 

Ehdotus asetukseksi

59 artikla – 6 kohta

Komission teksti	Tarkistus
6. Komissio helpottaa kokemusten vaihtoa kansallisten toimivaltaisten viranomaisten välillä.	Poistetaan.

Tarkistus  563

 

Ehdotus asetukseksi

59 artikla – 7 kohta

Komission teksti	Tarkistus
7. Kansalliset toimivaltaiset viranomaiset voivat antaa ohjeita ja neuvoja tämän asetuksen täytäntöönpanosta, myös pienille tarjoajille. Kun kansalliset toimivaltaiset viranomaiset aikovat antaa tekoälyjärjestelmää koskevia ohjeita ja neuvoja muun unionin lainsäädännön kattamilla aloilla, kyseisen unionin lainsäädännön nojalla toimivaltaisia kansallisia viranomaisia on tarvittaessa kuultava. Jäsenvaltiot voivat myös perustaa yhden keskitetyn yhteyspisteen toimijoiden kanssa käytävää yhteydenpitoa varten.	7. Kansalliset valvontaviranomaiset voivat antaa ohjeita ja neuvoja tämän asetuksen täytäntöönpanosta, myös pk-yrityksille ja startup-yrityksille, ottaen huomioon tekoälytoimiston tai komission ohjeet ja neuvot. Kun kansalliset valvontaviranomaiset aikovat antaa tekoälyjärjestelmää koskevia ohjeita ja neuvoja muun unionin lainsäädännön kattamilla aloilla, kyseiset ohjeet on laadittava kuullen tarvittaessa kyseisen unionin lainsäädännön nojalla toimivaltaisia kansallisia viranomaisia.

Tarkistus  564

 

Ehdotus asetukseksi

59 artikla – 8 kohta

Komission teksti	Tarkistus
8. Kun unionin toimielimet, virastot ja elimet kuuluvat tämän asetuksen soveltamisalaan, Euroopan tietosuojavaltuutettu toimii niiden valvonnasta vastaavana toimivaltaisena viranomaisena.	8. Kun unionin toimielimet, virastot ja elimet kuuluvat tämän asetuksen soveltamisalaan, Euroopan tietosuojavaltuutettu toimii niiden valvonnasta ja koordinoinnista vastaavana toimivaltaisena viranomaisena.

Tarkistus  565

 

Ehdotus asetukseksi

59 a artikla (uusi)

Komission teksti	Tarkistus
	59 a artikla
	Kansallisten valvontaviranomaisten välinen yhteistyömekanismi tapauksissa, joissa on osallisena vähintään kaksi jäsenvaltiota
	1. Kunkin kansallisen valvontaviranomaisen on hoidettava sille tämän asetuksen mukaisesti annetut tehtävät ja käytettävä sille tämän asetuksen mukaisesti annettuja valtuuksia oman jäsenvaltionsa alueella.
	2. Tapauksissa, joissa on osallisina vähintään kaksi kansallista valvontaviranomaista, johtavana valvontaviranomaisena pidetään sen jäsenvaltion kansallista valvontaviranomaista, jossa rikkominen tapahtui.
	3. Edellä 2 kohdassa tarkoitetuissa tapauksissa asianomaisten valvontaviranomaisten on tehtävä yhteistyötä ja toimitettava toisilleen kaikki merkitykselliset tiedot hyvissä ajoin. Kansallisten valvontaviranomaisten on tehtävä yhteistyötä yhteisymmärrykseen pääsemiseksi.

Tarkistus  566

 

Ehdotus asetukseksi

VII osasto

Komission teksti	Tarkistus
VII ERILLISIÄ SUURIRISKISIÄ TEKOÄLYJÄRJESTELMIÄ KOSKEVA EU:N TIETOKANTA	SUURIRISKISIÄ TEKOÄLYJÄRJESTELMIÄ KOSKEVA EU:N TIETOKANTA

Tarkistus  567

 

Ehdotus asetukseksi

60 artikla – otsikko

Komission teksti	Tarkistus
Erillisiä suuririskisiä tekoälyjärjestelmiä koskeva EU:n tietokanta	Suuririskisiä tekoälyjärjestelmiä koskeva EU:n tietokanta

Tarkistus  568

 

Ehdotus asetukseksi

60 artikla – 1 kohta

Komission teksti	Tarkistus
1. Komissio perustaa yhteistyössä jäsenvaltioiden kanssa EU:n tietokannan, joka sisältää 2 kohdassa tarkoitetut tiedot 6 artiklan 2 kohdassa tarkoitetuista suuririskisistä tekoälyjärjestelmistä, jotka on rekisteröity 51 artiklan mukaisesti, ja pitää sitä yllä.	1. Komissio perustaa yhteistyössä jäsenvaltioiden kanssa julkisen EU:n tietokannan, joka sisältää 2 ja 2 a kohdassa tarkoitetut tiedot 6 artiklan 2 kohdassa tarkoitetuista suuririskisistä tekoälyjärjestelmistä, jotka on rekisteröity 51 artiklan mukaisesti, ja pitää sitä yllä.

Tarkistus  569

 

Ehdotus asetukseksi

60 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tarjoajien on tallennettava tietokantaan liitteessä VIII luetellut tiedot. Komissio antaa niille teknistä ja hallinnollista tukea.	2. Tarjoajien on tallennettava tietokantaan liitteessä VIII olevassa A osassa luetellut tiedot.

Tarkistus  570

 

Ehdotus asetukseksi

60 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Käyttöönottajien, jotka ovat viranomaisia tai unionin toimielimiä, elimiä, laitoksia tai virastoja tai toimivat näiden puolesta, ja käyttöönottajien, jotka ovat 51 artiklan 1 a ja 1 b kohdassa tarkoitettuja yrityksiä, on tallennettava EU:n tietokantaan liitteessä VIII olevassa B osassa luetellut tiedot.

Tarkistus  571

 

Ehdotus asetukseksi

60 artikla – 3 kohta

Komission teksti	Tarkistus
3. EU:n tietokannan sisältämien tietojen on oltava yleisön saatavilla.	3. EU:n tietokannan sisältämien tietojen on oltava vapaasti yleisön saatavilla, käyttäjäystävällisiä ja saavutettavia, helposti selattavia ja koneluettavia, ja niiden on sisällettävä standardoidun protokollan perusteella jäsennettyä digitaalista dataa.

Tarkistus  572

 

Ehdotus asetukseksi

60 artikla – 4 kohta

Komission teksti	Tarkistus
4. EU:n tietokannassa saa olla henkilötietoja vain siinä määrin kuin se on tarpeen tämän asetuksen mukaista tietojen keräämistä ja käsittelyä varten. Näihin tietoihin on sisällyttävä niiden luonnollisten henkilöiden nimet ja yhteystiedot, jotka ovat vastuussa järjestelmän rekisteröinnistä ja joilla on laillinen oikeus edustaa tarjoajaa.	4. EU:n tietokannassa saa olla henkilötietoja vain siinä määrin kuin se on tarpeen tämän asetuksen mukaista tietojen keräämistä ja käsittelyä varten. Näihin tietoihin on sisällyttävä niiden luonnollisten henkilöiden nimet ja yhteystiedot, jotka ovat vastuussa järjestelmän rekisteröinnistä ja joilla on laillinen oikeus edustaa tarjoajaa tai käyttöönottajaa, joka on viranomainen tai unionin toimielin, elin, laitos tai virasto, tai näiden puolesta toimivaa käyttöönottajaa tai käyttöönottajaa, joka on 51 artiklan 1 a kohdan b alakohdassa ja 1 b kohdassa tarkoitettu yritys.

Tarkistus  573

 

Ehdotus asetukseksi

60 artikla – 5 kohta

Komission teksti	Tarkistus
5. Komissio on EU:n tietokannan rekisterinpitäjä. Se varmistaa myös riittävän teknisen ja hallinnollisen tuen tarjoajille.	5. Komissio on EU:n tietokannan rekisterinpitäjä. Se varmistaa myös riittävän teknisen ja hallinnollisen tuen tarjoajille ja tarvittaessa käyttöönottajille.
	Tietokannan on oltava direktiivin 2019/882 liitteessä I vahvistettujen esteettömyysvaatimusten mukainen.

Tarkistus  574

 

Ehdotus asetukseksi

61 artikla – 2 kohta

Komission teksti	Tarkistus
2. Markkinoille saattamisen jälkeisessä seurantajärjestelmässä on aktiivisesti ja järjestelmällisesti kerättävä, dokumentoitava ja analysoitava käyttäjien toimittamia tai muista lähteistä kerättyjä tietoja suuririskisten tekoälyjärjestelmien suorituskyvystä niiden koko elinkaaren ajan, ja sen on annettava tarjoajalle mahdollisuus arvioida, täyttävätkö tekoälyjärjestelmät jatkuvasti III osaston 2 luvussa vahvistetut vaatimukset.	2. Markkinoille saattamisen jälkeisessä seurantajärjestelmässä on aktiivisesti ja järjestelmällisesti kerättävä, dokumentoitava ja analysoitava käyttöönottajien toimittamia tai muista lähteistä kerättyjä tietoja suuririskisten tekoälyjärjestelmien suorituskyvystä niiden koko käyttöiän ajan, ja sen on annettava tarjoajalle mahdollisuus arvioida, täyttävätkö tekoälyjärjestelmät jatkuvasti III osaston 2 luvussa vahvistetut vaatimukset. Markkinoille saattamisen jälkeiseen seurantaan on tarvittaessa sisällyttävä analyysi vuorovaikutuksesta muun tekoälyjärjestelmäympäristön kanssa, mukaan lukien muut laitteet ja ohjelmistot, ottaen huomioon säännöt, joita sovelletaan sellaisilla aloilla kuin tietosuoja, teollis- ja tekijänoikeudet ja kilpailuoikeus.

Tarkistus  575

 

Ehdotus asetukseksi

61 artikla – 3 kohta

Komission teksti	Tarkistus
3. Markkinoille saattamisen jälkeisen seurantajärjestelmän on perustuttava markkinoille saattamisen jälkeistä seurantaa koskevaan suunnitelmaan. Markkinoille saattamisen jälkeistä seurantaa koskevan suunnitelman on oltava osa liitteessä IV tarkoitettua teknistä dokumentaatiota. Komissio hyväksyy täytäntöönpanosäädöksen, jossa vahvistetaan yksityiskohtaiset säännökset markkinoille saattamisen jälkeistä seurantaa koskevan suunnitelman mallista ja suunnitelmaan sisällytettävistä tiedoista.	3. Markkinoille saattamisen jälkeisen seurantajärjestelmän on perustuttava markkinoille saattamisen jälkeistä seurantaa koskevaan suunnitelmaan. Markkinoille saattamisen jälkeistä seurantaa koskevan suunnitelman on oltava osa liitteessä IV tarkoitettua teknistä dokumentaatiota. Komissio hyväksyy täytäntöönpanosäädöksen, jossa vahvistetaan yksityiskohtaiset säännökset markkinoille saattamisen jälkeistä seurantaa koskevan suunnitelman mallista ja suunnitelmaan sisällytettävistä tiedoista, viimeistään ... päivänä ...kuuta ... [12 kuukauden kuluttua tämän asetuksen voimaantulopäivästä].

Tarkistus  576

 

Ehdotus asetukseksi

62 artikla – otsikko

Komission teksti	Tarkistus
Vakavista vaaratilanteista ja toimintahäiriöistä ilmoittaminen	Vakavista vaaratilanteista ilmoittaminen

Tarkistus  577

 

Ehdotus asetukseksi

62 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Unionin markkinoille saatettujen suuririskisten tekoälyjärjestelmien tarjoajien on ilmoitettava kaikista kyseisten järjestelmien vakavista vaaratilanteista tai kaikista toimintahäiriöistä, jotka rikkovat perusoikeuksien suojaamiseen tarkoitetun unionin lainsäädännön mukaisia velvoitteita, niiden jäsenvaltioiden markkinavalvontaviranomaisille, joissa kyseinen vaaratilanne tai rikkominen tapahtui.	1. Unionin markkinoille saatettujen suuririskisten tekoälyjärjestelmien tarjoajien ja, jos käyttöönottajat ovat havainneet vakavan vaaratilanteen, käyttöönottajien on ilmoitettava kaikista kyseisten järjestelmien vakavista vaaratilanteista, jotka rikkovat perusoikeuksien suojaamiseen tarkoitetun unionin lainsäädännön mukaisia velvoitteita, niiden jäsenvaltioiden kansallisille valvontaviranomaisille, joissa kyseinen vaaratilanne tai rikkominen tapahtui.

Tarkistus  578

 

Ehdotus asetukseksi

62 artikla – 1 kohta – 1 alakohta

Komission teksti	Tarkistus
Tällainen ilmoitus on tehtävä välittömästi sen jälkeen, kun tarjoaja on todennut syy-yhteyden tekoälyjärjestelmän ja vaaratilanteen tai toimintahäiriön välillä tai tällaisen yhteyden kohtuullisen todennäköisyyden, ja joka tapauksessa viimeistään 15 päivän kuluttua siitä, kun vakava vaaratilanne tai toimintahäiriö on tullut tarjoajan tietoon.	Tällainen ilmoitus on tehtävä ilman aiheetonta viivytystä sen jälkeen, kun tarjoaja tai tapauksen mukaan käyttöönottaja on todennut syy-yhteyden tekoälyjärjestelmän ja vaaratilanteen välillä tai tällaisen yhteyden kohtuullisen todennäköisyyden, ja joka tapauksessa viimeistään 72 tunnin kuluttua siitä, kun vakava vaaratilanne on tullut tarjoajan tai tapauksen mukaan käyttöönottajan tietoon.

Tarkistus  579

 

Ehdotus asetukseksi

62 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Todettuaan syy-yhteyden tekoälyjärjestelmän ja vakavan vaaratilanteen välillä tai tällaisen yhteyden kohtuullisen todennäköisyyden tarjoajien on toteutettava asianmukaiset korjaavat toimenpiteet 21 artiklan mukaisesti.

Tarkistus  580

 

Ehdotus asetukseksi

62 artikla – 2 kohta

Komission teksti	Tarkistus
2. Saatuaan ilmoituksen perusoikeuksien suojaamiseen tarkoitetun unionin lainsäädännön mukaisten velvoitteiden rikkomisesta markkinavalvontaviranomaisen on ilmoitettava asiasta 64 artiklan 3 kohdassa tarkoitetuille kansallisille viranomaisille tai elimille. Komissio laatii erityiset ohjeet, joilla helpotetaan 1 kohdassa säädettyjen velvoitteiden noudattamista. Ohjeet on annettava viimeistään 12 kuukauden kuluttua tämän asetuksen voimaantulosta.	2. Saatuaan ilmoituksen perusoikeuksien suojaamiseen tarkoitetun unionin lainsäädännön mukaisten velvoitteiden rikkomisesta kansallisen valvontaviranomaisen on ilmoitettava asiasta 64 artiklan 3 kohdassa tarkoitetuille kansallisille viranomaisille tai elimille. Komissio laatii erityiset ohjeet, joilla helpotetaan 1 kohdassa säädettyjen velvoitteiden noudattamista. Ohjeet on annettava viimeistään ... päivänä ...kuuta ... [tämän asetuksen voimaantulo], ja niitä on arvioitava säännöllisesti.

Tarkistus  581

 

Ehdotus asetukseksi

62 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Kansallisen valvontaviranomaisen on toteutettava asianmukaiset toimenpiteet seitsemän päivän kuluessa 1 kohdassa tarkoitetun ilmoituksen vastaanottamisesta. Jos rikkominen tapahtuu tai todennäköisesti tapahtuu muissa jäsenvaltioissa, kansallisen valvontaviranomaisen on ilmoitettava asiasta tekoälytoimistolle ja kyseisten jäsenvaltioiden asiaankuuluville kansallisille valvontaviranomaisille.

Tarkistus  582

 

Ehdotus asetukseksi

62 artikla – 3 kohta

Komission teksti	Tarkistus
3. Sellaisten liitteessä III olevan 5 kohdan b alakohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien osalta, joita saattavat markkinoille tai ottavat käyttöön tarjoajat, jotka ovat direktiivillä 2013/36/EU säänneltyjä luottolaitoksia, sekä sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat asetuksen (EU) 2017/745 ja asetuksen (EU) 2017/746 soveltamisalaan kuuluvien laitteiden turvakomponentteina tai jotka itse ovat laitteita, vakavista vaaratilanteista tai toimintahäiriöistä ilmoittaminen on rajoitettava tapauksiin, jotka merkitsevät perusoikeuksien suojaamiseen tarkoitetun unionin lainsäädännön mukaisten velvoitteiden rikkomista.	3. Sellaisten liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien osalta, joita saattavat markkinoille tai ottavat käyttöön tarjoajat, joihin sovelletaan unionin säädöksiä, joissa säädetään tässä asetuksessa säädettyjä velvoitteita vastaavista raportointivelvoitteista, sellaisista vakavista vaaratilanteista ilmoittaminen, joissa rikotaan unionin lainsäädännön mukaisia perusoikeuksia, on siirrettävä kansallisen valvontaviranomaisen tehtäväksi.

Tarkistus  583

 

Ehdotus asetukseksi

62 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Kansallisten valvontaviranomaisten on ilmoitettava tekoälytoimistolle vuosittain niille tämän artiklan mukaisesti ilmoitetuista vakavista vaaratilanteista.

Tarkistus  584

 

Ehdotus asetukseksi

63 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Tämän asetuksen soveltamisalaan kuuluviin tekoälyjärjestelmiin sovelletaan asetusta (EU) 2019/1020. Tämän asetuksen tehokkaan täytäntöönpanon varmistamiseksi kuitenkin	1. Tämän asetuksen soveltamisalaan kuuluviin tekoälyjärjestelmiin ja perusmalleihin sovelletaan asetusta (EU) 2019/1020. Tämän asetuksen tehokkaan täytäntöönpanon varmistamiseksi kuitenkin

Tarkistus  585

 

Ehdotus asetukseksi

63 artikla – 1 kohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) kansallisten valvontaviranomaisten on toimittava tämän asetuksen mukaisina markkinavalvontaviranomaisina, ja niillä on samat valtuudet ja velvollisuudet kuin asetuksen (EU) 2019/1020 mukaisilla markkinavalvontaviranomaisilla.

Tarkistus  586

 

Ehdotus asetukseksi

63 artikla – 2 kohta

Komission teksti	Tarkistus
2. Kansallisen valvontaviranomaisen on raportoitava säännöllisesti komissiolle asiaankuuluvien markkinavalvontatoimien tuloksista. Kansallisen valvontaviranomaisen on ilmoitettava viipymättä komissiolle ja asianomaisille kansallisille kilpailuviranomaisille kaikki markkinavalvontatoimien yhteydessä esiin tulleet tiedot, joilla voi olla merkitystä unionin kilpailulainsäädännön soveltamisen kannalta.	2. Kansallisen valvontaviranomaisen on raportoitava vuosittain komissiolle ja tekoälytoimistolle asiaankuuluvien markkinavalvontatoimien tuloksista. Kansallisen valvontaviranomaisen on ilmoitettava viipymättä komissiolle ja asianomaisille kansallisille kilpailuviranomaisille kaikki markkinavalvontatoimien yhteydessä esiin tulleet tiedot, joilla voi olla merkitystä unionin kilpailulainsäädännön soveltamisen kannalta.

Tarkistus  587

 

Ehdotus asetukseksi

63 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Tämän asetuksen tehokkaan täytäntöönpanon varmistamiseksi kansalliset valvontaviranomaiset voivat
	(a) tehdä ennalta ilmoittamattomia paikalla tehtäviä tarkastuksia ja etätarkastuksia suuririskisille tekoälyjärjestelmille;
	(b) hankkia suuririskisiin tekoälyjärjestelmiin liittyviä näytteitä, myös etätarkastusten avulla, käänteismallintaa tekoälyjärjestelmiä ja hankkia näyttöä vaatimustenvastaisuuksien havaitsemiseksi.

Tarkistus  588

 

Ehdotus asetukseksi

63 artikla – 5 kohta

Komission teksti	Tarkistus
5. Sellaisten tekoälyjärjestelmien osalta, jotka on lueteltu liitteessä III olevan 1 kohdan a alakohdassa, siltä osin kuin näitä järjestelmiä käytetään lainvalvontatarkoituksessa, sekä 6 ja 7 kohdassa, jäsenvaltioiden on nimettävä tämän asetuksen soveltamiseksi markkinavalvontaviranomaisiksi joko direktiivin (EU) 2016/680 tai asetuksen 2016/679 mukaiset toimivaltaiset tietosuojavalvontaviranomaiset tai kansalliset toimivaltaiset viranomaiset, jotka valvovat kyseisiä järjestelmiä käyttöön ottavien tai käyttävien lainvalvonta-, maahanmuutto- tai turvapaikkaviranomaisten toimintaa.	5. Sellaisten tekoälyjärjestelmien osalta, joita käytetään lainvalvontatarkoituksessa, jäsenvaltioiden on nimettävä tämän asetuksen soveltamiseksi markkinavalvontaviranomaisiksi direktiivin (EU) 2016/680 tai asetuksen 2016/679 mukaiset toimivaltaiset tietosuojavalvontaviranomaiset.

Tarkistus  589

 

Ehdotus asetukseksi

63 artikla – 7 kohta

Komission teksti	Tarkistus
7. Jäsenvaltioiden on helpotettava koordinointia tämän asetuksen nojalla nimettyjen markkinavalvontaviranomaisten ja muiden sellaisten asiaankuuluvien kansallisten viranomaisten tai elinten välillä, jotka valvovat liitteessä II luetellun unionin yhdenmukaistamislainsäädännön tai muun sellaisen unionin lainsäädännön soveltamista, jolla saattaa olla merkitystä liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien kannalta.	7. Tämän asetuksen nojalla nimettyjen kansallisten valvontaviranomaisten on koordinoitava toimiaan muiden sellaisten asiaankuuluvien kansallisten viranomaisten tai elinten kanssa, jotka valvovat liitteessä II luetellun unionin yhdenmukaistamislainsäädännön tai muun sellaisen unionin lainsäädännön soveltamista, jolla saattaa olla merkitystä liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien kannalta.

Tarkistus  590

 

Ehdotus asetukseksi

64 artikla – 1 kohta

Komission teksti	Tarkistus
1. Markkinavalvontaviranomaisille on toimiensa yhteydessä annettava täysi pääsy dataan ja dokumentaatioon, kuten tarjoajan käyttämiin koulutus-, validointi- ja testausdatajoukkoihin, myös sovellusrajapintojen (API) tai muiden etäkäytön mahdollistavien asianmukaisten teknisten välineiden ja työkalujen kautta.	1. Kansalliselle valvontaviranomaiselle on toimiensa yhteydessä ja sen perustellusta pyynnöstä annettava täysi pääsy tarjoajan tai tapauksen mukaan käyttöönottajan käyttämiin koulutus-, validointi- ja testausdatajoukkoihin, jotka ovat pyynnön tarkoituksen kannalta merkityksellisiä ja ehdottoman välttämättömiä, asianmukaisten teknisten välineiden ja työkalujen kautta.

Tarkistus  591

 

Ehdotus asetukseksi

64 artikla – 2 kohta

Komission teksti	Tarkistus
2. Markkinavalvontaviranomaisille on perustellusta pyynnöstä myönnettävä pääsy tekoälyjärjestelmän lähdekoodiin, jos se on tarpeen sen arvioimiseksi, onko suuririskinen tekoälyjärjestelmä III osaston 2 luvussa vahvistettujen vaatimusten mukainen.	2. Jos se on tarpeen sen arvioimiseksi, onko suuririskinen tekoälyjärjestelmä III osaston 2 luvussa vahvistettujen vaatimusten mukainen, kansalliselle valvontaviranomaiselle on perustellusta pyynnöstä ja sen jälkeen, kun kaikki muut kohtuulliset, myös 1 kohdassa tarkoitetut tavat vaatimustenmukaisuuden todentamiseksi on käytetty ja ne ovat osoittautuneet riittämättömiksi, myönnettävä pääsy tekoälyjärjestelmän koulutusmalleihin ja koulutettuihin malleihin, niiden asiaan liittyvät parametrit mukaan lukien. Kaikkia saatuja 70 artiklan mukaisia tietoja on käsiteltävä luottamuksellisina, niihin on sovellettava voimassa olevaa teollis- ja tekijänoikeuksien ja liikesalaisuuksien suojaa koskevaa unionin lainsäädäntöä, ja ne on poistettava sen tutkimuksen päätyttyä, jota varten tietoja pyydettiin.

Tarkistus  592

 

Ehdotus asetukseksi

64 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Edellä olevat 1 ja 2 kohta eivät vaikuta asianomaisen toimijan asetuksen (EU) 2019/1020 18 artiklan mukaisiin menettelyllisiin oikeuksiin.

Tarkistus  593

 

Ehdotus asetukseksi

64 artikla – 3 kohta

Komission teksti	Tarkistus
3. Kansallisilla viranomaisilla tai elimillä, jotka valvovat tai panevat täytäntöön perusoikeuksien suojelua koskevan unionin lainsäädännön mukaisia velvoitteita liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien käytön yhteydessä, on oltava valtuudet pyytää ja saada käyttöönsä tämän asetuksen nojalla luotu tai ylläpidetty dokumentaatio, kun se on tarpeen niiden toimivaltaan kuuluvien valtuuksien täyttämiseksi niiden lainkäyttöalueella. Asianomaisen viranomaisen tai elimen on ilmoitettava tällaisesta pyynnöstä asianomaisen jäsenvaltion markkinavalvontaviranomaiselle.	3. Kansallisilla viranomaisilla tai elimillä, jotka valvovat tai panevat täytäntöön perusoikeuksien suojelua koskevan unionin lainsäädännön mukaisia velvoitteita liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien käytön yhteydessä, on oltava valtuudet pyytää ja saada käyttöönsä tämän asetuksen nojalla luotu tai ylläpidetty dokumentaatio, kun se on tarpeen niiden toimivaltaan kuuluvien valtuuksien täyttämiseksi niiden lainkäyttöalueella. Asianomaisen viranomaisen tai elimen on ilmoitettava tällaisesta pyynnöstä asianomaisen jäsenvaltion kansalliselle valvontaviranomaiselle.

Tarkistus  594

 

Ehdotus asetukseksi

64 artikla – 4 kohta

Komission teksti	Tarkistus
4. Kunkin jäsenvaltion on viimeistään kolmen kuukauden kuluttua tämän asetuksen voimaantulosta nimettävä 3 kohdassa tarkoitetut viranomaiset tai elimet ja asetettava niiden luettelo julkisesti saataville kansallisen valvontaviranomaisen verkkosivustolla. Jäsenvaltioiden on ilmoitettava luettelo komissiolle ja kaikille muille jäsenvaltioille ja pidettävä se ajan tasalla.	4. Kunkin jäsenvaltion on viimeistään kolmen kuukauden kuluttua tämän asetuksen voimaantulosta nimettävä 3 kohdassa tarkoitetut viranomaiset tai elimet ja asetettava niiden luettelo julkisesti saataville kansallisen valvontaviranomaisen verkkosivustolla. Kansallisten valvontaviranomaisten on ilmoitettava luettelo komissiolle, tekoälytoimistolle ja kaikille muille kansallisille valvontaviranomaisille ja pidettävä se ajan tasalla. Komissio julkaisee erityisellä verkkosivustolla luettelon kaikista toimivaltaisista viranomaisista, jotka jäsenvaltiot ovat nimenneet tämän artiklan mukaisesti.

Tarkistus  595

 

Ehdotus asetukseksi

64 artikla – 5 kohta

Komission teksti	Tarkistus
5. Jos 3 kohdassa tarkoitettu dokumentaatio ei riitä sen selvittämiseen, onko perusoikeuksien suojaamiseksi tarkoitetun unionin lainsäädännön mukaisia velvoitteita rikottu, 3 kohdassa tarkoitettu viranomainen tai elin voi esittää markkinavalvontaviranomaiselle perustellun pyynnön järjestää suuririskisen tekoälyjärjestelmän testaus teknisin keinoin. Markkinavalvontaviranomaisen on järjestettävä testaus pyynnön esittävän viranomaisen tai elimen tiiviillä myötävaikutuksella kohtuullisen ajan kuluessa pyynnön esittämisestä.	5. Jos 3 kohdassa tarkoitettu dokumentaatio ei riitä sen selvittämiseen, onko perusoikeuksien suojaamiseksi tarkoitetun unionin lainsäädännön mukaisia velvoitteita rikottu, 3 kohdassa tarkoitettu viranomainen tai elin voi esittää kansalliselle valvontaviranomaiselle perustellun pyynnön järjestää suuririskisen tekoälyjärjestelmän testaus teknisin keinoin. Kansallisen valvontaviranomaisen on järjestettävä testaus pyynnön esittävän viranomaisen tai elimen tiiviillä myötävaikutuksella kohtuullisen ajan kuluessa pyynnön esittämisestä.

Tarkistus  596

 

Ehdotus asetukseksi

65 artikla – 1 kohta

Komission teksti	Tarkistus
1. Riskin aiheuttavalla tekoälyjärjestelmällä tarkoitetaan tuotetta, joka aiheuttaa asetuksen (EU) 2019/1020 3 artiklan 19 alakohdassa määritellyn riskin, siltä osin kuin on kyse ihmisten terveyteen tai turvallisuuteen tai perusoikeuksien suojeluun kohdistuvista riskeistä.	1. Riskin aiheuttavalla tekoälyjärjestelmällä tarkoitetaan tekoälyjärjestelmää, joka voi vaikuttaa haitallisesti terveyteen ja turvallisuuteen, ihmisten perusoikeuksiin yleensä ja myös työpaikalla, kuluttajansuojaan, ympäristöön, yleiseen turvallisuuteen, demokratiaan tai oikeusvaltioon ja muihin yleisiin etuihin, jotka on suojattu sovellettavalla unionin yhdenmukaistamislainsäädännöllä, tavalla, joka ylittää kohtuuden ja hyväksyttävyyden suhteessa järjestelmän käyttötarkoitukseen tai sen tavanomaisissa tai kohtuudella ennakoitavissa olevissa käyttöolosuhteissa, mukaan lukien sen käyttöikä ja tapauksen mukaan sen käyttöönottoa, asennusta ja huoltoa koskevat vaatimukset.

Tarkistus  597

 

Ehdotus asetukseksi

65 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Jos jäsenvaltion markkinavalvontaviranomaisella on riittävät perusteet katsoa, että tekoälyjärjestelmä aiheuttaa 1 kohdassa tarkoitetun riskin, sen on suoritettava arviointi siitä, täyttääkö kyseinen tekoälyjärjestelmä kaikki tässä asetuksessa säädetyt vaatimukset ja velvoitteet. Jos perusoikeuksien suojeluun liittyviä riskejä esiintyy, markkinavalvontaviranomaisen on ilmoitettava asiasta myös 64 artiklan 3 kohdassa tarkoitetuille asiaankuuluville kansallisille viranomaisille tai elimille. Asianomaisten toimijoiden on tehtävä tarvittaessa yhteistyötä markkinavalvontaviranomaisten ja muiden 64 artiklan 3 kohdassa tarkoitettujen kansallisten viranomaisten tai elinten kanssa.	2. Jos jäsenvaltion kansallisella valvontaviranomaisella on riittävät perusteet katsoa, että tekoälyjärjestelmä aiheuttaa 1 kohdassa tarkoitetun riskin, sen on suoritettava arviointi siitä, täyttääkö kyseinen tekoälyjärjestelmä kaikki tässä asetuksessa säädetyt vaatimukset ja velvoitteet. Jos perusoikeuksiin kohdistuu riskejä, kansallisen valvontaviranomaisen on välittömästi ilmoitettava asiasta myös 64 artiklan 3 kohdassa tarkoitetuille asiaankuuluville kansallisille viranomaisille tai elimille ja tehtävä tiivistä yhteistyötä niiden kanssa. Jos on olemassa riittävä peruste katsoa, että tekoälyjärjestelmä hyödyntää haavoittuvien ryhmien haavoittuvuuksia tai loukkaa heidän oikeuksiaan tahallisesti tai tahattomasti, kansallisella valvontaviranomaisella on velvollisuus tutkia tekoälyjärjestelmän suunnittelutavoitteet, datasyötteet, mallin valinta, täytäntöönpano ja tuotokset. Asianomaisten toimijoiden on tehtävä tarvittaessa yhteistyötä kansallisten valvontaviranomaisten ja muiden 64 artiklan 3 kohdassa tarkoitettujen kansallisten viranomaisten tai elinten kanssa.

Tarkistus  598

 

Ehdotus asetukseksi

65 artikla – 2 kohta – 1 alakohta

Komission teksti	Tarkistus
Jos markkinavalvontaviranomainen toteaa arvioinnin yhteydessä, että tekoälyjärjestelmä ei täytä tässä asetuksessa säädettyjä vaatimuksia ja velvoitteita, sen on vaadittava viipymättä asianomaista toimijaa toteuttamaan kaikki asianmukaiset korjaavat toimenpiteet tekoälyjärjestelmän saattamiseksi vaatimusten mukaiseksi tai tekoälyjärjestelmän poistamiseksi markkinoilta tai sitä koskevan palautusmenettelyn järjestämiseksi sellaisen kohtuullisen ajanjakson kuluessa, joka on oikeassa suhteessa riskin luonteeseen ja jonka se asettaa.	Jos kansallinen valvontaviranomainen tai tapauksen mukaan 64 artiklan 3 kohdassa tarkoitettu kansallinen viranomainen toteaa arvioinnin yhteydessä, että tekoälyjärjestelmä ei täytä tässä asetuksessa säädettyjä vaatimuksia ja velvoitteita, sen on vaadittava viipymättä asianomaista toimijaa toteuttamaan kaikki asianmukaiset korjaavat toimenpiteet tekoälyjärjestelmän saattamiseksi vaatimusten mukaiseksi tai tekoälyjärjestelmän poistamiseksi markkinoilta tai sitä koskevan palautusmenettelyn järjestämiseksi sellaisen kohtuullisen ajanjakson kuluessa, joka on oikeassa suhteessa riskin luonteeseen ja jonka se asettaa ja joka tapauksessa viimeistään 15 työpäivän kuluessa tai siten kuin asiaankuuluvassa unionin yhdenmukaistamislainsäädännössä tapauksen mukaan säädetään.

Tarkistus  599

 

Ehdotus asetukseksi

65 artikla – 2 kohta – 2 alakohta

Komission teksti	Tarkistus
Markkinavalvontaviranomaisten on ilmoitettava tästä asianomaiselle ilmoitetulle laitokselle. Toisessa alakohdassa tarkoitettuihin toimenpiteisiin sovelletaan asetuksen (EU) 2019/1020 18 artiklaa.	Kansallisen valvontaviranomaisen on ilmoitettava tästä asianomaiselle ilmoitetulle laitokselle. Toisessa alakohdassa tarkoitettuihin toimenpiteisiin sovelletaan asetuksen (EU) 2019/1020 18 artiklaa.

Tarkistus  600

 

Ehdotus asetukseksi

65 artikla – 3 kohta

Komission teksti	Tarkistus
3. Kun markkinavalvontaviranomainen katsoo, että vaatimustenvastaisuus ei rajoitu sen kansalliselle alueelle, sen on ilmoitettava komissiolle ja muille jäsenvaltioille arvioinnin tuloksista ja toimenpiteistä, jotka se ovat vaatinut toimijaa toteuttamaan.	3. Kun kansallinen valvontaviranomainen katsoo, että vaatimustenvastaisuus ei rajoitu sen kansalliselle alueelle, sen on ilman aiheetonta viivytystä ilmoitettava komissiolle, tekoälytoimistolle ja muiden jäsenvaltioiden kansalliselle valvontaviranomaiselle arvioinnin tuloksista ja toimenpiteistä, jotka se ovat vaatinut toimijaa toteuttamaan.

Tarkistus  601

 

Ehdotus asetukseksi

65 artikla – 5 kohta

Komission teksti	Tarkistus
5. Mikäli tekoälyjärjestelmään liittyvä toimija ei suorita riittäviä korjaavia toimenpiteitä 2 kohdassa tarkoitetun ajanjakson aikana, markkinavalvontaviranomaisen on toteutettava kaikki asianmukaiset väliaikaiset toimenpiteet, joilla kielletään tekoälyjärjestelmän asettaminen saataville kansallisilla markkinoilla tai rajoitetaan sitä, poistetaan tekoälyjärjestelmä markkinoilta tai järjestetään sitä koskeva palautusmenettely. Viranomaisen on viipymättä ilmoitettava komissiolle ja muille jäsenvaltioille näistä toimenpiteistä.	5. Mikäli tekoälyjärjestelmään liittyvä toimija ei suorita riittäviä korjaavia toimenpiteitä 2 kohdassa tarkoitetun ajanjakson aikana, kansallisen valvontaviranomaisen on toteutettava kaikki asianmukaiset väliaikaiset toimenpiteet, joilla kielletään tekoälyjärjestelmän asettaminen saataville kansallisilla markkinoilla tai käyttöönotto tai rajoitetaan niitä, poistetaan tekoälyjärjestelmä markkinoilta tai järjestetään sitä koskeva palautusmenettely. Viranomaisen on välittömästi ilmoitettava komissiolle, tekoälytoimistolle ja muiden jäsenvaltioiden kansalliselle valvontaviranomaiselle näistä toimenpiteistä.

Tarkistus  602

 

Ehdotus asetukseksi

65 artikla – 6 kohta – johdantokappale

Komission teksti	Tarkistus
6. Edellä 5 kohdassa tarkoitettuun ilmoitukseen on sisällyttävä kaikki saatavilla olevat yksityiskohtaiset tiedot, erityisesti ne, jotka ovat tarpeen vaatimustenvastaisen tekoälyjärjestelmän tunnistamista ja tekoälyjärjestelmän alkuperän, siihen liittyvän väitetyn vaatimustenvastaisuuden ja riskin luonteen ja toteutettujen kansallisten toimenpiteiden luonteen ja keston määrittämistä varten, sekä asianomaisen toimijan esittämät perustelut. Markkinavalvontaviranomaisten on erityisesti ilmoitettava, johtuuko vaatimustenvastaisuus yhdestä tai useammasta seuraavista:	6. Edellä 5 kohdassa tarkoitettuun ilmoitukseen on sisällyttävä kaikki saatavilla olevat yksityiskohtaiset tiedot, erityisesti ne, jotka ovat tarpeen vaatimustenvastaisen tekoälyjärjestelmän tunnistamista ja tekoälyjärjestelmän alkuperän, toimitusketjun, siihen liittyvän väitetyn vaatimustenvastaisuuden ja riskin luonteen ja toteutettujen kansallisten toimenpiteiden luonteen ja keston määrittämistä varten, sekä asianomaisen toimijan esittämät perustelut. Kansallisen valvontaviranomaisen on erityisesti ilmoitettava, johtuuko vaatimustenvastaisuus yhdestä tai useammasta seuraavista:

Tarkistus  603

 

Ehdotus asetukseksi

65 artikla – 6 kohta – a alakohta

Komission teksti	Tarkistus
(a) tekoälyjärjestelmä ei täytä III osaston 2 luvussa vahvistettuja vaatimuksia;	(a) suuririskinen tekoälyjärjestelmä ei täytä tässä asetuksessa vahvistettuja vaatimuksia;

Tarkistus  604

 

Ehdotus asetukseksi

65 artikla – 6 kohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) 5 artiklassa tarkoitettuja tekoälyyn liittyviä käytäntöjä koskevaa kieltoa ei ole noudatettu;

Tarkistus  605

 

Ehdotus asetukseksi

65 artikla – 6 kohta – b b alakohta (uusi)

Komission teksti	Tarkistus
	(b b) 52 artiklan säännöksiä ei ole noudatettu.

Tarkistus  606

 

Ehdotus asetukseksi

65 artikla – 7 kohta

Komission teksti	Tarkistus
7. Muiden jäsenvaltioiden markkinavalvontaviranomaisten kuin menettelyn aloittaneen jäsenvaltion markkinavalvontaviranomaisen on viipymättä ilmoitettava komissiolle ja muille jäsenvaltioille kaikki toteutetut toimenpiteet ja kaikki niiden hallussa olevat lisätiedot, jotka liittyvät asianomaisen tekoälyjärjestelmän vaatimustenvastaisuuteen, sekä vastalauseensa siinä tapauksessa, että ilmoitetusta kansallisesta toimenpiteestä on erimielisyyttä.	7. Muiden jäsenvaltioiden kansallisten valvontaviranomaisten kuin menettelyn aloittaneen jäsenvaltion kansallisen valvontaviranomaisen on viipymättä ilmoitettava komissiolle, tekoälytoimistolle ja muille jäsenvaltioille kaikki toteutetut toimenpiteet ja kaikki niiden hallussa olevat lisätiedot, jotka liittyvät asianomaisen tekoälyjärjestelmän vaatimustenvastaisuuteen, sekä vastalauseensa siinä tapauksessa, että ilmoitetusta kansallisesta toimenpiteestä on erimielisyyttä.

Tarkistus  607

 

Ehdotus asetukseksi

65 artikla – 8 kohta

Komission teksti	Tarkistus
8. Jos mikään jäsenvaltio tai komissio ei ole kolmen kuukauden kuluessa 5 kohdassa tarkoitetun ilmoituksen vastaanottamisesta esittänyt vastalausetta jonkin jäsenvaltion toteuttamaa väliaikaista toimenpidettä kohtaan, toimenpiteen katsotaan olevan perusteltu. Tämä ei rajoita asianomaisen toimijan asetuksen (EU) 2019/1020 18 artiklan mukaisia menettelyllisiä oikeuksia.	8. Jos minkään jäsenvaltion kansallinen valvontaviranomainen tai komissio ei ole kolmen kuukauden kuluessa 5 kohdassa tarkoitetun ilmoituksen vastaanottamisesta esittänyt vastalausetta toisen jäsenvaltion kansallisen valvontaviranomaisen toteuttamasta väliaikaisesta toimenpiteestä, toimenpiteen katsotaan olevan perusteltu. Tämä ei rajoita asianomaisen toimijan asetuksen (EU) 2019/1020 18 artiklan mukaisia menettelyllisiä oikeuksia. Tämän kohdan ensimmäisessä virkkeessä tarkoitettu ajanjakso lyhennetään 30 päivään, kun kyseessä on 5 artiklassa tarkoitettuja tekoälyyn liittyviä käytäntöjä koskevan kiellon noudattamatta jättäminen.

Tarkistus  608

 

Ehdotus asetukseksi

65 artikla – 9 kohta

Komission teksti	Tarkistus
9. Kaikkien jäsenvaltioiden markkinavalvontaviranomaisten on varmistettava, että kyseistä tuotetta koskevat asianmukaiset rajoittavat toimenpiteet, kuten tuotteen vetäminen pois markkinoilta, toteutetaan viipymättä.	9. Kaikkien jäsenvaltioiden kansallisten valvontaviranomaisten on varmistettava, että kyseistä tekoälyjärjestelmää koskevat asianmukaiset rajoittavat toimenpiteet, kuten tekoälyjärjestelmän vetäminen pois markkinoilta, toteutetaan viipymättä.

Tarkistus  609

 

Ehdotus asetukseksi

65 artikla – 9 a kohta (uusi)

Komission teksti	Tarkistus
	9 a. Kansallisten valvontaviranomaisten on raportoitava vuosittain tekoälytoimistolle kiellettyjen käytäntöjen käytöstä kyseisen vuoden aikana ja toimenpiteistä, joita on toteutettu riskien poistamiseksi tai lieventämiseksi tämän artiklan mukaisesti.

Tarkistus  610

 

Ehdotus asetukseksi

66 artikla – 1 kohta

Komission teksti	Tarkistus
1. Mikäli kolmen kuukauden kuluessa 65 artiklan 5 kohdassa tarkoitetun ilmoituksen vastaanottamisesta jokin jäsenvaltio esittää vastalauseen toisen jäsenvaltion toteuttamasta toimenpiteestä tai mikäli komissio pitää toimenpidettä unionin lainsäädännön vastaisena, komissio kuulee viipymättä asianomaista jäsenvaltiota ja toimijaa tai toimijoita ja arvioi kansallisen toimenpiteen. Komissio päättää arvioinnin tulosten perusteella, onko kansallinen toimenpide perusteltu, yhdeksän kuukauden kuluessa 65 artiklan 5 kohdassa tarkoitetusta ilmoituksesta, ja ilmoittaa tällaisesta päätöksestä asianomaiselle jäsenvaltiolle.	1. Mikäli jonkin jäsenvaltion kansallinen valvontaviranomainen esittää kolmen kuukauden kuluessa tai, kun kyseessä on 5 artiklassa tarkoitettuja tekoälyyn liittyviä käytäntöjä koskevan kiellon noudattamatta jättäminen, 30 päivän kuluessa 65 artiklan 5 kohdassa tarkoitetun ilmoituksen vastaanottamisesta vastalauseen toisen kansallisen valvontaviranomaisen toteuttamasta toimenpiteestä tai mikäli komissio pitää toimenpidettä unionin lainsäädännön vastaisena, komissio kuulee viipymättä asianomaisen jäsenvaltion kansallista valvontaviranomaista ja toimijaa tai toimijoita ja arvioi kansallisen toimenpiteen. Komissio päättää arvioinnin tulosten perusteella, onko kansallinen toimenpide perusteltu, kolmen kuukauden kuluessa tai, kun kyseessä on 5 artiklassa tarkoitettuja tekoälyyn liittyviä käytäntöjä koskevan kiellon noudattamatta jättäminen, 60 päivän kuluessa 65 artiklan 5 kohdassa tarkoitetusta ilmoituksesta, ja ilmoittaa tällaisesta päätöksestä asianomaisen jäsenvaltion kansalliselle valvontaviranomaiselle. Komissio ilmoittaa tällaisesta päätöksestä myös kaikille muille kansallisille valvontaviranomaisille.

Tarkistus  611

 

Ehdotus asetukseksi

66 artikla – 2 kohta

Komission teksti	Tarkistus
2. Jos kansallisen toimenpiteen katsotaan olevan perusteltu, kaikkien jäsenvaltioiden on toteutettava tarvittavat toimenpiteet sen varmistamiseksi, että vaatimustenvastainen tekoälyjärjestelmä vedetään pois markkinoilta, ja niiden on ilmoitettava asiasta komissiolle. Jos kansallisen toimenpiteen ei katsota olevan perusteltu, asianomaisen jäsenvaltion on peruutettava toimenpide.	2. Jos kansallisen toimenpiteen katsotaan olevan perusteltu, kaikkien tämän asetuksen nojalla nimettyjen kansallisten valvontaviranomaisten on toteutettava tarvittavat toimenpiteet sen varmistamiseksi, että vaatimustenvastainen tekoälyjärjestelmä vedetään viipymättä pois markkinoilta, ja niiden on ilmoitettava asiasta komissiolle ja tekoälytoimistolle. Jos kansallisen toimenpiteen ei katsota olevan perusteltu, asianomaisen jäsenvaltion kansallisen valvontaviranomaisen on peruutettava toimenpide.

Tarkistus  612

 

Ehdotus asetukseksi

66 a artikla (uusi)

Komission teksti	Tarkistus
	66 a artikla
	Yhteiset tutkimukset
	Jos kansallisella valvontaviranomaisella on syytä epäillä, että tämän asetuksen rikkomisessa, johon on syyllistynyt suuririskisen tekoälyjärjestelmän tai perusmallin tarjoaja tai käyttöönottaja, on kyse laajalle levinneestä rikkomisesta, jolla on unioninlaajuinen ulottuvuus, tai se vaikuttaa tai todennäköisesti vaikuttaa vähintään 45 miljoonaan henkilöön useammassa kuin yhdessä jäsenvaltiossa, kyseisen kansallisen valvontaviranomaisen on ilmoitettava asiasta tekoälytoimistolle ja se voi pyytää niiden jäsenvaltioiden kansallisia valvontaviranomaisia, joissa tällainen rikkominen tapahtui, aloittamaan yhteisen tutkimuksen. Tekoälytoimisto huolehtii yhteisen tutkimuksen keskitetystä koordinoinnista. Tutkimuksia koskevat valtuudet säilyvät kansallisilla valvontaviranomaisilla.

Tarkistus  613

 

Ehdotus asetukseksi

67 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jos jäsenvaltion markkinavalvontaviranomainen toteaa 65 artiklan mukaisen arvioinnin suoritettuaan, että vaikka tekoälyjärjestelmä on tämän asetuksen mukainen, se aiheuttaa riskin ihmisten terveydelle tai turvallisuudelle, perusoikeuksien suojeluun tarkoitetun unionin lainsäädännön tai kansallisen lainsäädännön mukaisten velvoitteiden noudattamiselle tai muille yleisen edun suojaan liittyville näkökohdille, sen on vaadittava asianomaista toimijaa toteuttamaan kaikki asianmukaiset toimenpiteet sen varmistamiseksi, että kyseinen tekoälyjärjestelmä ei markkinoille saatettaessa tai käyttöönotettaessa enää aiheuta kyseistä riskiä, tekoälyjärjestelmän poistamiseksi markkinoilta tai sitä koskevan palautusmenettelyn järjestämiseksi sellaisen kohtuullisen ajanjakson kuluessa, joka on oikeassa suhteessa riskin luonteeseen ja jonka se asettaa.	1. Jos jäsenvaltion kansallinen valvontaviranomainen toteaa suoritettuaan 65 artiklan mukaisen arvioinnin tiiviissä yhteistyössä 64 artiklan 3 kohdassa tarkoitetun asiaankuuluvan kansallisen viranomaisen kanssa, että vaikka tekoälyjärjestelmä on tämän asetuksen mukainen, se aiheuttaa vakavan riskin ihmisten terveydelle tai turvallisuudelle, perusoikeuksien suojeluun tarkoitetun unionin lainsäädännön tai kansallisen lainsäädännön mukaisten velvoitteiden noudattamiselle, ympäristölle, demokratialle tai oikeusvaltiolle tai muille yleisen edun suojaan liittyville näkökohdille, sen on vaadittava asianomaista toimijaa toteuttamaan kaikki asianmukaiset toimenpiteet sen varmistamiseksi, että kyseinen tekoälyjärjestelmä ei markkinoille saatettaessa tai käyttöönotettaessa enää aiheuta kyseistä riskiä.

Tarkistus  614

 

Ehdotus asetukseksi

67 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tarjoajan tai muiden asiaankuuluvien toimijoiden on varmistettava, että korjaavat toimenpiteet toteutetaan kaikkien asianomaisten tekoälyjärjestelmien osalta, jotka ne ovat asettaneet saataville markkinoilla unionin alueella, edellä 1 kohdassa tarkoitetussa jäsenvaltion markkinavalvontaviranomaisen asettamassa määräajassa.	2. Tarjoajan tai muiden asiaankuuluvien toimijoiden on varmistettava, että korjaavat toimenpiteet toteutetaan kaikkien asianomaisten tekoälyjärjestelmien osalta, jotka ne ovat asettaneet saataville markkinoilla unionin alueella, edellä 1 kohdassa tarkoitetussa jäsenvaltion kansallisen valvontaviranomaisen asettamassa määräajassa.

Tarkistus  615

 

Ehdotus asetukseksi

67 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Jos tarjoaja tai muut asiaankuuluvat toimijat eivät toteuta 2 kohdassa tarkoitettuja korjaavia toimenpiteitä ja tekoälyjärjestelmä aiheuttaa edelleen 1 kohdassa tarkoitetun riskin, kansallinen valvontaviranomainen voi vaatia asianomaista toimijaa poistamaan tekoälyjärjestelmän markkinoilta tai järjestämään sitä koskevan palautusmenettelyn sellaisen kohtuullisen ajanjakson kuluessa, joka on oikeassa suhteessa riskin luonteeseen.

Tarkistus  616

 

Ehdotus asetukseksi

67 artikla – 3 kohta

Komission teksti	Tarkistus
3. Jäsenvaltion on välittömästi ilmoitettava asiasta komissiolle ja muille jäsenvaltioille. Ilmoitukseen on sisällyttävä kaikki saatavilla olevat tiedot, erityisesti tiedot, jotka ovat tarpeen kyseisen tekoälyjärjestelmän tunnistamista sekä sen alkuperän ja toimitusketjun, siihen liittyvän riskin luonteen ja toteutettujen kansallisten toimenpiteiden luonteen ja keston määrittämistä varten.	3. Kansallisen valvontaviranomaisen on välittömästi ilmoitettava asiasta komissiolle, tekoälytoimistolle ja muille kansallisille valvontaviranomaisille. Ilmoitukseen on sisällyttävä kaikki saatavilla olevat tiedot, erityisesti tiedot, jotka ovat tarpeen kyseisen tekoälyjärjestelmän tunnistamista sekä sen alkuperän ja toimitusketjun, siihen liittyvän riskin luonteen ja toteutettujen kansallisten toimenpiteiden luonteen ja keston määrittämistä varten.

Tarkistus  617

 

Ehdotus asetukseksi

67 artikla – 4 kohta

Komission teksti	Tarkistus
4. Komissio kuulee viipymättä jäsenvaltioita ja asianomaista toimijaa ja arvioi kansalliset toimenpiteet. Komissio tekee tämän arvioinnin tulosten perusteella päätöksen siitä, onko toimenpide perusteltu vai ei, ja ehdottaa tarvittaessa soveltuvia toimenpiteitä.	4. Komissio kuulee tekoälytoimiston kanssa konsultoiden viipymättä asianomaisia kansallisia valvontaviranomaisia ja asianomaista toimijaa ja arvioi kansalliset toimenpiteet. Tekoälytoimisto tekee tämän arvioinnin tulosten perusteella päätöksen siitä, onko toimenpide perusteltu vai ei, ja ehdottaa tarvittaessa soveltuvia toimenpiteitä.

Tarkistus  618

 

Ehdotus asetukseksi

67 artikla – 5 kohta

Komission teksti	Tarkistus
5. Komissio osoittaa päätöksensä jäsenvaltioille.	5. Komissio antaa tekoälytoimiston kanssa konsultoiden päätöksensä välittömästi tiedoksi asianomaisten jäsenvaltioiden kansallisille valvontaviranomaisille ja asianomaisille toimijoille. Se ilmoittaa päätöksestä myös kaikille muille kansallisille valvontaviranomaisille.

Tarkistus  619

 

Ehdotus asetukseksi

67 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Komissio antaa suuntaviivoja auttaakseen kansallisia toimivaltaisia viranomaisia tunnistamaan ja tarvittaessa korjaamaan muissa tekoälyjärjestelmissä ilmeneviä vastaavia ongelmia.

Tarkistus  620

 

Ehdotus asetukseksi

68 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Jos jäsenvaltion markkinavalvontaviranomainen tekee jonkin seuraavista havainnoista, sen on vaadittava asianomaista tarjoajaa korjaamaan kyseinen vaatimustenvastaisuus:	1. Jos jäsenvaltion kansallinen valvontaviranomainen tekee jonkin seuraavista havainnoista, sen on vaadittava asianomaista tarjoajaa korjaamaan kyseinen vaatimustenvastaisuus:

Tarkistus  621

 

Ehdotus asetukseksi

68 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) vaatimustenmukaisuusmerkintä on kiinnitetty 49 artiklan vastaisesti;	(a) CE-merkintä on kiinnitetty 49 artiklan vastaisesti;

Tarkistus  622

 

Ehdotus asetukseksi

68 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) vaatimustenmukaisuusmerkintää ei ole kiinnitetty;	(b) CE-merkintää ei ole kiinnitetty;

Tarkistus  623

 

Ehdotus asetukseksi

68 artikla – 1 kohta – e a alakohta (uusi)

Komission teksti	Tarkistus
	(e a) tekninen dokumentaatio ei ole saatavilla;

Tarkistus  624

 

Ehdotus asetukseksi

68 artikla – 1 kohta – e b alakohta (uusi)

Komission teksti	Tarkistus
	(e b) EU:n tietokantaan rekisteröintiä ei ole tehty;

Tarkistus  625

 

Ehdotus asetukseksi

68 artikla – 1 kohta – e c alakohta (uusi)

Komission teksti	Tarkistus
	(e c) tapauksen mukaan, valtuutettua edustajaa ei ole nimetty.

Tarkistus  626

 

Ehdotus asetukseksi

68 artikla – 2 kohta

Komission teksti	Tarkistus
2. Jos 1 kohdassa tarkoitettu vaatimustenvastaisuus jatkuu, asianomaisen jäsenvaltion on ryhdyttävä kaikkiin tarvittaviin toimenpiteisiin suuririskisen tekoälyjärjestelmän markkinoilla saataville asettamisen rajoittamiseksi tai kieltämiseksi tai sen varmistamiseksi, että sitä koskeva palautusmenettely järjestetään tai se poistetaan markkinoilta.	2. Jos 1 kohdassa tarkoitettu vaatimustenvastaisuus jatkuu, asianomaisen jäsenvaltion kansallisen valvontaviranomaisen on ryhdyttävä asianmukaisiin ja oikeasuhteisiin toimenpiteisiin suuririskisen tekoälyjärjestelmän markkinoilla saataville asettamisen rajoittamiseksi tai kieltämiseksi tai sen varmistamiseksi, että sitä koskeva palautusmenettely järjestetään tai se poistetaan markkinoilta viipymättä. Asianomaisen jäsenvaltion kansallisen valvontaviranomaisen on välittömästi ilmoitettava tekoälytoimistolle vaatimustenvastaisuudesta ja toteutetuista toimenpiteistä.

Tarkistus  627

 

Ehdotus asetukseksi

68 artikla – 3 a luku (uusi)

Komission teksti	Tarkistus
	3 a luku Oikeussuojakeinot

Tarkistus  628

 

Ehdotus asetukseksi

68 a artikla (uusi)

Komission teksti	Tarkistus
	68 a artikla
	Oikeus tehdä valitus kansalliselle valvontaviranomaiselle
	1. Jokaisella luonnollisella henkilöllä tai luonnollisten henkilöiden ryhmällä on oikeus tehdä valitus kansalliselle valvontaviranomaiselle, erityisesti siinä jäsenvaltiossa, jossa hänen vakinainen asuinpaikkansa tai työpaikkansa on tai jossa väitetty rikkominen on tapahtunut, jos kyseinen henkilö tai ryhmä katsoo, että häneen tai siihen liittyvä tekoälyjärjestelmä rikkoo tätä asetusta, sanotun kuitenkaan rajoittamatta muita hallinnollisia muutoksenhakukeinoja tai oikeussuojakeinoja.
	2. Kansallisen valvontaviranomaisen, jolle valitus on tehty, on ilmoitettava valituksen tekijälle valituksen etenemisestä ja ratkaisusta sekä 78 artiklan mukaisten oikeussuojakeinojen käyttömahdollisuudesta.

Tarkistus  629

 

Ehdotus asetukseksi

68 b artikla (uusi)

Komission teksti	Tarkistus
	68 b artikla
	Oikeus tehokkaisiin oikeussuojakeinoihin kansallista valvontaviranomaista vastaan
	1. Jokaisella luonnollisella henkilöllä tai oikeushenkilöllä on oikeus tehokkaisiin oikeussuojakeinoihin itseään koskevaa oikeudellisesti sitovaa kansallisen valvontaviranomaisen päätöstä vastaan, sanotun kuitenkaan rajoittamatta muita hallinnollisia muutoksenhakukeinoja tai muita kuin oikeudellisia oikeussuojakeinoja.
	2. Jokaisella luonnollisella henkilöllä tai oikeushenkilöllä on oikeus tehokkaisiin oikeussuojakeinoihin, jos 59 artiklan nojalla toimivaltainen kansallinen valvontaviranomainen ei ole kolmen kuukauden kuluessa käsitellyt 68 a artiklan mukaisesti tehtyä valitusta tai ei ole ilmoittanut luonnolliselle henkilölle tai oikeushenkilölle valituksen etenemisestä tai ratkaisusta, sanotun kuitenkaan rajoittamatta muita hallinnollisia muutoksenhakukeinoja tai muita kuin oikeudellisia oikeussuojakeinoja.
	3. Kanne kansallista valvontaviranomaista vastaan on nostettava sen jäsenvaltion tuomioistuimissa, johon kansallinen valvontaviranomainen on sijoittautunut.
	4. Jos kanne on nostettu sellaista kansallisen valvontaviranomaisen päätöstä vastaan, jota edelsi komission unionin suojamenettelyssä antama lausunto tai päätös, valvontaviranomaisen on toimitettava kyseinen lausunto tai päätös tuomioistuimelle.

Tarkistus  630

 

Ehdotus asetukseksi

68 c artikla (uusi)

Komission teksti	Tarkistus
	68 c artikla
	Oikeus yksittäistä päätöstä koskevaan selitykseen
	1. Kaikilla asianomaisilla henkilöillä, joihin sovelletaan käyttöönottajan suuririskisen tekoälyjärjestelmän tuotoksen perusteella tekemää päätöstä, jolla on oikeusvaikutuksia tai joka muuten vaikuttaa heihin merkittävästi tavalla, jonka he katsovat vaikuttavan haitallisesti heidän terveyteensä, turvallisuuteensa, perusoikeuksiinsa, sosioekonomiseen hyvinvointiinsa tai muihin tässä asetuksessa säädetyistä velvollisuuksista johtuviin oikeuksiinsa, on oltava oikeus pyytää käyttöönottajalta 13 artiklan 1 kohdan mukainen selkeä ja tarkoituksenmukainen selitys tekoälyjärjestelmän roolista päätöksentekomenettelyssä, tehdyn päätöksen tärkeimmistä parametreista ja asiaan liittyvistä syöttötiedoista.
	2. Edellä olevaa 1 kohtaa ei sovelleta sellaisten tekoälyjärjestelmien käyttöön, joiden osalta unionin tai kansallisessa lainsäädännössä on säädetty poikkeuksia 1 kohdan mukaisesta velvoitteesta tai rajoituksia siihen, siltä osin kuin tällaiset poikkeukset tai rajoitukset ovat keskeisiltä osin perusoikeuksien ja -vapauksien mukaisia ja demokraattisessa yhteiskunnassa välttämätön ja oikeasuhteinen toimenpide.
	3. Tämän artiklan soveltaminen ei rajoita asetuksen (EU) 2016/679 13, 14, 15 ja 22 artiklan soveltamista.

Tarkistus  631

 

Ehdotus asetukseksi

68 d artikla (uusi)

Komission teksti	Tarkistus
	68 d artikla
	Direktiivin (EU) 2020/1828 muuttaminen
	Lisätään Euroopan parlamentin ja neuvoston direktiivin (EU) 2020/18281 a liitteeseen I kohta seuraavasti:
	”67) Euroopan parlamentin ja neuvoston asetus xxxx/xxxx tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta (EUVL L ...)]”.
	_________________
	1 a Euroopan parlamentin ja neuvoston direktiivi (EU) 2020/1828, annettu 25 päivänä marraskuuta 2020, kuluttajien yhteisten etujen suojaamiseksi nostettavista edustajakanteista ja direktiivin 2009/22/EY kumoamisesta (EUVL L 409, 4.12.2020, s. 1).

Tarkistus  632

 

Ehdotus asetukseksi

68 e artikla (uusi)

Komission teksti	Tarkistus
	68 e artikla
	Rikkomisista ilmoittaminen ja niistä ilmoittavien henkilöiden suojelu
	Tämän asetuksen rikkomisesta ilmoittamiseen ja rikkomisesta ilmoittavien henkilöiden suojeluun sovelletaan Euroopan parlamentin ja neuvoston direktiiviä (EU) 2019/1937.

Tarkistus  633

 

Ehdotus asetukseksi

69 artikla – 1 kohta

Komission teksti	Tarkistus
1. Komissio ja jäsenvaltiot kannustavat ja helpottavat sellaisten käytännesääntöjen laatimista, joiden tarkoituksena on edistää III osaston 2 luvussa vahvistettujen vaatimusten vapaaehtoista soveltamista muihin tekoälyjärjestelmiin kuin suuririskisiin tekoälyjärjestelmiin sellaisten teknisten eritelmien ja ratkaisujen pohjalta, jotka ovat asianmukaisia keinoja sen varmistamiseksi, että kyseisiä vaatimuksia noudatetaan ottaen huomioon järjestelmien suunniteltu käyttötarkoitus.	1. Komissio, tekoälytoimisto ja jäsenvaltiot kannustavat ja helpottavat sellaisten käytännesääntöjen laatimista, joiden tarkoituksena on, myös silloin, kun ne laaditaan sen osoittamiseksi, että tekoälyjärjestelmät noudattavat 4 a artiklassa vahvistettuja periaatteita ja niitä voidaan siten pitää luotettavina, edistää III osaston 2 luvussa vahvistettujen vaatimusten vapaaehtoista soveltamista muihin tekoälyjärjestelmiin kuin suuririskisiin tekoälyjärjestelmiin sellaisten teknisten eritelmien ja ratkaisujen pohjalta, jotka ovat asianmukaisia keinoja sen varmistamiseksi, että kyseisiä vaatimuksia noudatetaan ottaen huomioon järjestelmien käyttötarkoitus.

Tarkistus  634

 

Ehdotus asetukseksi

69 artikla – 2 kohta

Komission teksti	Tarkistus
2. Komissio ja tekoälyneuvosto kannustavat ja helpottavat sellaisten käytännesääntöjen laatimista, joiden tarkoituksena on edistää sellaisten vaatimusten vapaaehtoista soveltamista tekoälyjärjestelmiin, jotka liittyvät esimerkiksi ekologiseen kestävyyteen, vammaisten henkilöiden esteettömyyteen, sidosryhmien osallistumiseen tekoälyjärjestelmien suunnitteluun ja kehittämiseen sekä kehitysryhmien monimuotoisuuteen, selkeiden tavoitteiden ja keskeisten suorituskykyindikaattoreiden perusteella näiden tavoitteiden saavuttamisen mittaamiseksi.	2. Käytännesäännöissä, joiden tarkoituksena on edistää luotettavien tekoälyjärjestelmien perustana olevien periaatteiden vapaaehtoista noudattamista, on erityisesti
	(a) pyrittävä siihen, että niiden henkilökunnalla ja muilla tekoälyjärjestelmien toimintaa ja käyttöä käsittelevillä henkilöillä on riittävä tekoälylukutaito tällaisten periaatteiden noudattamiseksi;
	(b) arvioitava, missä määrin niiden tekoälyjärjestelmät voivat vaikuttaa haavoittuviin henkilöihin tai henkilöryhmiin, mukaan lukien lapset, ikääntyneet, maahanmuuttajat ja vammaiset henkilöt, tai voitaisiinko toteuttaa toimenpiteitä esteettömyyden parantamiseksi tai tällaisten henkilöiden tai henkilöryhmien tukemiseksi muulla tavalla;
	(c) pohdittava, miten niiden tekoälyjärjestelmien käyttö voi vaikuttaa monimuotoisuuteen, sukupuolten tasapuoliseen edustukseen ja tasa-arvoon tai lisätä niitä;
	(d) kiinnitettävä huomiota siihen, voidaanko niiden tekoälyjärjestelmiä käyttää tavalla, joka voi suoraan tai välillisesti vahvistaa olemassa olevia vinoutumia tai eriarvoisuutta jossain tai merkittävässä määrin;
	(e) pohdittava, onko tarpeen ja tarkoituksenmukaista perustaa erilaisia kehittämisryhmiä niiden järjestelmien osallistavan suunnittelun varmistamiseksi;
	(f) arvioitava huolellisesti, voivatko niiden järjestelmät vaikuttaa kielteisesti yhteiskuntaan, erityisesti poliittisten instituutioiden ja demokraattisten prosessien osalta;
	(g) arvioitava, miten tekoälyjärjestelmät voivat myötävaikuttaa ekologiseen kestävyyteen ja erityisesti Euroopan vihreän kehityksen ohjelman ja digitaalisia oikeuksia ja periaatteita koskevan eurooppalaisen julistuksen mukaisiin unionin sitoumuksiin.

Tarkistus  635

 

Ehdotus asetukseksi

69 artikla – 3 kohta

Komission teksti	Tarkistus
3. Käytännesääntöjä voivat laatia yksittäiset tekoälyjärjestelmien tarjoajat tai niitä edustavat järjestöt tai molemmat, ja niiden laatimiseen voivat osallistua myös käyttäjät ja mahdolliset sidosryhmät ja niitä edustavat järjestöt. Käytännesäännöt voivat kattaa yhden tai useamman tekoälyjärjestelmän ottaen huomioon asianomaisten järjestelmien käyttötarkoituksen samankaltaisuuden.	3. Käytännesääntöjä voivat laatia yksittäiset tekoälyjärjestelmien tarjoajat tai niitä edustavat järjestöt tai molemmat, ja niiden laatimiseen voivat osallistua myös käyttäjät ja mahdolliset sidosryhmät, myös tutkijat, ja niitä edustavat järjestöt, etenkin ammattijärjestöt ja kuluttajajärjestöt. Käytännesäännöt voivat kattaa yhden tai useamman tekoälyjärjestelmän ottaen huomioon asianomaisten järjestelmien käyttötarkoituksen samankaltaisuuden. Käytännesääntöjä käyttöön ottavat tarjoajat nimeävät vähintään yhden luonnollisen henkilön, joka vastaa sisäisestä seurannasta.

Tarkistus  636

 

Ehdotus asetukseksi

69 artikla – 4 kohta

Komission teksti	Tarkistus
4. Komissio ja tekoälyneuvosto ottavat huomioon pienten tarjoajien ja startup-yritysten erityisedut ja -tarpeet edistäessään ja helpottaessaan käytännesääntöjen laatimista.	4. Komissio ja tekoälytoimisto ottavat huomioon pk-yritysten ja startup-yritysten erityisedut ja -tarpeet edistäessään ja helpottaessaan käytännesääntöjen laatimista.

Tarkistus  637

 

Ehdotus asetukseksi

70 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Tämän asetuksen soveltamiseen osallistuvien kansallisten toimivaltaisten viranomaisten ja ilmoitettujen laitosten on noudatettava tehtäviään ja toimiaan suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta siten, että suojellaan erityisesti	1. Komission, kansallisten toimivaltaisten viranomaisten ja ilmoitettujen laitosten, tekoälytoimiston ja kaikkien muiden tämän asetuksen soveltamiseen osallistuvien luonnollisten henkilöiden tai oikeushenkilöiden on noudatettava tehtäviään ja toimiaan suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta siten, että suojellaan erityisesti:

Tarkistus  638

 

Ehdotus asetukseksi

70 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) teollis- ja tekijänoikeuksia ja luonnollisen henkilön tai oikeushenkilön luottamuksellisia liiketoimintatietoja tai liikesalaisuuksia, lähdekoodi mukaan lukien, lukuun ottamatta julkistamattoman taitotiedon ja liiketoimintatiedon (liikesalaisuuksien) suojaamisesta laittomalta hankinnalta, käytöltä ja ilmaisemiselta annetun direktiivin 2016/943 5 artiklassa tarkoitettuja tapauksia;	(a) teollis- ja tekijänoikeuksia ja luonnollisen henkilön tai oikeushenkilön luottamuksellisia liiketoimintatietoja tai liikesalaisuuksia direktiivien 2004/48/EY ja (EU) 2016/943 säännösten mukaisesti, lähdekoodi mukaan lukien, lukuun ottamatta julkistamattoman taitotiedon ja liiketoimintatiedon (liikesalaisuuksien) suojaamisesta laittomalta hankinnalta, käytöltä ja ilmaisemiselta annetun direktiivin (EU) 2016/943 5 artiklassa tarkoitettuja tapauksia;

Tarkistus  639

 

Ehdotus asetukseksi

70 artikla – 1 kohta – b a alakohta (uusi)

70 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
	(b a) yleisiä ja kansallisia turvallisuusetuja;

Tarkistus  640

 

Ehdotus asetukseksi

70 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Viranomaisten, jotka osallistuvat tämän asetuksen soveltamiseen 1 kohdan mukaisesti, on minimoitava niiden tietojen määrä, joita pyydetään ilmaisemaan, ja ilmaistava vain tietoja, jotka ovat ehdottoman välttämättömiä havaitun riskin ja kyseisen riskin arvioinnin kannalta. Niiden on poistettava tiedot heti, kun niitä ei enää tarvita siihen tarkoitukseen, jota varten niitä pyydettiin. Niiden on otettava käyttöön asianmukaiset ja tehokkaat kyberturvallisuutta koskevat, tekniset ja organisatoriset toimenpiteet tehtäviensä suorittamisen ja toimintansa yhteydessä saamiensa tietojen ja datan turvallisuuden ja luottamuksellisuuden suojaamiseksi.

Tarkistus  641

 

Ehdotus asetukseksi

70 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Sanotun rajoittamatta 1 kohdan soveltamista, kansallisten toimivaltaisten viranomaisten välillä sekä kansallisten toimivaltaisten viranomaisten ja komission välillä luottamuksellisesti vaihdettuja tietoja ei saa paljastaa kuulematta etukäteen sitä kansallista toimivaltaista viranomaista, jolta tiedot ovat peräisin, sekä käyttäjää, kun lainvalvonta-, maahanmuutto- tai turvapaikkaviranomaiset käyttävät liitteessä III olevassa 1, 6 ja 7 kohdassa tarkoitettuja suuririskisiä tekoälyjärjestelmiä, jos tietojen paljastaminen vaarantaisi yleiset ja kansalliset turvallisuusedut.	2. Sanotun rajoittamatta 1 ja 1 a kohdan soveltamista, kansallisten toimivaltaisten viranomaisten välillä sekä kansallisten toimivaltaisten viranomaisten ja komission välillä luottamuksellisesti vaihdettuja tietoja ei saa paljastaa kuulematta etukäteen sitä kansallista toimivaltaista viranomaista, jolta tiedot ovat peräisin, sekä käyttöönottajaa, kun lainvalvonta-, maahanmuutto- tai turvapaikkaviranomaiset käyttävät liitteessä III olevassa 1, 6 ja 7 kohdassa tarkoitettuja suuririskisiä tekoälyjärjestelmiä, jos tietojen paljastaminen vaarantaisi yleisen tai kansallisen turvallisuuden.

Tarkistus  642

 

Ehdotus asetukseksi

70 artikla – 3 kohta

Komission teksti	Tarkistus
3. Edellä oleva 1 ja 2 kohta eivät vaikuta komission, jäsenvaltioiden ja ilmoitettujen laitosten tiedonvaihtoa ja varoitusten antamista koskeviin oikeuksiin ja velvollisuuksiin eivätkä asianomaisten osapuolten tiedonantovelvollisuuteen jäsenvaltioiden rikosoikeuden mukaisesti.	3. Edellä oleva 1, 1 a ja 2 kohta eivät vaikuta komission, jäsenvaltioiden ja ilmoitettujen laitosten tiedonvaihtoa ja varoitusten antamista koskeviin oikeuksiin ja velvollisuuksiin eivätkä asianomaisten osapuolten tiedonantovelvollisuuteen jäsenvaltioiden rikosoikeuden mukaisesti.

Tarkistus  643

 

Ehdotus asetukseksi

70 artikla – 4 kohta

Komission teksti	Tarkistus
4. Komissio ja jäsenvaltiot voivat tarvittaessa vaihtaa luottamuksellisia tietoja sellaisten kolmansien maiden sääntelyviranomaisten kanssa, joiden kanssa ne ovat tehneet kahdenvälisiä tai monenvälisiä luottamuksellisuutta suojaavia järjestelyjä, joilla taataan riittävä luottamuksellisuuden taso.	4. Komissio ja jäsenvaltiot voivat, jos se on ehdottomasti tarpeen ja noudattaen kansainvälisten sopimusten ja kauppasopimusten asiaa koskevia määräyksiä, vaihtaa luottamuksellisia tietoja sellaisten kolmansien maiden sääntelyviranomaisten kanssa, joiden kanssa ne ovat tehneet kahdenvälisiä tai monenvälisiä luottamuksellisuutta suojaavia järjestelyjä, joilla taataan riittävä luottamuksellisuuden taso.

Tarkistus  644

 

Ehdotus asetukseksi

71 artikla – otsikko

Komission teksti	Tarkistus
Seuraamukset	(Tarkistus ei vaikuta suomenkieliseen versioon.)

Tarkistus  645

 

Ehdotus asetukseksi

71 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jäsenvaltioiden on tässä asetuksessa säädettyjä ehtoja noudattaen säädettävä tämän asetuksen rikkomiseen sovellettavista seuraamuksista, mukaan lukien hallinnolliset sakot, ja toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että ne pannaan täytäntöön asianmukaisesti ja tehokkaasti. Seuraamusten on oltava tehokkaita, oikeasuhteisia ja varoittavia. Niissä on erityisesti otettava huomioon pienten tarjoajien ja startup-yritysten edut sekä niiden taloudellinen elinkelpoisuus.	1. Jäsenvaltioiden on tässä asetuksessa säädettyjä ehtoja noudattaen säädettävä seuraamuksista, joita sovelletaan tämän asetuksen rikkomiseen minkä tahansa toimijan toimesta, ja toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että ne pannaan täytäntöön asianmukaisesti ja tehokkaasti ja että ne ovat yhdenmukaisia komission ja tekoälytoimiston 82 b artiklan mukaisesti antamien suuntaviivojen kanssa. Seuraamusten on oltava tehokkaita, oikeasuhteisia ja varoittavia. Niissä on otettava huomioon pk-yritysten ja startup-yritysten edut sekä niiden taloudellinen elinkelpoisuus.

Tarkistus  646

 

Ehdotus asetukseksi

71 artikla – 2 kohta

Komission teksti	Tarkistus
2. Jäsenvaltioiden on ilmoitettava näistä säännöksistä ja toimenpiteistä komissiolle ja ilmoitettava viipymättä niihin vaikuttavista myöhemmistä muutoksista.	2. Jäsenvaltioiden on ilmoitettava näistä säännöksistä ja toimenpiteistä komissiolle ja tekoälytoimistolle viimeistään … päivänä …kuuta … [12 kuukauden kuluttua tämän asetuksen voimaantulopäivästä] ja ilmoitettava niille viipymättä säännöksiin ja toimenpiteisiin vaikuttavista myöhemmistä muutoksista.

Tarkistus  647

 

Ehdotus asetukseksi

71 artikla – 3 kohta – johdantokappale

Komission teksti	Tarkistus
3. Seuraavista rikkomisista voidaan määrätä hallinnollinen sakko, joka on enintään 30 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 6 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi:	3. Jos 5 artiklassa tarkoitettujen tekoälyyn liittyvien käytäntöjen kieltoa ei noudateta, määrätään hallinnollinen sakko, joka on enintään 40 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 7 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.

Tarkistus  648

 

Ehdotus asetukseksi

71 artikla – 3 kohta – a alakohta

Komission teksti	Tarkistus
(a) 5 artiklassa tarkoitettua tekoälyyn liittyviä käytäntöjä koskevaa kieltoa ei ole noudatettu;	Poistetaan.

Tarkistus  649

 

Ehdotus asetukseksi

71 artikla – 3 kohta – b alakohta

Komission teksti	Tarkistus
(b) tekoälyjärjestelmä ei ole 10 artiklassa säädettyjen vaatimusten mukainen.	Poistetaan.

Tarkistus  650

 

Ehdotus asetukseksi

71 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Jos tekoälyjärjestelmä ei täytä 10 ja 13 artiklassa säädettyjä vaatimuksia, määrätään hallinnollinen sakko, joka on enintään 20 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 4 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.

Tarkistus  651

 

Ehdotus asetukseksi

71 artikla – 4 kohta

Komission teksti	Tarkistus
4. Jos tekoälyjärjestelmä ei täytä muita tämän asetuksen mukaisia vaatimuksia ja velvoitteita kuin sen 5 ja 10 artiklassa säädetyt vaatimukset tai velvoitteet, tästä voidaan määrätä hallinnollinen sakko, joka on enintään 20 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 4 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.	4. Jos tekoälyjärjestelmä tai perusmalli ei täytä muita tämän asetuksen mukaisia vaatimuksia ja velvoitteita kuin sen 5, 10 ja 13 artiklassa säädetyt vaatimukset tai velvoitteet, määrätään hallinnollinen sakko, joka on enintään 10 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 2 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.

Tarkistus  652

 

Ehdotus asetukseksi

71 artikla – 5 kohta

Komission teksti	Tarkistus
5. Virheellisten, puutteellisten tai harhaanjohtavien tietojen toimittamisesta vastauksena ilmoitettujen laitosten ja kansallisten toimivaltaisten viranomaisten pyyntöön voidaan määrätä hallinnollinen sakko, joka on enintään 10 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 2 prosenttia sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.	5. Virheellisten, puutteellisten tai harhaanjohtavien tietojen toimittamisesta vastauksena ilmoitettujen laitosten ja kansallisten toimivaltaisten viranomaisten pyyntöön määrätään hallinnollinen sakko, joka on enintään 5 000 000 euroa tai, jos rikkomiseen syyllistynyt on yritys, enintään 1 prosentti sen edeltävän tilikauden vuotuisesta maailmanlaajuisesta kokonaisliikevaihdosta sen mukaan, kumpi näistä määristä on suurempi.

Tarkistus  653

 

Ehdotus asetukseksi

71 artikla – 6 kohta – johdantokappale

Komission teksti	Tarkistus
6. Kun päätetään hallinnollisen sakon määrästä, kussakin yksittäisessä tapauksessa on otettava asianmukaisesti huomioon kaikki kyseisen tilanteen kannalta merkittävät olosuhteet sekä seuraavat seikat:	6. Sakkoja voidaan määrätä muiden kuin rahallisten toimenpiteiden, kuten määräysten tai varoitusten, lisäksi tai niiden sijasta. Kun päätetään hallinnollisen sakon määrästä, kussakin yksittäisessä tapauksessa on otettava asianmukaisesti huomioon kaikki kyseisen tilanteen kannalta merkittävät olosuhteet sekä seuraavat seikat:

Tarkistus  654

 

Ehdotus asetukseksi

71 artikla – 6 kohta – a alakohta

Komission teksti	Tarkistus
(a) rikkomisen ja sen seurausten luonne, vakavuus ja kesto;	(a) rikkomisen ja sen seurausten luonne, vakavuus ja kesto ottaen huomioon kyseisen tekoälyjärjestelmän tarkoitus sekä tapauksen mukaan niiden henkilöiden lukumäärä, joihin on kohdistunut vaikutuksia, ja heille aiheutuneen vahingon suuruus;

Tarkistus  655

 

Ehdotus asetukseksi

71 artikla – 6 kohta – b alakohta

Komission teksti	Tarkistus
(b) ovatko muut markkinavalvontaviranomaiset jo määränneet hallinnollisia sakkoja samalle toimijalle samasta rikkomisesta;	(b) ovatko yhden tai useamman jäsenvaltion muut kansalliset valvontaviranomaiset jo määränneet hallinnollisia sakkoja samalle toimijalle samasta rikkomisesta;

Tarkistus  656

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c alakohta

Komission teksti	Tarkistus
(c) rikkomiseen syyllistyneen toimijan koko ja markkinaosuus.	(c) rikkomiseen syyllistyneen toimijan vuotuinen liikevaihto;

Tarkistus  657

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c a alakohta (uusi)

Komission teksti	Tarkistus
	(c a) toimijan toteuttamat toimet niille henkilöille, joihin on kohdistunut vaikutuksia, aiheutuneen haitan tai vahingon lieventämiseksi;

Tarkistus  658

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c b alakohta (uusi)

Komission teksti	Tarkistus
	(c b) rikkomisen tahallisuus tai tuottamuksellisuus;

Tarkistus  659

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c c alakohta (uusi)

Komission teksti	Tarkistus
	(c c) sen yhteistyön aste, jota kansallisten toimivaltaisten viranomaisten kanssa tehdään rikkomisen korjaamiseksi ja sen mahdollisten haittavaikutusten lieventämiseksi;

Tarkistus  660

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c d alakohta (uusi)

Komission teksti	Tarkistus
	(c d) toimijan vastuun aste ottaen huomioon sen toteuttamat tekniset ja organisatoriset toimenpiteet;

Tarkistus  661

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c e alakohta (uusi)

Komission teksti	Tarkistus
	(c e) tapa, jolla rikkominen tuli kansallisten toimivaltaisten viranomaisten tietoon, ja erityisesti se, ilmoittiko toimija rikkomisesta ja missä laajuudessa;

Tarkistus  662

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c f alakohta (uusi)

Komission teksti	Tarkistus
	(c f) hyväksyttyjen käytännesääntöjen tai hyväksyttyjen sertifiointimekanismien noudattaminen;

Tarkistus  663

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c g alakohta (uusi)

Komission teksti	Tarkistus
	(c g) toimijan mahdolliset asiaan liittyvät aiemmat rikkomiset;

Tarkistus  664

 

Ehdotus asetukseksi

71 artikla – 6 kohta – c h alakohta (uusi)

Komission teksti	Tarkistus
	(c h) mahdolliset muut tapauksen tapaukseen sovellettavat raskauttavat tai lieventävät tekijät.

Tarkistus  665

 

Ehdotus asetukseksi

71 artikla – 7 kohta

Komission teksti	Tarkistus
7. Kunkin jäsenvaltion on asetettava sääntöjä siitä, voidaanko viranomaisille tai julkishallinnon elimille määrätä kyseisessä jäsenvaltiossa hallinnollisia sakkoja ja missä määrin.	7. Kunkin jäsenvaltion on annettava sääntöjä viranomaisille tai julkishallinnon elimille kyseisessä jäsenvaltiossa määrättävistä hallinnollisista sakoista.

Tarkistus  666

 

Ehdotus asetukseksi

71 artikla – 8 a kohta (uusi)

Komission teksti	Tarkistus
	8 a. Tässä artiklassa tarkoitetuista seuraamuksista sekä niihin liittyvistä oikeudenkäyntikuluista ja korvausvaatimuksista ei ole mahdollista sopia sopimuslausekkeissa eikä muunlaisilla taakanjakosopimuksilla tarjoajien ja jakelijoiden, maahantuojien, käyttöönottajien tai muiden kolmansien osapuolten kesken.

Tarkistus  667

 

Ehdotus asetukseksi

71 artikla – 8 b kohta (uusi)

Komission teksti	Tarkistus
	8 b. Kansallisten valvontaviranomaisten on ilmoitettava tekoälytoimistolle vuosittain sakot, jotka ne ovat kyseisen vuoden aikana määränneet tämän artiklan mukaisesti.

Tarkistus  668

 

Ehdotus asetukseksi

71 artikla – 8 c kohta (uusi)

Komission teksti	Tarkistus
	8 c. Toimivaltaisten viranomaisten tämän artiklan mukaisten valtuuksien käyttöön sovelletaan unionin ja kansallisen lainsäädännön mukaisesti asianmukaisia menettelyllisiä takeita, mukaan lukien oikeussuojakeinot ja asianmukainen menettely.

Tarkistus  669

 

Ehdotus asetukseksi

72 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) rikkomisen ja sen seurausten luonne, vakavuus ja kesto;	(a) rikkomisen ja sen seurausten luonne, vakavuus ja kesto ottaen huomioon kyseisen tekoälyjärjestelmän tarkoitus sekä niiden henkilöiden lukumäärä, joihin on kohdistunut vaikutuksia, ja heille aiheutuneen vahingon suuruus sekä mahdolliset asiaan liittyvät aiemmat rikkomiset;

Tarkistus  670

 

Ehdotus asetukseksi

72 artikla – 1 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) kaikki unionin toimielimen, viraston tai elimen toteuttamat toimet niille henkilöille, joihin on kohdistunut vaikutuksia, aiheutuneen vahingon lieventämiseksi;

Tarkistus  671

 

Ehdotus asetukseksi

72 artikla – 1 kohta – a b alakohta (uusi)

Komission teksti	Tarkistus
	(a b) unionin toimielimen, viraston tai elimen vastuun aste ottaen huomioon sen toteuttamat tekniset ja organisatoriset toimenpiteet;

Tarkistus  672

 

Ehdotus asetukseksi

72 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) yhteistyö Euroopan tietosuojavaltuutetun kanssa rikkomisen korjaamiseksi ja sen mahdollisten haittavaikutusten lieventämiseksi, mukaan lukien niiden toimenpiteiden noudattaminen, jotka Euroopan tietosuojavaltuutettu on aiemmin määrännyt asianomaiselle unionin toimielimelle, virastolle tai elimelle samasta aiheesta;	(b) sen yhteistyön aste, jota Euroopan tietosuojavaltuutetun kanssa tehdään rikkomisen korjaamiseksi ja sen mahdollisten haittavaikutusten lieventämiseksi, mukaan lukien niiden toimenpiteiden noudattaminen, jotka Euroopan tietosuojavaltuutettu on aiemmin määrännyt asianomaiselle unionin toimielimelle, virastolle tai elimelle samasta aiheesta;

Tarkistus  673

 

Ehdotus asetukseksi

72 artikla – 1 kohta – c a alakohta (uusi)

72 artikla – 1 kohta – d alakohta (uusi)

Komission teksti	Tarkistus
	(c a) tapa, jolla rikkominen tuli Euroopan tietosuojavaltuutetun tietoon, ja erityisesti se, ilmoittiko unionin toimielin tai elin rikkomisesta ja missä laajuudessa;

Tarkistus  674

 

Ehdotus asetukseksi

72 artikla – 1 kohta – c b alakohta (uusi)

72 artikla – 1 kohta – e alakohta (uusi)

Komission teksti	Tarkistus
	(c b) elimen vuotuinen talousarvio.

Tarkistus  675

 

Ehdotus asetukseksi

72 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Seuraavista rikkomisista voidaan määrätä hallinnollinen sakko, joka on enintään 500 000 euroa:	2. Jos 5 artiklassa tarkoitettujen tekoälyyn liittyvien käytäntöjen kieltoa ei noudateta, määrätään hallinnollinen sakko, joka on enintään 1 500 000 euroa.

Tarkistus  676

 

Ehdotus asetukseksi

72 artikla – 2 kohta – a alakohta

Komission teksti	Tarkistus
(a) 5 artiklassa tarkoitettua tekoälyyn liittyviä käytäntöjä koskevaa kieltoa ei ole noudatettu;	Poistetaan.

Tarkistus  677

 

Ehdotus asetukseksi

72 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Jos tekoälyjärjestelmä ei täytä 10 artiklassa säädettyjä vaatimuksia, määrätään hallinnollinen sakko, joka on enintään 1 000 000 euroa.

Tarkistus  678

 

Ehdotus asetukseksi

72 artikla – 3 kohta

Komission teksti	Tarkistus
3. Jos tekoälyjärjestelmä ei täytä muita tämän asetuksen mukaisia vaatimuksia ja velvoitteita kuin sen 5 ja 10 artiklassa säädetyt vaatimukset tai velvoitteet, tästä voidaan määrätä hallinnollinen sakko, joka on enintään 250 000 euroa.	3. Jos tekoälyjärjestelmä ei täytä muita tämän asetuksen mukaisia vaatimuksia ja velvoitteita kuin sen 5 ja 10 artiklassa säädetyt vaatimukset tai velvoitteet, määrätään hallinnollinen sakko, joka on enintään 750 000 euroa.

Tarkistus  679

 

Ehdotus asetukseksi

72 artikla – 6 kohta

Komission teksti	Tarkistus
6. Tämän artiklan mukaisesti määrätyillä sakoilla kerätyt varat otetaan unionin yleiseen talousarvioon.	6. Tämän artiklan mukaisesti määrätyillä sakoilla kerätyt varat sisällytetään unionin yleiseen talousarvioon. Sakko ei saa vaikuttaa sen unionin toimielimen, elimen tai viraston tehokkaaseen toimintaan, jolle se on määrätty.

Tarkistus  680

 

Ehdotus asetukseksi

72 artikla – 6 a kohta (uusi)

Komission teksti	Tarkistus
	6 a. Euroopan tietosuojavaltuutettu ilmoittaa tekoälytoimistolle vuosittain sakot, jotka se on määrännyt tämän artiklan nojalla.

Tarkistus  681

 

Ehdotus asetukseksi

73 artikla – 2 kohta

Komission teksti	Tarkistus
2. Siirretään komissiolle [tämän asetuksen voimaantulopäivästä] määräämättömäksi ajaksi 4 artiklassa, 7 artiklan 1 kohdassa, 11 artiklan 3 kohdassa, 43 artiklan 5 ja 6 kohdassa ja 48 artiklan 5 kohdassa tarkoitettu valta antaa delegoituja säädöksiä.	2. Siirretään komissiolle ... päivästä ...kuuta ... [tämän asetuksen voimaantulopäivä] viiden vuoden ajaksi 4 artiklassa, 7 artiklan 1 kohdassa, 11 artiklan 3 kohdassa, 43 artiklan 5 ja 6 kohdassa ja 48 artiklan 5 kohdassa tarkoitettu valta antaa delegoituja säädöksiä. Komissio laatii siirrettyä säädösvaltaa koskevan kertomuksen viimeistään yhdeksän kuukautta ennen tämän viiden vuoden kauden päättymistä. Säädösvallan siirtoa jatketaan ilman eri toimenpiteitä samanpituisiksi kausiksi, jollei Euroopan parlamentti tai neuvosto vastusta tällaista jatkamista viimeistään kolme kuukautta ennen kunkin kauden päättymistä.

Tarkistus  682

 

Ehdotus asetukseksi

73 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Ennen kuin komissio hyväksyy delegoidun säädöksen, se kuulee asianomaisia toimielimiä, tekoälytoimistoa, neuvoa-antavaa foorumia ja muita asiaankuuluvia sidosryhmiä paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa vahvistettujen periaatteiden mukaisesti.
	Heti kun komissio päättää laatia delegoidun säädöksen, se ilmoittaa asiasta Euroopan parlamentille. Tämä ilmoitus ei velvoita komissiota hyväksymään kyseistä säädöstä.

Tarkistus  683

 

Ehdotus asetukseksi

81 a artikla (uusi)

Komission teksti	Tarkistus
	81 a artikla
	Asetuksen (EU) 2019/1020 muuttaminen
	Muutetaan asetus (EU) 2019/1020 seuraavasti:
	Lisätään 14 artiklan 4 kohtaan alakohta seuraavasti:
	”l) valtuudet käyttää tässä artiklassa säädettyjä valtuuksia tarvittaessa etänä.”

Tarkistus  684

 

Ehdotus asetukseksi

82 a artikla (uusi)

Komission teksti	Tarkistus
	82 a artikla
	Sääntelyn parantaminen
	Ottaessaan huomioon tämän asetuksen 75, 76, 77, 78, 79, 80, 81 ja 82 artiklaan tehtyjen muutosten mukaiset vaatimukset komissio tekee analyysin ja kuulee asiaankuuluvia sidosryhmiä määrittääkseen mahdolliset puutteet sekä alakohtaisen lainsäädännön päällekkäisyydet tämän asetuksen säännösten kanssa.

Tarkistus  685

 

Ehdotus asetukseksi

82 b artikla (uusi)

Komission teksti	Tarkistus
	82 b artikla
	Komission suuntaviivat tämän asetuksen täytäntöönpanosta
	1. Komissio laatii tekoälytoimiston kanssa konsultoiden suuntaviivat tämän asetuksen käytännön täytäntöönpanosta ja erityisesti seuraavista:
	(a) 8–15 artiklassa ja 28–28 b artiklassa tarkoitettujen vaatimusten soveltaminen;
	(b) 5 artiklassa tarkoitetut kielletyt käytännöt;
	(c) merkittävään muutokseen liittyvien säännösten käytännön täytäntöönpano;
	(d) käytännön olosuhteet, joissa liitteessä III tarkoitetun tekoälyjärjestelmän tuotos aiheuttaisi 6 artiklan 2 kohdassa tarkoitetulla tavalla luonnollisten henkilöiden terveyteen, turvallisuuteen tai perusoikeuksiin kohdistuvan haitan merkittävän riskin, mukaan lukien liitteessä III tarkoitettuihin suuririskisiin tekoälyjärjestelmiin liittyvät esimerkit;
	(e) 52 artiklassa säädettyjen läpinäkyvyysvelvoitteiden käytännön täytäntöönpano;
	(f) 69 artiklassa tarkoitettujen käytännesääntöjen kehittäminen;
	(g) tämän asetuksen suhde muuhun asiaankuuluvaan unionin lainsäädäntöön, myös niiden noudattamisen valvonnan yhdenmukaisuuden osalta;
	(h) 12 artiklan sekä perusmallien ympäristövaikutusten osalta 28 b artiklan ja liitteessä IV olevan 3 b alakohdan käytännön täytäntöönpano, erityisesti mittaus- ja lokikirjausmenetelmät, joiden avulla voidaan laskea ja raportoida järjestelmien ympäristövaikutuksia tämän asetuksen velvoitteiden noudattamiseksi, mukaan lukien hiilijalanjälki ja energiatehokkuus, ottaen huomioon uusimmat menetelmät ja mittakaavaedut.
	Tällaisia suuntaviivoja antaessaan komissio kiinnittää erityistä huomiota pk-yritysten, myös startup-yritysten, paikallisten viranomaisten ja niiden alojen, joihin tämä asetus todennäköisimmin vaikuttaa, tarpeisiin.
	2. Komissio päivittää jo hyväksyttyjä suuntaviivoja jäsenvaltioiden tai tekoälytoimiston pyynnöstä tai omasta aloitteestaan, kun sitä pidetään tarpeellisena.

Tarkistus  686

 

Ehdotus asetukseksi

83 artikla – 1 kohta – johdantokappale

Komission teksti	Tarkistus
1. Tätä asetusta ei sovelleta tekoälyjärjestelmiin, jotka ovat liitteessä IX luetelluilla säädöksillä perustettujen laaja-alaisten tietojärjestelmien osia ja jotka on saatettu markkinoille tai otettu käyttöön ennen [12 kuukauden kuluttua 85 artiklan 2 kohdassa tarkoitetusta tämän asetuksen soveltamispäivästä], paitsi jos kyseisten säädösten korvaaminen tai muuttaminen aiheuttaa merkittävän muutoksen kyseisen tekoälyjärjestelmän tai kyseisten tekoälyjärjestelmien rakenteessa tai käyttötarkoituksessa.	1. Sellaisiin tekoälyjärjestelmiin liittyvien toimijoiden, jotka ovat liitteessä IX luetelluilla säädöksillä perustettujen laaja-alaisten tietojärjestelmien osia ja jotka on saatettu markkinoille tai otettu käyttöön ennen [tämän asetuksen voimaantulopäivä], on toteutettava tarvittavat toimenpiteet tässä asetuksessa säädettyjen vaatimusten noudattamiseksi viimeistään ... päivänä ...kuuta ... [neljän vuoden kuluttua tämän asetuksen voimaantulopäivästä].

Tarkistus  687

 

Ehdotus asetukseksi

83 artikla – 1 kohta – 1 alakohta

Komission teksti	Tarkistus
Tässä asetuksessa säädetyt vaatimukset on soveltuvin osin otettava huomioon arvioitaessa kutakin liitteessä IX luetelluilla säädöksillä perustettua laaja-alaista tietojärjestelmää kyseisissä säädöksissä säädetyllä tavalla.	Tässä asetuksessa säädetyt vaatimukset on otettava huomioon arvioitaessa kutakin liitteessä IX luetelluilla säädöksillä perustettua laaja-alaista tietojärjestelmää kyseisissä säädöksissä säädetyllä tavalla ja aina kun nämä säädökset korvataan tai niitä muutetaan.

Tarkistus  688

 

Ehdotus asetukseksi

83 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tätä asetusta sovelletaan muihin kuin 1 kohdassa tarkoitettuihin suuririskisiin tekoälyjärjestelmiin, jotka on saatettu markkinoille tai otettu käyttöön ennen [85 artiklan 2 kohdassa tarkoitettu tämän asetuksen soveltamispäivä], ainoastaan, jos kyseisten järjestelmien rakenteessa tai käyttötarkoituksessa tapahtuu merkittäviä muutoksia kyseisen päivän jälkeen.	2. Tätä asetusta sovelletaan toimijoihin, jotka liittyvät muihin kuin 1 kohdassa tarkoitettuihin suuririskisiin tekoälyjärjestelmiin, jotka on saatettu markkinoille tai otettu käyttöön ennen [85 artiklan 2 kohdassa tarkoitettu tämän asetuksen soveltamispäivä], ainoastaan, jos kyseisiin järjestelmiin tehdään 3 artiklan 23 alakohdassa määriteltyjä merkittäviä muutoksia kyseisen päivän jälkeen. Kun on kyse viranomaisten käytettäviksi tarkoitetuista suuririskisistä tekoälyjärjestelmistä, tällaisten järjestelmien tarjoajien ja käyttöönottajien on toteutettava tarvittavat toimenpiteet tämän asetuksen vaatimusten noudattamiseksi viimeistään ... päivänä ...kuuta ... [kahden vuoden kuluttua tämän asetuksen voimaantulopäivästä].

Tarkistus  689

 

Ehdotus asetukseksi

84 artikla – 1 kohta

Komission teksti	Tarkistus
1. Komissio arvioi, onko liitteessä III olevaa luetteloa tarpeen muuttaa, kerran vuodessa tämän asetuksen voimaantulon jälkeen.	1. Komissio arvioi tekoälytoimistoa kuultuaan tarvetta muuttaa liitteessä III olevaa luetteloa, mukaan lukien nykyisten alojen otsikoiden laajentaminen tai uusien alojen otsikoiden lisääminen kyseiseen liitteeseen,
	5 artiklan luetteloa kielletyistä käytännöistä ja luetteloa tekoälyjärjestelmistä, jotka edellyttävät läpinäkyvyyttä koskevia lisätoimenpiteitä 52 artiklan mukaisesti, kerran vuodessa tämän asetuksen voimaantulon jälkeen ja tekoälytoimiston antaman suosituksen perusteella.
	Komissio toimittaa kyseisen arvioinnin tulokset Euroopan parlamentille ja neuvostolle.

Tarkistus  690

 

Ehdotus asetukseksi

84 artikla – 2 kohta

Komission teksti	Tarkistus
2. Viimeistään [kolmen vuoden kuluttua 85 artiklan 2 kohdassa tarkoitetusta tämän asetuksen soveltamispäivästä] ja sen jälkeen neljän vuoden välein komissio toimittaa Euroopan parlamentille ja neuvostolle säännöllisesti raportit tämän asetuksen arvioinnista ja uudelleentarkastelusta. Raportit julkaistaan.	2. Viimeistään ... päivänä ...kuuta ... [kahden vuoden kuluttua 85 artiklan 2 kohdassa tarkoitetusta tämän asetuksen soveltamispäivästä] ja sen jälkeen kahden vuoden välein komissio toimittaa yhdessä tekoälytoimiston kanssa Euroopan parlamentille ja neuvostolle säännöllisesti raportit tämän asetuksen arvioinnista ja uudelleentarkastelusta. Raportit julkaistaan.

Tarkistus  691

 

Ehdotus asetukseksi

84 artikla – 3 kohta – a alakohta

Komission teksti	Tarkistus
(a) kansallisten toimivaltaisten viranomaisten taloudellisten ja henkilöresurssien tila, jotta ne voivat suorittaa tehokkaasti niille tässä asetuksessa osoitetut tehtävät;	(a) kansallisten toimivaltaisten viranomaisten taloudellisten, teknisten ja henkilöresurssien tila, jotta ne voivat suorittaa tehokkaasti niille tässä asetuksessa osoitetut tehtävät;

Tarkistus  692

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) tekoälyä koskevien yhdenmukaistettujen standardien ja yhteisten eritelmien kehittämisen tilanne;

Tarkistus  693

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b b alakohta (uusi)

Komission teksti	Tarkistus
	(b b) tekoälyjärjestelmien tutkimukseen, kehittämiseen ja soveltamiseen tehtyjen investointien taso unionin alueella;

Tarkistus  694

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b c alakohta (uusi)

Komission teksti	Tarkistus
	(b c) yhtenä kokonaisuutena tarkastellun Euroopan tekoälyalan kilpailukyky verrattuna kolmansien maiden tekoälyaloihin;

Tarkistus  695

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b d alakohta (uusi)

Komission teksti	Tarkistus
	(b d) asetuksen vaikutukset luonnonvarojen ja energian käyttöön sekä jätteen syntymiseen ja muihin ympäristövaikutuksiin;

Tarkistus  696

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b e alakohta (uusi)

Komission teksti	Tarkistus
	(b e) sellaisen tekoälyä koskevan koordinoidun suunnitelman täytäntöönpano, jossa otetaan huomioon jäsenvaltioiden eriasteinen edistyminen ja määritetään tekoälyalan innovoinnin nykyiset esteet;

Tarkistus  697

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b f alakohta (uusi)

Komission teksti	Tarkistus
	(b f) tekoälyjärjestelmien ja perusmallien kestävyyttä koskevien erityisvaatimusten päivittäminen liitteessä IV ja 28 b artiklassa esitettyjen raportointi- ja dokumentointivaatimusten pohjalta;

Tarkistus  698

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b g alakohta (uusi)

Komission teksti	Tarkistus
	(b g) perusmalleihin sovellettava oikeudellinen järjestelmä;

Tarkistus  699

 

Ehdotus asetukseksi

84 artikla – 3 kohta – b h alakohta (uusi)

Komission teksti	Tarkistus
	(b h) 28 a artiklan luetelma kohtuuttomista sopimusehdoista ottaen tarvittaessa huomioon uudet liiketoimintakäytännöt.

Tarkistus  700

 

Ehdotus asetukseksi

84 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Komissio arvioi viimeistään ... päivänä ...kuuta ... [kahden vuoden kuluttua 85 artiklan 2 kohdassa tarkoitetusta tämän asetuksen soveltamispäivästä] tekoälytoimiston toimintaa sekä sitä, onko tekoälytoimistolle annettu riittävät valtuudet ja toimivalta, jotta se voi täyttää tehtävänsä, ja olisiko tämän asetuksen asianmukaisen täytäntöönpanon ja täytäntöönpanon valvonnan kannalta merkityksellistä ja tarpeellista vahvistaa tekoälytoimiston asemaa ja lisätä sen täytäntöönpanovaltuuksia ja sen resursseja. Komissio toimittaa kyseisen arviointikertomuksen Euroopan parlamentille ja neuvostolle.

Tarkistus  701

 

Ehdotus asetukseksi

84 artikla – 4 kohta

Komission teksti	Tarkistus
4. Komissio arvioi [kolmen vuoden kuluessa 85 artiklan 2 kohdassa tarkoitetusta tämän asetuksen soveltamispäivästä] ja sen jälkeen neljän vuoden välein käytännesääntöjen vaikutusta ja sitä, kuinka tehokkaasti ne edistävät III osaston 2 luvussa vahvistettujen vaatimusten ja mahdollisesti muita tekoälyjärjestelmiä kuin suuririskisiä tekoälyjärjestelmiä koskevien lisävaatimusten soveltamista.	4. Komissio arvioi [vuoden kuluttua 85 artiklan 2 kohdassa tarkoitetusta tämän asetuksen soveltamispäivästä] ja sen jälkeen kahden vuoden välein käytännesääntöjen vaikutusta ja sitä, kuinka tehokkaasti ne edistävät III osaston 2 luvussa vahvistettujen vaatimusten ja mahdollisesti muita tekoälyjärjestelmiä kuin suuririskisiä tekoälyjärjestelmiä koskevien lisävaatimusten soveltamista.

Tarkistus  702

 

Ehdotus asetukseksi

84 artikla – 5 kohta

Komission teksti	Tarkistus
5. Edellä olevan 1–4 kohdan soveltamiseksi tekoälyneuvoston, jäsenvaltioiden ja kansallisten toimivaltaisten viranomaisten on toimitettava komissiolle sen pyytämät tiedot.	5. Edellä olevan 1–4 kohdan soveltamiseksi tekoälytoimiston, jäsenvaltioiden ja kansallisten toimivaltaisten viranomaisten on toimitettava komissiolle sen pyytämät tiedot ilman aiheetonta viivytystä.

Tarkistus  703

 

Ehdotus asetukseksi

84 artikla – 6 kohta

Komission teksti	Tarkistus
6. Kun komissio tekee 1–4 kohdassa tarkoitettuja arviointeja ja uudelleentarkasteluja, se ottaa huomioon tekoälyneuvostolta, Euroopan parlamentilta ja neuvostolta sekä muilta asiaankuuluvilta elimiltä ja muista lähteistä saadut näkemykset ja havainnot.	6. Kun komissio tekee 1–4 kohdassa tarkoitettuja arviointeja ja uudelleentarkasteluja, se ottaa huomioon tekoälytoimistolta, Euroopan parlamentilta ja neuvostolta sekä muilta asiaankuuluvilta elimiltä ja muista asiaankuuluvista lähteistä saadut näkemykset ja havainnot ja kuulee asiaankuuluvia sidosryhmiä. Tällaisen kuulemisen tulokset liitetään kertomukseen.

Tarkistus  704

 

Ehdotus asetukseksi

84 artikla – 7 kohta

Komission teksti	Tarkistus
7. Komissio esittää tarvittaessa ehdotuksia tämän asetuksen muuttamiseksi ottaen erityisesti huomioon teknologiassa ja tietoyhteiskunnassa tapahtuvan kehityksen.	7. Komissio esittää tarvittaessa ehdotuksia tämän asetuksen muuttamiseksi ottaen erityisesti huomioon teknologiassa tapahtuvan kehityksen, tekoälyjärjestelmien vaikutuksen terveyteen ja turvallisuuteen, perusoikeuksiin, ympäristöön, tasa-arvoon ja esteettömyyteen vammaisten henkilöiden kannalta, demokratiaan ja oikeusvaltioon sekä tietoyhteiskunnassa tapahtuvan kehityksen.

Tarkistus  705

 

Ehdotus asetukseksi

84 artikla – 7 a kohta (uusi)

Komission teksti	Tarkistus
	7 a. Ohjatakseen artiklan 1–4 kohdassa tarkoitettuja arviointeja ja uudelleentarkasteluja tekoälytoimisto sitoutuu kehittämään puolueettoman ja osallistavan menetelmän riskitason arvioimiseksi asiaankuuluvissa artikloissa esitettyjen perusteiden pohjalta ja uusien järjestelmien sisällyttämiseksi liitteessä III olevaan luetteloon, mukaan lukien nykyisten alojen otsikoiden laajentaminen tai uusien alojen otsikoiden lisääminen kyseiseen liitteeseen; 5 artiklan luetteloon kielletyistä käytännöistä; ja luetteloon tekoälyjärjestelmistä, jotka edellyttävät läpinäkyvyyttä koskevia lisätoimenpiteitä 52 artiklan mukaisesti.

Tarkistus  706

 

Ehdotus asetukseksi

84 artikla – 7 b kohta (uusi)

Komission teksti	Tarkistus
	7 b. Kaikissa tämän artiklan 7 kohdan nojalla tehtävissä tämän asetuksen muutoksissa tai asiaankuuluvissa tulevissa delegoiduissa säädöksissä tai täytäntöönpanosäädöksissä, jotka koskevat liitteessä II olevassa B osassa lueteltua alakohtaista lainsäädäntöä, on otettava huomioon kunkin alan sääntelyn erityispiirteet sekä olemassa olevat hallinto-, vaatimustenmukaisuudenarviointi- ja täytäntöönpanomekanismit ja asianomaisissa säädöksissä perustetut viranomaiset.

Tarkistus  707

 

Ehdotus asetukseksi

84 artikla – 7 c kohta (uusi)

Komission teksti	Tarkistus
	7 c. Komissio tekee viimeistään ... päivänä ...kuuta ... [viiden vuoden kuluttua tämän asetuksen soveltamispäivästä] arvioinnin tämän asetuksen täytäntöönpanosta ja antaa siitä kertomuksen Euroopan parlamentille, neuvostolle ja Euroopan talous- ja sosiaalikomitealle ottaen huomioon asetuksen ensimmäiset soveltamisvuodet. Kertomuksen tulosten perusteella siihen liitetään tarvittaessa ehdotus tämän asetuksen muuttamisesta täytäntöönpanon valvonnan rakenteen ja unionin viraston tarpeellisuuden osalta havaittujen puutteiden korjaamiseksi.

Tarkistus  708

 

Ehdotus asetukseksi

Liite I

Komission teksti	Tarkistus
TEKOÄLYYN LIITTYVÄT TEKNIIKAT JA LÄHESTYMISTAVAT 3 artiklan 1 alakohdassa tarkoitetut	Poistetaan.
(a) Koneoppimisen lähestymistavat, mukaan lukien ohjattu, ohjaamaton ja vahvistava oppiminen, jossa käytetään monia erilaisia menetelmiä, kuten syväoppimista;
(b) Logiikkaan ja tietämykseen perustuvat lähestymistavat, mukaan lukien tietämyksen esittäminen, induktiivinen (looginen) ohjelmointi, tietämyskannat, päättelykoneet, (symbolinen) päättely ja asiantuntijajärjestelmät;
(c) Tilastolliset lähestymistavat, Bayes-estimointi, haku- ja optimointimenetelmät.

Tarkistus  709

 

Ehdotus asetukseksi

Liite III – 1 kohta – johdantokappale

Komission teksti	Tarkistus
Tämän asetuksen 6 artiklan 2 kohdan mukaisia suuririskisiä tekoälyjärjestelmiä ovat seuraavilla aloilla luetellut tekoälyjärjestelmät:	Tämän liitteen 1–8 a kohdassa yksilöidyt tekoälyjärjestelmät edustavat kriittisiä käyttötapauksia, ja kutakin niistä pidetään 6 artiklan 2 kohdan mukaisina suuririskisinä tekoälyjärjestelminä edellyttäen, että ne täyttävät mainitussa artiklassa vahvistetut kriteerit:

Tarkistus  710

 

Ehdotus asetukseksi

Liite III – 1 kohta – 1 alakohta – johdantokappale

Komission teksti	Tarkistus
1. Luonnollisten henkilöiden biometrinen tunnistaminen ja luokittelu:	1. Biometriset ja biometriikkaan perustuvat järjestelmät:

Tarkistus  711

 

Ehdotus asetukseksi

Liite III – 1 kohta – 1 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden reaaliaikaiseen ja jälkikäteiseen biometriseen etätunnistukseen.	(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden biometriseen tunnistamiseen, lukuun ottamatta 5 artiklassa mainittuja järjestelmiä;

Tarkistus  712

 

Ehdotus asetukseksi

Liite III – 1 kohta – 1 alakohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi päättelyjen tekemiseen luonnollisten henkilöiden henkilökohtaisista ominaisuuksista biometristen tai biometriikkaan perustuvien tietojen perusteella, mukaan lukien tunteentunnistusjärjestelmät ja lukuun ottamatta 5 artiklassa mainittuja järjestelmiä.
	Edellä olevaan 1 kohtaan ei lueta tekoälyjärjestelmiä, jotka on tarkoitettu biometriseen todennukseen ja joiden ainoana tarkoituksena on vahvistaa, että tietty luonnollinen henkilö on se henkilö, joka hän väittää olevansa.

Tarkistus  713

 

Ehdotus asetukseksi

Liite III – 1 kohta – 2 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tieliikenteen sekä vesi-, kaasu-, lämmitys- ja sähköhuollon hallinnassa ja toiminnassa.	(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tie-, rautatie- ja ilmaliikenteen hallinnassa ja toiminnassa, ellei niitä säännellä yhdenmukaistamislainsäädännöllä tai alakohtaisella lainsäädännöllä.

Tarkistus  714

 

Ehdotus asetukseksi

Liite III – 1 kohta – 2 alakohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina vesi-, kaasu-, lämmitys- ja sähköhuollon sekä kriittisen digitaalisen infrastruktuurin hallinnassa ja toiminnassa.

Tarkistus  715

 

Ehdotus asetukseksi

Liite III – 1 kohta – 3 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi määritettäessä pääsyä yleissivistäviin ja ammatillisiin oppilaitoksiin tai osoitettaessa luonnollisia henkilöitä niihin;	(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi määritettäessä pääsyä yleissivistäviin ja ammatillisiin oppilaitoksiin tai vaikuttamaan olennaisesti tällaista pääsyä koskeviin päätöksiin tai osoitettaessa luonnollisia henkilöitä tällaisiin oppilaitoksiin;

Tarkistus  716

 

Ehdotus asetukseksi

Liite III – 1 kohta – 3 alakohta – b alakohta

Komission teksti	Tarkistus
(b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi oppilaiden arviointiin yleissivistävissä ja ammatillisissa oppilaitoksissa tai oppilaitoksiin pääsyyn yleisesti vaadittavien kokeiden osallistujien arviointiin.	(b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi oppilaiden arviointiin yleissivistävissä ja ammatillisissa oppilaitoksissa tai tällaisiin oppilaitoksiin pääsyyn yleisesti vaadittavien kokeiden osallistujien arviointiin;

Tarkistus  717

 

Ehdotus asetukseksi

Liite III – 1 kohta – 3 alakohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi yksittäiselle henkilölle soveltuvan koulutustason arviointiin ja vaikuttamaan olennaisesti sen yleissivistävän tai ammatillisen koulutuksen tasoon, jota henkilö myöhemmin saa tai johon hän voi päästä;

Tarkistus  718

 

Ehdotus asetukseksi

Liite III – 1 kohta – 3 alakohta – b b alakohta (uusi)

Komission teksti	Tarkistus
	(b b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi opiskelijoiden tarkkailuun ja kielletyn käyttäytymisen havaitsemiseen kokeiden aikana yleissivistävissä ja ammatillisissa oppilaitoksissa;

Tarkistus  719

 

Ehdotus asetukseksi

Liite III – 1 kohta – 4 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden rekrytoinnissa tai valinnassa, erityisesti avoimista työpaikoista tiedottamiseen, hakemusten seulontaan tai suodattamiseen sekä hakijoiden arviointiin haastattelujen tai kokeiden aikana;	(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden rekrytoinnissa tai valinnassa, erityisesti kohdennettujen työpaikkailmoitusten laatimiseen, hakemusten seulontaan tai suodattamiseen sekä hakijoiden arviointiin haastattelujen tai kokeiden aikana;

Tarkistus  720

 

Ehdotus asetukseksi

Liite III – 1 kohta – 4 alakohta – b alakohta

Komission teksti	Tarkistus
(b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi uralla etenemistä ja työhön liittyvien sopimussuhteiden päättämistä koskevien päätösten tekemiseen, tehtävien jakamiseen tällaisissa suhteissa oleville henkilöille ja heidän suorituksensa ja käyttäytymisensä seurantaan tai arviointiin.	(b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi työhön liittyvien sopimussuhteiden solmimiseen, päättämiseen ja uralla etenemiseen vaikuttavien päätösten tekemiseen tai vaikuttamaan olennaisesti tällaisiin päätöksiin, tehtävien jakamiseen yksilöllisen käyttäytymisen, luonteenpiirteiden tai henkilökohtaisten ominaisuuksien perusteella tai tällaisissa suhteissa olevien henkilöiden suorituksen ja käyttäytymisen seurantaan tai arviointiin;

Tarkistus  721

 

Ehdotus asetukseksi

Liite III – 1 kohta – 5 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi viranomaisten toimesta tai viranomaisten puolesta sen arviointiin, ovatko luonnolliset henkilöt oikeutettuja julkisen avun etuuksiin ja palveluihin, sekä tällaisten etuuksien ja palvelujen myöntämiseen, vähentämiseen, peruuttamiseen tai takaisin perimiseen;	(a) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi viranomaisten toimesta tai puolesta sen arviointiin, ovatko luonnolliset henkilöt oikeutettuja julkisen avun etuuksiin ja palveluihin, mukaan lukien terveydenhuollon palvelut ja keskeiset palvelut, joita ovat muun muassa asuminen, sähkö, lämmitys/jäähdytys ja internet, sekä tällaisten etuuksien ja palvelujen myöntämiseen, vähentämiseen, peruuttamiseen, korottamiseen tai takaisin perimiseen;

Tarkistus  722

 

Ehdotus asetukseksi

Liite III – 1 kohta – 5 alakohta – b alakohta

Komission teksti	Tarkistus
(b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden luottokelpoisuuden arviointiin tai heidän luottopisteytyksensä määrittämiseen, lukuun ottamatta tekoälyjärjestelmiä, jotka pienet tarjoajat ovat ottaneet käyttöön omaan käyttöönsä;	(b) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden luottokelpoisuuden arviointiin tai heidän luottopisteytyksensä määrittämiseen, lukuun ottamatta tekoälyjärjestelmiä, jotka on tarkoitettu käytettäviksi talouspetosten havaitsemiseen;

Tarkistus  723

 

Ehdotus asetukseksi

Liite III – 1 kohta – 5 alakohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) Tekoälyjärjestelmät, jotka on tarkoitettu luonnollisten henkilöiden sairausvakuutus- ja henkivakuutuskelpoisuutta koskevien päätösten tekemiseen tai vaikuttamaan olennaisesti tällaisiin päätöksiin;

Tarkistus  724

 

Ehdotus asetukseksi

Liite III – 1 kohta – 5 alakohta – c alakohta

Komission teksti	Tarkistus
(c) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, mukaan lukien palokunta ja lääkintäapu.	(c) Tekoälyjärjestelmät, joilla on tarkoitus arvioida ja luokitella luonnollisten henkilöiden soittamia hätäpuheluja tai jotka on tarkoitettu käytettäviksi pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, mukaan lukien poliisi ja lainvalvontaviranomaiset, palokunta ja lääkintäapu, sekä kiireellistä sairaanhoitoa tarvitsevien potilaiden luokittelussa;

Tarkistus  725

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää luonnollisten henkilöiden yksilöllisessä riskinarvioinnissa, jotta voidaan arvioida riskiä siitä, että luonnollinen henkilö syyllistyy rikokseen tai rikoksen uusimiseen, tai jotta voidaan arvioida rikosten mahdollisiin uhreihin kohdistuvaa riskiä;	Poistetaan.

Tarkistus  726

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – b alakohta

Komission teksti	Tarkistus
(b) Tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää valheenpaljastuksessa ja vastaavissa välineissä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen;	(b) Tekoälyjärjestelmät, joita on tarkoitus käyttää lainvalvontaviranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää lainvalvontaviranomaisten tukemiseksi valheenpaljastuksessa ja vastaavissa välineissä, sikäli kuin niiden käyttö on sallittua asiaa koskevan unionin ja kansallisen lainsäädännön nojalla;

Tarkistus  727

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – c alakohta

Komission teksti	Tarkistus
(c) Tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää 52 artiklan 3 kohdassa tarkoitettujen syväväärennösten havaitsemiseen;	Poistetaan.

Tarkistus  728

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – d alakohta

Komission teksti	Tarkistus
(d) Tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää todistusaineiston luotettavuuden arviointiin rikostutkinnassa tai rikosoikeudellisissa menettelyissä;	(d) Tekoälyjärjestelmät, joita on tarkoitus käyttää lainvalvontaviranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää lainvalvontaviranomaisten tukemiseksi todistusaineiston luotettavuuden arvioinnissa rikostutkinnassa tai rikosoikeudellisissa menettelyissä;

Tarkistus  729

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – e alakohta

Komission teksti	Tarkistus
(e) Tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää todellisen tai mahdollisen rikoksen esiintymisen tai toistumisen ennustamiseen direktiivin (EU) 2016/680 3 artiklan 4 kohdassa tarkoitetun luonnollisten henkilöiden profiloinnin tai luonnollisten henkilöiden tai ryhmien persoonallisuuspiirteiden ja ominaispiirteiden tai aiemman rikollisen käyttäytymisen arvioinnin perusteella;	Poistetaan.

Tarkistus  730

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – f alakohta

Komission teksti	Tarkistus
(f) Tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää direktiivin (EU) 2016/680 3 artiklan 4 kohdassa tarkoitettuun luonnollisten henkilöiden profilointiin rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä;	(f) Tekoälyjärjestelmät, joita on tarkoitus käyttää lainvalvontaviranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää lainvalvontaviranomaisten tukemiseksi direktiivin (EU) 2016/680 3 artiklan 4 kohdassa tarkoitetussa luonnollisten henkilöiden profiloinnissa tai, kun on kyse unionin virastoista, laitoksista tai elimistä, asetuksen (EU) 2018/1725 3 artiklan 5 kohdassa tarkoitetussa luonnollisten henkilöiden profiloinnissa rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä;

Tarkistus  731

 

Ehdotus asetukseksi

Liite III – 1 kohta – 6 alakohta – g alakohta

Komission teksti	Tarkistus
(g) Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisia henkilöitä koskevaan rikosanalyysiin ja joiden avulla lainvalvontaviranomaiset voivat tehdä hakuja monimutkaisista asiaan liittyvistä ja asiaan liittymättömistä suurista datakokonaisuuksista, jotka ovat saatavilla eri datalähteissä tai eri datamuodoissa, tuntemattomien mallien havaitsemiseksi tai piilosuhteiden löytämiseksi datasta.	(g) Tekoälyjärjestelmät, joita on tarkoitus käyttää lainvalvontaviranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää lainvalvontaviranomaisten tukemiseksi luonnollisia henkilöitä koskevassa rikosanalyysissä ja joiden avulla lainvalvontaviranomaiset voivat tehdä hakuja monimutkaisista asiaan liittyvistä ja asiaan liittymättömistä suurista datakokonaisuuksista, jotka ovat saatavilla eri datalähteissä tai eri datamuodoissa, tuntemattomien mallien havaitsemiseksi tai piilosuhteiden löytämiseksi datasta.

Tarkistus  732

 

Ehdotus asetukseksi

Liite III – 1 kohta – 7 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, joita toimivaltaisten viranomaisten on tarkoitus käyttää valheenpaljastuksessa ja vastaavissa välineissä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen;	(a) Tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää valheenpaljastuksessa ja vastaavissa välineissä, sikäli kuin niiden käyttö on sallittua asiaa koskevan unionin tai kansallisen lainsäädännön nojalla;

Tarkistus  733

 

Ehdotus asetukseksi

Liite III – 1 kohta – 7 alakohta – b alakohta

Komission teksti	Tarkistus
(b) Tekoälyjärjestelmät, joita toimivaltaisten viranomaisten on tarkoitus käyttää arvioidakseen luonnollisen henkilön, joka aikoo tulla tai on tullut jäsenvaltion alueelle, aiheuttamaa riskiä, mukaan lukien turvallisuusriski, laittoman maahanmuuton riski ja terveysriski;	(b) Tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää arvioidakseen luonnollisen henkilön, joka aikoo tulla tai on tullut jäsenvaltion alueelle, aiheuttamaa riskiä, mukaan lukien turvallisuusriski, laittoman maahanmuuton riski ja terveysriski;

Tarkistus  734

 

Ehdotus asetukseksi

Liite III – 1 kohta – 7 alakohta – c alakohta

Komission teksti	Tarkistus
(c) Tekoälyjärjestelmät, joita toimivaltaisten viranomaisten on tarkoitus käyttää luonnollisten henkilöiden matkustusasiakirjojen ja niitä tukevien asiakirjojen aitouden tarkastamiseen ja väärennettyjen asiakirjojen havaitsemiseen tarkastamalla niiden turvaominaisuudet;	(c) Tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää luonnollisten henkilöiden matkustusasiakirjojen ja niitä tukevien asiakirjojen aitouden tarkastamiseen ja väärennettyjen asiakirjojen havaitsemiseen tarkastamalla niiden turvaominaisuudet;

Tarkistus  735

 

Ehdotus asetukseksi

Liite III – 1 kohta – 7 alakohta – d alakohta

Komission teksti	Tarkistus
(d) Tekoälyjärjestelmät, joiden on tarkoitus auttaa toimivaltaisia viranomaisia turvapaikka-, viisumi- ja oleskelulupahakemusten ja niihin liittyvien valitusten käsittelyssä asemaa hakevien luonnollisten henkilöiden kelpoisuuden tarkastamiseksi.	(d) Tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää toimivaltaisten viranomaisten avustamiseksi turvapaikka-, viisumi- ja oleskelulupahakemusten ja niihin liittyvien valitusten käsittelyssä ja niitä varten toimitettujen todisteiden todenperäisyyden arvioinnissa asemaa hakevien luonnollisten henkilöiden kelpoisuuden tarkastamista varten;

Tarkistus  736

 

Ehdotus asetukseksi

Liite III – 1 kohta – 7 alakohta – d a alakohta (uusi)

Komission teksti	Tarkistus
	(d a) Tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa rajavalvontatoimien yhteydessä suoritettavaan tarkkailuun, valvontaan tai tietojen käsittelyyn luonnollisten henkilöiden havaitsemista, tunnistamista tai henkilöllisyyden toteamista varten;

Tarkistus  737

 

Ehdotus asetukseksi

Liite III – 1 kohta – 7 alakohta – d b alakohta (uusi)

Komission teksti	Tarkistus
	(d b) Tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa muuttoliikkeeseen ja rajanylityksiin liittyvien suuntausten ennakoimiseksi tai ennustamiseksi;

Tarkistus  738

 

Ehdotus asetukseksi

Liite III – 1 kohta – 8 alakohta – a alakohta

Komission teksti	Tarkistus
(a) Tekoälyjärjestelmät, jotka on tarkoitettu auttamaan oikeusviranomaisia tutkimaan ja tulkitsemaan tosiseikkoja ja lainsäädäntöä sekä soveltamaan lainsäädäntöä konkreettisiin tosiseikkoihin.	(a) Tekoälyjärjestelmät, joita oikeusviranomaisen tai hallinnollisen elimen on tarkoitus käyttää tai joita on tarkoitus käyttää oikeusviranomaisen tai hallinnollisen elimen puolesta niiden avustamiseksi tosiseikkojen tai lainsäädännön tutkimisessa ja tulkinnassa sekä lainsäädännön soveltamisessa konkreettisiin tosiseikkoihin taikka käyttää vastaavalla tavalla vaihtoehtoisessa riidanratkaisussa.

Tarkistus  739

 

Ehdotus asetukseksi

Liite III – 1 kohta – 8 alakohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) Tekoälyjärjestelmät, joita on tarkoitus käyttää vaikuttamaan vaalin tai kansanäänestyksen tulokseen tai luonnollisten henkilöiden äänestyskäyttäytymiseen heidän äänestäessään vaaleissa tai kansanäänestyksissä. Tähän ei lueta tekoälyjärjestelmiä, joiden tuotokselle luonnolliset henkilöt eivät suoraan altistu, kuten välineet, joita käytetään poliittisten kampanjoiden järjestämiseen, optimointiin ja jäsentämiseen hallinnollisesti ja logistiselta kannalta.

Tarkistus  740

 

Ehdotus asetukseksi

Liite III – 1 kohta – 8 alakohta – a b alakohta (uusi)

Komission teksti	Tarkistus
	(a b) Tekoälyjärjestelmät, joita on tarkoitus käyttää sellaisten sosiaalisen median alustojen suosittelujärjestelmissä, jotka on nimetty asetuksen (EU) 2022/2065 33 artiklan mukaisiksi erittäin suuriksi verkkoalustoiksi, suosittelemaan palvelun vastaanottajalle alustalla saatavilla olevaa palvelun käyttäjien tuottamaa sisältöä.

Tarkistus  741

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – a alakohta

Komission teksti	Tarkistus
(a) järjestelmän käyttötarkoitus, järjestelmän kehittäjä/kehittäjät, järjestelmän päivämäärä ja versio;	(a) järjestelmän käyttötarkoitus, sen tarjoajan nimi ja järjestelmän versio, joka kuvastaa sen suhdetta aiempiin ja tapauksen mukaan uudempiin versioihin tarkistettujen versioiden sarjassa;

Tarkistus  742

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) niiden tietojen luonne, joita järjestelmässä todennäköisesti käsitellään tai on tarkoitus käsitellä, ja, kun on kyse henkilötiedoista, niiden luonnollisten henkilöiden ja ryhmien luokat, joihin järjestelmän käyttö todennäköisesti vaikuttaa tai sen on tarkoitus vaikuttaa;

Tarkistus  743

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – b alakohta

Komission teksti	Tarkistus
(b) tarvittaessa se, miten tekoälyjärjestelmä on vuorovaikutuksessa tai miten sitä voidaan käyttää vuorovaikutukseen sellaisten laitteiden tai ohjelmistojen kanssa, jotka eivät ole osa itse tekoälyjärjestelmää;	(b) tarvittaessa se, miten tekoälyjärjestelmä voi olla vuorovaikutuksessa tai miten sitä voidaan käyttää vuorovaikutukseen sellaisten laitteiden tai ohjelmistojen, myös muiden tekoälyjärjestelmien, kanssa, jotka eivät ole osa itse tekoälyjärjestelmää;

Tarkistus  744

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – c alakohta

Komission teksti	Tarkistus
(c) asianomaisten laiteohjelmistojen tai muiden ohjelmistojen versiot ja versiopäivitykseen liittyvät vaatimukset;	(c) asianomaisten laiteohjelmistojen tai muiden ohjelmistojen versiot ja tapauksen mukaan versiopäivitykseen liittyviä vaatimuksia koskevat tiedot käyttöönottajalle;

Tarkistus  745

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – d alakohta

Komission teksti	Tarkistus
(d) kuvaus kaikista muodoista, joissa tekoälyjärjestelmä saatetaan markkinoille tai otetaan käyttöön;	(d) kuvaus tekoälyjärjestelmän eri kokoonpanoista ja muunnelmista, jotka on tarkoitus saattaa markkinoille tai ottaa käyttöön;

Tarkistus  746

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – f a alakohta (uusi)

Komission teksti	Tarkistus
	(f a) käyttöönottajan käyttöliittymän kuvaus;

Tarkistus  747

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – g alakohta

Komission teksti	Tarkistus
(g) käyttöohjeet käyttäjälle sekä tarvittaessa asennusohjeet.	(g) käyttöohjeet käyttöönottajalle 13 artiklan 2 ja 3 kohdan ja 14 artiklan 4 kohdan e alakohdan mukaisesti sekä tarvittaessa asennusohjeet;

Tarkistus  748

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – g a alakohta (uusi)

Komission teksti	Tarkistus
	(g a) yksityiskohtainen ja helposti ymmärrettävä kuvaus järjestelmän pääasiallisesta optimointitavoitteesta tai pääasiallisista optimointitavoitteista;

Tarkistus  749

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – g b alakohta (uusi)

Komission teksti	Tarkistus
	(g b) yksityiskohtainen ja helposti ymmärrettävä kuvaus järjestelmän odotetusta tuotoksesta ja odotetusta tuotoksen laadusta;

Tarkistus  750

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – g c alakohta (uusi)

Komission teksti	Tarkistus
	(g c) yksityiskohtaiset ja helposti ymmärrettävät ohjeet järjestelmän tuotoksen tulkitsemiseksi;

Tarkistus  751

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 1 alakohta – g d alakohta (uusi)

Komission teksti	Tarkistus
	(g d) esimerkkejä skenaarioista, joissa järjestelmää ei pitäisi käyttää.

Tarkistus  752

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 2 alakohta – b alakohta

Komission teksti	Tarkistus
(b) järjestelmän rakennespesifikaatiot, erityisesti tekoälyjärjestelmän ja algoritmien yleinen logiikka; keskeiset rakenteelliset valinnat, mukaan lukien periaatteet ja tehdyt oletukset, myös niiden henkilöiden tai henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää; tärkeimmät luokitusvalinnat; mihin nähden järjestelmä on suunniteltu optimoitumaan ja eri parametrien merkitys; päätökset mahdollisista teknisiä ratkaisuja koskevista kompromisseista, joita on tehty III osaston 2 luvussa vahvistettujen vaatimusten noudattamiseksi;	(b) kuvaus tekoälyjärjestelmän arkkitehtuurista, rakennespesifikaatioista, algoritmeista ja datarakenteista, mukaan lukien eritelmä sen komponenteista ja rajapinnoista, niiden välisistä suhteista ja siitä, miten niillä varmistetaan tekoälyjärjestelmän yleinen prosessointi tai logiikka; keskeiset rakenteelliset valinnat, mukaan lukien periaatteet ja tehdyt oletukset, myös niiden henkilöiden tai henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää; tärkeimmät luokitusvalinnat; mihin nähden järjestelmä on suunniteltu optimoitumaan ja eri parametrien merkitys; päätökset mahdollisista teknisiä ratkaisuja koskevista kompromisseista, joita on tehty III osaston 2 luvussa vahvistettujen vaatimusten noudattamiseksi;

Tarkistus  753

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 2 alakohta – c alakohta

Komission teksti	Tarkistus
(c) järjestelmäarkkitehtuurin kuvaus, jossa selitetään, miten ohjelmistokomponentit rakentuvat toisilleen tai ruokkivat toisiaan ja miten ne integroituvat yleiseen prosessointiin; tekoälyjärjestelmän kehittämiseen, kouluttamiseen, testaamiseen ja validointiin käytetyt laskentaresurssit;	(c) Poistetaan.

Tarkistus  754

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 2 alakohta – e alakohta

Komission teksti	Tarkistus
(e) 14 artiklan mukaisesti tarvittavien ihmisen suorittamien valvontatoimenpiteiden arviointi, mukaan lukien niiden teknisten toimenpiteiden arviointi, jotka ovat tarpeen, jotta käyttäjien on helpompi tulkita tekoälyjärjestelmien tuloksia 13 artiklan 3 kohdan d alakohdan mukaisesti;	(e) 14 artiklan mukaisesti tarvittavien ihmisen suorittamien valvontatoimenpiteiden arviointi, mukaan lukien niiden teknisten toimenpiteiden arviointi, jotka ovat tarpeen, jotta käyttöönottajien on helpompi tulkita tekoälyjärjestelmien tuloksia 13 artiklan 3 kohdan d alakohdan mukaisesti;

Tarkistus  755

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 2 alakohta – g alakohta

Komission teksti	Tarkistus
(g) käytetyt validointi- ja testausmenettelyt, mukaan lukien tiedot käytetystä validointi- ja testausdatasta ja sen tärkeimmistä ominaisuuksista; mittarit, joita käytetään mittaamaan tarkkuutta, varmuutta ja kyberturvallisuutta ja muiden III osaston 2 luvussa vahvistettujen asiaankuuluvien vaatimusten noudattamista sekä mahdollisia syrjiviä vaikutuksia; testilokit ja kaikki vastuuhenkilöiden päiväämät ja allekirjoittamat testiraportit, myös f alakohdassa tarkoitettujen ennalta määriteltyjen muutosten osalta.	(g) käytetyt validointi- ja testausmenettelyt, mukaan lukien tiedot käytetystä validointi- ja testausdatasta ja sen tärkeimmistä ominaisuuksista; mittarit, joita käytetään mittaamaan tarkkuutta, varmuutta ja muiden III osaston 2 luvussa vahvistettujen asiaankuuluvien vaatimusten noudattamista sekä mahdollisia syrjiviä vaikutuksia; testilokit ja kaikki vastuuhenkilöiden päiväämät ja allekirjoittamat testiraportit, myös f alakohdassa tarkoitettujen ennalta määriteltyjen muutosten osalta.

Tarkistus  756

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 2 alakohta – g a alakohta (uusi)

Komission teksti	Tarkistus
	(g a) käyttöön otetut kyberturvallisuustoimenpiteet.

Tarkistus  757

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 3 alakohta

Komission teksti	Tarkistus
3. Yksityiskohtaiset tiedot tekoälyjärjestelmän seurannasta, toiminnasta ja valvonnasta, erityisesti seuraavien seikkojen osalta: sen suorituskykyyn liittyvät valmiudet ja rajoitukset, mukaan lukien tarkkuusaste niiden henkilöiden tai henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää, sekä odotettu yleinen tarkkuus suhteessa suunniteltuun käyttötarkoitukseen; ennakoitavissa olevat tahattomat seuraukset ja riskin lähteet terveyden ja turvallisuuden, perusoikeuksien sekä syrjinnän suhteen ottaen huomioon tekoälyjärjestelmän suunniteltu käyttötarkoitus; 14 artiklan mukaisesti tarvittavat ihmisen suorittamat valvontatoimenpiteet, mukaan lukien tekniset toimenpiteet, jotka on otettu käyttöön, jotta käyttäjien olisi helpompi tulkita tekoälyjärjestelmien tuloksia; tarvittaessa syöttödataa koskevat spesifikaatiot;	3. Yksityiskohtaiset tiedot tekoälyjärjestelmän seurannasta, toiminnasta ja valvonnasta, erityisesti seuraavien seikkojen osalta: sen suorituskykyyn liittyvät valmiudet ja rajoitukset, mukaan lukien tarkkuusaste niiden henkilöiden tai henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää, sekä odotettu yleinen tarkkuus suhteessa käyttötarkoitukseen; ennakoitavissa olevat tahattomat seuraukset ja riskin lähteet terveyden ja turvallisuuden, perusoikeuksien sekä syrjinnän suhteen ottaen huomioon tekoälyjärjestelmän käyttötarkoitus; 14 artiklan mukaisesti tarvittavat ihmisen suorittamat valvontatoimenpiteet, mukaan lukien tekniset toimenpiteet, jotka on otettu käyttöön, jotta käyttöönottajien olisi helpompi tulkita tekoälyjärjestelmien tuloksia; tarvittaessa syöttödataa koskevat spesifikaatiot;

Tarkistus  758

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 3 a alakohta (uusi)

Komission teksti	Tarkistus
	3 a. Kuvaus kyseessä olevan tekoälyjärjestelmän suorituskykymittareiden asianmukaisuudesta;

Tarkistus  759

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 3 b alakohta (uusi)

Komission teksti	Tarkistus
	3 b. Tiedot tekoälyjärjestelmän energiankulutuksesta kehittämisvaiheen aikana ja odotetusta energiankulutuksesta käytön aikana, ottaen tarvittaessa huomioon asiaa koskeva unionin ja kansallinen lainsäädäntö;

Tarkistus  760

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 5 alakohta

Komission teksti	Tarkistus
5. Kuvaus järjestelmään sen elinkaaren aikana tehdyistä muutoksista;	5. Kuvaus merkityksellisistä muutoksista, joita tarjoajat ovat tehneet järjestelmään sen elinkaaren aikana;

Tarkistus  761

 

Ehdotus asetukseksi

Liite IV – 1 kohta – 6 alakohta

Komission teksti	Tarkistus
6. Luettelo kokonaan tai osittain sovelletuista yhdenmukaistetuista standardeista, joiden viitetiedot on julkaistu Euroopan unionin virallisessa lehdessä; jos tällaisia yhdenmukaistettuja standardeja ei ole sovellettu, yksityiskohtainen kuvaus ratkaisuista, jotka on valittu III osaston 2 luvussa vahvistettujen vaatimusten täyttämiseksi, mukaan lukien luettelo sovelletuista muista asiaankuuluvista standardeista ja teknisistä eritelmistä;	6. Luettelo kokonaan tai osittain sovelletuista yhdenmukaistetuista standardeista, joiden viitetiedot on julkaistu Euroopan unionin virallisessa lehdessä; jos tällaisia yhdenmukaistettuja standardeja ei ole sovellettu, yksityiskohtainen kuvaus ratkaisuista, jotka on valittu III osaston 2 luvussa vahvistettujen vaatimusten täyttämiseksi, mukaan lukien luettelo sovelletuista muista asiaankuuluvista standardeista tai yhteisistä eritelmistä;

Tarkistus  762

 

Ehdotus asetukseksi

Liite V – 1 kohta – 4 a alakohta (uusi)

Komission teksti	Tarkistus
	4 a. Jos tekoälyjärjestelmään liittyy henkilötietojen käsittelyä, ilmoitus siitä, että tekoälyjärjestelmä täyttää asetusten (EU) 2016/679 ja (EU) 2018/1725 sekä direktiivin (EU) 2016/680 vaatimukset.

Tarkistus  763

 

Ehdotus asetukseksi

Liite V – 1 kohta – 7 alakohta

Komission teksti	Tarkistus
7. Vaatimustenmukaisuusvakuutuksen antamispaikka ja päivämäärä, allekirjoittajan nimi ja tehtävä, tieto siitä, kenen puolesta tai nimissä kyseinen henkilö allekirjoittaa vaatimuksenmukaisuusvakuutuksen, sekä allekirjoitus.	7. Vaatimustenmukaisuusvakuutuksen antamispaikka ja päivämäärä, allekirjoitus, allekirjoittajan nimi ja tehtävä, tieto siitä, kenen puolesta tai nimissä kyseinen henkilö allekirjoittaa vaatimuksenmukaisuusvakuutuksen, sekä allekirjoitus.

Tarkistus  764

 

Ehdotus asetukseksi

Liite VII – 4 kohta – 4.5 alakohta

Komission teksti	Tarkistus
4.5. Jos se on tarpeen sen arvioimiseksi, onko suuririskinen tekoälyjärjestelmä III osaston 2 luvussa vahvistettujen vaatimusten mukainen, ilmoitetulle laitokselle on perustellusta pyynnöstä annettava pääsy myös tekoälyjärjestelmän lähdekoodiin.	4.5. Jos se on tarpeen sen arvioimiseksi, onko suuririskinen tekoälyjärjestelmä III osaston 2 luvussa vahvistettujen vaatimusten mukainen, ilmoitetulle laitokselle on perustellusta pyynnöstä ja sen jälkeen, kun kaikki muut kohtuulliset tavat vaatimustenmukaisuuden todentamiseksi on käytetty ja ne ovat osoittautuneet riittämättömiksi, annettava pääsy myös tekoälyjärjestelmän koulutusmalleihin ja koulutettuihin malleihin, niiden asiaan liittyvät parametrit mukaan lukien. Tällaiseen pääsyyn sovelletaan teollis- ja tekijänoikeuksia ja liikesalaisuuksia koskevaa voimassa olevaa unionin lainsäädäntöä. Ilmoitettujen laitosten on toteutettava tekniset ja organisatoriset toimenpiteet teollis- ja tekijänoikeuksien ja liikesalaisuuksien suojan varmistamiseksi.

Tarkistus  765

 

Ehdotus asetukseksi

Liite VIII – 1 kohta

Komission teksti	Tarkistus
Tämän asetuksen 51 artiklan mukaisesti rekisteröitävistä suuririskisistä tekoälyjärjestelmistä on annettava ja pidettävä sen jälkeen ajan tasalla seuraavat tiedot.	A osa – Tämän asetuksen 51 artiklan 1 kohdan mukaisesti rekisteröitävistä suuririskisistä tekoälyjärjestelmistä on annettava ja pidettävä sen jälkeen ajan tasalla seuraavat tiedot:

Tarkistus  766

 

Ehdotus asetukseksi

Liite VIII – 4 a kohta (uusi)

Komission teksti	Tarkistus
	4 a. Perusmallin tuotenimi ja muut yksiselitteiset viitetiedot, joiden avulla se voidaan tunnistaa ja jäljittää;

Tarkistus  767

 

Ehdotus asetukseksi

Liite VIII – 5 kohta

Komission teksti	Tarkistus
5. Kuvaus tekoälyjärjestelmän käyttötarkoituksesta;	5. Yksinkertainen ja ymmärrettävä kuvaus seuraavista:
	a) tekoälyjärjestelmän käyttötarkoitus;
	b) tekoälyllä tuetut komponentit ja toiminnot;
	c) yksinkertainen selitys tekoälyjärjestelmän logiikasta.

Tarkistus  768

 

Ehdotus asetukseksi

Liite VIII – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. tarvittaessa niiden tietojen luokat ja luonne, joita tekoälyjärjestelmässä todennäköisesti käsitellään tai on määrä käsitellä.

Tarkistus  769

 

Ehdotus asetukseksi

Liite VIII – 11 kohta

Komission teksti	Tarkistus
11. Sähköiset käyttöohjeet; näitä tietoja ei anneta liitteessä III olevassa 1, 6 ja 7 kohdassa tarkoitetuista suuririskisistä tekoälyjärjestelmistä, joita käytetään lainvalvonnan, muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan aloilla.	Poistetaan.

Tarkistus  770

 

Ehdotus asetukseksi

Liite VIII – B osa (uusi)

Komission teksti	Tarkistus
	B osa – Tämän asetuksen 51 artiklan 1 a kohdan a alakohdan ja 1 b kohdan mukaisesti rekisteröitävistä suuririskisistä tekoälyjärjestelmistä on annettava ja pidettävä sen jälkeen ajan tasalla seuraavat tiedot:
	1. Käyttöönottajan nimi, osoite ja yhteystiedot;
	2. Käyttöönottajan puolesta tiedot antavan henkilön nimi, osoite ja yhteystiedot;
	3. Suuririskisen tekoälyjärjestelmän tuotenimi ja muut yksiselitteiset viitetiedot, joiden avulla käytetty tekoälyjärjestelmä voidaan tunnistaa ja jäljittää;
	4. a) Yksinkertainen ja ymmärrettävä kuvaus tekoälyjärjestelmän käyttötarkoituksesta, mukaan lukien järjestelmän käytöllä tavoitellut erityiset tuotokset ja sen maantieteellinen ja ajallinen käyttöala;
	b) Tarvittaessa niiden tietojen luokat ja luonne, joita tekoälyjärjestelmässä käsitellään;
	c) Järjestelyt ihmisen suorittamaa valvontaa ja hallinnointia varten;
	d) Tapauksen mukaan elimet tai luonnolliset henkilöt, jotka ovat vastuussa tekoälyjärjestelmän tekemistä tai sen tukemana tehdyistä päätöksistä;
	5. Yhteenveto 29 a artiklan mukaisesti suoritetun perusoikeusvaikutusten arvioinnin tuloksista;
	6. Tekoälyjärjestelmän tarjoajan järjestelmästä EU:n tietokantaan kirjaamien tietojen URL-osoite;
	7. Tarvittaessa yhteenveto asetuksen (EU) 2016/679 35 artiklan tai direktiivin (EU) 2016/680 27 artiklan mukaisesti tehdystä tietosuojaa koskevasta vaikutustenarvioinnista tämän asetuksen 29 artiklan 6 kohdan mukaisesti.

Tarkistus  771

 

Ehdotus asetukseksi

Liite VIII – C osa (uusi)

Komission teksti	Tarkistus
	C osa – Tämän asetuksen 28 b artiklan e alakohdan mukaisesti rekisteröitävistä perusmalleista on annettava ja pidettävä sen jälkeen ajan tasalla seuraavat tiedot:
	1. Tarjoajan nimi, osoite ja yhteystiedot;
	2. Jos tiedot antaa toinen henkilö tarjoajan puolesta, kyseisen henkilön nimi, osoite ja yhteystiedot;
	3. Tarvittaessa valtuutetun edustajan nimi, osoite ja yhteystiedot;
	4. Tuotenimi ja muut yksiselitteiset viitetiedot, joiden avulla perusmalli voidaan tunnistaa;
	5. Kuvaus perusmallin kehittämisessä käytetyistä datalähteistä;
	6. Kuvaus perusmallin valmiuksista ja rajoituksista, mukaan lukien kohtuudella ennakoitavissa olevat riskit ja toimenpiteet, jotka on toteutettu niiden lieventämiseksi, sekä jäljellä olevat lieventämättömät riskit ja selitys syistä, joiden vuoksi niitä ei voida lieventää;
	7. Kuvaus perusmallissa käytetyistä koulutusresursseista, mukaan lukien tarvittava laskentateho, kouluttamisaika ja muut merkitykselliset tiedot mallin koosta ja tehosta. Kuvaus mallin suorituskyvystä, myös julkisten vertailuarvojen tai alan viimeisintä kehitystä edustavien vertailuarvojen perusteella;
	8. Kuvaus mallin asiaankuuluvan sisäisen ja ulkoisen testauksen ja optimoinnin tuloksista;
	9. Jäsenvaltiot, joissa tekoälyjärjestelmä saatetaan tai on saatettu markkinoille, otettu käyttöön tai asetettu saataville unionissa;
	10. URL-osoite, josta saa lisätietoja (valinnainen).

PERUSTELUT

Esittelijät ovat yhtä mieltä siitä, että Euroopassa kehitetyn ja käytetyn tekoälyn olisi oltava ihmiskeskeistä ja luotettavaa ja siinä olisi kunnioitettava perussopimuksissa vahvistettuja perusoikeuksia ja unionin arvoja. Sääntelyn ei kuitenkaan pitäisi haitata vaan pikemminkin tukea innovointia ja liiketoimintaympäristöä. Molemmat tavoitteet saavutetaan parhaiten lisäämällä oikeusvarmuutta ja selkeyttä koko asetusehdotuksessa, jotta voidaan tukea yksityistä sektoria ja viranomaisia uusien velvoitteiden noudattamisessa. Mietintöluonnos sisältää ne seikat, joista esittelijät pääsivät helposti yksimielisyyteen, ja siinä käsitellään kaikkia asetusehdotuksen keskeisiä osia.

 

Soveltamisalan osalta esittelijät kannattavat komission ehdottamaa riskiperusteista lähestymistapaa. Toisin sanoen tässä asetuksessa säädettyjä velvoitteita sovelletaan ainoastaan kiellettyihin käytäntöihin, suuririskisiin tekoälyjärjestelmiin ja tiettyihin avoimuutta edellyttäviin tekoälyjärjestelmiin. Mitään tekoälyjärjestelmää ei pitäisi jättää ennalta sääntelyn ulkopuolelle joko niin, että sitä ei sisällytetä ”tekoälyn” määritelmään tai että luodaan poikkeuksia tietyntyyppisille tekoälyjärjestelmille, mukaan lukien yleiskäyttöinen tekoäly. Jos järjestelmien tarjoajat eivät objektiivisista syistä pysty täyttämään tämän asetuksen mukaisia velvoitteitaan, niiden olisi voitava tehdä käyttäjien kanssa sopimuksia vastuun jakamisesta. Keskeinen osa mietintöluonnosta on myös tekstin yhdenmukaistaminen yleisen tietosuoja‑asetuksen kanssa, sillä näiden kahden asetuksen olisi täydennettävä toisiaan tekoälyn kehittämisen ja käyttöönoton edistämiseksi Euroopassa.

 

Kielletyistä käytännöistä esittelijät ovat sopineet, että luetteloon lisätään käytäntöjä, joissa on kyse ”ennakoivasta poliisitoiminnasta”, koska he ovat yhtä mieltä siitä, että vapaamielisissä yhteiskunnissa ei pidä käyttää teknologiaa tavalla, joka loukkaa keskeistä periaatetta syyttömyysolettamasta. 

 

Suuririskiset tekoälyjärjestelmät ovat tämän asetuksen pääkohde, ja niitä varten esittelijät ehdottavat useiden käyttötapausten lisäämistä suuririskisten tekoälyjärjestelmien luetteloon. Koska lapset ovat erityisen haavoittuva ryhmä, tekoälyjärjestelmiä, joilla pyritään vaikuttamaan heidän kehitykseensä tai ohjaamaan sitä, olisi pidettävä suuririskisinä. Tekoälyjärjestelmät, joita ehdokkaat tai puolueet käyttävät vaikuttaakseen äänestäjiin paikallisissa, kansallisissa tai EU-vaaleissa, sekä annettujen äänten laskemiseen käytettävät tekoälyjärjestelmät voivat vaikuttaa jopa demokratian toimintaan, koska niiden kohteena on suuri määrä unionin kansalaisia. Niitä olisi sen vuoksi pidettävä suuririskisinä. Suuririskisinä pidetään myös tekoälyjärjestelmiä, joita käytetään potilaiden luokitteluun terveydenhuoltoalalla, sekä tekoälyjärjestelmiä, joilla arvioidaan sairausvakuutus- ja henkivakuutuskelpoisuutta. On olemassa kahdenlaisia tekoälyjärjestelmiä, jotka voivat johtaa ihmisiä harhaan ja joihin olisi sen vuoksi sovellettava paitsi avoimuusvaatimuksia myös suuririskisille tekoälyjärjestelmille asetettuja vaatimuksia vaatimustenmukaisuudesta: todellisia henkilöitä jäljittelevät syväväärennökset ja toimituksellista sisältöä tuottavat ”tekoälykirjoittajat”. Esittelijät korostavat, että suuririskisiä tekoälyjärjestelmiä ei kielletä eikä niitä pidetä ei-toivottuina. Päinvastoin tässä asetuksessa säädettyjen vaatimustenmukaisuutta koskevien vaatimusten noudattaminen tekee tällaisista järjestelmistä luotettavampia, minkä seurauksena ne todennäköisemmin menestyvät Euroopan markkinoilla. 

 

Mietintöluonnoksessa tarkastellaan lähemmin vastuuketjua ja pyritään selkeyttämään ja tasapainottamaan joitakin säännöksiä. Datahallinnon alalla vahvistetaan johdonmukaisuutta yleisen tietosuoja-asetuksen kanssa ja mahdollinen henkilötietojen käsittelyn lisäoikeusperusta poistetaan. Lisäksi selvennetään, että datajoukkojen ”virheettömyyden” olisi oltava yleinen tavoite, joka on saavutettava mahdollisimman pitkälle, eikä niinkään täsmällinen vaatimus. Lisäksi on selvennetty tapauksia, joissa datajoukot ovat käyttäjien hallussa ja tarjoaja vain rakentaa järjestelmän yleisarkkitehtuurin. Useimmissa selvennyksissä otetaan huomioon toimialan esittämät huolenaiheet, koska tekoälyn arvoketju ei aina ole lineaarinen ja arvoketjun eri toimijoiden vastuu on määriteltävä selkeästi. 

 

Suuririskisten tekoälyjärjestelmien käyttäjillä on myös oma tehtävänsä EU:n kansalaisten terveyden, turvallisuuden ja perusoikeuksien sekä EU:n arvojen suojelemisessa: niiden on muun muassa varmistettava, että ne käyttävät päteviä henkilöitä huolehtimaan ihmisen suorittamasta suuririskisten tekoälyjärjestelmien valvonnasta, sekä aktiivisemmin ilmoitettava tekoälyyn liittyvistä vaaratilanteista tai järjestelmien toimintahäiriöistä, koska joskus niillä on parhaat edellytykset havaita tällaiset vaaratilanteet ja toimintahäiriöt. Viranomaiskäyttäjiin kohdistuu demokraattisissa yhteiskunnissa enemmän avoimuuteen liittyviä odotuksia. Viranomaisten, unionin toimielinten, virastojen ja elinten olisi rekisteröitävä suuririskisten tekoälyjärjestelmien käyttö EU:n laajuiseen tietokantaan. Näin voidaan lisätä demokraattista valvontaa, julkista valvontaa ja vastuuvelvollisuutta sekä avoimuutta kansalaisia kohtaan tekoälyjärjestelmien käytöstä ihmisten elämään vaikuttavilla arkaluonteisilla aloilla. Lisäksi sellaisten liitteessä III tarkoitettujen suuririskisten tekoälyjärjestelmien käyttäjien, jotka tekevät tai auttavat tekemään luonnollisiin henkilöihin liittyviä päätöksiä, olisi ilmoitettava luonnollisille henkilöille, että heihin sovelletaan suuririskistä tekoälyjärjestelmää.

 

Useissa mietintöluonnoksen säännöksissä keskitytään hallintoon ja täytäntöönpanon valvontaan, sillä esittelijät ovat vakuuttuneita siitä, että ne ovat keskeisiä tekijöitä, joiden avulla tekoälysäädös voidaan panna tehokkaasti ja johdonmukaisesti täytäntöön kaikkialla unionissa ja saadaan luotua todelliset tekoälyn sisämarkkinat.

 

Tätä varten tekoälyneuvoston tehtäviä on lisätty. Tekoälyneuvostolla olisi oltava merkittävämpi rooli asetuksen yhdenmukaisessa soveltamisessa sekä neuvojen ja suositusten antamisessa komissiolle – esimerkiksi tarpeesta muuttaa liitettä III – ja kansallisille valvontaviranomaisille. Tekoälyneuvoston olisi tarjottava foorumi kansallisten valvontaviranomaisten väliselle tiedonvaihdolle, ja sen olisi samalla toimittava kahden tai useamman jäsenvaltion viranomaisen välisten riitojen sovittelupaikkana, jotta voidaan välttää sisämarkkinoiden pirstoutuminen eriävän täytäntöönpanon vuoksi. Koska tekoälyneuvoston tehtävät ja vastuut ovat lisääntyneet, sen olisi lisäksi kuultava vähintään kahdesti vuodessa toimialaa, startup- ja pk-yrityksiä, kansalaisyhteiskuntaa ja tiedeyhteisöä, jotta se voi hoitaa tehtävänsä yhteistyössä kaikkien asiaankuuluvien sidosryhmien kanssa. 

Esittelijät ovat korostaneet, että kansallisella tasolla markkinavalvontaviranomaisten ja tietosuojaviranomaisten on tehtävä tiivistä yhteistyötä, koska tekoälyasetuksen täytäntöönpano edellyttää molempien alojen toimivaltuuksia, joita olisi lisäksi päivitettävä säännöllisesti. Siltä varalta, että perusoikeuksia rikotaan, asiaankuuluvien perusoikeuselinten olisi myös oltava tiiviisti mukana.

 

Jotta voidaan puuttua ongelmiin, jotka saattavat vaikuttaa yksityishenkilöihin useissa jäsenvaltioissa, esittelijät ehdottavat uutta komission täytäntöönpanomekanismia, jota käytetään tapauksissa, joissa on kyse laajalle levinneistä rikkomuksista (vähintään kolme jäsenvaltiota), esimerkiksi silloin, kun vähintään kolmea jäsenvaltiota koskevan rikkomuksen johdosta ei ole ryhdytty toimiin. Tällä mekanismilla, johon on otettu mallia digipalvelusäädöksestä mutta jota on mukautettu tekoälylainsäädännön erilaiseen luonteeseen, pyritään puuttumaan joihinkin täytäntöönpano-ongelmiin, joita on havaittu muunlaisissa hallintorakenteissa, edistämään tämän asetuksen yhdenmukaista täytäntöönpanoa ja lujittamaan digitaalisia sisämarkkinoita. Mekanismiin kuuluu, että tällaisissa laajalle levinneissä rikkomistapauksissa komissiolla olisi oltava markkinavalvontaviranomaisen valtuudet markkinavalvonta- ja vaatimustenmukaisuusasetuksen mallin mukaisesti.

 

Esittelijät pitävät tärkeänä vahvistaa sidosryhmien ja kansalaisyhteiskunnan järjestöjen osallistumista useissa asetuksen keskeisissä säännöksissä, jotka koskevat esimerkiksi suuririskisten tekoälyjärjestelmien luettelon päivittämistä, standardointiprosessia sekä tekoälyneuvoston ja testiympäristöjen toimintaa. Lisäksi esittelijät ovat lisänneet erityisen luvun, joka koskee sekä luonnollisten henkilöiden että oikeushenkilöiden käytettävissä olevia oikeussuojakeinoja, jotta voidaan varmistaa, että yksityishenkilöillä on asianmukaiset toimintavaltuudet, kun tekoälyjärjestelmän käyttö loukkaa heidän oikeuksiaan. Samalla halutaan lisätä luottamusta tekoälyjärjestelmiin ja niiden laajaan käyttöön.

 

Esittelijät haluavat yhdessä korostaa, että tekoälysäädöksen tavoitteena on varmistaa sekä ihmisten terveyden, turvallisuuden, perusoikeuksien ja unionin arvojen suojelu että tekoälyn käyttöönotto kaikkialla unionissa, paremmin integroidut digitaaliset sisämarkkinat sekä yrittäjyyteen ja innovointiin soveltuva lainsäädäntöympäristö. Juuri tässä hengessä esittelijät ovat työstäneet ja työstävät jatkossakin tätä asetusta.

 

 

TEOLLISUUS-, TUTKIMUS- JA ENERGIAVALIOKUNNAN LAUSUNTO (14.6.2022)

sisämarkkina- ja kuluttajansuojavaliokunnalle ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunnalle

ehdotuksesta Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta

(COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD))

Valmistelija (*): Eva Maydell(*) 

Valiokuntien yhteistyömenettely – työjärjestyksen 57 artikla

 

LYHYET PERUSTELUT

Johdanto

Valmistelija pitää myönteisenä tekoälysäädöstä koskevaa komission ehdotusta ja erityisesti siinä esitettyä horisontaalista riskiperusteista lähestymistapaa. Lähestymistavan ansiosta tekoälyjärjestelmiä voidaan kehittää EU:n arvoja kunnioittaen ja sosiaalinen luottamus näitä uusia teknologioita kohtaan kasvaa, minkä tuloksena EU voi korjata kaiken taloudellisen ja sosiaalisen hyödyn tekoälystä.

 

Valmistelijan näkemyksen mukaan tekoälysäädöksellä on luotava puitteet, joissa vapaus ja valvonta ovat sopivassa tasapainossa. Valmistelija ehdottaa tekstiin lisäsäännöksiä, jotta yritykset, erityisesti startup- ja pk-yritykset, voivat säilyttää kilpailukykynsä ja luovuutensa, vaikka niille asetetaan uusia velvoitteita. Valmistelija uskoo, että tämä lisää tekoälysäädöksen oikeutusta ja merkitystä. Yrityksille on tarjottava selkeämpiä suuntaviivoja, yksinkertaisempia välineitä ja tehokkaampia resursseja, jotta ne selviytyvät sääntelytaakasta. Näin voidaan tukea tekoälyalan innovointia, tekoälyn kehittämistä ja markkinoille saattamista. 

 

Valmistelijan lausuntoluonnoksen neljä päätavoitetta ovat:

1. Tehostetaan innovointia tukevia toimenpiteitä, kuten sääntelyn testiympäristöjä koskevia toimenpiteitä, keskittyen erityisesti startup-yrityksiin ja pk-yrityksiin

2. Esitetään ytimekäs ja kansainvälisesti tunnustettu määritelmä tekoälyjärjestelmälle ja asetetaan tiukat mutta realistiset vaatimukset tarkkuudelle, luotettavuudelle, kyberturvallisuudelle ja datalle

3. Edistetään tekoälyjärjestelmien käyttöönottoa teollisuudessa painottamalla sosiaalista luottamusta ja arvoketjun vastuuta

4. Varmistetaan säädöksen tulevaisuudenkestävyys kytkemällä se paremmin vihreään siirtymään ja mahdollisiin toimialan, teknologian ja tekoälyn suorituskyvyn muutoksiin

 

Tässä lausuntoluonnoksessa keskitytään pääasiassa teollisuus-, tutkimus- ja energiavaliokunnan toimivaltaan kuuluviin asioihin, mutta myös laajempiin kysymyksiin, jotka liittyvät innovointiin, kilpailukykyyn, tutkimukseen, kestävyyteen ja toimialan tuleviin muutoksiin. 

 

Innovoinnin tukeminen, keskittyminen startup- ja pk-yrityksiin sekä sääntelyn testiympäristöt

Valmistelija on tyytyväinen siihen, että säädökseen on otettu 55 artikla pieniä tarjoajia ja käyttäjiä koskevista toimenpiteistä, mutta katsoo, että pk-yritykset ja startup-yritykset olisi otettava laajemmin ja kokonaisvaltaisesti mukaan tekoälysäädöksen eri osa-alueilla. Niiden olisi voitava osallistua esimerkiksi käytännesääntöjen laatimiseen, standardointiin ja Euroopan tekoälyneuvostoon. Valmistelijan ehdottomiin painopisteisiin kuuluu tarjota pk‑yrityksille ja startup-yrityksille mahdollisuuksia osallistua tekoälyalan sääntelyn testaamiseen testiympäristöissä. Siksi valmistelija ehdottaa, että nykyisiä säännöksiä vahvistetaan tekemällä sääntelyn testiympäristöistä eurooppalaisempia, säilyttämällä sisämarkkinoiden yhtenäisyys ja luomalla tekoälyalan sääntelyn testiympäristöjä koskeva unionin ohjelma, jonka yksityiskohtaiset säännöt esitetään uudessa liitteessä.

 

Selkeä määritelmä ja realistiset standardit

Valmistelija kehottaa käyttämään kansainvälisesti tunnustettua tekoälyjärjestelmän määritelmää, joka vastaisi EU:n laajempia tavoitteita, joita ovat maailmanlaajuisten standardien asettaminen, tiivis yhteistyö transatlanttisten kumppaneiden ja samanmielisten liittolaisten kanssa sekä oikeusvarmuuden tarjoaminen yrityksille, kansalaisille ja kansalaisyhteiskunnalle. Valmistelija katsoo, että tarkkuutta, luotettavuutta ja kyberturvallisuutta sekä dataa ja datan hallintaa koskevat tiukat vaatimukset ovat avainasemassa, jotta voidaan kehittää turvallisia tekoälyjärjestelmiä, joilla suojellaan perusoikeuksia. Keskeistä on saattaa tasapainoon tämä tavoite ja sen saavuttamisen edellyttämä käytännöllinen ja pragmaattinen lähestymistapa. Valmistelija kehottaa perustamaan vertailuanalyysia varten yhteisen eurooppalaisen viranomaisen, joka tuo yhteen metrologiasta ja vertailuanalyysistä vastaavat jäsenvaltioiden viranomaiset, jotta voidaan määrittää yhtenäinen lähestymistapa tarkkuuden, luotettavuuden ja muiden asiaankuuluvien kriteerien mittaamiseen.

 

Tekoälyjärjestelmien käyttöönottoon kannustaminen, sosiaalisen luottamuksen lisääminen ja arvoketjun vastuu

Tekoälyjärjestelmien käyttöönoton ja hyödyntämisen edistämiseksi valmistelija pitää tarpeellisena lisätä sekä yritysten että kansalaisten sosiaalista luottamusta. Sosiaalisen luottamuksen lisääminen on haaste, jonka valmistelija ratkaisisi edistämällä tekoälyn kehittäjien ja käyttäjien sellaista yhteistyösuhdetta, joka vastaa paremmin kunkin vastuuta arvoketjussa, vahvistamalla käytännesääntöjä ja tehostamalla sääntelyn testiympäristöjä koskevia toimenpiteitä, joilla mahdollistetaan sisäänrakennettu vaatimustenmukaisuus. Näin luodaan terve ja integroitu ekosysteemi, joka auttaa vähentämään oikeudellista epävarmuutta ja täytäntöönpanon puutteita, mikä puolestaan lisää sosiaalista luottamusta.

 

Tulevaisuuden vaatimusten huomioon ottaminen, kestävyys sekä toimialan ja tekoälyn suorituskyvyn muutokset

Tekoäly on kehittynyttä ja käyttövalmista teknologiaa, jota voidaan käyttää prosessoimaan jatkuvasti kasvavaa määrää teollisissa prosesseissa syntyvää dataa. Tekoälypohjaisiin analysointi- ja optimointiratkaisuihin tehtävien investointien helpottamiseksi tällä asetuksella olisi luotava ennakoitavissa oleva ympäristö vähäriskisille teollisille ratkaisuille. Lisäksi tässä asetuksessa olisi otettava huomioon toimialan ja tekoälyn suorituskyvyn tulevat muutokset. Siksi valmistelija ehdottaa, että tekoälyä käsittelevä korkean tason asiantuntijaryhmä tekee laajasti yhteistyötä sekä komission että Euroopan tekoälyneuvoston kanssa ja että Euroopan tekoälyneuvosto seuraa markkinasuuntauksia ja ennakoi kehitystä.

TARKISTUKSET

Teollisuus-, tutkimus- ja energiavaliokunta pyytää asiasta vastaavia sisämarkkina- ja kuluttajansuojavaliokuntaa ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokuntaa ottamaan huomioon seuraavat tarkistukset:

 

Tarkistus  1

 

Ehdotus asetukseksi

Johdanto-osan 3 a kappale (uusi)

Komission teksti	Tarkistus
	(3 a) Jotta jäsenvaltiot voisivat saavuttaa ilmastotavoitteensa ja Yhdistyneiden kansakuntien kestävän kehityksen tavoitteet, unionin yrityksiä olisi kannustettava hyödyntämään saatavilla olevia teknologisia edistysaskeleita tähän päämäärään pääsemiseksi. Tekoäly on kehittynyttä ja käyttövalmista teknologiaa, jota voidaan käyttää prosessoimaan jatkuvasti kasvavaa määrää teollisissa prosesseissa syntyvää dataa. Ilmastotavoitteiden saavuttamisessa auttaviin tekoälypohjaisiin analysointi- ja optimointiratkaisuihin tehtävien investointien helpottamiseksi tällä asetuksella olisi luotava ennakoitavissa oleva ja oikeasuhteinen ympäristö vähäriskisille teollisille ratkaisuille. Johdonmukaisuuden varmistamiseksi tämä edellyttää, että myös itse tekoälyjärjestelmät suunnitellaan kestävästi, jotta voidaan vähentää resurssien käyttöä ja energiankulutusta ja rajoittaa ympäristöhaittoja.

Tarkistus  2

 

Ehdotus asetukseksi

Johdanto-osan 3 b kappale (uusi)

Komission teksti	Tarkistus
	(3 b) Jotta voidaan lisäksi edistää tekoälyn kehittämistä unionin arvoja kunnioittaen, unionin on poistettava suurimmat puutteet ja esteet, jotka estävät digitaalisen muutoksen potentiaalin hyödyntämisen ja joita ovat muun muassa digitaidot omaavien työntekijöiden puute, kyberturvallisuusongelmat sekä investointien ja investointipääoman puute, sekä nykyiset ja mahdolliset erot suurten yritysten ja pk-yritysten välillä. Erityisesti olisi pyrittävä varmistamaan, että tekoälyn ja uusiin teknologioihin liittyvän innovoinnin hyödyt saadaan korjattua kaikilla unionin alueilla ja että investointeja ja resursseja tarjotaan riittävästi erityisesti alueille, jotka joidenkin digitalisaation indikaattoreiden perusteella saattavat olla kehityksestä jäljessä.

Tarkistus  3

 

Ehdotus asetukseksi

Johdanto-osan 6 kappale

Komission teksti	Tarkistus
(6) Tekoälyjärjestelmän käsite olisi määriteltävä selkeästi, jotta voidaan taata oikeusvarmuus ja samalla tarjota joustovaraa teknologian tulevan kehityksen huomioon ottamiseksi. Määritelmän olisi perustuttava ohjelmiston keskeisiin toiminnallisiin ominaisuuksiin, erityisesti siihen, että se pystyy tuottamaan tiettyjen ihmisen määrittelemien tavoitteiden osalta tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöön, jonka kanssa järjestelmä on vuorovaikutuksessa joko fyysisessä tai digitaalisessa ulottuvuudesta. Tekoälyjärjestelmät voidaan suunnitella toimimaan eriasteisesti itsenäisesti ja niitä voidaan käyttää erillisinä tai tuotteen osina riippumatta siitä, onko järjestelmä fyysisesti integroitu tuotteeseen (sulautettu) vai palveleeko se tuotteen toiminnallisuutta ilman, että se on integroitu siihen (sulauttamaton). Tekoälyjärjestelmän määritelmää olisi täydennettävä sen kehittämisessä käytettyjen erityisten tekniikoiden ja lähestymistapojen luettelolla, joka olisi pidettävä ajan tasalla markkinoiden ja teknologian kehityksen huomioon ottamiseksi siten, että komissio hyväksyy delegoituja säädöksiä luettelon muuttamiseksi.	(6) Tekoälyjärjestelmän käsite olisi määriteltävä selkeästi, jotta voidaan taata oikeusvarmuus ja samalla tarjota joustovaraa teknologian tulevan kehityksen huomioon ottamiseksi. Määritelmän olisi oltava yhdenmukainen kansainvälisesti hyväksyttyjen määritelmien kanssa. Määritelmän olisi perustuttava tekoälyjärjestelmän keskeisiin toiminnallisiin ominaisuuksiin, erityisesti siihen, että se pystyy tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi tuottamaan todellisiin tai virtuaalisiin ympäristöihin vaikuttavia ennusteita, suosituksia tai päätöksiä. Tarkemmin sanottuna tekoälyjärjestelmän määritelmässä olisi otettava huomioon keskeiset piirteet, kuten kyky havainnoida todellisia ja/tai virtuaalisia ympäristöjä, johtaa näistä havainnoista malleja automatisoidun analyysin avulla ja käyttää mallipäättelyä tietojen tai toimien vaihtoehtojen muotoilussa. Tekoälyjärjestelmät suunnitellaan toimimaan eriasteisesti itsenäisesti, ja niitä käytetään erillisinä tai tuotteen osina riippumatta siitä, onko järjestelmä fyysisesti integroitu tuotteeseen (sulautettu) vai palveleeko se tuotteen toiminnallisuutta ilman, että se on integroitu siihen (sulauttamaton). Tekoälyjärjestelmän määritelmää olisi täydennettävä sen kehittämisessä käytettyjen erityisten tekniikoiden ja lähestymistapojen luettelolla, joka olisi pidettävä ajan tasalla markkinoiden ja teknologian kehityksen huomioon ottamiseksi siten, että komissio hyväksyy delegoituja säädöksiä luettelon muuttamiseksi. Komission olisi näitä delegoituja säädöksiä laatiessaan varmistettava kaikkien asiaankuuluvien sidosryhmien, kuten teknisten asiantuntijoiden ja tekoälyjärjestelmien kehittäjien, näkemysten huomioon ottaminen. Sidosryhmien kuuleminen voitaisiin toteuttaa olemassa olevien elinten, kuten tekoälyä käsittelevän korkean tason asiantuntijaryhmän tai Euroopan tekoälyneuvoston työssä tiiviisti mukana olevan vastaavan vasta perustetun neuvoa-antavan elimen, välityksellä. Lisäksi komission olisi käytävä vuoropuhelua keskeisten kansainvälisten järjestöjen, kuten Taloudellisen yhteistyön ja kehityksen järjestön (OECD), ja muiden tekoälyjärjestelmien määrittelyn parissa työskentelevien keskeisten organisaatioiden kanssa, jotta varmistetaan tekoälyn määritelmien yhdenmukaisuus ja säilytetään samalla unionin oikeus vahvistaa omat määritelmänsä ja standardinsa antamalla lainsäädäntöä.

Tarkistus  4

 

Ehdotus asetukseksi

Johdanto-osan 12 a kappale (uusi)

Komission teksti	Tarkistus
	(12 a) Tämä asetus ei saisi haitata tutkimus- ja kehitystoimintaa, ja siinä olisi kunnioitettava tieteen vapautta. Sen vuoksi on tarpeen varmistaa, että tämä asetus ei vaikuta muulla tavalla tekoälyjärjestelmiä koskevaan tieteelliseen tutkimus- ja kehitystoimintaan. Tätä asetusta olisi sovellettava tarjoajien tuotekehitystutkimukseen vain siltä osin kuin tällaisen tutkimuksen tuloksena tai sen yhteydessä saatetaan markkinoille tai otetaan käyttöön tekoälyjärjestelmä. Kaikissa tutkimus- ja kehitystoimissa olisi joka tapauksessa noudatettava tunnustettuja tutkimuseettisiä periaatteita.

Tarkistus  5

 

Ehdotus asetukseksi

Johdanto-osan 29 kappale

Komission teksti	Tarkistus
(29) Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/200839, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/201340, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/201341, Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU42, Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/79743, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/85844, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/113945 ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/214446 soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi- ja valvontamekanismeihin ja -viranomaisiin.	(29) Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/200839, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/201340, Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/201341, Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU42, Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/79743, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/85844, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/113945 ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/214446 soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi- ja valvontamekanismeihin ja -viranomaisiin. Lisäksi tarvitaan tehokkaita standardointisääntöjä, jotta tämän asetuksen vaatimuksista tulee toimivia. Unionin toimielinten, etenkin komission, olisi yksilöitävä yhdessä yritysten kanssa ne tekoälyalat, joilla tarvitaan eniten standardointia, jotta vältetään markkinoiden pirstoutuminen ja säilytetään eurooppalaisen standardointijärjestelmän (ESS) yhtenäisyys kansainvälisen standardointijärjestelmän (ISO, IEC) kanssa ja lujitetaan sitä.
__________________	__________________
39 Euroopan parlamentin ja neuvoston asetus (EY) N:o 300/2008, annettu 11 päivänä maaliskuuta 2008, yhteisistä siviili-ilmailun turvaamista koskevista säännöistä ja asetuksen (EY) N:o 2320/2002 kumoamisesta (EUVL L 97, 9.4.2008, s. 72).	39 Euroopan parlamentin ja neuvoston asetus (EY) N:o 300/2008, annettu 11 päivänä maaliskuuta 2008, yhteisistä siviili-ilmailun turvaamista koskevista säännöistä ja asetuksen (EY) N:o 2320/2002 kumoamisesta (EUVL L 97, 9.4.2008, s. 72).
40 Euroopan parlamentin ja neuvoston asetus (EU) N:o 167/2013, annettu 5 päivänä helmikuuta 2013, maa- ja metsätaloudessa käytettävien ajoneuvojen hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 1).	40 Euroopan parlamentin ja neuvoston asetus (EU) N:o 167/2013, annettu 5 päivänä helmikuuta 2013, maa- ja metsätaloudessa käytettävien ajoneuvojen hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 1).
41 Euroopan parlamentin ja neuvoston asetus (EU) N:o 168/2013, annettu 15 päivänä tammikuuta 2013, kaksi- ja kolmipyöräisten ajoneuvojen ja nelipyörien hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 52).	41 Euroopan parlamentin ja neuvoston asetus (EU) N:o 168/2013, annettu 15 päivänä tammikuuta 2013, kaksi- ja kolmipyöräisten ajoneuvojen ja nelipyörien hyväksynnästä ja markkinavalvonnasta (EUVL L 60, 2.3.2013, s. 52).
42 Euroopan parlamentin ja neuvoston direktiivi 2014/90/EU, annettu 23 päivänä heinäkuuta 2014, laivavarusteista ja neuvoston direktiivin 96/98/EY kumoamisesta (EUVL L 257, 28.8.2014, s. 146).	42 Euroopan parlamentin ja neuvoston direktiivi 2014/90/EU, annettu 23 päivänä heinäkuuta 2014, laivavarusteista ja neuvoston direktiivin 96/98/EY kumoamisesta (EUVL L 257, 28.8.2014, s. 146).
43 Euroopan parlamentin ja neuvoston direktiivi (EU) 2016/797, annettu 11 päivänä toukokuuta 2016, rautatiejärjestelmän yhteentoimivuudesta Euroopan unionissa (EUVL L 138, 26.5.2016, s. 44).	43 Euroopan parlamentin ja neuvoston direktiivi (EU) 2016/797, annettu 11 päivänä toukokuuta 2016, rautatiejärjestelmän yhteentoimivuudesta Euroopan unionissa (EUVL L 138, 26.5.2016, s. 44).
44 Euroopan parlamentin ja neuvoston asetus (EU) 2018/858, annettu 30 päivänä toukokuuta 2018, moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden hyväksynnästä ja markkinavalvonnasta, asetusten (EY) N:o 715/2007 ja (EY) N:o 595/2009 muuttamisesta sekä direktiivin 2007/46/EY kumoamisesta (EUVL L 151, 14.6.2018, s. 1).	44 Euroopan parlamentin ja neuvoston asetus (EU) 2018/858, annettu 30 päivänä toukokuuta 2018, moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden hyväksynnästä ja markkinavalvonnasta, asetusten (EY) N:o 715/2007 ja (EY) N:o 595/2009 muuttamisesta sekä direktiivin 2007/46/EY kumoamisesta (EUVL L 151, 14.6.2018, s. 1).
45 Euroopan parlamentin ja neuvoston asetus (EU) 2018/1139, annettu 4 päivänä heinäkuuta 2018, yhteisistä siviili-ilmailua koskevista säännöistä ja Euroopan unionin lentoturvallisuusviraston perustamisesta, Euroopan parlamentin ja neuvoston asetusten (EY) N:o 2111/2005, (EY) N:o 1008/2008, (EU) N:o 996/2010, (EU) N:o 376/2014 ja direktiivien 2014/30/EU ja 2014/53/EU muuttamisesta sekä Euroopan parlamentin ja neuvoston asetusten (EY) N:o 552/2004, (EY) N:o 216/2008 ja neuvoston asetuksen (ETY) N:o 3922/91 kumoamisesta (EUVL L 212, 22.8.2018, s. 1).	45 Euroopan parlamentin ja neuvoston asetus (EU) 2018/1139, annettu 4 päivänä heinäkuuta 2018, yhteisistä siviili-ilmailua koskevista säännöistä ja Euroopan unionin lentoturvallisuusviraston perustamisesta, Euroopan parlamentin ja neuvoston asetusten (EY) N:o 2111/2005, (EY) N:o 1008/2008, (EU) N:o 996/2010, (EU) N:o 376/2014 ja direktiivien 2014/30/EU ja 2014/53/EU muuttamisesta sekä Euroopan parlamentin ja neuvoston asetusten (EY) N:o 552/2004, (EY) N:o 216/2008 ja neuvoston asetuksen (ETY) N:o 3922/91 kumoamisesta (EUVL L 212, 22.8.2018, s. 1).
46 Euroopan parlamentin ja neuvoston asetus (EU) 2019/2144, annettu 27 päivänä marraskuuta 2019, moottoriajoneuvojen ja niiden perävaunujen sekä näihin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden tyyppihyväksyntävaatimuksista niiden yleisen turvallisuuden ja ajoneuvon matkustajien ja loukkaantumiselle alttiiden tienkäyttäjien suojelun osalta, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858 muuttamisesta ja Euroopan parlamentin ja neuvoston asetusten (EY) N:o 78/2009, (EY) N:o 79/2009 ja (EY) N:o 661/2009 sekä komission asetusten (EY) N:o 631/2009, (EU) N:o 406/2010, (EU) N:o 672/2010, (EU) N:o 1003/2010, (EU) N:o 1005/2010, (EU) N:o 1008/2010, (EU) N:o 1009/2010, (EU) N:o 19/2011, (EU) N:o 109/2011, (EU) N:o 458/2011, (EU) N:o 65/2012, (EU) N:o 130/2012, (EU) N:o 347/2012, (EU) N:o 351/2012, (EU) N:o 1230/2012 ja (EU) 2015/166 kumoamisesta (EUVL L 325, 16.12.2019, s. 1).	46 Euroopan parlamentin ja neuvoston asetus (EU) 2019/2144, annettu 27 päivänä marraskuuta 2019, moottoriajoneuvojen ja niiden perävaunujen sekä näihin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden tyyppihyväksyntävaatimuksista niiden yleisen turvallisuuden ja ajoneuvon matkustajien ja loukkaantumiselle alttiiden tienkäyttäjien suojelun osalta, Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858 muuttamisesta ja Euroopan parlamentin ja neuvoston asetusten (EY) N:o 78/2009, (EY) N:o 79/2009 ja (EY) N:o 661/2009 sekä komission asetusten (EY) N:o 631/2009, (EU) N:o 406/2010, (EU) N:o 672/2010, (EU) N:o 1003/2010, (EU) N:o 1005/2010, (EU) N:o 1008/2010, (EU) N:o 1009/2010, (EU) N:o 19/2011, (EU) N:o 109/2011, (EU) N:o 458/2011, (EU) N:o 65/2012, (EU) N:o 130/2012, (EU) N:o 347/2012, (EU) N:o 351/2012, (EU) N:o 1230/2012 ja (EU) 2015/166 kumoamisesta (EUVL L 325, 16.12.2019, s. 1).

Tarkistus  6

 

Ehdotus asetukseksi

Johdanto-osan 44 kappale

Komission teksti	Tarkistus
(44) Datan korkea laatu on olennaisen tärkeää monien tekoälyjärjestelmien suorituskyvyn kannalta, erityisesti kun käytetään tekniikoita, joihin sisältyy mallien kouluttamista, jotta voidaan varmistaa, että suuririskinen tekoälyjärjestelmä toimii tarkoitetulla tavalla ja turvallisesti eikä siitä tule unionin lainsäädännössä kiellettyä syrjinnän lähdettä. Korkealaatuiset koulutus-, validointi- ja testausdatajoukot edellyttävät asianmukaisia datahallinto- ja hallintakäytäntöjä. Koulutus-, validointi- ja testausdatajoukkojen olisi oltava riittävän merkityksellisiä, edustavia ja virheettömiä ja täydellisiä järjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä olisi lisäksi oltava asianmukaiset tilastolliset ominaisuudet, myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Koulutus-, validointi- ja testausdatajoukoissa olisi erityisesti otettava niiden käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaispiirteet, ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle tai asiayhteydelle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Jotta voitaisiin suojella muita tekoälyjärjestelmissä esiintyvästä vinoutumisesta mahdollisesti johtuvalta syrjinnältä, tarjoajien olisi voitava käsitellä myös erityisiä henkilötietoryhmiä tärkeän yleisen edun nimissä, jotta voidaan varmistaa suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seuranta, havaitseminen ja korjaaminen.	(44) Datan korkea laatu on olennaisen tärkeää monien tekoälyjärjestelmien suorituskyvyn kannalta, erityisesti kun käytetään tekniikoita, joihin sisältyy mallien kouluttamista, jotta voidaan varmistaa, että suuririskinen tekoälyjärjestelmä toimii tarkoitetulla tavalla ja turvallisesti eikä siitä tule unionin lainsäädännössä kiellettyä syrjinnän lähdettä. Korkealaatuiset koulutus-, validointi- ja testausdatajoukot edellyttävät asianmukaisia datahallinto- ja hallintakäytäntöjä. Koulutus-, validointi- ja testausdatajoukkojen suunnittelussa olisi pyrittävä mahdollisimman hyvin varmistamaan, että ne ovat merkityksellisiä, edustavia ja virheettömiä ja että niiden virheettömyys on tarkastettu asianmukaisesti järjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä olisi lisäksi oltava asianmukaiset tilastolliset ominaisuudet, myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää, ja erityisesti olisi pyrittävä vähentämään datajoukkojen mahdollisia vinoutumia, jotka voivat johtaa niiden henkilöiden perusoikeuksien vaarantumiseen, joihin suuririskinen tekoälyjärjestelmä vaikuttaa, tai heitä syrjiviin tuloksiin. Koulutus-, validointi- ja testausdatajoukoissa olisi erityisesti otettava niiden käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaispiirteet, ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle, viitekehyksenä olevalle tai toiminnalliselle ympäristölle tai asiayhteydelle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää, ja erityistä huomiota olisi kiinnitettävä naisiin, haavoittuviin ryhmiin ja lapsiin. Jotta voitaisiin suojella muita tekoälyjärjestelmissä esiintyvästä vinoutumisesta mahdollisesti johtuvalta syrjinnältä, tarjoajien olisi voitava käsitellä myös erityisiä henkilötietoryhmiä tärkeän yleisen edun nimissä, jotta voidaan varmistaa suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seuranta, havaitseminen ja korjaaminen.

Tarkistus  7

 

Ehdotus asetukseksi

Johdanto-osan 46 kappale

Komission teksti	Tarkistus
(46) Tämän asetuksen vaatimusten noudattamisen todentamisen kannalta on olennaisen tärkeää saada tietoa siitä, miten suuririskiset tekoälyjärjestelmät on kehitetty ja miten ne toimivat koko niiden elinkaaren ajan. Tämä edellyttää, että tiedot säilytetään ja että saatavilla on tekninen dokumentaatio, joka sisältää tiedot, joita tarvitaan sen arvioimiseksi, onko tekoälyjärjestelmä asiaankuuluvien vaatimusten mukainen. Tällaisiin tietoihin olisi sisällyttävä järjestelmän yleiset ominaisuudet, valmiudet ja rajoitukset, algoritmit, data, koulutus-, testaus- ja validointiprosessit sekä sovellettua riskinhallintajärjestelmää koskevat asiakirjat. Tekninen dokumentaatio olisi pidettävä ajan tasalla.	(46) Tämän asetuksen vaatimusten noudattamisen todentamisen kannalta ja sen mahdollistamiseksi, että käyttäjät voivat tehdä tietoon perustuvia ja itsenäisiä päätöksiä tekoälyjärjestelmien käytöstä, on olennaisen tärkeää saada ymmärrettävää tietoa siitä, miten suuririskiset tekoälyjärjestelmät on kehitetty ja miten ne toimivat koko niiden elinkaaren ajan. Tämä edellyttää, että tiedot säilytetään ja että saatavilla on tekninen dokumentaatio, joka sisältää tiedot, joita tarvitaan sen arvioimiseksi, onko tekoälyjärjestelmä asiaankuuluvien vaatimusten mukainen. Tällaisiin tietoihin olisi sisällyttävä järjestelmän yleiset ominaisuudet, valmiudet ja rajoitukset, algoritmit, data, koulutus-, testaus- ja validointiprosessit sekä sovellettua riskinhallintajärjestelmää koskevat asiakirjat. Tekninen dokumentaatio olisi pidettävä ajan tasalla.

Tarkistus  8

 

Ehdotus asetukseksi

Johdanto-osan 49 kappale

Komission teksti	Tarkistus
(49) Suuririskisten tekoälyjärjestelmien olisi toimittava johdonmukaisesti koko elinkaarensa ajan ja saavutettava asianmukainen tarkkuuden, luotettavuuden ja kyberturvallisuuden taso yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti.Tarkkuustaso ja tarkkuusmittarit olisi ilmoitettava käyttäjille.	(49) Suuririskisten tekoälyjärjestelmien olisi toimittava johdonmukaisesti koko elinkaarensa ajan ja saavutettava asianmukainen tarkkuuden, luotettavuuden ja kyberturvallisuuden taso yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti. Tarkkuusmittarit ja niiden odotettu taso olisi määriteltävä niin, että ensisijaisena tavoitteena on tekoälyjärjestelmän yksilöille ja koko yhteiskunnalle aiheuttamien riskien ja kielteisten vaikutusten vähentäminen. Odotettu tarkkuustaso ja tarkkuusmittarit olisi ilmoitettava käyttäjille selkeällä, avoimella, helposti ymmärrettävällä ja helppotajuisella tavalla. Tarkkuusmittarien ilmoittamista ei kuitenkaan voida pitää todisteena tulevasta tasosta, vaan on sovellettava asiaankuuluvia menetelmiä vakaan tason varmistamiseksi käytön aikana. Olemassa olevat standardointiorganisaatiot voivat vahvistaa standardit mutta vertailuanalyyseja on koordinoitava sen määrittämiseksi, miten standardeja olisi noudatettava ja mitattava. Euroopan tekoälyneuvoston olisi tuotava yhteen kansalliset metrologia- ja vertailuanalyysiviranomaiset ja annettava ei-sitovaa ohjeistusta, jotta voidaan ratkaista asianmukaisen tarkkuuden ja luotettavuuden tasojen mittaamiseen liittyvät tekniset näkökohdat.

Tarkistus  9

 

Ehdotus asetukseksi

Johdanto-osan 50 kappale

Komission teksti	Tarkistus
(50) Tekninen luotettavuus on yksi suuririskisten tekoälyjärjestelmien keskeinen vaatimus. Niiden olisi kestettävä järjestelmän rajoituksiin liittyviä riskejä (esim. virheet, viat, epäjohdonmukaisuudet, odottamattomat tilanteet) sekä ilkivaltaisia toimia, jotka voivat vaarantaa tekoälyjärjestelmän turvallisuuden ja johtaa haitalliseen tai muuten ei-toivottuun käyttäytymiseen. Se, ettei näiltä riskeiltä suojauduta, voi johtaa turvallisuusvaikutuksiin tai vaikuttaa kielteisesti perusoikeuksiin esimerkiksi virheellisten päätösten tai tekoälyjärjestelmän tuottamien väärien tai puolueellisten tulosten vuoksi.	(50) Tekninen luotettavuus on yksi suuririskisten tekoälyjärjestelmien keskeinen vaatimus. Niiden olisi kestettävä järjestelmän rajoituksiin liittyviä riskejä (esim. virheet, viat, epäjohdonmukaisuudet, odottamattomat tilanteet) sekä ilkivaltaisia toimia, jotka voivat vaarantaa tekoälyjärjestelmän turvallisuuden ja johtaa haitalliseen tai muuten ei-toivottuun käyttäytymiseen. Se, ettei näiltä riskeiltä suojauduta, voi johtaa turvallisuusvaikutuksiin tai vaikuttaa kielteisesti perusoikeuksiin esimerkiksi virheellisten päätösten tai tekoälyjärjestelmän tuottamien väärien tai puolueellisten tulosten vuoksi. Tekoälyjärjestelmän käyttäjien olisi toteutettava toimia, joilla varmistetaan, ettei mahdollinen kompromissi luotettavuuden ja tarkkuuden välillä johda vähemmistöön kuuluvien alaryhmien kannalta syrjiviin tai kielteisiin tuloksiin.

Tarkistus  10

 

Ehdotus asetukseksi

Johdanto-osan 51 kappale

Komission teksti	Tarkistus
(51) Kyberturvallisuudella on ratkaiseva merkitys varmistettaessa, että tekoälyjärjestelmät kestävät järjestelmän haavoittuvuuksia hyödyntävien vihamielisten kolmansien osapuolten yritykset muuttaa niiden käyttöä, käyttäytymistä tai suorituskykyä tai vaarantaa niiden turvallisuusominaisuudet. Tekoälyjärjestelmiin kohdistuvissa kyberhyökkäyksissä voidaan käyttää hyväksi tekoälyyn liittyviä resursseja, kuten koulutusdatajoukkoja (esim. datamyrkytys) tai koulutettuja malleja (esim. kontradiktoriset hyökkäykset), tai hyödyntää tekoälyjärjestelmän digitaalisten resurssien tai taustalla olevan tieto- ja viestintätekniikkainfrastruktuurin haavoittuvuuksia. Jotta voidaan varmistaa riskeihin nähden asianmukainen kyberturvallisuuden taso, suuririskisten tekoälyjärjestelmien tarjoajien olisi toteutettava asianmukaisia toimenpiteitä ottaen tarvittaessa huomioon myös taustalla oleva tieto- ja viestintätekniikkainfrastruktuuri.	(51) Kyberturvallisuudella on ratkaiseva merkitys varmistettaessa, että tekoälyjärjestelmät kestävät järjestelmän haavoittuvuuksia hyödyntävien vihamielisten kolmansien osapuolten yritykset muuttaa niiden käyttöä, käyttäytymistä tai suorituskykyä tai vaarantaa niiden turvallisuusominaisuudet. Tekoälyjärjestelmiin kohdistuvissa kyberhyökkäyksissä voidaan käyttää hyväksi tekoälyyn liittyviä resursseja, kuten koulutusdatajoukkoja (esim. datamyrkytys) tai koulutettuja malleja (esim. kontradiktoriset hyökkäykset tai luottamuksellisuuteen kohdistuvat hyökkäykset), tai hyödyntää tekoälyjärjestelmän digitaalisten resurssien tai taustalla olevan tieto- ja viestintätekniikkainfrastruktuurin haavoittuvuuksia. Jotta voidaan varmistaa riskeihin nähden asianmukainen kyberturvallisuuden taso, suuririskisten tekoälyjärjestelmien tarjoajien sekä ilmoitettujen laitosten, toimivaltaisten kansallisten viranomaisten ja markkinavalvontaviranomaisten olisi toteutettava asianmukaisia toimenpiteitä ottaen tarvittaessa huomioon myös taustalla oleva tieto- ja viestintätekniikkainfrastruktuuri. Suuririskisiin tekoälyjärjestelmiin olisi oltava saatavilla turvaratkaisuja ja korjaustiedostoja tuotteen koko elinkaaren ajan tai tuoteneutraaleissa tapauksissa valmistajan ilmoittaman ajan.

Tarkistus  11

 

Ehdotus asetukseksi

Johdanto-osan 61 kappale

Komission teksti	Tarkistus
(61) Standardoinnilla olisi oltava keskeinen rooli, jotta tarjoajien käyttöön saadaan teknisiä ratkaisuja, joilla voidaan varmistaa tämän asetuksen noudattaminen. Tarjoajien olisi voitava osoittaa noudattavansa tämän asetuksen vaatimuksia noudattamalla Euroopan parlamentin ja neuvoston asetuksessa (EU) N:o 1025/201254 määriteltyjä yhdenmukaistettuja standardeja. Komissio voisi kuitenkin hyväksyä yhteisiä teknisiä eritelmiä aloilla, joilla ei ole yhdenmukaistettuja standardeja tai joilla ne ovat riittämättömiä.	(61) Standardoinnilla olisi oltava keskeinen rooli, jotta tarjoajien käyttöön saadaan teknisiä ratkaisuja, joilla voidaan varmistaa tämän asetuksen noudattaminen. Tarjoajien olisi voitava osoittaa noudattavansa tämän asetuksen vaatimuksia noudattamalla Euroopan parlamentin ja neuvoston asetuksessa (EU) N:o 1025/201254 määriteltyjä yhdenmukaistettuja standardeja. Teknisten yksityiskohtien lisäksi standardointiprosessissa olisi otettava huomioon myös perusoikeuksiin, ympäristöön ja koko yhteiskuntaan kohdistuvat riskit sekä muut tekoälyjärjestelmän demokraattiset ja sosiaalis-tekniset näkökohdat ja varmistettava, että kulloisenkin alan asiantuntijat otetaan mukaan standardointiprosessiin ja heitä kuullaan siinä. Standardointiprosessin olisi oltava läpinäkyvä sen suhteen, mitä oikeushenkilöitä ja luonnollisia henkilöitä standardointitoimintaan osallistuu. Komissio voisi kuitenkin hyväksyä yhteisiä teknisiä eritelmiä aloilla, joilla ei ole yhdenmukaistettuja standardeja tai joilla ne ovat riittämättömiä. Laatiessaan näitä yhteisiä eritelmiä komission olisi otettava huomioon asiaankuuluvien sidosryhmien näkemykset erityisesti silloin, kun yhteisillä eritelmillä haetaan ratkaisuja erityisiin perusoikeuksia koskeviin huolenaiheisiin. Komission olisi etenkin hyväksyttävä yhteisiä eritelmiä, joissa määritetään, miten riskinhallintajärjestelmissä kiinnitetään erityishuomiota lapsiin kohdistuviin vaikutuksiin.
__________________	__________________
54 Euroopan parlamentin ja neuvoston asetus (EU) N:o 1025/2012, annettu 25 päivänä lokakuuta 2012, eurooppalaisesta standardoinnista, neuvoston direktiivien 89/686/ETY ja 93/15/ETY sekä Euroopan parlamentin ja neuvoston direktiivien 94/9/EY, 94/25/EY, 95/16/EY, 97/23/EY, 98/34/EY, 2004/22/EY, 2007/23/EY, 2009/23/EY ja 2009/105/EY muuttamisesta ja neuvoston päätöksen 87/95/ETY ja Euroopan parlamentin ja neuvoston päätöksen N:o 1673/2006/EY kumoamisesta (EUVL L 316, 14.11.2012, s. 12).	54 Euroopan parlamentin ja neuvoston asetus (EU) N:o 1025/2012, annettu 25 päivänä lokakuuta 2012, eurooppalaisesta standardoinnista, neuvoston direktiivien 89/686/ETY ja 93/15/ETY sekä Euroopan parlamentin ja neuvoston direktiivien 94/9/EY, 94/25/EY, 95/16/EY, 97/23/EY, 98/34/EY, 2004/22/EY, 2007/23/EY, 2009/23/EY ja 2009/105/EY muuttamisesta ja neuvoston päätöksen 87/95/ETY ja Euroopan parlamentin ja neuvoston päätöksen N:o 1673/2006/EY kumoamisesta (EUVL L 316, 14.11.2012, s. 12).

Tarkistus  12

 

Ehdotus asetukseksi

Johdanto-osan 71 kappale

Komission teksti	Tarkistus
(71) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka edellyttää uudenlaisia viranomaisvalvonnan muotoja ja turvallista tilaa kokeiluille samalla kun varmistetaan vastuullinen innovointi ja asianmukaisten suojatoimien ja riskinhallintatoimenpiteiden integrointi. Jotta voidaan varmistaa innovaatiomyönteinen, tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen oikeudellinen kehys, yhden tai useamman jäsenvaltion kansallisia toimivaltaisia viranomaisia olisi kannustettava perustamaan tekoälyn sääntelyn testiympäristöjä, joilla helpotetaan innovatiivisten tekoälyjärjestelmien kehittämistä ja testausta tiukassa viranomaisvalvonnassa ennen kuin nämä järjestelmät saatetaan markkinoille tai otetaan muulla tavoin käyttöön.	(71) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka edellyttää uudenlaisia viranomaisvalvonnan muotoja ja turvallista tilaa kokeiluille samalla kun varmistetaan vastuullinen innovointi ja asianmukaisten ja eettisesti perusteltujen suojatoimien ja riskinhallintatoimenpiteiden integrointi. Jotta voidaan varmistaa innovaatiomyönteinen, tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen oikeudellinen kehys, yhden tai useamman jäsenvaltion kansallisia toimivaltaisia viranomaisia olisi kannustettava perustamaan tekoälyn sääntelyn testiympäristöjä ja asetettava tällaiset sääntelyn testiympäristöt laajasti saataville koko unionissa, jotta voidaan helpottaa innovatiivisten tekoälyjärjestelmien kehittämistä ja testausta tiukassa viranomaisvalvonnassa ennen kuin nämä järjestelmät saatetaan markkinoille tai otetaan muulla tavoin käyttöön. Tekoälyjärjestelmien kehittämisen ja testauksen aikana mahdollisesti havaittavia merkittäviä riskejä on vähennettävä välittömästi ja, jos tämä ei onnistu, kehittämis- ja testausprosessi on keskeytettävä, kunnes riskejä voidaan vähentää.

Tarkistus  13

 

Ehdotus asetukseksi

Johdanto-osan 72 kappale

Komission teksti	Tarkistus
(72) Sääntelyn testiympäristöjen tavoitteena olisi oltava tekoälyyn liittyvän innovoinnin edistäminen luomalla hallittu kokeilu- ja testausympäristö kehitysvaiheessa ja markkinoille saattamista edeltävässä vaiheessa, jotta voidaan varmistaa, että innovatiiviset tekoälyjärjestelmät ovat tämän asetuksen ja muun asiaankuuluvan unionin ja jäsenvaltioiden lainsäädännön mukaisia, ja jotta voidaan parantaa innovoijien oikeusvarmuutta ja toimivaltaisten viranomaisten valvontaa sekä ymmärrystä tekoälyn käytön mahdollisuuksista ja siihen liittyvistä riskeistä ja vaikutuksista ja nopeuttaa markkinoille pääsyä muun muassa poistamalla esteitä pieniltä ja keskisuurilta yrityksiltä (pk-yrityksiltä) ja startup-yrityksiltä. Yhdenmukaisen täytäntöönpanon varmistamiseksi koko unionissa ja mittakaavaetujen saavuttamiseksi on aiheellista vahvistaa yhteiset säännöt sääntelyn testiympäristöjen toteuttamiselle ja puitteet testiympäristöjen valvontaan osallistuvien asiaankuuluvien viranomaisten väliselle yhteistyölle. Tämän asetuksen olisi muodostettava oikeusperusta sellaisten henkilötietojen käytölle, jotka on kerätty muihin tarkoituksiin tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä, asetuksen (EU) 2016/679 6 artiklan 4 kohdan ja asetuksen (EU) 2018/1725 6 artiklan mukaisesti ja rajoittamatta direktiivin (EU) 2016/680 4 artiklan 2 kohdan soveltamista. Testiympäristön osallistujien olisi varmistettava asianmukaiset suojatoimet ja tehtävä yhteistyötä toimivaltaisten viranomaisten kanssa muun muassa noudattamalla niiden ohjeita ja toimimalla nopeasti ja vilpittömästi lieventääkseen mahdollisia turvallisuuteen ja perusoikeuksiin kohdistuvia suuria riskejä, joita voi syntyä testiympäristössä tapahtuvan kehittämisen ja kokeilun aikana. Testiympäristön osallistujien käyttäytyminen olisi otettava huomioon, kun toimivaltaiset viranomaiset päättävät hallinnollisen sakon määräämisestä asetuksen 2016/679 83 artiklan 2 kohdan ja direktiivin 2016/680 57 artiklan nojalla.	(72) Sääntelyn testiympäristöjen tavoitteena olisi oltava tekoälyyn liittyvän innovoinnin edistäminen luomalla hallittu kokeilu- ja testausympäristö kehitysvaiheessa ja markkinoille saattamista edeltävässä vaiheessa, jotta voidaan varmistaa, että innovatiiviset tekoälyjärjestelmät ovat tämän asetuksen ja muun asiaankuuluvan unionin ja jäsenvaltioiden lainsäädännön sekä Euroopan unionin perusoikeuskirjan ja yleisen tietosuoja-asetuksen mukaisia, parantaa innovoijien oikeusvarmuutta ja toimivaltaisten viranomaisten valvontaa sekä ymmärrystä tekoälyn käytön mahdollisuuksista ja siihen liittyvistä riskeistä ja vaikutuksista, säätää suojatoimista luottamuksen rakentamiseksi tekoälyjärjestelmiä kohtaan ja nopeuttaa markkinoille pääsyä muun muassa poistamalla esteitä pieniltä ja keskisuurilta yrityksiltä (pk-yrityksiltä) ja startup-yrityksiltä, edistää politiikkaohjelmassa ”Polku digitaaliselle vuosikymmenelle” asetettujen tekoälyä koskevien tavoitteiden saavuttamista, edistää eettisten, sosiaalisesti vastuullisten ja ympäristön kannalta kestävien tekoälyjärjestelmien kehittämistä sekä mahdollistaa pk-yritysten ja startup-yritysten tehokas osallistuminen sääntelyn testiympäristöihin, ja säännösten noudattamisesta aiheutuvat kustannukset olisi pidettävä kohtuullisella tasolla, jotta voidaan varmistaa luotettavien eurooppalaisten tekoälyratkaisujen kehittäminen. On aiheellista vahvistaa yhteiset säännöt sääntelyn testiympäristöjen toteuttamiselle ja puitteet testiympäristöjen valvontaan osallistuvien asiaankuuluvien viranomaisten väliselle yhteistyölle sekä kannustaa innovointiin. Tämän asetuksen olisi muodostettava oikeusperusta sellaisten henkilötietojen käytölle, jotka on kerätty muihin tarkoituksiin tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä, asetuksen (EU) 2016/679 6 artiklan 4 kohdan ja asetuksen (EU) 2018/1725 6 artiklan mukaisesti ja rajoittamatta direktiivin (EU) 2016/680 4 artiklan 2 kohdan soveltamista. Testiympäristön osallistujien olisi varmistettava asianmukaiset suojatoimet ja tehtävä yhteistyötä toimivaltaisten viranomaisten kanssa muun muassa noudattamalla niiden ohjeita ja toimimalla nopeasti ja vilpittömästi lieventääkseen mahdollisia turvallisuuteen ja perusoikeuksiin kohdistuvia suuria riskejä, joita voi syntyä testiympäristössä tapahtuvan kehittämisen ja kokeilun aikana. Testiympäristön osallistujien käyttäytyminen olisi otettava huomioon, kun toimivaltaiset viranomaiset päättävät hallinnollisen sakon määräämisestä asetuksen 2016/679 83 artiklan 2 kohdan ja direktiivin 2016/680 57 artiklan nojalla.

Tarkistus  14

 

Ehdotus asetukseksi

Johdanto-osan 72 a kappale (uusi)

Komission teksti	Tarkistus
	(72 a) On toivottavaa, että tällä hetkellä jäsenvaltioiden harkintaan jätetystä sääntelyn testiympäristöjen perustamisesta tehdään seuraavassa vaiheessa pakollista ja että testiympäristöille vahvistetaan asianmukaiset kriteerit, jotta voidaan paitsi varmistaa tekoälyjärjestelmän tehokkuus myös tehdä niiden käyttö helpommaksi yrityksille, erityisesti pk-yrityksille. Tutkimuslaitosten ja tutkimusta harjoittavien yritysten olisi oltava mukana laatimassa sääntelyn testiympäristöjen kehittämisen edellytyksiä.

Tarkistus  15

 

Ehdotus asetukseksi

Johdanto-osan 73 kappale

Komission teksti	Tarkistus
(73) Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tietoisuuden lisäämistä ja tiedotusta. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät.	(73) Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tekoälylukutaitoa, tietoisuuden lisäämistä ja tiedotusta. Jäsenvaltioiden olisi käytettävä olemassa olevia kanavia ja perustettava tarvittaessa uusia erityiskanavia viestintään pk-yritysten, startup-yritysten, käyttäjien ja muiden innovoijien kanssa, jotta voidaan antaa ohjeistusta ja vastata kysymyksiin tämän asetuksen täytäntöönpanosta. Tällaisia olemassa olevia kanavia voisivat olla muun muassa Euroopan unionin kyberturvallisuusviraston ENISAn tietoturvaloukkauksiin reagoivat yksiköt (CSIRT), kansalliset tietosuojaviranomaiset, tekoälyyn keskittyvä tilauspohjainen alusta, eurooppalaiset digitaali-innovointikeskittymät ja muut EU:n ohjelmista rahoitettavat asiaankuuluvat välineet sekä komission ja jäsenvaltioiden kansallisella tai unionin tasolla perustamat testaus- ja kokeilulaitokset. Näiden kanavien olisi tarvittaessa tehtävä yhteistyötä, jotta voidaan luoda synergioita ja varmistaa, että niiden startup-yrityksille, pk-yrityksille ja käyttäjille antamat ohjeet ovat yhtenäisiä. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Komission olisi arvioitava säännöllisesti sertifioinnista ja vaatimusten noudattamisesta pk-yrityksille ja startup-yrityksille aiheutuvia kustannuksia, muun muassa kuulemalla avoimesti pk-yrityksiä, startup-yrityksiä ja käyttäjiä, ja tehtävä yhteistyötä jäsenvaltioiden kanssa tällaisten kustannusten alentamiseksi. Esimerkiksi pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät. Keskisuurilla yrityksillä, jotka ovat äskettäin vaihtaneet luokkaa suosituksessa 2003/361/EY tarkoitetulla tavalla pienestä keskisuureksi yritykseksi, olisi oltava mahdollisuus osallistua näihin aloitteisiin ja saada ohjeistusta jäsenvaltioiden asianmukaiseksi katsoman ajan, koska tällaisilla uusilla keskisuurilla yrityksillä ei välttämättä aina ole tarvittavia oikeudellisia resursseja ja koulutusta säännösten asianmukaisen ymmärtämisen ja noudattamisen varmistamiseksi.

Tarkistus  16

 

Ehdotus asetukseksi

Johdanto-osan 76 a kappale (uusi)

Komission teksti	Tarkistus
	(76 a) Tekoälyneuvoston alaryhmäksi olisi perustettava tekoälyalan neuvoa-antava toimikunta, jäljempänä ’neuvoa-antava toimikunta’, joka koostuu teollisuuden, tutkimuksen, tiedemaailman, kansalaisyhteiskunnan, standardointiorganisaatioiden, työmarkkinaosapuolten, pk-yritysten, perusoikeusasiantuntijoiden ja muiden asiaankuuluvien sidosryhmien edustajista, joita on kaikista jäsenvaltioista maantieteellisen tasapainon säilyttämiseksi. Neuvoa-antavan toimikunnan olisi tuettava tekoälyneuvoston työtä antamalla tekoälyneuvoston tehtäviin liittyviä neuvoja. Neuvoa-antavan toimikunnan olisi nimettävä edustaja, joka osallistuu tekoälyneuvoston kokouksiin ja sen työskentelyyn.

Tarkistus  17

 

Ehdotus asetukseksi

Johdanto-osan 81 kappale

Komission teksti	Tarkistus
(81) Muiden tekoälyjärjestelmien kuin suuririskisten tekoälyjärjestelmien kehittäminen tämän asetuksen vaatimusten mukaisesti voi johtaa luotettavan tekoälyn laajempaan käyttöönottoon unionissa. Muiden kuin suuririskisten tekoälyjärjestelmien tarjoajia olisi kannustettava laatimaan käytännesääntöjä, joilla pyritään edistämään suuririskisiin tekoälyjärjestelmiin sovellettavien pakollisten vaatimusten vapaaehtoista soveltamista. Tarjoajia olisi myös kannustettava soveltamaan vapaaehtoisesti lisävaatimuksia, jotka liittyvät esimerkiksi ekologiseen kestävyyteen, vammaisten henkilöiden esteettömyyteen, sidosryhmien osallistumiseen tekoälyjärjestelmien suunnitteluun ja kehittämiseen sekä kehitysryhmien monimuotoisuuteen. Komissio voi kehittää aloitteita, myös alakohtaisia aloitteita, helpottaakseen tekoälyn kehittämistä varten tapahtuvaa rajat ylittävää datanvaihtoa haittaavien teknisten esteiden vähentämistä, muun muassa datan käyttöinfrastruktuurin sekä eri datatyyppien semanttisen ja teknisen yhteentoimivuuden aloilla.	(81) Muiden tekoälyjärjestelmien kuin suuririskisten tekoälyjärjestelmien kehittäminen tämän asetuksen vaatimusten mukaisesti voi johtaa luotettavan, sosiaalisesti vastuullisen ja ympäristön kannalta kestävän tekoälyn laajempaan käyttöönottoon unionissa. Muiden kuin suuririskisten tekoälyjärjestelmien tarjoajia olisi kannustettava laatimaan käytännesääntöjä, joilla pyritään edistämään suuririskisiin tekoälyjärjestelmiin sovellettavien pakollisten vaatimusten vapaaehtoista soveltamista. Tarjoajia olisi myös kannustettava soveltamaan vapaaehtoisesti lisävaatimuksia, jotka liittyvät esimerkiksi ekologiseen kestävyyteen, vammaisten henkilöiden esteettömyyteen, sidosryhmien osallistumiseen tekoälyjärjestelmien suunnitteluun ja kehittämiseen sekä kehitysryhmien monimuotoisuuteen. Komissio voi kehittää aloitteita, myös alakohtaisia aloitteita, helpottaakseen tekoälyn kehittämistä varten tapahtuvaa rajat ylittävää datanvaihtoa haittaavien teknisten esteiden vähentämistä, muun muassa datan käyttöinfrastruktuurin sekä eri datatyyppien semanttisen ja teknisen yhteentoimivuuden aloilla.

Tarkistus  18

 

Ehdotus asetukseksi

2 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Tämä asetus ei vaikuta tekoälyjärjestelmiä koskevaan tutkimustoimintaan sikäli kuin tällaisen toiminnan tuloksena tai sen yhteydessä ei saateta markkinoille tai oteta käyttöön tekoälyjärjestelmää. Tutkimustoiminta ei saa loukata asianomaisten henkilöiden perusoikeuksia.

Tarkistus  19

 

Ehdotus asetukseksi

2 artikla – 5 b kohta (uusi)

Komission teksti	Tarkistus
	5 b. Tätä asetusta ei sovelleta tekoälyjärjestelmiin, niiden tulokset mukaan lukien, jotka on erityisesti kehitetty ja otettu käyttöön yksinomaan unionin yleisen edun mukaista tieteellistä tutkimusta varten.

Tarkistus  20

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 alakohta

Komission teksti	Tarkistus
(1) ’tekoälyjärjestelmällä’ ohjelmistoa, joka on kehitetty käyttäen yhtä tai useampaa liitteessä I lueteltua tekniikkaa ja lähestymistapaa ja joka voi tuottaa tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöihin, joiden kanssa järjestelmät ovat vuorovaikutuksessa;	(1) ’tekoälyjärjestelmällä’ konejärjestelmää, joka voi tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi tuottaa erilaisilla autonomian tasoilla todellisiin tai virtuaalisiin ympäristöihin vaikuttavia ennusteita, sisältöjä, suosituksia tai päätöksiä;

Tarkistus  21

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 1 a alakohta (uusi)

Komission teksti	Tarkistus
	(1 a) ’autonomialla’ sitä, että toiminnassaan tekoälyjärjestelmä tulkitsee määrättyjä syöttötietoja käyttäen perusteena ennalta määriteltyjä tavoitteita mutta rajoittumatta tällaisiin ohjeisiin samalla kun järjestelmän käyttäytymistä säätelevät sille asetettu päämäärä, jonka saavuttamiseen kyseinen käyttäytyminen tähtää, ja muut järjestelmän kehittäjän tekemät suunnitteluvalinnat;

Tarkistus  22

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 2 alakohta

Komission teksti	Tarkistus
(2) ’tarjoajalla’ luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, joka kehittää tai kehityttää tekoälyjärjestelmän sen saattamiseksi markkinoille tai ottamiseksi käyttöön omalla nimellään tai tavaramerkillään joko maksua vastaan tai maksutta;	(2) ’tarjoajalla’ luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, joka kehittää tai kehityttää tekoälyjärjestelmän ja saattaa sen markkinoille tai ottaa sen käyttöön omalla nimellään tai tavaramerkillään joko maksua vastaan tai maksutta;

Tarkistus  23

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 14 alakohta

Komission teksti	Tarkistus
(14) ’tuotteen tai järjestelmän turvakomponentilla’ tuotteen tai järjestelmän komponenttia, joka toteuttaa kyseisen tuotteen tai järjestelmän turvallisuustoimintoa tai jonka vika tai toimintahäiriö vaarantaa ihmisten terveyden ja turvallisuuden tai omaisuuden turvallisuuden;	(14) ’tuotteen tai järjestelmän turvakomponentilla’ tuotteen tai järjestelmän komponenttia, joka toteuttaa kyseisen tuotteen tai järjestelmän turvallisuustoimintoa ja jonka vika tai toimintahäiriö vaarantaa ihmisten terveyden ja turvallisuuden tai omaisuuden turvallisuuden;

Tarkistus  24

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 alakohta – johdantokappale

Komission teksti	Tarkistus
(44) ’vakavalla vaaratilanteella’ mitä tahansa vaaratilannetta, joka suoraan tai välillisesti johtaa, olisi saattanut johtaa tai saattaisi johtaa johonkin seuraavista:	(44) ’vakavalla vaaratilanteella’ mitä tahansa vaaratilannetta tai tekoälyjärjestelmän toimintahäiriötä, joka suoraan tai välillisesti johtaa, olisi saattanut johtaa tai saattaisi johtaa johonkin seuraavista:

Tarkistus  25

 

Ehdotus asetukseksi

3 artkla – 1 kohta – 44 alakohta – a alakohta

Komission teksti	Tarkistus
(a) henkilön kuolema tai vakava vahinko henkilön terveydelle, omaisuudelle tai ympäristölle,	(a) henkilön kuolema tai vakava vahinko henkilön perusoikeuksille, terveydelle, turvallisuudelle, omaisuudelle tai ympäristölle,

Tarkistus  26

 

Ehdotus asetukseksi

3 artkla – 1 kohta – 44 alakohta – b a alakohta (uusi)

Komission teksti	Tarkistus
	(b a) perusoikeuksien suojaamiseen tarkoitettujen unionin oikeuden mukaisten velvoitteiden rikkominen;

Tarkistus  27

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 a alakohta (uusi)

Komission teksti	Tarkistus
	(44 a) ’sääntelyn testiympäristöllä’ yhden tai useamman jäsenvaltion toimivaltaisten viranomaisten yhteistyössä komission tai Euroopan tietosuojavaltuutetun kanssa perustamaa kokonaisuutta, joka tarjoaa asianmukaisen valvotun ja joustavan ympäristön, joka helpottaa innovatiivisten tekoälyjärjestelmien turvallista kehittämistä, testausta ja validointia rajoitetun ajan ennen kuin ne saatetaan markkinoille tai otetaan käyttöön tietyn suunnitelman mukaisesti;

Tarkistus  28

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 b alakohta (uusi)

Komission teksti	Tarkistus
	(44 b) ’tekoälylukutaidolla’ tekoälyjärjestelmiä koskevia taitoja, tietoja ja ymmärrystä, jotka ovat tarpeen tämän asetuksen noudattamiseksi ja täytäntöönpanemiseksi;

Tarkistus  29

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 c alakohta (uusi)

Komission teksti	Tarkistus
	(44 c) ’syväväärennöksellä’ aidolta vaikuttavaa manipuloitua tai synteettistä ääni- ja/tai kuvamateriaalia, jossa näyttää tapahtuvan tapahtumia, joita ei ole koskaan tapahtunut, ja joka on tuotettu käyttämällä tekoälyalan tekniikoita, mukaan lukien koneoppiminen ja syväoppiminen, mutta jonka käyttäjä tai loppukäyttäjä ei tiedosta, että ääni- ja/tai kuvamateriaali on tuotettu tekoälyä käyttämällä;

Tarkistus  30

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 d alakohta (uusi)

Komission teksti	Tarkistus
	(44 d) ’kriittisellä infrastruktuurilla’ omaisuutta tai järjestelmää tai niiden osaa, joka on välttämätön sellaisen palvelun toimittamiseksi, joka on olennainen yhteiskunnan elintärkeiden toimintojen tai taloudellisen toiminnan ylläpitämiseksi, kriittisten toimijoiden häiriönsietokyvystä annetun direktiivin .../... (2020/0365(COD)) 2 artiklan 4 ja 5 kohdassa tarkoitetulla tavalla;

Tarkistus  31

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 e alakohta (uusi)

Komission teksti	Tarkistus
	(44 e) ’henkilötiedoilla’ asetuksen (EU) 2016/679 4 artiklan 1 alakohdassa määriteltyjä henkilötietoja;

Tarkistus  32

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 f alakohta (uusi)

Komission teksti	Tarkistus
	(44 f) ’muilla kuin henkilötiedoilla’ muita tietoja kuin asetuksen (EU) 2016/679 4 artiklan 1 alakohdassa määriteltyjä henkilötietoja.

Tarkistus  33

 

Ehdotus asetukseksi

4 artikla – 1 kohta

Komission teksti	Tarkistus
Siirretään komissiolle valta antaa 73 artiklan mukaisesti delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa, jotta kyseinen luettelo voidaan saattaa markkinoiden ja teknologian kehityksen tasalle siinä lueteltuja tekniikoita ja lähestymistapoja vastaavien ominaisuuksien perusteella.	Siirretään komissiolle valta antaa 73 artiklan mukaisesti delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa 3 artiklan 1 alakohdassa määritellyn tekoälyjärjestelmän soveltamisalan puitteissa, jotta kyseinen luettelo voidaan saattaa markkinoiden ja teknologian kehityksen tasalle siinä lueteltuja tekniikoita ja lähestymistapoja vastaavien ominaisuuksien perusteella.

Tarkistus  34

 

Ehdotus asetukseksi

4 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Näitä delegoituja säädöksiä laatiessaan komissio varmistaa kaikkien asiaankuuluvien sidosryhmien, kuten teknisten asiantuntijoiden ja tekoälyjärjestelmien kehittäjien, näkemysten huomioon ottamisen.

Tarkistus  35

 

Ehdotus asetukseksi

10 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät, joissa hyödynnetään tekniikoita, joihin sisältyy mallien kouluttaminen datan avulla, on kehitettävä sellaisten koulutus-, validointi- ja testausdatajoukkojen pohjalta, jotka täyttävät 2–5 kohdassa tarkoitetut laatuvaatimukset.	1. Suuririskiset tekoälyjärjestelmät, joissa hyödynnetään tekniikoita, joihin sisältyy mallien kouluttaminen datan avulla, on kehitettävä sellaisten koulutus-, arviointi-, validointi- ja testausdatajoukkojen pohjalta, jotka täyttävät 2–5 kohdassa tarkoitetut laatuvaatimukset, jos se on teknisesti toteutettavissa, ottaen huomioon kulloisenkin markkinasegmentin tai soveltamisalan viimeisintä kehitystä edustavat toimet.

Tarkistus  36

 

Ehdotus asetukseksi

10 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Tekniikoita, kuten ohjaamatonta oppimista ja vahvistusoppimista, joissa ei käytetä validointi- ja testausdatajoukkoja, on kehitettävä sellaisten koulutusdatajoukkojen pohjalta, jotka täyttävät 2–5 kohdassa tarkoitetut laatuvaatimukset.

Tarkistus  37

 

Ehdotus asetukseksi

10 artikla –1 b kohta (uusi)

Komission teksti	Tarkistus
	1 b. Suuririskisten tekoälyjärjestelmien tarjoajat, jotka hyödyntävät kolmansien osapuolten keräämää ja/tai hallinnoimaa dataa, voivat luottaa näiden kolmansien osapuolten toimittamiin esityksiin 2 kohdan a, b ja c alakohdassa tarkoitettujen laatuvaatimusten osalta.

Tarkistus  38

 

Ehdotus asetukseksi

10 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Koulutus-, validointi- ja testausdatajoukkoihin on sovellettava asianmukaisia datahallinto- ja hallintakäytäntöjä. Näiden käytäntöjen on koskettava erityisesti seuraavia seikkoja:	2. Koulutus-, arviointi-, validointi- ja testausdatajoukkoihin on sovellettava asianmukaisia datahallinto- ja hallintakäytäntöjä tietojenkäsittelyn koko elinkaaren ajan. Näiden käytäntöjen on koskettava erityisesti seuraavia osatekijöitä:

Tarkistus  39

 

Ehdotus asetukseksi

10 artikla – 2 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) avoimuus datan keruun alkuperäisen tarkoituksen suhteen;

Tarkistus  40

 

Ehdotus asetukseksi

10 artikla – 2 kohta – b alakohta

Komission teksti	Tarkistus
(b) datan keruu;	(b) datan keruuprosessit;

Tarkistus  41

 

Ehdotus asetukseksi

10 artikla – 2 kohta – f alakohta

Komission teksti	Tarkistus
(f) mahdollisten vinoutumien selvittäminen;	(f) sellaisten mahdollisten vinoutumien selvittäminen, jotka todennäköisesti vaikuttavat ihmisten terveyteen ja turvallisuuteen, vaikuttavat kielteisesti perusoikeuksiin tai johtavat unionin oikeudessa kiellettyyn syrjintään, mukaan lukien tapaukset, joissa tuotettuja tietoja käytetään tulevien toimintojen syöttötietoina (’palautesilmukat’);

Tarkistus  42

 

Ehdotus asetukseksi

10 artikla – 2 kohta – g alakohta

Komission teksti	Tarkistus
(g) mahdollisten puuttuvien tai puutteellisten tietojen tunnistaminen ja se, miten nämä puutteet voidaan korjata.	(g) puuttuvien tai puutteellisten tietojen tunnistaminen ja se, miten nämä puutteet voidaan korjata;

Tarkistus  43

 

Ehdotus asetukseksi

10 artikla – 2 kohta – g a alakohta (uusi)

Komission teksti	Tarkistus
	(g a) järjestelmän käyttötarkoitus ja käyttöympäristö.

Tarkistus  44

 

Ehdotus asetukseksi

10 artikla – 3 kohta

Komission teksti	Tarkistus
3. Koulutus-, validointi- ja testausdatajoukkojen on oltava merkityksellisiä, edustavia, virheettömiä ja täydellisiä. Niillä on oltava asianmukaiset tilastolliset ominaisuudet, tarvittaessa myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Nämä datajoukkojen ominaisuudet voidaan saavuttaa yksittäisten datajoukkojen tai niiden yhdistelmän tasolla.	3. Koulutus-, validointi- ja testausdatajoukkojen suunnittelussa on pyrittävä mahdollisimman hyvin varmistamaan, että ne ovat merkityksellisiä ja edustavia ja että niiden virheettömyys on tarkastettu asianmukaisesti tekoälyjärjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä on erityisesti oltava asianmukaiset tilastolliset ominaisuudet, tarvittaessa myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Nämä datajoukkojen ominaisuudet voidaan saavuttaa yksittäisten datajoukkojen tai niiden yhdistelmän tasolla.

Tarkistus  45

 

Ehdotus asetukseksi

10 artikla – 4 kohta

Komission teksti	Tarkistus
4. Koulutus-, validointi- ja testausdatajoukoissa on otettava käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää.	4. Koulutus-, validointi- ja testausdatajoukoissa on otettava käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle, viitekehyksenä olevalle tai toiminnalliselle ympäristölle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää.

Tarkistus  46

 

Ehdotus asetukseksi

15 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että ne saavuttavat käyttötarkoitukseensa nähden asianmukaisen tarkkuuden, luotettavuuden ja kyberturvallisuuden tason ja toimivat tässä suhteessa johdonmukaisesti koko elinkaarensa ajan.	1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä noudattaen sisäänrakennetun ja oletusarvoisen turvallisuuden periaatetta. Niiden olisi saavutettava käyttötarkoitukseensa nähden asianmukainen tarkkuuden, luotettavuuden, turvallisuuden ja kyberturvallisuuden taso ja toimittava tässä suhteessa johdonmukaisesti koko elinkaarensa ajan. Näiden vaatimusten noudattamiseen on sisällyttävä kulloisenkin markkinasegmentin tai soveltamisalan viimeisintä kehitystä edustavien toimien täytäntöönpano.

Tarkistus  47

 

Ehdotus asetukseksi

15 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Jotta voidaan ratkaista tämän artiklan 1 kohdassa tarkoitettujen asianmukaisen tarkkuuden ja luotettavuuden tasojen mittaamiseen liittyvät tekniset näkökohdat, Euroopan tekoälyneuvosto tuo yhteen kansalliset metrologia- ja vertailuanalyysiviranomaiset ja antaa asiaa koskevaa ei-sitovaa ohjeistusta 56 artiklan 2 kohdan a alakohdan mukaisesti.

Tarkistus  48

 

Ehdotus asetukseksi

15 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	1 b. Euroopan unionin kyberturvallisuusvirasto (ENISA) osallistuu toimintaan yhdessä Euroopan tekoälyneuvoston kanssa 56 artiklan 2 kohdan b alakohdan mukaisesti, jotta voidaan käsitellä sisämarkkinoilla esiin nousevia kyberturvallisuuskysymyksiä.

Tarkistus  49

 

Ehdotus asetukseksi

15 artikla – 2 kohta

Komission teksti	Tarkistus
2. Suuririskisten tekoälyjärjestelmien tarkkuustasot ja niihin liittyvät tarkkuusmittarit on ilmoitettava järjestelmän mukana olevissa käyttöohjeissa.	2. Suuririskisten tekoälyjärjestelmien tarkkuustasot ja niihin liittyvät tarkkuusmittarit on ilmoitettava järjestelmän mukana olevissa käyttöohjeissa. Käytetyn kielen on oltava selkeää, siitä ei saa aiheutua väärinkäsityksiä, eikä siinä saa olla harhaanjohtavia lausuntoja.

Tarkistus  50

 

Ehdotus asetukseksi

15 artikla – 3 kohta – 1 alakohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien on siedettävä virheitä, vikoja tai epäjohdonmukaisuuksia, joita saattaa esiintyä järjestelmässä tai ympäristössä, jossa järjestelmä toimii, erityisesti siksi, että järjestelmät ovat vuorovaikutuksessa luonnollisten henkilöiden tai muiden järjestelmien kanssa.	On toteutettava teknisiä ja organisatorisia toimenpiteitä sen varmistamiseksi, että suuririskiset tekoälyjärjestelmät sietävät mahdollisimman hyvin virheitä, vikoja tai epäjohdonmukaisuuksia, joita saattaa esiintyä järjestelmässä tai ympäristössä, jossa järjestelmä toimii, erityisesti siksi, että järjestelmät ovat vuorovaikutuksessa luonnollisten henkilöiden tai muiden järjestelmien kanssa.

Tarkistus  51

 

Ehdotus asetukseksi

15 artikla – 3 kohta – 2 alakohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien luotettavuus voidaan saavuttaa teknisillä vararatkaisuilla, joihin voivat kuulua varasuunnitelmat tai vikavarmistussuunnitelmat.	Asianomainen tarjoaja voi saavuttaa suuririskisen tekoälyjärjestelmän luotettavuuden teknisillä vararatkaisuilla, joihin voivat kuulua varasuunnitelmat tai vikavarmistussuunnitelmat, ja ottamalla tarvittaessa huomioon käyttäjän näkemykset.

Tarkistus  52

 

Ehdotus asetukseksi

15 artikla – 3 kohta – 3 alakohta

Komission teksti	Tarkistus
Suuririskiset tekoälyjärjestelmät, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen, on kehitettävä siten, että varmistetaan, että mahdollisesti vinoutuneisiin tuloksiin, jotka johtuvat tulosten käytöstä tulevien toimintojen syöttötietona (’palautesilmukat’), puututaan asianmukaisin korjaavin toimenpitein.	Suuririskiset tekoälyjärjestelmät, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen, on kehitettävä siten, että varmistetaan, että mahdollisesti vinoutuneisiin tuloksiin, jotka vaikuttavat tulevien toimintojen syöttötietoihin (’palautesilmukat’), ja toiminnan aikana oppimiseen käytettyjen syöttötietojen haitalliseen manipulointiin puututaan asianmukaisin korjaavin toimenpitein.

Tarkistus  53

 

Ehdotus asetukseksi

15 artikla – 4 kohta – 1 alakohta

Komission teksti	Tarkistus
Suuririskisten tekoälyjärjestelmien on kestettävä asiaankuulumattomien ulkopuolisten tahojen yritykset muuttaa järjestelmän käyttöä tai suorituskykyä hyödyntämällä järjestelmän haavoittuvuuksia.	Suuririskisten tekoälyjärjestelmien on kestettävä asiaankuulumattomien ulkopuolisten tahojen yritykset muuttaa järjestelmän käyttöä, käyttäytymistä, tuloksia tai suorituskykyä hyödyntämällä järjestelmän haavoittuvuuksia.

Tarkistus  54

 

Ehdotus asetukseksi

15 artikla – 4 kohta – 3 alakohta

Komission teksti	Tarkistus
Teknisiin ratkaisuihin, joilla puututaan tekoälyn erityisiin haavoittuvuuksiin, on tarvittaessa sisällyttävä toimenpiteitä, joilla ehkäistään ja rajoitetaan hyökkäyksiä, joilla pyritään manipuloimaan koulutusdatajoukkoa (”datamyrkytys”), syöttötietoja, joiden tarkoituksena on saada malli tekemään virhe (”ristiriitaiset esimerkit”), tai mallin puutteita.	Teknisiin ratkaisuihin, joilla puututaan tekoälyn erityisiin haavoittuvuuksiin, on tarvittaessa sisällyttävä toimenpiteitä, joilla ehkäistään, havaitaan, hallitaan, ratkaistaan ja rajoitetaan hyökkäyksiä, joilla pyritään manipuloimaan koulutusdatajoukkoa (”datamyrkytys”) tai koulutuksessa käytettäviä esikoulutettuja komponentteja (”mallimyrkytys”), syöttötietoja, joiden tarkoituksena on saada malli tekemään virhe (”ristiriitaiset esimerkit” tai ”mallin kiertäminen”), luottamuksellisuuteen kohdistuvia hyökkäyksiä tai mallin puutteita, joiden tuloksena saatettaisiin tehdä haitallisten päätöksiä.

Tarkistus  55

 

Ehdotus asetukseksi

40 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Komissio varmistaa, että yhdenmukaistettuja standardeja kehitettäessä otetaan huomioon perusoikeuksiin, ympäristöön ja koko yhteiskuntaan kohdistuvat riskit.

Tarkistus  56

 

Ehdotus asetukseksi

40 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	Komissio varmistaa, että sidosryhmät, myös pk-yritykset, voivat osallistua tekoälyjärjestelmiä koskevien yhdenmukaistettujen standardien kehittämiseen asetuksen (EU) N:o 1025/2012 5 ja 6 artiklan mukaisesti.

Tarkistus  57

 

Ehdotus asetukseksi

40 artikla – 1 c kohta (uusi)

Komission teksti	Tarkistus
	Tätä varten komissio osoittaa niille varoja asetuksen (EU) N:o 1025/2012 17 artiklan mukaisesti helpottaakseen niiden tosiasiallista osallistumista.

Tarkistus  58

 

Ehdotus asetukseksi

40 artikla – 1 d kohta (uusi)

Komission teksti	Tarkistus
	Komissio tarkastelee yhdenmukaistettuja standardeja ennen kuin ne julkaistaan Euroopan unionin virallisessa lehdessä ja laatii kertomuksen niiden riittävyydestä tämän artiklan 1 a ja 1 b kohdan mukaisesti.

Tarkistus  59

 

Ehdotus asetukseksi

41 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jos 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja ei ole tai jos komissio katsoo, että asiaa koskevat yhdenmukaistetut standardit ovat riittämättömiä tai että on tarpeen puuttua erityisiin turvallisuutta tai perusoikeuksia koskeviin huolenaiheisiin, komissio voi hyväksyä täytäntöönpanosäädöksillä tämän osaston 2 luvussa vahvistettuja vaatimuksia koskevia yhteisiä eritelmiä. Nämä täytäntöönpanosäädökset hyväksytään 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen.	1. Jos 40 artiklassa tarkoitettuja yhdenmukaistettuja standardeja ei ole tai jos komissio katsoo, että asiaa koskevat yhdenmukaistetut standardit ovat riittämättömiä tai että on tarpeen puuttua erityiseen ja kiireelliseen turvallisuutta tai perusoikeuksia koskevaan huolenaiheiseen, jota ei voida riittävästi ratkaista kehittämällä yhdenmukaistettuja standardeja, komissio voi hyväksyä täytäntöönpanosäädöksillä tämän osaston 2 luvussa vahvistettuja vaatimuksia koskevia yhteisiä eritelmiä. Nämä täytäntöönpanosäädökset hyväksytään 74 artiklan 2 kohdassa tarkoitettua tarkastelumenettelyä noudattaen.

Tarkistus  60

 

Ehdotus asetukseksi

41 artikla – 2 kohta

Komission teksti	Tarkistus
2. Komissio kerää 1 kohdassa tarkoitettuja yhteisiä eritelmiä laatiessaan asiaa koskevan alakohtaisen unionin lainsäädännön mukaisesti perustettujen asiaankuuluvien elinten tai asiantuntijaryhmien näkemykset.	2. Komissio kerää 1 kohdassa tarkoitettuja yhteisiä eritelmiä laatiessaan suuririskisten tekoälyjärjestelmien kehittäjien ja tarjoajien sekä asiaankuuluvien sidosryhmien, kuten pk-yritysten ja startup-yritysten, kansalaisyhteiskunnan ja työmarkkinaosapuolten, tai asiaa koskevan alakohtaisen unionin lainsäädännön mukaisesti perustettujen asiantuntijaryhmien näkemykset.

Tarkistus  61

 

Ehdotus asetukseksi

42 artikla – 1 kohta

Komission teksti	Tarkistus
1. Ottaen huomioon niiden käyttötarkoitus, suuririskisten tekoälyjärjestelmien, jotka on koulutettu ja testattu datalla, joka koskee erityistä maantieteellistä, käyttäytymiseen liittyvää ja toiminnallista ympäristöä, jossa järjestelmiä on tarkoitus käyttää, on katsottava täyttävän 10 artiklan 4 kohdassa vahvistetut vaatimukset.	1. Ottaen huomioon niiden käyttötarkoitus, suuririskisten tekoälyjärjestelmien, jotka on koulutettu ja testattu datalla, joka koskee erityistä maantieteellistä, käyttäytymiseen liittyvää, viitekehyksenä olevaa ja toiminnallista ympäristöä, jossa järjestelmiä on tarkoitus käyttää, on katsottava täyttävän 10 artiklan 4 kohdassa vahvistetut vaatimukset.

Tarkistus  62

 

Ehdotus asetukseksi

42 artikla – 2 kohta

Komission teksti	Tarkistus
2. Suuririskisten tekoälyjärjestelmien, jotka on sertifioitu tai joista on annettu vaatimustenmukaisuusilmoitus Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/88163 mukaisessa kyberturvallisuusjärjestelmässä ja joiden viitetiedot on julkaistu Euroopan unionin virallisessa lehdessä, oletetaan täyttävän tämän asetuksen 15 artiklassa vahvistetut kyberturvallisuusvaatimukset siltä osin kuin kyberturvallisuussertifikaatti tai vaatimustenmukaisuusilmoitus tai niiden osat kattavat kyseiset vaatimukset.	2. Suuririskisten tekoälyjärjestelmien, jotka on sertifioitu tai joista on annettu vaatimustenmukaisuusilmoitus Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/88163 mukaisessa kyberturvallisuusjärjestelmässä ja joiden viitetiedot on julkaistu Euroopan unionin virallisessa lehdessä, oletetaan täyttävän tämän asetuksen 15 artiklassa vahvistetut kyberturvallisuusvaatimukset tapauksen mukaan siltä osin kuin kyberturvallisuussertifikaatti tai vaatimustenmukaisuusilmoitus tai niiden osat kattavat kyseiset vaatimukset.
__________________	__________________
63 Euroopan parlamentin ja neuvoston asetus (EU) 2019/881, annettu 17 päivänä huhtikuuta 2019, Euroopan unionin kyberturvallisuusvirasto ENISAsta ja tieto- ja viestintätekniikan kyberturvallisuussertifioinnista sekä asetuksen (EU) N:o 526/2013 kumoamisesta (kyberturvallisuusasetus) (EUVL L 151, 7.6.2019, s. 1).	63 Euroopan parlamentin ja neuvoston asetus (EU) 2019/881, annettu 17 päivänä huhtikuuta 2019, Euroopan unionin kyberturvallisuusvirasto ENISAsta ja tieto- ja viestintätekniikan kyberturvallisuussertifioinnista sekä asetuksen (EU) N:o 526/2013 kumoamisesta (kyberturvallisuusasetus) (EUVL L 151, 7.6.2019, s. 1).

Tarkistus  63

 

Ehdotus asetukseksi

43 artikla – 1 kohta – 1 a alakohta (uusi)

Komission teksti	Tarkistus
	Jos tarjoajalla on vakiintunut sisäinen organisaatio ja rakenteet vaadittavien vaatimustenmukaisuuden arviointien suorittamiseksi tai muiden voimassa olevien sääntöjen mukaisten vaatimusten täyttämiseksi, tarjoaja voi käyttää kyseisiä vaatimustenmukaisuusrakenteitaan tai niiden osia edellyttäen, että niillä on myös tarvittavat valmiudet ja pätevyys tässä asetuksessa vahvistettujen tuotevaatimusten täyttämiseksi.

Tarkistus  64

 

Ehdotus asetukseksi

43 artikla – 5 kohta

Komission teksti	Tarkistus
5. Siirretään komissiolle valta antaa delegoituja säädöksiä 73 artiklan mukaisesti liitteiden VI ja VII saattamiseksi ajan tasalle, jotta voidaan ottaa käyttöön vaatimustenmukaisuuden arviointimenettelyjen osia, jotka ovat tarpeen tekniikan kehityksen huomioon ottamiseksi.	5. Siirretään komissiolle valta antaa delegoituja säädöksiä 73 artiklan mukaisesti liitteiden VI ja VII saattamiseksi ajan tasalle, jotta voidaan ottaa käyttöön vaatimustenmukaisuuden arviointimenettelyjen osia, jotka ovat tarpeen tekniikan kehityksen huomioon ottamiseksi. Komissio kuulee 56 artiklalla perustettua Euroopan tekoälyneuvostoa ja kaikkia asiaankuuluvia sidosryhmiä.

Tarkistus  65

 

Ehdotus asetukseksi

43 artikla – 6 kohta

Komission teksti	Tarkistus
6. Siirretään komissiolle valta antaa delegoituja säädöksiä 1 ja 2 kohdan muuttamiseksi, jotta liitteessä III olevassa 2–8 kohdassa tarkoitettuihin suuririskisiin tekoälyjärjestelmiin voidaan soveltaa liitteessä VII tarkoitettua vaatimustenmukaisuuden arviointimenettelyä tai sen osia. Komissio ottaa tällaisia delegoituja säädöksiä hyväksyessään huomioon liitteessä VI tarkoitetun sisäiseen valvontaan perustuvan vaatimustenmukaisuuden arviointimenettelyn tehokkuuden tällaisista järjestelmistä terveydelle ja turvallisuudelle sekä perusoikeuksien suojelulle aiheutuvien riskien ehkäisemisessä tai minimoimisessa sekä riittävien valmiuksien ja resurssien saatavuuden ilmoitetuissa laitoksissa.	6. Siirretään komissiolle valta antaa delegoituja säädöksiä 1 ja 2 kohdan muuttamiseksi, jotta liitteessä III olevassa 2–8 kohdassa tarkoitettuihin suuririskisiin tekoälyjärjestelmiin voidaan soveltaa liitteessä VII tarkoitettua vaatimustenmukaisuuden arviointimenettelyä tai sen osia. Komissio ottaa tällaisia delegoituja säädöksiä hyväksyessään huomioon liitteessä VI tarkoitetun sisäiseen valvontaan perustuvan vaatimustenmukaisuuden arviointimenettelyn tehokkuuden tällaisista järjestelmistä terveydelle ja turvallisuudelle sekä perusoikeuksien suojelulle aiheutuvien riskien ehkäisemisessä tai minimoimisessa sekä riittävien valmiuksien ja resurssien saatavuuden ilmoitetuissa laitoksissa. Komissio kuulee 56 artiklalla perustettua Euroopan tekoälyneuvostoa ja kaikkia asiaankuuluvia sidosryhmiä.

Tarkistus  66

 

Ehdotus asetukseksi

44 artikla – 1 kohta

Komission teksti	Tarkistus
1. Ilmoitettujen laitosten liitteen VII mukaisesti antamien todistusten on oltava laadittu sen jäsenvaltion määrittelemällä unionin virallisella kielellä, johon ilmoitettu laitos on sijoittautunut, tai ilmoitetun laitoksen muutoin hyväksymällä unionin virallisella kielellä.	1. Ilmoitettujen laitosten liitteen VII mukaisesti antamien todistusten on oltava laadittu sen jäsenvaltion määrittelemällä yhdellä tai useammalla virallisella kielellä, johon ilmoitettu laitos on sijoittautunut, tai ilmoitetun laitoksen muutoin hyväksymällä yhdellä tai useammalla virallisella kielellä.

Tarkistus  67

 

Ehdotus asetukseksi

48 artikla – 1 kohta

Komission teksti	Tarkistus
1. Tarjoajan on laadittava kirjallinen EU-vaatimustenmukaisuusvakuutus kullekin tekoälyjärjestelmälle ja pidettävä se kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun tekoälyjärjestelmä on saatettu markkinoille tai otettu käyttöön. EU-vaatimustenmukaisuusvakuutuksessa on yksilöitävä tekoälyjärjestelmä, jota varten se on laadittu. Jäljennös EU-vaatimustenmukaisuusvakuutuksesta on pyynnöstä annettava asiaankuuluville kansallisille toimivaltaisille viranomaisille.	1. Tarjoajan on laadittava kirjallinen EU-vaatimustenmukaisuusvakuutus kullekin tekoälyjärjestelmälle ja pidettävä se kansallisten toimivaltaisten viranomaisten saatavilla kymmenen vuoden ajan sen jälkeen, kun tekoälyjärjestelmä on saatettu markkinoille tai otettu käyttöön. EU-vaatimustenmukaisuusvakuutuksessa on yksilöitävä tekoälyjärjestelmä, jota varten se on laadittu. Jäljennös EU-vaatimustenmukaisuusvakuutuksesta on annettava sen jäsenvaltion asiaankuuluvalle kansalliselle toimivaltaiselle viranomaiselle, jossa tarjoajalla on päätoimipaikka, asianomaisen toimivaltaisen viranomaisen pyynnöstä.

Tarkistus  68

 

Ehdotus asetukseksi

51 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	Suuririskinen tekoälyjärjestelmä, joka on suunniteltu, kehitetty, koulutettu, validoitu, testattu tai hyväksytty markkinoille saattamista tai käyttöönottoa varten unionin ulkopuolella, voidaan rekisteröidä 60 artiklassa tarkoitettuun EU:n tietokantaan ja saattaa markkinoille tai ottaa käyttöön unionissa vain, jos on osoitettu, että kaikki tällaisille tekoälyjärjestelmille unionissa asetetut velvoitteet on täytetty kaikissa järjestelmän suunnittelun, kehittämisen, kouluttamisen, validoinnin tai hyväksymisen vaiheissa.

Tarkistus  69

 

Ehdotus asetukseksi

51 artikla – 1 b kohta (uusi)

Komission teksti	Tarkistus
	Ennen 6 artiklan 2 kohdassa tarkoitetun suuririskisen tekoälyjärjestelmän käyttöä käyttäjän tai tarvittaessa valtuutetun edustajan on rekisteröitävä kyseisen järjestelmän käyttötarkoitukset 60 artiklassa tarkoitettuun EU:n tietokantaan. Käyttäjän on rekisteröitävä tietokantaan tekoälyjärjestelmän jokainen uusi suuririskinen käyttötarkoitus.

Tarkistus  70

 

Ehdotus asetukseksi

53 artikla – 1 kohta

Komission teksti	Tarkistus
1. Yhden tai useamman jäsenvaltion toimivaltaisten viranomaisten tai Euroopan tietosuojavaltuutetun perustamien tekoälyn sääntelyn testiympäristöjen on tarjottava valvottu ympäristö, joka helpottaa innovatiivisten tekoälyjärjestelmien kehittämistä, testausta ja validointia rajoitetun ajan ennen kuin ne saatetaan markkinoille tai otetaan käyttöön tietyn suunnitelman mukaisesti. Tämän on tapahduttava toimivaltaisten viranomaisten suorassa valvonnassa ja ohjauksessa, jotta voidaan varmistaa tämän asetuksen ja tarvittaessa muun testiympäristössä valvotun unionin ja jäsenvaltioiden lainsäädännön noudattaminen.	1. Yhden tai useamman jäsenvaltion toimivaltaisten viranomaisten yhteistyössä komission tai Euroopan tietosuojavaltuutetun kanssa perustamien tekoälyn sääntelyn testiympäristöjen on tarjottava valvottu ympäristö, joka helpottaa innovatiivisten tekoälyjärjestelmien turvallista kehittämistä, testausta ja validointia rajoitetun ajan ennen kuin ne saatetaan markkinoille tai otetaan käyttöön tietyn suunnitelman mukaisesti; sääntelyn testiympäristöihin voidaan ottaa kumppaneina mukaan pk-yrityksiä, startup-yrityksiä, yhtiöitä, innovoijia tai muita asiaankuuluvia toimijoita. Tämän on tapahduttava komission suorassa valvonnassa ja ohjauksessa yhteistyössä toimivaltaisten viranomaisten kanssa, jotta voidaan tunnistaa erityisesti terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvat riskit ja varmistaa tämän asetuksen ja tarvittaessa muun testiympäristössä valvotun unionin ja jäsenvaltioiden lainsäädännön noudattaminen. Komissio toimii täydentävässä tehtävässä antaen niille jäsenvaltioille, joilla on todistettavasti kokemusta testiympäristöjen käytöstä, mahdollisuuden hyödyntää asiantuntemustaan ja toisaalta avustaen ja tarjoten teknistä tietämystä ja resursseja niille jäsenvaltioille, jotka pyytävät ohjeistusta sääntelyn testiympäristöjen perustamista ja hallinnointia varten.

Tarkistus  71

 

Ehdotus asetukseksi

53 artikla – 2 kohta

Komission teksti	Tarkistus
2. Jäsenvaltioiden on varmistettava, että siltä osin kuin innovatiivisiin tekoälyjärjestelmiin liittyy henkilötietojen käsittelyä tai ne muutoin kuuluvat muiden dataan pääsyä tarjoavien tai sitä tukevien kansallisten viranomaisten tai toimivaltaisten viranomaisten valvonnan piiriin, kansalliset tietosuojaviranomaiset ja kyseiset muut kansalliset viranomaiset ovat mukana tekoälyn sääntelyn testiympäristön toiminnassa.	2. Jäsenvaltioiden on varmistettava yhteistyössä komission kanssa, että siltä osin kuin innovatiivisiin tekoälyjärjestelmiin liittyy henkilötietojen käsittelyä tai ne muutoin kuuluvat muiden dataan pääsyä tarjoavien tai sitä tukevien kansallisten viranomaisten tai toimivaltaisten viranomaisten valvonnan piiriin, kansalliset tietosuojaviranomaiset ja kyseiset muut kansalliset viranomaiset ovat mukana tekoälyn sääntelyn testiympäristön toiminnassa.

Tarkistus  72

 

Ehdotus asetukseksi

53 artikla – 3 kohta

Komission teksti	Tarkistus
3. Tekoälyn sääntelyn testiympäristöt eivät saa vaikuttaa toimivaltaisten viranomaisten valvonta- ja korjaaviin valtuuksiin. Tällaisten järjestelmien kehittämisen ja testauksen aikana havaittuja terveyteen ja turvallisuuteen sekä perusoikeuksiin kohdistuvia merkittäviä riskejä on vähennettävä välittömästi, ja jos tämä ei onnistu, kehittämis- ja testausprosessi on keskeytettävä, kunnes riskejä voidaan vähentää.	3. Tekoälyn sääntelyn testiympäristöt eivät saa vaikuttaa toimivaltaisten viranomaisten valvonta- ja korjaaviin valtuuksiin, myöskään alueellisella tai paikallisella tasolla. Tekoälyjärjestelmien kehittämisen ja testauksen aikana havaittuja terveyteen, turvallisuuteen, perusoikeuksiin, demokratiaan tai ympäristöön kohdistuvia merkittäviä riskejä on vähennettävä välittömästi, ja jos tämä ei onnistu, kehittämis- ja testausprosessi on keskeytettävä, kunnes riskejä voidaan vähentää.

Tarkistus  73

 

Ehdotus asetukseksi

53 artikla – 5 kohta

Komission teksti	Tarkistus
5. Jäsenvaltioiden toimivaltaisten viranomaisten, jotka ovat perustaneet tekoälyn sääntelyn testiympäristöjä, on koordinoitava toimintaansa ja tehtävä yhteistyötä Euroopan tekoälyneuvoston puitteissa. Niiden on toimitettava tekoälyneuvostolle ja komissiolle vuosittain raportit näiden järjestelmien käytön tuloksista, mukaan lukien järjestelmien rakennetta koskevat hyvät käytännöt, saadut kokemukset ja suositukset, ja tarvittaessa tämän asetuksen ja muun testiympäristössä valvotun unionin lainsäädännön soveltamisesta.	5. Jäsenvaltioiden toimivaltaisten viranomaisten on koordinoitava toimintaansa komission kanssa tekoälyn sääntelyn testiympäristöjen osalta ja tehtävä yhteistyötä Euroopan tekoälyneuvoston puitteissa. Komissio toimittaa tekoälyneuvostolle vuosittain raportteja näiden järjestelmien käytön tuloksista, mukaan lukien järjestelmien rakennetta koskevat parhaat käytännöt, laskennan energiankulutus ja energiatehokkuus, saadut kokemukset ja suositukset, ja tarvittaessa tämän asetuksen ja muun testiympäristössä valvotun unionin lainsäädännön soveltamisesta. Pk-yrityksiä, startup-yrityksiä, yhtiöitä ja muita innovoijia kehotetaan jakamaan tekoälyn testiympäristöjä koskevat hyvät käytäntönsä, kokemuksensa ja suosituksensa jäsenvaltioiden toimivaltaisten viranomaisten kanssa.

Tarkistus  74

 

Ehdotus asetukseksi

53 artikla – 6 a kohta (uusi)

Komission teksti	Tarkistus
	6 a. Komissio perustaa tekoälyn sääntelyn testiympäristöjä koskevan EU:n työohjelman, jota koskeviin 53 artiklan 6 kohdassa tarkoitettuihin yksityiskohtaisiin sääntöihin sisältyvät liitteessä IX a esitetyt osatekijät. Komissio koordinoi toimia ennakoivasti tapauksen mukaan kansallisten ja paikallisten viranomaisten kanssa.

Tarkistus  75

 

Ehdotus asetukseksi

55 artikla – otsikko

Komission teksti	Tarkistus
Pieniä tarjoajia ja käyttäjiä koskevat toimenpiteet	Pk-yrityksiä, startup-yrityksiä ja käyttäjiä koskevat toimenpiteet

Tarkistus  76

 

Ehdotus asetukseksi

55 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) annettava pienille tarjoajille ja startup-yrityksille ensisijainen pääsy tekoälyn sääntelyn testiympäristöihin, jos ne täyttävät kelpoisuusehdot;	(a) annettava unioniin sijoittautuneille pk-yrityksille ja startup-yrityksille ensisijainen pääsy tekoälyn sääntelyn testiympäristöihin, jos ne täyttävät kelpoisuusehdot;

Tarkistus  77

 

Ehdotus asetukseksi

55 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) järjestettävä tämän asetuksen soveltamista koskevia erityisiä tiedotustoimia, jotka on räätälöity pienten tarjoajien ja käyttäjien tarpeisiin;	(b) järjestettävä tämän asetuksen soveltamista koskevia erityisiä tiedotustoimia ja tehokkaita digitaitojen kehittämistoimia, jotka on räätälöity pk-yritysten, startup-yritysten ja käyttäjien tarpeisiin;

Tarkistus  78

 

Ehdotus asetukseksi

55 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
(c) perustettava tarvittaessa erityinen viestintäkanava pieniä tarjoajia ja käyttäjiä ja muita innovoijia varten tämän asetuksen täytäntöönpanoa koskevan ohjeistuksen antamiseksi ja sitä koskeviin kysymyksiin vastaamiseksi.	(c) käytettävä olemassa olevia erityiskanavia ja perustettava tarvittaessa uusia erityiskanavia viestintään pk-yritysten, startup-yritysten, käyttäjien ja muiden innovoijien kanssa tämän asetuksen täytäntöönpanoa koskevan ohjeistuksen antamiseksi ja sitä koskeviin kysymyksiin vastaamiseksi;

Tarkistus  79

 

Ehdotus asetukseksi

55 artikla –1 kohta – c a alakohta (uusi)

Komission teksti	Tarkistus
	(c a) edistettävä pk-yritysten ja muiden asiaankuuluvien sidosryhmien osallistumista standardien kehittämiseen.

Tarkistus  80

 

Ehdotus asetukseksi

55 artikla – 2 kohta

Komission teksti	Tarkistus
2. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon 43 artiklan mukaisesta vaatimustenmukaisuuden arvioinnista perittäviä maksuja vahvistettaessa alentamalla näitä maksuja suhteessa tarjoajien kokoon ja markkinoiden kokoon.	2. Pk-yritysten, startup-yritysten ja käyttäjien erityisedut ja -tarpeet on otettava huomioon 43 artiklan mukaisesta vaatimustenmukaisuuden arvioinnista perittäviä maksuja vahvistettaessa alentamalla näitä maksuja suhteessa kehitysvaiheeseen, toimijoiden kokoon, markkinoiden kokoon ja markkinoiden kysyntään. Komissio arvioi säännöllisesti sertifioinnista ja vaatimusten noudattamisesta pk-yrityksille ja startup-yrityksille aiheutuvia kustannuksia muun muassa kuulemalla avoimesti pk-yrityksiä, startup-yrityksiä ja käyttäjiä, ja tekee yhteistyötä jäsenvaltioiden kanssa tällaisten kustannusten alentamiseksi mahdollisuuksien mukaan. Komissio raportoi näistä havainnoista Euroopan parlamentille ja neuvostolle osana 84 artiklan 2 kohdassa säädettyä tämän asetuksen arviointi- ja uudelleentarkasteluraporttia.

Tarkistus  81

 

Ehdotus asetukseksi

57 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Tekoälyneuvosto perustaa tekoälyalan neuvoa-antavan toimikunnan, jäljempänä ’neuvoa-antava toimikunta’. Neuvoa-antava toimikunta koostuu teollisuuden, tutkimuksen, tiedemaailman, kansalaisyhteiskunnan, standardointiorganisaatioiden ja muiden asiaankuuluvien sidosryhmien tai kolmansien osapuolten edustajista, jotka tekoälyneuvosto nimittää ja joita on kaikista jäsenvaltioista maantieteellisen tasapainon säilyttämiseksi. Neuvoa-antava toimikunta tukee tekoälyneuvoston työtä antamalla tekoälyneuvoston tehtäviin liittyviä neuvoja. Neuvoa-antava toimikunta nimeää asiaankuuluvan edustajan sen mukaan, missä kokoonpanossa tekoälyneuvosto kokoontuu, osallistumaan tekoälyneuvoston kokouksiin ja sen työskentelyyn. Neuvoa-antavan toimikunnan kokoonpano ja sen tekoälyneuvostolle antamat suositukset julkistetaan.

Tarkistus  82

 

Ehdotus asetukseksi

Liite I – c kohta

Komission teksti	Tarkistus
(c) Tilastolliset lähestymistavat, Bayes-estimointi, haku- ja optimointimenetelmät.	(c) Tilastolliset lähestymistavat oppimiseen ja tilastollinen päättely, Bayes-estimointi, haku- ja optimointimenetelmät.

Tarkistus  83

 

Ehdotus asetukseksi

Liite IX a (uusi)

Komission teksti	Tarkistus
	LIITE IX a
	Tekoälyn sääntelyn testiympäristöjä koskevan EU:n työohjelman yksityiskohtaiset säännöt
	1.  Tekoälyn sääntelyn testiympäristöt ovat osa tekoälyn sääntelyn testiympäristöjä koskevaa EU:n työohjelmaa, jäljempänä ’testiympäristöohjelma’, jonka komissio perustaa yhteistyössä jäsenvaltioiden kanssa.
	2.  Komissio toimii täydentävässä tehtävässä antaen niille jäsenvaltioille, joilla on todistettavasti kokemusta testiympäristöjen käytöstä, mahdollisuuden hyödyntää asiantuntemustaan ja asiaankuuluvien teollisuuden, pk-yritysten, tiedemaailman ja kansalaisyhteiskunnan sidosryhmien asiantuntemusta ja toisaalta avustaen ja tarjoten teknistä tietämystä ja resursseja niille jäsenvaltioille, jotka pyytävät ohjeistusta sääntelyn testiympäristöjen perustamista varten.
	3.  Sääntelyn testiympäristön käyttöoikeutta koskevien perusteiden on oltava läpinäkyviä ja kilpailullisia.
	4.  Testiympäristöohjelman osallistujat, erityisesti pienet tarjoajat, saavat mahdollisuuden käyttää käyttöönottoa edeltäviä palveluja, joita ovat esimerkiksi tekoälyjärjestelmän ennakkorekisteröinti ja vaatimustenmukaisuutta koskevan tutkimus- ja kehitystoiminnan tukipalvelut, ja hyödyntää kaikkia muita unionin tekoälyekosysteemin ja muiden digitaalisia sisämarkkinoita koskevien aloitteiden asiaankuuluvia osia, kuten testaus- ja kokeilulaitoksia, digitaalikeskittymiä, huippuyksiköitä ja EU:n vertailuanalyysivalmiuksia, sekä käyttää muita lisäarvoa tuottavia palveluja, kuten standardointiasiakirjoja ja sertifiointia, kuulemista ja tukea tekoälyjärjestelmien perusoikeuksiin, ympäristöön tai yleensä yhteiskuntaa kohdistuvien vaikutusten arvioimiseksi, yhteisöä varten perustettua sosiaalista verkkoalustaa, yhteystietokantoja, olemassa olevaa tarjouskilpailu- ja rahoitusportaalia sekä luetteloa EU:n sijoittajista.
	5.  Testiympäristöohjelman myöhemmässä kehitysvaiheessa on tarkoitus auttaa jäsenvaltioita kehittämään ja hallinnoimaan kahdentyyppisiä sääntelyn testiympäristöjä: sääntelyn fyysiset testiympäristöt, joissa testataan tuotteisiin tai palveluihin fyysisesti integroituja tekoälyjärjestelmiä, ja sääntelyn kybertestiympäristöt, joissa testataan erillisiä tekoälyjärjestelmiä, jotka toimivat ja joita käytetään itsenäisesti eikä tuotteiden tai palvelujen fyysisenä osana.
	6.  Testiympäristöohjelmassa tehdään yhteistyötä jäsenvaltioissa jo perustettujen digitaali-innovointikeskittymien kanssa, jotta voidaan tarjota yrittäjille erityinen asiointipiste, jolle esittää toimivaltaisille viranomaisille tarkoitettuja tiedusteluja ja jolta pyytää ei-sitovaa ohjeistusta tekoälyteknologiaa sisältävien innovatiivisten tuotteiden, palvelujen tai liiketoimintamallien vaatimustenmukaisuudesta.
	7.  Yksi testiympäristöohjelman tavoitteista on auttaa yrityksiä varmistamaan tämän asetuksen noudattaminen jo tekoälyjärjestelmän suunnitteluvaiheessa (sisäänrakennettu vaatimustenmukaisuus). Tätä varten ohjelmalla on helpotettava ohjelmistotyökalujen ja infrastruktuurin kehittämistä tekoälyjärjestelmien testiympäristöjen kannalta merkityksellisten näkökohtien, kuten tarkkuuden, luotettavuuden ja kyberturvallisuuden testaamista, vertailuanalyysia, arviointia ja selittämistä varten sekä perusoikeuksiin, ympäristöön ja yleensä yhteiskuntaan kohdistuvien riskien minimoimiseksi.
	8.  Testiympäristöohjelma otetaan käyttöön vaiheittain niin, että komissio käynnistää kunkin vaiheen, kun edellinen vaihe on saatu onnistuneesti päätökseen.
	9.  Testiympäristöohjelmaan kuuluu erottamattomasti vaikutustenarviointimenettely, jolla helpotetaan kustannustehokkuuden tarkistamista suhteessa sovittuihin tavoitteisiin. Vaikutustenarvioinnissa otetaan huomioon jäsenvaltioiden kokemusperäiset näkemykset, ja se sisällytetään osaksi vuosittaista raporttia, jonka komissio toimittaa Euroopan tekoälyneuvostolle.

 

ASIAN KÄSITTELY
LAUSUNNON ANTAVASSA VALIOKUNNASSA

Otsikko	Tekoälyä koskevat yhdenmukaistetut säännöt (tekoälysäädös) ja tiettyjen unionin säädösten muuttaminen
Viiteasiakirjat	COM(2021)0206 – C9-0146/2021 – 2021/0106(COD)
Asiasta vastaava valiokunta (valiokunnat)  Ilmoitettu istunnossa (pvä)	IMCO 7.6.2021	LIBE 7.6.2021
Lausunnon antanut valiokunta  Ilmoitettu istunnossa (pvä)	ITRE 7.6.2021
Yhteistyöhön osallistuvat valiokunnat - ilmoitettu istunnossa (pvä)	16.12.2021
Valmistelija  Nimitetty (pvä)	Eva Maydell 11.1.2022
58 artikla - Valiokuntien yhteiskokousmenettely  Ilmoitettu istunnossa (pvä)	16.12.2021
Valiokuntakäsittely	21.3.2022
Lopullisessa äänestyksessä läsnä olleet jäsenet	François-Xavier Bellamy, Hildegard Bentele, Tom Berendsen, Vasile Blaga, Michael Bloss, Marc Botenga, Cristian-Silviu Buşoi, Jerzy Buzek, Maria da Graça Carvalho, Ignazio Corrao, Ciarán Cuffe, Nicola Danti, Pilar del Castillo Vera, Martina Dlabajová, Christian Ehler, Niels Fuglsang, Lina Gálvez Muñoz, Jens Geier, Nicolás González Casares, Christophe Grudler, Henrike Hahn, Robert Hajšel, Ivars Ijabs, Romana Jerković, Seán Kelly, Łukasz Kohut, Zdzisław Krasnodębski, Andrius Kubilius, Thierry Mariani, Marisa Matias, Eva Maydell, Iskra Mihaylova, Dan Nica, Angelika Niebler, Niklas Nienaß, Mauri Pekkarinen, Mikuláš Peksa, Tsvetelina Penkova, Morten Petersen, Pina Picierno, Clara Ponsatí Obiols, Manuela Ripa, Robert Roos, Sara Skyttedal, Maria Spyraki, Patrizia Toia, Pernille Weiss, Carlos Zorrinho
Lopullisessa äänestyksessä läsnä olleet varajäsenet	Franc Bogovič, Andrea Caroppo, Jakop G. Dalunde, Jens Gieseke, Klemen Grošelj, Elena Kountoura, Marian-Jean Marinescu, Dace Melbārde, Dominique Riquet, Rob Rooken, Susana Solís Pérez
Lopullisessa äänestyksessä läsnä olleet sijaiset (209 art. 7 kohta)	Alessandra Basso, Bas Eickhout, Carlo Fidanza, Rob Rooken

 

LOPULLINEN ÄÄNESTYS NIMENHUUTOÄÄNESTYKSENÄ
LAUSUNNON ANTAVASSA VALIOKUNNASSA

61	+
ECR	Carlo Fidanza, Zdzisław Krasnodębski, Dace Melbārde, Rob Rooken, Robert Roos
ID	Alessandra Basso, Thierry Mariani
NI	Clara Ponsatí Obiols
PPE	François-Xavier Bellamy, Hildegard Bentele, Tom Berendsen, Vasile Blaga, Franc Bogovič, Cristian-Silviu Buşoi, Jerzy Buzek, Andrea Caroppo, Maria da Graça Carvalho, Pilar del Castillo Vera, Christian Ehler, Jens Gieseke, Seán Kelly, Andrius Kubilius, Marian-Jean Marinescu, Eva Maydell, Angelika Niebler, Sara Skyttedal, Maria Spyraki, Pernille Weiss
RENEW	Nicola Danti, Martina Dlabajová, Klemen Grošelj, Christophe Grudler, Ivars Ijabs, Iskra Mihaylova, Mauri Pekkarinen, Morten Petersen, Dominique Riquet, Susana Solís Pérez
S&D	Niels Fuglsang, Lina Gálvez Muñoz, Jens Geier, Nicolás González Casares, Robert Hajšel, Ivo Hristov, Romana Jerković, Łukasz Kohut, Dan Nica, Tsvetelina Penkova, Pina Picierno, Patrizia Toia, Carlos Zorrinho
THE LEFT	Elena Kountoura
VERTS/ALE	Michael Bloss, Ignazio Corrao, Ciarán Cuffe, Jakop G. Dalunde, Bas Eickhout, Henrike Hahn, Niklas Nienaß, Mikuláš Peksa, Manuela Ripa

 

2	-
THE LEFT	Marc Botenga, Marisa Matias

 

0	0

 

Symbolien selitys:

+ : puolesta

- : vastaan

0 : tyhjää

 

 

 

KULTTUURI- JA KOULUTUSVALIOKUNNAN LAUSUNTO (16.6.2022)

sisämarkkina- ja kuluttajansuojavaliokunnalle ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunnalle

ehdotuksesta Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta

(COM(2021)0206 – C9‑0146/2021 – 2021/0106(COD))

Valmistelija (*): Marcel Kolaja

(*) Valiokuntien yhteistyömenettely – työjärjestyksen 57 artikla

 

 

LYHYET PERUSTELUT

Komissio julkaisi 24. huhtikuuta 2021 lainsäädäntöehdotuksensa tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös). Sillä otetaan käyttöön sääntelykehys, jonka tavoitteena on varmistaa, että Euroopan unionin markkinoille saatetut tekoälyjärjestelmät ovat turvallisia käyttää ja noudattavat perusoikeuksia ja Euroopan unionin arvoja.

Lisäksi ehdotuksella helpotetaan sisämarkkinoiden luomista laillisille, turvallisille ja luotettaville tekoälysovelluksille, parannetaan tekoälyjärjestelmiin sovellettavan perusoikeuksia ja turvallisuusvaatimuksia koskevan voimassa olevan lainsäädännön hallinnointia ja tehokasta täytäntöönpanoa sekä varmistetaan oikeusvarmuus tekoälyyn tehtävien investointien ja innovoinnin helpottamiseksi.

Valmistelija suhtautuu yleisesti ottaen myönteisesti komission ehdotukseen. Hän haluaisi kuitenkin ehdottaa muutamia tarkistuksia, joilla etenkin laajennetaan liitteessä III olevaa suuririskisten tekoälyjärjestelmien luetteloa koulutuksen, tiedotusvälineiden ja kulttuurin aloilla ja muutetaan tiettyjä 5 artiklassa esitettyjä kiellettyjä käytäntöjä koskevia säännöksiä.

Valmistelija pohtii erityisesti tekoälyteknologian lisääntyvää käyttöönottoa oppilaitoksissa. Hän ehdottaakin, että suuririskisten teknologioiden joukkoon luettaisiin myös ne tekoälyteknologiat, joita käytetään opiskelijoiden seurantaan kokeiden aikana, ja teknologiat, joita käytetään määrittämään aihealue tai opintosuunta, jota opiskelijan olisi opiskeltava. Tiedotusvälineiden ja kulttuurin osalta valmistelija ehdottaa, että luetteloidaan suuririskiset tekoälyteknologiat, joita käytetään luomaan tai levittämään koneellisesti tuotettuja uutisartikkeleita, joita uutismediat käyttävät, ja tekoälyteknologiat, joita käytetään audiovisuaalisen sisällön suosittelemiseen tai järjestyksen määrittelyyn.

Lisäksi valmistelija ehdottaa, että sosiaalisten pisteytysjärjestelmien käyttökielto ulotetaan koskemaan myös julkisten ja yksityisten tahojen toteuttamaa käyttöä, kun otetaan huomioon, että tähän liittyy tiettyjen ryhmien tai henkilöiden syrjintää ja syrjäytymistä koskeva olennainen riski.

Koska biometristen etätunnistusjärjestelmien käyttöönotto julkisissa tiloissa vaarantaa kansalaisten perusoikeudet ja kokoontumisvapauden sekä tutkivien journalistien, aktivistien ja poliittisten edustajien työn, valmistelija ehdottaa tällaisten teknologioiden käytön kieltämistä julkisissa tiloissa sen perusteella, mitä parlamentti totesi tekoälystä rikosoikeudessa ja sen käytöstä poliisi- ja oikeusviranomaisten suorittamassa rikosasioiden käsittelyssä 6. lokakuuta 2021 antamassaan päätöslauselmassa.

TARKISTUKSET

Kulttuuri- ja koulutusvaliokunta pyytää asiasta vastaavia sisämarkkina- ja kuluttajansuojavaliokuntaa ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokuntaa ottamaan huomioon seuraavat tarkistukset:

 

Tarkistus  1

 

Ehdotus asetukseksi

Johdanto-osan 1 kappale

Komission teksti	Tarkistus
(1) Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa vahvistamalla yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden ja perusoikeuksien suojelun korkeaan tasoon, ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella.	(1) Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa vahvistamalla eettisiin periaatteisiin perustuva yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle minimoiden ihmisiin kohdistuva haitallinen tai syrjivä vaikutus ja estämättä innovointia. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden, perusoikeuksien, demokratian, oikeusvaltion ja ympäristön suojelun korkeaan tasoon, ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella.

Tarkistus  2

 

Ehdotus asetukseksi

Johdanto-osan 2 kappale

Komission teksti	Tarkistus
(2) Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti. Siltä osin kuin tämä asetus sisältää yksilöiden suojelua henkilötietojen käsittelyssä koskevia erityissääntöjä, joilla rajoitetaan tekoälyjärjestelmien käyttöä reaaliaikaista biometristä etätunnistusta varten julkisissa tiloissa lainvalvontatarkoituksessa, tämä asetus on aiheellista perustaa kyseisten erityissääntöjen osalta SEUT-sopimuksen 16 artiklaan. Kun otetaan huomioon nämä erityissäännöt ja SEUT-sopimuksen 16 artiklan käyttö, on aiheellista kuulla Euroopan tietosuojaneuvostoa.	(2) Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on luotettavaa ja turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa luotettavan tekoälyn saavuttamiseksi ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta, innovointia ja käyttöönottoa sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti. Siltä osin kuin tämä asetus sisältää yksilöiden suojelua henkilötietojen käsittelyssä koskevia erityissääntöjä, joilla rajoitetaan tekoälyjärjestelmien käyttöä reaaliaikaista biometristä etätunnistusta varten julkisissa tiloissa lainvalvontatarkoituksessa, tämä asetus on aiheellista perustaa kyseisten erityissääntöjen osalta SEUT-sopimuksen 16 artiklaan. Kun otetaan huomioon nämä erityissäännöt ja SEUT-sopimuksen 16 artiklan käyttö, on aiheellista kuulla Euroopan tietosuojaneuvostoa.

Tarkistus  3

 

Ehdotus asetukseksi

Johdanto-osan 3 kappale

Komission teksti	Tarkistus
(3) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa monenlaisia taloudellisia ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa. Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, koulutuksen, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan, julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja.	(3) Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa ja tuottaakin jo monenlaisia taloudellisia ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa, jos sitä kehitetään eettisten periaatteiden mukaisesti. Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, koulutuksen, tiedotusvälineiden, urheilun, kulttuurin, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan, julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja.

Tarkistus  4

 

Ehdotus asetukseksi

Johdanto-osan 4 kappale

Komission teksti	Tarkistus
(4) Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä etuja ja oikeuksia. Tällainen vahinko voi olla aineellista tai aineetonta.	(4) Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä etuja ja oikeuksia, kuten työntekijöiden, oppimisprosesseissa olevien ja yhteiskuntaelämään aktiivisesti osallistuvien ihmisten perusoikeuksia, yksityisyyden, tietosuojan, tiedollisen itsemääräämisoikeuden sekä yhteiskunnallisia ja ympäristöön liittyviä oikeuksia. Tällainen vahinko voi olla aineellista tai aineetonta.

Tarkistus  5

 

Ehdotus asetukseksi

Johdanto-osan 5 kappale

Komission teksti	Tarkistus
(5) Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen suojelun, kuten terveyden ja turvallisuuden sekä perusoikeuksien suojelun, korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista ja käyttöönottoa ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Vahvistamalla kyseiset säännöt tällä asetuksella tuetaan Eurooppa-neuvoston33 asettamaa tavoitetta, jonka mukaan unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt34.	(5) Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen suojelun, kuten terveyden, turvallisuuden, perusoikeuksien, demokratian, oikeusvaltion ja ympäristön suojelun, korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista ja käyttöönottoa ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Vahvistamalla kyseiset säännöt tällä asetuksella tuetaan Eurooppa-neuvoston33 asettamaa tavoitetta, jonka mukaan unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä perusoikeuksien pohjalta, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt34 siten, että käytetään ihmislähtöistä lähestymistapaa ja noudatetaan ilmaisun- ja sananvapautta, tiedotusvälineiden vapautta, moniarvoisuutta ja monimuotoisuutta.
__________________	__________________
33 Eurooppa-neuvosto, Eurooppa-neuvoston ylimääräinen kokous (1.–2.10.2020) – Päätelmät, EUCO 13/20, 2020, s. 6.	33 Eurooppa-neuvosto, Eurooppa-neuvoston ylimääräinen kokous (1.–2.10.2020) – Päätelmät, EUCO 13/20, 2020, s. 6.
34 Euroopan parlamentin päätöslauselma, annettu 20 päivänä lokakuuta 2020, suosituksista komissiolle tekoälyä, robotiikkaa ja niihin liittyvää teknologiaa koskevien eettisten näkökohtien kehyksestä, 2020/2012(INL).	34 Euroopan parlamentin päätöslauselma, annettu 20 päivänä lokakuuta 2020, suosituksista komissiolle tekoälyä, robotiikkaa ja niihin liittyvää teknologiaa koskevien eettisten näkökohtien kehyksestä, 2020/2012(INL).

Tarkistus  6

Ehdotus asetukseksi

Johdanto-osan 5 a kappale (uusi)

Komission teksti	Tarkistus
	(5 a) Jotta voidaan edistää tekoälyn kehittämistä, käyttöönottoa ja ymmärtämistä, unionin on panostettava edelleen koulutukseen ja puututtava siten muun muassa tieto- ja viestintätekniikan ammattilaisten ja tekoälyä koskevien opintokokonaisuuksien sekä digitaidot omaavien työntekijöiden puutteeseen samoin kuin digitaalisten perustaitojen puutteeseen merkittävässä osassa unionin väestöstä.

 

Tarkistus  7

Ehdotus asetukseksi

Johdanto-osan 5 b kappale (uusi)

Komission teksti	Tarkistus
	(5 b) Sekä julkisten että yksityisten investointien puute heikentää tällä hetkellä tekoälyjärjestelmien kehittämistä ja käyttöä kaikkialla unionissa, erityisesti verrattuna muihin suuriin teollisiin talouksiin. Olisi suunniteltava erityisen huomion kiinnittämistä sekä kannustimia ja tukea tekoälyn käyttöönoton edistämiseksi pk-yrityksissä, myös koulutusalalla sekä kulttuurialalla ja luovilla toimialoilla.

Tarkistus  8

 

Ehdotus asetukseksi

Johdanto-osan 9 kappale

Komission teksti	Tarkistus
(9) Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoitettavan mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa. Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita. Käsite ei kata myöskään verkkoympäristöjä, sillä ne eivät ole fyysisiä tiloja. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, myymälät ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet.	(9) Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoitettavan mitä tahansa fyysistä tai virtuaalista paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa. Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita ja muita yksityisiä tiloja. Samaa periaatetta olisi sovellettava suojattuihin virtuaalisiin julkisiin tiloihin. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, puistojen, urheilutilojen kaltaisten julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, myymälät, museot, kirjastot, monumentit, kulttuurikohteet, kulttuurilaitokset ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet.

Tarkistus  9

 

Ehdotus asetukseksi

Johdanto-osan 13 kappale

Komission teksti	Tarkistus
(13) Jotta voidaan varmistaa terveyteen, turvallisuuteen ja perusoikeuksiin liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava yhteiset normit. Näiden normien olisi oltava Euroopan unionin perusoikeuskirjan, jäljempänä ’perusoikeuskirja’, mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa.	(13) Jotta voidaan varmistaa terveyteen, turvallisuuteen, perusoikeuksiin, demokratiaan, oikeusvaltioon sekä ympäristöön liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava eettiset periaatteet ja yhteiset normit. Näiden normien olisi oltava Euroopan unionin perusoikeuskirjan, jäljempänä ’perusoikeuskirja’, komission 11 päivänä joulukuuta 2019 antaman Euroopan vihreän kehityksen ohjelmaa koskevan tiedonannon ja 26 päivänä tammikuuta 2022 annetun digitaalisia oikeuksia ja periaatteita koskevan eurooppalaisen julistuksen digitaalista vuosikymmentä varten mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa.

 

Tarkistus  10

Ehdotus asetukseksi

Johdanto-osan 14 b kappale (uusi)

Komission teksti	Tarkistus
	(14 b) Tekoälylukutaidolla tarkoitetaan osaamista, tietämystä ja ymmärrystä, joiden avulla kansalaiset sekä operaattorit voivat tässä asetuksessa säädettyjen velvoitteiden puitteissa ottaa tietoon perustuen käyttöön ja käyttää tekoälyjärjestelmiä sekä saada tietoa tekoälyn mahdollisuuksista ja riskeistä ja siten edistää sen demokraattista valvontaa. Tekoälylukutaidon ei pitäisi rajoittua ainoastaan välineiden ja teknologioiden oppimiseen, vaan sillä olisi myös pyrittävä tarjoamaan kansalaisille sekä operaattoreille tässä asetuksessa säädettyjen velvoitteiden puitteissa kriittisen ajattelun taitoja, joita tarvitaan haitallisten tai manipuloivien käyttötarkoitusten tunnistamiseen, sekä edistämään heidän toimijuuttaan ja kykyään noudattaa kaikilta osin luotettavaa tekoälyä ja hyötyä siitä. Sen vuoksi on tarpeen, että komissio, jäsenvaltiot sekä tekoälyjärjestelmien operaattorit edistävät yhteistyössä kaikkien asiaankuuluvien sidosryhmien kanssa kaikenikäisten kansalaisten, myös naisten ja tyttöjen, tekoälylukutaidon kehittämistä kaikilla yhteiskunnan aloilla ja että edistymistä tässä asiassa seurataan tiiviisti.

 

Tarkistus  11

 

Ehdotus asetukseksi

Johdanto-osan 15 kappale

Komission teksti	Tarkistus
(15) Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, tietosuoja ja yksityisyyden suoja sekä lapsen oikeudet.	(15) Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, työntekijöiden suoja, tietosuoja ja yksityisyyden suoja, sukupuolten tasa-arvo sekä lapsen oikeudet.

 

Tarkistus  12Ehdotus asetukseksi

Johdanto-osan 27 kappale

Komission teksti	Tarkistus
(27) Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille tai otettava käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä. Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on merkittävä haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on.	(27) Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille tai otettava käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä. Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa sekä yhteiskuntaan ja ympäristöön, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on.

 

Tarkistus  13

Ehdotus asetukseksi

Johdanto-osan 28 kappale

Komission teksti	Tarkistus
(28) Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden komponentteina. Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja. Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, kuluttajansuoja, työntekijöiden oikeudet, vammaisten oikeudet, oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, oikeus puolustukseen ja syyttömyysolettama sekä oikeus hyvään hallintoon. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu EU:n perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvan haitan vakavuutta, myös suhteessa ihmisten terveyteen ja turvallisuuteen.	(28) Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden komponentteina. Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja. Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, sukupuolten tasa-arvo, oikeus koulutukseen, kuluttajansuoja, työntekijöiden oikeudet. Erityistä huomiota olisi kiinnitettävä sukupuolten tasa-arvoon, vammaisten henkilöiden oikeuksiin, oikeuteen tehokkaisiin oikeussuojakeinoihin ja puolueettomaan oikeudenkäyntiin, oikeuteen puolustukseen ja syyttömyysolettamaan, oikeuteen hyvään hallintoon, teollis- ja tekijänoikeuksien suojeluun ja kulttuurisen monimuotoisuuden varmistamiseen. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu EU:n perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvaa haittaa, myös suhteessa ihmisten terveyteen ja turvallisuuteen tai ympäristöön, ottaen huomioon näiden tekoälyjärjestelmien luonnonvarojen hankinnan ja kulutuksen, jätteet ja hiilijalanjäljen.

 

Tarkistus  14

Ehdotus asetukseksi

Johdanto-osan 33 kappale

Komission teksti	Tarkistus
(33) Luonnollisten henkilöiden biometriseen etätunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Sen vuoksi reaaliaikaiset ja jälkikäteiset biometriset etätunnistusjärjestelmät olisi luokiteltava suuririskisiksi. Kun otetaan huomioon niiden aiheuttamat riskit, molempiin biometrisiin etätunnistusjärjestelmiin olisi sovellettava lokitusvalmiuksia ja ihmisen suorittamaa valvontaa koskevia erityisvaatimuksia.	(33) Luonnollisten henkilöiden biometriseen tunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Sen vuoksi reaaliaikaiset ja jälkikäteiset biometriset etätunnistusjärjestelmät olisi luokiteltava suuririskisiksi. Kun otetaan huomioon niiden aiheuttamat riskit, molempiin biometrisiin tunnistusjärjestelmiin olisi sovellettava lokitusvalmiuksia ja ihmisen suorittamaa valvontaa koskevia erityisvaatimuksia. Muut kuin etäpohjaiset biometriset tunnistusjärjestelmät, jotka on tarkoitettu käytettäviksi julkisissa tiloissa, työpaikoilla ja oppilaitoksissa, voivat myös olla suuririskisiä. Sellaisten muiden kuin etäpohjaisten biometristen tunnistusjärjestelmien, jotka on tarkoitettu käytettäviksi julkisissa tiloissa, työpaikoilla ja oppilaitoksissa, suuririskisyys olisi määritettävä tapauskohtaisesti.

 

Tarkistus  15

Ehdotus asetukseksi

Johdanto-osan 34 a kappale (uusi)

Komission teksti	Tarkistus
	(34 a) Tekoälyjärjestelmien käyttöönotto koulutuksessa on ratkaisevan tärkeää, jotta voidaan auttaa nykyaikaistamaan kokonaisia koulutusjärjestelmiä, parantaa koulutuksen laatua sekä verkon ulkopuolella että verkossa ja nopeuttaa digitaalista koulutusta, jolloin se on myös laajemman yleisön saatavilla. Tekoälyavusteinen digitaalinen koulutus ei korvaa lähioppimista mutta on yhä tärkeämpää, jotta voidaan edistää yhteiskunnallista ja taloudellista kasvua sekä osallistavuutta ja parantaa koulutustasoa ja koulutuksen saavutettavuutta yksilöiden kannalta.

 

Tarkistus  16

 

Ehdotus asetukseksi

Johdanto-osan 35 kappale

Komission teksti	Tarkistus
(35) Tekoälyjärjestelmiä, joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä, olisi pidettävä suuririskisinä, koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja niitä käytetään epäasianmukaisesti, ne voivat loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi ja ne voivat jatkaa historiallisia syrjinnän muotoja.	(35) Tekoälyjärjestelmiä, joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä taikka määritettäessä, mikä opintosuunta opiskelijan olisi valittava, olisi pidettävä suuririskisinä, koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja kehitetään ja niitä käytetään epäasianmukaisesti, ne voivat loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi ja ne voivat jatkaa historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmiä, joita käytetään opiskelijoiden käytöksen ja tunnetilojen seuraamiseen oppilaitoksissa suoritettavien kokeiden aikana, olisi pidettävä suuririskisinä, koska ne vaikuttavat myös opiskelijoiden yksityisyyttä ja tietosuojaa koskeviin oikeuksiin. Tekoälyn käyttöä arviointien, kuten kokeissa plagioinnin, tarkastamiseen ei pitäisi katsoa suuririskiseksi.

Tarkistus  17

 

Ehdotus asetukseksi

Johdanto-osan 36 kappale

Komission teksti	Tarkistus
(36) Tekoälyjärjestelmät, joita käytetään työllistämisessä, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen sekä tehtävien jakamiseen työhön liittyvissä sopimussuhteissa oleville henkilöille ja heidän seurantaansa tai arviointiinsa, olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi näiden henkilöiden tuleviin uranäkymiin ja toimeentuloon. Näiden työhön liittyvien sopimussuhteiden olisi koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaisia henkilöitä ei periaatteessa pitäisi katsoa tässä asetuksessa tarkoitetuiksi käyttäjiksi. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä sopimussuhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat vaikuttaa myös heidän tietosuojaa ja yksityisyyden suojaa koskeviin oikeuksiinsa.	(36) Tekoälyjärjestelmät, joita käytetään työllistämisessä, työllisyystuessa, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen sekä tehtävien jakamiseen, työpaikan sääntöjen noudattamisen seurantaan ja työhön liittyvissä sopimussuhteissa oleville henkilöille ja heidän seurantaansa tai arviointiinsa, olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi heidän työssään ja työpaikoillaan sovellettaviin terveyttä ja turvallisuutta koskeviin sääntöihin sekä näiden henkilöiden tuleviin uranäkymiin ja toimeentuloon. Näiden työhön liittyvien suhteiden olisi koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaisia henkilöitä ei periaatteessa pitäisi katsoa tässä asetuksessa tarkoitetuiksi käyttäjiksi. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä suhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat vaikuttaa myös heidän tietosuojaa ja yksityisyyden suojaa koskeviin oikeuksiinsa. Tässä yhteydessä olisi sovellettava läpinäkyvyyttä, tietojen antamista ja ihmisen suorittamaa valvontaa koskevia erityisvaatimuksia. Ammattiliitoille ja työntekijöiden edustajille olisi ilmoitettava kaikista tämän asetuksen nojalla luoduista asiaankuuluvista asiakirjoista, jotka koskevat heidän työssään tai työpaikallaan käyttöön otettuja tai käytettyjä suuririskisiä tekoälyjärjestelmiä, ja näiden asiakirjojen olisi oltava heidän saatavillaan.

Tarkistus  18

 

Ehdotus asetukseksi

Johdanto-osan 70 kappale

Komission teksti	Tarkistus
(70) Tietyt tekoälyjärjestelmät, jotka on tarkoitettu toimimaan vuorovaikutuksessa luonnollisten henkilöiden kanssa tai tuottamaan sisältöä, voivat aiheuttaa erityisiä toisena henkilönä esiintymiseen tai harhaanjohtamiseen liittyviä riskejä riippumatta siitä, luokitellaanko ne suuririskisiksi vai ei. Siksi näiden järjestelmien käyttöön olisi tietyissä olosuhteissa sovellettava erityisiä läpinäkyvyysvelvoitteita, sanotun kuitenkaan rajoittamatta suuririskisiä tekoälyjärjestelmiä koskevien vaatimusten ja velvoitteiden soveltamista. Luonnollisille henkilöille olisi erityisesti ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, ellei tämä ole olosuhteiden ja käyttöyhteyden perusteella ilmeistä. Lisäksi luonnollisille henkilöille olisi ilmoitettava, jos he altistuvat tunteentunnistusjärjestelmälle tai biometriselle luokitusjärjestelmälle. Tällaiset tiedot ja ilmoitukset olisi annettava vammaisille henkilöille soveltuvassa muodossa. Lisäksi sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, paikkoja tai tapahtumia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta, olisi ilmoitettava, että sisältö on keinotekoisesti tuotettu tai manipuloitu merkitsemällä tekoälyn tuotos vastaavasti ja paljastamalla sen keinotekoinen alkuperä.	(70) Tietyt tekoälyjärjestelmät, joita käytetään luonnollisten henkilöiden kanssa vuorovaikutuksessa olemiseen tai tuottamaan sisältöä, voivat aiheuttaa erityisiä toisena henkilönä esiintymiseen tai harhaanjohtamiseen liittyviä riskejä riippumatta siitä, luokitellaanko ne suuririskisiksi vai ei. Siksi näiden järjestelmien käyttöön olisi tietyissä olosuhteissa sovellettava erityisiä läpinäkyvyysvelvoitteita, sanotun kuitenkaan rajoittamatta suuririskisiä tekoälyjärjestelmiä koskevien vaatimusten ja velvoitteiden soveltamista. Luonnollisille henkilöille olisi erityisesti ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, ellei tämä ole olosuhteiden ja käyttöyhteyden perusteella ilmeistä tai kun sisältöä käytetään selvästi osana luovaa, taiteellista tai fiktiivistä elokuva- tai vastaavaa elokuvateosta. Lisäksi luonnollisille henkilöille olisi ilmoitettava, jos he altistuvat tunteentunnistusjärjestelmälle tai biometriselle luokitusjärjestelmälle. Tällaiset tiedot ja ilmoitukset, joihin olisi sisällytettävä vastuuvapauslauseke ja jotka olisi annettava lapsille, vanhuksille, maahanmuuttajille ja vammaisille henkilöille tai muille muulla tavoin haavoittuvassa asemassa oleville henkilöille soveltuvassa muodossa. Lisäksi sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni- tai videosisältöä, tekstiä taikka käsikirjoitusta, joka selvästi muistuttaa olemassa olevia henkilöitä, paikkoja tai tapahtumia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta, olisi ilmoitettava selkeällä tavalla, että sisältö on keinotekoisesti tuotettu tai manipuloitu merkitsemällä tekoälyn tuotos vastaavasti ja paljastamalla sen keinotekoinen alkuperä.

 

Tarkistus  19

Ehdotus asetukseksi

Johdanto-osan 73 kappale

Komission teksti	Tarkistus
(73) Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tietoisuuden lisäämistä ja tiedotusta. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät.	(73) Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tekoälylukutaitoa, tietoisuuden lisäämistä ja tiedotusta. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät.

 

Tarkistus  20

Ehdotus asetukseksi

Johdanto-osan 74 kappale

Komission teksti	Tarkistus
(74) Jotta voidaan minimoida markkinoilla olevan tiedon ja asiantuntemuksen puutteesta aiheutuvat riskit täytäntöönpanolle ja helpotetaan tämän asetuksen mukaisten velvoitteiden noudattamista tarjoajien ja ilmoitettujen laitosten taholta, tekoälyyn keskittyvän tilauspohjaisen alustan, eurooppalaisten digitaali-innovointikeskittymien sekä komission ja jäsenvaltioiden kansallisella tai EU:n tasolla perustamien testaus- ja kokeilulaitosten olisi mahdollisuuksien mukaan edistettävä tämän asetuksen täytäntöönpanoa. Ne voivat tehtäviensä ja osaamisalojensa puitteissa antaa erityisesti teknistä ja tieteellistä tukea tarjoajille ja ilmoitetuille laitoksille.	(74) Jotta voidaan minimoida markkinoilla olevan tiedon ja asiantuntemuksen puutteesta aiheutuvat riskit täytäntöönpanolle ja helpotetaan tämän asetuksen mukaisten velvoitteiden noudattamista tarjoajien ja ilmoitettujen laitosten taholta, tekoälyyn keskittyvän tilauspohjaisen alustan, eurooppalaisten digitaali-innovointikeskittymien sekä komission ja jäsenvaltioiden kansallisella tai EU:n tasolla perustamien testaus- ja kokeilulaitosten olisi mahdollisuuksien mukaan edistettävä tämän asetuksen täytäntöönpanoa. Ne voivat tehtäviensä ja osaamisalojensa puitteissa antaa erityisesti teknistä ja tieteellistä tukea tarjoajille ja ilmoitetuille laitoksille. On myös tarpeen, että komissio perustaa tekoälyyn keskittyvien yliopistojen ja tutkijoiden yleiseurooppalaisen verkoston tehostamaan tekoälyn vaikutuksia koskevaa tutkimusta ja saattaa ajan tasalle komission 30 päivänä syyskuuta 2020 antamassa tiedonannossa ”Digitaalisen koulutuksen toimintasuunnitelma 2021–2027 – Koulutuksen mukauttaminen digitaaliaikaan” vahvistetun digitaalisen koulutuksen toimintasuunnitelman tekoälyyn ja robotiikkaan liittyvän innovoinnin sisällyttämiseksi koulutukseen.

 

Tarkistus  21

Ehdotus asetukseksi

Johdanto-osan 76 kappale

Komission teksti	Tarkistus
(76) Tämän asetuksen sujuvan, tehokkaan ja yhdenmukaisen täytäntöönpanon helpottamiseksi olisi perustettava Euroopan tekoälyneuvosto. Neuvoston olisi vastattava useista neuvoa-antavista tehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, esimerkiksi tässä asetuksessa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai voimassa olevista standardeista, sekä neuvojen ja avun antamisesta komissiolle tekoälyyn liittyvissä erityiskysymyksissä.	(76) Tämän asetuksen sujuvan, tehokkaan ja yhdenmukaisen täytäntöönpanon helpottamiseksi olisi perustettava Euroopan tekoälyneuvosto. Neuvoston olisi vastattava useista neuvoa-antavista tehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, esimerkiksi tässä asetuksessa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai voimassa olevista standardeista, sekä asiantuntijaneuvojen ja -avun antamisesta komissiolle tekoälyyn liittyvissä erityiskysymyksissä ja tekoälyjärjestelmien nopeasti muuttuvan kehittämisen aiheuttamien haasteiden käsittelyssä.

 

Tarkistus  22

Ehdotus asetukseksi

Johdanto-osan 83 kappale

Komission teksti	Tarkistus
(83) Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta.	(83) Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta. On aiheellista laatia uudet yhteiset eurooppalaiset suuntaviivat ja standardit, jotta voidaan suojella yksityisyyttä ja hyödyntää samalla tehokkaasti saatavilla olevaa dataa.

 

Tarkistus  23

 

Ehdotus asetukseksi

Johdanto-osan 85 kappale

Komission teksti	Tarkistus
(85) Sen varmistamiseksi, että sääntelykehystä voidaan tarvittaessa mukauttaa, komissiolle olisi siirrettävä valta hyväksyä Euroopan unionin toiminnasta tehdyn sopimuksen 290 artiklan mukaisesti säädösvallan siirron nojalla annettavia delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa tekoälyjärjestelmien määrittelemiseksi, liitteessä II esitettyä unionin yhdenmukaistamislainsäädännön luetteloa, liitteessä III esitettyä suuririskisten tekoälyjärjestelmien luetteloa, liitteessä IV määriteltyä teknistä dokumentaatiota koskevia säännöksiä, liitteessä V esitetyn EU-vaatimustenmukaisuusvakuutuksen sisältöä, liitteissä VI ja VII esitettyjä vaatimustenmukaisuuden arviointimenettelyjä koskevia säännöksiä sekä säännöksiä, joilla määritetään suuririskiset tekoälyjärjestelmät, joihin olisi sovellettava laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuvaa vaatimustenmukaisuuden arviointimenettelyä. On erityisen tärkeää, että komissio asiaa valmistellessaan toteuttaa asianmukaiset kuulemiset, myös asiantuntijatasolla, ja että nämä kuulemiset toteutetaan paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa58 vahvistettujen periaatteiden mukaisesti. Jotta voitaisiin erityisesti varmistaa tasavertainen osallistuminen delegoitujen säädösten valmisteluun, Euroopan parlamentille ja neuvostolle toimitetaan kaikki asiakirjat samaan aikaan kuin jäsenvaltioiden asiantuntijoille, ja Euroopan parlamentin ja neuvoston asiantuntijoilla on järjestelmällisesti oikeus osallistua komission asiantuntijaryhmien kokouksiin, joissa valmistellaan delegoituja säädöksiä.	(85) Sen varmistamiseksi, että sääntelykehystä voidaan tarvittaessa mukauttaa, komissiolle olisi siirrettävä valta hyväksyä Euroopan unionin toiminnasta tehdyn sopimuksen 290 artiklan mukaisesti säädösvallan siirron nojalla annettavia delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa tekoälyjärjestelmien määrittelemiseksi, liitteessä II esitettyä unionin yhdenmukaistamislainsäädännön luetteloa, liitteessä III esitettyä suuririskisten tekoälyjärjestelmien luetteloa, liitteessä IV määriteltyä teknistä dokumentaatiota koskevia säännöksiä, liitteessä V esitetyn EU-vaatimustenmukaisuusvakuutuksen sisältöä, liitteissä VI ja VII esitettyjä vaatimustenmukaisuuden arviointimenettelyjä koskevia säännöksiä sekä säännöksiä, joilla määritetään suuririskiset tekoälyjärjestelmät, joihin olisi sovellettava laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuvaa vaatimustenmukaisuuden arviointimenettelyä. On erityisen tärkeää, että komissio asiaa valmistellessaan toteuttaa asianmukaiset kuulemiset, myös asiantuntijatasolla, ja että nämä kuulemiset toteutetaan paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa58 vahvistettujen periaatteiden mukaisesti. Tällaisissa kuulemisissa olisi oltava mukana päteviä asiantuntijoita yhteiskunnan eri aloilta, kuten yksityinen sektori, tutkijat ja tieteenharjoittajat, koulutuksen, tiedotusvälineiden ja kulttuurin edustajat, ammattiliitot, kuluttajajärjestöt sekä vanhempia edustavat ja tietosuojajärjestöt, joilla on tehtävään liittyvää osaamista ja tietämystä. Jotta voitaisiin erityisesti varmistaa tasavertainen osallistuminen delegoitujen säädösten valmisteluun, Euroopan parlamentille ja neuvostolle toimitetaan kaikki asiakirjat samaan aikaan kuin jäsenvaltioiden asiantuntijoille, ja Euroopan parlamentin ja neuvoston asiantuntijoilla on järjestelmällisesti oikeus osallistua komission asiantuntijaryhmien kokouksiin, joissa valmistellaan delegoituja säädöksiä.
__________________	__________________
58 EUVL L 123, 12.5.2016, s. 1.	58 EUVL L 123, 12.5.2016, s. 1.

 

Tarkistus  24

Ehdotus asetukseksi

Johdanto-osan 86 a kappale (uusi)

Komission teksti	Tarkistus
	(86 a) Kun otetaan huomioon teknologian nopea kehitys ja suuririskisten tekoälyjärjestelmien arvioinnin edellyttämä tekninen asiantuntemus, säädösvallan siirtoa ja komission täytäntöönpanovaltaa olisi käytettävä mahdollisimman joustavasti. Komission olisi tarkasteltava liitettä III säännöllisesti uudelleen ilman aiheetonta viivytystä, vähintään kuuden kuukauden välein, ja kuultava asiaankuuluvia sidosryhmiä, mukaan lukien eettisiä asiantuntijoita, antropologeja, sosiologeja, mielenterveysasiantuntijoita ja muita asiaankuuluvia tutkijoita ja tieteenharjoittajia sekä vanhempainyhdistyksiä.

 

Tarkistus  25

 

Ehdotus asetukseksi

1 artikla – 1 kohta – c alakohta

Komission teksti	Tarkistus
(c) läpinäkyvyyttä koskevat yhdenmukaistetut säännöt tekoälyjärjestelmille, jotka on tarkoitettu toimimaan vuorovaikutuksessa luonnollisten henkilöiden kanssa, tunteentunnistusjärjestelmille ja biometrisille luokittelujärjestelmille sekä tekoälyjärjestelmille, joita käytetään kuva-, ääni- tai videosisällön tuottamiseen tai manipulointiin;	(c) läpinäkyvyyttä koskevat yhdenmukaistetut säännöt tekoälyjärjestelmille;

Tarkistus  26

 

Ehdotus asetukseksi

2 artikla – 4 a kohta (uusi)

Komission teksti	Tarkistus
	4 a. Tällä asetuksella ei vaikuteta tekoälyjärjestelmien akateemiseen tutkimukseen tai kehittämiseen eikä niiden akateemista tutkimusta varten tuottamiin tuloksiin eikä heikennetä niitä.

Tarkistus  27

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 4 alakohta

Komission teksti	Tarkistus
(4) ’käyttäjällä’ luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa;	(4) ’käyttäjällä’ luonnollista tai oikeushenkilöä, viranomaista, virastoa, oppilaitosta tai muuta tahoa, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa;

 

Tarkistus  28

Ehdotus asetukseksi

3 artikla – 1 kohta – 35 alakohta

Komission teksti	Tarkistus
(35) ’biometrisellä luokittelujärjestelmällä’ tekoälyjärjestelmää, jonka avulla luonnolliset henkilöt luokitellaan biometristen tietojen perusteella tiettyihin ryhmiin esimerkiksi sukupuolen, iän, hiusten värin, silmien värin, tatuointien, etnisen alkuperän tai sukupuolisen tai poliittisen suuntautumisen mukaan;	(35) ’biometrisellä luokittelujärjestelmällä’ tekoälyjärjestelmää, joka käyttää biometrisiä tietoja tai muita fyysisiä, fysiologisia tai käyttäytymiseen liittyviä tietoja, joiden avulla luonnolliset henkilöt luokitellaan biometristen tietojen perusteella tiettyihin ryhmiin esimerkiksi sukupuolen, iän, hiusten värin, silmien värin, tatuointien, etnisen alkuperän tai sukupuolisen tai poliittisen suuntautumisen mukaan;

 

Tarkistus  29

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 39 alakohta

Komission teksti	Tarkistus
(39) ’julkisella tilalla’ mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko pääsy ehdollista;	(39) ’julkisella tilalla’ mitä tahansa paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko pääsy ehdollista;

 

Tarkistus  30

Ehdotus asetukseksi

2 artikla – 1 kohta – 44 alakohta – a alakohta

Komission teksti	Tarkistus
(a) henkilön kuolema tai vakava vahinko henkilön terveydelle, omaisuudelle tai ympäristölle,	(a) henkilön kuolema tai vakava vahinko henkilön perusoikeuksille, terveydelle, omaisuudelle tai ympäristölle, demokratialle tai demokraattiselle oikeusvaltiolle,

 

Tarkistus  31

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 a alakohta (uusi)

Komission teksti	Tarkistus
	(44 a) ’oppilaitoksilla’ koulutuksen tarjoajia, joiden kautta eri-ikäiset henkilöt saavat yleissivistävää ja ammatillista koulutusta, mukaan lukien esikoulut, lastentarhat, peruskoulut ja keskiasteen koulut sekä korkea-asteen koulutuksen, ammatillisen koulutuksen ja kaikentyyppisen elinikäisen oppimisen tarjoajat;

 

Tarkistus  32

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 b alakohta (uusi)

Komission teksti	Tarkistus
	(44 b) ’kulttuurilaitoksilla’ kirjastojen, museoiden, teatterien, konserttisalien, näyttelykeskusten, arkkitehtonisten rakennusten ja monikäyttöisten taidetilojen kaltaisia laitoksia sekä niiden virtuaalisia osuuksia, jotka järjestävät kulttuurikasvatusta, demokraattista keskustelua ja tutkimusta ja tarjoavat ihmisille tapoja ja keinoja osallistua kulttuuriperintöön;

 

Tarkistus  33

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 c alakohta (uusi)

Komission teksti	Tarkistus
	(44 c) ’syväväärennöksellä’ manipuloitua tai synteettistä ääni-, kuva- tai audiovisuaalista sisältöä, tekstiä tai käsikirjoituksia, jotka sisältävät henkilöitä, joiden väitetään olevan aitoja ja totuudenmukaisia;

Tarkistus  34

 

Ehdotus asetukseksi

3 artikla – 1 kohta – 44 d alakohta (uusi)

Komission teksti	Tarkistus
	(44 d) ’tekoälylukutaidolla’ tekoälyjärjestelmiin liittyviä osaamista, tietoja ja ymmärtämystä.

 

Tarkistus  35

Ehdotus asetukseksi

4 a artikla (uusi)

Komission teksti	Tarkistus
	4 a artikla
	Luotettava tekoäly
	1.  Kaikkien unionin tekoälyjärjestelmien kehittämisessä, käyttöönotossa ja käytössä on noudatettava täysimääräisesti Euroopan unionin perusoikeuskirjaa.
	2.  Luotettavan tekoälyn edistämiseksi unionissa ja rajoittamatta suuririskisille tekoälyjärjestelmille III osastossa asetettujen vaatimusten soveltamista, kaikkien tekoälyjärjestelmien kehittämisen, käyttöönoton ja käytön on tapahduttava
	(a)  laillisella, oikeudenmukaisella ja läpinäkyvällä tavalla (”laillisuutta, oikeudenmukaisuutta ja läpinäkyvyyttä koskeva periaate”);
	(b)  siten, että varmistetaan, että luonnolliset henkilöt voivat tehdä aina tällaisia järjestelmiä koskevat päätöksensä tietoon perustuen ja että tällaiset järjestelmät eivät koskaan vaaranna tai syrjäytä ihmisen itsemääräämisoikeutta (”ihmisten toimijuutta ja ihmisen suorittamaa valvontaa koskeva periaate”);
	(c)  siten, että varmistetaan niiden turvallinen, tarkka ja luotettava suorituskyky ja sisäänrakennetut suojatoimet, joilla estetään kaikenlaiset yksilölliset tai kollektiiviset vahingot (”turvallisuutta, tarkkuutta, luotettavuutta ja varmuutta koskeva periaate”);
	(d)  siten, että taataan yksityisyys ja tietosuoja (”yksityisyyttä koskeva periaate”);
	(e)  siten, että taataan tietojen koskemattomuus ja laatu, myös tietojen saatavuuden osalta (”tietojen hallintaa koskeva periaate”);
	(f)  jäljitettävissä, tarkastettavissa ja selitettävissä olevalla tavalla, jolla varmistetaan vastuu ja vastuuvelvollisuus järjestelmien tuloksista ja tuetaan oikeussuojakeinoja (”jäljitettävyyttä, tarkastettavuutta, selitettävyyttä ja vastuuvelvollisuutta koskeva periaate”);
	(g)  tavalla, joka ei syrji henkilöitä tai henkilöryhmiä epäoikeudenmukaisten vinoumien perusteella ja jossa myös asiaankuuluvat sidosryhmät voivat tätä varten osallistua ja antaa oman panoksensa (”syrjimättömyyttä ja moninaisuutta koskeva periaate”);
	(h)  ympäristön kannalta kestävällä tavalla, jolla minimoidaan järjestelmien ympäristöjalanjälki, myös luonnonvarojen hankinnan ja kulutuksen osalta (”ympäristökestävyyttä koskeva periaate”);
	(i)  sosiaalisesti vastuullisella tavalla, jolla minimoidaan järjestelmien kielteiset yhteiskunnalliset vaikutukset erityisesti sosiaalisen ja sukupuoleen liittyvän eriarvoisuuden ja demokraattisten prosessien osalta (”sosiaalista vastuuta koskeva periaate”).

 

Tarkistus  36

 

Ehdotus asetukseksi

4 b artikla (uusi)

Komission teksti	Tarkistus
	4 b artikla
	Tekoälylukutaito
	1.  Unioni ja jäsenvaltiot edistävät tämän asetuksen täytäntöönpanon yhteydessä toimenpiteitä ja välineitä riittävän tekoälylukutaidon kehittämiseksi kaikilla aloilla ja asiaankuuluvien operaattoreiden ryhmissä muun muassa koulutus-, osaamis- ja uudelleenkoulutusohjelmien avulla samalla kun ne varmistavat asianmukaisen sukupuolten ja ikäryhmien välisen tasapainon, jotta mahdollistetaan tekoälyjärjestelmien demokraattinen valvonta.
	2.  Tekoälyjärjestelmien tarjoajien ja käyttäjien on edistettävä välineitä ja toteutettava toimenpiteitä, joilla ne varmistavat henkilöstönsä ja kaikkien muiden henkilöstönsä puolesta tekoälyjärjestelmien toiminnasta ja käytöstä vastaavien henkilöiden riittävän tekoälylukutaidon, minkä yhteydessä otetaan huomioon heidän tekninen tietämyksensä, kokemuksensa, koulutuksensa ja tekoälyjärjestelmien käyttöympäristö sekä henkilöt tai henkilöryhmät, joihin tekoälyjärjestelmiä käytetään.
	3.  Tällaiset lukutaitoa edistävät välineet ja toimenpiteet koostuvat erityisesti tekoälyjärjestelmiä ja niiden toimintaa koskevien peruskäsitteiden ja -taitojen opetuksesta ja oppimisesta, mukaan lukien erilaiset tuotteet ja käyttötarkoitukset, niiden riskit ja hyödyt sekä niiden mahdollisesti aiheuttamien vahinkojen vakavuus ja todennäköisyys.
	4.  Tekoälylukutaidon katsotaan olevan riittävä, kun se myötävaikuttaa operaattoreiden kykyyn toimia kaikilta osin luotettavan tekoälyn mukaisesti ja hyötyä siitä sekä noudattaa erityisesti tässä asetuksessa säädettyjä vaatimuksia.

 

Tarkistus  37

Ehdotus asetukseksi

6 artikla – 2 kohta

Komission teksti	Tarkistus
2. Edellä 1 kohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien lisäksi myös liitteessä III tarkoitettuja tekoälyjärjestelmiä pidetään suuririskisinä.	2. Edellä 1 kohdassa tarkoitettujen suuririskisten tekoälyjärjestelmien lisäksi myös liitteessä III tarkoitettuja tekoälyjärjestelmiä pidetään suuririskisinä, sillä ne voivat aiheuttaa haittaa terveydelle, turvallisuudelle, ympäristölle, perusoikeuksille tai demokratialle ja oikeusvaltiolle.

 

Tarkistus  38

 

Ehdotus asetukseksi

7 artikla – 1 kohta – a alakohta

Komission teksti	Tarkistus
(a) tekoälyjärjestelmiä on tarkoitus käyttää millä tahansa liitteessä III olevassa 1–8 kohdassa luetelluista aloista;	(a) tekoälyjärjestelmiä on tarkoitus käyttää millä tahansa liitteessä III luetelluista aloista;

Tarkistus  39

 

Ehdotus asetukseksi

7 artikla – 1 kohta – b alakohta

Komission teksti	Tarkistus
(b) tekoälyjärjestelmät aiheuttavat terveys- ja turvallisuushaitan riskin tai perusoikeuksiin kohdistuvan kielteisen vaikutuksen riskin, joka on vakavuutensa ja esiintymistodennäköisyytensä kannalta vähintään yhtä suuri kuin liitteessä III jo tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisen vaikutuksen riski.	(b) tekoälyjärjestelmät aiheuttavat terveys- ja turvallisuushaitan riskin tai perusoikeuksiin, demokratiaan ja oikeusvaltioon tai ympäristöön kohdistuvan kielteisen vaikutuksen riskin, joka on vakavuutensa ja esiintymistodennäköisyytensä kannalta vähintään yhtä suuri kuin liitteessä III jo tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisen vaikutuksen riski.

Tarkistus  40

 

Ehdotus asetukseksi

7 artikla – 2 kohta – johdantokappale

Komission teksti	Tarkistus
2. Arvioidessaan 1 kohdan soveltamiseksi, aiheuttaako tekoälyjärjestelmä sellaisen terveys- ja turvallisuushaitan riskin tai perusoikeuksiin kohdistuvan kielteisen vaikutuksen riskin, joka on vähintään yhtä suuri kuin liitteessä III jo tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisen vaikutuksen riski, komissio ottaa huomioon seuraavat kriteerit:	2. Arvioidessaan 1 kohdan soveltamiseksi, aiheuttaako tekoälyjärjestelmä sellaisen terveys- ja turvallisuushaitan riskin tai perusoikeuksiin, demokratiaan, oikeusvaltioon tai ympäristöön kohdistuvan kielteisen vaikutuksen riskin, joka on vähintään yhtä suuri kuin liitteessä III jo tarkoitettujen suuririskisten tekoälyjärjestelmien aiheuttaman haitan tai kielteisen vaikutuksen riski, komissio ottaa huomioon seuraavat kriteerit:

Tarkistus  41

 

Ehdotus asetukseksi

7 artikla – 2 a kohta (uusi)

Komission teksti	Tarkistus
	2 a. Komissio suorittaa 2 kohdassa tarkoitetun arvioinnin vuosittain 73 artiklassa säädettyjen kuulemisedellytysten mukaisesti.

 

Tarkistus  42

Ehdotus asetukseksi

9 artikla – 4 kohta – 2 alakohta – d a alakohta (uusi)

Komission teksti	Tarkistus
	(d a) riittävän tasoisen tekoälylukutaidon tarjoaminen;

 

Tarkistus  43

Ehdotus asetukseksi

9 artikla – 8 kohta

Komission teksti	Tarkistus
8. Edellä 1–7 kohdassa kuvattua riskinhallintajärjestelmää täytäntöön pantaessa on kiinnitettävä erityistä huomiota siihen, voivatko lapset todennäköisesti käyttää suuririskistä tekoälyjärjestelmää tai voiko järjestelmä vaikuttaa lapsiin.	8. Edellä 1–7 kohdassa kuvattua riskinhallintajärjestelmää täytäntöön pantaessa on kiinnitettävä erityistä huomiota siihen, voivatko lapset, vanhukset, maahanmuuttajat tai muut haavoittuviin ryhmiin kuuluvat todennäköisesti käyttää suuririskistä tekoälyjärjestelmää tai voiko järjestelmä vaikuttaa heihin.

 

Tarkistus  44

Ehdotus asetukseksi

10 artikla – 2 kohta – f alakohta

Komission teksti	Tarkistus
(f) mahdollisten vinoutumien selvittäminen;	(f) mahdollisten vinoutumien selvittäminen, erityisesti sellaisten, jotka voisivat vaikuttaa ihmisten terveyteen ja turvallisuuteen tai johtaa syrjintään;

 

Tarkistus  45

Ehdotus asetukseksi

10 artikla – 2 kohta – g a alakohta (uusi)

Komission teksti	Tarkistus
	(g a) järjestelmän käyttötarkoitus ja -ympäristö;

 

Tarkistus  46

Ehdotus asetukseksi

13 artikla – 1 kohta

Komission teksti	Tarkistus
1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että varmistetaan, että niiden toiminta on riittävän läpinäkyvää, jotta käyttäjät voivat tulkita järjestelmän tuloksia ja käyttää niitä asianmukaisesti. On varmistettava sopiva läpinäkyvyyden tyyppi ja taso, jotta voidaan varmistaa tämän osaston 3 luvussa säädettyjen käyttäjän ja tarjoajan asiaankuuluvien velvoitteiden noudattaminen.	1. Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että varmistetaan, että niiden toiminta on riittävän läpinäkyvää, jotta tarjoajat, käyttäjät ja muut asiaankuuluvat sidosryhmät voivat tulkita järjestelmän toimintaa ja tuloksia ja käyttää niitä asianmukaisesti tietoon perustuvien päätösten perusteella, jotta voidaan varmistaa tämän osaston 3 luvussa säädettyjen asiaankuuluvien velvoitteiden noudattaminen.

 

Tarkistus  47

Ehdotus asetukseksi

13 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Tässä artiklassa vahvistettujen velvoitteiden noudattamiseksi tarjoajien ja käyttäjien on varmistettava riittävä tekoälylukutaito 4 b artiklan mukaisesti.

 

Tarkistus  48

Ehdotus asetukseksi

14 artikla – 5 a kohta (uusi)

Komission teksti	Tarkistus
	5 a. Tässä artiklassa vahvistettujen velvoitteiden noudattamiseksi tarjoajien ja käyttäjien on varmistettava riittävä tekoälylukutaito 4 b artiklan mukaisesti.

 

Tarkistus  49

Ehdotus asetukseksi

29 artikla – 1 a kohta (uusi)

Komission teksti	Tarkistus
	1 a. Tässä artiklassa säädettyjen velvoitteiden noudattamiseksi ja niiden mahdollisen noudattamatta jättämisen perustelemiseksi suuririskisten tekoälyjärjestelmien käyttäjien on varmistettava riittävä tekoälylukutaito 4 b artiklan mukaisesti.

 

Tarkistus  50

Ehdotus asetukseksi

41 artikla – 2 kohta

Komission teksti	Tarkistus
2. Komissio kerää 1 kohdassa tarkoitettuja yhteisiä eritelmiä laatiessaan asiaa koskevan alakohtaisen unionin lainsäädännön mukaisesti perustettujen asiaankuuluvien elinten tai asiantuntijaryhmien näkemykset.	2. Komissio kerää 1 kohdassa tarkoitettuja yhteisiä eritelmiä laatiessaan asiaankuuluvien sidosryhmien, myös toimialan edustajien, pk-yritysten ja muiden asiaa koskevan alakohtaisen unionin lainsäädännön mukaisesti perustettujen asiaankuuluvien elinten tai asiantuntijaryhmien näkemykset.

 

Tarkistus  51

 

Ehdotus asetukseksi

52 artikla – 1 kohta

Komission teksti	Tarkistus
1. Tarjoajien on varmistettava, että luonnollisten henkilöiden kanssa vuorovaikutukseen tarkoitetut tekoälyjärjestelmät suunnitellaan ja toteutetaan siten, että luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, paitsi jos tämä on olosuhteiden ja käyttöyhteyden perusteella ilmeistä. Tätä velvoitetta ei sovelleta tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseiset järjestelmät ovat julkisesti saatavilla rikosilmoitusten tekemistä varten.	1. Tarjoajien on varmistettava, että luonnollisten henkilöiden kanssa vuorovaikutukseen käytettävät tekoälyjärjestelmät suunnitellaan ja toteutetaan siten, että luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, paitsi jos tämä on olosuhteiden ja käyttöyhteyden perusteella ilmeistä. Tätä velvoitetta ei sovelleta tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseiset järjestelmät ovat julkisesti saatavilla rikosilmoitusten tekemistä varten.

Tarkistus  52

 

Ehdotus asetukseksi

52 artikla – 2 kohta

Komission teksti	Tarkistus
2. Tunteentunnistusjärjestelmän tai biometrisen luokitusjärjestelmän käyttäjien on ilmoitettava järjestelmän toiminnasta niille luonnollisille henkilöille, jotka altistuvat järjestelmälle. Tätä velvoitetta ei sovelleta biometriseen luokitteluun käytettyihin tekoälyjärjestelmiin, joita on lain mukaan luvallista käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen.	2. Tunteentunnistusjärjestelmän tai biometrisen luokitusjärjestelmän käyttäjien on ilmoitettava hyvissä ajoin selkeällä ja ymmärrettävällä tavalla järjestelmän toiminnasta niille luonnollisille henkilöille, jotka altistuvat järjestelmälle. Näihin tietoihin on tarpeen mukaan sisällytettävä oikeudet ja prosessit, joiden avulla luonnolliset henkilöt voivat valittaa tällaisten tekoälyjärjestelmien soveltamisesta heihin. Tätä velvoitetta ei sovelleta biometriseen luokitteluun käytettyihin tekoälyjärjestelmiin, joita on lain mukaan luvallista käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen.

Tarkistus  53

 

Ehdotus asetukseksi

52 artikla – 3 kohta – 1 alakohta

Komission teksti	Tarkistus
Sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja tai muita objekteja tai tapahtumia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta tai totuudenmukaiselta (’syväväärennös’), on ilmoitettava, että sisältö on keinotekoisesti tuotettu tai manipuloitu.	Sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni-, teksti-, käsikirjoitus- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja tai muita objekteja, tapahtumia, tekstejä tai käsikirjoituksia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta tai totuudenmukaiselta (’syväväärennös’), on ilmoitettava asiaankuuluvan selkeällä, toistuvalla, ajankohtaisella ja näkyvällä tavalla, että sisältö on keinotekoisesti tuotettu tai manipuloitu.

Tarkistus  54

 

Ehdotus asetukseksi

52 artikla – 3 kohta – 2 alakohta

Komission teksti	Tarkistus
Ensimmäistä alakohtaa ei kuitenkaan sovelleta, jos käyttö on lain mukaan sallittua rikosten paljastamiseksi, estämiseksi ja tutkimiseksi ja rikoksia koskevissa syytetoimissa tai jos se on tarpeen EU:n perusoikeuskirjassa taattua sananvapautta ja taiteen ja tieteen vapautta koskevan oikeuden käyttämiseksi ja edellyttäen, että toteutetaan kolmansien osapuolten oikeuksia ja vapauksia koskevat asianmukaiset suojatoimet.	Ensimmäistä alakohtaa ei kuitenkaan sovelleta, jos käyttö on osa ilmeisen taiteellista, luovaa tai fiktiivistä elokuvateosta tai vastaavaa teosta tai jos se on tarpeen EU:n perusoikeuskirjassa taattua sananvapautta ja taiteen ja tieteen vapautta koskevan oikeuden käyttämiseksi ja edellyttäen, että toteutetaan kolmansien osapuolten oikeuksia ja vapauksia koskevat asianmukaiset suojatoimet.

Tarkistus  55

 

Ehdotus asetukseksi

52 artikla – 3 a kohta (uusi)

Komission teksti	Tarkistus
	3 a. Uutisia tai luovaa ja kulttuurista sisältöä suosittelevien, levittävien ja tilaavien tekoälyjärjestelmien tarjoajien ja käyttäjien on ilmoitettava asianmukaisella, helposti saatavilla olevalla, selkeällä ja näkyvällä tavalla tärkeimmät sisällön ja henkilökohtaisesti kohdennettujen ehdotusten moderoinnissa käytetyt parametrit. Näihin tietoihin on sisällyttävä vastuuvapauslauseke.

Tarkistus  56

 

Ehdotus asetukseksi

52 artikla – 3 b kohta (uusi)

Komission teksti	Tarkistus
	3 b. Tässä artiklassa tarkoitetut tiedot on annettava luonnollisille henkilöille hyvissä ajoin selkeällä ja näkyvällä tavalla viimeistään ensimmäisen vuorovaikutuksen tai altistumisen yhteydessä. Tällaiset tiedot on asetettava saataville, kun altistunut luonnollinen henkilö on vammainen tai lapsi taikka kuuluu haavoittuvassa asemassa olevaan ryhmään. Tietoja on täydennettävä mahdollisuuksien mukaan tiedoilla altistuneen luonnollisen henkilön käytettävissä olevista väliintulo- tai ilmoittamismenettelyistä ottaen huomioon yleisesti tunnustettu alan viimeisin kehitys sekä asiaankuuluvat yhdenmukaistetut standardit ja yhteiset eritelmät.

 

Tarkistus  57

Ehdotus asetukseksi

56 artikla – 2 kohta – a a alakohta (uusi)

Komission teksti	Tarkistus
	(a a) pyrkiäkseen edistämään tekoälyn käyttöönottoa unionissa, erityisesti pk-yrityksissä;

 

Tarkistus  58

Ehdotus asetukseksi

57 artikla – 1 kohta

Komission teksti	Tarkistus
1. Tekoälyneuvoston muodostavat kansalliset valvontaviranomaiset, joita edustaa kyseisen viranomaisen johtaja tai vastaava korkean tason virkamies, sekä Euroopan tietosuojavaltuutettu. Kokouksiin voidaan kutsua myös muita kansallisia viranomaisia, jos käsitellyt asiat ovat niiden kannalta merkityksellisiä.	1. Tekoälyneuvoston muodostavat kansalliset valvontaviranomaiset, joita edustaa kyseisen viranomaisen johtaja tai vastaava korkean tason virkamies, sekä Euroopan tietosuojavaltuutettu. Kokouksiin kutsutaan myös muita kansallisia tai kansainvälisiä viranomaisia sekä muita asiaankuuluvia sidosryhmiä, myös yksityissektorilta, jos käsitellyt asiat ovat niiden kannalta merkityksellisiä.

 

Tarkistus  59

Ehdotus asetukseksi

57 artikla – 4 kohta

Komission teksti	Tarkistus
4. Tekoälyneuvosto voi kutsua ulkopuolisia asiantuntijoita ja tarkkailijoita kokouksiinsa ja käydä keskusteluja asianomaisten kolmansien osapuolten kanssa oman toimintansa tueksi asianmukaisessa laajuudessa. Tätä varten komissio voi helpottaa tiedonvaihtoa tekoälyneuvoston ja muiden unionin elinten, laitosten, virastojen ja neuvoa-antavien ryhmien välillä.	4. Tekoälyneuvosto kutsuu tarpeen mukaan ulkopuolisia asiantuntijoita ja tarkkailijoita kokouksiinsa ja voi käydä keskusteluja asianomaisten kolmansien osapuolten kanssa oman toimintansa tueksi asianmukaisessa laajuudessa. Tätä varten komissio voi helpottaa tiedonvaihtoa tekoälyneuvoston ja muiden unionin elinten, laitosten, virastojen ja neuvoa-antavien ryhmien välillä, mukaan lukien tekoälyä käsittelevä korkean tason asiantuntijaryhmä.

 

Tarkistus  60

Ehdotus asetukseksi

69 artikla – 3 kohta

Komission teksti	Tarkistus
3. Käytännesääntöjä voivat laatia yksittäiset tekoälyjärjestelmien tarjoajat tai niitä edustavat järjestöt tai molemmat, ja niiden laatimiseen voivat osallistua myös käyttäjät ja mahdolliset sidosryhmät ja niitä edustavat järjestöt. Käytännesäännöt voivat kattaa yhden tai useamman tekoälyjärjestelmän ottaen huomioon asianomaisten järjestelmien käyttötarkoituksen samankaltaisuuden.	3. Käytännesääntöjä voivat laatia yksittäiset tekoälyjärjestelmien tarjoajat tai niitä edustavat järjestöt tai molemmat, ja niiden laatimiseen voivat osallistua myös käyttäjät ja mahdolliset sidosryhmät ja niitä edustavat järjestöt, mukaan lukien etenkin ammattiliitot ja kuluttajajärjestöt. Käytännesäännöt voivat kattaa yhden tai useamman tekoälyjärjestelmän ottaen huomioon asianomaisten järjestelmien käyttötarkoituksen samankaltaisuuden.

 

Tarkistus  61

Ehdotus asetukseksi

69 artikla – 3 b kohta (uusi)

Komission teksti	Tarkistus
	3 b. Tässä artiklassa vahvistettujen velvoitteiden noudattamiseksi tarjoajien ja käyttäjien on varmistettava riittävä tekoälylukutaito 4 b artiklan mukaisesti.

 

Tarkistus  62

Ehdotus asetukseksi

71 artikla – 1 kohta

Komission teksti	Tarkistus
1. Jäsenvaltioiden on tässä asetuksessa säädettyjä ehtoja noudattaen säädettävä tämän asetuksen rikkomiseen sovellettavista seuraamuksista, mukaan lukien hallinnolliset sakot, ja toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että ne pannaan täytäntöön asianmukaisesti ja tehokkaasti. Seuraamusten on oltava tehokkaita, oikeasuhteisia ja varoittavia. Niissä on erityisesti otettava huomioon pienten tarjoajien ja startup-yritysten edut sekä niiden taloudellinen elinkelpoisuus.	1. Jäsenvaltioiden on tässä asetuksessa säädettyjä ehtoja noudattaen säädettävä tämän asetuksen rikkomiseen sovellettavista seuraamuksista, mukaan lukien hallinnolliset sakot, ja toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että ne pannaan täytäntöön asianmukaisesti ja tehokkaasti. Seuraamusten on oltava tehokkaita, oikeasuhteisia ja varoittavia. Niissä on erit