EU:n tekoälysäädös on ensimmäinen laatuaan

Tekoälyn käyttöä säädellään pian EU:ssa maailman ensimmäisellä kattavalla tekoälylailla. Lue, miten se suojelee sinua.

Julkaistu: 09-06-2023 Päivitetty viimeksi: 19-06-2024 - 18:08 Lukuaika: 5 minuuttia

Osana digitaalista strategiaansa EU haluaa säädellä tekoälyä varmistaakseen, että tätä innovatiivista teknologiaa käytetään ja kehitetään parhaalla mahdollisella tavalla. Tekoälystä voi olla hyötyä monilla aloilla, kuten terveydenhuollossa, liikenteen kehittämisessä turvallisemmaksi ja puhtaammaksi, tuotannon tehostamisessa sekä edullisemman ja kestävämmän energian tuottamisessa.

Huhtikuussa 2021 komissio esitti ensimmäistä EU:n tekoälysäädöstä. Komissio ehdotti, että tekoälyjärjestelmiä, joita voi käyttää moniin eri tarkoituksiin, arvioidaan ja luokitellaan niiden käyttäjille aiheuttaman riskin perusteella. Eri tason riskit tarkoittavat enemmän tai vähemmän sääntelyä.

Lue lisää tekoälystä ja sen käytöstä

Mitä parlamentti haluaa tekoälylainsäädännöltä

Parlamentille tärkeintä on varmistaa, että EU:ssa käytetyt tekoälyjärjestelmät ovat turvallisia, läpinäkyviä, jäljitettäviä, tasa-arvoisia ja ympäristöystävällisiä. Tekoälyn valvonnan tulee olla ihmisen valvonnassa eikä automaattista, jotta voidaan varmistaa sen turvallisuus.

Parlamentti haluaa myös luoda tekoälylle teknologiasta riippumattoman, yhtenäisen määritelmän, jota voidaan soveltaa myös tuleviin tekoälyjärjestelmiin.

Lue lisää parlamentin toimista tekoälyn alalla

Lue lisää tekoälyn tulevaisuudesta EU:ssa

Tekoälysäädös: eri säännöt eri tason riskeille

Uusissa säännöissä asetetaan velvoitteita tekoälyjärjestelmien valmistajille ja käyttäjille riippuen niiden aiheuttaman riskin suuruudesta. Monien tekoälyjärjestelmien aiheuttama riski on minimaalinen, mutta se pitää silti arvioida.

Ei hyväksyttävissä oleva riski

Jos tekoälyjärjestelmä aiheuttaa uhan ihmisille, sen riskiä ei voida pitää hyväksyttävänä, ja sen käyttö kielletään. Tällaisia järjestelmiä voivat olla esimerkiksi:

yksilöiden tai tiettyjen heikossa asemassa olevien ryhmien käytöksen manipuloiminen: esimerkiksi ääniaktivoituvat lelut, jotka kannustavat lapsia vaaralliseen käytökseen
sosiaalinen pisteytys: ihmisten jakaminen ryhmiin käytöksen, sosioekonomisen aseman tai henkilökohtaisten ominaisuuksien perusteella
luonnollisten henkilöiden biometrinen tunnistaminen ja luokittelu
reaaliaikainen ja etäisyydeltä tapahtuva biometristen tunnistusjärjestelmien käyttö, kuten kasvojentunnistus

Joitain poikkeuksia voidaan sallia lainvalvonnan tarkoituksiin. Reaaliaikaiset, etäisyydeltä toimivat biometriset tunnistusjärjetelmät sallitaan pienessä määrässä vakavia tapauksia, ja biometristen tunnistusjärjestelmien käyttö voidaan sallia tapauksissa, joissa tutkitaan vakavaa rikosta, tunnistaminen tapahtuu merkittävästi tapahtumien jälkeen ja käytölle on oikeuden päätös.

Suuri riski

Tekoälyjärjestelmät, jotka vaikuttavat kielteisesti turvallisuuteen tai perusoikeuksiin, luokitellaan suuririskisiksi. Ne jaetaan kahteen alakategoriaan.

1. Tekoälyjärjestelmät, joita käytetään EU:n tuoteturvallisuusdirektiivin alle kuuluvissa tuotteissa. Tähän kategoriaan kuuluvat esimerkiksi lelut, ilmailu, autot, lääkinnälliset laitteet ja hissit.

2. Tietyille aloille kuuluvat tekoälyjärjestelmät, jotka tulee rekisteröidä EU-tietokantaan:

kriittisen infrastruktuurin hallinta ja käsittely
yleissivistävä ja ammatillinen koulutus
työllistäminen, henkilöstöhallinto sekä itsenäisen ammatinharjoittamisen mahdollistaminen
olennaisten yksityisten palvelujen ja julkisten palvelujen ja etujen saatavuus ja käyttö
lainvalvonta
muuttoliikkeen hallinta, turvapaikka-asiat ja rajavalvonta
oikeudenhoito ja demokraattiset prosessit

Kaikki suuririskiset tekoälyjärjestelmät tulee arvioida ennen kuin ne pääsevät markkinoille sekä toistuvasti niiden koko elinkaaren ajan. Kansalaiset voivat lisäksi tehdä valituksia tekoälyjärjestelmistä määrätyille kansallisille viranomaisille.

Avoimuusvaatimukset

Generatiivista tai sisältöä tuottavaa tekoälyä, kuten ChatGPT:tä, ei luokitella suuren riskin järjestelmäksi, mutta sen tulee noudattaa tiettyjä avoimuusvaatimuksia sekä EU:n tekijänoikeuslakia, eli:

kertoa, että sisällön on tuottanut tekoäly
kehittää järjestelmä siten, että laittoman sisällön tuottaminen estetään
julkaista yhteenvetoja tekijänoikeuksin suojatusta datasta, jota käytetään kouluttamiseen

Yleiskäyttöiset tekoälyjärjestelmät, joilla on suuri vaikutus ja jotka voivat aiheuttaa järjestelmällistä uhkaa, kuten edistyneempi tekoälymalli GPT-4, joutuisivat läpikäymään perinpohjaisen selvityksen. Niiden tulee myös raportoida kaikista vakavista tapauksista komissiolle.

Tekoälyn luoma tai muokkaama sisältö (esimerkiksi kuvat, ääniraidat tai videot) tulee merkitä selvästi, jotta käyttäjät tietävät, milloin kuluttavat tekoälyyn pohjautuvaa sisältöä.

Innovaatioiden tukeminen

Laki pyrkii takaamaan pienille ja keskisuurille yrityksille ja startup-yrityksille mahdollisuuden kehittää ja kouluttaa tekoälymalleja ennen kuin ne julkaistaan yleisölle.

Sen vuoksi lakitekstissä vaaditaan, että kansalliset viranomaiset tarjoavat yrityksille tosielämää mukailevan testiympäristön.

Seuraavaksi

Parlamentti hyväksyi tekoälysäädöksen täysistunnossa maaliskuussa 2024, ja neuvosto puolestaan hyväksyi sen toukokuussa 2024. Lakia aletaan soveltaa täysin 24 kuukautta sen voimaan astumisen jälkeen, mutta osaa säännöistä tulee soveltaa jo aiemmin:

niiden tekoälyjärjestelmien, joiden riskiä ei voi hyväksyä, kieltoa tulee soveltaa kuusi kuukautta lain voimaanastumisen jälkeen
käytännesääntöjä sovelletaan yhdeksän kuukautta lain voimaanastumisen jälkeen
yleiskäyttöisiä tekoälyjärjestelmiä ja hallintoa koskevia sääntöjä sovelletaan 12 kuukautta lain voimaanastumisen jälkeen

Korkean riskin järjestelmillä on enemmän aikaa alkaa noudattaa lain vaatimuksia: niiden osalta sääntöjä sovelletaan 36 kuukautta lain voimaanastumisen jälkeen.

Lingvistijuristit tarkistavat vielä asetuksen. Virallisesti se hyväksytään ennen vaalikauden loppua niin sanotussa oikaisumenettelyssä. Myös neuvoston on vielä annettava virallinen hyväksyntänsä.