EU-parlamentti hyväksyi kantansa: tekoälyn käytön oltava turvallista ja avointa
- Biometrinen tunnistaminen, tunteiden tunnistaminen ja ennustava poliisitoiminta kiellettäisiin
- Sisältöä luovien järjestelmien, kuten ChatGPT:n, on kerrottava, kun sisältö on tekoälyn tuottamaa
- Vaaleissa äänestäjiin vaikuttavia tekoälyjärjestelmiä pidetään korkean riskin käyttökohteina
EU-parlamentti hyväksyi keskiviikkona kantansa sääntöihin, joilla pyritään hallitsemaan tekoälyn riskejä ja edistämään sen eettistä käyttöä.
Nyt kun parlamentin neuvottelukanta on hyväksytty, mepit voivat nyt aloittaa neuvottelut lain lopullisesta muodosta neuvoston kanssa. Laki pyrkii varmistamaan, että tekoälyn käyttö Euroopassa tapahtuu kansalaisten oikeuksia kunnioittaen ja EU:n arvojen mukaisesti, eli ihmisen valvomana, syrjimättömästi ja yksityisyyden suojan huomioiden.
Parlamentti hyväksyi kantansa äänin 499 puolesta, 28 vastaan ja 93 tyhjää.
Kielletyt käyttötavat
Säädös asettaa riskiperusteisia velvoitteita palveluntarjoajille tekoälyn eri käyttökohteiden riskitason mukaan. Tietyt käyttötavat, joiden riskitaso on korkein, kielletään kokonaan.
Neuvottelukannassaan mepit lisäsivät kiellettyjen käyttökohteiden listalle uusia kohtia:
- biometrinen etätunnistaminen julkisilla paikoilla reaaliajassa
- biometrinen etätunnistaminen jälkeenpäin, paitsi viranomaiskäytössä vakavien rikosten tutkimiseksi ja tuomioistuimen ennakkoluvalla
- arkaluonteisiin ominaisuuksiin (esim. sukupuoleen, etnisen taustaan, kansalaisuuteen, uskontoon tai poliittiseen kantaan) perustuva luokittelu
- ennakoiva poliisitoiminta eli rikosten ennustaminen profiloinnin, sijainnin tai aiemman käytön perusteella
- tunteiden tunnistusjärjestelmien käyttö lainvalvonnassa, rajavalvonnassa, työpaikoilla tai oppilaitoksissa
- kasvokuvien tai valvontakameramateriaalin laajamittainen ottaminen (”scraping”) verkkosivuilta kasvojentunnistustietokantojen luomiseksi.
Riskialttiit käyttötavat
Mepit haluavat, että korkeariskisiin käyttökohteisiin luetaan tekoälyjärjestelmät, jotka aiheuttavat merkittävän uhan ihmisten terveydelle, turvallisuudelle tai perusoikeuksille tai ympäristölle. He ehdottavat, että korkeariskiseen tekoälyyn lasketaan järjestelmät, jotka pyrkivät vaikuttamaan äänestämiseen ja vaaleihin. Lisäksi korkeariskisiksi järjestelmiksi katsottaisiin sosiaalisen median suosittelujärjestelmät yli 45 miljoonan käyttäjän alustoilla.
Velvoitteita sisältöä luovalle tekoälylle
Parlamentin kannan mukaan yleiskäyttöisen tekoälyn pohjalla olevien mallien kehittäjien on arvioitava ja ehkäistävä niihin liittyviä riskejä ja rekisteröitävä mallit EU-tietokantaan ennen niiden laajaa julkaisua.
He ehdottavat myös räätälöityjä sääntöjä generatiiviselle (eli sisältöä tuottavalle) tekoälylle, kuten ChatGPT:lle, jonka tuotokset on merkittävä selkeästi ja joka ei saa tuottaa laitonta sisältöä. Selkeillä merkinnöillä on tarkoitus estää myös tekoälyn luomien kuvien levittäminen aitoina.
Lisäksi kehittäjien tulisi julkaista tiivistelmä tekijänoikeuksien suojaaman sisällön käytöstä tällaisen mallin kouluttamisessa.
Tukea eettisille innovaatioille, suojaa perusoikeuksille
Tekoälyinnovaatioiden vauhdittamiseksi ja pienyritysten tueksi mepit ehdottavat lakiin poikkeuksia tutkimukselle ja avoimen lähdekoodin tekoälykomponenteille. Lisäksi laki edistää ns. hiekkalaatikkoja eli julkishallinnon luomia kokeiluympäristöjä, joissa tekoälyjärjestelmää voidaan testata ennen sen laajempaa käyttöönottoa.
Parlamentti haluaa kannassaan myös antaa kansalaisille yleisen oikeuden valittaa kansallisille viranomanisille tekoälyjärjestelmästä, joka rikkoo sääntöjä. Lisäksi kansalaisilla olisi oikeus saada selitys korkeariskisen tekoälyn päätöksistä, jotka vaikuttavat merkittävästi heidän perusoikeuksiinsa. Mepit myös laajensivat lakiin kuuluvan tekoälyviraston roolia. Se valvoisi sääntöjen noudattamista Euroopassa.
Lainsäädännön hyväksymisellä mepit edistävät kansalaisten ehdotuksia, jotka saatiin Euroopan tulevaisuuskonferenssista: tekoälyn käyttäminen ihmisten valvonnassa (loppupäätelmien kohta 35(3)), eettisen tekoälyn edistäminen (kohta 35(8)) ja tekoälyn sekä konekääntämisen käyttö kielimuurien ylittämiseen (kohta 37(3)).
Kommentit
Esittelijä Brando Benifei (S&D, Italia) sanoi: ”Tänään maailman katseet kohdistuvat meihin. Jopa suuret teknologiayhtiöt ovat varoittaneet ihmisiä luomustensa mahdollisista vaaroista, ja Euroopassa me olemme päättäneet puuttua konkreettisesti tekoälyn riskipotentiaaliin. Haluamme, että teknologian mahdollisuudet luovuuden ja tuottavuuden kirittämisessä voidaan hyödyntää. Samalla puolustaudumme vaaroilta, jotka kohdistuvat demokratiaan ja kansalaisvapauksiin. Tämä on kantamme, kun lähdemme neuvotteluihin jäsenmaiden kanssa.”
Toinen esittelijä Dragos Tudorache (Renew, Romania) sanoi: ”Tämä tekoälysäädös näyttää suuntaa teknologian kehitykselle ja hallintajärjestelmille koko maailmassa. Teknologia voi radikaalisti muuttaa yhteiskuntiamme ja tuoda merkittäviä etuja, ja nämä säännöt varmistavat, että tekoäly ja sen käyttö kehittyvät eurooppalaisen arvojen, eli demokratian, perusoikeuksien ja oikeusvaltion mukaisesti.”
Esittelijät ja parlamentin puhemies Roberta Metsola pitävät lehdistötilaisuuden 14.6. klo 13.30 CEST. Voit seurata sitä myös verkossa.
Seuraavaksi
Neuvottelut neuvoston kanssa lain lopullisesta muodosta voidaan nyt aloittaa.
Yhteystiedot:
-
Yasmina YAKIMOVA
Press Officer -
Janne OJAMO
Lehdistötiedottaja, Bryssel -
Niina SALORANTA
Lehdistötiedottaja, Helsinki