Процедура : 2019/2915(RSP)
Етапи на разглеждане в заседание
Етапи на разглеждане на документа : B9-0094/2020

Внесени текстове :

B9-0094/2020

Разисквания :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Гласувания :

PV 12/02/2020 - 11.8
Обяснение на вота

Приети текстове :

P9_TA(2020)0032

<Date>{06/02/2020}6.2.2020</Date>
<NoDocSe>B9‑0094/2020</NoDocSe>
PDF 182kWORD 54k

<TitreType>ПРЕДЛОЖЕНИЕ ЗА РЕЗОЛЮЦИЯ</TitreType>

<TitreSuite>внесено вследствие на въпрос с искане за устен отговор B9‑XXXX/2020</TitreSuite>

<TitreRecueil>внесен съгласно член 136, параграф 5 от Правилника за дейността</TitreRecueil>


<Titre>относно автоматизираните процеси на вземане на решения: гарантиране на защитата на потребителите и на свободното движение на стоки и услуги</Titre>

<DocRef>(2019/2915(RSP))</DocRef>


<RepeatBlock-By><Depute>Петра Де Сутер</Depute>

<Commission>{IMCO}от името на комисията по вътрешния пазар и защита на потребителите</Commission>

</RepeatBlock-By>

ИЗМЕНЕНИЯ

B9‑0094/2020

Резолюция на Европейския парламент относно автоматизираните процеси на вземане на решения: гарантиране на защитата на потребителите и на свободното движение на стоки и услуги

(2019/2915(RSP))

Европейският парламент,

 като взе предвид своята резолюция от 12 февруари 2019 г. относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката[1],

 като взе предвид своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката[2],

 като взе предвид доклада, озаглавен „Отговорност за изкуствения интелект и други нововъзникващи цифрови технологии“ от експертната група на Комисията относно отговорността и новите технологии, публикуван на 21 ноември 2019 г.,

 като взе предвид доклада, озаглавен „Политически и инвестиционни препоръки за надежден изкуствен интелект“, публикуван на 26 юни 2019 г. от експертната група на високо равнище по въпросите на изкуствения интелект,

 като взе предвид документа, озаглавен „Етични насоки за надежден изкуствен интелект“, изготвен от експертната група на високо равнище на Комисията по въпросите на изкуствения интелект и публикуван на 8 април 2019 г., както и списък за оценка във връзка с надежден изкуствен интелект (ИИ),

 като взе предвид съобщението на Комисията от 8 април 2019 г. относно изграждането на доверие в ориентирания към човека изкуствен интелект (COM(2019) 0168),

 като взе предвид съобщението на Комисията от 7 декември 2018 г. относно координирания пран за изкуствения интелект (COM(2018) 0795),

 като взе предвид съобщението на Комисията от 25 април 2018 г. относно изкуствения интелект за Европа (COM(2018)0237),

 като взе предвид предложението за резолюция на комисията по вътрешния пазар и защита на потребителите,

 като взе предвид въпроса към Комисията относно автоматизираните процеси на вземане на решения:: гарантиране на защитата на потребителите и на свободното движение на стоки и услуги (O-000008/2020 – B9‑XXXX/2020),

 като взе предвид член 136, параграф 5 и член 132, параграф 2 от своя Правилник за дейността,

А. като има предвид, четехнологичният напредък в областта на изкуствения интелект, машинното самообучение, сложните системи, основани на алгоритми и автоматизираните процеси на вземане на решения се извършва с бързи темпове, и като има предвид, че свързаните с тези технологии приложения, възможности и предизвикателства са многобройни и засягат почти всички сектори на вътрешния пазар;

Б. като има предвид, че се очаква разработването на автоматизирани процеси на вземане на решения да допринесе значително за икономиката на знанието и да донесе ползи за обществото, наред с другото, чрез подобрени обществени услуги за потребителите чрез иновативни продукти и услуги, както и за предприятията – чрез оптимизиране на резултатите;

В. като има предвид, че използването и разработването на изкуствен интелект и автоматизирани процеси на вземане на решения създава също така предизвикателства за доверието и благосъстоянието на потребителите, особено по отношение на предоставянето на възможност на потребителите да идентифицират тези процеси, да разберат функционирането им, да вземат информирани решения за тяхното използване и да се откажат от използването им;

Г. като има предвид, че етични насоки, като например принципите, приети от експертната група на високо равнище на Комисията по въпросите на изкуствения интелект, представляват отправна точка; като има предвид обаче, че е необходимо да се прецени дали действащата правна уредба на ЕС, включително достиженията на правото в областта на защитата на потребителите, законодателството в областта на защитата на данните, безопасността на продуктите и законодателството в областта на надзора на пазара е в състояние да отговори на появата на изкуствения интелект и автоматизираното вземане на решения и да осигури високо равнище на защита на потребителите, както се изисква съгласно член 38 от Хартата на основните права на ЕС;

Д. като има предвид, че общ подход на ЕС към разработването на автоматизирани процеси на вземане на решения ще спомогне за гарантиране на ползите от тези процеси и ще намали рисковете в целия ЕС, ще избегне фрагментирането на вътрешния пазар и ще даде възможност на ЕС да популяризира по-добре своя подход и своите ценности по света;

Избор на потребителите, доверие и благосъстояние

1. приветства потенциала на автоматизираното вземане на решения за предоставяне на потребителите на новаторски и подобрени услуги, включително нови цифрови услуги като виртуални асистенти и разговори; счита обаче, че когато потребителите взаимодействат със система, която автоматизира вземането на решения, те следва да бъдат подходящо информирани относно начина, по който системата функционира, начина за достигане до човек с правомощия за вземане на решения, както и относно начина, по който решенията на системата могат да бъдат проверявани и коригирани;

2. настоятелно призовава Комисията да наблюдава отблизо прилагането на новите правила, установени от Директивата по отношение на по-доброто прилагане и модернизирането на правилата за защита на потребителите в Съюза[3], които изискват търговците да информират потребителите, в случай че цените на стоките или услугите са били персонализирани въз основа на автоматизирано вземане на решения и профилиране на поведението на потребителите, което позволява на търговците да оценяват покупателната способност на потребителите;

3. настоятелно призовава Комисията да наблюдава отблизо прилагането на Регламента относно  блокирането на географски принцип[4], за да гарантира, че автоматичното вземане на решения не се използва за прилагане на дискриминация по отношение на потребителите въз основа на тяхната националност, място на пребиваване или временно местонахождение;

4. насърчава Комисията да наблюдава дали наложените на търговците задължения предоставят на потребителите възможност за вземане на решения и им предлагат достатъчна защита;  призовава Комисията да провери дали са налице регулаторни пропуски и да проучи дали са необходими допълнителни мерки, за да се гарантира солиден набор от права за защита на потребителите в контекста на изкуствения интелект и автоматизираното вземане на решения;

5. отбелязва, че автоматизираните системи за вземане на решения се използват от редица цифрови платформи за разрешаване на спорове между потребители и търговци чрез алтернативни механизми за разрешаване на спорове; призовава Комисията да гарантира, че всяко предстоящо преразглеждане на Директива 2013/11/ЕС за алтернативно решаване на потребителски спорове[5] и Регламент (ЕС) № 524/2013 относно онлайн решаване на потребителски спорове[6] взема предвид използването на автоматизирано вземане на решения и гарантира, че контролът продължава да се упражнява от човек;

Уредба за безопасност и отговорност за продуктите

6. подчертава, че уредбата на ЕС за безопасност на продуктите задължава предприятията да гарантират, че на пазара се пускат само безопасни и съответстващи на изискванията продукти; признава, че появата на продукти с функции за автоматизирано вземане на решения създава нови предизвикателства, тъй като тези продукти могат да еволюират и да действат по начини, които не са били предвидени при първоначалното им пускане на пазара; настоятелно призовава Комисията да представи предложения за адаптиране на правилата на ЕС за безопасност на продуктите, съдържащи се в специално законодателство на ЕС, в което се определят хармонизирани изисквания, включително Директивата относно машините[7], Директивата относно безопасността на детските играчки[8], Директивата за радиосъоръженията[9] и Директивата за ниското напрежение[10], както и за „нехармонизираните продукти“, обхванати от Директивата относно общата безопасност на продуктите[11], така че да се гарантира, че новите правила са подходящи за целта, че ползвателите и потребителите са защитени от вреди, че производителите са информирани относно задълженията сии че ползвателите разполагат с информация относно начина на използване на продуктите с автоматизирани способности за вземане на решения ;

7. подчертава необходимостта от основан на риска подход към регулирането, с оглед на разнообразния характер и сложност на предизвикателствата, породени от различните видове и приложения на изкуствения интелект и на автоматизираните системи за вземане на решения; призовава Комисията да разработи схема за оценка на риска, свързан с изкуствения интелект и автоматизираното вземане на решения, за да се гарантира последователен подход към прилагането на законодателството в областта на безопасността на продуктите в рамките на вътрешния пазар; подчертава, че държавите членки трябва да разработят хармонизирани стратегии за управление на риска, свързан с изкуствения интелект в контекста на своите национални стратегии за надзор на пазара;

8. отбелязва, че Директивата относно отговорността за вреди[12] предоставя от повече от 30 години ценна спасителна мрежа за защита на потребителите от вреди, причинени от дефектни продукти;  признава трудността при определянето на отговорността, когато вредата за потребителите е причинена от процеси на самостоятелно вземане на решения; призовава Комисията да преразгледа посочената директива и да разгледа възможността за адаптиране на понятия като „продукт“, „вреда“ и „дефект“, както и  за адаптиране на правилата, уреждащи тежестта на доказване; настоятелно призовава Комисията, ако е необходимо, да представи предложения за актуализиране на посочените понятия и правила;

Регулаторна уредба за услугите

9. припомня, че действащата регулаторна уредба за услугите, включваща Директивата за услугите[13], Директивата за професионалните квалификации[14], Директивата за проверка на пропорционалността[15], Директивата за електронната търговия[16] и Общия регламент относно защитата на данните ( ОРЗД ), [17]вече обхваща много аспекти на политиката, които са от значение за услугите и включват автоматизирани процеси на вземане на решения, включително правила относно защита на потребителите, етика и отговорност; отбелязва, че посочените правила следва да се прилагат както за традиционните услуги, така и за услугите, включващи автоматизирани процеси на вземане на решения;

10. подчертава, че макар автоматизираните процеси на вземане на решения да могат да подобрят ефикасносттаи точността на услугите, хората винаги трябва да носят крайната отговорност и да могат да отменят решения, взети в контекста на професионалните услуги, като например медицинските, правните и счетоводните професии, както и на банковия сектор; припомня значението на надзора или независимия надзор от страна на квалифицирани специалисти в случаи на автоматизирано вземане на решения, когато става въпрос за законни обществени интереси;

11. подчертава важността на правилното оценяване на рисковете преди автоматизирането на професионалните услуги, в съответствие с Директивата за проверка на пропорционалността,  настоятелно призовава компетентните органи на държавите членки да гарантират, че професионалното обучение отчита научния напредък в областта на автоматизираното вземане на решения;

Качество и прозрачност в управлението на данните

12. отбелязва, че автоматизираните системи за вземане на решения се основават на събирането на големи обеми от данни и счита, че регламентът относно свободното движение на нелични данни[18] ще помогне за осигуряването на достъп до повече данни в ЕС, като по този начин ще се създадат условия за създаването на новаторски основани на данни услуги; в това отношение признава потенциала на обмена на данни не само от публични, но и от частни източници, като същевременно подчертава необходимостта от защита на личните данни съгласно Общия регламент относно защитата на данните; подчертава необходимостта да се използват единствено висококачествени и нефалшифицирани  масиви от данни, за да се подобри производството на алгоритмични системи и да се повиши доверието и приемането от страна на потребителите;

13. подчертава, че с оглед на значителното въздействие, което автоматизираните системи за вземане на решения могат да окажат върху потребителите, особено тези в уязвимо положение, е важно тези системи не само да използват висококачествени и нефалшифицирани масиви от данни, но и да си служат с разбираеми и нефалшифицирани алгоритми; счита, че са необходими структури за преразглеждане в рамките на бизнес процесите, за да се отстранят евентуални грешки при автоматизираното вземане на решения, както и че следва да е възможно потребителите да изискват преразглеждане от човек, както и правна защита по отношение на окончателни и постоянни автоматизирани решения;

14. подчертава, че за да се оцени дали продуктите с автоматизиран капацитет за вземане на решения са в съответствие с приложимите правила за безопасност, е от съществено значение алгоритмите, стоящи зад тези способности, да имат достатъчно равнище на прозрачност и да бъдат разбираеми за органите по надзор на пазара; приканва Комисията да прецени дали на органите по надзор на пазара следва да бъдат предоставени допълнителни правомощия в това отношение;

15. призовава Комисията да наблюдава отблизо прилагането на Регламента за бизнес ползвателите на посреднически онлайн услуги[19], особено правилата относно прозрачността на класациите, които включват използването на автоматизирани процеси на вземане на решения;

16. възлага на своя председател да предаде настоящата резолюция съответно на Съвета, Комисията и социалните партньори.

 

[1]  Приети текстове, P8_TA(2019)0081.

[2]  ОВ L 252, 20.11.2010 г., стр. 239.

[3]  Директива (ЕС) на Европейския парламент и на Съвета от 27 ноември 2019 година за изменение на Директива 93/13/ЕИО на Съвета и на директиви 98/6/ЕО, 2005/29/ЕО и 2011/83/ЕС на Европейския парламент и на Съвета по отношение на по-доброто прилагане и модернизирането на правилата за защита на потребителите в Съюза, OВ L 328, 18.12.2019 г., стp. 7.

[4]  Регламент (EС) № 2018/302 на Европейския парламент и на Съвета от 28 февруари 2018 г. за преодоляване на необоснованото блокиране на географски принцип и на други форми на дискриминация въз основа на националността, местопребиваването или мястото на установяване на клиентите в рамките на вътрешния пазар и за изменение на регламенти (ЕО) № 2006/2004 и (ЕС) 2017/2394 и Директива 2009/22/ЕО, ОВ L 60 I, 2.3.2018 г., стр. 1.

[5]  ОВ L 165, 18.6.2013 г, стр. 63.

[6]  ОВ L 165, 18.6.2013 г, стр. 1.

[7]  Директива 2006/42/ЕО на Европейския парламент и на Съвета от 17 май 2006 г. относно машините и за изменение на Директива 95/16/ЕО (преработен текст), ОВ L 157, 9.6.2006 г., стр. 24.

[8]  Директива 2009/48/ЕО на Европейския парламент и на Съвета от 18 юни 2009 г. относно безопасността на детските играчки, ОВ L 170, 30.6.2009 г., стр. 1.

[9]  Директива 2014/53/ЕС на Европейския парламент и на Съвета от 16 април 2014 г. за хармонизиране на законодателствата на държавите членки във връзка с предоставянето на пазара на радиосъоръжения и за отмяна на Директива 1999/5/ЕО, ОВ L 153, 22.5.2014 г., стр. 62.

[10]  Директива 2014/35/ЕС на Европейския парламент и на Съвета от 26 февруари 2014 г. за хармонизиране на законодателствата на държавите членки за предоставяне на пазара на електрически съоръжения, предназначени за използване в определени граници на напрежението, ОВ L 96, 29.3.2014 г., стр. 357.

[11]  Директива 2001/95/ЕО на Европейския парламент и на Съвета от 3 декември 2001 г. относно общата безопасност на продуктите, ОВ L 11, 15.1.2002 г., стр. 4.

[12]  Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите членки относно отговорността за вреди, причинени от дефект на стока, ОВ L 210, 7.8.1985 г., стр. 29.

[13]  Директива 2006/123/ЕО на Европейския парламент и на Съвета от 12 декември 2006 г. относно услугите на вътрешния пазар, ОВ L 376, 27.12.2006 г., стр. 36.

[14]  Директива 2013/55/ЕС на Европейския парламент и на Съвета от 20 ноември 2013 г. за изменение на Директива 2005/36/ЕО относно признаването на професионалните квалификации и на Регламент (ЕС) № 1024/2012 относно административно сътрудничество посредством Информационната система за вътрешния пазар ( „Регламент за ИСВП“), ОВ L 354, 28.12.2013 г., стр. 132.

[15]  Директива (ЕС) 2018/958 на Европейския парламент и на Съвета от 28 юни 2018 година относно проверката за пропорционалност преди приемането на ново регулиране на професии, OВ L 173, 9.7.2018 г., стр. 25.

[16]  Директива 2000/31/ЕО на Европейския парламент и на Съвета от 8 юни 2000 г. за някои правни аспекти на услугите на информационното общество, и по-специално на електронната търговия на вътрешния пазар (Директива за електронната търговия), ОВ L 178, 17.7.2000 г., стр. 1.

[17]  Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 година относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните), ОВ L 119, 4.5.2016 г., стр. 1.

[18]  Регламент (ЕС) 2018/1807 на Европейския парламент и на Съвета от 14 ноември 2018 година относно рамка за свободното движение на нелични данни в Европейския съюз, OВ L 303, 28.11.2018 г., стр. 59.

[19] Регламент (ЕС) 2019/1150 на Европейския парламент и на Съвета от 20 юни 2019 г. за насърчаване на справедливост и прозрачност за бизнес ползвателите на посреднически онлайн услуги, OВ L 186, 11.7.2019 г., стр. 57.

Последно осъвременяване: 7 февруари 2020 г.Правна информация - Политика за поверителност