Предложение за резолюция - B9-0094/2020Предложение за резолюция
B9-0094/2020
Европейски парламент

ПРЕДЛОЖЕНИЕ ЗА РЕЗОЛЮЦИЯ относно автоматизираните процеси на вземане на решения: гарантиране на защитата на потребителите и на свободното движение на стоки и услуги

6.2.2020 - (2019/2915(RSP))

внесено вследствие на въпрос с искане за устен отговор B9‑XXXX/2020
внесен съгласно член 136, параграф 5 от Правилника за дейността

Петра Де Сутер
от името на комисията по вътрешния пазар и защита на потребителите


Процедура : 2019/2915(RSP)
Етапи на разглеждане в заседание
Етапи на разглеждане на документа :  
B9-0094/2020
Внесени текстове :
B9-0094/2020
Разисквания :
Гласувания :
Приети текстове :

B9‑0094/2020

Резолюция на Европейския парламент относно автоматизираните процеси на вземане на решения: гарантиране на защитата на потребителите и на свободното движение на стоки и услуги

(2019/2915(RSP))

Европейският парламент,

— като взе предвид своята резолюция от 12 февруари 2019 г. относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката[1],

— като взе предвид своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката[2],

— като взе предвид доклада, озаглавен „Отговорност за изкуствения интелект и други нововъзникващи цифрови технологии“ от експертната група на Комисията относно отговорността и новите технологии, публикуван на 21 ноември 2019 г.,

— като взе предвид доклада, озаглавен „Политически и инвестиционни препоръки за надежден изкуствен интелект“, публикуван на 26 юни 2019 г. от експертната група на високо равнище по въпросите на изкуствения интелект,

— като взе предвид документа, озаглавен „Етични насоки за надежден изкуствен интелект“, изготвен от експертната група на високо равнище на Комисията по въпросите на изкуствения интелект и публикуван на 8 април 2019 г., както и списък за оценка във връзка с надежден изкуствен интелект (ИИ),

— като взе предвид съобщението на Комисията от 8 април 2019 г. относно изграждането на доверие в ориентирания към човека изкуствен интелект (COM(2019) 0168),

— като взе предвид съобщението на Комисията от 7 декември 2018 г. относно координирания пран за изкуствения интелект (COM(2018) 0795),

— като взе предвид съобщението на Комисията от 25 април 2018 г. относно изкуствения интелект за Европа (COM(2018)0237),

— като взе предвид предложението за резолюция на комисията по вътрешния пазар и защита на потребителите,

— като взе предвид въпроса към Комисията относно автоматизираните процеси на вземане на решения:: гарантиране на защитата на потребителите и на свободното движение на стоки и услуги (O-000008/2020 – B9‑XXXX/2020),

— като взе предвид член 136, параграф 5 и член 132, параграф 2 от своя Правилник за дейността,

А. като има предвид, четехнологичният напредък в областта на изкуствения интелект, машинното самообучение, сложните системи, основани на алгоритми и автоматизираните процеси на вземане на решения се извършва с бързи темпове, и като има предвид, че свързаните с тези технологии приложения, възможности и предизвикателства са многобройни и засягат почти всички сектори на вътрешния пазар;

Б. като има предвид, че се очаква разработването на автоматизирани процеси на вземане на решения да допринесе значително за икономиката на знанието и да донесе ползи за обществото, наред с другото, чрез подобрени обществени услуги за потребителите чрез иновативни продукти и услуги, както и за предприятията – чрез оптимизиране на резултатите;

В. като има предвид, че използването и разработването на изкуствен интелект и автоматизирани процеси на вземане на решения създава също така предизвикателства за доверието и благосъстоянието на потребителите, особено по отношение на предоставянето на възможност на потребителите да идентифицират тези процеси, да разберат функционирането им, да вземат информирани решения за тяхното използване и да се откажат от използването им;

Г. като има предвид, че етични насоки, като например принципите, приети от експертната група на високо равнище на Комисията по въпросите на изкуствения интелект, представляват отправна точка; като има предвид обаче, че е необходимо да се прецени дали действащата правна уредба на ЕС, включително достиженията на правото в областта на защитата на потребителите, законодателството в областта на защитата на данните, безопасността на продуктите и законодателството в областта на надзора на пазара е в състояние да отговори на появата на изкуствения интелект и автоматизираното вземане на решения и да осигури високо равнище на защита на потребителите, както се изисква съгласно член 38 от Хартата на основните права на ЕС;

Д. като има предвид, че общ подход на ЕС към разработването на автоматизирани процеси на вземане на решения ще спомогне за гарантиране на ползите от тези процеси и ще намали рисковете в целия ЕС, ще избегне фрагментирането на вътрешния пазар и ще даде възможност на ЕС да популяризира по-добре своя подход и своите ценности по света;

Избор на потребителите, доверие и благосъстояние

1. приветства потенциала на автоматизираното вземане на решения за предоставяне на потребителите на новаторски и подобрени услуги, включително нови цифрови услуги като виртуални асистенти и разговори; счита обаче, че когато потребителите взаимодействат със система, която автоматизира вземането на решения, те следва да бъдат подходящо информирани относно начина, по който системата функционира, начина за достигане до човек с правомощия за вземане на решения, както и относно начина, по който решенията на системата могат да бъдат проверявани и коригирани;

2. настоятелно призовава Комисията да наблюдава отблизо прилагането на новите правила, установени от Директивата по отношение на по-доброто прилагане и модернизирането на правилата за защита на потребителите в Съюза[3], които изискват търговците да информират потребителите, в случай че цените на стоките или услугите са били персонализирани въз основа на автоматизирано вземане на решения и профилиране на поведението на потребителите, което позволява на търговците да оценяват покупателната способност на потребителите;

3. настоятелно призовава Комисията да наблюдава отблизо прилагането на Регламента относно  блокирането на географски принцип[4], за да гарантира, че автоматичното вземане на решения не се използва за прилагане на дискриминация по отношение на потребителите въз основа на тяхната националност, място на пребиваване или временно местонахождение;

4. насърчава Комисията да наблюдава дали наложените на търговците задължения предоставят на потребителите възможност за вземане на решения и им предлагат достатъчна защита;  призовава Комисията да провери дали са налице регулаторни пропуски и да проучи дали са необходими допълнителни мерки, за да се гарантира солиден набор от права за защита на потребителите в контекста на изкуствения интелект и автоматизираното вземане на решения;

5. отбелязва, че автоматизираните системи за вземане на решения се използват от редица цифрови платформи за разрешаване на спорове между потребители и търговци чрез алтернативни механизми за разрешаване на спорове; призовава Комисията да гарантира, че всяко предстоящо преразглеждане на Директива 2013/11/ЕС за алтернативно решаване на потребителски спорове[5] и Регламент (ЕС) № 524/2013 относно онлайн решаване на потребителски спорове[6] взема предвид използването на автоматизирано вземане на решения и гарантира, че контролът продължава да се упражнява от човек;

Уредба за безопасност и отговорност за продуктите

6. подчертава, че уредбата на ЕС за безопасност на продуктите задължава предприятията да гарантират, че на пазара се пускат само безопасни и съответстващи на изискванията продукти; признава, че появата на продукти с функции за автоматизирано вземане на решения създава нови предизвикателства, тъй като тези продукти могат да еволюират и да действат по начини, които не са били предвидени при първоначалното им пускане на пазара; настоятелно призовава Комисията да представи предложения за адаптиране на правилата на ЕС за безопасност на продуктите, съдържащи се в специално законодателство на ЕС, в което се определят хармонизирани изисквания, включително Директивата относно машините[7], Директивата относно безопасността на детските играчки[8], Директивата за радиосъоръженията[9] и Директивата за ниското напрежение[10], както и за „нехармонизираните продукти“, обхванати от Директивата относно общата безопасност на продуктите[11], така че да се гарантира, че новите правила са подходящи за целта, че ползвателите и потребителите са защитени от вреди, че производителите са информирани относно задълженията сии че ползвателите разполагат с информация относно начина на използване на продуктите с автоматизирани способности за вземане на решения ;

7. подчертава необходимостта от основан на риска подход към регулирането, с оглед на разнообразния характер и сложност на предизвикателствата, породени от различните видове и приложения на изкуствения интелект и на автоматизираните системи за вземане на решения; призовава Комисията да разработи схема за оценка на риска, свързан с изкуствения интелект и автоматизираното вземане на решения, за да се гарантира последователен подход към прилагането на законодателството в областта на безопасността на продуктите в рамките на вътрешния пазар; подчертава, че държавите членки трябва да разработят хармонизирани стратегии за управление на риска, свързан с изкуствения интелект в контекста на своите национални стратегии за надзор на пазара;

8. отбелязва, че Директивата относно отговорността за вреди[12] предоставя от повече от 30 години ценна спасителна мрежа за защита на потребителите от вреди, причинени от дефектни продукти;  признава трудността при определянето на отговорността, когато вредата за потребителите е причинена от процеси на самостоятелно вземане на решения; призовава Комисията да преразгледа посочената директива и да разгледа възможността за адаптиране на понятия като „продукт“, „вреда“ и „дефект“, както и  за адаптиране на правилата, уреждащи тежестта на доказване; настоятелно призовава Комисията, ако е необходимо, да представи предложения за актуализиране на посочените понятия и правила;

Регулаторна уредба за услугите

9. припомня, че действащата регулаторна уредба за услугите, включваща Директивата за услугите[13], Директивата за професионалните квалификации[14], Директивата за проверка на пропорционалността[15], Директивата за електронната търговия[16] и Общия регламент относно защитата на данните ( ОРЗД ), [17]вече обхваща много аспекти на политиката, които са от значение за услугите и включват автоматизирани процеси на вземане на решения, включително правила относно защита на потребителите, етика и отговорност; отбелязва, че посочените правила следва да се прилагат както за традиционните услуги, така и за услугите, включващи автоматизирани процеси на вземане на решения;

10. подчертава, че макар автоматизираните процеси на вземане на решения да могат да подобрят ефикасносттаи точността на услугите, хората винаги трябва да носят крайната отговорност и да могат да отменят решения, взети в контекста на професионалните услуги, като например медицинските, правните и счетоводните професии, както и на банковия сектор; припомня значението на надзора или независимия надзор от страна на квалифицирани специалисти в случаи на автоматизирано вземане на решения, когато става въпрос за законни обществени интереси;

11. подчертава важността на правилното оценяване на рисковете преди автоматизирането на професионалните услуги, в съответствие с Директивата за проверка на пропорционалността,  настоятелно призовава компетентните органи на държавите членки да гарантират, че професионалното обучение отчита научния напредък в областта на автоматизираното вземане на решения;

Качество и прозрачност в управлението на данните

12. отбелязва, че автоматизираните системи за вземане на решения се основават на събирането на големи обеми от данни и счита, че регламентът относно свободното движение на нелични данни[18] ще помогне за осигуряването на достъп до повече данни в ЕС, като по този начин ще се създадат условия за създаването на новаторски основани на данни услуги; в това отношение признава потенциала на обмена на данни не само от публични, но и от частни източници, като същевременно подчертава необходимостта от защита на личните данни съгласно Общия регламент относно защитата на данните; подчертава необходимостта да се използват единствено висококачествени и нефалшифицирани  масиви от данни, за да се подобри производството на алгоритмични системи и да се повиши доверието и приемането от страна на потребителите;

13. подчертава, че с оглед на значителното въздействие, което автоматизираните системи за вземане на решения могат да окажат върху потребителите, особено тези в уязвимо положение, е важно тези системи не само да използват висококачествени и нефалшифицирани масиви от данни, но и да си служат с разбираеми и нефалшифицирани алгоритми; счита, че са необходими структури за преразглеждане в рамките на бизнес процесите, за да се отстранят евентуални грешки при автоматизираното вземане на решения, както и че следва да е възможно потребителите да изискват преразглеждане от човек, както и правна защита по отношение на окончателни и постоянни автоматизирани решения;

14. подчертава, че за да се оцени дали продуктите с автоматизиран капацитет за вземане на решения са в съответствие с приложимите правила за безопасност, е от съществено значение алгоритмите, стоящи зад тези способности, да имат достатъчно равнище на прозрачност и да бъдат разбираеми за органите по надзор на пазара; приканва Комисията да прецени дали на органите по надзор на пазара следва да бъдат предоставени допълнителни правомощия в това отношение;

15. призовава Комисията да наблюдава отблизо прилагането на Регламента за бизнес ползвателите на посреднически онлайн услуги[19], особено правилата относно прозрачността на класациите, които включват използването на автоматизирани процеси на вземане на решения;

16. възлага на своя председател да предаде настоящата резолюция съответно на Съвета, Комисията и социалните партньори.

 

Последно осъвременяване: 7 февруари 2020 г.
Правна информация - Политика за поверителност