Показалец 
 Назад 
 Напред 
 Пълен текст 
Процедура : 2021/0106(COD)
Етапи на разглеждане в заседание
Етапи на разглеждане на документа : A9-0188/2023

Внесени текстове :

A9-0188/2023

Разисквания :

PV 13/06/2023 - 8
CRE 13/06/2023 - 8

Гласувания :

PV 14/06/2023 - 10.6
CRE 14/06/2023 - 10.6
Обяснение на вота
PV 13/03/2024 - 8.2
Обяснение на вота

Приети текстове :

P9_TA(2023)0236
P9_TA(2024)0138

Приети текстове
PDF 1192kWORD 314k
Сряда, 14 юни 2023 г. - Страсбург
Законодателен акт за изкуствения интелект
P9_TA(2023)0236A9-0188/2023

Изменения, приети от Европейския парламент на 14 юни 2023 г. към предложението за регламент на Европейския парламент и на Съвета за определяне на хармонизирани правила относно изкуствения интелект (Законодателен акт за изкуствения интелект) и за изменение на някои законодателни актове на Съюза (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))(1)

(Обикновена законодателна процедура: първо четене)

Текст, предложен от Комисията   Изменение
Изменение 1
Предложение за регламент
Позоваване 4 a (ново)
като взеха предвид становището на Европейската централна банка,
Изменение 2
Предложение за регламент
Позоваване 4 б (ново)
като взеха предвид становището на Европейския комитет по защита на данните и Европейския надзорен орган по защита на данните,
Изменение 3
Предложение за регламент
Съображение 1
(1)  Целта на настоящия регламент е да се подобри функционирането на вътрешния пазар чрез установяване на единна правна рамка, по-специално за разработването, предлагането на пазара и използването на изкуствен интелект в съответствие с ценностите на Съюза. Настоящият регламент се ръководи от няколко императивни съображения от обществен интерес, като например високо равнище на защита на здравето, безопасността и основните права и с него се гарантира свободното трансгранично движение на стоки и услуги на базата на ИИ, като по този начин не се допуска държавите членки да налагат ограничения върху разработването, предлагането на пазара и използването на системи с ИИ, освен ако това е изрично разрешено от настоящия регламент.
 (1)  Целта на настоящия регламент е да се насърчи навлизането на ориентиран към човека, надежден, сигурен и устойчив изкуствен интелект, както и да се осигури високо равнище на защита на здравето, безопасността, основните права, демокрацията и принципите на правовата държава, и на околната среда от вредното въздействие на системите с изкуствен интелект в Съюза, като същевременно се оказва подкрепа за иновациите и подобряването на функционирането на вътрешния пазар. Настоящият регламент установява единна правна рамка, по-специално за разработването, пускането на пазара, въвеждането в експлоатация и използването на изкуствен интелект в съответствие с ценностите на Съюза и гарантира свободното трансгранично движение на стоки и услуги на базата на ИИ, като по този начин не се допуска държавите членки да налагат ограничения върху разработването, предлагането на пазара и използването на системи с изкуствен интелект (системи с ИИ), освен ако това е изрично разрешено от настоящия регламент. Някои системи с ИИ могат да окажат въздействие и върху демокрацията и принципите на правовата държава и околната среда. Тези опасения са конкретно разгледани в секторите с решаващо значение и случаите на използване, изброени в приложенията към настоящия регламент.
Изменение 4
Предложение за регламент
Съображение 1 a (ново)
(1a)  Настоящият регламент следва да пази ценностите на Съюза, като улеснява разпространението на ползите от изкуствения интелект в обществото, защитава хората, дружествата, демокрацията и принципите на правовата държава, и околната среда от рисковете, като същевременно засилва иновациите и заетостта и като превърне Европа в лидер в тази сфера.
Изменение 5
Предложение за регламент
Съображение 2
(2)  Системите с изкуствен интелект (системи с ИИ) могат лесно да бъдат внедрени в множество сектори на икономиката и сфери на обществото, включително в трансграничен план, и да се ползват от свободно движение в целия Съюз. Някои държави членки вече са проучили възможността за приемане на национални правила, за да гарантират, че изкуственият интелект е безопасен и се разработва и използва в съответствие със задълженията, свързани с основните права. Различаващите се национални правила могат да доведат до фрагментиране на вътрешния пазар и да намалят правната сигурност за операторите, които разработват или използват системи с ИИ. Поради това следва да се гарантира еднакво и високо равнище на защита в целия Съюз, като същевременно следва да се предотвратят различията, възпрепятстващи свободното движение на системи с ИИ и свързани с тях продукти и услуги в рамките на вътрешния пазар, като за целта се определят еднакви задължения за операторите и се гарантира еднаква защита на императивните съображения от обществен интерес и на правата на лицата на целия вътрешен пазар на основание член 114 от Договора за функционирането на Европейския съюз (ДФЕС). Доколкото настоящият регламент съдържа специални правила за защита на физическите лица по отношение на обработването на лични данни във връзка с ограниченията за използването на системи с ИИ за дистанционна биометрична идентификация в реално време на обществено достъпни места за целите на правоприлагането, е целесъобразно правното основание на настоящия регламент, що се отнася до тези специфични правила, да бъде член 16 от ДФЕС. С оглед на тези специфични правила и защитата съгласно член 16 от ДФЕС е целесъобразно да се проведе консултация с Европейския комитет по защита на данните.
 (2)  Системите с ИИ могат лесно да бъдат внедрени в множество сектори на икономиката и сфери на обществото, включително в трансграничен план, и да се ползват от свободно движение в целия Съюз. Някои държави членки вече са проучили възможността за приемане на национални правила, за да гарантират, че изкуственият интелект е надежден и безопасен и се разработва и използва в съответствие със задълженията, свързани с основните права. Различаващите се национални правила могат да доведат до фрагментиране на вътрешния пазар и да намалят правната сигурност за операторите, които разработват или използват системи с ИИ. Поради това следва да се гарантира еднакво и високо равнище на защита в целия Съюз, за да се постигне надежден ИИ, като същевременно следва да се предотвратят различията, възпрепятстващи свободното движение, иновациите, внедряването и навлизането на системи с ИИ и свързани с тях продукти и услуги в рамките на вътрешния пазар, като за целта се определят еднакви задължения за операторите и се гарантира еднаква защита на императивните съображения от обществен интерес и на правата на лицата на целия вътрешен пазар на основание член 114 от Договора за функционирането на Европейския съюз (ДФЕС).
Изменение 6
Предложение за регламент
Съображение 2a (ново)
(2a)  Тъй като изкуственият интелект често разчита на обработката на големи обеми от данни, а много системи и приложения с ИИ – на обработката на лични данни, е уместно настоящият регламент да се основава на член 16 от ДФЕС, в който се утвърждава правото защита на физически лица по отношение на обработването на лични данни и се предвижда приемането на правила за защита на лицата по отношение на обработването на лични данни.
Изменение 7
Предложение за регламент
Съображение 2б (ново)
(2б)  Основното право на защита на личните данни се пази по-специално от регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и Директива 2016/680. Освен това Директива 2002/58/ЕО допълнително защитава личния живот и поверителността на съобщенията, включително като предвижда условия за съхраняване на лични и нелични данни в крайните устройства и за достъп от тях. Тези правни актове предоставят основата за устойчиво и отговорно обработване на данни, включително когато наборите от данни съдържат комбинация от лични и нелични данни. Настоящият регламент няма за цел да засегне прилагането на съществуващото право на Съюза, уреждащо обработването на лични данни, включително задачите и правомощията на независимите надзорни органи, компетентни да следят за спазването на тези инструменти. Настоящият регламент не засяга основните права на личен живот и защита на личните данни, предвидени в правото на Съюза относно защитата на данните и неприкосновеността на личния живот и залегнали в Хартата на основните права на Европейския съюз („Хартата“).
Изменение 8
Предложение за регламент
Съображение 2в (ново)
(2в)  Системите с изкуствен интелект в Съюза са предмет на съответното законодателство в областта на безопасността на продуктите, което осигурява рамка за защита на потребителите срещу опасни продукти като цяло, и това законодателство следва да продължи да се прилага. Настоящият регламент също така не засяга правилата, установени в други правни актове на Съюза, уреждащи защитата на потребителите и безопасността на продуктите, включително Регламент (ЕС) 2017/2394, Регламент (ЕС) 2019/1020 и Директива 2001/95/ЕО относно общата безопасност на продуктите и Директива 2013/11/ЕС.
Изменение 9
Предложение за регламент
Съображение 2г (ново)
(2г)  В съответствие с член 114 2 от ДФЕС настоящият регламент допълва и следва да не накърнява правата и интересите на заетите лица. Следователно настоящият регламент не следва да засяга правото на Съюза относно социалната политика и националното трудово законодателство и практика, тоест всяка законова и договорна разпоредба относно условията на заетост, условията на труд, включително здравето и безопасността на работното място и отношенията между работодатели и работници, включително информация, консултации и участие. Настоящият регламент не следва да засяга упражняването на основни права, признати от държавите членки и на равнището на Съюза, включително правото или свободата да се стачкува или да се предприемат други действия, обхванати от специфичните системи на колективни трудови правоотношения в държавите членки в съответствие с националното право и/или националната практика. Също така той не следва да засяга практиките на съгласуване, правото на договаряне, сключване и гарантирано изпълнение на колективни трудови договори или правото на предприемане на колективни действия в съответствие с националното право и/или практика. Това в никакъв случай не следва да пречи на Комисията да предложи специално законодателство относно правата и свободите на работниците, засегнати от системите с изкуствен интелект.
Изменение 10
Предложение за регламент
Съображение 2д (ново)
(2д)  Настоящият регламент не следва да засяга разпоредбите, имащи за цел подобряване на условията на труд при работа през платформа, определени в Директива ... [COD 2021/414/ЕО].
Изменение 11
Предложение за регламент
Съображение 2e (ново)
(2е)  Настоящият регламент следва да подпомогне научните изследвания и иновациите, да не подкопава научноизследователската и развойната дейност и да зачита свободата на научните изследвания. Поради това е необходимо от обхвата му да се изключат системите с ИИ, специално разработени единствено с цел научноизследователска и развойна дейност, и да се гарантира, че регламентът не засяга по друг начин научноизследователската и развойната дейност на системите с ИИ. При всички обстоятелства всяка изследователска и развойна дейност следва да се извършва в съответствие с Хартата, правото на Съюза, както и с националното право.
Изменение 12
Предложение за регламент
Съображение 3
(3)  Изкуственият интелект е бързо развиваща се съвкупност от технологии, които могат да допринесат за множество икономически и социални ползи по протежение на целия спектър от промишлени отрасли и социални дейности. Като подобрява прогнозирането, оптимизирането на операциите и разпределянето на ресурсите и персонализирането на цифровите решения, които са на разположение на физическите лица и организациите, използването на изкуствен интелект може да осигури ключови конкурентни предимства за дружествата и да съдейства за постигането на социално и екологично благоприятни резултати, например в областта на здравеопазването, селското стопанство, образованието и обучението, управлението на инфраструктурата, енергетиката, транспорта и логистиката, обществените услуги, сигурността, правосъдието, ресурсната и енергийната ефективност, както и при смекчаването на последиците от изменението на климата и адаптирането към него.
 (3)  Изкуственият интелект е бързо развиваща се съвкупност от технологии, които могат да допринесат и вече допринасят за множество икономически, екологични и социални ползи по протежение на целия спектър от промишлени отрасли и социални дейности, ако са разработени в съответствие с приложимите общи принципи съгласно Хартата и ценностите, на които се основава Съюзът. Като подобрява прогнозирането, оптимизирането на операциите и разпределянето на ресурсите и персонализирането на цифровите решения, които са на разположение на физическите лица и организациите, използването на изкуствен интелект може да осигури ключови конкурентни предимства за дружествата и да съдейства за постигането на социално и екологично благоприятни резултати, например в областта на здравеопазването, селското стопанство, безопасността на храните, образованието и обучението, медиите, спорта, културата, управлението на инфраструктурата, енергетиката, транспорта и логистиката, управлението на кризи, обществените услуги, сигурността, правосъдието, ресурсната и енергийната ефективност, мониторинга на околната среда, опазването и възстановяването на биоразнообразието и екосистемите, както и при смекчаването на последиците от изменението на климата и адаптирането към него.
Изменение 13
Предложение за регламент
Съображение 3a (ново)
(3a)  За да могат да допринесат за постигането на целите за въглеродна неутралност, европейските дружества следва да се стремят да използват всички налични технологични постижения, които могат да спомогнат за постигането на тази цел. Изкуственият интелект е технология, която има потенциал да бъде използвана за обработка на постоянно нарастващото количество данни, генерирано по време на промишлените, екологичните, здравните и други процеси. За да се улеснят инвестициите в основани на ИИ инструменти за анализ и оптимизация, настоящият регламент следва да осигури предвидима и пропорционална среда за нискорискови промишлени решения.
Изменение 14
Предложение за регламент
Съображение 4
(4)  Същевременно, в зависимост от обстоятелствата по отношение на конкретното му приложение и използване, изкуственият интелект може да доведе до рискове и да накърни обществените интереси и правата, защитени от правото на Съюза. Тези вреди могат да бъдат имуществени или неимуществени.
 (4)  Същевременно, в зависимост от обстоятелствата по отношение на конкретното му приложение и използване, както и равнището на технологично развитие, изкуственият интелект може да доведе до рискове и да накърни обществените или частни интереси и основните права на физическите лица, защитени от правото на Съюза. Тези вреди могат да бъдат имуществени или неимуществени, включително физически, психологически, обществени или икономически.
Изменение 15
Предложение за регламент
Съображение 4a (ново)
(4a)  Предвид значителното въздействие, което изкуственият интелект може да окаже върху обществото, и необходимостта от изграждане на доверие, от жизненоважно значение е изкуственият интелект и неговата регулаторна рамка да бъдат разработени в съответствие с ценностите на Съюза, залегнали в член 2 от ДЕС, основните права и свободи, залегнали в Договорите, Хартата и международното право в областта на правата на човека. Като предусловие изкуственият интелект следва да бъде ориентирана към човека технология. Тя не следва да замества автономността на хората, нито да предполага загубата на лична свобода, и следва да служи преди всичко на нуждите на обществото и на общото благо. Следва да се предвидят предпазни мерки, за да се гарантира разработването и използването на етично вграден изкуствен интелект, който зачита ценностите на Съюза и Хартата.
Изменение 16
Предложение за регламент
Съображение 5
(5)  Поради това е необходима правна рамка на Съюза, с която се определят хармонизирани правила относно изкуствения интелект, за да се насърчи разработването, използването и навлизането на изкуствения интелект на вътрешния пазар и която също така осигурява високо равнище на защита на въпросите от обществен интерес, като здравето и безопасността и защитата на основните права, признати и защитени от правото на Съюза. За постигането на тази цел следва да бъдат установени правила, уреждащи пускането на пазара и въвеждането в експлоатация на някои системи с ИИ, и по този начин да се гарантира безпрепятственото функциониране на вътрешния пазар и да се даде възможност на тези системи да се ползват от принципа на свободно движение на стоки и услуги. С определянето на тези правила настоящият регламент подкрепя целта на Съюза да бъде световен лидер в развитието на сигурен, надежден и етичен изкуствен интелект, както бе посочено от Европейския съвет33, и гарантира защитата на етичните принципи, както изрично бе поискано от Европейския парламент34.
 (5)  Поради това е необходима правна рамка на Съюза, с която се определят хармонизирани правила относно изкуствения интелект, за да се насърчи разработването, използването и навлизането на изкуствения интелект на вътрешния пазар, като тя същевременно осигурява високо равнище на защита на въпросите от обществен интерес като здравето и безопасността, защитата на основните права, демокрацията и принципите на правовата държава и околната среда, признати и защитени от правото на Съюза. За постигането на тази цел следва да бъдат установени правила, уреждащи пускането на пазара, въвеждането в експлоатация и използването на някои системи с ИИ, и по този начин да се гарантира безпрепятственото функциониране на вътрешния пазар и да се даде възможност на тези системи да се ползват от принципа на свободно движение на стоки и услуги. Тези правила следва да бъдат ясни и надеждни по отношение на защитата на основните права, да благоприятстват новите иновативни решения и да дават възможност за създаване на европейска екосистема от публични и частни участници, които създават системи с ИИ в съответствие с ценностите на Съюза. С определянето на тези правила, както и на мерки в подкрепа на иновацията със специално внимание върху МСП и стартиращите предприятия, настоящият регламент подкрепя целта за насърчаване на ИИ, произведен в Европа, и целта на Съюза да бъде световен лидер в развитието на сигурен, надежден и етичен изкуствен интелект, както бе посочено от Европейския съвет33, и гарантира защитата на етичните принципи, както изрично бе поискано от Европейския парламент34.
__________________
 __________________
33 Европейски съвет, извънредно заседание на Европейския съвет (1—2 октомври 2020 г.) – Заключения, EUCO 13/20, 2020 г., стр. 6.
 33 Европейски съвет, извънредно заседание на Европейския съвет (1—2 октомври 2020 г.) – Заключения, EUCO 13/20, 2020 г., стр. 6.
34 Резолюция на Европейския парламент от 20 октомври 2020 г. с препоръки към Комисията относно рамка за етичните аспекти на изкуствения интелект, роботиката и свързаните с тях технологии, 2020/2012(INL).
 34 Резолюция на Европейския парламент от 20 октомври 2020 г. с препоръки към Комисията относно рамка за етичните аспекти на изкуствения интелект, роботиката и свързаните с тях технологии, 2020/2012(INL).
Изменение 17
Предложение за регламент
Съображение 5a (ново)
(5a)  Освен това, за да насърчи развитието на системи с ИИ в съответствие с ценностите на Съюза, Съюзът следва да се справи с основните пропуски и бариери, блокиращи потенциала на цифровата трансформация, включително недостига на работници с цифрови умения, опасенията във връзка с киберсигурността, липсата на инвестиции и достъп до инвестиции, както и съществуващите и потенциалните различия между големите дружества, МСП и стартиращите предприятия. Специално внимание следва да се обърне на това да се гарантира, че ползите от ИИ и иновациите в новите технологии се усещат във всички региони на Съюза, и че се предоставят достатъчно инвестиции и ресурси, особено на онези региони, които може да изостават по някои цифрови показатели.
Изменение 18
Предложение за регламент
Съображение 6
(6)  Понятието за система с ИИ следва да бъде ясно определено, за да се гарантира правна сигурност, като същевременно се осигури гъвкавост, за да се обхване бъдещото технологично развитие. Определението следва да се основава на ключовите функционални характеристики на софтуера, по-специално на способността за определен набор от цели, дефинирани от човека, да се генерират крайни резултати, като съдържание, прогнози, препоръки или решения, които оказват влияние върху средата, с която системата си взаимодейства, било то във физическо или цифрово измерение. Системите с ИИ могат да бъдат проектирани да функционират с различна степен на автономност и да се използват самостоятелно или като компонент на продукт, независимо дали системата е физически интегрирана в продукта (вградена) или обслужва функционалността на продукта, без да бъде интегрирана в него (невградена). Определението за система с ИИ следва да бъде допълнено от списък със специфични техники и подходи, използвани за нейното разработване, който да се актуализира с оглед на пазарните и технологичните промени чрез приемането на делегирани актове от Комисията за изменението на този списък.
 (6)  Понятието за система с ИИ в настоящия регламент следва да бъде ясно определено и тясно съгласувано с работата на международните организации, работещи в областта на изкуствения интелект, за да се гарантира правна сигурност, хармонизация и широко приемане, като същевременно се осигури гъвкавост, за да се обхване бързото технологично развитие в тази област. Освен това определението следва да се основава на ключови характеристики на изкуствения интелект, като неговите способности за самообучение, разсъждение или моделиране, за да го разграничи от по-прости софтуерни системи или подходи за програмиране. Системите с ИИ са проектирани да функционират с различна степен на автономност, което означава, че разполагат поне с известна степен на независимост на действията от човешкия контрол и с възможности да работят без човешка намеса. Терминът „основаващи се на машини“ се отнася до факта, че системите с ИИ работят с помощта на машини. С позоваването на ясни или скрити цели се подчертава, че системите с ИИ могат да работят в съответствие с ясни, определени от човека цели, или със скрити цели. Целите на дадена система с ИИ може да се различават от предназначението на системата с ИИ в специфичен контекст. Позоваването на прогнози включва съдържание, което в настоящия регламент се счита за форма на прогноза като един от възможните резултати, създавани от система с изкуствен интелект. За целите на настоящия регламент под среди следва да се разбират контекстите, в които функционират системите с ИИ, докато резултатите, генерирани от системата с ИИ, т.е. прогнози, препоръки или решения, отговарят на целите на системата въз основа на входящите данни от посочената среда. Такива резултати оказват допълнително влияние върху посочената среда, дори само чрез въвеждане на нова информация в нея.
Изменение 19
Предложение за регламент
Съображение 6a (ново)
(6a)  Системите с ИИ често разполагат с капацитет за машинно самообучение, които им позволяват да се адаптират и да изпълняват автономно нови задачи. Самообучението се отнася до изчислителния процес на оптимизиране на параметрите на модела въз основа на данни, което представлява математическа конструкция, генерираща резултат на базата на входящи данни. Подходите за машинно самообучение включват, например, самообучение с учител, самообучение без учител и обучение с утвърждение, като се използва голямо разнообразие от методи, включително дълбоко самообучение с невронни мрежи. Настоящият регламент е насочен към справяне с нови потенциални рискове, които могат да възникнат при делегирането на контрол на системи с ИИ, по-специално на онези системи с ИИ, които могат да се развиват след внедряването им. Функциите и резултатите на много от тези системи с ИИ се основават на абстрактни математически отношения, които са трудни за разбиране, наблюдение и проследяване до конкретни входни данни от страна на хората. Тези комплексни и непрозрачни характеристики (елементът „черна кутия“) оказват въздействие върху отчетносттаи обяснимостта. Сравнително по-прости техники, като например основани на знанието подходи, методи за оценяване по Бейс или схеми на решения, също може да доведат до пропуски в правната рамка, които настоящият регламент е необходимо да преодолее, особено при използването им в комбинация с подходи за машинно самообучение в хибридни системи.
Изменение 20
Предложение за регламент
Съображение 6б (ново)
(6б)  Системите с ИИ могат да се използват в самостоятелна софтуерна система, интегрирана в продукта (вградена), използвана да обслужва функционалността на физически продукт, без да бъде интегрирана в него (невградена) или използвана като компонент с ИИ на по-голяма система. Ако тази по-голяма система не би функционирала без разглеждания компонент с ИИ, тогава, съгласно настоящия регламент, цялата по-голяма система следва да се разглежда като единна система с ИИ.
Изменение 21
Предложение за регламент
Съображение 7
(7)  Понятието за биометрични данни, използвано в настоящия регламент, е в съответствие с и следва да се тълкува съобразно с понятието за биометрични данни, определено в член 4, параграф 14 от Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета35, член 3, параграф 18 от Регламент (ЕС) 2018/1725 на Европейския парламент и на Съвета36 и член 3, параграф 13 от Директива (ЕС) 2016/680 на Европейския парламент и на Съвета37.
 (7)  Понятието за биометрични данни, използвано в настоящия регламент е в съответствие и следва да се тълкува съобразно с понятието за биометрични данни, определено в член 4, параграф 14 от Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета35. Основани на биометрия данни са допълнителни данни, получени в резултат от специфично техническо обработване, свързано с физически, физиологични или поведенчески сигнали на дадено физическо лице, като например лицеви изражения, движения, честота на пулса, глас, натискане на клавиши или походка, които може да позволяват или да не позволяват или потвърждават уникалната идентификация на физическото лице.
__________________
 __________________
35 Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г, стр. 1).
 35 Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г, стр. 1).
36 Регламент (EC) 2018/1725 на Европейския парламент и на Съвета от 23 октомври 2018 г. относно защитата на физическите лица във връзка с обработването на лични данни от институциите, органите, службите и агенциите на Съюза и относно свободното движение на такива данни и за отмяна на Регламент (ЕО) № 45/2001 и Решение № 1247/2002/ЕО (OB L 295, 22.11.2018 г., стр. 39).
37 Директива (ЕС) 2016/680 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни от компетентните органи за целите на предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наказания и относно свободното движение на такива данни, и за отмяна на Рамково решение 2008/977/ПВР на Съвета (Директива относно правоприлагането в областта на защитата на данните) (ОВ L 119, 4.5.2016 г., стр. 89).
Изменение 22
Предложение за регламент
Съображение 7a (ново)
(7a)  Понятието за биометрична идентификация, използвано в настоящия регламент, следва да се определи като автоматизираното разпознаване на физически, физиологични, поведенчески и психологически характеристики на човека като лице, движение на очите, изражения на лицето, форма на тялото, глас, говор, походка, стойка, сърдечен ритъм, кръвно налягане, миризма, натискания на клавиши, психологически реакции (гняв, тревога, скръб и др.) с цел установяване на самоличността на дадено лице чрез сравняване на биометричните данни на това лице със съхранените биометрични данни на лицата в база данни (идентификация чрез съпоставяне на едно към много), независимо дали лицето е дало своето съгласие или не.
Изменение 23
Предложение за регламент
Съображение 7б (ново)
(7б)  Понятието за биометрично категоризиране, използвано в настоящия регламент, следва да се определи като отнасяне на физически лица към конкретни категории или до извеждане на техните характеристики и признаци като социален пол, биологичен пол, възраст, цвят на косата, цвят на очите, татуировки, етнически или социален произход, здраве, умствени или физически способности, поведенчески характеристики или личностни черти, език, религия или принадлежност към национално малцинство или сексуална или политическа ориентация, на базата на техните биометрични или основани на биометрия данни, или които могат да бъдат изведени от такива данни.
Изменение 24
Предложение за регламент
Съображение 8
(8)  Понятието за система за дистанционна биометрична идентификация, използвано в настоящия регламент, следва да се определи функционално като система с ИИ с предназначение идентифициране на физически лица от разстояние чрез сравняване на биометричните данни на дадено лице с биометричните данни, съдържащи се в референтна база данни, като ползвателят на системата с ИИ не знае предварително дали лицето ще присъства и може да бъде идентифицирано. Като се имат предвид техните различни характеристики и начини на използване, както и различните рискове, с които те са свързани, следва да се направи разграничение между системите, работещи в реално време, и системите за екс-пост дистанционна биометрична идентификация. При системите, работещи в реално време, снемането на биометрични данни, сравнението и идентификацията се осъществяват мигновено, почти мигновено или при всички случаи без значително забавяне. В това отношение не следва да има възможност за заобикаляне на правилата на настоящия регламент относно използването в реално време на въпросните системи с ИИ и за целта в него следва да се уредят незначителните забавяния. Системите, работещи в реално време, предполагат използването на материал „на живо“ или „почти на живо“, като видеозапис от камера или друго устройство с подобна функция. За разлика от тях при екс-пост системите биометричните данни вече са снети и сравняването и идентифицирането се извършват едва след значително забавяне. Това предполага материал, като снимки или видеозаписи от камери от вътрешна система за видеонаблюдение или от частни устройства, които са направени преди използването на системата по отношение на въпросните физически лица.
 (8)  Понятието за система за дистанционна биометрична идентификация, използвано в настоящия регламент, следва да се определи функционално като система с ИИ с предназначение за идентифициране на физически лица от разстояние чрез сравняване на биометричните данни на дадено лице с биометричните данни, съдържащи се в референтна база данни, като ползвателят на системата с ИИ не знае предварително дали лицето ще присъства и може да бъде идентифицирано, независимо от използваната конкретна технология, процеси или видове биометрични данни, с изключение на системите за проверка, които само сравняват биометричните данни на дадено лице с предварително предоставените от него биометрични данни (съпоставяне на едно към едно). Като се имат предвид техните различни характеристики и начини на използване, както и различните рискове, с които те са свързани, следва да се направи разграничение между системите, работещи в реално време, и системите за екс-пост дистанционна биометрична идентификация. При системите, работещи в реално време, снемането на биометрични данни, сравнението и идентификацията се осъществяват мигновено, почти мигновено или при всички случаи без значително забавяне. В това отношение не следва да има възможност за заобикаляне на правилата на настоящия регламент относно използването в реално време на въпросните системи с ИИ и за целта в него следва да се уредят незначителните забавяния. Системите, работещи в реално време, предполагат използването на материал „на живо“ или „почти на живо“, като видеозапис от камера или друго устройство с подобна функция. За разлика от тях при екс-пост системите биометричните данни вече са снети и сравняването и идентифицирането се извършват едва след значително забавяне. Това предполага материал, като снимки или видеозаписи от камери от вътрешна система за видеонаблюдение или от частни устройства, които са направени преди използването на системата по отношение на въпросните физически лица. Като се има предвид, че понятието за биометрична идентификация е независимо от съгласието на лицето, това определение се прилага дори когато предупредителни известия са поставени на място, което е под наблюдението на системата за дистанционна биометрична идентификация, и не се анулира де факто с предварително записване.
Изменение 25
Предложение за регламент
Съображение 8a (ново)
(8a)  Идентифицирането на физически лица от разстояние се разбира като разграничаване на системите за дистанционна биометрична идентификация от системите за индивидуална проверка в непосредствена близост, използващи средства за биометрична идентификация, чиято единствена цел е да потвърдят дали определено физическо лице, което се представя за идентификация, има разрешение или не, например за получаване на достъп до услуга, устройство или помещения.
Изменение 26
Предложение за регламент
Съображение 9
(9)  За целите на настоящия регламент понятието за обществено достъпно място следва да се разбира като означаващо всяко физическо място, което е достъпно за обществеността, независимо дали то е частна или публична собственост. Поради това понятието не включва места, които са частни по естеството си и обичайно не са свободно достъпни за трети страни, включително за правоприлагащи органи, освен ако тези страни са получили специална покана или разрешение, какъвто е случаят например с жилища, частни клубове, складове, фабрики. Онлайн пространства също не се включват, тъй като те не са физически места. Фактът обаче, че евентуално има определени условия за достъп до определено място, например входни билети или възрастови ограничения, не означава, че това място не е обществено достъпно по смисъла на настоящия регламент. Следователно в допълнение към обществените места като улици, съответните части на държавни сгради и по-голямата част от транспортната инфраструктура, местата като кина, театри, магазини и търговски центрове в обичайния случай също са обществено достъпни. Дали дадено място е достъпно за обществеността обаче следва да се определя отделно във всеки един случай, като се отчита спецификата на въпросната ситуация.
 (9)  За целите на настоящия регламент понятието за обществено достъпно място следва да се разбира като означаващо всяко физическо място, което е достъпно за обществеността, независимо дали то е частна или публична собственост и независимо от евентуални ограничения на капацитета. Поради това понятието не включва места, които са частни по естеството си и обичайно не са свободно достъпни за трети страни, включително за правоприлагащи органи, освен ако тези страни са получили специална покана или разрешение, какъвто е случаят например с жилища, частни клубове, складове, фабрики. Онлайн пространства също не се включват, тъй като те не са физически места. Фактът обаче, че евентуално има определени условия за достъп до определено място, например входни билети или възрастови ограничения, не означава, че това място не е обществено достъпно по смисъла на настоящия регламент. Следователно в допълнение към обществените места като улици, съответните части на държавни сгради и по-голямата част от транспортната инфраструктура, местата като кина, театри, спортни площадки, училища, университети, съответните части на болници и банки, увеселителни паркове, фестивали, магазини и търговски центрове в обичайния случай също са обществено достъпни. Дали дадено място е достъпно за обществеността обаче следва да се определя отделно във всеки един случай, като се отчита спецификата на въпросната ситуация.
Изменение 27
Предложение за регламент
Съображение 9a (ново)
(9a)  Важно е да се отбележи, че системите с ИИ следва да положат максимални усилия за спазване на общите принципи, с които се установява рамка на високо равнище, която насърчава съгласувания и ориентиран към човека подход към етичния и надежден ИИ в съответствие с Хартата на основните права на Европейския съюз и ценностите, на които се основава Съюзът, включително защитата на основните права, човешкия фактор и човешкия надзор, техническата стабилност и безопасност, неприкосновеността на личния живот и управлението на данните, прозрачността, недискриминацията и справедливостта и благосъстоянието на обществото и околната среда.
Изменение 28
Предложение за регламент
Съображение 9б (ново)
(9б)  „Грамотност в областта на ИИ“ се отнася до уменията, знанията и разбирането, благодарение на които доставчиците, ползвателите и засегнатите лица – като се вземат предвид съответните им права и задължения в контекста на настоящия регламент – могат да внедряват системи с ИИ по информиран начин, както и да бъдат осведомени за възможностите и рисковете, свързани с ИИ, и за евентуалните вреди, които той може да причини, и по този начин да насърчават демократичния контрол върху него. Грамотността в областта на ИИ не следва да се ограничава до изучаването на инструменти и технологии, а следва също така да има за цел да предостави на доставчиците и ползвателите необходимите понятия и умения, за да се гарантира спазването и прилагането на настоящия регламент. Следователно е необходимо Комисията, държавите членки, както и доставчиците и ползвателите на системи с ИИ в сътрудничество с всички съответни заинтересовани страни да насърчават развитието на достатъчна степен на грамотност в областта на ИИ във всички сектори на обществото сред хора на всякаква възраст, включително жените и момичетата, както и напредъкът в това отношение да се следи отблизо.
Изменение 29
Предложение за регламент
Съображение 10
(10)  За да се гарантират еднакви условия на конкуренция и ефективна защита на правата и свободите на физическите лица в целия Съюз, правилата, установени с настоящия регламент, следва да се прилагат недискриминационно по отношение на доставчиците на системи с ИИ, независимо дали са установени в Съюза или в трета държава, както и за ползвателите на системи с ИИ, установени в Съюза.
 (10)  За да се гарантират еднакви условия на конкуренция и ефективна защита на правата и свободите на физическите лица в целия Съюз и на международно равнище, правилата, установени с настоящия регламент, следва да се прилагат недискриминационно по отношение на доставчиците на системи с ИИ, независимо дали са установени в Съюза или в трета държава, както и за внедрителите на системи с ИИ, установени в Съюза. За да може Съюзът да остане верен на своите основни ценности, системите с ИИ, предназначени за използване за практики, които се считат за неприемливи по силата на настоящия регламент, следва да се считат за неприемливи и извън Съюза поради особено вредното им въздействие върху основните права, залегнали в Хартата. Поради това е целесъобразно да се забрани износът на такива системи с ИИ в трети държави от доставчици, пребиваващи в Съюза.
Изменение 30
Предложение за регламент
Съображение 11
(11)  Поради своето цифрово естество някои системи с ИИ следва да попадат в обхвата на настоящия регламент дори когато не се пускат на пазара, не се въвеждат в експлоатация и не се използват в Съюза. Такъв е например случаят с оператор, установен в Съюза, който сключва договор за определени услуги с оператор, установен извън Съюза, във връзка с дейност, която ще се извършва от система с ИИ, която би била определена като високорискова и резултатите от която засягат физически лица, намиращи се в Съюза. При тези обстоятелства системата с ИИ, използвана от оператора извън Съюза, би могла да обработва данни, които са законно събрани в Съюза и прехвърлени оттам, и да предоставя на сключилия договор оператор в Съюза резултата, получен на базата на тази обработка, без въпросната система с ИИ да е била пускана на пазара, въвеждана в експлоатация или използвана в Съюза. За да не се допусне заобикаляне на настоящия регламент и да се гарантира ефективна защита на физическите лица, намиращи се в Съюза, настоящият регламент следва също така да се прилага за доставчиците и ползвателите на системи с ИИ, установени в трета държава, доколкото резултатът, получен от тези системи, се използва в Съюза. Независимо от това, за да се вземат предвид съществуващите договорености и специалните потребности от сътрудничество с чуждестранни партньори, с които се обменят информация и доказателства, настоящият регламент не следва да се прилага за публичните органи на трета държава и за международните организации, когато те действат в рамките на международни споразумения, сключени на национално или европейско равнище за сътрудничество в областта на правоприлагането и за съдебно сътрудничество със Съюза или с неговите държави членки. Такива споразумения са сключени двустранно между държави членки и трети държави или между Европейския съюз, Европол и други агенции на ЕС и трети държави и международни организации.
 (11)  Поради своето цифрово естество някои системи с ИИ следва да попадат в обхвата на настоящия регламент дори когато не се пускат на пазара, не се въвеждат в експлоатация и не се използват в Съюза. Такъв е например случаят с оператор, установен в Съюза, който сключва договор за определени услуги с оператор, установен извън Съюза, във връзка с дейност, която ще се извършва от система с ИИ, която би била определена като високорискова и резултатите от която засягат физически лица, намиращи се в Съюза. При тези обстоятелства системата с ИИ, използвана от оператора извън Съюза, би могла да обработва данни, които са законно събрани в Съюза и прехвърлени оттам, и да предоставя на сключилия договор оператор в Съюза резултата, получен на базата на тази обработка, без въпросната система с ИИ да е била пускана на пазара, въвеждана в експлоатация или използвана в Съюза. За да не се допусне заобикаляне на настоящия регламент и да се гарантира ефективна защита на физическите лица, намиращи се в Съюза, настоящият регламент следва също така да се прилага за доставчиците и внедрителите на системи с ИИ, установени в трета държава, доколкото резултатът, получен от тези системи, е предназначен да се използва в Съюза. Независимо от това, за да се вземат предвид съществуващите договорености и специалните потребности от сътрудничество с чуждестранни партньори, с които се обменят информация и доказателства, настоящият регламент не следва да се прилага за публичните органи на трета държава и за международните организации, когато те действат в рамките на международни споразумения, сключени на национално или европейско равнище за сътрудничество в областта на правоприлагането и за съдебно сътрудничество със Съюза или с неговите държави членки. Такива споразумения са сключени двустранно между държави членки и трети държави или между Европейския съюз, Европол и други агенции на ЕС и трети държави и международни организации. Това изключение следва въпреки всичко да се ограничава до доверени държави и международни организации, които споделят ценностите на Съюза.
Изменение 31
Предложение за регламент
Съображение 12
(12)  Настоящият регламент следва да се прилага и за институциите, службите, органите и агенциите на Съюза, когато те действат като доставчик или ползвател на система с ИИ. Системите с ИИ, разработени или използвани изключително за военни цели, следва да бъдат изключени от обхвата на настоящия регламент, когато това използване попада в изключителната сфера на общата външна политика и политика на сигурност, уредена в дял V от Договора за Европейския съюз (ДЕС). Настоящият регламент следва да не засяга прилагането на разпоредбите относно отговорността на междинните доставчици на услуги, определени в Директива 2000/31/ЕО на Европейския парламент и на Съвета [изменена от Законодателния акт за цифровите услуги].
 (12)  Настоящият регламент следва да се прилага и за институциите, службите, органите и агенциите на Съюза, когато те действат като доставчик или внедрител на система с ИИ. Системите с ИИ, разработени или използвани изключително за военни цели, следва да бъдат изключени от обхвата на настоящия регламент, когато това използване попада в изключителната сфера на общата външна политика и политика на сигурност, уредена в дял V от Договора за Европейския съюз (ДЕС). Настоящият регламент следва да не засяга прилагането на разпоредбите относно отговорността на междинните доставчици на услуги, определени в Директива 2000/31/ЕО на Европейския парламент и на Съвета [изменена от Законодателния акт за цифровите услуги].
Изменение 32
Предложение за регламент
Съображение 12a (ново)
(12a)  Софтуерът и данните, които се споделят открито и до които ползвателите имат свободен достъп и свободно могат да използват, променят и разпространяват същите или техни модифицирани версии, могат да допринесат за научните изследвания и иновациите на пазара. Изследванията на Комисията показват също, че свободният софтуер с отворен код може да допринесе с между 65 и 95 млрд. евро за БВП на Европейския съюз и че може да предостави значителни възможности за растеж на европейската икономика. Ползвателите могат да използват, копират, разпространяват, изучават, променят и подобряват софтуер и данни, включително модели, чрез свободни лицензи и лицензи за отворен код. За да се насърчи разработването и внедряването на ИИ, по-специално от МСП, стартиращи предприятия, академични изследвания, но също и от физически лица, настоящият регламент не следва да се прилага за такива свободни компоненти на ИИ с отворен код, освен доколкото те са пуснати на пазара или въведени в експлоатация от доставчик като част от високорискова система с ИИ или от система с ИИ, която попада в обхвата на дял II или дял IV от настоящия регламент.
Изменение 33
Предложение за регламент
Съображение 12б (ново)
(12б)  Нито съвместното разработване на компоненти на ИИ с отворен код, нито предоставянето им в хранилища със свободен достъп не следва да представлява пускане на пазара или въвеждане в експлоатация. Търговска дейност в смисъл на предоставяне на пазара обаче може да се характеризира с начисляване на цена, с изключение на трансакции между микропредприятия, за компонент на ИИ с отворен код, но и с начисляване на цена за услуги по техническа поддръжка, чрез предоставяне на софтуерна платформа, чрез която доставчикът печели от други услуги, или с използване на лични данни по причини, различни от такива, свързани изключително с подобряване на сигурността, съвместимостта или оперативната съвместимост на софтуера.
Изменение 34
Предложение за регламент
Съображение 12в (ново)
(12в)  Разработчиците на свободни компоненти на ИИ с отворен код не следва да бъдат задължавани съгласно настоящия регламент да спазват изискванията, насочени към веригата за създаване на стойност в областта на ИИ, и по-специално не към доставчиците, използвали този свободен компонент на ИИ с отворен код. Необходимо е обаче разработчиците на свободни компоненти на ИИ с отворен код да се насърчават да прилагат широко приети практики за документиране като карти с модели и данни, като начин за ускоряване на обмена на информация по веригата за създаване на стойност на ИИ, което ще даде възможност да се популяризират надеждни системи за ИИ в Съюза.
Изменение 35
Предложение за регламент
Съображение 13
(13)  За да се гарантира последователно и високо равнище на защита на обществените интереси по отношение на здравето, безопасността и основните права, следва да бъдат определени общи нормативни стандарти за всички високорискови системи с ИИ. Тези стандарти следва да бъдат в съответствие с Хартата на основните права на Европейския съюз (Хартата), да бъдат недискриминационни и да са в съответствие с международните търговски ангажименти на Съюза.
 (13)  За да се гарантира последователно и високо равнище на защита на обществените интереси по отношение на здравето, безопасността и основните права, както и на демокрацията и принципите на правовата държава и на околната среда, следва да бъдат определени общи нормативни стандарти за всички високорискови системи с ИИ. Тези стандарти следва да бъдат в съответствие с Хартата, Европейския зелен пакт, Съвместната декларация за цифровите права на Съюза и Насоките относно етичните аспекти за надежден изкуствен интелект (ИИ) на експертната група на високо равнище по въпросите на изкуствения интелект, да бъдат недискриминационни и да са в съответствие с международните търговски ангажименти на Съюза.
Изменение 36
Предложение за регламент
Съображение 14
(14)  За да се въведе пропорционален и ефективен набор от задължителни правила за системите с ИИ, следва да се прилага ясно определен подход, основан на риска. В рамките на този подход видът и съдържанието на правилата следва да се адаптират към интензитета и периметъра на рисковете, които системите с ИИ могат да породят. Поради това е необходимо да се забранят някои практики в областта на изкуствения интелект, да се определят изисквания за високорисковите системи с ИИ и задължения за съответните оператори, както и да се определят задължения за прозрачност за някои системи с ИИ.
 (14)  За да се въведе пропорционален и ефективен набор от задължителни правила за системите с ИИ, следва да се прилага ясно определен подход, основан на риска. В рамките на този подход видът и съдържанието на правилата следва да се адаптират към интензитета и периметъра на рисковете, които системите с ИИ могат да породят. Поради това е необходимо да се забранят някои неприемливи практики в областта на изкуствения интелект, да се определят изисквания за високорисковите системи с ИИ и задължения за съответните оператори, както и да се определят задължения за прозрачност за някои системи с ИИ.
Изменение 37
Предложение за регламент
Съображение 15
(15)  Макар изкуственият интелект да има многобройни полезни приложения, с тази технология може да се злоупотребява и тя може да предоставя нови и мощни инструменти за манипулативни и експлоататорски практики и практики за социален контрол. Тези практики са особено вредни и следва да бъдат забранени, тъй като противоречат на ценностите на Съюза за зачитане на човешкото достойнство, свободата, равенството, демокрацията и принципите на правовата държава и на основните права на Съюза, включително правото на недискриминация, защита на данните и неприкосновеността на личния живот, както и правата на детето.
 (15)  Макар изкуственият интелект да има многобройни полезни приложения, с тази технология може да се злоупотребява и тя може да предоставя нови и мощни инструменти за манипулативни и експлоататорски практики и практики за социален контрол. Тези практики са особено вредни и представляват злоупотреба и следва да бъдат забранени, тъй като противоречат на ценностите на Съюза за зачитане на човешкото достойнство, свободата, равенството, демокрацията и принципите на правовата държава и на основните права на Съюза, включително правото на недискриминация, защита на данните и неприкосновеността на личния живот, както и правата на детето.
Изменение 38
Предложение за регламент
Съображение 16
(16)  Пускането на пазара, въвеждането в експлоатация и използването на някои системи с ИИ, предназначени да изменят човешкото поведение, при което са вероятни физически или психологически вреди, следва да бъдат забранени. Такива системи с ИИ използват сублиминални компоненти, които хората не могат да възприемат съзнателно, или използват уязвимостта на деца или пълнолетни лица, дължаща се на тяхната възраст или физически или психически увреждания. При това целта е значително да бъде изменено поведението на дадено лице по начин, който причинява или е вероятно да причини вреда на него самото или на друго лице. Наличието на такава цел не може да се предпоставя, ако изменянето на човешкото поведение се дължи на външни за системата с ИИ фактори, които са извън контрола на доставчика или ползвателя. Преследващата легитимни цели научноизследователска работа по отношение на тези системи с ИИ не следва да бъде възпрепятствана от забраната, ако тя не е равностойна на използване на системата с ИИ в отношения човек—машина, които излагат физически лица на вреда, и се провежда в съответствие с признатите етични стандарти за научни изследвания.
 (16)  Пускането на пазара, въвеждането в експлоатация и използването на някои системи с ИИ с цел или имащи ефект да изменят значително човешкото поведение, при което има обоснована вероятност да причинят физически или психологически вреди, следва да бъдат забранени. Това ограничение следва да се разбира като включващо невротехнологии, подпомагани от системи с ИИ, които се използват за наблюдение, използване или влияние върху невронни данни, събирани чрез интерфейси мозък-компютър, доколкото те изменят значително поведението на дадено физическо лице по начин, който причинява или има вероятност да причини значителна вреда на това или друго лице. Такива системи с ИИ използват сублиминални компоненти, които хората не могат да възприемат съзнателно, или използват уязвимостта на лица и конкретни групи лица, дължаща се на техните известни или прогнозирани възраст, физически или психически увреждания, социално или икономическо положение. При това целта или ефектът е значително изменяне на поведението на дадено лице по начин, който причинява или е вероятно да причини значителна вреда на него самото или на друго лице или групи лица, включително вреди, които може да се натрупат с времето. Намерението да се измени човешкото поведение не може да се предпоставя, ако изменянето се дължи на външни за системата с ИИ фактори, които са извън контрола на доставчика или ползвателя, като например фактори, за които няма основание да бъдат предвидени и смекчени от доставчика или внедрителя на системата с ИИ. Във всеки случаи не е необходимо доставчикът или внедрителят да има намерение да причини значителна вреда, доколкото тази вреда произтича от манипулативни или експлоататорски практики, които използването на ИИ прави възможни. Забраните за такива практики в сферата на ИИ допълват разпоредбите, съдържащи се в Директива 2005/29/ЕО, според които нелоялните търговски практики са забранени, независимо дали са въведени чрез използване на системи с ИИ или по друг начин. При тези условия законните търговски практики, например в областта на рекламата, които са в съответствие с правото на Съюза, не следва сами по себе си да се считат за нарушение на забраната. Преследващата легитимни цели научноизследователска работа по отношение на тези системи с ИИ не следва да бъде възпрепятствана от забраната, ако тя не е равностойна на използване на системата с ИИ в отношения човек – машина, които излагат физически лица на вреда, и се провежда в съответствие с признатите етични стандарти за научни изследвания и въз основа на изрично информирано съгласие на лицата, които са изложени на въздействието им, или, когато е приложимо, на техния законен настойник.
Изменение 39
Предложение за регламент
Съображение 16a (ново)
(16a)  Системите с ИИ, които категоризират физически лица, като ги причисляват към определени категории според известни или изведени чувствителни или защитени характеристики, са особено накърняващи правата, нарушават човешкото достойнство и крият голям риск от дискриминация. Тези характеристики включват пол, полова идентичност, раса, етнически произход, миграционен или граждански статут, политическа ориентация, сексуална ориентация, религия, увреждане или всякакви други основания, на които е забранена дискриминацията съгласно член 21 от Хартата на основните права на ЕС, както и съгласно член 9 от Регламент (ЕС) 2016/769. Поради това такива системи следва да бъдат забранени.
Изменение 40
Предложение за регламент
Съображение 17
(17)  Системите с ИИ, генериращи социален рейтинг с общо предназначение по отношение на физически лица за използване от публични органи или от тяхно име, могат да доведат до дискриминационни резултати и изключването на определени групи. Те могат да нарушат правото на достойнство и недискриминация и ценностите на равенството и справедливостта. Подобни системи с ИИ оценяват или класифицират надеждността на физически лица въз основа на тяхното социално поведение в разнообразен контекст или на предполагаеми лични или личностни характеристики. Социалният ранкинг, получен от такива системи с ИИ, може да доведе до накърняващо или неблагоприятно третиране на физически лица или на цели групи от такива лица в социални контексти, които нямат връзка с контекста, в който първоначално са били генерирани или събрани данните, или до накърняващо третиране, което е непропорционално или неоправдано с оглед на тежестта, която се отдава на тяхното социално поведение; Поради това такива системи с ИИ следва да бъдат забранени.
 (17)  Системите с ИИ, генериращи социален рейтинг с общо предназначение по отношение на физически лица, могат да доведат до дискриминационни резултати и изключването на определени групи. Те нарушават правото на достойнство и недискриминация и ценностите на равенството и справедливостта. Подобни системи с ИИ оценяват или класифицират физически лица или групи въз основа на множество точки данни и събития във времето, свързани с тяхното социално поведение в разнообразен контекст или на известни, изведени или предполагаеми лични или личностни характеристики. Социалният ранкинг, получен от такива системи с ИИ, може да доведе до накърняващо или неблагоприятно третиране на физически лица или на цели групи от такива лица в социални контексти, които нямат връзка с контекста, в който първоначално са били генерирани или събрани данните, или до накърняващо третиране, което е непропорционално или неоправдано с оглед на тежестта, която се отдава на тяхното социално поведение; Поради това такива системи с ИИ следва да бъдат забранени.
Изменение 41
Предложение за регламент
Съображение 18
(18)  Използването на системи с ИИ за дистанционна биометрична идентификация в реално време на физически лица на обществено достъпни места за целите на правоприлагането се счита за особено силно накърняващо правата и свободите на засегнатите лица, доколкото то може да засегне личния живот на голяма част от населението, да породи усещане за постоянно наблюдение и косвено да действа разубеждаващо по отношение на упражняването на свободата на събранията и други основни права. Освен това непосредственият ефект и ограничените възможности за допълнителни проверки или корекции във връзка с използването на такива системи, функциониращи в реално време, крият повишен риск за правата и свободите на лицата, засегнати от дейностите по правоприлагане.
 (18)  Използването на системи с ИИ за биометрична идентификация в реално време на физически лица на обществено достъпни места е особено силно накърняващо правата и свободите на засегнатите лица и в крайна сметка може да засегне личния живот на голяма част от населението, да остави у обществото основателно усещане за постоянно наблюдение, да постави страните, внедряващи биометрична идентификация в обществено достъпни места, в позиция на безконтролна власт и косвено да подейства разубеждаващо по отношение на упражняването на свободата на събранията и други основни права, които са в основата на принципите на правовата държава. Техническите неточности на системите с ИИ, предназначени за дистанционна биометрична идентификация на физически лица, могат да доведат до предубеденост на резултатите и до дискриминация. Това обстоятелство е от особено значение, когато става въпрос за възраст, етническа принадлежност, пол или увреждания. Освен това непосредственият ефект и ограничените възможности за допълнителни проверки или корекции във връзка с използването на такива системи, функциониращи в реално време, крият повишен риск за правата и свободите на лицата, засегнати от дейностите по правоприлагане. Поради това използването на тези системи на обществено достъпни места следва да бъде забранено. По подобен начин следва да бъдат забранени и системите с ИИ, използвани за анализ на записани кадри от обществено достъпни места чрез „екс-пост“ системи за дистанционна биометрична идентификация, освен ако не е налице предварително съдебно разрешение за използване в контекста на правоприлагането, когато това е строго необходимо за целево претърсване, свързано с вече извършено конкретно тежко престъпление, и само при наличие на предварително съдебно разрешение.
Изменение 42
Предложение за регламент
Съображение 19
(19)  Поради това използването на тези системи за целите на правоприлагането следва да бъде забранено, освен в три изчерпателно изброени и подробно определени ситуации, при които използването е строго необходимо за постигане на значителен обществен интерес, чиято важност надделява над поеманите рискове. Тези ситуации включват издирването на конкретни потенциални жертви на престъпления, включително изчезнали деца; някои заплахи за живота или физическата безопасност на физически лица или за терористично нападение; както и откриването, локализирането, идентифицирането или преследването на извършители или заподозрени в извършването на престъпленията, посочени в Рамково решение 2002/584/ПВР38 на Съвета, ако те са наказуеми в съответната държава членка с лишаване от свобода или мярка за задържане с максимален срок не по-малко от 3 години, както е определено в законодателството на съответната държава членка. Прагът относно срока на лишаването от свобода или на мярката за задържане в съответствие с националното право спомага да се гарантира, че престъплението е достатъчно тежко, за да обоснове евентуално използването на системи за дистанционна биометрична идентификация в реално време. Освен това от 32-те престъпления, изброени в Рамково решение 2002/584/ПВР на Съвета, някои е по-вероятно да са практически по-релевантни от други, поради което за използването на биометрична дистанционна идентификация в реално време може да се предположи, че ще бъде необходимо и пропорционално в много различна степен за практическото откриване, локализиране, идентифициране или преследване на извършителя или заподозрения за различните изброени престъпления, особено като се имат предвид вероятните разлики в тяхната тежест, вероятност и мащаб на вредата или възможните отрицателни последици.
 заличава се
__________________
38 Рамково решение 2002/584/ПВР на Съвета от 13 юни 2002 г. относно европейската заповед за арест и процедурите за предаване между държавите членки (ОВ L 190, 18.7.2002 г., стр. 1).
Изменение 43
Предложение за регламент
Съображение 20
(20)  За да се гарантира, че тези системи се използват по отговорен и пропорционален начин, е важно също така да се определи, че във всяка от тези три изчерпателно изброени и подробно определени ситуации следва да се вземат предвид определени елементи, по-специално по отношение на естеството на ситуацията, във връзка с която е искането, и последиците от използването за правата и свободите на всички засегнати лица, както и гаранциите и условията, при които ще премине използването. Освен това използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за целите на правоприлагането следва да бъде обект на подходящи времеви и пространствени ограничения, като се вземат предвид по-специално доказателствата или индикациите относно заплахите, жертвите или извършителя. Референтната база данни на лицата следва да бъде подходяща за всеки случай на използване във всяка от трите посочени по-горе ситуации.
 заличава се
Изменение 44
Предложение за регламент
Съображение 21
(21)  Всяко използване на система за дистанционна биометрична идентификация в реално време на обществено достъпни места за целите на правоприлагането следва да бъде обект на изрично и конкретно разрешение от съдебен орган или от независим административен орган на държава членка. Такова разрешение следва по принцип да се получи преди използването, освен в надлежно обосновани спешни случаи, т.е. ситуации, при които необходимостта от използване на въпросните системи е такава, че е практически и обективно невъзможно разрешение да бъде получено преди началото на използването. При такива спешни ситуации използването следва да бъде ограничено до абсолютно необходимия минимум и да бъде обект на подходящи гаранции и условия, както е определено в националното право и дефинирано в контекста на всеки отделен случай на спешно използване от самия правоприлагащ орган. Освен това в такива случаи правоприлагащият орган следва да се опита да получи разрешение възможно най-скоро, като посочи причините, поради които не е могъл да го поиска по-рано.
 заличава се
Изменение 45
Предложение за регламент
Съображение 22
(22)  Също така е целесъобразно да се предвиди, в рамките на изчерпателната уредба, създадена с настоящия регламент, че такова използване на територията на държава членка в съответствие с настоящия регламент следва да бъде възможно само и доколкото въпросната държава членка е решила изрично да предвиди възможността за разрешаване на такова използване в подробните правила на националното си право. Следователно съгласно настоящия регламент държавите членки са свободни изобщо да не предвиждат такава възможност или да предвидят такава възможност само по отношение на някои от целите, посочени в настоящия регламент, които могат да оправдаят разрешеното използване.
 заличава се
Изменение 46
Предложение за регламент
Съображение 23
(23)  Използването на системи с ИИ за дистанционна биометрична идентификация в реално време на физически лица на обществено достъпни места за целите на правоприлагането задължително включва обработването на биометрични данни. Правилата на настоящия регламент, които забраняват — с някои изключения — подобно използване и чието правно основание е член 16 от ДФЕС, следва да се прилагат като lex specialis по отношение на правилата относно обработването на биометрични данни, съдържащи се в член 10 от Директива (ЕС) 2016/680, като по този начин се регламентира изчерпателно това използване и свързаното с него обработване на биометрични данни. Поради това такова използване и обработване следва да бъде възможно само доколкото е съвместимо с рамката, установена с настоящия регламент, без да има възможност извън тази рамка компетентните органи, когато действат за целите на правоприлагането, да използват такива системи и да обработват такива данни във връзка с него на основанията, изброени в член 10 от Директива (ЕС) 2016/680. В този контекст настоящият регламент няма за цел да осигури правно основание на обработването на лични данни съгласно член 8 от Директива 2016/680. Използването обаче на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за цели, различни от целите на правоприлагането, включително от компетентни органи, не следва да бъде обхванато от специалната рамка относно такова използване за целите на правоприлагането, установена с настоящия регламент. Поради това използването за цели, различни от целите на правоприлагането, не следва да бъде предмет на изискването за разрешение съгласно настоящия регламент и приложимите подробни правила на националното право, които могат да го предвиждат.
 заличава се
Изменение 47
Предложение за регламент
Съображение 24
(24)  Всяко обработване на биометрични данни и други лични данни, необходимо за използването на системи с ИИ за биометрична идентификация, различно от такова във връзка с използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за целите на правоприлагането, уредено в настоящия регламент, включително когато такива системи се използват от компетентните органи на обществено достъпни места за цели, различни от правоприлагане, следва да продължи да отговаря на всички изисквания, произтичащи, според случая, от член 9, параграф 1 от Регламент (ЕС) 2016/679, член 10, параграф 1 от Регламент (ЕС) 2018/1725 и член 10 от Директива (ЕС) 2016/680.
 (24)  Всяко обработване на биометрични данни и други лични данни, необходимо за използването на системи с ИИ за биометрична идентификация, различно от такова във връзка с използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места, уредено в настоящия регламент, следва да продължи да отговаря на всички изисквания, произтичащи, според случая, от член 9, параграф 1 от Регламент (ЕС) 2016/679, член 10, параграф 1 от Регламент (ЕС) 2018/1725 и член 10 от Директива (ЕС) 2016/680.
Изменение 48
Предложение за регламент
Съображение 25
(25)  В съответствие с член 6а от Протокол № 21 относно позицията на Обединеното кралство и Ирландия по отношение на пространството на свобода, сигурност и правосъдие, приложен към ДЕС и към ДФЕС, Ирландия не е обвързана от заложените в член 5, параграф 1, буква г) и член 5, параграфи 2 и 3 от настоящия регламент правила, приети на основание член 16 от ДФЕС и отнасящи се до обработването на лични данни от държавите членки при осъществяване на дейности, попадащи в обхвата на трета част, дял V, глава 4 или глава 5 от ДФЕС, когато Ирландия не е обвързана от правилата, уреждащи формите на съдебно сътрудничество по наказателноправни въпроси или на полицейско сътрудничество, в рамките на които трябва да бъдат съблюдавани разпоредбите, установени на основание член 16 от ДФЕС.
 (25)  В съответствие с член 6а от Протокол № 21 относно позицията на Обединеното кралство и Ирландия по отношение на пространството на свобода, сигурност и правосъдие, приложен към ДЕС и към ДФЕС, Ирландия не е обвързана от заложените в член 5, параграф 1, буква г) от настоящия регламент правила, приети на основание член 16 от ДФЕС и отнасящи се до обработването на лични данни от държавите членки при осъществяване на дейности, попадащи в обхвата на трета част, дял V, глава 4 или глава 5 от ДФЕС, когато Ирландия не е обвързана от правилата, уреждащи формите на съдебно сътрудничество по наказателноправни въпроси или на полицейско сътрудничество, в рамките на които трябва да бъдат съблюдавани разпоредбите, установени на основание член 16 от ДФЕС.
Изменение 49
Предложение за регламент
Съображение 26
(26)  В съответствие с членове 2 и 2а от Протокол № 22 относно позицията на Дания, приложен към ДЕС и ДФЕС, Дания не е обвързана от, нито е обект на прилагане на заложените в член 5, параграф 1, буква г) и член 5, параграфи 2 и 3 от настоящия регламент правила, приети на основание член 16 от ДФЕС, отнасящи се до обработването на лични данни от държавите членки при осъществяването на дейности, попадащи в обхвата на трета част, дял V, глава 4 или глава 5 от ДФЕС.
 (26)  В съответствие с членове 2 и 2а от Протокол № 22 относно позицията на Дания, приложен към ДЕС и ДФЕС, Дания не е обвързана от, нито е обект на прилагане на заложените в член 5, параграф 1, буква г) от настоящия регламент правила, приети на основание член 16 от ДФЕС, отнасящи се до обработването на лични данни от държавите членки при осъществяването на дейности, попадащи в обхвата на трета част, дял V, глава 4 или глава 5 от ДФЕС.
Изменение 50
Предложение за регламент
Съображение 26a (ново)
(26a)  Системите с ИИ, използвани от правоприлагащите органи или от тяхно име за правене на прогнози, профили или оценки на риска въз основа на профилиране на физически лица или анализ на данни, основан на личностни черти и характеристики, включително местоположение или минало престъпно поведение на физически лица или групи лица, с цел предвиждане на извършване или повторно извършване на действително(и) или потенциално(и) престъпление(я) или на друго престъпно социално поведение или административни нарушения, включително системи за предвиждане на измами, крият особен риск от дискриминация срещу определени лица или групи лица, тъй като нарушават човешкото достойнство, както и ключовия правен принцип за презумпция за невиновност. Поради това такива системи с ИИ следва да бъдат забранени.
Изменение 51
Предложение за регламент
Съображение 26б (ново)
(26б)  Неизбирателното и нецеленасочено извличане на биометрични данни от социалните медии или записи от видеонаблюдение с цел създаване или разширяване на бази данни за разпознаване на лица засилва усещането за масово наблюдение и може да доведе до груби нарушения на основните права, включително правото на неприкосновеност на личния живот. Поради това използването на системи с ИИ за тази цел следва да бъде забранено.
Изменение 52
Предложение за регламент
Съображение 26в (ново)
(26в)  Налице е сериозна загриженост относно научната основа на системите с ИИ, насочени към определяне на емоции, физически или физиологични характеристики като изражения на лицето, движения, честота на пулса или гласа. Емоциите или изражението на лицето и възприятията, свързани с това, се различават значително между културите и ситуациите, а дори и във всеки отделен човек. Сред основните недостатъци на тези технологии са ограничената надеждност (категориите емоции нито се изразяват надеждно, нито се свързват еднозначно с общ набор от физически или физиологични движения), лисата на специфичност (физическите или физиологичните изражения не отразяват точно категориите емоции) и ограничената възможност за обобщаване (въздействието на контекста и културата не се отчитат в достатъчна степен). Проблеми с надеждността и съответно големи рискове от злоупотреби могат да възникнат най-вече при внедряването на системата в реални ситуации, свързани с правоприлагането, управлението на границите, работното място и образователните институции. Поради това пускането на пазара, въвеждането в експлоатация или използването на системи с ИИ, предназначени да бъдат използвани в този контекст за определяне на емоционалното състояние на физическо лице следва да бъдат забранени.
Изменение 53
Предложение за регламент
Съображение 26г (ново)
(26г)  Практиките, които са забранени от законодателството на Съюза, включително законодателството за защита на данните, за недискриминация, за защита на потребителите и законодателството в областта на конкуренцията, не следва да бъдат засегнати от настоящия регламент.
Изменение 54
Предложение за регламент
Съображение 27
(27)  Високорисковите системи с ИИ следва да се пускат на пазара на Съюза или да се въвеждат в експлоатация само ако отговарят на определени задължителни изисквания. Тези изисквания следва да гарантират, че високорисковите системи с ИИ, които се предлагат в Съюза или резултатите от които се използват по друг начин в Съюза, не представляват неприемливи рискове за важни обществени интереси на Съюза, признати и защитени от неговото право. Системите с ИИ, определени като високорискови, следва да бъдат ограничени до тези, които имат значително вредно въздействие върху здравето, безопасността и основните права на хората в Съюза, като при това се свежда до минимум всяко потенциално ограничаване на международната търговия, ако има такова.
 (27)  Високорисковите системи с ИИ следва да се пускат на пазара на Съюза, да се въвеждат в експлоатация или да се използват само ако отговарят на определени задължителни изисквания. Тези изисквания следва да гарантират, че високорисковите системи с ИИ, които се предлагат в Съюза или резултатите от които се използват по друг начин в Съюза, не представляват неприемливи рискове за важни обществени интереси на Съюза, признати и защитени от неговото право, включително основните права, демокрацията, принципите на правовата държава или околната среда. С цел да се осигури съответствие със секторното законодателство и да се избегнат дублирания, изискванията за високорискови системи с ИИ следва да вземат предвид секторното законодателство, което вече определя изисквания за включените в обхвата на настоящия регламент високорискови системи с ИИ, като например Регламент (ЕС) 2017/745 за медицинските изделия и Регламент (ЕС) 2017/746 за медицинските изделия за инвитро диагностика или Директива 2006/42/ЕО относно машините. Системите с ИИ, определени като високорискови, следва да бъдат ограничени до тези, които имат значително вредно въздействие върху здравето, безопасността и основните права на хората в Съюза, като при това се свежда до минимум всяко потенциално ограничаване на международната търговия, ако има такова. Предвид бързите темпове на технологично развитие, както и потенциалните промени в използването на системите с ИИ, списъкът на високорисковите области и случаи на използване в приложение III следва все пак да подлежи на постоянен преглед чрез извършване на редовна оценка.
Изменение 55
Предложение за регламент
Съображение 28
(28)  Системите с ИИ биха могли да доведат до неблагоприятни последици за здравето и безопасността на хората, по-специално когато тези системи функционират като компоненти на продукти. В съответствие с целите на законодателството на Съюза за хармонизация — да се улесни свободното движение на продукти на вътрешния пазар и да се гарантира, че на пазара има само безопасни и съответстващи на изискванията продукти — е важно рисковете за безопасността, които могат да възникнат от даден продукт като цяло поради неговите цифрови компоненти, включително системи с ИИ, да бъдат надлежно предотвратени и смекчени. Например все по-автономните роботи, независимо дали в контекста на производството или на индивидуалната помощ и грижи, следва да могат да работят и да изпълняват функциите си безопасно в сложна среда. Аналогично, в сектора на здравеопазването, където рисковете за живота и здравето са особено високи, все по-усъвършенстваните системи за диагностика и системите за подпомагане на човешките решения следва да бъдат надеждни и точни. Степента на неблагоприятно въздействие на системата с ИИ върху основните права, защитени от Хартата, е от особено значение, когато дадена система с ИИ се класифицира като високорискова. Тези права включват правото на човешко достойнство, правото на зачитане на личния и семейния живот, защитата на личните данни, свободата на изразяване на мнение и свободата на информация, свободата на събранията и сдруженията, както и недискриминацията, защитата на потребителите, правата на работниците, правата на хората с увреждания, правото на ефективни правни средства за защита и на справедлив съдебен процес, правото на защита и презумпцията за невиновност, както и правото на добра администрация. В допълнение към тези права е важно да се подчертае, че децата имат специфични права, които са залегнали в член 24 от Хартата на ЕС и в Конвенцията на ООН за правата на детето (допълнително разработени в Общ коментар № 25 по Конвенцията на ООН за правата на детето по отношение на цифровата среда), като и в двата акта се изисква да се отчита уязвимостта на децата и да се осигуряват защитата и грижите, необходими за тяхното добруване. Основното право на високо равнище на защита на околната среда, залегнало в Хартата и реализирано в политиките на Съюза, също следва да се взема предвид при оценката на сериозността на вредата, която дадена система с ИИ може да причини, включително във връзка с човешкото здраве и безопасност.
 (28)  Системите с ИИ биха могли да имат неблагоприятно въздействие върху здравето и безопасността на хората, по-специално когато тези системи функционират като защитни компоненти на продукти. В съответствие с целите на законодателството на Съюза за хармонизация — да се улесни свободното движение на продукти на вътрешния пазар и да се гарантира, че на пазара има само безопасни и съответстващи на изискванията продукти — е важно рисковете за безопасността, които могат да възникнат от даден продукт като цяло поради неговите цифрови компоненти, включително системи с ИИ, да бъдат надлежно предотвратени и смекчени. Например все по-автономните роботи, независимо дали в контекста на производството или на индивидуалната помощ и грижи, следва да могат да работят и да изпълняват функциите си безопасно в сложна среда. Аналогично, в сектора на здравеопазването, където рисковете за живота и здравето са особено високи, все по-усъвършенстваните системи за диагностика и системите за подпомагане на човешките решения следва да бъдат надеждни и точни.
Изменение 56
Предложение за регламент
Съображение 28a (ново)
(28a)  Степента на неблагоприятно въздействие на системата с ИИ върху основните права, защитени от Хартата, е от особено значение, когато дадена система с ИИ се класифицира като високорискова. Тези права включват правото на човешко достойнство, правото на зачитане на личния и семейния живот, защитата на личните данни, свободата на изразяване на мнение и свободата на информация, свободата на събранията и сдруженията, както и недискриминацията, правото на образование, защитата на потребителите, правата на работниците, правата на хората с увреждания, равенството между половете, правото на интелектуална собственост, правото на ефективни правни средства за защита и на справедлив съдебен процес, правото на защита и презумпцията за невиновност, както и правото на добра администрация. В допълнение към тези права е важно да се подчертае, че децата имат специфични права, които са залегнали в член 24 от Хартата на ЕС и в Конвенцията на ООН за правата на детето (допълнително разработени в Общ коментар № 25 по Конвенцията на ООН за правата на детето по отношение на цифровата среда), като и в двата акта се изисква да се отчита уязвимостта на децата и да се осигуряват защитата и грижите, необходими за тяхното добруване. Основното право на високо равнище на защита на околната среда, залегнало в Хартата и реализирано в политиките на Съюза, също следва да се взема предвид при оценката на сериозността на вредата, която дадена система с ИИ може да причини, включително във връзка с човешкото здраве и безопасност или с околната среда.
Изменение 57
Предложение за регламент
Съображение 29
(29)  По отношение на високорисковите системи с ИИ, които са защитни компоненти на продукти или системи или които сами по себе си са продукти или системи, попадащи в обхвата на Регламент (ЕО) № 300/2008 на Европейския парламент и на Съвета39, Регламент (ЕС) № 167/2013 на Европейския парламент и на Съвета40, Регламент (ЕС) № 168/2013 на Европейския парламент и на Съвета41, Директива 2014/90/ЕС на Европейския парламент и на Съвета42, Директива (ЕС) 2016/797 на Европейския парламент и на Съвета43, Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета44, Регламент (ЕС) 2018/1139 на Европейския парламент и на Съвета45 и Регламент (ЕС) 2019/2144 на Европейския парламент и на Съвета46, е целесъобразно тези актове да бъдат изменени, за да се гарантира, че Комисията отчита — въз основа на техническата и регулаторна специфика на всеки сектор и без да има вмешателство в съществуващата уредба, оценяване на съответствието и създадените в тях механизми за прилагане и органи — задължителните изисквания за високорисковите системи с ИИ, определени в настоящия регламент, когато приема евентуални имащи отношение бъдещи делегирани актове или актове за изпълнение на основание на тях.
 (29)  По отношение на високорисковите системи с ИИ, които са защитни компоненти на продукти или системи или които сами по себе си са продукти или системи, попадащи в обхвата на Регламент (ЕО) № 300/2008 на Европейския парламент и на Съвета39, Регламент (ЕС) № 167/2013 на Европейския парламент и на Съвета40, Регламент (ЕС) № 168/2013 на Европейския парламент и на Съвета41, Директива 2014/90/ЕС на Европейския парламент и на Съвета42, Директива (ЕС) 2016/797 на Европейския парламент и на Съвета43, Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета44, Регламент (ЕС) 2018/1139 на Европейския парламент и на Съвета45 и Регламент (ЕС) 2019/2144 на Европейския парламент и на Съвета46, е целесъобразно тези актове да бъдат изменени, за да се гарантира, че Комисията отчита — въз основа на техническата и регулаторна специфика на всеки сектор и без да има вмешателство в съществуващата уредба, оценяване на съответствието, надзора на пазара и създадените в тях механизми за прилагане и органи — задължителните изисквания за високорисковите системи с ИИ, определени в настоящия регламент, когато приема евентуални имащи отношение бъдещи делегирани актове или актове за изпълнение на основание на тях.
__________________
 __________________
39 Регламент (ЕО) № 300/2008 на Европейския парламент и на Съвета от 11 март 2008 г. относно общите правила в областта на сигурността на гражданското въздухоплаване и за отмяна на Регламент (ЕО) № 2320/2002 (ОВ L 97, 9.4.2008 г., стр. 72).
 39 Регламент (ЕО) № 300/2008 на Европейския парламент и на Съвета от 11 март 2008 г. относно общите правила в областта на сигурността на гражданското въздухоплаване и за отмяна на Регламент (ЕО) № 2320/2002 (ОВ L 97, 9.4.2008 г., стр. 72).
40 Регламент (ЕС) № 167/2013 на Европейския парламент и на Съвета от 5 февруари 2013 г. относно одобряването и надзора на пазара на земеделски и горски превозни средства (ОВ L 60, 2.3.2013 г., стр. 1).
 40 Регламент (ЕС) № 167/2013 на Европейския парламент и на Съвета от 5 февруари 2013 г. относно одобряването и надзора на пазара на земеделски и горски превозни средства (ОВ L 60, 2.3.2013 г., стр. 1).
41 Регламент (ЕС) № 168/2013 на Европейския парламент и на Съвета от 15 януари 2013 г. относно одобряването и надзора на пазара на дву- и триколесни превозни средства и четириколки (ОВ L 60, 2.3.2013 г., стр. 52).
 41 Регламент (ЕС) № 168/2013 на Европейския парламент и на Съвета от 15 януари 2013 г. относно одобряването и надзора на пазара на дву- и триколесни превозни средства и четириколки (ОВ L 60, 2.3.2013 г., стр. 52).
42 Директива 2014/90/ЕС на Европейския парламент и на Съвета от 23 юли 2014 г. относно морското оборудване и за отмяна на Директива 96/98/ЕО на Съвета (ОВ L 257, 28.8.2014 г., стр. 146).
 42 Директива 2014/90/ЕС на Европейския парламент и на Съвета от 23 юли 2014 г. относно морското оборудване и за отмяна на Директива 96/98/ЕО на Съвета (ОВ L 257, 28.8.2014 г., стр. 146).
43 Директива (ЕС) 2016/797 на Европейския парламент и на Съвета от 11 май 2016 г. относно оперативната съвместимост на железопътната система в рамките на Европейския съюз (ОВ L 138, 26.5.2016 г., стр. 44).
 43 Директива (ЕС) 2016/797 на Европейския парламент и на Съвета от 11 май 2016 г. относно оперативната съвместимост на железопътната система в рамките на Европейския съюз (ОВ L 138, 26.5.2016 г., стр. 44).
44 Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета от 30 май 2018 г. относно одобряването и надзора на пазара на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, за изменение на регламенти (ЕО) № 715/2007 и (ЕО) № 595/2009 и за отмяна на Директива 2007/46/ЕО (ОВ L 151, 14.6.2018 г., стр. 1).
 44 Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета от 30 май 2018 г. относно одобряването и надзора на пазара на моторни превозни средства и техните ремаркета, както и на системи, компоненти и отделни технически възли, предназначени за такива превозни средства, за изменение на регламенти (ЕО) № 715/2007 и (ЕО) № 595/2009 и за отмяна на Директива 2007/46/ЕО (ОВ L 151, 14.6.2018 г., стр. 1).
45 Регламент (ЕС) 2018/1139 на Европейския парламент и на Съвета от 4 юли 2018 г. относно общи правила в областта на гражданското въздухоплаване и за създаването на Агенция за авиационна безопасност на Европейския съюз и за изменение на регламенти (ЕО) № 2111/2005, (ЕО) № 1008/2008, (ЕС) № 996/2010, (ЕС) № 376/2014 и на директиви 2014/30/ЕС и 2014/53/ЕС на Европейския парламент и на Съвета и за отмяна на регламенти (ЕО) № 552/2004 и (ЕО) № 216/2008 на Европейския парламент и на Съвета и Регламент (ЕИО) № 3922/91 на Съвета (ОВ L 212, 22.8.2018 г., стр. 1).
 45 Регламент (ЕС) 2018/1139 на Европейския парламент и на Съвета от 4 юли 2018 г. относно общи правила в областта на гражданското въздухоплаване и за създаването на Агенция за авиационна безопасност на Европейския съюз и за изменение на регламенти (ЕО) № 2111/2005, (ЕО) № 1008/2008, (ЕС) № 996/2010, (ЕС) № 376/2014 и на директиви 2014/30/ЕС и 2014/53/ЕС на Европейския парламент и на Съвета и за отмяна на регламенти (ЕО) № 552/2004 и (ЕО) № 216/2008 на Европейския парламент и на Съвета и Регламент (ЕИО) № 3922/91 на Съвета (ОВ L 212, 22.8.2018 г., стр. 1).
46 Регламент (ЕС) № 2019/2144 на Европейския парламент и на Съвета от 27 ноември 2019] година относно изискванията за одобряване на типа на моторни превозни средства и техните ремаркета, както и системи, компоненти и отделни технически възли, предназначени за такива превозни средства, по отношение на тяхната обща безопасност и защитата на пътниците и уязвимите участници в движението по пътищата, за изменение на Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета и за отмяна на регламенти (ЕО) № 78/2009, (ЕО) № 79/2009 и (ЕО) № 661/2009 на Европейския парламент и на Съвета и регламенти (EО) № 631/2009, (EС) № 406/2010, (EС) № 672/2010, (EС) № 1003/2010, (EС) № 1005/2010, (EС) № 1008/2010, (EС) № 1009/2010, (EС) № 19/2011, (EС) № 109/2011, (EС) № 458/2011, (EС) № 65/2012, (EС) № 130/2012, (EС) № 347/2012, (EС) № 351/2012, (EС) № 1230/2012 и (EС) № 2015/166 на Комисията (ОВ L 325, 16.12.2019 г., стр. 1).
 46 Регламент (ЕС) № 2019/2144 на Европейския парламент и на Съвета от 27 ноември 2019] година относно изискванията за одобряване на типа на моторни превозни средства и техните ремаркета, както и системи, компоненти и отделни технически възли, предназначени за такива превозни средства, по отношение на тяхната обща безопасност и защитата на пътниците и уязвимите участници в движението по пътищата, за изменение на Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета и за отмяна на регламенти (ЕО) № 78/2009, (ЕО) № 79/2009 и (ЕО) № 661/2009 на Европейския парламент и на Съвета и регламенти (EО) № 631/2009, (EС) № 406/2010, (EС) № 672/2010, (EС) № 1003/2010, (EС) № 1005/2010, (EС) № 1008/2010, (EС) № 1009/2010, (EС) № 19/2011, (EС) № 109/2011, (EС) № 458/2011, (EС) № 65/2012, (EС) № 130/2012, (EС) № 347/2012, (EС) № 351/2012, (EС) № 1230/2012 и (EС) № 2015/166 на Комисията (ОВ L 325, 16.12.2019 г., стр. 1).
Изменение 58
Предложение за регламент
Съображение 30
(30)  По отношение на системите с ИИ, които са защитни компоненти на продукти или които сами по себе си са продукти, попадащи в обхвата на определено законодателство на Съюза за хармонизация, е целесъобразно те да бъдат класифицирани като високорискови съгласно настоящия регламент, ако въпросният продукт преминава през процедура за оценяване на съответствието с орган за оценяване на съответствието като трета страна съгласно съответното законодателство на Съюза за хармонизация. Подобни продукти са по-специално машини, играчки, асансьори, оборудване и защитни системи, предназначени за използване в потенциално взривоопасна среда, радиооборудване, оборудване под налягане, оборудване за плавателни съдове за отдих, въжени линии, уреди, захранвани с газово гориво, медицински изделия и медицински изделия за инвитро диагностика.
 (30)  По отношение на системите с ИИ, които са защитни компоненти на продукти или които сами по себе си са продукти, попадащи в обхвата на определено право на Съюза за хармонизация, посочено в приложение II, е целесъобразно те да бъдат класифицирани като високорискови съгласно настоящия регламент, ако въпросният продукт преминава през процедура за оценяване на съответствието, целяща да се гарантира съответствие със съществени изисквания за безопасност, с орган за оценяване на съответствието като трета страна съгласно съответното право на Съюза за хармонизация. Подобни продукти са по-специално машини, играчки, асансьори, оборудване и защитни системи, предназначени за използване в потенциално взривоопасна среда, радиооборудване, оборудване под налягане, оборудване за плавателни съдове за отдих, въжени линии, уреди, захранвани с газово гориво, медицински изделия и медицински изделия за инвитро диагностика.
Изменение 59
Предложение за регламент
Съображение 31
(31)  Класифицирането на дадена система с ИИ като високорискова съгласно настоящия регламент не следва непременно да означава, че продуктът, чийто защитен компонент е системата с ИИ, или самата система с ИИ като продукт, се счита за високорисков или високорискова съгласно критериите, установени в съответното законодателство на Съюза за хармонизация, приложимо за продукта. Такъв е по-специално случаят с Регламент (ЕС) 2017/745 на Европейския парламент и на Съвета47 и Регламент (ЕС) 2017/746 на Европейския парламент и на Съвета48, в които се предвижда оценяване на съответствието от трета страна за продукти със среден и висок риск.
 (31)  Класифицирането на дадена система с ИИ като високорискова съгласно настоящия регламент не следва да означава, че продуктът, чийто защитен компонент е системата с ИИ, или самата система с ИИ като продукт, се счита за високорисков или високорискова съгласно критериите, установени в съответното право на Съюза за хармонизация, приложимо за продукта. Такъв е по-специално случаят с Регламент (ЕС) 2017/745 на Европейския парламент и на Съвета47 и Регламент (ЕС) 2017/746 на Европейския парламент и на Съвета48, в които се предвижда оценяване на съответствието от трета страна за продукти със среден и висок риск.
__________________
 __________________
47 Регламент (ЕС) 2017/745 на Европейския парламент и на Съвета от 5 април 2017 г. за медицинските изделия, за изменение на Директива 2001/83/ЕО, Регламент (ЕО) № 178/2002 и Регламент (ЕО) № 1223/2009 и за отмяна на директиви 90/385/ЕИО и 93/42/ЕИО на Съвета (ОВ L 117, 5.5.2017 г., стр. 1).
 47 Регламент (ЕС) 2017/745 на Европейския парламент и на Съвета от 5 април 2017 г. за медицинските изделия, за изменение на Директива 2001/83/ЕО, Регламент (ЕО) № 178/2002 и Регламент (ЕО) № 1223/2009 и за отмяна на директиви 90/385/ЕИО и 93/42/ЕИО на Съвета (ОВ L 117, 5.5.2017 г., стр. 1).
48 Регламент (EС) 2017/746 на Европейския парламент и на Съвета от 5 април 2017 г. за медицинските изделия за инвитро диагностика и за отмяна на Директива 98/79/ЕО и Решение 2010/227/ЕС на Комисията (ОВ L 117, 5.5.2017 г., стр. 176).
 48 Регламент (EС) 2017/746 на Европейския парламент и на Съвета от 5 април 2017 г. за медицинските изделия за инвитро диагностика и за отмяна на Директива 98/79/ЕО и Решение 2010/227/ЕС на Комисията (ОВ L 117, 5.5.2017 г., стр. 176).
Изменение 60
Предложение за регламент
Съображение 32
(32)  Що се отнася до самостоятелните системи с ИИ, т.е. високорискови системи с ИИ, различни от тези, които са защитни компоненти на продукти или които сами по себе си са продукти, целесъобразно е те да бъдат класифицирани като високорискови, ако с оглед на предназначението си представляват висок риск от увреждане на здравето и безопасността или на основните права на хората, като се вземат предвид както сериозността на възможната вреда, така и вероятността от настъпването ѝ, и системите с ИИ се използват в някои конкретно и предварително определени области, посочени в регламента. Идентифицирането на тези системи се основава на същата методология и критерии като предвидените и за евентуални бъдещи изменения на списъка на високорисковите системи с ИИ.
 (32)  Що се отнася до самостоятелните системи с ИИ, т.е. високорискови системи с ИИ, различни от тези, които са защитни компоненти на продукти или които сами по себе си са продукти, и които са посочени в една от областите и случаите на употреба в приложение III, целесъобразно е те да бъдат класифицирани като високорискови, ако с оглед на предназначението си представляват значителен риск от увреждане на здравето и безопасността или на основните права на хората, и, когато системата с ИИ се използва като защитен елемент на критична инфраструктура, на околната среда. Такъв значителен риск от вреда следва да се идентифицира, като се оцени, от една страна, въздействието на този риск по отношение на нивото на сериозността, интензивността, вероятността от настъпването и продължителността му, взети заедно, и от друга страна, дали рискът може да засегне отделно лице, множество лица или определена група лица. Такава комбинация може например да доведе до висока степен на опасност, но с ниска вероятност от засягане на физическо лице, или висока степен на вероятност от засягане на група лица с ниска степен на опасност за дълъг период от време, в зависимост от контекста. Идентифицирането на тези системи се основава на същата методология и критерии като предвидените и за евентуални бъдещи изменения на списъка на високорисковите системи с ИИ.
Изменение 61
Предложение за регламент
Съображение 32a (ново)
(32a)  Доставчиците, чиито системи с ИИ попадат в някоя от областите и случаите на употреба, посочени в приложение III, и които считат, че тяхната система не представлява значителен риск от увреждане на здравето, безопасността, основните права или околната среда, следва да информират националните надзорни органи, като представят мотивирано уведомление. То може да бъде под формата на резюме от една страница на съответната информация за въпросната система с ИИ, включително нейното предназначение и защо тя не представлява значителен риск от увреждане на здравето, безопасността, основните права или околната среда. Комисията следва да определи критерии, с които се дава възможност на дружествата да преценят дали тяхната система би създала такива рискове, както и да разработи лесен за използване и стандартизиран образец на нотификацията. Доставчиците следва да подадат нотификацията възможно най-рано и във всички случаи преди пускането на системата с ИИ на пазара или нейното въвеждане в експлоатация, в идеалния случай на етапа на разработване, и следва да могат да я пуснат на пазара във всеки един момент след нотификацията. Въпреки това, ако органът прецени, че въпросната система с ИИ е била неправилно класифицирана, той следва да възрази срещу нотификацията в срок от три месеца. Възражението следва да бъде обосновано и в надлежно да се обяснява защо системата за изкуствен интелект е била неправилно класифицирана. Доставчикът следва да си запази правото да обжалва, като представи допълнителни аргументи. Ако след изтичането на тримесечния срок не е постъпило възражение срещу нотификацията, националните надзорни органи все пак могат да се намесят, ако системата с ИИ представлява риск на национално равнище, както и по отношение на всяка друга система с ИИ на пазара. Националните надзорни органи следва да представят на Службата по ИИ годишни доклади, в които подробно се описват получените нотификации и взетите решения.
Изменение 62
Предложение за регламент
Съображение 33
(33)  Техническите неточности на системите с ИИ, предназначени за дистанционна биометрична идентификация на физически лица, могат да доведат до предубеденост на резултатите и до дискриминация. Това обстоятелство е от особено значение, когато става въпрос за възраст, етническа принадлежност, пол или увреждания. Поради това системите за дистанционна биометрична идентификация в реално време и „екс-пост“ следва да бъдат класифицирани като високорискови. С оглед на рисковете, които пораждат, и двата вида системи за дистанционна биометрична идентификация следва да подлежат на специфични изисквания относно възможностите за поддържане на записи и човешкия надзор.
 заличава се
Изменение 63
Предложение за регламент
Съображение 33a (ново)
(33a)  Тъй като биометричните данни представляват специална категория чувствителни лични данни в съответствие с Регламент (ЕС) 2016/679, е целесъобразно да се класифицират като високорискови няколко критични случая на употреба на биометрични и основаващи се на биометрични данни системи. Поради това системите с ИИ, предназначени да се използват за биометрична идентификация на физически лица, и системите с ИИ, предназначени да се използват за извеждане на заключения относно лични характеристики на физически лица въз основа на биометрични или основаващи се на биометрия данни, включително системите за разпознаване на емоции, с изключение на забранените съгласно настоящия регламент, следва да бъдат класифицирани като високорискови. Това не следва да включва системи с ИИ, предназначени да се използват за биометрична проверка, което включва удостоверяване на самоличността, чието единствено предназначение е да потвърдят, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице с единствената цел да се получи достъп до услуга, устройство или помещения (проверка чрез съпоставяне едно към едно). Не следва да се счита, че биометричните и основаващите се на биометрични данни системи, предвидени в закон на Съюза, за да се позволи прилагането на мерки за киберсигурност и защита на личните данни, създават значителен риск от увреждане на здравето, безопасността и основните права.
Изменение 64
Предложение за регламент
Съображение 34
(34)  Що се отнася до управлението и експлоатацията на критична инфраструктура, целесъобразно е системите с ИИ, предназначени да бъдат използвани като защитни елементи при управлението и експлоатацията на движението по пътищата и водоснабдяването, газоснабдяването, отоплението и електроенергията, да бъдат класифицирани като високорискови системи с ИИ, тъй като при тях аварията или неизправността може да изложи на риск живота и здравето на множество хора и да доведе до значителни смущения в обичайното осъществяване на социални и икономически дейности.
 (34)  Що се отнася до управлението и експлоатацията на критична инфраструктура, целесъобразно е системите с ИИ, предназначени да бъдат използвани като защитни елементи при управлението и експлоатацията на водоснабдяването, газоснабдяването, отоплението, електроенергията и критичната цифрова инфраструктура, да бъдат класифицирани като високорискови системи с ИИ, тъй като при тях аварията или неизправността може да наруши сигурността и целостта на тази критична инфраструктура или да изложи на риск живота и здравето на множество хора и да доведе до значителни смущения в обичайното осъществяване на социални и икономически дейности. Защитните елементи на критичната инфраструктура, включително критичната цифрова инфраструктура, са системи, използвани за пряка защита на физическата цялост на критичната инфраструктура или здравето и безопасността на лицата и имуществото. Аварията или неизправността на тези елементи може пряко да породи рискове за физическата цялост на критичната инфраструктура и следователно до рискове за здравето и безопасността на лицата и имуществото. Елементи, предназначени да се използват единствено за целите на киберсигурността, не следва да се квалифицират като защитни елементи. Сред примерите за защитни елементи на критичната инфраструктура могат да се посочат системите за наблюдение на водното налягане или контролните системи за пожароизвестяване в центровете за изчисления в облак.
Изменение 65
Предложение за регламент
Съображение 35
(35)  Системите с ИИ, използвани в образованието или професионалното обучение, по-специално за определяне на достъпа до или за насочване на лица към институции за образование и професионално обучение или за оценяване на лица чрез тестове като част от или като предварително условие за тяхното образование, следва да се считат за високорискови, тъй като могат да определят образователния и професионалния път на дадено лице и така да повлияят на възможността му да осигурява прехраната си. Когато не са правилно проектирани и използвани, тези системи могат да нарушат правото на образование и обучение, както и правото на недискриминация и да продължат да възпроизвеждат модели на дискриминация от миналото.
 (35)  Внедряването на системи с ИИ в образованието е от важно значение, за да се подпомогне модернизирането на цели образователни системи, да се повиши качеството на образованието както офлайн, така и онлайн, и да се ускори цифровото образование, като по този начин то стане достъпно за по-широка аудитория. Системите с ИИ, използвани в образованието или професионалното обучение, по-специално за определяне на достъпа до или за оказване на съществено влияние върху решенията за приемане или за насочване на лица към институции за образование и професионално обучение или за оценяване на лица чрез тестове като част от или като предварително условие за тяхното образование, или за оценяване на подходящото ниво на образование за дадено лице и за оказване на съществено влияние върху нивото на образование и обучение, което лицата ще получат или до което ще имат достъп, или за наблюдение и откриване на забранено поведение на ученици по време на тестове, следва да се класифицират като високорискови системи с ИИ, тъй като могат да определят образователния и професионалния път на дадено лице и така да повлияят на възможността му да осигурява прехраната си. Когато не са правилно проектирани и използвани, тези системи могат да са особено накърняващи и може да нарушат правото на образование и обучение, както и правото на недискриминация и да продължат да възпроизвеждат модели на дискриминация от миналото, например срещу жени, определени възрастови групи, лица с увреждания или лица с определен расов или етнически произход или сексуална ориентация.
Изменение 66
Предложение за регламент
Съображение 36
(36)  Системите с ИИ, използвани в областта на заетостта, управлението на работници и достъпа до самостоятелна заетост, по-специално за подбор и наемане на лица, за вземане на решения относно повишения и прекратяване на договори и за разпределяне на задачи, мониторинг или оценка на лица, които имат договорни отношения във връзка с полагане на труд, също следва да бъдат класифицирани като високорискови, тъй като тези системи могат в значителна степен да повлияят на бъдещите перспективи за професионално развитие и поминък на тези лица. Сред договорните отношения във връзка с полагане на труд следва да се включват и служителите и лицата, предоставящи услуги чрез платформи, както е посочено в работната програма на Комисията за 2021 г. Такива лица по принцип не следва да се считат за ползватели по смисъла на настоящия регламент. По време на целия процес на набиране на персонал и при оценката, повишаването или задържането на лица в договорни отношения във връзка с полагане на труд такива системи могат да продължат да възпроизвеждат съществували в миналото модели на дискриминация, например срещу жени, определени възрастови групи, хора с увреждания или хора с определен расов или етнически произход или сексуална ориентация. Системите с ИИ, използвани за следене на работата и поведението на тези лица, могат също така да засегнат техните права на защита на данните и неприкосновеност на личния живот.
 (36)  Системите с ИИ, използвани в областта на заетостта, управлението на работници и достъпа до самостоятелна заетост, по-специално за подбор и наемане на лица, за вземане на решения или оказване на съществено влияние върху решения относно постъпвания, повишения и прекратяване на договори и за персонализирано разпределяне на задачи на основата на поведението на лицата, лични качества или биометрични данни, мониторинг или оценка на лица, които имат договорни отношения във връзка с полагане на труд, също следва да бъдат класифицирани като високорискови, тъй като тези системи могат в значителна степен да повлияят на бъдещите перспективи за професионално развитие и поминък на тези лица и на правата на работниците. Сред договорните отношения във връзка с полагане на труд следва да се включват по значим начин и служителите и лицата, предоставящи услуги чрез платформи, както е посочено в работната програма на Комисията за 2021 г. По време на целия процес на набиране на персонал и при оценката, повишаването или задържането на лица в договорни отношения във връзка с полагане на труд такива системи могат да продължат да възпроизвеждат съществували в миналото модели на дискриминация, например срещу жени, определени възрастови групи, хора с увреждания или хора с определен расов или етнически произход или сексуална ориентация. Системите с ИИ, използвани за следене на работата и поведението на тези лица, могат също така да накърнят същността на основните им права на защита на данните и неприкосновеност на личния живот. Настоящият регламент се прилага, без да се засягат правомощията на Съюза и на държавите членки да предвиждат по-конкретни правила за използването на системите с ИИ в контекста на трудовите правоотношения.
Изменение 67
Предложение за регламент
Съображение 37
(37)  Друга област, в която използването на системи с ИИ заслужава специално внимание, е достъпът до и ползването на някои основни частни и обществени услуги и ползи, необходими на хората за пълноценно участие в обществото или за подобряване на техния стандарт на живот. По-специално системите с ИИ, използвани за оценка на кредитния рейтинг или кредитоспособността на физически лица, следва да бъдат класифицирани като високорискови системи с ИИ, тъй като те определят какъв достъп ще имат тези лица до финансови ресурси или основни услуги като жилищно настаняване, електроенергия и телекомуникационни услуги. Използваните за тази цел системи с ИИ могат да доведат до дискриминация на лица или групи и да продължат да възпроизвеждат съществували в миналото модели на дискриминация, например въз основа на расов или етнически произход, увреждания, възраст, сексуална ориентация, или да създадат нови форми на дискриминация. Като се има предвид много ограниченият мащаб на въздействието и наличните алтернативи на пазара, е целесъобразно системите с ИИ, служещи за оценка на кредитоспособността и кредитен рейтинг, да бъдат освободени, когато се въвеждат в експлоатация от малки доставчици за тяхна собствена употреба. Физическите лица, които кандидатстват или получават обществено подпомагане и услуги от публични органи, обикновено зависят от тези помощи и услуги и са в уязвимо положение по отношение на отговорните органи. Ако за да се определи дали тези помощи и услуги следва да бъдат отказани, намалени, отменени или възстановени от органите, се използват системи с ИИ, същите могат да окажат значително въздействие върху материалната издръжка на тези лица и да нарушат основните им права, като правото на социална закрила, недискриминация, човешко достойнство или ефективни правни средства за защита. Поради това тези системи следва да бъдат класифицирани като високорискови. Независимо от това настоящият регламент следва да не възпрепятства разработването и използването на иновативни подходи в публичната администрация, за които по-широкото използване на съвместими и безопасни системи с ИИ би било полезно, при условие че тези системи не водят до висок риск за юридическите и физическите лица. И на последно място, системите с ИИ, използвани за задействане на службите за спешно реагиране или за определяне на приоритет по отношение на него, също следва да бъдат класифицирани като високорискови, тъй като те вземат решения в ситуации, които са изключително критични за живота и здравето на хора и за тяхното имущество.
 (37)  Друга област, в която използването на системи с ИИ заслужава специално внимание, е достъпът до и ползването на някои основни частни и обществени услуги, включително здравни услуги и основни услуги, включващи, но не само, жилищно настаняване, електроенергия, отопление/охлаждане и интернет, и ползи, необходими на хората за пълноценно участие в обществото или за подобряване на техния стандарт на живот. По-специално системите с ИИ, използвани за оценка на кредитния рейтинг или кредитоспособността на физически лица, следва да бъдат класифицирани като високорискови системи с ИИ, тъй като те определят какъв достъп ще имат тези лица до финансови ресурси или основни услуги като жилищно настаняване, електроенергия и телекомуникационни услуги. Използваните за тази цел системи с ИИ могат да доведат до дискриминация на лица или групи и да продължат да възпроизвеждат съществували в миналото модели на дискриминация, например въз основа на расов или етнически произход, пол, увреждания, възраст, сексуална ориентация, или да създадат нови форми на дискриминация. Въпреки това системите с ИИ, предвидени в правото на Съюза за целите на разкриването на измами при предлагането на финансови услуги, не следва да се считат за високорискови съгласно настоящия регламент. Физическите лица, които кандидатстват или получават обществено подпомагане и услуги от публични органи, включително здравни услуги и основни услуги, включващи, но без да се ограничават до, жилищно настаняване, електроенергия, отопление/охлаждане и интернет, обикновено зависят от тези помощи и услуги и са в уязвимо положение по отношение на отговорните органи. Ако за да се определи дали тези помощи и услуги следва да бъдат отказани, намалени, отменени или възстановени от органите, се използват системи с ИИ, същите могат да окажат значително въздействие върху материалната издръжка на тези лица и да нарушат основните им права, като правото на социална закрила, недискриминация, човешко достойнство или ефективни правни средства за защита. По подобен начин системите с ИИ, предназначени да бъдат използвани за вземане на решения или за оказване на съществено влияние върху решенията относно правото на физически лица на здравно и животозастраховане, също могат да окажат значително въздействие върху препитанието на лицата и да нарушат техните основни права, например чрез ограничаване на достъпа до здравеопазване или чрез поддържане на дискриминация въз основа на лични характеристики. Поради това тези системи следва да бъдат класифицирани като високорискови. Независимо от това настоящият регламент следва да не възпрепятства разработването и използването на иновативни подходи в публичната администрация, за които по-широкото използване на съвместими и безопасни системи с ИИ би било полезно, при условие че тези системи не водят до висок риск за юридическите и физическите лица. И на последно място, системите с ИИ, използвани за оценка и класифициране на спешни повиквания от физически лица или за задействане на службите за спешно реагиране или за определяне на приоритет по отношение на него, също следва да бъдат класифицирани като високорискови, тъй като те вземат решения в ситуации, които са изключително критични за живота и здравето на хора и за тяхното имущество.
Изменение 68
Предложение за регламент
Съображение 37a (ново)
(37a)  Като се имат предвид ролята и отговорността на полицейските и съдебните органи и въздействието на решенията, които те вземат за целите на предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наказания, някои специфични случаи на употреба на приложения с ИИ в правоприлагането трябва да бъдат класифицирани като високорискови, по-специално в случаите, когато е налице потенциал за значително въздействие върху живота или основните права на физическите лица.
Изменение 69
Предложение за регламент
Съображение 38
(38)  Действията на правоприлагащите органи, включващи определени употреби на системи с ИИ, се характеризират със значителна степен на властово неравновесие и могат да доведат до наблюдение, задържане или лишаване от свобода на физическо лице, както и до други неблагоприятни въздействия по отношение на основните права, гарантирани от Хартата. По-специално, ако системата с ИИ не е обучена с висококачествени данни, не отговаря на съответните изисквания по отношение на нейната точност или надеждност или не е правилно проектирана и изпитана, преди да бъде пусната на пазара или въведена в експлоатация, тя може да избира лица по дискриминационен начин или по неправилен или несправедлив в друго отношение начин. Освен това упражняването на важни основни процесуални права, като правото на ефективни правни средства за защита и на справедлив съдебен процес, както и правото на защита и презумпцията за невиновност, би могло да бъде възпрепятствано, по-специално когато системите с ИИ не са достатъчно прозрачни, обясними и документирани. Поради това е целесъобразно да се класифицират като високорискови някои системи с ИИ, предназначени да бъдат използвани в контекста на правоприлагането, където точността, надеждността и прозрачността са особено важни за избягване на неблагоприятни въздействия, запазване на общественото доверие и гарантиране на отчетност и ефективна правна защита. С оглед на естеството на въпросните дейности и свързаните с тях рискове високорисковите системи с ИИ следва да включват по-специално системи с ИИ, предназначени да се използват от правоприлагащите органи за индивидуални оценки на риска, полиграфи и подобни инструменти или за разкриване на емоционалното състояние на физическо лице, за откриване на дълбинни фалшификати, за оценка на надеждността на доказателства в наказателни производства, за предвиждане на извършването или повторното извършване на действително или потенциално престъпление въз основа на профилиране на физически лица или за оценяване на личностни черти и характеристики или минало престъпно поведение на физически лица или групи, за профилиране в хода на откриването, разследването или наказателно преследване на престъпления, както и за криминален анализ по отношение на физически лица. Системите с ИИ, специално предназначени да се използват за административни производства от данъчните и митническите органи, не следва да се считат за високорискови системи с ИИ, използвани от правоприлагащи органи за целите на предотвратяването, разкриването, разследването и наказателното преследване на престъпления.
 (38)  Действията на правоприлагащите органи, включващи определени употреби на системи с ИИ, се характеризират със значителна степен на властово неравновесие и могат да доведат до наблюдение, задържане или лишаване от свобода на физическо лице, както и до други неблагоприятни въздействия по отношение на основните права, гарантирани от Хартата. По-специално, ако системата с ИИ не е обучена с висококачествени данни, не отговаря на съответните изисквания по отношение на нейната работа, точност или надеждност или не е правилно проектирана и изпитана, преди да бъде пусната на пазара или въведена в експлоатация, тя може да избира лица по дискриминационен начин или по неправилен или несправедлив в друго отношение начин. Освен това упражняването на важни основни процесуални права, като правото на ефективни правни средства за защита и на справедлив съдебен процес, както и правото на защита и презумпцията за невиновност, би могло да бъде възпрепятствано, по-специално когато системите с ИИ не са достатъчно прозрачни, обясними и документирани. Поради това е целесъобразно да се класифицират като високорискови някои системи с ИИ, предназначени да бъдат използвани в контекста на правоприлагането, където точността, надеждността и прозрачността са особено важни за избягване на неблагоприятни въздействия, запазване на общественото доверие и гарантиране на отчетност и ефективна правна защита. С оглед на естеството на въпросните дейности и свързаните с тях рискове високорисковите системи с ИИ следва да включват по-специално системи с ИИ, предназначени да се използват от или от името на правоприлагащите органи или от агенции, служби или органи на Съюза в подкрепа на правоприлагащите органи, като например полиграфи и подобни инструменти, доколкото тяхното използване е разрешено съгласно съответното право на Съюза и национално право, за оценка на надеждността на доказателства в наказателни производства, за профилиране в хода на откриването, разследването или наказателно преследване на престъпления, както и за криминален анализ по отношение на физически лица. Системите с ИИ, специално предназначени да се използват за административни производства от данъчните и митническите органи, не следва да се класифицират като високорискови системи с ИИ, използвани от правоприлагащи органи за целите на предотвратяването, разкриването, разследването и наказателното преследване на престъпления. Използването на инструменти с ИИ от страна на правоприлагащите и съдебните органи не следва да се превръща във фактор на неравенство, социално разделение или изключване. Въздействието на използването на инструменти с ИИ върху правата на защита на заподозрените лица не следва да се пренебрегва, по-специално трудностите при получаване на съдържателна информация относно тяхното функциониране и произтичащата от това трудност при оспорване на резултатите от тях в съда, по-специално от страна на лица, срещу които се води разследване.
Изменение 70
Предложение за регламент
Съображение 39
(39)  Системите с ИИ, използвани в управлението на миграцията, убежището и граничния контрол, засягат хора, които често са в особено уязвимо положение и които зависят от резултата от действията на компетентните публични органи. Поради това точността, недискриминационният характер и прозрачността на системите с ИИ, използвани в тези ситуации, са особено важни, за да се гарантира зачитането на основните права на засегнатите лица, по-специално правото им на свободно движение, недискриминация, защита на личния живот и личните данни, международна закрила и добра администрация. Поради това е целесъобразно като високорискови да се класифицират системите с ИИ, предназначени да бъдат използвани от компетентните публични органи, натоварени със задачи в областта на управлението на миграцията, убежището и граничния контрол, например полиграфи и подобни инструменти, или такива за разкриване на емоционалното състояние на физическо лице; за оценка на определени рискове, произтичащи от физически лица, които влизат на територията на държава членка или кандидатстват за виза или убежище; за проверка на автентичността на съответните документи на физически лица; за подпомагане на компетентните публични органи при разглеждането на молби за убежище, визи и разрешения за пребиваване и свързаните с тях жалби по отношение на целта за установяване на допустимостта на физическите лица, кандидатстващи за статут. Системите с ИИ в областта на управлението на миграцията, убежището и граничния контрол, обхванати от настоящия регламент, следва да отговарят на съответните процедурни изисквания, определени в Директива 2013/32/ЕС на Европейския парламент и на Съвета49, Регламент (ЕО) № 810/2009 на Европейския парламент и на Съвета50 и другото съответно законодателство.
 (39)  Системите с ИИ, използвани в управлението на миграцията, убежището и граничния контрол, засягат хора, които често са в особено уязвимо положение и които зависят от резултата от действията на компетентните публични органи. Поради това точността, недискриминационният характер и прозрачността на системите с ИИ, използвани в тези ситуации, са особено важни, за да се гарантира зачитането на основните права на засегнатите лица, по-специално правото им на свободно движение, недискриминация, защита на личния живот и личните данни, международна закрила и добра администрация. Поради това е целесъобразно като високорискови да се класифицират системите с ИИ, предназначени да бъдат използвани от или от името на компетентните публични органи или от агенции, служби или органи на Съюза, натоварени със задачи в областта на управлението на миграцията, убежището и граничния контрол, например полиграфи и подобни инструменти, доколкото тяхното използване е разрешено съгласно съответното право на Съюза и национално право, за оценка на определени рискове, произтичащи от физически лица, които влизат на територията на държава членка или кандидатстват за виза или убежище; за проверка на автентичността на съответните документи на физически лица; за подпомагане на компетентните публични органи при разглеждането и оценката на истинността на доказателствата във връзка с молби за убежище, визи и разрешения за пребиваване и свързаните с тях жалби по отношение на целта за установяване на допустимостта на физическите лица, кандидатстващи за статут; за проследяване, наблюдение или обработване на лични данни в контекста на дейностите по управление на границите, с цел откриване, разпознаване или идентифициране на физически лица; за прогнозиране или предвиждане на тенденции, свързани с миграционни движения и преминаване на граници. Системите с ИИ в областта на управлението на миграцията, убежището и граничния контрол, обхванати от настоящия регламент, следва да отговарят на съответните процедурни изисквания, определени в Директива 2013/32/ЕС на Европейския парламент и на Съвета49, Регламент (ЕО) № 810/2009 на Европейския парламент и на Съвета50 и другото съответно законодателство. Системите с ИИ в управлението на миграцията, убежището и граничния контрол не следва при никакви обстоятелства да се използват от държавите членки или институциите, агенциите или органите на Съюза като средство за заобикаляне на техните международни задължения съгласно Конвенцията от 28 юли 1951 г. за статута на бежанците, изменена с Протокола от 31 януари 1967 г., нито следва да се използват за нарушаване по какъвто и да е начин на принципа на забрана за връщане или за отказване на безопасни и ефективни законни възможности за достъп до територията на Съюза, включително правото на международна закрила.
__________________
 __________________
49 Директива 2013/32/ЕС на Европейския парламент и на Съвета от 26 юни 2013 г. относно общите процедури за предоставяне и отнемане на международна закрила (ОВ L 180, 29.6.2013 г., стр. 60).
 49 Директива 2013/32/ЕС на Европейския парламент и на Съвета от 26 юни 2013 г. относно общите процедури за предоставяне и отнемане на международна закрила (ОВ L 180, 29.6.2013 г., стр. 60).
50 Регламент (ЕО) № 810/2009 на Европейския парламент и на Съвета от 13 юли 2009 г. за установяване на Визов кодекс на Общността (Визов кодекс) (ОВ L 243, 15.9.2009 г., стр. 1).
 50 Регламент (ЕО) № 810/2009 на Европейския парламент и на Съвета от 13 юли 2009 г. за установяване на Визов кодекс на Общността (Визов кодекс) (ОВ L 243, 15.9.2009 г., стр. 1).
Изменение 71
Предложение за регламент
Съображение 40
(40)  Някои системи с ИИ, предназначени за използване в правораздаването и при демократичните процеси, следва да бъдат класифицирани като високорискови, като се има предвид потенциално значителното им въздействие върху демокрацията, принципите на правовата държава, индивидуалните свободи, както и правото на ефективни правни средства за защита и на справедлив съдебен процес. По-специално, в отговор на рисковете от потенциална предубеденост, грешки и непрозрачност, е целесъобразно да се класифицират като високорискови системите с ИИ, предназначени да подпомагат съдебните органи при проучването и тълкуването на фактите и правото и при прилагането на му към конкретен набор от факти. Подобна класификация обаче не следва да обхваща системите с ИИ, предназначени за чисто спомагателни административни дейности, които не засягат самото правораздаване спрямо отделните случаи, като например анонимизация или псевдонимизация на съдебни решения, документи или данни, комуникация между персонала, административни задачи или разпределяне на ресурси.
 (40)  Някои системи с ИИ, предназначени за използване в правораздаването и при демократичните процеси, следва да бъдат класифицирани като високорискови, като се има предвид потенциално значителното им въздействие върху демокрацията, принципите на правовата държава, индивидуалните свободи, както и правото на ефективни правни средства за защита и на справедлив съдебен процес. По-специално, в отговор на рисковете от потенциална предубеденост, грешки и непрозрачност, е целесъобразно да се класифицират като високорискови системите с ИИ, предназначени да се използват от съдебен или административен орган или от негово име, за да подпомагат съдебните или административните органи при проучването и тълкуването на фактите и правото и при прилагането на му към конкретен набор от факти или да се използват по сходен начин при алтернативно разрешаване на спорове. Използването на инструменти с изкуствен интелект може да подкрепя, но не следва да заменя правомощията на съдиите за вземане на решения, нито независимостта на съдебната власт, тъй като вземането на окончателно решение трябва да остане управлявана от човека дейност и решение. Подобна класификация обаче не следва да обхваща системите с ИИ, предназначени за чисто спомагателни административни дейности, които не засягат самото правораздаване спрямо отделните случаи, като например анонимизация или псевдонимизация на съдебни решения, документи или данни, комуникация между персонала, административни задачи или разпределяне на ресурси.
Изменение 72
Предложение за регламент
Съображение 40a (ново)
(40a)  За да се преодолеят рисковете от неправомерна външна намеса в правото на глас, залегнало в член 39 от Хартата, и от непропорционални последици за демократичните процеси, демокрацията и принципите на правовата държава, системите с ИИ, предназначени да се използват за оказване на влияние върху резултата от избори или референдум или върху поведението на физическите лица при упражняване на правото им на глас в избори или референдуми, следва да се класифицират като високорискови системи с ИИ, с изключение на системите с ИИ, на чиито резултати физическите лица не са пряко изложени, като например инструменти, използвани за организиране, оптимизиране и структуриране на политически кампании от административна и логистична гледна точка.
Изменение 73
Предложение за регламент
Съображение 40б (ново)
(40б)  Като се има предвид мащабът на физическите лица, които използват услугите, предоставяни от социалните медийни платформи, определени като много големи онлайн платформи, тези онлайн платформи могат да се използват по начин, който оказва силно влияние върху безопасността онлайн, формирането на общественото мнение и дискусии, изборните и демократичните процеси и обществените проблеми. Поради това е целесъобразно системите с ИИ, използвани от тези онлайн платформи в техните системи за препоръчване, да бъдат предмет на настоящия регламент, за да се гарантира, че системите с ИИ отговарят на изискванията, определени в настоящия регламент, включително на техническите изисквания за управление на данните, техническа документация и проследимост, прозрачност, човешки надзор, точност и надеждност. Спазването на настоящия регламент следва да даде възможност на такива много големи онлайн платформи да изпълняват по-широките си задължения за оценка на риска и ограничаване на риска, предвидени в членове 34 и 35 от Регламент (ЕС) 2022/2065. Задълженията в настоящия регламент не засягат Регламент (ЕС) 2022/2065 и следва да допълват задълженията, изисквани съгласно Регламент (ЕС) 2022/2065, когато платформата за социални медии е определена като много голяма онлайн платформа. Предвид общоевропейското въздействие на платформите на социалните медии, определени като много големи онлайн платформи, органите, определени съгласно Регламент (ЕС) 2022/2065, следва да действат като правоприлагащи органи за целите на прилагането на настоящата разпоредба.
Изменение 74
Предложение за регламент
Съображение 41
(41)  Фактът, че дадена система с ИИ е класифицирана като високорискова съгласно настоящия регламент, не следва да се тълкува като указване, че използването на системата е непременно законосъобразно съгласно други актове на правото на Съюза или съгласно националното право, съвместимо с правото на Съюза, като например относно защитата на личните данни, използването на полиграфи и подобни инструменти или други системи за разпознаване на емоционалното състояние на физическите лица. Всяко такова използване следва да продължи да се извършва единствено в съответствие с приложимите изисквания, произтичащи от Хартата и от приложимите актове на вторичното право на Съюза и националното право. Настоящият регламент не следва да се разбира като предоставящ правно основание за обработването на лични данни, включително по необходимост на специални категории лични данни.
 (41)  Фактът, че дадена система с ИИ е класифицирана като високорискова система с ИИ съгласно настоящия регламент, не следва да се тълкува като указване, че използването на системата е непременно законосъобразно или незаконосъобразно съгласно други актове на правото на Съюза или съгласно националното право, съвместимо с правото на Съюза, като например относно защитата на личните данни, всяко такова използване следва да продължи да се извършва единствено в съответствие с приложимите изисквания, произтичащи от Хартата и от приложимите актове на вторичното право на Съюза и националното право.
Изменение 75
Предложение за регламент
Съображение 41a (ново)
(41a)  Понастоящем редица правнообвързващи разпоредби на европейско, национално и международно равнище вече се прилагат или се отнасят до системите с ИИ, включително, но без да се ограничават до, първичното законодателство на ЕС (Договора за Европейския съюз и неговата Харта на основните права), вторичното законодателство на ЕС (като например Общия регламент относно защитата на данните, Директивата относно отговорността за вреди, причинени от дефект на стока, Регламентът относно свободното движение на нелични данни, директивите за борба с дискриминацията, потребителското право и директивите за безопасността и здравето на работното място), договорите на ООН в областта на правата на човека и конвенциите на Съвета на Европа (като например Европейската конвенция за правата на човека) и националното право. Освен хоризонтално приложимите разпоредби съществуват различни специфични за отделните области разпоредби, които се прилагат за конкретни приложения на ИИ (като например Регламента за медицинските изделия в сектора на здравеопазването).
Изменение 76
Предложение за регламент
Съображение 42
(42)  За да се ограничат рисковете за ползвателите и засегнатите лица от високорисковите системи с ИИ, пуснати на пазара или иначе въведени в експлоатация на пазара на Съюза, следва да се прилагат определени задължителни изисквания, при които се взема предвид за каква цел се използва системата и които са съобразени със системата за управление на риска, която ще бъде приложена от доставчика.
 (42)  За да се ограничат рисковете за внедрителите и засегнатите лица от високорисковите системи с ИИ, пуснати на пазара или иначе въведени в експлоатация на пазара на Съюза, следва да се прилагат определени задължителни изисквания, при които се вземат предвид предназначението, разумно предвидимата неправилна експлоатация, и които са съобразени със системата за управление на риска, която ще бъде приложена от доставчика. Тези изисквания следва да бъдат ориентирани към изпълнение на целите и съгласувани с тях, както и разумни и ефективни, без да създават необоснована регулаторна тежест или разходи за операторите.
Изменение 77
Предложение за регламент
Съображение 43
(43)  По отношение на високорисковите системи с ИИ следва да се прилагат изисквания по отношение на качеството на използваните набори от данни, техническата документация и воденето на регистри, прозрачността и предоставянето на информация на ползвателите, човешкия надзор, надеждността, точността и киберсигурността. Тези изисквания са необходими за ефективно ограничаване на рисковете за здравето, безопасността и основните права, които могат да възникнат с оглед на предназначението на системата, и когато не съществуват други разумни, по-малко ограничителни мерки за търговията, като по този начин се избягват необосновани ограничения на търговията.
 (43)  По отношение на високорисковите системи с ИИ следва да се прилагат изисквания по отношение на качеството и целесъобразността на използваните набори от данни, техническата документация и воденето на регистри, прозрачността и предоставянето на информация на внедрителите, човешкия надзор, надеждността, точността и сигурността. Тези изисквания са необходими за ефективно ограничаване на рисковете за здравето, безопасността и основните права, както и за околната среда, демокрацията и принципите на правовата държава, които могат да възникнат с оглед на предназначението или разумно предвидимата неправилна експлоатация на системата и когато не съществуват други разумни, по-малко ограничителни мерки за търговията, като по този начин се избягват необосновани ограничения на търговията.
Изменение 78
Предложение за регламент
Съображение 44
(44)  Високото качество на данните е от съществено значение за функционирането на много системи с ИИ, особено когато се използват техники, включващи обучение на модели, с цел да се гарантира, че високорисковата система с ИИ функционира по предназначение и по безопасен начин и не води до дискриминация, забранена от правото на Съюза. Висококачествените набори от данни за обучение, признаване и изпитване изискват прилагането на подходящи практики за мащабно и непосредствено управление на данните. Наборите от данни за обучението, признаването и изпитването следва да бъдат достатъчно подходящи, представителни, без грешки и пълни с оглед на предназначението на системата. Те следва също така да притежават подходящи статистически свойства, включително по отношение на лицата или групите лица, за които е предназначена да се използва високорисковата система с ИИ. По-специално, при обучението, признаването и изпитването на наборите от данни следва да се вземат предвид, доколкото това се изисква с оглед на предназначението им, особеностите, характеристиките или елементите, които са специфични за конкретната географска, поведенческа или функционална среда или контекст, в които системата с ИИ е предназначена да бъде използвана. За да се защитят правата на други лица от евентуална дискриминацията вследствие на предубеденост на системите с ИИ, доставчиците следва да могат да обработват и специални категории лични данни като въпрос от значителен обществен интерес, за да се гарантира наблюдението, откриването и коригирането на случаите на предубеденост на високорисковите системи с ИИ.
 (44)  Достъпът до данни с високо качество играе жизненоважна роля за осигуряването на структура и за гарантирането на функционирането на много системи с ИИ, особено когато се използват техники, включващи обучение на модели, с цел да се гарантира, че високорисковата система с ИИ функционира по предназначение и по безопасен начин и не води до дискриминация, забранена от правото на Съюза. Висококачествените набори от данни за обучение, признаване и изпитване изискват прилагането на подходящи практики за мащабно и непосредствено управление на данните. Наборите от данни за обучението и, където е приложимо, признаването и изпитването, включително етикетите, следва да бъдат достатъчно подходящи, представителни, надлежно проверени за грешки и възможно най-пълни с оглед на предназначението на системата. Те следва също така да притежават подходящи статистически свойства, включително по отношение на лицата или групите лица, във връзка с които е предназначена да се използва високорисковата система с ИИ, като се обърне специално внимание на смекчаването на евентуалната предубеденост в наборите от данни, което може да доведе до рискове за основните права или дискриминационни резултати за лицата, засегнати от високорисковата система с ИИ. Предубежденията могат например да бъдат присъщи за основните набори от данни, особено когато се използват исторически данни, въведени от разработчици на алгоритмите или генерирани, когато системите се прилагат в реални условия. Резултатите, предоставяни от системи с ИИ, се влияят от такива присъщи предубеждения, при които съществува тенденция те постепенно да се увеличават и с това да поддържат и засилват съществуващата дискриминация, по-специално за лица, принадлежащи към определени уязвими етнически групи или расови общности. По-специално при обучението, признаването и изпитването на наборите от данни следва да се вземат предвид, доколкото това се изисква с оглед на предназначението им, особеностите, характеристиките или елементите, които са специфични за конкретната географска, контекстуална, поведенческа или функционална среда или контекст, в които системата с ИИ е предназначена да бъде използвана. За да се защитят правата на други лица от евентуална дискриминацията вследствие на предубеденост на системите с ИИ, доставчиците следва, по изключение и след прилагане на всички приложими условия, предвидени в настоящия регламент и в Регламент (ЕС) 2016/679, Директива (ЕС) 2016/680 и Регламент (ЕС) 2018/1725, да могат да обработват и специални категории лични данни като въпрос от значителен обществен интерес, за да се гарантира откриването и коригирането на случаите на негативна предубеденост на високорисковите системи с ИИ. Под негативна предубеденост следва да се разбира предубеденост, която създава пряк или непряк дискриминационен ефект по отношение на физическо лице. Изискванията, свързани с управлението на данните, могат да бъдат изпълнени, като се прибегне до услугите на трети страни, които предлагат сертифицирани услуги за съответствие, включително проверка на управлението на данните, целостта на набора от данни и практиките за обучение, валидиране и тестване на данни.
Изменение 79
Предложение за регламент
Съображение 45
(45)  За разработването на високорискови системи с ИИ определени участници, като например доставчици, нотифицирани органи и други имащи отношение субекти, като например центрове за цифрови иновации, съоръжения за експериментиране и изпитване и научни изследователи, следва да имат достъп до и да използват висококачествени набори от данни в своите области на дейност, които са свързани с настоящия регламент. Общите европейски пространства на данни, създадени от Комисията, и улесняването на обмена на данни между предприятията и с държавните органи в името на обществения интерес ще бъдат от основно значение за осигуряването на надежден, отговорен и недискриминационен достъп до висококачествени данни за обучението, признаването и изпитването на системите с ИИ. Например в областта на здравеопазването европейското пространство на здравни данни ще улесни недискриминационния достъп до здравни данни и обучението на алгоритми на изкуствен интелект въз основа на тези набори от данни по сигурен, навременен, прозрачен и надежден начин, при който се опазва неприкосновеността на личния живот, и при подходящо институционално управление. Съответните компетентни органи, включително секторните органи, които предоставят или подпомагат достъпа до данни, могат също така да подкрепят предоставянето на висококачествени данни за обучението, признаването и изпитването на системите с ИИ.
 (45)  За разработването и оценката на високорискови системи с ИИ определени участници, като например доставчици, нотифицирани органи и други имащи отношение субекти, като например центрове за цифрови иновации, съоръжения за експериментиране и изпитване и научни изследователи, следва да имат достъп до и да използват висококачествени набори от данни в своите области на дейност, които са свързани с настоящия регламент. Общите европейски пространства на данни, създадени от Комисията, и улесняването на обмена на данни между предприятията и с държавните органи в името на обществения интерес ще бъдат от основно значение за осигуряването на надежден, отговорен и недискриминационен достъп до висококачествени данни за обучението, признаването и изпитването на системите с ИИ. Например в областта на здравеопазването европейското пространство на здравни данни ще улесни недискриминационния достъп до здравни данни и обучението на алгоритми на изкуствен интелект въз основа на тези набори от данни по сигурен, навременен, прозрачен и надежден начин, при който се опазва неприкосновеността на личния живот, и при подходящо институционално управление. Съответните компетентни органи, включително секторните органи, които предоставят или подпомагат достъпа до данни, могат също така да подкрепят предоставянето на висококачествени данни за обучението, признаването и изпитването на системите с ИИ.
Изменение 80
Предложение за регламент
Съображение 45a (ново)
(45a)  Правото на неприкосновеност на личния живот и на защита на личните данни трябва да бъде гарантирано през целия жизнен цикъл на системата с ИИ. В това отношение принципите на свеждане на данните до минимум и на защита на данните на етапа на проектирането и по подразбиране, определени в правото на Съюза в областта на защитата на данните, са от съществено значение, когато обработването на данни е свързано със значителни рискове за основните права на физическите лица. Доставчиците и ползвателите на системи с ИИ следва да прилагат най-съвременни технически и организационни мерки, за да защитят тези права. Тези мерки следва да включват не само анонимизиране и криптиране, но и използването на все по-налични технологии, които позволяват въвеждането на алгоритми в данните и дават възможност за извличане на ценна информация без предаване между страните или ненужно копиране на самите необработени или структурирани данни.
Изменение 81
Предложение за регламент
Съображение 46
(46)  Наличието на информация за това как са били разработени високорисковите системи с ИИ и как функционират през целия си жизнен цикъл е от съществено значение при проверката на съответствието с изискванията по настоящия регламент. Това изисква съхраняването на записи и наличието на техническа документация, съдържаща информация, която е необходима за оценяване на съответствието на системата с ИИ с приложимите изисквания. Тази информация следва да включва общите характеристики, възможностите и ограниченията на системата, използваните алгоритми, данни и процеси за обучение, изпитване и признаване, както и документация за съответната система за управление на риска. Техническата документация следва да се актуализира.
 (46)  Наличието на изчерпателна информация за това как са били разработени високорисковите системи с ИИ и как функционират през целия си срок на експлоатация е от съществено значение при проверката на съответствието с изискванията по настоящия регламент. Това изисква съхраняването на записи и наличието на техническа документация, съдържаща информация, която е необходима за оценяване на съответствието на системата с ИИ с приложимите изисквания. Тази информация следва да включва общите характеристики, възможностите и ограниченията на системата, използваните алгоритми, данни и процеси за обучение, изпитване и признаване, както и документация за съответната система за управление на риска. Техническата документация следва да се актуализира през целия жизнен цикъл на системата с ИИ. Системите с ИИ могат да имат голямо въздействие върху околната среда и високо потребление на енергия по време на жизнения си цикъл. За да се разбере по-добре въздействието на системите с ИИ върху околната среда, техническата документация, изготвена от доставчиците, следва да включва информация за потреблението на енергия на системата с ИИ, включително потреблението по време на разработката и очакваното потребление по време на използването. В тази информация следва да се взема предвид съответното законодателство на Съюза и националното законодателство. Тази докладвана информация следва да бъде разбираема, сравнима и проверима и за тази цел Комисията следва да разработи насоки за хармонизирана методология за изчисляване и докладване на тази информация. С цел гарантиране на възможността за единна документация, термините и определенията, свързани с тази изисквана документация и за всяка изисквана документация в съответното законодателство на Съюза, се съгласуват във възможно най-голяма степен.
Изменение 82
Предложение за регламент
Съображение 46a (ново)
(46a)  Системите с ИИ следва да вземат предвид съвременните методи и приложимите стандарти за намаляване на потреблението на енергия, потреблението на ресурси и отпадъците, както и за увеличаване на тяхната енергийната ефективност и цялостната ефикасност на системата. Екологичните аспекти на системите с ИИ, които са от значение за целите на настоящия регламент, са потреблението на енергия от системата с ИИ в етапа на разработване, обучение и внедряване, както и записването, отчитането и съхраняването на тези данни. Проектирането на системите с ИИ следва да дава възможност за измерване и регистриране на потреблението на енергия и ресурси на всеки етап на разработване, обучение и внедряване. Наблюдението и отчитането на емисиите на системите с ИИ трябва да бъдат надеждни, прозрачни, последователни и точни. За да се гарантира еднаквото прилагане на настоящия регламент и стабилна правна екосистема за доставчиците и внедрителите на единния пазар, Комисията следва да разработи обща спецификация за методологията за изпълнение на изискването за докладване и документиране на потреблението на енергия и ресурси по време на разработването, обучението и внедряването. Такива общи спецификации за методологията за измерване могат да създадат база, въз основа на която Комисията да реши по-добре дали са необходими бъдещи регулаторни интервенции, след като извърши оценка на въздействието, която отчита съществуващото право.
Изменение 83
Предложение за регламент
Съображение 46б (ново)
(46б)  За да се постигнат целите на настоящия регламент и да се допринесе за постигането на целите на Съюза в областта на околната среда, като същевременно се гарантира гладкото функциониране на вътрешния пазар, може да се наложи да се установят препоръки и насоки и евентуално цели за устойчивост. За тази цел Комисията е оправомощена да разработи методология, която да допринесе за установяване на ключови показатели за изпълнение (КПИ) и позоваване на целите за устойчиво развитие (ЦУР). Целта следва да бъде на първо място да се даде възможност за справедливо сравнение между вариантите за прилагане на ИИ, като се осигурят стимули за насърчаване на използването на по-ефективни технологии в областта на ИИ, насочени към проблемите в областта на енергията и ресурсите. За да се постигне тази цел, с настоящия регламент следва да се осигурят средства за установяване на събиране на първоначални данни, докладвани относно емисиите от разработването и обучението, както и от внедряването;
Изменение 84
Предложение за регламент
Съображение 47a (ново)
(47a)  Тези изисквания за прозрачност и за обяснимост на вземането на решения от ИИ също следва да спомогнат за неутрализирането на възпиращите ефекти от цифровата асиметрия и така наречените „тъмни модели“, насочени към физическите лица и тяхното информирано съгласие.
Изменение 85
Предложение за регламент
Съображение 49
(49)  Високорисковите системи с ИИ следва да функционират стабилно през целия си жизнен цикъл и да отговарят на подходящо ниво на точност, надеждност и киберсигурност в съответствие с общопризнатото съвременно техническо равнище. Нивото на точност и показателите за точност следва да се съобщават на ползвателите.
 (49)  Високорисковите системи с ИИ следва да функционират стабилно през целия си жизнен цикъл и да отговарят на подходящо ниво на точност, надеждност и киберсигурност в съответствие с общопризнатото съвременно техническо равнище. Показателите за ефективност и очакваното им ниво следва да бъдат определени с първичната цел за смекчаване на рисковете и отрицателното въздействие на системата с ИИ. Очакваното ниво на показателите за ефективност следва да се съобщава на внедрителите по ясен, прозрачен, лесно разбираем и разбираем начин. Обявяването на показателите за ефективност не може да се приема като доказателство за бъдещо равнище, но е необходимо да се прилагат съответните методи, за да се гарантира съгласувано равнище по време на използването. Въпреки че съществуват организации за стандартизация, които установяват стандарти, е необходимо да се координира сравнителният анализ, за да се установи как следва да се измерват тези стандартизирани изисквания и характеристики на системите с ИИ. Европейският съвет по изкуствен интелект следва да обедини националните органи по метрология и сравнителен анализ и да предостави необвързващи насоки за справяне с техническите аспекти на това как да се измерват подходящите нива на ефективност и надеждност.
Изменение 86
Предложение за регламент
Съображение 50
(50)  Техническата надеждност е ключово изискване за високорисковите системи с ИИ. Те следва да бъдат устойчиви срещу рискове, свързани с ограниченията на системата (напр. грешки, дефекти, несъответствия, неочаквани ситуации), както и срещу злонамерени намеси, които могат да застрашат сигурността на системата с ИИ и да доведат до вредно или друго нежелателно поведение. Липсата на защита срещу тези рискове може да повлияе на безопасността или да се отрази отрицателно на основните права, например поради неправилни решения или погрешни или засегнати от предубеждения резултати, генерирани от системата с ИИ.
 (50)  Техническата надеждност е ключово изискване за високорисковите системи с ИИ. Те следва да бъдат устойчиви срещу рискове, свързани с ограниченията на системата (напр. грешки, дефекти, несъответствия, неочаквани ситуации), както и срещу злонамерени намеси, които могат да застрашат сигурността на системата с ИИ и да доведат до вредно или друго нежелателно поведение. Липсата на защита срещу тези рискове може да повлияе на безопасността или да се отрази отрицателно на основните права, например поради неправилни решения или погрешни или засегнати от предубеждения резултати, генерирани от системата с ИИ. Ползвателите на системата с ИИ следва да предприемат стъпки, за да гарантират, че възможният компромис между надеждност и точност не води до дискриминационни или отрицателни резултати за малцинствените подгрупи.
Изменение 87
Предложение за регламент
Съображение 51
(51)  Киберсигурността играе решаваща роля, за да се гарантира, че системите с ИИ са устойчиви на опити за промяна на тяхното използване, поведение или ефективност или за компрометиране на техните свойства, свързани със сигурността, от злонамерени трети страни, които се възползват от уязвимостта на системата. Кибератаките срещу системи с ИИ могат да засегнат специфични за ИИ ресурси, като например набори от обучителни данни (напр. чрез „отравяне на данните“) или обучени модели (напр. чрез „враждебни атаки“), или да използват слабите места в цифровите ресурси на системата с ИИ или в основната ИКТ инфраструктура. За да се гарантира ниво на киберсигурност, съобразено с рисковете, доставчиците на високорискови системи с ИИ следва да предприемат подходящи мерки, като отчитат надлежно и основната ИКТ инфраструктура.
 (51)  Киберсигурността играе решаваща роля, за да се гарантира, че системите с ИИ са устойчиви на опити за промяна на тяхното използване, поведение или ефективност или за компрометиране на техните свойства, свързани със сигурността, от злонамерени трети страни, които се възползват от уязвимостта на системата. Кибератаките срещу системи с ИИ могат да засегнат специфични за ИИ ресурси, като например набори от обучителни данни (напр. чрез „отравяне на данните“) или обучени модели (напр. чрез „враждебни атаки“ или атаки, свързани с поверителността), или да използват слабите места в цифровите ресурси на системата с ИИ или в основната ИКТ инфраструктура. За да се гарантира ниво на киберсигурност, съобразено с рисковете, доставчиците на високорискови системи с ИИ, както и нотифицираните органи, компетентните национални органи и органите за надзор на пазара следва да предприемат подходящи мерки, като отчитат надлежно и основната ИКТ инфраструктура. Високорисковият ИИ следва да се придружава от решения и корекции за целите на сигурността за целия период на експлоатация на продукта или, в случай на липса на зависимост от конкретен продукт, за срок, който трябва да бъде обявен от производителя.
Изменение 88
Предложение за регламент
Съображение 53a (ново)
(53a)  Като страни по Конвенцията на Организацията на обединените нации за правата на хората с увреждания (UNCRPD) Съюзът и всички държави членки са правно задължени да защитават хората с увреждания от дискриминация и да насърчават тяхното равенство, да гарантират, че хората с увреждания имат достъп на равна основа с останалите до информационни и комуникационни технологии и системи и да гарантират зачитане на неприкосновеността на личния живот на хората с увреждания. Предвид нарастващото значение и използване на системи с ИИ прилагането на принципите за универсален дизайн за всички нови технологии и услуги следва да гарантира пълен, равен и неограничен достъп на всички потенциално засегнати от или използващи технологии с ИИ, включително хората с увреждания, по начин, който изцяло отчита присъщото им достойнство и разнообразие. Следователно е от съществено значение доставчиците да осигурят пълно съответствие с изискванията за достъпност, включително с Директива (ЕС) 2016/2102 и Директива (ЕС) 2019/882. Доставчиците следва да осигурят спазването на тези изисквания при проектирането. Поради това необходимите мерки следва да бъдат интегрирани във възможно най-голяма степен в проектирането на високорисковата система с ИИ.
Изменение 89
Предложение за регламент
Съображение 54
(54)  Доставчикът следва да създаде стабилна система за управление на качеството, да гарантира изпълнението на изискваната процедура за оценяване на съответствието, да изготви съответната документация и да създаде надеждна система за мониторинг след пускането на пазара. Публичните органи, които пускат в експлоатация високорискови системи с ИИ за свое собствено ползване, могат да приемат и прилагат правилата за системата за управление на качеството като част от приетата на национално или регионално равнище система за управление на качеството, по целесъобразност, като вземат предвид особеностите на сектора и компетентностите и организацията на въпросния публичен орган.
 (54)  Доставчикът следва да създаде стабилна система за управление на качеството, да гарантира изпълнението на изискваната процедура за оценяване на съответствието, да изготви съответната документация и да създаде надеждна система за мониторинг след пускането на пазара. От доставчиците, които вече са въвели системи за управление на качеството, основани на стандарти като ISO 9001 или други съответни стандарти, не следва да се очаква пълно дублиране на системата за управление на качеството, а по-скоро адаптиране на съществуващите им системи към определени аспекти, свързани със спазването на специфичните изисквания на настоящия регламент. Това следва да бъде отразено и в бъдещите дейности по стандартизация или в насоките, приети от Комисията в това отношение. Публичните органи, които пускат в експлоатация високорискови системи с ИИ за свое собствено ползване, могат да приемат и прилагат правилата за системата за управление на качеството като част от приетата на национално или регионално равнище система за управление на качеството, по целесъобразност, като вземат предвид особеностите на сектора и компетентностите и организацията на въпросния публичен орган.
Изменение 90
Предложение за регламент
Съображение 56
(56)  За да се даде възможност за прилагането на настоящия регламент и за да се създадат условия на равнопоставеност за операторите, както и предвид различните форми на предоставяне на цифрови продукти, е важно да се гарантира, че при всички обстоятелства установено в Съюза лице може да предостави на органите цялата необходима информация относно съответствието на дадена система с ИИ. Следователно, когато даден вносител не може да бъде идентифициран, преди да предоставят неговите системи на пазара на Съюза, доставчиците, установени извън Съюза, чрез писмено пълномощно определят упълномощен представител, който е установен в Съюза.
 (56)  За да се даде възможност за прилагането на настоящия регламент и за да се създадат условия на равнопоставеност за операторите, както и предвид различните форми на предоставяне на цифрови продукти, е важно да се гарантира, че при всички обстоятелства установено в Съюза лице може да предостави на органите цялата необходима информация относно съответствието на дадена система с ИИ. Следователно преди да предоставят своите системи на пазара на Съюза, доставчиците, установени извън Съюза, чрез писмено пълномощно определят упълномощен представител, който е установен в Съюза.
Изменение 91
Предложение за регламент
Съображение 58
(58)  Предвид естеството на системите с ИИ и евентуалните рискове за безопасността и основните права, свързани с тяхното използване, включително по отношение на необходимостта да се гарантира подходящо наблюдение на работата на дадена система с ИИ в реални условия, е целесъобразно да се определят конкретни отговорности за ползвателите. Те следва по-специално да използват високорисковите системи с ИИ в съответствие с инструкциите за употреба, а също така следва да се предвидят някои други задължения по отношение на наблюдението на функционирането на системите с ИИ и по отношение на воденето на документация, когато е целесъобразно.
 (58)  Предвид естеството на системите с ИИ и евентуалните рискове за безопасността и основните права, свързани с тяхното използване, включително по отношение на необходимостта да се гарантира подходящо наблюдение на работата на дадена система с ИИ в реални условия, е целесъобразно да се определят конкретни отговорности за внедрителите. Внедрителите следва по-специално да използват високорисковите системи с ИИ в съответствие с инструкциите за употреба, а също така следва да се предвидят някои други задължения по отношение на наблюдението на функционирането на системите с ИИ и по отношение на воденето на документация, когато е целесъобразно.
Изменение 92
Предложение за регламент
Съображение 58a (ново)
(58a)  Макар че рисковете, свързани със системите с ИИ, може да произтичат от начина на проектиране на тези системи, рискове може да произтичат и от начина им на използване. По тази причина внедрителите на високорискови системи с ИИ имат ключова роля, за да се гарантира, че основните права са защитени, което допълва задълженията на доставчика при разработването на системата с ИИ. Внедрителите най-добре могат да разберат как точно ще бъде използвана високорисковата система с ИИ и следователно могат да определят потенциалните значителни рискове, които не са били предвидени на етапа на проектиране, тъй като разполагат с по-конкретни знания за контекста на употребата и лицата или групите лица, за които има вероятност да бъдат засегнати, включително маргинализираните и уязвимите групи. Внедрителите следва да определят подходящи структури за управление в конкретния контекст на употреба, като механизми за човешки надзор, процедури за разглеждане на жалби и процедури за обезщетение, тъй като изборът на структури за управление може да бъде от съществено значение за намаляване на рисковете за основните права в конкретни случаи на употреба. За да се гарантира по ефективен начин, че основните права са защитени, внедрителят на високорискова система с ИИ следва, преди да въведе в експлоатация тази система с ИИ, да извърши оценка на въздействието върху основните права. Оценката на въздействието следва да бъде придружена от подробен план, в който се описват мерките или инструментите, които ще помогнат за намаляване на установените рискове за основните права, установени в най-скоро време от момента на въвеждането ѝ в употреба. Ако такъв план не може да бъде идентифициран, внедрителят не следва да въведе системата в експлоатация. При извършването на тази оценка на въздействието внедрителят следва да уведоми националния надзорен орган и доколкото е възможно, съответните заинтересовани страни, както и представителите на групите лица, за които има вероятност да бъдат засегнати от системата с ИИ, за да се събере съответната информация, която се счита за необходима за извършване на оценката на въздействието, и се насърчава да направи обобщението на своята оценка на въздействието върху основните права публично достъпно на своя онлайн уебсайт. Това задължение не следва да се прилага за МСП, които, предвид липсата на ресурси, биха могли да се затруднят да проведат такава консултация. Независимо от това те следва да се стремят да включват такива представители и при извършването на своята оценка на въздействието върху основните права. Освен това, предвид потенциалното въздействие и необходимостта от демократичен надзор и контрол, от внедрителите на високорискови системи с ИИ, които са публични органи или институции, органи, служби и агенции на Съюза, както и от внедрителите, които са предприятия, определени като „контролиращо достъпа предприятие“ съгласно Регламент (ЕС) 2022/1925, следва да се изисква да регистрират използването на всяка високорискова система с ИИ в публична база данни. Останалите внедрители могат да се регистрират доброволно.
Изменение 93
Предложение за регламент
Съображение 59
(59)  Уместно е да се предположи, че ползвателят на системата с ИИ ще е физическото или юридическото лице, публичният орган, агенцията или друг орган, под чието правомощие се експлоатира системата с ИИ, освен когато тя се използва в рамките на лична непрофесионална дейност.
 (59)  Уместно е да се предположи, че внедрителят на системата с ИИ ще е физическото или юридическото лице, публичният орган, агенцията или друг орган, под чието правомощие се експлоатира системата с ИИ, освен когато тя се използва в рамките на лична непрофесионална дейност.
Изменение 94
Предложение за регламент
Съображение 60
(60)  С оглед на сложността на веригата за създаване на стойност в областта на изкуствения интелект съответните трети страни, по-специално тези, които участват в продажбата и доставката на софтуер, софтуерни инструменти и компоненти, предварително обучени модели и данни или доставчиците на мрежови услуги, следва да си сътрудничат адекватно с доставчиците и ползвателите, за да могат те да изпълняват задълженията си по настоящия регламент, както и с компетентните органи, посочени съгласно настоящия регламент.
 (60)  В рамките на веригата за създаване на стойност в областта на ИИ множество субекти често доставят инструменти и услуги, но също така и компоненти или процеси, които след това се включват от доставчика в системата с ИИ, включително във връзка със събирането на данни и предварителната им обработка, обучението на модели, преквалификацията на модели, тестването и оценката на модели, интегрирането им в софтуер или други аспекти на разработването на модели. Участващите субекти могат да направят своето предлагане пряко или непряко достъпно в търговската мрежа, чрез интерфейси, като например интерфейси за програмиране на приложения (API), и разпространявани под свободни лицензи и лицензи с отворен код, но също така все по-често чрез платформи за работна сила в областта на ИИ, препродажба на обучени параметри, комплекти „направи си сам“ за изграждане на модели или предлагане на платен достъп до архитектура за обслужване на модели за разработване и обучение на модели. С оглед на тази сложност на веригата за създаване на стойност в областта на ИИ съответните трети страни, по-специално тези, които участват в разработването, продажбата и търговската доставка на софтуерни инструменти и компоненти, предварително обучени модели или данни, внедрени в системата с ИИ, или доставчиците на мрежови услуги, следва, без да накърняват собствените си права на интелектуална собственост или търговски тайни, да предоставят необходимата информация, обучение или експертен опит и да си сътрудничат адекватно с доставчиците, за да могат те да контролират всички съответни аспекти на съответствието на системата с ИИ, която попада в обхвата на настоящия регламент. За да се даде възможност за рентабилно управление на веригата за създаване на стойност в областта на ИИ, равнището на контрол следва да бъде изрично оповестено от всяка трета страна, която доставя на доставчика инструмент, услуга, компонент или процес, които впоследствие се включват от доставчика в системата с ИИ.
Изменение 95
Предложение за регламент
Съображение 60a (ново)
(60a)  Когато една от страните е в по-силна позиция при договаряне, съществува риск тя да използва тази позиция в ущърб на другата договаряща се страна при договаряне на доставката на инструменти, услуги, компоненти или процеси, които се използват или интегрират във високорискова система с ИИ, или на средства за правна защита при нарушаване или прекратяване на свързани задължения. Такава неравнопоставеност при договаряне вреди особено много на микро-, малките и средните предприятия, както и на стартиращите предприятия, освен ако не са собственост или подизпълнители на предприятие, което е в състояние да осигури подходяща компенсация на подизпълнителя, тъй като те нямат значителна възможност да договарят условията на договорното споразумение и може да нямат друг избор, освен да приемат договорни условия от типа „приемаш или се отказваш“. Ето защо неравноправните договорни условия, регулиращи доставката на инструменти, услуги, компоненти или процеси, които се използват или интегрират във високорискова система с ИИ, или средствата за правна защита при нарушаване или прекратяване на свързаните с тях задължения, не следва да бъдат обвързващи за такива микро-, малки или средни предприятия и стартиращи предприятия, когато са им наложени едностранно.
Изменение 96
Предложение за регламент
Съображение 60б (ново)
(60б)  Правилата относно договорните условия следва да вземат предвид принципа на свободата на договаряне като основополагащ принцип в отношенията между стопански субекти. Следователно на тест за неравноправност следва да подлежат не всички договорни клаузи, а само онези, които се налагат едностранно на микро-, малките и средните предприятия и стартиращите предприятия. Това се отнася до ситуации от типа „приемаш или се отказваш“, при които едната страна представя определена договорна клауза и микро-, малките или средните предприятия и стартиращите предприятия не могат да променят съдържанието ѝ дори и да опитат да се договарят. Договорна клауза, която просто бива представена от една от страните и приета от микро-, малко или средно предприятие или стартиращо предприятие, или клауза, която бива договорена и впоследствие договарящите се страни се споразумяват за нейното изменение, не следва да се разглежда като едностранно наложена.
Изменение 97
Предложение за регламент
Съображение 60в (ново)
(60в)  Освен това правилата относно неравноправните договорни клаузи следва да се прилагат само за онези елементи на договора, които са свързани с доставката на инструменти, услуги, компоненти или процеси, които се използват или интегрират във високорискова система с ИИ, или със средствата за правна защита при нарушаване или прекратяване на свързаните с тях задължения. Други части от същия договор, които не са свързани с тези елементи, следва да не подлежат на теста за неравноправност, предвиден в настоящия регламент.
Изменение 98
Предложение за регламент
Съображение 60г (ново)
(60г)  Критериите за установяване на неравноправни договорни клаузи следва да се прилагат само за прекомерни договорни условия, при които се злоупотребява с по-силна позиция за договаряне. По-голямата част от договорните условия, които са по-благоприятни от търговска гледна точка за едната страна, отколкото за другата, включително тези, които са обичайни в договорите между стопански субекти, са обичайно следствие от принципа на свобода на договаряне и продължават да се прилагат. Ако дадена договорна клауза не е включена в списъка на клаузите, които винаги се считат за неравноправни, се прилага общата разпоредба за неравноправност. В това отношение клаузите, посочени като неравноправни, следва да служат като критерий за тълкуване на общата клауза за неравноправност.
Изменение 99
Предложение за регламент
Съображение 60д (ново)
(60д)  Базовите модели са разработени неотдавна, като моделите на изкуствения интелект се разработват на базата на алгоритми, предназначени да оптимизират общите и универсалните резултати. Тези модели често се обучават чрез обширен набор от източници на данни и големи количества данни, за да изпълняват широк спектър от задачи надолу по веригата, включително такива, за които не са били специално разработени и обучени. Базовият модел може да бъде едномодален или многомодален, обучен чрез различни методи, като например обучение с учител или обучение с утвърждение. Системите с ИИ със специфично предназначение или системите с ИИ с общо предназначение могат да бъдат реализация на базовия модел, което означава, че всеки базов модел може да се използва повторно в безброй системи с ИИ надолу по веригата или системи с ИИ с общо предназначение. Тези модели имат все по-голямо значение за много приложения и системи надолу по веригата.
Изменение 100
Предложение за регламент
Съображение 60e (ново)
(60е)  В случай на базови модели, предоставяни като услуга, например чрез достъп до API, сътрудничеството с доставчиците надолу по веригата следва да продължи през целия период, през който се предоставя и поддържа тази услуга, за да се даде възможност за подходящо намаляване на риска, освен ако доставчикът на базовия модел не прехвърли модела за обучение, както и обширна и подходяща информация за наборите от данни и процеса на разработване на системата, или не ограничи услугата, например достъпа до API, по такъв начин, че доставчикът надолу по веригата да е в състояние да спазва изцяло настоящия регламент без допълнителна подкрепа от първоначалния доставчик на базовия модел.
Изменение 101
Предложение за регламент
Съображение 60ж (ново)
(60ж)  С оглед на естеството и сложността на веригата за създаване на стойност на системата с ИИ е от ключово значение да се разясни ролята на участниците, които допринасят за разработването на системи с ИИ. Съществува значителна несигурност по отношение на начина, по който ще се развиват базовите модели, както по отношение на типологията на моделите, така и по отношение на самоуправлението. Поради това е от съществено значение да се изясни правното положение на доставчиците на базови модели. В съчетание с тяхната сложност и неочаквано въздействие, с липсата на контрол от страна на доставчика на ИИ надолу по веригата върху развитието на базовия модел и с произтичащия от това дисбаланс на силите, както и с цел да се осигури справедливо разпределение на отговорностите по веригата за създаване на стойност в областта на ИИ, такива модели следва да бъдат предмет на пропорционални и по-конкретни изисквания и задължения съгласно настоящия регламент, а именно базовите модели следва да оценяват и намаляват възможните рискове и вреди чрез подходящо проектиране, изпитване и анализ, следва да прилагат мерки за управление на данните, включително оценка на отклоненията, и следва да отговарят на изискванията за техническо проектиране, за да се осигурят подходящи нива на ефективност, предвидимост, възможност за тълкуване, коректност, безопасност и киберсигурност, и следва да спазват екологичните стандарти. Тези задължения следва да бъдат придружени от стандарти. Освен това базовите модели следва да имат задължения за информиране и да изготвят цялата необходима техническа документация за потенциалните доставчици надолу по веригата, за да могат такива доставчици да изпълняват задълженията си по настоящия регламент. Базовите модели с общо предназначение следва да гарантират прозрачност относно факта, че съдържанието е генерирано от система с ИИ, а не от хора. Тези специфични изисквания и задължения не водят до разглеждането на базовите модели като високорискови системи с ИИ, но следва да гарантират постигането на целите на настоящия регламент за осигуряване на високо равнище на защита на основните права, здравето и безопасността, околната среда, демокрацията и принципите на правовата държава. Предварително обучените модели, разработени за по-тесен, не толкова общ, по-ограничен набор от приложения, които не могат да бъдат адаптирани за широк спектър от задачи, като например простите многоцелеви системи с ИИ, не следва да се считат за базови модели за целите на настоящия регламент поради по-голямата им възможност за тълкуване, която прави поведението им по-малко непредсказуемо.
Изменение 102
Предложение за регламент
Съображение 60з (ново)
(60з)  Предвид естеството на базовите модели липсва експертен опит в областта на оценката на съответствието, а методите за одит от трета страна все още са в процес на разработване. Поради това самият сектор разработва нови начини за оценка на основополагащите модели, които частично изпълняват целта на одита (като например оценка на модела, техники за проверка и валидиране чрез тестова кибератака с цел подобряване на сигурността или машинно обучение). Тези вътрешни оценки за базови модели следва да бъдат широко приложими (например независимо от каналите за дистрибуция, модалността, методите на разработване), да се занимават с рисковете, специфични за такива модели, като вземат предвид най-съвременните практики в сектора и се съсредоточават върху развитието на достатъчно техническо разбиране и контрол върху модела, управлението на разумно предвидимите рискове и обширен анализ и тестване на модела чрез подходящи мерки, например чрез привличане на независими оценители. Тъй като базовите модели са нова и бързо развиваща се разработка в областта на изкуствения интелект, е целесъобразно Комисията и Службата по ИИ да наблюдават и периодично да оценяват законодателната рамка и рамката за управление на такива модели, и по-специално на системите с ИИ с общо предназначение, основани на такива модели, които пораждат важни въпроси, свързани с генерирането на съдържание в нарушение на правото на Съюза, правилата за авторското право и потенциалната злоупотреба. Следва да се поясни, че настоящият регламент не следва да засяга правото на Съюза в областта на авторското право и сродните му права, включително директиви 2001/29/ЕО, 2004/48/ЕО и (ЕС) 2019/790 на Европейския парламент и на Съвета.
Изменение 103
Предложение за регламент
Съображение 61
(61)  Стандартизацията следва да играе ключова роля за предоставянето на технически решения на доставчиците, за да се гарантира спазването на настоящия регламент. Съответствието с хармонизираните стандарти, определени в Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета54, следва да бъде средство за доказване на спазването на изискванията на настоящия регламент от доставчиците. Комисията обаче би могла да приеме общи технически спецификации в области, в които не съществуват хармонизирани стандарти или те са недостатъчни.
 (61)  Стандартизацията следва да играе ключова роля за предоставянето на технически решения на доставчиците, за да се гарантира спазването на настоящия регламент. Съответствието с хармонизираните стандарти, определени в Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета54, следва да бъде средство за доказване на спазването на изискванията на настоящия регламент от доставчиците. За да се гарантира ефективността на стандартите като инструменти на политиката на Съюза и като се има предвид значението на стандартите за осигуряване на съответствие с изискванията на настоящия регламент и за конкурентоспособността на предприятията, е необходимо да се осигури балансирано представителство на интересите чрез насърчаване на участието на всички съответни заинтересовани страни в разработването на стандарти. Процесът на стандартизация следва да бъде прозрачен по отношение на юридическите и физическите лица, участващи в дейностите по стандартизация.
__________________
 __________________
54 Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета от 25 октомври 2012 г. относно европейската стандартизация, за изменение на директиви 89/686/ЕИО и 93/15/ЕИО на Съвета и на директиви 94/9/ЕО, 94/25/ЕО, 95/16/ЕО, 97/23/ЕО, 98/34/ЕО, 2004/22/ЕО, 2007/23/ЕО, 2009/23/ЕО и 2009/105/ЕО на Европейския парламент и на Съвета и за отмяна на Решение 87/95/ЕИО на Съвета и на Решение № 1673/2006/ЕО на Европейския парламент и на Съвета (ОВ L 316, 14.11.2012 г., стр. 12).
 54 Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета от 25 октомври 2012 г. относно европейската стандартизация, за изменение на директиви 89/686/ЕИО и 93/15/ЕИО на Съвета и на директиви 94/9/ЕО, 94/25/ЕО, 95/16/ЕО, 97/23/ЕО, 98/34/ЕО, 2004/22/ЕО, 2007/23/ЕО, 2009/23/ЕО и 2009/105/ЕО на Европейския парламент и на Съвета и за отмяна на Решение 87/95/ЕИО на Съвета и на Решение № 1673/2006/ЕО на Европейския парламент и на Съвета (ОВ L 316, 14.11.2012 г., стр. 12).
Изменение 104
Предложение за регламент
Съображение 61a (ново)
(61a)  С цел да се улесни спазването на изискванията, първите искания за стандартизация следва да бъдат издадени от Комисията най-късно два месеца след влизането в сила на настоящия регламент. Това следва да послужи за подобряване на правната сигурност, като по този начин се насърчават инвестициите и иновациите в областта на ИИ, както и на конкурентоспособността и разрастването на пазара на Съюза, като същевременно се засилва многостранното управление, представляващо всички съответни европейски заинтересовани страни, като например Службата по ИИ, европейските организации за стандартизация и органите или експертните групи, създадени съгласно съответното секторно право на Съюза, както и промишлеността, МСП, стартиращите предприятия, гражданското общество, изследователите и социалните партньори, и в крайна сметка следва да улесни глобалното сътрудничество в областта на стандартизацията в областта на ИИ по начин, съответстващ на ценностите на Съюза. При изготвянето на искането за стандартизация Комисията следва да се консултира със Службата по ИИ и с Консултативния форум за ИИ, за да събере съответния експертен опит.
Изменение 105
Предложение за регламент
Съображение 61б (ново)
(61б)  Когато системите с ИИ са предназначени за внедряване на работното място, хармонизираните стандарти следва да се ограничават до технически спецификации и процедури.
Изменение 106
Предложение за регламент
Съображение 61в (ново)
(61в)  Комисията следва да може да приема общи спецификации при определени условия, когато не съществува съответен хармонизиран стандарт или за да се отговори на конкретна загриженост, свързана с основните права. По време на целия процес на изготвяне на проекта Комисията следва редовно да се консултира със Службата по ИИ и нейния Консултативен форум, европейските организации по стандартизация и органите или експертните групи, създадени съгласно съответното секторно право на Съюза, както и със съответните заинтересовани страни, като например промишлеността, МСП, стартиращите предприятия, гражданското общество, изследователите и социалните партньори.
Изменение 107
Предложение за регламент
Съображение 61г (ново)
(61г)  При приемането на общи спецификации Комисията следва да се стреми към регулаторна хармонизация в областта на ИИ със сходни глобални партньори, което е от ключово значение за насърчаване на иновациите и трансграничните партньорства в областта на ИИ, тъй като координацията с единомислещи партньори в международните органи по стандартизация е от голямо значение.
Изменение 108
Предложение за регламент
Съображение 62
(62)  За да се гарантира високо ниво на надеждност на високорисковите системи с ИИ, те следва да подлежат на оценяване на съответствието преди пускането им на пазара или въвеждането им в експлоатация.
 (62)  За да се гарантира високо ниво на надеждност на високорисковите системи с ИИ, те следва да подлежат на оценяване на съответствието преди пускането им на пазара или въвеждането им в експлоатация. За да се повиши доверието във веригата за създаване на стойност и да се даде сигурност на предприятията относно функционирането на техните системи, трети страни, които доставят елементи с ИИ, може доброволно да кандидатстват за оценяване на съответствието от трета страна.
Изменение 109
Предложение за регламент
Съображение 64
(64)  Като се има предвид, че професионалните сертифициращи органи преди пускането на пазара притежават по-широк опит в областта на безопасността на продуктите, както и предвид различното естество на свързаните с тези продукти рискове, е целесъобразно да се ограничи, поне в началната фаза на прилагане на настоящия регламент, приложното поле на оценяването на съответствието от трета страна за високорисковите системи с ИИ, различни от свързаните с продукти. Поради това оценяването на съответствието на такива системи следва като общо правило да се извършва от доставчика на негова отговорност, с единственото изключение на системите с ИИ, предназначени за дистанционна биометрична идентификация на лица, за които следва да се предвиди участието на нотифициран орган в оценяването на съответствието, доколкото тези системи не са забранени.
 (64)  Като се има предвид сложността на високорисковите системи с ИИ и свързаните с тях рискове е от съществено значение да се развие по-адекватен капацитет за прилагане на оценяване на съответствието от трета страна за високорискови системи с ИИ. Въпреки това, като се има предвид актуалният опит на професионалните сертифициращи органи преди пускането на пазара в областта на безопасността на продуктите, както и предвид различното естество на свързаните с тези продукти рискове, е целесъобразно да се ограничи, поне в началната фаза на прилагане на настоящия регламент, приложното поле на оценяването на съответствието от трета страна за високорисковите системи с ИИ, различни от свързаните с продукти. Поради това оценяването на съответствието на такива системи следва като общо правило да се извършва от доставчика на негова отговорност, с единственото изключение на системите с ИИ, предназначени за дистанционна биометрична идентификация на лица, или системи с ИИ, предназначени за извеждане на заключения относно личностни характеристики на физически лица въз основа на биометрични или основаващи се на биометрия данни, включително системи за разпознаване на емоции, за които следва да се предвиди участието на нотифициран орган в оценяването на съответствието, доколкото тези системи не са забранени
Изменение 110
Предложение за регламент
Съображение 65
(65)  С цел извършване на оценяване на съответствието от трета страна за системи с ИИ, предназначени да се използват за дистанционна биометрична идентификация на лица, националните компетентни органи следва да определят съгласно настоящия регламент нотифицираните органи, при условие че последните отговарят на набор от изисквания, по-специално относно независимостта, компетентността и отсъствието на конфликти на интереси.
 (65)  С цел извършване на оценяване на съответствието от трета страна, когато това се изисква, националните компетентни органи следва да определят съгласно настоящия регламент нотифицираните органи, при условие че последните отговарят на набор от изисквания, по-специално относно независимостта, компетентността и отсъствието на конфликти на интереси и минимални изисквания за киберсигурност. Държавите членки следва да насърчават осигуряването на достатъчен брой органи за оценяване на съответствието, за да осигурят своевременно осъществимост на сертифицирането. Процедурите по оценяване, определяне, нотифициране и наблюдение на органи за оценяване на съответствието следва да се прилагат възможно най-еднакво в държавите членки, с оглед премахване на административните пречки по границите и гарантиране, че се реализира потенциалът на вътрешния пазар.
Изменение 111
Предложение за регламент
Съображение 65a (ново)
(65a)  В съответствие с ангажиментите на Съюза по Споразумението на Световната търговска организация относно техническите пречки пред търговията, е подходящо да се улесни в най-голяма степен признаването на резултатите от изпитванията, извършени от компетентни органи за оценяване на съответствието, независимо на каква територия са установени, когато това е необходимо за доказване на съответствието с приложимите изисквания на регламента. Комисията следва активно да проучи възможните международни инструменти за тази цел и по-специално да се стреми към евентуално сключване на споразумения за взаимно признаване с държави, които са на сравнимо ниво на техническо развитие и имат съвместим подход по отношение на ИИ и оценяването на съответствието.
Изменение 112
Предложение за регламент
Съображение 66
(66)  В съответствие с общоприетото понятие за съществено изменение за продукти, регулирани от законодателството на Съюза за хармонизация, е целесъобразно дадена система с ИИ да бъде подлагана на ново оценяване на съответствието всеки път, когато настъпи промяна, която може да засегне съответствието на системата с настоящия регламент, или когато предназначението на системата се промени. Освен това по отношение на системите с ИИ, които продължават да се обучават след пускането им на пазара или въвеждането им в експлоатация (т.е. автоматично адаптират начина, по който се изпълняват функциите), е необходимо да се предвидят правила, с които се установява дали промените в алгоритъма и неговите показатели, които са били предварително определени от доставчика и оценени към момента на оценяването на съответствието, не следва да се приемат като съществено изменение.
 (66)  В съответствие с общоприетото понятие за съществено изменение за продукти, регулирани от законодателството на Съюза за хармонизация, е целесъобразно дадена високорискова система с ИИ да бъде подлагана на ново оценяване на съответствието всеки път, когато настъпи непланирана промяна, която излиза извън рамките на контролираните или предварително определените от доставчика промени, включително непрекъснатото обучение, и която може да създаде нов неприемлив риск и значително да засегне съответствието на високорисковата система с ИИ с настоящия регламент, или когато предназначението на системата се промени. Освен това по отношение на системите с ИИ, които продължават да се обучават след пускането им на пазара или въвеждането им в експлоатация (т.е. автоматично адаптират начина, по който се изпълняват функциите), е необходимо да се предвидят правила, с които се установява дали промените в алгоритъма и неговите показатели, които са били предварително определени от доставчика и оценени към момента на оценяването на съответствието, не следва да се приемат като съществено изменение. Същото следва да се отнася и за актуализациите на системата с ИИ от съображения за сигурност като цяло и за защита срещу променящите се заплахи за манипулиране на системата, при условие че те не водят до значително изменение.
Изменение 113
Предложение за регламент
Съображение 67
(67)  Високорисковите системи с ИИ следва да носят маркировката „СЕ“, указваща тяхното съответствие с настоящия регламент с цел свободно движение в рамките на вътрешния пазар. Държавите членки не следва да създават необосновани пречки пред пускането на пазара или въвеждането в експлоатация на високорискови системи с ИИ, които съответстват на изискванията, предвидени в настоящия регламент, и носят маркировката „СЕ“.
 (67)  Високорисковите системи с ИИ следва да носят маркировката „СЕ“, указваща тяхното съответствие с настоящия регламент с цел свободно движение в рамките на вътрешния пазар. За физическите високорискови системи с ИИ следва да се постави физическа маркировка „СЕ“, която може да бъде допълнена с цифрова маркировка „СЕ“. За високорискови системи с ИИ, които са само цифрови, следва да се използва цифрова маркировка „СЕ“. Държавите членки не следва да създават необосновани пречки пред пускането на пазара или въвеждането в експлоатация на високорискови системи с ИИ, които съответстват на изискванията, предвидени в настоящия регламент, и носят маркировката „СЕ“.
Изменение 114
Предложение за регламент
Съображение 68
(68)  При определени условия спешното осигуряване на иновативни технологии може да бъде от решаващо значение за здравето и безопасността на хората и за обществото като цяло. Поради това е целесъобразно по изключителни причини, свързани с обществената сигурност или защитата на живота и здравето на физическите лица и защитата на индустриалната и търговската собственост, държавите членки да могат да разрешават пускането на пазара или въвеждането в експлоатация на системи с ИИ, които не са преминали оценяване на съответствието.
 (68)  При определени условия спешното осигуряване на иновативни технологии може да бъде от решаващо значение за здравето и безопасността на хората, за околната среда и изменението на климата, както и за обществото като цяло. Поради това е целесъобразно по изключителни причини, свързани със защитата на живота и здравето на физическите лица, опазването на околната среда и защитата на критичната инфраструктура, държавите членки да могат да разрешават пускането на пазара или въвеждането в експлоатация на системи с ИИ, които не са преминали оценяване на съответствието.
Изменение 115
Предложение за регламент
Съображение 69
(69)  С цел да се улесни работата на Комисията и на държавите членки в областта на изкуствения интелект, както и за да се повиши прозрачността пред обществеността, от доставчиците на високорискови системи с ИИ, различни от свързаните с продукти, попадащи в обхвата на съответното действащо законодателство на Съюза за хармонизация, следва да се изисква да регистрират своята високорискова система с ИИ в база данни на ЕС, която ще бъде създадена и управлявана от Комисията. Комисията ще бъде администратор на тази база данни в съответствие с Регламент (ЕС) 2018/1725 на Европейския парламент и на Съвета55. За да се гарантира цялостна готовност на базата данни при нейното въвеждане, процедурата по създаване на базата данни следва да включва изготвянето на функционални спецификации от Комисията и независим одитен доклад.
 (69)  С цел да се улесни работата на Комисията и на държавите членки в областта на изкуствения интелект, както и за да се повиши прозрачността пред обществеността, от доставчиците на високорискови системи с ИИ, различни от свързаните с продукти, попадащи в обхвата на съответното действащо законодателство на Съюза за хармонизация, следва да се изисква да регистрират своята високорискова система с ИИ и базови модели в база данни на ЕС, която ще бъде създадена и управлявана от Комисията. Тази база данни следва да бъде свободно и публично достъпна, лесна за разбиране и машинно четима. Базата данни следва също така да бъде удобна за ползване и лесна за ориентиране, с функции за търсене, позволяващи на широката общественост да търси в базата данни конкретни високорискови системи, местоположения, рискови категории съгласно приложение IV и ключови думи. Внедрителите, които са публични органи или институции, органи, служби и агенции на Съюза, или внедрителите, действащи от тяхно име, както и внедрителите, които са предприятия, определени като „контролиращо достъпа предприятие“ съгласно Регламент (ЕС)2022/1925 , следва също да се регистрират в базата данни на ЕС преди да въведат в експлоатация или да използват високорискова система с ИИ за първи път и след всяка съществена промяна. Останалите внедрители следва да имат право да направят това доброволно. Всяко съществено изменение на високорискови системи с ИИ също следва да се регистрира в базата данни на ЕС. Комисията ще бъде администратор на тази база данни в съответствие с Регламент (ЕС) 2018/1725 на Европейския парламент и на Съвета55. За да се гарантира цялостна готовност на базата данни при нейното въвеждане, процедурата по създаване на базата данни следва да включва изготвянето на функционални спецификации от Комисията и независим одитен доклад. Комисията следва да вземе предвид рисковете, свързани с киберсигурността и опасностите, когато изпълнява задачите си като администратор на данни в базата данни на ЕС. За да се увеличи максимално достъпността и използването на базата данни от обществеността, базата данни, включително информацията, предоставена чрез нея, трябва да отговаря на изискванията на директива 2019/882.
__________________
 __________________
55 Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г, стр. 1).
 55 Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г, стр. 1).
Изменение 116
Предложение за регламент
Съображение 71
(71)  Изкуственият интелект е бързо развиваща се съвкупност от технологии, която изисква нови форми на регулаторен надзор и безопасно пространство за експериментиране, като същевременно се гарантира отговорното новаторство и интегрирането на подходящи предпазни мерки и мерки за ограничаване на риска. За да се гарантира благоприятна за иновациите, ориентирана към бъдещето и стабилна правна рамка, националните компетентни органи от една или повече държави членки следва да бъдат насърчавани да създават регулаторни лаборатории за изкуствен интелект, за да се улесни разработването и изпитването на иновативни системи с ИИ под строг регулаторен надзор, преди тези системи да бъдат пуснати на пазара или въведени в експлоатация по друг начин.
 (71)  Изкуственият интелект е бързо развиваща се съвкупност от технологии, която изисква регулаторен надзор и безопасно и контролирано пространство за експериментиране, като същевременно се гарантира отговорното новаторство и интегрирането на подходящи предпазни мерки и мерки за ограничаване на риска. За да се гарантира насърчаваща иновациите, ориентирана към бъдещето и стабилна правна рамка, държавите членки следва да създадат поне една регулаторна лаборатория за изкуствен интелект, за да се улесни разработването и изпитването на иновативни системи с ИИ под строг регулаторен надзор, преди тези системи да бъдат пуснати на пазара или въведени в експлоатация по друг начин. Наистина е желателно създаването на регулаторни лаборатории, което понастоящем е оставено на преценката на държавите членки, като следваща стъпка да стане задължително при установени критерии. Тази задължителна лаборатория би могла да бъде създадена и съвместно с една или няколко други държави членки, стига да обхваща съответното национално равнище на участващите държави членки. Могат да бъдат създадени и допълнителни лаборатории на различни равнища, включително между държавите членки, за да се улесни трансграничното сътрудничество и полезните взаимодействия. С изключение на задължителната лаборатория на национално равнище, държавите членки следва да могат да създават и виртуални или хибридни лаборатории. Всички регулаторни лаборатории следва да могат да приемат както физически, така и виртуални продукти. Създаващите органи следва също така да гарантират, че регулаторните лаборатории разполагат с подходящи финансови и човешки ресурси за своето функциониране.
Изменение 117
Предложение за регламент
Съображение 72
(72)  Целите на регулаторните лаборатории следва да бъдат: насърчаване на иновациите в областта на ИИ чрез създаване на контролирана среда за експериментиране и изпитване във фазата на разработване и преди пускането на пазара, с цел да се гарантира съответствието на иновативните системи с ИИ с настоящия регламент и други съответни законодателни актове на Съюза и на държавите членки; повишаване на правната сигурност за новаторите и надзора и разбирането от страна на компетентните органи на възможностите, нововъзникващите рискове и въздействието на използването на ИИ, както и ускоряване на достъпа до пазарите, включително чрез премахване на пречките пред малките и средните предприятия (МСП) и стартиращите предприятия. За да се гарантира еднакво прилагане в целия Съюз и икономии от мащаба, е целесъобразно да се установят общи правила за прилагането на регулаторните лаборатории и рамка за сътрудничество между съответните органи, участващи в надзора на лабораториите. В съответствие с член 6, параграф 4 от Регламент (ЕС) 2016/679 и член 6 от Регламент (ЕС) 2018/1725 и без да се засяга член 4, параграф 2 от Директива (ЕС) 2016/680, настоящият регламент следва да предостави правното основание за използването на събирани за други цели лични данни за разработването на някои системи с ИИ в обществен интерес в рамките на регулаторната лаборатория за ИИ. Участниците в регулаторната лаборатория следва да осигурят подходящи гаранции и да си сътрудничат с компетентните органи, включително като следват техните насоки и действат експедитивно и добросъвестно, за да ограничат всички сериозни рискове за безопасността и основните права, които могат да се проявят по време на разработването и експериментирането в лабораторията. Поведението на участниците в регулаторната лаборатория следва да се вземе предвид, когато компетентните органи вземат решение дали да наложат административна глоба съгласно член 83, параграф 2 от Регламент 2016/679 и член 57 от Директива 2016/680.
 (72)  Целите на регулаторните лаборатории следва да бъдат: за създаващите органи да повишат разбирането си за техническото развитие, да подобрят методите за надзор и да предоставят насоки на разработчиците и доставчиците на системи с ИИ, за да постигнат регулаторно съответствие с настоящия регламент или, когато е приложимо, с други приложими законодателни актове на Съюза и на държавите членки, както и с Хартата на основните права; за бъдещите доставчици да позволят и улеснят тестването и разработването на иновативни решения, свързани със системи с ИИ, на етапа преди пускането им на пазара за повишаване на правната сигурност, да се даде възможност за повече обучение в областта на регулирането от страна на създаващите органи в контролирана среда, за да се разработят по-добри насоки, както и да се определят възможните бъдещи подобрения на правната рамка чрез обикновената законодателна процедура. Всички значителни рискове, установени по време на разработването и изпитването на такива системи с ИИ, следва да водят до незабавни ограничителни мерки, а при липса на такива – до спиране на процеса на разработване и изпитване, докато въпросните мерки не бъдат въведени. За да се гарантира еднакво прилагане в целия Съюз и икономии от мащаба, е целесъобразно да се установят общи правила за прилагането на регулаторните лаборатории и рамка за сътрудничество между съответните органи, участващи в надзора на лабораториите. Държавите членки следва да осигурят широк достъп до регулаторните лаборатории на цялата територия на Съюза, а участието в тях следва да остане доброволно. Особено важно е да се гарантира, че МСП и стартиращите предприятия имат лесен достъп до тези лаборатории, включени са и участват активно в разработването и изпитването на иновативни системи с ИИ, за да могат да допринасят със своето ноу-хау и опит.
Изменение 118
Предложение за регламент
Съображение 72a (ново)
(72a)  В съответствие с член 6, параграф 4 от Регламент (ЕС) 2016/679 и член 6 от Регламент (ЕС) 2018/1725 и без да се засяга член 4, параграф 2 от Директива (ЕС) 2016/680, настоящият регламент следва да предостави правното основание за използването на събирани за други цели лични данни за разработването на някои системи с ИИ в обществен интерес в рамките на регулаторната лаборатория за ИИ само при точно определени условия. Потенциалните доставчици в регулаторната лаборатория следва да осигурят подходящи гаранции и да си сътрудничат с компетентните органи, включително като следват техните насоки и действат експедитивно и добросъвестно, за да ограничат всички сериозни рискове за безопасността, здравето и околната среда и основните права, които могат да се проявят по време на разработването и експериментирането в лабораторията. Поведението на потенциалните доставчици в регулаторната лаборатория следва да се вземе предвид, когато компетентните органи вземат решение дали да спрат или забранят участието им в лабораторията или дали да наложат административна глоба съгласно член 83, параграф 2 от Регламент 2016/679 и член 57 от Директива 2016/680.
Изменение 119
Предложение за регламент
Съображение 72б (ново)
(72б)  За да гарантират, че изкуственият интелект води до социално и екологично полезни резултати, държавите членки следва да подкрепят и насърчават научноизследователската и развойна дейност в областта на ИИ за постигане на резултати, които са благоприятни за обществото и околната среда, чрез заделяне на достатъчно ресурси, включително публично финансиране и финансиране от Съюза, и предоставяне на приоритетен достъп до регулаторните лаборатории за проекти, ръководени от гражданското общество. Такива проекти следва да се основават на принципа на интердисциплинарно сътрудничество между разработчиците на ИИ, експертите по неравенствата, недискриминацията, достъпността, правата на потребителите, околната среда и цифровите права, както и академичните среди
Изменение 120
Предложение за регламент
Съображение 73
(73)  С цел насърчаване и защита на иновациите е важно да се обърне специално внимание на интересите на малките доставчици и ползвателите на системи с ИИ. За тази цел държавите членки следва да разработят инициативи, насочени към тези оператори, включително за повишаване на осведомеността и съобщаването на информация. Освен това при определянето на таксите за оценяване на съответствието се вземат предвид специфичните интереси и нужди на малките доставчици. Разходите за превод, свързани със задължителната документация и комуникацията с органите, могат да представляват значителни разходи за доставчиците и другите оператори, особено за по-малките. Държавите членки следва по възможност да гарантират, че един от езиците, определени и приети от тях за съответната документация на доставчиците и за комуникация с операторите, е език, които в значителна степен се разбира от възможно най-голям брой трансгранични ползватели.
 (73)  С цел насърчаване и защита на иновациите е важно да се обърне специално внимание на интересите на малките доставчици и ползвателите на системи с ИИ. За тази цел държавите членки следва да разработят инициативи, насочени към тези оператори, включително за грамотността в областта на ИИ, повишаването на осведомеността и съобщаването на информация. Държавите членки следва да използват съществуващите канали и когато е целесъобразно, да създават нови специални канали за комуникация с МСП, стартиращи предприятия, ползватели и други новатори, за да предоставят насоки и да отговарят на запитвания относно прилагането на настоящия регламент. Такива съществуващи канали могат да включват, но не се ограничават до, екипите за реагиране при инциденти с компютърната сигурност на ENISA, националните агенции за защита на данните, платформата за ИИ по заявка, европейските цифрови иновационни центрове и други съответни финансирани от ЕС инструменти, както и механизмите за изпитване и експериментиране, създадени от Комисията и държавите членки на национално равнище или на равнище на Съюза. Когато е целесъобразно, тези канали работят заедно, за да създадат полезни взаимодействия и да гарантират хомогенност в своите насоки за стартиращите предприятия, МСП и потребителите. Освен това при определянето на таксите за оценяване на съответствието се вземат предвид специфичните интереси и нужди на малките доставчици. Комисията редовно оценява разходите за сертифициране и привеждане в съответствие за МСП и стартиращите предприятия, включително чрез прозрачни консултации с МСП, стартиращите предприятия и ползвателите, и работи с държавите членки за намаляване на тези разходи. Така например разходите за превод, свързани със задължителната документация и комуникацията с органите, могат да представляват значителни разходи за доставчиците и другите оператори, особено за по-малките. Държавите членки следва по възможност да гарантират, че един от езиците, определени и приети от тях за съответната документация на доставчиците и за комуникация с операторите, е език, които в значителна степен се разбира от възможно най-голям брой трансгранични ползватели. Средните предприятия, които наскоро са преминали от категорията на малките към тази на средните предприятия по смисъла на приложението на Препоръка 2003/361/ЕО (член 16), имат достъп до тези инициативи и насоки за период от време, който се счита за подходящ от държавите членки, тъй като тези нови средни предприятия понякога може да не разполагат с необходимите правни ресурси и обучение, за да гарантират правилното разбиране и спазване на разпоредбите.
Изменение 121
Предложение за регламент
Съображение 74
(74)  За да се сведат до минимум рисковете за изпълнението, произтичащи от липсата на знания и експертен опит на пазара, както и за да се улесни спазването от страна на доставчиците и нотифицираните органи на задълженията им по настоящия регламент, платформата за ИИ по заявка, европейските цифрови иновационни центрове и механизмите за изпитване и експериментиране, създадени от Комисията и държавите членки на национално равнище или на равнище ЕС, следва по възможност да допринасят за прилагането на настоящия регламент. В рамките на своята мисия и области на компетентност те могат да предоставят по-специално техническа и научна подкрепа на доставчиците и нотифицираните органи.
 (74)  За да се сведат до минимум рисковете за изпълнението, произтичащи от липсата на знания и експертен опит на пазара, както и за да се улесни спазването от страна на доставчиците и нотифицираните органи на задълженията им по настоящия регламент, платформата за ИИ по заявка, европейските цифрови иновационни центрове и механизмите за изпитване и експериментиране, създадени от Комисията и държавите членки на национално равнище или на равнище ЕС, следва да допринасят за прилагането на настоящия регламент. В рамките на своята мисия и области на компетентност те могат да предоставят по-специално техническа и научна подкрепа на доставчиците и нотифицираните органи.
Изменение 122
Предложение за регламент
Съображение 76
(76)  За да се улесни гладкото, ефективно и хармонизирано прилагане на настоящия регламент, следва да се създаде Европейски съвет по изкуствен интелект. Той следва да отговаря за редица консултативни задачи, включително да издава становища, препоръки, съвети или насоки по въпроси, свързани с прилагането на настоящия регламент, включително относно техническите спецификации или съществуващите стандарти във връзка с изискванията, установени в настоящия регламент, и да консултира и подпомага Комисията по конкретни въпроси, свързани с изкуствения интелект.
 (76)  За да се избегне разпокъсаността, да се гарантира оптималното функциониране на единния пазар, да се гарантира ефективно и хармонизирано прилагане на настоящия регламент, да се постигне високо равнище на надеждност и защита на здравето и безопасността, основните права, околната среда и принципите на правовата държава в целия ЕС по отношение на системите с ИИ, за да се подкрепят активно националните надзорни органи, институциите, органите, службите и агенциите на Съюза по въпроси, свързани с настоящия регламент, и да се увеличи навлизането на изкуствения интелект в целия Съюз, следва да се създаде Служба за изкуствен интелект на Европейския съюз. Службата по ИИ следва да има юридическа правосубектност, следва да действа изцяло независимо, следва да отговаря за редица консултативни и координационни задачи, включително да издава становища, препоръки, съвети или насоки по въпроси, свързани с прилагането на настоящия регламент и следва да разполага с подходящ бюджет и персонал. Държавите членки следва да предоставят стратегическата насоченост и контрола над Службата по ИИ чрез нейния управителен съвет в сътрудничество с Комисията, ЕНОЗД, Агенцията на Европейския съюз за основните права и Агенцията на Европейския съюз за киберсигурност. Изпълнителният директор следва да отговаря за управлението на дейностите на секретариата на Службата по ИИ и да представлява Службата по ИИ. Заинтересованите страни следва да участват официално в работата на Службата по ИИ чрез консултативен форум, който следва да гарантира представителството на различни заинтересовани страни по балансиран начин и да консултира Службата по ИИ по въпроси, свързани с настоящия регламент. В случай че създаването на Службата по ИИ се окаже недостатъчно, за да се осигури напълно последователно прилагане на настоящия регламент на равнището на Съюза, както и ефикасни трансгранични мерки за изпълнение, следва да се обмисли създаването на агенция за ИИ.
Изменение 123
Предложение за регламент
Съображение 77
(77)  Държавите членки играят ключова роля в прилагането и изпълнението на настоящия регламент. Във връзка с това всяка държава членка следва да определи един или повече национални компетентни органи за целите на надзора върху прилагането и изпълнението на настоящия регламент. С цел да се повиши ефективността на организацията от страна на държавите членки и да се създаде официално звено за контакт с обществеността и други партньори на равнището на държавите членки и на равнището на Съюза, във всяка държава членка за национален надзорен орган следва да бъде определен по един национален орган.
 (77)  Всяка държава членка следва да определи национален надзорен орган за целите на надзора върху прилагането и изпълнението на настоящия регламент. Той също така следва да представлява своята държава членка в управителния съвет на Службата по ИИ. С цел да се повиши ефективността на организацията от страна на държавите членки и да се създаде официално звено за контакт с обществеността и други партньори на равнището на държавите членки и на равнището на Съюза. Всеки национален надзорен орган следва действа напълно независимо при изпълнението на задачите си и упражняването на правомощията си съгласно настоящия регламент.
Изменение 124
Предложение за регламент
Съображение 77a (ново)
(77a)  Националните надзорни органи следва да наблюдават прилагането на разпоредбите съгласно настоящия регламент и да допринасят за тяхното последователно прилагане в целия Съюз. За тази цел националните надзорни органи следва да си сътрудничат помежду си, със съответните национални компетентни органи, с Комисията и със Службата по ИИ.
Изменение 125
Предложение за регламент
Съображение 77б (ново)
(77б)  Както по време на мандата си, така и след неговото приключване, членът или персоналът на всеки национален надзорен орган, в съответствие с правото на Съюза или националното право, са обвързани от задължението за опазване на професионална тайна по отношение на всяка поверителна информация, която е стигнала до тяхното знание в хода на изпълнението на техните задачи или упражняването на техните правомощия. По време на техния мандат това задължение за опазване на професионалната тайна се прилага по-специално по отношение на търговските тайно и на подаването на сигнали от физически лица за нарушения на настоящия регламент.
Изменение 126
Предложение за регламент
Съображение 78
(78)  За да се гарантира, че доставчиците на високорискови системи с ИИ могат да вземат предвид опита от използването на високорискови системи с ИИ, за да подобряват своите системи и процеса на проектиране и разработване, или че могат своевременно да предприемат евентуални коригиращи действия, всички доставчици следва да разполагат със система за мониторинг след пускането на пазара. Тази система е от ключово значение и за това да се гарантира, че възможните рискове, произтичащи от системите с ИИ, които продължават да се обучават след пускането им на пазара или въвеждането им в експлоатация, могат да бъдат преодолени по-ефикасно и своевременно. В този контекст от доставчиците следва също така да се изисква да разполагат със система за докладване до съответните органи за всякакви сериозни инциденти или нарушения на националното право и правото на Съюза за защита на основните права, произтичащи от използването на техните системи с ИИ.
 (78)  За да се гарантира, че доставчиците на високорискови системи с ИИ могат да вземат предвид опита от използването на високорискови системи с ИИ, за да подобряват своите системи и процеса на проектиране и разработване, или че могат своевременно да предприемат евентуални коригиращи действия, всички доставчици следва да разполагат със система за мониторинг след пускането на пазара. Тази система е от ключово значение и за това да се гарантира, че възможните рискове, произтичащи от системите с ИИ, които продължават да се обучават или развиват след пускането им на пазара или въвеждането им в експлоатация, могат да бъдат преодолени по-ефикасно и своевременно. В този контекст от доставчиците следва също така да се изисква да разполагат със система за докладване до съответните органи за всякакви сериозни инциденти или нарушения на националното право и правото на Съюза, включително законодателството за защита на основните права и правата на потребителите, произтичащи от използването на техните системи с ИИ, и да предприемат съответните коригиращи действия. Внедрителите следва също така да докладват на съответните органи за всички сериозни инциденти или нарушения на националното право и правото на Съюза, произтичащи от използването на тяхната система с ИИ, когато узнаят за такива сериозни инциденти или нарушения.
Изменение 127
Предложение за регламент
Съображение 79
(79)  С цел да се гарантира подходящо и ефективно прилагане на изискванията и задълженията, установени с настоящия регламент, а именно законодателството на Съюза за хармонизация, системата за надзор на пазара и съответствието на продуктите, установена с Регламент (ЕС) 2019/1020, следва да се прилага в своята цялост. Когато това е необходимо за изпълнението на техните правомощия, националните публични органи или структури, които упражняват надзор върху прилагането на правото на Съюза за защита на основните права, включително органите по въпросите на равенството, следва също да имат достъп до всяка документация, изготвена съгласно настоящия регламент.
 (79)  С цел да се гарантира подходящо и ефективно прилагане на изискванията и задълженията, установени с настоящия регламент, а именно законодателството на Съюза за хармонизация, системата за надзор на пазара и съответствието на продуктите, установена с Регламент (ЕС) 2019/1020, следва да се прилага в своята цялост. За целите на настоящия регламент националните надзорни органи следва да действат като органи за надзор на пазара за системите с ИИ, обхванати от настоящия регламент, с изключение на системите с ИИ, обхванати от приложение II към настоящия регламент. По отношение на системите с ИИ, обхванати от правните актове, изброени в приложение II, компетентните органи по тези правни актове следва да останат водещ орган. Националните надзорни органи и компетентните органи по правните актове, изброени в приложение II, следва да работят съвместно, когато е необходимо. Когато е целесъобразно, компетентните органи по правните актове, изброени в приложение II, следва да изпращат компетентен персонал на националния надзорен орган, за да подпомагат изпълнението на неговите задачи. За целите на настоящия регламент националните надзорни органи следва да имат същите правомощия и задължения като органите за надзор на пазара съгласно Регламент (ЕС) 2019/1020. Когато това е необходимо за изпълнението на техните правомощия, националните публични органи или структури, които упражняват надзор върху прилагането на правото на Съюза за защита на основните права, включително органите по въпросите на равенството, следва също да имат достъп до всяка документация, изготвена съгласно настоящия регламент. След като се изчерпят всички други разумни начини за оценяване/проверка на съответствието и при обосновано искане, на националния надзорен орган следва да бъде предоставен достъп до наборите от данни за обучение, валидиране и изпитване, до обучения модел и модела на обучение на високорисковата система с ИИ, включително до съответните параметри на модела и до средата за изпълнение/работа. В случаите на по-прости софтуерни системи, попадащи в обхвата на настоящия регламент, които не се основават на обучени модели, и когато всички други начини за проверка на съответствието са изчерпани, националният надзорен орган може, по изключение, да получи достъп до изходния код при обосновано искане. Когато на националния надзорен орган е предоставен достъп до наборите от данни за обучение, валидиране и изпитване в съответствие с настоящия регламент, този достъп следва да се осъществява чрез подходящи технически средства и инструменти, включително достъп на място, а при изключителни обстоятелства – дистанционен достъп. Националният надзорен орган следва да третира всяка получена информация, включително изходния код, софтуера и данните, когато е приложимо, като поверителна информация и да спазва съответното право на Съюза относно защитата на интелектуалната собственост и търговските тайни. Националният надзорен орган следва да изтрие всяка получена информация след приключване на разследването.
Изменение 128
Предложение за регламент
Съображение 80
(80)  Законодателството на Съюза в областта на финансовите услуги включва вътрешни правила за общо управление и за управление на риска и изисквания, които са приложими за регулираните финансови институции в процеса на предоставяне на тези услуги, включително когато те използват системи с ИИ. За да се гарантира съгласувано прилагане и изпълнение на задълженията по настоящия регламент и на съответните правила и изисквания на законодателството на Съюза в областта на финансовите услуги, органите, отговарящи за надзора и изпълнението на законодателството в областта на финансовите услуги, включително, когато е приложимо, Европейската централна банка, следва да бъдат определени за компетентни органи за целите на надзора на прилагането на настоящия регламент, включително за дейностите по надзор на пазара по отношение на системите с ИИ, предоставяни или използвани от регулирани и контролирани финансови институции. За да се подобри допълнително съгласуваността между настоящия регламент и правилата, приложими за кредитните институции, регулирани съгласно Директива 2013/36/ЕС на Европейския парламент и на Съвета56, е целесъобразно също така процедурата за оценяване на съответствието и някои от процедурните задължения на доставчиците във връзка с управлението на риска, наблюдението след пускането на пазара и документирането да бъдат включени в съществуващите задължения и процедури съгласно Директива 2013/36/ЕС. За да се избегне припокриване, следва да се предвидят и ограничени дерогации във връзка със системата за управление на качеството на доставчиците и задължението за наблюдение, наложено на ползвателите на високорискови системи с ИИ, доколкото те се прилагат за кредитните институции, регулирани от Директива 2013/36/ЕС.
 (80)  Правото на Съюза в областта на финансовите услуги включва вътрешни правила за общо управление и за управление на риска и изисквания, които са приложими за регулираните финансови институции в процеса на предоставяне на тези услуги, включително когато те използват системи с ИИ. За да се гарантира съгласувано прилагане и изпълнение на задълженията по настоящия регламент и на съответните правила и изисквания на правото на Съюза в областта на финансовите услуги, компетентните органи, отговарящи за надзора и изпълнението на правото в областта на финансовите услуги, включително, когато е приложимо, Европейската централна банка, следва да бъдат определени за компетентни органи за целите на надзора на прилагането на настоящия регламент, включително за дейностите по надзор на пазара по отношение на системите с ИИ, предоставяни или използвани от регулирани и контролирани финансови институции. За да се подобри допълнително съгласуваността между настоящия регламент и правилата, приложими за кредитните институции, регулирани съгласно Директива 2013/36/ЕС на Европейския парламент и на Съвета56, е целесъобразно също така процедурата за оценяване на съответствието и някои от процедурните задължения на доставчиците във връзка с управлението на риска, наблюдението след пускането на пазара и документирането да бъдат включени в съществуващите задължения и процедури съгласно Директива 2013/36/ЕС. За да се избегне припокриване, следва да се предвидят и ограничени дерогации във връзка със системата за управление на качеството на доставчиците и задължението за наблюдение, наложено на внедрителите на високорискови системи с ИИ, доколкото те се прилагат за кредитните институции, регулирани от Директива 2013/36/ЕС.
__________________
 __________________
56 Директива 2013/36/ЕС на Европейския парламент и на Съвета от 26 юни 2013 г. относно достъпа до осъществяването на дейност от кредитните институции и относно пруденциалния надзор върху кредитните институции и инвестиционните посредници, за изменение на Директива 2002/87/ЕО и за отмяна на директиви 2006/48/ЕО и 2006/49/ЕО (ОВ L 176, 27.6.2013 г., стp. 338).
 56 Директива 2013/36/ЕС на Европейския парламент и на Съвета от 26 юни 2013 г. относно достъпа до осъществяването на дейност от кредитните институции и относно пруденциалния надзор върху кредитните институции и инвестиционните посредници, за изменение на Директива 2002/87/ЕО и за отмяна на директиви 2006/48/ЕО и 2006/49/ЕО (ОВ L 176, 27.6.2013 г., стp. 338).
Изменение 129
Предложение за регламент
Съображение 80a (ново)
(80a)  Като се имат предвид целите на настоящия регламент, а именно да се гарантира равностойно равнище на защита на здравето, безопасността и основните права на физическите лица, да се гарантира защитата на принципите на правовата държава и демокрацията, и като се има предвид, че смекчаването на рисковете, свързани със системата с ИИ срещу тези права, може да не бъде постигнато в достатъчна степен на национално равнище или да бъде предмет на различно тълкуване, което в крайна сметка би могло да доведе до неравномерно равнище на защита на физическите лица и да създаде разпокъсаност на пазара, националните надзорни органи следва да бъдат оправомощени да провеждат съвместни разследвания или да разчитат на предвидената в настоящия регламент предпазна процедура на Съюза за ефективно правоприлагане. Съвместни разследвания следва да се образуват, когато националният надзорен орган има достатъчно основания да смята, че нарушение на настоящия регламент представлява широко разпространено нарушение или широко разпространено нарушение със съюзно измерение, или когато системата с ИИ или базовият модел представлява риск, който засяга или е вероятно да засегне най-малко 45 милиона физически лица в повече от една държава членка.
Изменение 130
Предложение за регламент
Съображение 82
(82)  Важно е системите с ИИ, свързани с продукти, които не са високорискови в съответствие с настоящия регламент и поради това не е задължително да отговарят на изискванията, посочени в настоящия регламент, да бъдат безопасни при пускането им на пазара или въвеждането им в експлоатация. В услуга на тази цел Директива 2001/95/ЕО на Европейския парламент и на Съвета57 ще се прилага като предпазна мрежа.
 (82)  Важно е системите с ИИ, свързани с продукти, които не са високорискови в съответствие с настоящия регламент и поради това не е задължително да отговарят на изискванията, определени за високорисковите системи с ИИ, да бъдат безопасни при пускането им на пазара или въвеждането им в експлоатация. В услуга на тази цел Директива 2001/95/ЕО на Европейския парламент и на Съвета57 ще се прилага като предпазна мрежа.
__________________
 __________________
57 Директива 2001/95/ЕО на Европейския парламент и на Съвета от 3 декември 2001 г. относно общата безопасност на продуктите (ОВ L 11, 15.1.2002 г., стр. 4).
 57 Директива 2001/95/ЕО на Европейския парламент и на Съвета от 3 декември 2001 г. относно общата безопасност на продуктите (ОВ L 11, 15.1.2002 г., стр. 4).
Изменение 131
Предложение за регламент
Съображение 83
(83)  За да се гарантира надеждно и конструктивно сътрудничество между компетентните органи на равнището на Съюза и на национално равнище, всички страни, участващи в прилагането на настоящия регламент, следва да зачитат поверителността на информацията и данните, получавани при изпълнението на техните задачи.
 (83)  За да се гарантира надеждно и конструктивно сътрудничество между компетентните органи на равнището на Съюза и на национално равнище, всички страни, участващи в прилагането на настоящия регламент, следва да се стремят към прозрачност и откритост, като същевременно зачитат поверителността на информацията и данните, получавани при изпълнението на техните задачи, като въведат технически и организационни мерки за защита на сигурността и поверителността на информацията, получавана при изпълнението на техните дейности, включително във връзка с права върху интелектуална собственост и с обществените интереси и националната сигурност. Когато действията на Комисията, националните компетентни органи и нотифицираните органи съгласно разпоредбите на настоящия регламент водят до нарушаване на правата на интелектуална собственост, държавите членки следва да предвидят подходящи мерки и средства за правна защита, за да гарантират упражняването на правата на интелектуална собственост при прилагането на Директива 2004/48/ЕО.
Изменение 132
Предложение за регламент
Съображение 84
(84)  Държавите членки следва да предприемат всички необходими мерки, за да гарантират прилагането на разпоредбите на настоящия регламент, включително чрез установяването на ефективни, пропорционални и възпиращи санкции за тяхното нарушаване. За някои специфични нарушения държавите членки следва да вземат предвид допустимите отклонения и критериите, определени в настоящия регламент. Европейският надзорен орган по защита на данните следва да има правомощията да налага административни глоби на институциите, агенциите и органите на Съюза, попадащи в обхвата на настоящия регламент.
 (84)  Спазването на настоящия регламент следва да бъде гарантирано изпълнимо чрез налагане на глоби от националния надзорен орган при провеждане на производство съгласно процедурата, предвидена в настоящия регламент. Държавите членки следва да предприемат всички необходими мерки, за да гарантират прилагането на разпоредбите на настоящия регламент, включително чрез установяването на ефективни, пропорционални и възпиращи санкции за тяхното нарушаване. С цел засилване и хармонизиране на административните наказания за нарушения на настоящия регламент следва да се определят горните граници за определяне на административните глоби за някои специфични нарушения. При определянето на размера на глобите националните компетентни органи следва във всеки отделен случай да вземат предвид всички съответни обстоятелства на конкретната ситуация, като надлежно отчитат по-специално естеството, тежестта и продължителността на нарушението и неговите последици, както и размера на доставчика, по-специално ако доставчикът е МСП или стартиращо предприятие. Европейският надзорен орган по защита на данните следва да има правомощията да налага административни глоби на институциите, агенциите и органите на Съюза, попадащи в обхвата на настоящия регламент. Санкциите и съдебните разходи по настоящия регламент не следва да бъдат предмет на договорни клаузи или други споразумения.
Изменение 133
Предложение за регламент
Съображение 84a (ново)
(84a)  Тъй като правата и свободите на физическите и юридическите лица и на групи от физически лица могат да бъдат сериозно накърнени от системите с ИИ, от съществено значение е физическите и юридическите лица или групите от физически лица да имат реален достъп до механизми за докладване и защита и да имат право на достъп до пропорционални и ефективни средства за правна защита. Те следва да могат да докладват пред своя национален надзорен орган относно нарушения на настоящия регламент и да имат право на подаване на жалба срещу доставчици или внедрители на системи с ИИ. Когато е приложимо, внедрителите следва да осигурят вътрешни механизми за подаване на жалби, които да могат да бъдат използвани от физически и юридически лица или групи от физически лица. Без да се засягат които и да било други средства за административна или извънсъдебна защита, физическите и юридическите лица и групите от физически лица следва също да имат право на ефективна съдебна защита във връзка с правно обвързващо решение на национален надзорен орган, което ги засяга, или когато националният надзорен орган не разглежда жалба, не информира жалбоподателя за напредъка или предварителния резултат от подадената жалба или не изпълнява задължението си да вземе окончателно решение по жалбата.
Изменение 134
Предложение за регламент
Съображение 84б (ново)
(84б)  Засегнатите лица следва винаги да бъдат информирани, че са обект на използване на високорискова система с ИИ, когато внедрителите използват високорискова система с ИИ, за да подпомагат вземането на решения или да вземат решения, свързани с физически лица. Тази информация може да послужи като основа за засегнатите лица да упражнят правото си да получат обяснение съгласно настоящия регламент. Когато внедрителите предоставят обяснение на засегнатите лица съгласно настоящия регламент, те следва да вземат предвид нивото на експертен опит и знания на средния потребител или физическо лице.
Изменение 135
Предложение за регламент
Съображение 84в (ново)
(84в)  Правото на Съюза за защитата на лицата, сигнализиращи за нередности (Директива (ЕС) 2019/1937) се прилага изцяло за представителите на академичните среди, проектантите, разработчиците, лицата, допринасящи за проектите, одиторите, продуктовите мениджъри, инженерите и икономическите оператори, които придобиват информация относно нарушения на правото на Съюза от страна на доставчик на системи с ИИ или неговата система.
Изменение 136
Предложение за регламент
Съображение 85
(85)  С цел да се гарантира, че, когато е необходимо, регулаторната рамка може да бъде адаптирана, на Комисията следва да бъде делегирано правомощието да приема актове в съответствие с член 290 от ДФЕС за изменение на посочените в приложение I техники и подходи за определяне на системите с ИИ, законодателството на Съюза за хармонизация, посочено в приложение II, високорисковите системи с ИИ, изброени в приложение III, разпоредбите относно техническата документация, изброени в приложение IV, съдържанието на декларацията за съответствие с изискванията на ЕС в приложение V, разпоредбите относно процедурите за оценяване на съответствието в приложения VI и VII и разпоредбите за установяване на високорисковите системи с ИИ, за които се прилага процедурата за оценяване на съответствието въз основа на оценката на системата за управление на качеството и оценката на техническата документация. От особена важност е по време на подготвителната си работа Комисията да проведе подходящи консултации, включително на експертно равнище, и тези консултации да бъдат проведени в съответствие с принципите, определени в Междуинституционалното споразумение от 13 април 2016 г. за по-добро законотворчество58. По-специално, с цел осигуряване на равно участие при подготовката на делегираните актове, Европейският парламент и Съветът получават всички документи едновременно с експертите от държавите членки, като техните експерти получават систематично достъп до заседанията на експертните групи на Комисията, занимаващи се с подготовката на делегираните актове.
 (85)  С цел да се гарантира, че, когато е необходимо, регулаторната рамка може да бъде адаптирана, на Комисията следва да бъде делегирано правомощието да приема актове в съответствие с член 290 от ДФЕС за изменение на законодателството на Съюза за хармонизация, посочено в приложение II, високорисковите системи с ИИ, изброени в приложение III, разпоредбите относно техническата документация, изброени в приложение IV, съдържанието на декларацията за съответствие с изискванията на ЕС в приложение V, разпоредбите относно процедурите за оценяване на съответствието в приложения VI и VII и разпоредбите за установяване на високорисковите системи с ИИ, за които се прилага процедурата за оценяване на съответствието въз основа на оценката на системата за управление на качеството и оценката на техническата документация. От особена важност е по време на подготвителната си работа Комисията да проведе подходящи консултации, включително на експертно равнище, и тези консултации да бъдат проведени в съответствие с принципите, определени в Междуинституционалното споразумение от 13 април 2016 г. за по-добро законотворчество58. Тези консултации следва да включват участието на балансирано подбрани заинтересовани страни, включително организации на потребителите, гражданското общество, сдружения, представляващи засегнатите лица, представители на предприятия от различни сектори и с различна големина, както и изследователи и учени. По-специално, с цел осигуряване на равно участие при подготовката на делегираните актове, Европейският парламент и Съветът получават всички документи едновременно с експертите от държавите членки, като техните експерти получават систематично достъп до заседанията на експертните групи на Комисията, занимаващи се с подготовката на делегираните актове.
__________________
 __________________
58 ОВ L 123, 12.5.2016 г., стр. 1.
 58 ОВ L 123, 12.5.2016 г., стр. 1.
Изменение 137
Предложение за регламент
Съображение 85a (ново)
(85a)  Предвид бързото развитие на технологиите и необходимия технически експертен опит за извършване на оценка на високорисковите системи с ИИ, Комисията следва редовно да преразглежда прилагането на настоящия регламент, по-специално забранените системи с ИИ, задълженията за прозрачност и списъка на високорисковите области и случаи на употреба, поне веднъж годишно, като се консултира със Службата по ИИ и съответните заинтересовани страни.
Изменение 138
Предложение за регламент
Съображение 87a (ново)
(87a)  Тъй като надеждната информация относно използването на ресурси и енергия, производството на отпадъци и друго въздействие върху околната среда на системите с ИИ и свързаните с тях ИКТ технологии, включително софтуер, хардуер, и по-специално центрове за данни, е ограничена, Комисията следва да въведе подходяща методика за измерване на екологичното въздействие и ефективността на настоящия регламент с оглед на целите на Съюза в областта на околната среда и климата.
Изменение 139
Предложение за регламент
Съображение 89
(89)  В съответствие с член 42, параграф 2 от Регламент (ЕО) № 2018/1725 беше проведена консултация с Европейския надзорен орган по защита на данните и Европейския комитет по защита на данните, които представиха становище на […] г.,
 (89)  В съответствие с член 42, параграф 2 от Регламент (ЕО) № 2018/1725 беше проведена консултация с Европейския надзорен орган по защита на данните и Европейския комитет по защита на данните, които представиха становище на 18 юни 2021 г.
Изменение 140
Предложение за регламент
Член 1 – параграф 1 (нов)
1.  Целта на настоящия регламент е да се насърчи навлизането на ориентиран към човека и надежден изкуствен интелект, както и да се осигури високо равнище на защита на здравето, безопасността, основните права, демокрацията и принципите на правовата държава, и на околната среда от вредното въздействие на системите с изкуствен интелект в Съюза, като същевременно се оказва подкрепа за иновациите.
Изменение 141
Предложение за регламент
Член 1 – параграф 1 – буква г
г)  хармонизирани правила за прозрачност за системите с ИИ, предназначени да взаимодействат с физически лица, за системите за разпознаване на емоции и системите за биометрично категоризиране и за системите с ИИ, използвани за генериране или манипулиране на образно, аудио или видео съдържание;
 г)  хармонизирани правила за прозрачност за определени системи с ИИ;
Изменение 142
Предложение за регламент
Член 1 – параграф 1 – буква д
д)  правила за наблюдение и надзор на пазара.
 д)  правила за наблюдение на пазара, надзор на пазара, управление и правоприлагане;
Изменение 143
Предложение за регламент
Член 1 – параграф 1 – буква дa (нова)
да)  мерки в подкрепа на иновациите със специален акцент върху МСП и стартиращите предприятия, включително създаване на регулаторни лаборатории и целенасочени мерки за намаляване на регулаторната тежест върху МСП и стартиращите предприятия;
Изменение 144
Предложение за регламент
Член 1 – параграф 1 – буква дб (нова)
дб)  правила във връзка със създаването и функционирането на Службата за изкуствен интелект на Европейския съюз (Служба по ИИ).
Изменение 145
Предложение за регламент
Член 2 – параграф 1 – буква б
б)  ползвателите на системи с ИИ, намиращи се на територията на Съюза;
 б)  внедрителите на системи с ИИ, установени или намиращи се на територията на Съюза;
Изменение 146
Предложение за регламент
Член 2 – параграф 1 – буква в
в)  доставчиците и ползвателите на системи с ИИ, намиращи се в трета държава, когато резултатът, получен от системата, се използва в Съюза.
 в)  доставчиците и внедрителите на системи с ИИ, установени или намиращи се в трета държава, когато се прилага право на държава членка по силата на международното право или резултатът, получен от системата, е предназначен да се използва в Съюза;
Изменение 147
Предложение за регламент
Член 2 – параграф 1 – буква ва (нова)
вa)  доставчици, които пускат на пазара или въвеждат в експлоатация посочените в член 5 системи с ИИ извън Съюза, когато доставчикът или дистрибуторът на тези системи се намира в Съюза;
Изменение 148
Предложение за регламент
Член 2 – параграф 1 – буква вб (нова)
вб)  вносители и дистрибутори на системи с ИИ, както и упълномощени представители на доставчици на системи с ИИ, когато тези вносители, дистрибутори или упълномощени представители са установени или се намират в Съюза;
Изменение 149
Предложение за регламент
Член 2 – параграф 1 – буква вв (нова)
вв)  засегнати лица, определени в член 3, параграф 8а, които се намират в Съюза и чието здраве, безопасност или основни права са неблагоприятно засегнати от използването на система с ИИ, която е пусната на пазара или въведена в експлоатация на територията на Съюза.
Изменение 150
Предложение за регламент
Член 2 – параграф 2 – уводна част
2.  За високорисковите системи с ИИ, които са защитни елементи на продукти или системи или които сами по себе си са продукти или системи, попадащи в обхвата на следните актове, се прилага само член 84 от настоящия регламент:
 2.  За високорисковите системи с ИИ, които са защитни елементи на продукти или системи или които сами по себе си са продукти или системи и които попадат в обхвата на законодателството за хармонизация, посочено в приложение ІІ, раздел Б, се прилага само член 84 от настоящия регламент;
Изменение 151
Предложение за регламент
Член 2 – параграф 2 – буква а
a)  Регламент (ЕО) № 300/2008;
 заличава се
Изменение 152
Предложение за регламент
Член 2 – параграф 2 – буква б
б)  Регламент (ЕС) № 167/2013;
 заличава се
Изменение 153
Предложение за регламент
Член 2 – параграф 2 – буква в
в)  Регламент (ЕС) № 168/2013;
 заличава се
Изменение 154
Предложение за регламент
Член 2 – параграф 2 – буква г
г)  Директива 2014/90/ЕС;
 заличава се
Изменение 155
Предложение за регламент
Член 2 – параграф 2 – буква д
д)  Директива (ЕС) 2016/797;
 заличава се
Изменение 156
Предложение за регламент
Член 2 – параграф 2 – буква е
е)  Регламент (ЕС) 2018/858;
 заличава се
Изменение 157
Предложение за регламент
Член 2 – параграф 2 – буква ж
ж)  Регламент (ЕС) 2018/1139;
 заличава се
Изменение 158
Предложение за регламент
Член 2 – параграф 2 – буква з
з)  Регламент (ЕС) 2019/2144.
 заличава се
Изменение 159
Предложение за регламент
Член 2 – параграф 4
4.  Настоящият регламент не се прилага за публични органи в трета държава, нито за международни организации, попадащи в обхвата на настоящия регламент съгласно параграф 1, когато тези органи или организации използват системи с ИИ в рамките на международни споразумения за правоприлагане и съдебно сътрудничество със Съюза или с една или повече държави членки.
 4.  Настоящият регламент не се прилага за публични органи в трета държава, нито за международни организации, попадащи в обхвата на настоящия регламент съгласно параграф 1, когато тези органи или организации използват системи с ИИ в рамките на международно сътрудничество или споразумения за правоприлагане и съдебно сътрудничество със Съюза или с една или повече държави членки и са предмет на решение на Комисията, прието в съответствие с член 36 от Директива (ЕС) 2016/680 или член 45 от Регламент 2016/679 („решение за адекватност“) или са част от международно споразумение, сключено между Съюза и тази трета държава или международна организация съгласно член 218 от ДФЕС, предоставящо адекватни гаранции по отношение на защитата на личния живот и основните права и свободи на лицата;
Изменение 160
Предложение за регламент
Член 2 – параграф 5а (нов)
5a.  Правото на Съюза относно защитата на личните данни, неприкосновеността на личния живот и поверителността на съобщенията се прилага за личните данни, обработвани във връзка с правата и задълженията, предвидени в настоящия регламент. Настоящият регламент не засяга регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и директиви 2002/58/ЕО и (ЕС) 2016/680, без да се засягат договореностите, предвидени в член 10, параграф 5 и член 54 от настоящия регламент.
Изменение 161
Предложение за регламент
Член 2 – параграф 5б (нов)
5б.  Настоящият регламент не засяга правилата, установени в други правни актове на Съюза, свързани със защитата на потребителите и безопасността на продуктите.
Изменение 162
Предложение за регламент
Член 2 – параграф 5в (нов)
5в.  Настоящият регламент не възпрепятства държавите членки или Съюза да запазят или въведат законови, подзаконови или административни разпоредби, които са по-благоприятни за работниците по отношение на защитата на правата им във връзка с използването на системи с ИИ от работодателите, или да насърчават или позволяват прилагането на колективни трудови договори, които са по-благоприятни за работниците.
Изменение 163
Предложение за регламент
Член 2 – параграф 5г (нов)
5г.  Настоящият регламент не се прилага за научноизследователските, изпитателните и развойните дейности по отношение на дадена система с ИИ, преди тя да бъде пусната на пазара или въведена в експлоатация, при условие че тези дейности се провеждат при зачитане на основните права и приложимото право на Съюза. Изпитването в реални условия не попада в обхвата на това освобождаване. Комисията е оправомощена да приема делегирани актове в съответствие с член 73, с които се разяснява прилагането на настоящия параграф, за да се конкретизира това освобождаване с цел предотвратяване на съществуващите и потенциалните злоупотреби с него. Службата по ИИ предоставя насоки относно управлението на научноизследователската и развойната дейност съгласно член 56, като също така има за цел да координира прилагането му от националните надзорни органи.
Изменение 164
Предложение за регламент
Член 2 – параграф 5д (нов)
5д.  Настоящият регламент не се прилага за елементите на ИИ, предоставени по силата на безплатни лицензи и лицензи с отворен код, освен доколкото те са пуснати на пазара или въведени в експлоатация от доставчик като част от високорискова система с ИИ или от система с ИИ, която попада в обхвата на дял II или дял IV. Това изключение не се прилага за базовите модели, определени в член 3.
Изменение 165
Предложение за регламент
Член 3 – параграф 1 – точка 1
(1)  „система с изкуствен интелект“ (система с ИИ) означава софтуер, разработен с една или повече от техниките и подходите, посочени в приложение I, който може по отношение на даден набор от цели, определени от човек, да генерира резултати, като съдържание, прогнози, препоръки или решения, които оказват въздействие върху средите, с които взаимодействат;
 (1)  „система с изкуствен интелект“ (система с ИИ) означава основаваща се на машина система, която е проектирана да работи с различни нива на автономност и която може, по отношение на ясни или скрити цели да генерира резултати, като прогнози, препоръки или решения, които оказват въздействие върху реални или виртуални среди;
Изменение 166
Предложение за регламент
Член 3 – параграф 1 – точка 1a (нова)
(1a)  „риск“ означава съчетанието от вероятността за възникване на вреда и сериозността на тази вреда;
Изменение 167
Предложение за регламент
Член 3 – параграф 1 – точка 1б (нова)
(1б)  „значителен риск“ означава риск, който е значителен в резултат на съчетанието от неговата сериозност, интензивност, вероятност за възникване и продължителност на последиците от него, както и на способността му да засегне отделно лице, множество лица или да засегне определена група лица;
Изменение 168
Предложение за регламент
Член 3 – параграф 1 – точка 1в (нова)
(1в)  „базов модел“ означава модел на система с ИИ, който е обучен чрез широк набор от данни в голям мащаб, проектиран е с оглед на общоприложимостта на резултатите и може да бъде адаптиран към широк набор от различни задачи;
Изменение 169
Предложение за регламент
Член 3 – параграф 1 – точка 1г (нова)
(1г)  „система с ИИ с общо предназначение“ означава система с ИИ, която може да се използва и адаптира към широк набор от приложения, за които не е умишлено и специално проектирана;
Изменение 170
Предложение за регламент
Член 3 – параграф 1 – точка 1д (нова)
(1д)  „големи самообучителни сесии“ означава процесът на създаване на мощен модел на ИИ, който изисква изчислителни ресурси над много висок праг;
Изменение 171
Предложение за регламент
Член 3 – параграф 1 – точка 3
(3)  „малък доставчик“ означава доставчик, който е микро- или малко предприятие по смисъла на Препоръка 2003/361/ЕО на Комисията61;
 заличава се
__________________
61 Препоръка 2003/361/ЕО на Комисията от 6 май 2003 г. относно дефинирането на микро-, малките и средните предприятия (ОВ L 124, 20.5.2003 г., стр. 36).
Изменение 172
Предложение за регламент
Член 3 – параграф 1 – точка 4
(4)  „ползвател“ означава всяко физическо или юридическо лице, публичен орган, агенция или друга организация, които използват система с ИИ, по отношение на която имат правомощия, с изключение на случаите, когато системата с ИИ се използва в процеса на лична непрофесионална дейност;
 (4)  „внедрител“ означава всяко физическо или юридическо лице, публичен орган, агенция или друга организация, които използват система с ИИ, по отношение на която имат правомощия, с изключение на случаите, когато системата с ИИ се използва в процеса на лична непрофесионална дейност;
Изменение 173
Предложение за регламент
Член 3 – параграф 1 – точка 8
(8)  „оператор“ означава доставчик, ползвател, упълномощен представител, вносител и дистрибутор;
 (8)  „оператор“ означава доставчик, внедрител, упълномощен представител, вносител и дистрибутор;
Изменение 174
Предложение за регламент
Член 3 – параграф 1 – точка 8a (нова)
(8a)  „засегнато лице“ означава всяко физическо лице или група от лица, които са субекти на или засегнати по друг начин от система с ИИ;
Изменение 175
Предложение за регламент
Член 3 – параграф 1 – точка 11
(11)  „въвеждане в експлоатация“ означава доставката на система с ИИ за първо използване пряко на ползвателя или за собствено използване на пазара на Съюза в съответствие с нейното предназначение;
 (11)  „въвеждане в експлоатация“ означава доставката на система с ИИ за първо използване пряко на внедрителя или за собствено използване на пазара на Съюза в съответствие с нейното предназначение;
Изменение 176
Предложение за регламент
Член 3 – параграф 1 – точка 13
(13)  „разумно предвидима неправилна експлоатация“ е използването на система с ИИ по начин, който не е в съответствие с нейното предназначение, но който е възможно да е резултат от разумно предвидимо човешко поведение или от взаимодействие с други системи;
 (13)  „разумно предвидима неправилна експлоатация“ е използването на система с ИИ по начин, който не е в съответствие с нейното предназначение, както е посочено в инструкциите за употреба или зададено от доставчика, но който е възможно да е резултат от разумно предвидимо човешко поведение или от взаимодействие с други системи, включително други системи с ИИ;
Изменение 177
Предложение за регламент
Член 3 – параграф 1 – точка 14
(14)  „защитен елемент на продукт или система“ означава компонент на продукт или система, който осигурява функция, свързана с безопасността, за този продукт или тази система или чиято неизправност или лошо функциониране поставя в опасност здравето и безопасността на хора или имущество;
 (14)  „защитен елемент на продукт или система“ означава, в съответствие с правото за хармонизация на Съюза, посочено в приложение II, компонент на продукт или система, който осигурява функция, свързана с безопасността, за този продукт или тази система или чиято неизправност или лошо функциониране поставя в опасност здравето и безопасността на хора;
Изменение 178
Предложение за регламент
Член 3 – параграф 1 – точка 15
(15)  „инструкции за употреба“ означава информацията, предоставена от доставчика, за да информира ползвателя по-специално за предназначението и точната употреба на дадена система с ИИ, включително за специфичните географски, поведенчески или функционални условия, в които е предвидено да се използва високорисковата система с ИИ;
 (15)  „инструкции за употреба“ означава информацията, предоставена от доставчика, за да информира внедрителя по-специално за предназначението и точната употреба на дадена система с ИИ, както и информация за необходимите предпазни мерки, включително специфичните географски, поведенчески или функционални условия, в които е предвидено да се използва високорисковата система с ИИ;
Изменение 179
Предложение за регламент
Член 3 – параграф 1 – точка 16
(16)  „изземване на система с ИИ“ означава всяка мярка, целяща да постигне връщане на доставчика на система с ИИ, която вече е била предоставена на ползвателите;
 (16)  „изземване на система с ИИ“ означава всяка мярка, целяща да постигне връщане на доставчика на система с ИИ, която вече е била предоставена на разположение на внедрителите;
Изменение 180
Предложение за регламент
Член 3 – параграф 1 – точка 20
(20)  „оценяване на съответствието“ означава процесът на проверка дали са изпълнени изискванията, определени в дял ІІІ, глава 2 от настоящия регламент по отношение на система с ИИ;
 (20)  „оценяване на съответствието“ означава процесът на доказване дали са изпълнени изискванията, определени в дял ІІІ, глава 2 от настоящия регламент по отношение на система с ИИ;
Изменение 181
Предложение за регламент
Член 3 – параграф 1 – точка 22
(22)  „нотифициран орган“ е орган за оценяване на съответствието, определен съгласно настоящия регламент и друго приложимо законодателство на Съюза за хармонизация;
 (22)  „нотифициран орган“ е орган за оценяване на съответствието, нотифициран съгласно настоящия регламент и друго приложимо законодателство на Съюза за хармонизация;
Изменение 182
Предложение за регламент
Член 3 – параграф 1 – точка 23
(23)  „съществено изменение“ означава промяна в система с ИИ след пускането ѝ на пазара или въвеждането ѝ в експлоатация, която засяга съответствието на системата с ИИ с изискванията, определени в дял ІІІ, глава 2 от настоящия регламент, или води до промяна на предназначението, за което е била оценена системата с ИИ;
 (23)  „съществено изменение“ означава изменение или поредица от изменения на система с ИИ след пускането ѝ на пазара или въвеждането ѝ в експлоатация, които не са предвидени или планирани от доставчика в първоначалната оценка на риска и в резултат на която е засегнато съответствието на системата с ИИ с изискванията, определени в дял ІІІ, глава 2 от настоящия регламент, или която води до промяна на предназначението, за което е била оценена системата с ИИ.
Изменение 183
Предложение за регламент
Член 3 – параграф 1 – точка 24
(24)  „маркировка за съответствие „СЕ“ („маркировка „СЕ“) означава маркировка, чрез която доставчикът указва, че дадена система с ИИ е в съответствие с изискванията, определени в дял ІІІ, глава 2 от настоящия регламент и в друго приложимо законодателство на Съюза, с което се хармонизират условията за предлагане на продукти на пазара („законодателство на Съюза за хармонизация“) и в което се предвижда нейното нанасяне;
 (24)  „маркировка за съответствие „СЕ“ („маркировка „СЕ“) означава физическа или цифрова маркировка, чрез която доставчикът указва, че дадена система с ИИ или продукт с вградена система с ИИ е в съответствие с изискванията, определени в дял ІІІ, глава 2 от настоящия регламент и в друго приложимо законодателство на Съюза, с което се хармонизират условията за предлагане на продукти на пазара („законодателство на Съюза за хармонизация“) и в което се предвижда нейното нанасяне;
Изменение 184
Предложение за регламент
Член 3 – параграф 1 – точка 29
(29)  „обучителни данни“ означава данни, използвани за обучение на система с ИИ чрез настройка на нейните обучавани параметри, включително теглата, използвани в невронна мрежа;
 (29)  „обучителни данни“ означава данни, използвани за обучение на система с ИИ чрез настройка на нейните обучавани параметри;
Изменение 185
Предложение за регламент
Член 3 – параграф 1 – точка 30
(30)  „валидационни данни“ означава данни, използвани за осигуряване на оценка на обучената система с ИИ и за настройка на нейните необучавани параметри и на обучителния ѝ процес с цел, наред с другото, да се предотврати прекомерно нагаждане; валидационният набор от данни може да бъде отделен набор от данни или част от обучителния набор от данни чрез фиксирано или променливо разделяне на данните;
 (30)  „валидационни данни“ означава данни, използвани за осигуряване на оценка на обучената система с ИИ и за настройка на нейните необучавани параметри и на обучителния ѝ процес с цел, наред с другото, да се предотврати недостатъчно или прекомерно нагаждане; валидационният набор от данни е отделен набор от данни или част от обучителния набор от данни чрез фиксирано или променливо разделяне на данните;
Изменение 186
Предложение за регламент
Член 3 – параграф 1 – точка 33
(33)  „биометрични данни“ означава лични данни, получени в резултат на специфично техническо обработване, които са свързани с физическите, физиологичните или поведенческите характеристики на дадено физическо лице и които позволяват или потвърждават уникалната идентификация на това физическо лице, като лицеви изображения или дактилоскопични данни;
 (33)  „биометрични данни“ означава биометрични данни съгласно определението в член 4, точка 14 от Регламент (EС) 2016/679;
Изменение 187
Предложение за регламент
Член 3 – параграф 1 – точка 33a (нова)
(33a)  „основаващи се на биометрия данни“ са данни, получени в резултат на специфична техническа обработка, свързана с физически, физиологични или поведенчески сигнали на физическо лице;
Изменение 188
Предложение за регламент
Член 3 – параграф 1 – точка 33б (нова)
(33б)  „биометрична идентификация“ означава автоматизирано разпознаване на физически, физиологични, поведенчески и психологически характеристики на човека с цел установяване на самоличността на дадено лице чрез сравняване на биометрични данни на това лице с биометрични данни на лица, съхранени в база данни (идентификация чрез съпоставяне на едно към много);
Изменение 189
Предложение за регламент
Член 3 – параграф 1 – точка 33в (нова)
(33в)  „биометрична проверка“ означава автоматизирана проверка на самоличността на физически лица чрез сравняване на биометрични данни на дадено лице с предварително предоставени биометрични данни (проверка чрез съпоставяне едно към едно, включително удостоверяване на самоличността);
Изменение 190
Предложение за регламент
Член 3 – параграф 1 – точка 33г (нова)
(33г)  „специални категории лични данни“ означава категориите лични данни, посочени в определението в член 9, параграф 1 от Регламент (EС) 2016/679;
Изменение 191
Предложение за регламент
Член 3 – параграф 1 – точка 34
(34)  „система за разпознаване на емоции“ означава система с ИИ, чието предназначение е да идентифицира или да прави заключения за емоциите или намеренията на физически лица на базата на техните биометрични данни;
 (34)  „система за разпознаване на емоции“ означава система с ИИ, чието предназначение е да идентифицира или да прави заключения за емоциите, мислите, психичното състояние или намеренията на отделни лица или групи на базата на техните биометрични или основаващи се на биометрия данни;
Изменение 192
Предложение за регламент
Член 3 – параграф 1 – точка 35
(35)  „система за биометрично категоризиране“ означава система с ИИ с предназначение да отнася физически лица към конкретни категории, като пол, възраст, цвят на косата, цвят на очите, татуировки, етнически произход или сексуална или политическа ориентация, на базата на техните биометрични данни;
 (35)  „биометрично категоризиране“ означава отнасяне на физически лица към конкретни категории или извеждане на заключения относно техните характеристики и признаци на базата на техните биометрични или основаващи се на биометрия данни, или за които може да се изведе заключение от такива данни;
Изменение 193
Предложение за регламент
Член 3 – параграф 1 – точка 36
(36)  „система за дистанционна биометрична идентификация“ означава система с ИИ с предназначение идентифициране на физически лица от разстояние чрез сравняване на биометричните данни на дадено лице с биометричните данни, съдържащи се в референтна база данни, като ползвателят на системата с ИИ не знае предварително дали лицето ще присъства в нея и може да бъде идентифицирано;
 (36)  „система за дистанционна биометрична идентификация“ означава система с ИИ с предназначение идентифициране на физически лица от разстояние чрез сравняване на биометричните данни на дадено лице с биометричните данни, съдържащи се в референтна база данни, като внедрителят на системата с ИИ не знае предварително дали лицето ще присъства в нея и може да бъде идентифицирано с изключение на системи за проверка;
Изменение 194
Предложение за регламент
Член 3 – параграф 1 – точка 37
(37)  „система за дистанционна биометрична идентификация в реално време“ означава система за дистанционна биометрична идентификация, при която снемането на биометрични данни, сравнението и идентификацията се осъществяват без значително забавяне. Тук се включва не само моменталното идентифициране, но и ограничени кратки забавяния с цел недопускане на заобикаляне;
 (37)  „система за дистанционна биометрична идентификация в реално време“ означава система за дистанционна биометрична идентификация, при която снемането на биометрични данни, сравнението и идентификацията се осъществяват без значително забавяне. Тук се включва не само моменталното идентифициране, но и ограничени забавяния с цел недопускане на заобикаляне;
Изменение 195
Предложение за регламент
Член 3 – параграф 1 – точка 39
(39)  „обществено достъпно място“ означава всяко физическо място, което е достъпно за обществеността, независимо дали има евентуални условия за достъп;
 (39)  „обществено достъпно място“ означава всяко физическо или виртуално място, публична или частна собственост, което е достъпно за обществеността, независимо дали има евентуални условия за достъп и независимо от потенциалните ограничения на капацитета;
Изменение 196
Предложение за регламент
Член 3 – параграф 1 – точка 41
(41)  „правоприлагане“ означава действията, които правоприлагащите органи извършват за превенция, разследване, откриване или преследване на престъпления или за изпълнение на наказателноправни санкции, включително предохранителни мерки срещу и превенция на заплахи за обществената сигурност;
 (41)  „правоприлагане“ означава действията, които правоприлагащите органи извършват или които се извършват от тяхно име, за превенция, разследване, откриване или преследване на престъпления или за изпълнение на наказателноправни санкции, включително предохранителни мерки срещу и превенция на заплахи за обществената сигурност;
Изменение 197
Предложение за регламент
Член 3 – параграф 1 – точка 42
(42)  „национален надзорен орган“ означава органът, на който дадена държава членка възлага отговорността за изпълнението и прилагането на настоящия регламент, за координацията на дейностите, възложени на тази държава членка, за функцията като единно звено за контакт за Комисията и за представляване на държавата членка в Европейския съвет по изкуствен интелект;
 (42)  „национален надзорен орган“ означава публичен (АМ 69) орган, на който дадена държава членка възлага отговорността за изпълнението и прилагането на настоящия регламент, за координацията на дейностите, възложени на тази държава членка, за функцията като единно звено за контакт за Комисията и за представляване на държавата членка в управителния съвет на службата по ИИ;
Изменение 198
Предложение за регламент
Член 3 – параграф 1 – точка 43
(43)  „национален компетентен орган“ означава националният надзорен орган, нотифициращият орган и органът за надзор на пазара;
 (43)  „национален компетентен орган“ означава всеки от националните органи, които отговарят за прилагането на настоящия регламент;
Изменение 199
Предложение за регламент
Член 3 – параграф 1 – точка 44 – уводна част
(44)  „сериозен инцидент“ означава всеки инцидент, който пряко или косвено води, е могъл да доведе или може да доведе до някое от следните:
 (44)  „сериозен инцидент“ означава всеки инцидент или неправилно функциониране на система с ИИ, който пряко или косвено води, е могъл да доведе или може да доведе до някое от следните:
a)  смърт на човек или сериозно увреждане на здравето на човек, на имущество или на околната среда,
 a)  смърт на човек или сериозно увреждане на здравето на човек,
б)   сериозно нарушаване на управлението и действието на критична инфраструктура.
 б)   сериозно нарушаване на управлението и действието на критична инфраструктура;
ба)  нарушаване на основните права, защитени от правото на Съюза;
бб)  сериозно увреждане на имущество или на околната среда;
Изменение 200
Предложение за регламент
Член 3 – параграф 1 – точка 44a (нова)
(44a)  „лични данни“ означава лични данни съгласно определението в член 4, точка 1 от Регламент (EС) 2016/679;
Изменение 201
Предложение за регламент
Член 3 – параграф 1 – точка 44б (нова)
(44б)  „нелични данни“ означава данни, различни от лични данни;
Изменение 202
Предложение за регламент
Член 3 – параграф 1 – точка 44в (нова)
(44в)  „профилиране“ означава всяка форма на автоматизирано обработване на лични данни съгласно определеното в член 4, точка 4 от Регламент (ЕС) 2016/679; или в случай на правоприлагащи органи – в член 3, точка 4 от Директива (ЕС) 2016/680, а в случай на институции, органи, служби или агенции на Съюза – в член 3, точка 5 от Регламент (ЕС) 2018/1725;
Изменение 203
Предложение за регламент
Член 3 – параграф 1 – точка 44г (нова)
(44г)  „дълбинeн фалшификат“ означава манипулирано или синтетично аудио, образно или видеосъдържание, създадено с помощта на техники за ИИ, включително машинно самообучение и дълбоко самообучение, което подвеждащо се представя за автентично или достоверно и съдържа изображения на лица, които сякаш казват или правят неща, каквито не са казали или направили;
Изменение 204
Предложение за регламент
Член 3 – параграф 1 – точка 44д (нова)
(44д)  „широко разпространено нарушение“ означава всяко действие или бездействие, което е в противоречие с правото на Съюза, което защитава интересите на физическите лица:
a)  което е увредило или има вероятност да увреди колективните интереси на физическите лица, пребиваващи в поне две държави членки, различни от държавата членка, в която:
i)  е започнало или е извършено действието или бездействието;
ii)  е установен съответният доставчик или, когато е приложимо, неговият упълномощен представител; или
iii)  внедрителят е установен, когато нарушението е извършено от внедрителя;
б)  което защитава интересите на физическите лица, което e увредило, уврежда или има вероятност да увреди колективните интереси на физическите лица и притежава общи характеристики, включително еднакви незаконни практики, нарушаване на еднакви интереси и което едновременно е извършено от същия търговец в поне три държави членки;
Изменение 205
Предложение за регламент
Член 3 – параграф 1 – точка 44e (нова)
(44е)  „широко разпространено нарушение със съюзно измерение“ означава широко разпространено нарушение, което е увредило или има вероятност да увреди колективните интереси на физическите лица в най-малко две трети от държавите членки, които заедно представляват най-малко две трети от населението на Съюза;
Изменение 206
Предложение за регламент
Член 3 – параграф 3 – точка 44ж (нова)
(44ж)  „регулаторна лаборатория“ означава контролирана среда, създадена от публичен орган, която улеснява безопасното разработване, изпитване и признаване на иновативни системи с ИИ за ограничен период от време преди пускането им на пазара или въвеждането им в експлоатация съгласно конкретен план под регулаторен надзор;
Изменение 207
Предложение за регламент
Член 3 – параграф 1 – точка 44з (нова)
(44з)  „критична инфраструктура“ означава актив, съоръжение, оборудване, мрежа или система, или част от актив, съоръжение, оборудване, мрежа или система, които са необходими за предоставянето на съществена услуга по смисъла на член 2, параграф 4 от Директива (ЕС) 2022/2557;
Изменение 208
Предложение за регламент
Член 3 – параграф 1 – точка 44к (нова)
(44к)  „социално оценяване“ означава оценка или класифициране на физическите лица въз основа на тяхното социално поведение, социално-икономическия статус или известни или предполагаеми лични или личностни характеристики;
Изменение 209
Предложение за регламент
Член 3 – параграф 1 – точка 44л (нова)
(44л)  „социално поведение“ означава който дадено физическо лице взаимодейства и влияе на други физически лица или на обществото;
Изменение 210
Предложение за регламент
Член 3 – параграф 1 – точка 44м (нова)
(44м)  „съвременно техническо равнище“ означава степента на развитие на техническите възможности в даден момент по отношение на продуктите, процесите и услугите според съответните консолидирани резултати от науката, технологиите и опита;
Изменение 211
Предложение за регламент
Член 3 – параграф 1 – точка 44н (нова)
(44н)  „изпитване в реални условия“ означава временното изпитване на система с ИИ за съответното ѝ предназначение за работа в реални условия извън лаборатория или симулирана по друг начин среда;
Изменение 212
Предложение за регламент
Член 4
Член 4
 заличава се
Изменения на приложение І
На Комисията се предоставя правомощието да приема делегирани актове в съответствие с член 73 за изменение на списъка на техниките и подходите в приложение I с цел неговото актуализиране в съответствие с промените на пазара и в технологиите на базата на характеристики, които са сходни с техниките и подходите, посочени в това приложение.
Изменение 213
Предложение за регламент
Член 4а (нов)
Член 4a
Общи принципи, приложими за всички системи с ИИ
1.  Всички оператори, попадащи в обхвата на настоящия регламент, полагат максимални усилия за разработване и използване на системи с ИИ или базови модели в съответствие със следните общи принципи, с които се установява рамка на високо равнище, която насърчава съгласуван, ориентиран към човека европейски подход към етичния и надежден изкуствен интелект, който е в пълно съответствие с Хартата, както и с ценностите, на които се основава Съюзът:
а)  „човешки фактор и надзор“ означава, че системите с ИИ се разработват и използват като инструмент, който служи на хората, зачита човешкото достойнство и личната независимост и функционира така, че да може да се контролира и надзирава от хората по подходящ начин;
б)  „техническа стабилност и безопасност“ означава, че системите с ИИ се разработват и използват така, че да сведат до минимум непредвидените и неочакваните вреди, както и да бъдат стабилни в случай на непредвидени проблеми и да бъдат устойчиви на опитите за промяна на употребата или работата на системите с ИИ от злонамерени трети страни с оглед на незаконната им употреба;
в)  „неприкосновеност на личния живот и управление на данните“ означава, че системите с ИИ се разработват и използват в съответствие със съществуващите разпоредби относно неприкосновеността на личния живот и защитата на данните, като обработват данни, които отговарят на високи стандарти по отношение на качеството и цялостността;
г)  „прозрачност“ означава, че системите с ИИ се разработват и използват по начин, който позволява подходяща проследимост и обяснимост, като същевременно хората се уведомяват, че комуникират или взаимодействат със система с ИИ, а ползвателите се уведомяват за възможностите и ограниченията на тази система с ИИ и засегнатите лица – за техните права;
д)  „многообразие, недискриминация и справедливост“ означава, че системите с ИИ се разработват и използват по начин, който включва различни участници и насърчава равния достъп, равенството между половете и културното многообразие, като същевременно се избягват дискриминационните въздействия и несправедливата предубеденост, които са забранени от правото на Съюза или националното право;
е)  „социално и екологично благосъстояние“ означава, че системите с ИИ се разработват и използват по устойчив и екологосъобразен начин, както и така, че да са от полза за всички хора, като същевременно се наблюдават и оценяват дългосрочните въздействия върху отделните лица, обществото и демокрацията.
2.  Параграф 1 не засяга задълженията, установени от действащото право на Съюза и национално право. За високорисковите системи с ИИ общите принципи се превеждат и спазват от доставчиците или внедрителите съгласно изискванията, определени в членове 8 – 15 от настоящия регламент и съответните задължения, посочени в дял III, глава 3 от настоящия регламент. За базови модели общите принципи се превеждат и спазват от доставчиците съгласно изискванията, определени в членове 28 – 28б. Прилагането на принципите, посочени в параграф 1, по отношение на всички системи с ИИ може да бъде постигнато, според случая, чрез разпоредбите на член 28, член 52 или чрез прилагането на хармонизирани стандарти, технически спецификации и кодекси за поведение, както е посочено в член 69, без да се създават нови задължения съгласно настоящия регламент.
3.  Комисията и Службата по ИИ включват тези ръководни принципи в исканията за стандартизация, както и в препоръките, съдържащи се в техническите насоки, за да подпомогнат доставчиците и внедрителите при разработването и използването на системи с ИИ. При разработването на подходящи хармонизирани стандарти за високорисковите системи с ИИ, посочени в член 40, параграф 2б, европейските организации по стандартизация вземат предвид общите принципи, посочени в параграф 1 на настоящия член, като основани на резултатите цели.
Изменение 214
Предложение за регламент
Член 4б (нов)
Член 4б
Грамотност в областта на ИИ
1.  При прилагането на настоящия регламент Съюзът и държавите членки насърчават мерките за развитие на достатъчна степен на грамотност в областта на ИИ във всички сектори, като вземат предвид различните потребности на съответните групи от доставчици, внедрители и засегнати лица, включително чрез програми за образование и обучение, придобиване на умения и преквалификация, и като същевременно осигуряват подходящ баланс по отношение на пола и възрастта с оглед на обезпечаването на демократичен контрол върху системите с ИИ.
2.  Доставчиците и внедрителите на системи с ИИ предприемат мерки за осигуряване на достатъчна степен на грамотност в областта на ИИ на техния персонал и всички други лица, занимаващи се с експлоатацията и използването на системи с ИИ от тяхно име, като вземат предвид техните технически познания, опит, образование и обучение, както и контекста, в който ще се използват системите с ИИ, и като вземат под внимание лицата или групите от лица, по отношение на които ще се използват системите с ИИ.
3.  Тези мерки за грамотност се състоят по-специално от преподаване на основни понятия и умения за системите с ИИ и тяхното функциониране, включително различните видове продукти и употреби, техните рискове и ползи.
4.  Достатъчна степен на грамотност в областта на ИИ е степента на грамотност, която допринася, ако това е необходимо, за способността на доставчиците и внедрителите да гарантират спазването и прилагането на настоящия регламент.
Изменение 215
Предложение за регламент
Член 5 – параграф 1 – буква а
a)  пускането на пазара, въвеждането в експлоатация или използването на система с ИИ, която си служи със сублиминални техники отвъд рамките на съзнаваното от човека, с цел съществено да измени поведението на дадено лице по начин, който причинява или може да причини на същото или на друго лице физически или психологически вреди;
 a)  пускането на пазара, въвеждането в експлоатация или използването на система с ИИ, която си служи със сублиминални техники отвъд рамките на съзнаваното от човека или целенасочени манипулативни или измамни техники, които имат за цел или резултат съществено да измени поведението на дадено лице или група от лица чрез значително нарушаване на способността за вземане на информирано решение, като по този начин лицето се подтиква да вземе решение, което в противен случай не би взело по начин, който причинява или може да причини на същото или на друго лице, или на група от лица физически или психологически вреди;
Забраната на система с ИИ, която използва сублиминалните техники, посочена в първа алинея, не се прилага за системи с ИИ, предназначени да бъдат използвани за одобрени терапевтични цели въз основа на изричното информирано съгласие на лицата, спрямо които се използват, или, когато е приложимо, на техния законен настойник;
Изменение 216
Предложение за регламент
Член 5 – параграф 1 – буква б
б)  пускането на пазара, въвеждането в експлоатация или използването на система с ИИ, която използва което и да е от уязвимите места на конкретна група лица, дължащи се на тяхната възраст, физическо или психическо увреждане, с цел съществено да измени поведението на дадено лице, принадлежащо към тази група, по начин, който причинява или може да причини на същото или на друго лице физически или психологически вреди;
 б)  пускането на пазара, въвеждането в експлоатация или използването на система с ИИ, която използва което и да е от уязвимите места на лице или конкретна група лица, включително характеристики на това лице или известни или прогнозирани личностни характеристики на тази група лица, или социално или икономическо положение, възраст, физически или умствени способности, с цел или като резултат съществено да се измени поведението на това лице или дадено лице, принадлежащо към тази група, по начин, който причинява или може да причини на същото или на друго лице значителни вреди;
Изменение 217
Предложение за регламент
Член 5 – параграф 1 – буква бa (нова)
ба)  пускането на пазара, въвеждането в експлоатация или използването на системи за биометрична категоризация или други системи с ИИ, които категоризират физическите лица според чувствителни или защитени атрибути или характеристики, или извеждат заключения за тези атрибути или характеристики. Тази забрана не се прилага за системите с ИИ, предназначени да бъдат използвани за одобрени терапевтични цели въз основа на изричното информирано съгласие на лицата, спрямо които се използват, или, когато е приложимо, на техния законен настойник.
Изменение 218
Предложение за регламент
Член 5 – параграф 1 – буква в – уводна част
в)  пускането на пазара, въвеждането в експлоатация или използването на система с ИИ от страна на публични органи или от тяхно име с цел оценка или класифициране на надеждността на физически лица в течение на определен срок на база на тяхното социално поведение или известни или прогнозирани лични или личностни характеристики, като социалният ранкинг води до едното или и двете от следните:
 в)  пускането на пазара, въвеждането в експлоатация или използването на система с ИИ с цел социално оценяване или класифициране на физически лица или групи за определен период от време на база на тяхното социално поведение или известни, изведени или прогнозирани лични или личностни характеристики, като социалният ранкинг води до едната или и до двете от следните:
Изменение 219
Предложение за регламент
Член 5 – параграф 1 – буква в – подточка i
i)  увреждащо или неблагоприятно третиране на определени физически лица или на цели групи от такива лица в социални контексти, които нямат връзка с контекстите, в които първоначално са били генерирани или събрани данните;
 i)  увреждащо или неблагоприятно третиране на определени физически лица или на цели групи от такива лица в социални контексти без връзка с контекстите, в които първоначално са били генерирани или събрани данните;
Изменение 220
Предложение за регламент
Член 5 – параграф 1 – буква г – уводна част
г)  използването на системи за дистанционна биометрична идентификация в реално време в обществено достъпни места за целите на правоприлагането, освен ако и доколкото такова използване е строго необходимо за една от следните цели:
 г)  използването на системи за дистанционна биометрична идентификация в реално време в обществено достъпни места;
Изменение 221
Предложение за регламент
Член 5 – параграф 1 – буква г – подточка i
i)  целево издирване на конкретни потенциални жертви на престъпления, включително изчезнали деца;
 заличава се
Изменение 222
Предложение за регламент
Член 5 – параграф 1 – буква г – подточка ii
ii)  предотвратяване на конкретна, значителна и непосредствена заплаха за живота или физическата безопасност на физически лица или за терористично нападение;
 заличава се
Изменение 223
Предложение за регламент
Член 5 – параграф 1 – буква г – подточка iii
iii)  откриване, локализиране, идентифициране или преследване на извършител или заподозрян в извършването на престъпление, посочено в член 2, параграф 2 от Рамково решение 2002/584/ПВР на Съвета62 и наказуемо в съответната държава членка с лишаване от свобода или мярка за задържане с максимален срок не по-малко от 3 години, както е определено в законодателството на съответната държава членка.
 заличава се
__________________
62 Рамково решение 2002/584/ПВР на Съвета от 13 юни 2002 г. относно европейската заповед за арест и процедурите за предаване между държавите членки (ОВ L 190, 18.7.2002 г., стр. 1).
Изменение 224
Предложение за регламент
Член 5 – параграф 1 – буква гa (нова)
га)  пускането на пазара, въвеждането в експлоатация или използването на системи с ИИ с цел осъществяване на оценки на физически лица или групи от такива с цел оценяване на риска физическо лице да извърши нарушение или повторно нарушение или с цел прогнозиране на извършването или повторното извършване на действително или потенциално престъпление въз основа на профилирането на физически лица или оценката на личностните черти, характеристики или минало престъпно поведение на физически лица или на групи от физически лица;
Изменение 225
Предложение за регламент
Член 5 – параграф 1 – буква гб (нова)
гб)  пускането на пазара, въвеждането в експлоатация или използването на системи с ИИ, които създават или разширяват бази данни за разпознаване на лица чрез нецеленасочено извличане на лицеви изображения от интернет или записи от видеонаблюдение;
Изменение 226
Предложение за регламент
Член 5 – параграф 1 – буква гв (нова)
гв)  пускането на пазара, въвеждането в експлоатация или използването на системи с ИИ за извеждане на заключения относно емоции на физическо лице в областта на правоприлагането, управлението на границите, на работното място и в образователни институции.
Изменение 227
Предложение за регламент
Член 5 – параграф 1 – буква гг (нова)
гг)  въвеждането в експлоатация или използването на системи с ИИ за анализ на записани кадри от обществено достъпни места чрез „екс-пост“ системи за дистанционна биометрична идентификация, освен ако не е налице предварително съдебно разрешение за използване в съответствие с правото на Съюза и строго необходимо за целенасоченото претърсване, свързано с конкретно тежко престъпление по смисъла на член 83, параграф 1 от ДФЕС, което вече е извършено за целите на правоприлагането.
Изменение 228
Предложение за регламент
Член 5 – параграф 1а (нов)
1a.  Настоящият член не засяга ограниченията, които се прилагат, когато практика с изкуствен интелект нарушава друго право на ЕС, включително правото на ЕС в областта на защитата на данните, недискриминацията, защитата на потребителите или конкуренцията;
Изменение 229
Предложение за регламент
Член 5 – параграф 2
2.  При използването на системи за дистанционна биометрична идентификация в реално време в обществено достъпни места за целите на правоприлагането за която и да е от целите, посочени в параграф 1, буква г), се отчитат следните елементи:
 заличава се
a)  естеството на ситуацията, която води до евентуалното използване, по-специално сериозността, вероятността и мащаба на причинената вреда, ако системата не се използва;
б)  последиците от използването на системата за правата и свободите на всички засегнати лица, по-специално тежестта, вероятността и мащабът на тези последици.
Освен това използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за целите на правоприлагането за която и да е от целите, посочени в параграф 1, буква г), трябва да съответства на необходимите и пропорционални гаранции и условия във връзка с използването, по-специално по отношение на времевите и географските ограничения и ограниченията по отношение на лицата.
Изменение 230
Предложение за регламент
Член 5 – параграф 3
3.  Що се отнася до параграф 1, буква г) и параграф 2, всяко отделно използване за целите на правоприлагането на система за дистанционна биометрична идентификация в реално време на обществено достъпни места подлежи на предварително разрешение, издадено от съдебен орган или от независим административен орган на държавата членка, в която ще се осъществи използването, след получаване на мотивирано искане и в съответствие с подробните правила на националното право, както е посочено в параграф 4. При надлежно обосновани спешни случаи обаче използването на системата може да започне без разрешение и разрешение да се поиска едва по време на или след използването ѝ.
 заличава се
Компетентният съдебен или административен орган издава разрешение само ако въз основа на обективни доказателства или ясни индикации, които са му представени, е убеден, че използването на въпросната система за дистанционна биометрична идентификация в реално време е необходимо и пропорционално за постигането на една или повече от целите, посочени в параграф 1, буква г), съгласно искането. Когато взема решение по искането, компетентният съдебен или административен орган взема предвид елементите, посочени в параграф 2.
Изменение 231
Предложение за регламент
Член 5 – параграф 4
4.  Една държава членка може да реши да предвиди възможността за пълно или частично разрешаване на използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за целите на правоприлагането в рамките на ограниченията и при условията, изброени в параграф 1, буква г) и в параграфи 2 и 3. Тази държава членка определя в националното си законодателство необходимите подробни правила за подаване на искания за разрешенията, посочени в параграф 3, тяхното издаване, изпълнение, както и надзора по отношение на тях. В тези правила се уточнява също така по отношение на кои от целите, посочени в параграф 1, буква г), включително по отношение на кои престъпления, посочени в подточка iii) от същата разпоредба, на компетентните органи може да бъде разрешено да използват тези системи за целите на правоприлагането.
 заличава се
Изменение 232
Предложение за регламент
Член 6 – параграф 1 – точка а
a)  системата с ИИ е предназначена да се използва като защитен елемент от продукт или самата тя е продукт, попадащ в обхвата на законодателството на Съюза за хармонизация, посочено в приложение II;
 a)  системата с ИИ е предназначена да се използва като защитен елемент от продукт или самата система с ИИ е продукт, попадащ в обхвата на правото на Съюза за хармонизация, посочено в приложение II;
Изменение 233
Предложение за регламент
Член 6 – параграф 1 – буква б
б)  продуктът, чийто защитен елемент е системата с ИИ, или самата система с ИИ като продукт трябва да премине оценяване на съответствието от трета страна с оглед на пускането на пазара или въвеждането в експлоатация на посочения продукт в съответствие със законодателството на Съюза за хармонизация, посочено в приложение II.
 б)  продуктът, чийто защитен елемент съгласно буква а) е системата с ИИ, или самата система с ИИ като продукт трябва да премине оценяване на съответствието от трета страна във връзка с рисковете за здравето и безопасността с оглед на пускането на пазара или въвеждането в експлоатация на посочения продукт в съответствие с правото на Съюза за хармонизация, посочено в приложение II.
Изменение 234
Предложение за регламент
Член 6 – параграф 2
2.  В допълнение към високорисковите системи с ИИ, посочени в параграф 1, за високорискови се считат и системите с ИИ, посочени в приложение III.
 2.  В допълнение към високорисковите системи с ИИ, посочени в параграф 1, за високорискови се считат и системите с ИИ, попадащи в обхвата на една или повече от критичните области или случаите на употреба, посочени в приложение III, ако представляват значителен риск от увреждане на здравето, безопасността или основните права на физическите лица. Когато дадена система с ИИ попада в обхвата на точка 2 от приложение III, тя се счита за високорискова, ако представлява значителен риск от увреждане на околната среда
Шест месеца преди влизането в сила на настоящия регламент, след консултация със Службата по ИИ и съответните заинтересовани страни, Комисията предоставя насоки, в които ясно се посочват обстоятелствата, при които резултатите от системите с ИИ, посочени в приложение III, биха представлявали значителен риск от увреждане на здравето, безопасността или основните права на физическите лица, или случаите, в които не биха представлявали такъв риск.
Изменение 235
Предложение за регламент
Член 6 – параграф 2а (нов)
2a.  Когато доставчиците, попадащи в една или повече от критичните области и случаите на употреба, посочени в приложение III, считат, че тяхната система с ИИ не представлява значителен риск, както е описано в параграф 2, те представят на националния надзорен орган мотивирана нотификация, че не подлежат на изискванията на дял III, глава 2 от настоящия регламент. Когато системата с ИИ е предназначена да се използва в две или повече държави членки, тази нотификация се адресира до Службата по ИИ. Без да се засягат разпоредбите на член 65, националният надзорен орган извършва преглед и дава отговор на нотификацията, пряко или чрез Службата по ИИ, в срок от три месеца, ако счита, че системата с ИИ е класифицирана неправилно.
Изменение 236
Предложение за регламент
Член 6 – параграф 2а (нов)
2б.  Доставчиците, които класифицират неправилно своята система с ИИ като неподлежаща на изискванията на дял III, глава 2 от настоящия регламент и я пускат на пазара преди крайния срок за възражение от страна на националните надзорни органи, подлежат на глоби съгласно член 71.
Изменение 237
Предложение за регламент
Член 6 – параграф 2б (нов)
2б.  Националните надзорни органи представят на Службата по ИИ годишен доклад с подробна информация за броя на получените нотификации, свързаните с тях високорискови области и решенията, взети във връзка с получените нотификации.
Изменение 238
Предложение за регламент
Член 7 – параграф 1 – уводна част
1.  На Комисията се предоставя правомощието да приема делегирани актове в съответствие с член 73 за актуализиране на списъка в приложение III чрез добавяне на високорискови системи с ИИ, когато са изпълнени следните две условия:
 1.  На Комисията се предоставя правомощието да приема делегирани актове в съответствие с член 73 за изменение на приложение III чрез добавяне или изменение на области или случаи на употреба на високорискови системи с ИИ, когато те представляват значителен риск от увреждане на здравето и безопасността или от неблагоприятно въздействие върху основните права, околната среда или демокрацията и принципите на правовата държава, и този риск е, що се отнася до неговата сериозност и вероятност от възникване, равностоен на или по-голям от риска от вреда или неблагоприятно въздействие, който представляват високорисковите системи с ИИ, изброени в приложение III.
Изменение 239
Предложение за регламент
Член 7 – параграф 1 – точка а
a)  системите с ИИ са предназначени за използване в която и да е от областите, посочени в точки 1—8 от приложение III;
 заличава се
Изменение 240
Предложение за регламент
Член 7 – параграф 1 – буква б
б)  системите с ИИ крият риск от увреждане на здравето и безопасността или риск от неблагоприятно въздействие върху основните права, който е — по отношение на своята сериозност и вероятност от възникване — равностоен на или по-голям от риска от увреждане или неблагоприятно въздействие, произтичащ от високорисковите системи с ИИ, които вече са посочени в приложение III.
 заличава се
Изменение 241
Предложение за регламент
Член 7 – параграф 1а (нов)
1a.  На Комисията също така се предоставя правомощието да приема делегирани актове в съответствие с член 73 за премахване на случаите на употреба на високорискови системи за изкуствен интелект от списъка в приложение III, ако условията, посочени в параграф 1, вече не се прилагат;
Изменение 242
Предложение за регламент
Член 7 – параграф 2 – уводна част
2.  Когато за целите на параграф 1 се прави оценка дали дадена система с ИИ крие риск от увреждане на здравето и безопасността или риск от неблагоприятно въздействие върху основните права, който е равностоен или по-голям от риска от увреждане, произтичащ от високорисковите системи с ИИ, които вече са посочени в приложение III, Комисията взема предвид следните критерии:
 2.  Когато за целите на параграф 1 и параграф 1а се прави оценка на дадена система с ИИ, Комисията взема предвид следните критерии:
Изменение 243
Предложение за регламент
Член 7 – параграф 2 – буква aа (нова)
аа)  общите възможности и функционалности на системата с ИИ независимо от предназначението ѝ;
Изменение 244
Предложение за регламент
Член 7 – параграф 2 – буква ба (нова)
ба)  естеството и количеството на данните, обработвани и използвани от системата с ИИ;
Изменение 245
Предложение за регламент
Член 7 – параграф 2 – буква бб (нова)
бб)  степента, до която системата с ИИ действа автономно;
Изменение 246
Предложение за регламент
Член 7 – параграф 2 – буква в
в)  степента, до която използването на система с ИИ вече е причинило увреждане на здравето и безопасността или неблагоприятно въздействие върху основните права или е породило значителни опасения във връзка с настъпването на такова увреждане или неблагоприятно въздействие и за това свидетелстват доклади или документирани твърдения, представени на националните компетентни органи;
 в)  степента, до която използването на система с ИИ вече е причинило увреждане на здравето и безопасността, оказало е неблагоприятно въздействие върху основните права, околната среда, демокрацията и принципите на правовата държава или е породило значителни опасения във връзка с вероятността от настъпването на такова увреждане или неблагоприятно въздействие и за това свидетелстват например доклади или документирани твърдения, представени на националните надзорни органи, до Комисията, до Службата по ИИ, до ЕНОЗД или до Агенцията на Европейския съюз за основните права;
Изменение 247
Предложение за регламент
Член 7 – параграф 2 – буква г
г)  потенциалната степен на такова увреждане или неблагоприятно въздействие, по-специално по отношение на неговия интензитет и способността му да засегне множество лица;
 г)  потенциалната степен на такова увреждане или неблагоприятно въздействие, по-специално по отношение на неговия интензитет и способността му да засегне множество лица или да засегне несъразмерно конкретна група от хора;
Изменение 248
Предложение за регламент
Член 7 – параграф 2 – буква д
д)  степента, в която лицата, претърпели потенциално увреждане или неблагоприятно въздействие, зависят от резултата, получен от дадена система с ИИ, по-специално тъй като поради практически или правни причини не е възможно в разумна степен да не използват този резултат;
 д)  степента, в която лицата, претърпели потенциално увреждане или неблагоприятно въздействие, зависят от резултата, получен с използването на дадена система с ИИ, и този резултат е чисто спомагателен по отношение на съответните предстоящи действия или решения, по-специално тъй като поради практически или правни причини не е възможно в разумна степен да не използват този резултат;
Изменение 249
Предложение за регламент
Член 7 – параграф 2 – буква дa (нова)
да)  потенциалната неправилна или злонамерена експлоатация на системата с ИИ и на технологията, която е в основата ѝ;
Изменение 250
Предложение за регламент
Член 7 – параграф 2 – буква е
е)  степента, в която лицата, претърпели потенциално увреждане или неблагоприятно въздействие, се намират в уязвимо положение по отношение на ползвателя на система с ИИ, по-специално поради властово неравновесие, познания, икономическо или социално положение или поради своята възраст;
 е)  степента, в която съществува властово неравновесие или лицата, претърпели потенциално увреждане или неблагоприятно въздействие, се намират в уязвимо положение по отношение на ползвателя на система с ИИ, по-специално поради статус, власт, познания, икономическо или социално положение или поради своята възраст;
Изменение 251
Предложение за регламент
Член 7 – параграф 2 – буква ж
ж)  степента, в която резултатът, получен с помощта на система с ИИ, е лесно обратим, като резултатите, които засягат здравето или безопасността на хора, няма да се считат за лесно обратими;
 ж)  степента, в която резултатът, получен с използването на система с ИИ, е лесно обратим или отстранен, като резултатите, които засягат неблагоприятно здравето, безопасността, основните права на хора, околната среда или демокрацията и принципите на правовата държава, няма да се считат за лесно обратими;
Изменение 252
Предложение за регламент
Член 7 – параграф 2 – буква жа (нова)
жа)  степента на наличие и употреба на доказани технически решения и механизми за контрол, надеждност и възможност за коригиране на системата с ИИ;
Изменение 253
Предложение за регламент
Член 7 — параграф 2 — буква жб (нова)
жб)  мащабът и вероятността за полза от внедряването на системата с ИИ за отделни лица, групи или обществото като цяло, включително възможни подобрения на безопасността на продуктите;
Изменение 254
Предложение за регламент
Член 7 – параграф 2 – буква жв (нова)
жв)  степента на човешки надзор и възможността за човешка намеса, за да се отмени дадено решение или препоръки, които могат да доведат до потенциална вреда;
Изменение 255
Предложение за регламент
Член 7 – параграф 2 – буква з
i)  ефективни мерки за правна защита във връзка с рисковете, произтичащи от дадена система с ИИ, с изключение на исковете за обезщетение;
 з)  степента, в която в съществуващото право на Съюза са предвидени:
i)  ефективни мерки за правна защита във връзка с причинените вреди от дадена система с ИИ, с изключение на исковете за обезщетение за преки или косвени щети;
ii)  ефективни мерки за предотвратяване или значително минимизиране на тези рискове.
Изменение 256
Предложение за регламент
Член 7 – параграф 2а (нов)
2a.  При извършване на оценката на системата с ИИ за целите на параграф 1 или параграф 1а Комисията се консултира със Службата по ИИ и, когато това е целесъобразно, с представители на групи, върху които системата с ИИ има въздействие, промишлеността, независими експерти, социални партньори и организации на гражданското общество. В допълнение Комисията организира обществени консултации по този въпрос и предоставя обществен достъп до резултатите от тези консултации и до окончателната оценка.
Изменение 257
Предложение за регламент
Член 7 – параграф 2б (нов)
2б.  Службата по ИИ, националните надзорни органи или Европейският парламент могат да поискат от Комисията да направи нова оценка и да определи повторно категоризацията на риска на дадена система за ИИ в съответствие с параграф 1 и параграф 1а. Комисията посочва причините за своето решение и ги публикува.
Изменение 258
Предложение за регламент
Член 8 – параграф 1а (нов)
1a.  При спазването на изискването на настоящата глава надлежно се отчитат разработените насоки, посочени в член 82б, общопризнатото съвременно техническо равнище, включително както е отразено в съответните хармонизирани стандарти и общи спецификации, посочени в членове 40 и 41 или вече определените в правото за хармонизация на Съюза.
Изменение 259
Предложение за регламент
Член 8 – параграф 2
2.  При осигуряването на съответствие с тези изисквания се вземат предвид предназначението на високорисковата система с ИИ и системата за управление на риска, посочена в член 9.
 2.  При осигуряването на съответствие с тези изисквания се вземат предвид предназначението на високорисковата система с ИИ, разумно предвидимата неправилна експлоатация и системата за управление на риска, посочена в член 9.
Изменение 260
Предложение за регламент
Член 8 – параграф 2а (нов)
2a.  Доколкото изискванията на дял III, глави 2 и 3, или дял VIII, глави 1, 2 и 3 относно високорисковите системи с ИИ са уредени от правото за хармонизация на Съюза, посочено в приложение II, раздел А, изискванията или задълженията по тези глави от настоящия регламент се считат за изпълнени, доколкото те включват компонента на ИИ. Изискванията на дял III, глави 2 и 3, или дял VIII, глави 1, 2 и 3 за високорискови системи с ИИ, които не са обхванати от правото за хармонизация на Съюза, посочено в приложение II, раздел А, се включват в това право за хармонизация на Съюза, когато е приложимо. Съответното оценяване на съответствието се извършва като част от процедурите, предвидени в правото на Съюза за хармонизация, изброено в приложение II, раздел А.
Изменение 261
Предложение за регламент
Член 9 – параграф 1
1.  Във връзка с високорисковите системи с ИИ се създава, прилага, документира и поддържа система за управление на риска.
 1.  Във връзка с високорисковите системи с ИИ се създава, прилага, документира и поддържа система за управление на риска през целия жизнен цикъл на системата с ИИ. Системата за управление на риска може да бъде интегрирана в или да бъде част от вече съществуващи процедури за управление на риска, свързани със съответното секторно право на Съюза, доколкото се изпълняват изискванията на настоящия член.
Изменение 262
Предложение за регламент
Член 9 – параграф 2 – уводна част
2.  Системата за управление на риска се състои от непрекъснат процес, протичащ през целия експлоатационен срок на високорисковата система с ИИ и изискващ редовно и систематично актуализиране. Тя включва следните стъпки:
 2.  Системата за управление на риска се състои от непрекъснат процес, протичащ през целия експлоатационен срок на високорисковата система с ИИ и изискващ редовен преглед и актуализиране на процеса за управление на риска, за да се гарантира продължаването на неговата ефективност и документирането на всички важни решения и предприети действия при условията на настоящия член. Тя включва следните стъпки:
Изменение 263
Предложение за регламент
Член 9 – параграф 2 – буква а
a)  идентифициране и анализ на известните и предвидимите рискове, свързани с всяка високорискова система с ИИ;
 a)  идентифициране, изчисляване и оценяване на известните и разумно предвидимите рискове, които високорисковата система с ИИ може да породи за здравето или безопасността на физическите лица, техните основни права, включително равен достъп и възможности, демокрацията и принципите на правовата държава, или за околната среда, когато високорисковата система с ИИ се използва в съответствие с предназначението ѝ и при условия на разумно предвидима неправилна експлоатация;
Изменение 264
Предложение за регламент
Член 9 – параграф 2 – буква б
б)  прогноза за и оценка на рисковете, които могат да възникнат, когато високорисковата система с ИИ се използва в съответствие със своето предназначение и при условия на разумно предвидима неправилна експлоатация;
 заличава се
Изменение 265
Предложение за регламент
Член 9 – параграф 2 – буква в
в)  оценка на други евентуално възникващи рискове на база анализ на данните, събрани от системата за мониторинг след пускането на пазара, посочена в член 61;
 в)  оценка на нововъзникващи значителни рискове, както са описани в буква а) и установени на база анализ на данните, събрани от системата за мониторинг след пускането на пазара, посочена в член 61;
Изменение 266
Предложение за регламент
Член 9 – параграф 2 – буква г
г)  приемане на подходящи мерки за управление на риска в съответствие с разпоредбите на следващите параграфи.
 г)  приемане на уместни и целенасочени мерки за управление на риска, разработени с цел преодоляване на установените рискове съгласно букви а) и б) на настоящия параграф, в съответствие с разпоредбите на следващите параграфи
Изменение 267
Предложение за регламент
Член 9 – параграф 3
3.  По отношение на мерките за управление на риска, посочени в параграф 2, буква г), надлежно се отчитат ефектите и възможните взаимодействия, възникващи от съчетаното прилагане на изискванията, определени в настоящата глава 2. Отчита се общопризнатото съвременно техническо равнище, включително както е отразено в съответните хармонизирани стандарти или общи спецификации.
 3.  По отношение на мерките за управление на риска, посочени в параграф 2, буква г),надлежно се отчитат ефектите и възможните взаимодействия, възникващи от съчетаното прилагане на изискванията, определени в настоящата глава 2, с оглед ефективно ограничаване на рисковете и същевременно осигуряване на подходящо и пропорционално прилагане на изискванията.
Изменение 268
Предложение за регламент
Член 9 – параграф 4 – уводна част
4.  Мерките за управление на риска, посочени в параграф 2, буква г), трябва да бъдат такива, че евентуалният остатъчен риск, свързан с всяка опасност, както и общият остатъчен риск на високорисковите системи с ИИ да се счита за приемлив, при условие че високорисковата система с ИИ се използва по предназначение или в условия на разумно предвидима неправилна експлоатация. Остатъчните рискове се съобщават на ползвателя.
 4.  Мерките за управление на риска, посочени в параграф 2, буква г),трябва да бъдат такива, че съответният остатъчен риск, свързан с всяка опасност, както и общият остатъчен риск на високорисковите системи с ИИ разумно да се счита за приемлив, при условие че високорисковата система с ИИ се използва по предназначение или в условия на разумно предвидима неправилна експлоатация. Остатъчните рискове и направените мотивирани преценки се съобщават на внедрителя.
При определянето на най-подходящите мерки за управление на риска се осигурява следното:
Изменение 269
Предложение за регламент
Член 9 – параграф 4 – алинея 1 – буква а
a)  отстраняване или намаляване на рисковете, доколкото е възможно, чрез адекватно проектиране и разработка;
 a)  отстраняване или намаляване на установените рискове, доколкото е технологично осъществимо, чрез адекватно проектиране и разработка на високорисковата система с ИИ с участието на експерти и външни заинтересовани страни, когато е необходимо;
Изменение 270
Предложение за регламент
Член 9 – параграф 4 – алинея 1 – буква б
б)  когато е целесъобразно, изпълнение на адекватни мерки за ограничаване и контрол по отношение на рисковете, които не могат да бъдат отстранени;
 б)  когато е целесъобразно, изпълнение на адекватни мерки за ограничаване и контрол, които да се справят с рисковете, които не могат да бъдат отстранени;
Изменение 271
Предложение за регламент
Член 9 – параграф 4 – алинея 1 – буква в
в)  предоставяне на адекватна информация съгласно член 13, по-специално по отношение на рисковете, посочени в параграф 2, буква б) от настоящия член, и където е целесъобразно, обучение на ползвателите.
 в)  предоставяне на необходимата информация съгласно член 13 и, където е целесъобразно, обучение на внедрителите.
Изменение 272
Предложение за регламент
Член 9 – параграф 4 – алинея 2
При отстраняването или намаляването на рисковете, свързани с използването на високорисковата система с ИИ, се отчитат надлежно техническите познания, опитът, образованието и обучението, които се очакват от ползвателя, и средата, в която е предвидено да се използва системата.
 При отстраняването или намаляването на рисковете, свързани с използването на високорисковата система с ИИ, доставчиците отчитат надлежно техническите познания, опита, образованието и обучението, от които внедрителят може да се нуждае, включително във връзка с предполагаемия контекст на употреба.
Изменение 273
Предложение за регламент
Член 9 – параграф 5
5.  Високорисковите системи с ИИ се изпитват с цел определяне на най-подходящите мерки за управление на риска. Изпитванията гарантират, че високорисковите системи с ИИ функционират стабилно с оглед на своето предназначение и са в съответствие с изискванията, определени в настоящата глава.
 5.  Високорисковите системи с ИИ се оценяват с оглед определяне на най-подходящите и целенасочени мерки за управление на риска и претегляне на всички такива мерки по отношение на потенциалните ползи и заложените в системата цели. Изпитванията гарантират, че високорисковите системи с ИИ функционират стабилно с оглед на своето предназначение и са в съответствие с изискванията, определени в настоящата глава.
Изменение 274
Предложение за регламент
Член 9 – параграф 6
6.  Изпитвателните процедури трябва да бъдат подходящи за постигане на предназначението на системата с ИИ и да не надхвърлят необходимото за постигането на тази цел.
 6.  Изпитвателните процедури трябва да бъдат подходящи за постигане на предназначението на системата с ИИ.
Изменение 275
Предложение за регламент
Член 9 – параграф 7
7.  Изпитването на високорисковите системи с ИИ се извършва, както е целесъобразно, във всеки момент от процеса на разработка и, при всички случаи, преди пускането на пазара или въвеждането в експлоатация. Изпитването се извършва спрямо предварително определени показатели и вероятностни прагове, които са подходящи с оглед на предназначението на високорисковата система с ИИ.
 7.  Изпитването на високорисковите системи с ИИ се извършва преди пускането на пазара или въвеждането в експлоатация. Изпитването се извършва спрямо предварително определени показатели и вероятностни прагове, които са подходящи с оглед на предназначението или разумно предвидимата неправилна експлоатация на високорисковата система с ИИ.
Изменение 276
Предложение за регламент
Член 9 – параграф 8
8.  При прилагането на системата за управление на риска, описана в параграфи 1—7, специално се отчита дали е вероятно достъп до високорисковата система с ИИ да имат деца или тя да оказва въздействие върху тях.
 8.  При прилагането на системата за управление на риска, описана в параграфи 1 – 7, доставчиците вземат специално предвид дали е вероятно високорисковата система с ИИ да оказва неблагоприятно въздействие върху уязвими групи хора или деца.
Изменение 277
Предложение за регламент
Член 9 – параграф 9
9.  За кредитни институции по Директива 2013/36/ЕС аспектите, описани в параграфи 1—8, представляват част от процедурите за управление на риска, създавани от тези институции в съответствие с член 74 от посочената директива.
 9.  За доставчици и системи с ИИ, които вече са обхванати от други правни актове на Съюза, които изискват от тях да въведат специфични системи за управление на риска, включително кредитни институции по Директива 2013/36/ЕС, аспектите, описани в параграфи 1 – 8, представляват част от или са съчетани с процедурите за управление на риска, установени от тези правни актове на Съюза.
Изменение 278
Предложение за регламент
Член 10 – параграф 1
1.  Високорисковите системи с ИИ, при които се използват техники, предполагащи обучение на модели с данни, се разработват въз основа на набори от обучителни, валидационни и изпитвателни данни, които отговарят на критериите за качество, посочени в параграфи 2—5.
 1.  Високорисковите системи с ИИ, при които се използват техники, предполагащи обучение на модели с данни, се разработват въз основа на набори от обучителни, валидационни и изпитвателни данни, които отговарят на критериите за качество, посочени в параграфи 2 – 5, доколкото това е технически осъществимо в съответствие с конкретния пазарен сегмент или обхват на приложение.
Техниките, за които не се изискват етикетирани входни данни, като например самообучението с учител и обучението с утвърждение, се разработват въз основа на набори от данни, например за изпитване и проверка, които отговарят на критериите за качество, посочени в параграфи 2 – 5.
Изменение 279
Предложение за регламент
Член 10 – параграф 2 – уводна част
2.  Наборите от обучителни, валидационни и изпитвателни данни трябва да бъдат обект на подходящи практики за управление и администриране на данните. Тези практики се отнасят по-специално до:
 2.  Наборите от обучителни, валидационни и изпитвателни данни трябва да бъдат обект на подходящо управление на данните за контекста на употреба, както и за предназначението на системата с ИИ. Тези мерки се отнасят по-специално до:
Изменение 280
Предложение за регламент
Член 10 – параграф 2 – буква aа (нова)
аа)  прозрачност по отношение на първоначалната цел на събирането на данни;
Изменение 281
Предложение за регламент
Член 10 – параграф 2 – буква б
б)  събирането на данни;
 б)  процесите за събиране на данни;
Изменение 282
Предложение за регламент
Член 10 – параграф 2 – буква в
в)  съответните операции по подготовка на данните, като анотиране, етикетиране, прочистване, обогатяване и агрегиране;
 в)  операциите по подготовка на данните, като анотиране, етикетиране, прочистване, актуализиране, обогатяване и агрегиране;
Изменение 283
Предложение за регламент
Член 10 – параграф 2 – буква г
г)  формулирането на съответните допускания, по-специално по отношение на информацията, която данните следва да измерват и представят;
 г)  формулирането на допускания, по-специално по отношение на информацията, която данните следва да измерват и представят;
Изменение 284
Предложение за регламент
Член 10 – параграф 2 – буква д
д)  предварителната оценка на наличието, качеството и устойчивостта на необходимите набори от данни;
 д)  оценка на наличието, качеството и устойчивостта на необходимите набори от данни;
Изменение 285
Предложение за регламент
Член 10 – параграф 2 – буква е
е)  преглед с оглед на евентуална предубеденост;
 е)  преглед с оглед на евентуална предубеденост, която може да засегне здравето и безопасността на хората, да окаже отрицателно въздействие върху основните права или да доведе до дискриминация, забранена от правото на Съюза, по-специално когато изходните данни влияят върху входните данни за бъдещи операции („обратни връзки“), и подходящи мерки за откриване, предотвратяване и смекчаване на възможната предубеденост;
Изменение 286
Предложение за регламент
Член 10 – параграф 2 – буква еa (нова)
еа)  подходящи мерки за откриване, предотвратяване и смекчаване на евентуални предубеждения;
Изменение 287
Предложение за регламент
Член 10 – параграф 2 – буква ж
ж)  идентифициране на евентуални недостатъци на данните, празноти в тях и на начини за тяхното отстраняване.
 ж)  идентифициране на съответни недостатъци на данните, празноти в тях, които възпрепятстват съответствието с настоящия регламент, и на начини за тяхното отстраняване;
Изменение 288
Предложение за регламент
Член 10 – параграф 3
3.  Наборите от обучителни, валидационни и изпитвателни данни трябва да бъдат подходящи, представителни и пълни и да не съдържат грешки. Те трябва да притежават подходящите статистически свойства, включително, където е приложимо, по отношение на лицата или групите лица, по отношение на които ще се използва високорисковата система с ИИ. Тези характеристики на наборите от данни могат да бъдат постигнати на равнището на отделните набори от данни или по отношение на комбинация от тях.
 3.  Наборите от обучителни данни и мястото им на употреба, наборите от валидационни и изпитвателни данни, включително етикетите, трябва да бъдат подходящи, представителни в достатъчна степен, надлежно проверени за грешки и възможно най-пълни с оглед на предназначението. Те трябва да притежават подходящите статистически свойства, включително, където е приложимо, по отношение на лицата или групите лица, във връзка с които ще се използва високорисковата система с ИИ. Тези характеристики на наборите от данни са постигнати на равнището на отделните набори от данни или по отношение на комбинация от тях.
Изменение 289
Предложение за регламент
Член 10 – параграф 4
4.  Наборите от обучителни, валидационни и изпитвателни данни отчитат — доколкото това е необходимо с оглед на предназначението — характеристиките или елементите, специфични за конкретните географски, поведенчески или функционални условия, в които е предвидено да се използва високорисковата система с ИИ.
 4.  Наборите от данни отчитат – доколкото това е необходимо с оглед на предназначението или разумно предвидимата неправилна експлоатация на системата с ИИ – характеристиките или елементите, специфични за конкретните географски, контекстуални, поведенчески или функционални условия, в които е предвидено да се използва високорисковата система с ИИ.
Изменение 290
Предложение за регламент
Член 10 – параграф 5
5.  Доколкото това е строго необходимо за целите на осигуряването на мониторинг, откриване и коригиране на предубедеността във високорисковите системи с ИИ, доставчиците на такива системи могат да обработват специални категории лични данни, посочени в член 9, параграф 1 от Регламент (ЕС) 2016/679, член 10 от Директива (ЕС) 2016/680 и член 10, параграф 1 от Регламент (ЕС) 2018/1725, като обезпечават подходящи гаранции за правата и свободите на физическите лица, включително технически ограничения относно повторното използване и използването на най-съвременни мерки за сигурност и опазване на личния живот, когато анонимизирането може да има значително отражение върху преследваната цел.
 5.  Доколкото това е строго необходимо за целите на осигуряването на откриване и коригиране на негативна предубеденост във високорисковите системи с ИИ, доставчиците на такива системи могат по изключение да обработват специални категории лични данни, посочени в член 9, параграф 1 от Регламент (ЕС) 2016/679, член 10 от Директива (ЕС) 2016/680 и член 10, параграф 1 от Регламент (ЕС) 2018/1725, като обезпечават подходящи гаранции за правата и свободите на физическите лица, включително технически ограничения относно повторното използване и използването на най-съвременни мерки за сигурност и опазване на личния живот. По-специално за осъществяването на тази обработка се прилагат всички изброени по-долу условия: a) откриването и коригирането на предубедеността не може да се осъществи ефективно чрез обработка на синтетични или анонимни данни;
б)  данните са псевдонимизирани;
в)  доставчикът предприема подходящи технически и организационни мерки, за да гарантира, че данните, обработвани за целите на настоящия параграф, са осигурени, защитени, подлежат на подходящи предпазни мерки и достъп до тези данни имат само упълномощени лица със съответните задължения за поверителност;
г)  данните, обработвани за целите на настоящия параграф, не се предават, не се прехвърлят и други страни нямат достъп до тях по друг начин;
д)  данните, обработвани за целите на настоящия параграф, са защитени чрез подходящи технически и организационни мерки и се заличават, след като предубедеността е коригирана или изтече срокът на съхранение на личните данни;
е)  налице са ефективни и подходящи мерки за гарантиране на наличността, сигурността и устойчивостта на системите и услугите за обработка в случай на технически или физически инциденти;
ж)  налице са ефективни и подходящи мерки за осигуряване на физическа сигурност на местата, където се съхраняват и обработват данните, на вътрешното управление и администрирането на ИТ и ИТ сигурността, на сертифицирането на процеси и продукти;
Доставчиците, които се позовават на тази разпоредба, изготвят документация с обяснение защо обработването на специални категории лични данни е било необходимо за откриване и коригиране на предубеденост.
Изменение 291
Предложение за регламент
Член 10 – параграф 6а (нов)
6a.  Когато доставчикът не може да изпълнява задълженията, определени в настоящия член, тъй като няма достъп до данните и данните се държат изключително от внедрителя, внедрителят може, въз основа на договор, да бъде подведен под отговорност за всяко нарушение на настоящия член.
Изменение 292
Предложение за регламент
Член 11 – параграф 1 – алинея 1
Техническата документация се изготвя по такъв начин, че да показва, че високорисковата система с ИИ съответства на изискванията, определени в настоящата глава, и предоставя на националните компетентни органи и нотифицираните органи цялата необходима информация за оценяване на съответствието на системата с посочените изисквания. Тя съдържа най-малко елементите, определени в приложение IV.
 Техническата документация се изготвя по такъв начин, че да показва, че високорисковата система с ИИ съответства на изискванията, определени в настоящата глава, и предоставя на националните надзорни органи и нотифицираните органи необходимата информация за оценяване на съответствието на системата с посочените изисквания. Тя съдържа най-малко елементите, определени в приложение IV, или в случай на МСП и стартиращи предприятия, всяка еквивалентна документация, отговаряща на същите цели и подлежаща на одобрение от компетентния национален орган.
Изменение 293
Предложение за регламент
Член 11 – параграф 2
2.  Когато на пазара се пуска или в експлоатация се въвежда високорискова система с ИИ, свързана с продукт, към който се прилагат правните актове, посочени в приложение II, раздел А, се изготвя една-единствена техническа документация, съдържаща цялата информация, посочена в приложение IV, както и информацията, изисквана съгласно тези законодателни актове.
 2.  Когато на пазара се пуска или в експлоатация се въвежда високорискова система с ИИ, свързана с продукт, към който се прилагат правните актове, посочени в приложение II, раздел А, се изготвя една-единствена техническа документация, съдържаща цялата информация, посочена в параграф 1, както и информацията, изисквана съгласно тези законодателни актове.
Изменение 294
Предложение за регламент
Член 11 – параграф 3а (нов)
3а.  Доставчиците, които са кредитни институции, по отношение на които се прилага Директива 2013/36/ЕС, поддържат техническата документация като част от документацията относно вътрешното управление, процесите и механизмите съгласно член 74 от посочената директива.
Изменение 295
Предложение за регламент
Член 12 – параграф 1
1.  Високорисковите системи с ИИ се проектират и разработват с възможности за автоматично записване на събития („записи“) по време на работа на системата с ИИ. Тези възможности за създаване на записи трябва да отговарят на признати стандарти или общи спецификации.
 1.  Високорисковите системи с ИИ се проектират и разработват с възможности за автоматично записване на събития („записи“) по време на работа на системата с ИИ. Тези възможности за създаване на записи трябва да отговарят на съвременното техническо равнище и на признати стандарти или общи спецификации.
Изменение 296
Предложение за регламент
Член 12 – параграф 2
2.  Възможностите за създаване на записи трябва да гарантират равнище на проследимост на функционирането на системата с ИИ по време на нейния жизнен цикъл, което е подходящо с оглед на нейното предназначение.
 2.  За да гарантират равнище на проследимост на функционирането на системата с ИИ по време на целия ѝ срок на експлоатация, което е подходящо с оглед на нейното предназначение, възможностите за създаване на записи улесняват наблюдението на операции, посочено в член 29, параграф 4, както и наблюдението след пускането на пазара, посочено в член 61. По-специално те трябва да дават възможност за регистриране на събития, които са от значение за идентифициране на ситуации, които могат да:
a)  доведат до това системата с ИИ да представлява риск по смисъла на член 65, параграф 1; или
б)  предизвикат значителни изменения на високорисковата система с ИИ.
Изменение 297
Предложение за регламент
Член 12 – параграф 2а (нов)
2a.  Високорисковите системи с ИИ се проектират и разработват с възможности за създаване на записи, позволяващи регистриране на потреблението на енергия, измерване или изчисляване на използването на ресурсите и въздействието върху околната среда на високорисковата система с ИИ през всички етапи на жизнения цикъл на системата.
Изменение 298
Предложение за регламент
Член 12 – параграф 3
3.  По-специално възможностите за създаване на записи трябва да дават възможност за мониторинг на работата на високорисковата система с ИИ по отношение на настъпването на ситуации, които могат да доведат до това системата с ИИ да представлява риск по смисъла на член 65, параграф 1 или да доведат до съществено изменение, както и да улесняват мониторинга след пускането на пазара, посочен в член 61.
 заличава се
Изменение 299
Предложение за регламент
Член 13 – заглавие
Прозрачност и предоставяне на информация на ползвателите
 Прозрачност и предоставяне на информация
Изменение 300
Предложение за регламент
Член 13 – параграф 1
1.  Високорисковите системи с ИИ се проектират и разработват по такъв начин, че да се гарантира, че тяхната работа е достатъчно прозрачна, за да могат ползвателите да тълкуват резултатите, получени от системата, и да ги използват по подходящ начин. Осигурява се подходящ вид и степен на прозрачност с оглед на постигане на съответствие с приложимите задължения на ползвателя и доставчика, посочени в глава 3 от настоящия дял.
 1.  Високорисковите системи с ИИ се проектират и разработват по такъв начин, че да се гарантира, че тяхната работа е достатъчно прозрачна, за да могат доставчиците и ползвателите ясно да разберат функционирането на системата. Осигурява се подходяща степен на прозрачност в съответствие с предназначението на системата с ИИ с оглед на постигане на съответствие с приложимите задължения на доставчика и ползвателя, посочени в глава 3 от настоящия дял.
Съответно прозрачността означава, че при пускането на пазара на високорискова система с ИИ се използват всички налични технически средства в съответствие с общопризнатото съвременно техническо равнище, за да се гарантира, че резултатите от системата с ИИ могат да бъдат тълкувани от доставчика и ползвателя. Ползвателят е в състояние да разбира и използва системата с ИИ по подходящ начин, като по принцип знае как функционира системата с ИИ и какви данни тя обработва, което му позволява да обясни на засегнатото лице решенията, взети от системата с ИИ, съгласно член 68, буква в).
Изменение 301
Предложение за регламент
Член 13 – параграф 2
2.  Високорисковите системи с ИИ се придружават от инструкции за употреба в подходящ цифров или друг формат, които включват кратка, пълна, вярна и ясна информация, която е уместна, достъпна и разбираема за ползвателите.
 2.  Високорисковите системи с ИИ се придружават от разбираеми инструкции за употреба в подходящ цифров формат или се предоставят по друг начин на траен носител, които включват кратка, вярна, ясна и възможно най-пълна информация, която подпомага работата и поддръжката на системата с ИИ, както и вземането на информирани решения от ползвателите, и е достатъчно уместна, достъпна и разбираема за ползвателите.
Изменение 302
Предложение за регламент
Член 13 – параграф 3 – уводна част
3.  В посочената в параграф 2 информация се посочват:
 3.  За да се постигнат резултатите, посочени в параграф 1, в информацията по параграф 2 се посочват:
Изменение 303
Предложение за регламент
Член 13 – параграф 3 – буква а
a)  данните, които идентифицират доставчика и координатите за връзка с него и, когато е приложимо, тези на неговия упълномощен представител;
 a)  данните, които идентифицират доставчика и координатите за връзка с него, и ако е приложимо – данните, които идентифицират неговите упълномощени представители и координатите за връзка с тях;
Изменение 304
Предложение за регламент
Член 13 – параграф 3 – буква aа (нова)
aа)  ако субектът, оценил съответствието, не е доставчикът – данните, които идентифицират този субект, и координатите за връзка с него, както и в приложимите случаи данните, които идентифицират неговия упълномощен представител, и координатите за връзка с последния;
Изменение 305
Предложение за регламент
Член 13 – параграф 3 – буква б – уводна част
б)  характеристиките, възможностите и ограниченията в действието на високорисковата система с ИИ, включително:
 б)  характеристиките, възможностите и ограниченията в действието на високорисковата система с ИИ, включително по целесъобразност:
Изменение 306
Предложение за регламент
Член 13 – параграф 3 – буква б – подточка ii
ii)  степента на точност, надеждност и киберсигурност, посочена в член 15, с оглед на която е изпитана и валидирана високорисковата система с ИИ, както и евентуални известни или предвидими обстоятелства, които могат да окажат въздействие върху очакваното ниво на точност, надеждност и киберсигурност;
 ii)  степента на точност, надеждност и киберсигурност, посочена в член 15, с оглед на която е изпитана и валидирана високорисковата система с ИИ, както и евентуални добре известни или предвидими обстоятелства, които могат да окажат въздействие върху очакваното ниво на точност, надеждност и киберсигурност;
Изменение 307
Предложение за регламент
Член 13 – параграф 3 – буква б – подточка iii
iii)  евентуални известни или предвидими обстоятелства, свързани с използването на високорисковата система с ИИ в съответствие с предназначението ѝ или в условия на разумно предвидима неправилна експлоатация, които могат да доведат до рискове за здравето и безопасността или за основните права;
 iii)  евентуални добре известни или предвидими обстоятелства, свързани с използването на високорисковата система с ИИ в съответствие с предназначението ѝ или в условия на разумно предвидима неправилна експлоатация, които могат да доведат до рискове за здравето, безопасността, основните права или околната среда, включително когато това е целесъобразно, показателни примери за такива ограничения и сценарии, при които системата не следва да се използва;
Изменение 308
Предложение за регламент
Член 13 – параграф 3 – буква б – подточка iiia (нова)
iiiа)  степента, в която системата с ИИ може да предостави обяснение за решенията, които взема;
Изменение 309
Предложение за регламент
Член 13 – параграф 3 – буква б – подточка v
v)  когато е целесъобразно, спецификации на входящите данни или всякаква друга относима информация по отношение на наборите от обучителни, валидационни и изпитвателни данни, като се отчита предназначението на системата с ИИ;
 v)  относима информация за действията на потребителя, които могат да повлияят на действието на системата, включително вида или качеството на входящите данни или всякаква друга относима информация по отношение на наборите от обучителни, валидационни и изпитвателни данни, като се отчита предназначението на системата с ИИ;
Изменение 310
Предложение за регламент
Член 13 – параграф 3 – буква д
д)  очакваният срок на експлоатация на високорисковата система с ИИ и евентуално необходимите мерки за поддръжка и обслужване с цел да се гарантира правилното функциониране на системата с ИИ, включително по отношение на актуализациите на софтуера.
 д)  евентуално необходимите мерки за поддръжка и обслужване с цел да се гарантира правилното функциониране на системата с ИИ, включително по отношение на актуализациите на софтуера, в рамките на очаквания срок на експлоатация.
Изменение 311
Предложение за регламент
Член 13 – параграф 3 – буква да (нова)
да)  описание на механизмите, включени в системата с ИИ, които позволяват на ползвателите правилно да събират, съхраняват и тълкуват записите в съответствие с член 12, параграф 1.
Изменение 312
Предложение за регламент
Член 13 – параграф 3 – буква дб (нова)
дб)  информацията се предоставя поне на езика на държавата, където се използва системата с ИИ.
Изменение 313
Предложение за регламент
Член 13 – параграф 3а (нов)
3а.  С цел да изпълняват задълженията, установени в настоящия член, доставчиците и ползвателите гарантират достатъчно високо ниво на грамотност в областта на ИИ в съответствие с член 4б.
Изменение 314
Предложение за регламент
Член 14 – параграф 1
1.  Високорисковите системи с ИИ се проектират и разработват — включително като се предвиждат подходящи инструменти за интерфейса човек—машина в тях — по такъв начин, че върху тях да може да бъде упражняван ефективен надзор от физически лица в периода, през който те се използват.
 1.  Високорисковите системи с ИИ се проектират и разработват — включително като се предвиждат подходящи инструменти за интерфейса човек – машина в тях – по такъв начин, че върху тях да бъде упражняван ефективен надзор от физически лица пропорционално на рисковете, свързани с тези системи. Физическите лица, които отговарят за осигуряването на човешки надзор, притежават достатъчно ниво на грамотност в областта на ИИ в съответствие с член 4б и разполагат с необходимата подкрепа и правомощия, за да упражняват тази функция през периода, през който системата с ИИ се използва, и за да обезпечават провеждането на задълбочено разследване след даден инцидент.
Изменение 315
Предложение за регламент
Член 14 – параграф 2
2.  Човешкият надзор има за цел предотвратяването или свеждането до минимум на рисковете за здравето, безопасността или основните права, които могат да възникнат при използването на система с ИИ в съответствие с нейното предназначение или в условия на разумно предвидима неправилна експлоатация, по-специално когато тези рискове продължават да съществуват, независимо от прилагането на останалите изисквания, определени в настоящата глава.
 2.  Човешкият надзор има за цел предотвратяването или свеждането до минимум на рисковете за здравето, безопасността, основните права или околната среда, които могат да възникнат при използването на система с ИИ в съответствие с нейното предназначение или в условия на разумно предвидима неправилна експлоатация, по-специално когато тези рискове продължават да съществуват, независимо от прилагането на останалите изисквания, определени в настоящата глава, и когато решенията, основани единствено на автоматизирана обработка от системи с ИИ, водят до правни или по друг начин значими последици за лицата или групите от лица, по отношение на които ще се използва системата.
Изменение 316
Предложение за регламент
Член 14 – параграф 3 – уводна част
3.  Човешкият надзор се осигурява чрез една или всички от следните мерки:
 3.  Човешкият надзор взема под внимание специфичните рискове, нивото на автоматизация и контекста на системата с ИИ и той се осигурява чрез един или всички от следните видове мерки:
Изменение 317
Предложение за регламент
Член 14 – параграф 4 – уводна част
4.  Мерките, посочени в параграф 3, трябва да дават възможност на лицата, на които е възложено да упражняват човешки надзор, да извършват следните, както е уместно с оглед на обстоятелствата:
 4.  За целите на прилагането на параграфи 1 – 3 високорисковата система с ИИ се предоставя на ползвателя по начин, който дава възможност на физическите лица, на които е възложено да упражняват човешки надзор, както е уместно и пропорционално с оглед на обстоятелствата:
Изменение 318
Предложение за регламент
Член 14 – параграф 4 – буква а
a)  изцяло да разбират възможностите и ограниченията на високорисковата система с ИИ и да могат надлежно да следят нейното функциониране, така че признаците за аномалии, дисфункции и неочаквано действие да могат да бъдат откривани и спрямо тях да бъдат предприемани действия възможно най-бързо;
 a)  да съзнават и да разбират в достатъчна степен съответните възможности и ограничения на високорисковата система с ИИ и да могат надлежно да следят нейното функциониране, така че признаците за аномалии, дисфункции и неочаквано действие да могат да бъдат откривани и спрямо тях да бъдат предприемани действия възможно най-бързо;
Изменение 319
Предложение за регламент
Член 14 – параграф 4 – буква д
д)  да бъдат в състояние да се намесят в работата на високорисковата система с ИИ или да прекъснат системата чрез стоп бутон или подобна процедура.
 д)  да бъдат в състояние да се намесят в работата на високорисковата система с ИИ или да прекъснат системата чрез стоп бутон или подобна процедура, която позволява на системата да спре функционирането си по безопасен начин, освен ако човешката намеса увеличава рисковете или би оказала отрицателно въздействие върху действието, като се взема предвид общопризнатото съвременно техническо равнище.
Изменение 320
Предложение за регламент
Член 14 – параграф 5
5.  За високорисковите системи с ИИ, посочени в точка 1, буква а) от приложение III, мерките, посочени в параграф 3, трябва да бъдат такива, че да гарантират в допълнение, че ползвателят не предприема действия, нито взема решения въз основа на идентификацията, посочена от системата, освен ако тя е била верифицирана и потвърдена от поне две физически лица.
 5.  За високорисковите системи с ИИ, посочени в точка 1, буква а) от приложение III, мерките, посочени в параграф 3, трябва да бъдат такива, че да гарантират в допълнение, че ползвателят не предприема действия, нито взема решения въз основа на идентификацията, посочена от системата, освен ако тя е била верифицирана и потвърдена от поне две физически лица, притежаващи необходимата степен на компетентност, обучение и правомощия.
Изменение 321
Предложение за регламент
Член 15 – параграф 1
1.  Високорисковите системи с ИИ се проектират и разработват така, че да постигат с оглед на предназначението си подходящо ниво на точност, надеждност и киберсигурност и да фукнционират стабилно в тези отношения в течение на експлоатационния си срок.
 1.  Високорисковите системи с ИИ се проектират и разработват в съответствие с принципа на сигурност още при проектирането и по подразбиране. С оглед на предназначението си те следва да постигнат подходящо ниво на точност, надеждност, безопасност и киберсигурност и да фукнционират стабилно в тези отношения в течение на експлоатационния си срок. Спазването на тези изисквания трябва да бъде свързано с прилагането на мерки, съобразени с най-съвременните технологии, според конкретния пазарен сегмент или сфера на приложение.
Изменение 322
Предложение за регламент
Член 15 – параграф 1а (нов)
1a.  За да разгледа техническите аспекти на начина на измерване на подходящите равнища на точност и надеждност, посочени в параграф 1 от настоящия член, Службата по ИИ обединява националните и международните органи по метрология и сравнителен анализ и предоставя незадължителни насоки по въпроса, както е посочено в член 56, параграф 2, буква а).
Изменение 323
Предложение за регламент
Член 15 - параграф 1б (нов)
1б.  За да се решат всички нововъзникващи въпроси в рамките на вътрешния пазар по отношение на киберсигурността, Агенцията на Европейския съюз за киберсигурност (ENISA) участва заедно с Европейския съвет по изкуствен интелект, както е посочено в член 56, параграф 2, буква б).
Изменение 324
Предложение за регламент
Член 15 – параграф 2
2.  Нивата на точност и съответните показатели за точност на високорисковите системи с ИИ се обявяват в придружаващите я инструкции за употреба.
 2.  Нивата на точност и съответните показатели за точност на високорисковите системи с ИИ се обявяват в придружаващите я инструкции за употреба. Използваната формулировка трябва да бъде ясна, без недоразумения или подвеждащи постановки.
Изменение 325
Предложение за регламент
Член 15 – параграф 3 – алинея 1
Високорисковите системи с ИИ трябва да бъдат устойчиви по отношение на грешки, недостатъци или несъответствия, евентуално възникващи в рамките на системата или на средата, в която тя работи, по-специално поради взаимодействието им с физически лица или други системи.
 Предприемат се технически и организационни мерки, за да се гарантира, че високорисковите системи с ИИ са възможно най-устойчиви по отношение на грешки, недостатъци или несъответствия, евентуално възникващи в рамките на системата или на средата, в която тя работи, по-специално поради взаимодействието им с физически лица или други системи.
Изменение 326
Предложение за регламент
Член 15 – параграф 3 – алинея 2
Надеждността на високорисковите системи с ИИ може да бъде постигната чрез решения за техническо дублиране, които могат да включват резервни или аварийни планове.
 Надеждността на високорисковите системи с ИИ може да бъде постигната от съответния доставчик с информация от ползвателя, когато е необходимо, чрез решения за техническо дублиране, които могат да включват резервни или аварийни планове.
Изменение 327
Предложение за регламент
Член 15 – параграф 3 – алинея 3
Високорисковите системи с ИИ, които продължават да се обучават след пускането им на пазара или въвеждането им в експлоатация, трябва да бъдат разработени така, че да се гарантира, че по отношение на евентуално опорочените от предубеденост резултати, дължащи се на използването на резултати като входящи данни за бъдещи операции („обратни връзки“), се вземат надлежно подходящите ограничителни мерки.
 Високорисковите системи с ИИ, които продължават да се обучават след пускането им на пазара или въвеждането им в експлоатация, трябва да бъдат разработени така, че да се гарантира, че по отношение на евентуално опорочените от предубеденост резултати, имащи влияние върху входящите данни за бъдещи операции („обратни връзки“) и злонамерена манипулация на данните, използвани при ученето по време на опериране, се вземат надлежно подходящите ограничителни мерки.
Изменение 328
Предложение за регламент
Член 15 – параграф 4 – алинея 1
Високорисковите системи с ИИ трябва да бъдат устойчиви по отношение на опитите на неоправомощени трети страни да променят използването или действието им, като използват слабите места на системата.
 Високорисковите системи с ИИ трябва да бъдат устойчиви по отношение на опитите на неоправомощени трети страни да променят използването, поведението, резултатите или действието им, като използват слабите места на системата.
Изменение 329
Предложение за регламент
Член 15 – параграф 4 – алинея 3
Техническите решения за преодоляване на специфичните за ИИ слаби места включват, където е целесъобразно, мерки за предотвратяване и контрол на атаки, целящи да манипулират набора от обучителни данни („отравяне на данните“), за предотвратяване на входящи данни, разработени с цел да накарат модела да допусне грешка („враждебни примери“), или на пороци на модела.
 Техническите решения за преодоляване на специфичните за ИИ слаби места включват, където е целесъобразно, мерки за предотвратяване, откриване, реакция, справяне с и контрол на атаки, целящи да манипулират набора от обучителни данни („отравяне на данните“) или предварително обучени компоненти, използвани за обучение („отравяне на моделите“), входящи данни, разработени с цел да накарат модела да допусне грешка („враждебни примери“ или „заобикаляне на модела“ ), атаки срещу поверителността или пороци на модела, които биха могли да доведат до вземане на вредни решения.
Изменение 330
Предложение за регламент
Дял III – глава 3 - заглавие
ЗАДЪЛЖЕНИЯ НА ДОСТАВЧИЦИТЕ И ПОЛЗВАТЕЛИТЕ НА ВИСОКОРИСКОВИ СИСТЕМИ С ИИ и на други страни
 ЗАДЪЛЖЕНИЯ НА ДОСТАВЧИЦИТЕ И ВНЕДРИТЕЛИТЕ НА ВИСОКОРИСКОВИ СИСТЕМИ С ИИ И НА ДРУГИ СТРАНИ
Изменение 331
Предложение за регламент
Член 16 – заглавие
Задължения на доставчиците на високорискови системи с ИИ
 Задължения на доставчиците и внедрителите на високорискови системи с ИИ и на други страни
Изменение 332
Предложение за регламент
Член 16 – параграф 1 – точка а
a)  гарантират, че техните системи с ИИ съответстват на изискванията, определени в глава 2 от настоящия дял;
 a)  гарантират, че техните високорискови системи с ИИ съответстват на изискванията, определени в глава 2 от настоящия дял преди да ги пуснат на пазара или да ги пуснат в експлоатация;
Изменение 333
Предложение за регламент
Член 16 – параграф 1 – буква aа (нова)
аа)  посочват своето име, регистрирано търговско наименование или регистрирана търговска марка, както и своя адрес и информация за контакт върху високорисковата система с ИИ, или, когато това не е възможно, в придружаваща документация по целесъобразност;
Изменение 334
Предложение за регламент
Член 16 – параграф 1 – буква аб (нова)
аб)  гарантират, че физическите лица, на които е възложен човешки надзор върху високорискови системи с ИИ, са специално осведомени за риска от предубеденост в полза на автоматизираните решения или при потвърждаването;
Изменение 335
Предложение за регламент
Член 16 – параграф 1 – буква ав (нова)
aв)  предоставя спецификации на входящите данни или всякаква друга относима информация по отношение на наборите от данни, включително тяхното ограничаване и допускания, като се отчита предназначението и предвидимaтa или разумно предвидимaтa неправилна експлоатация на системата с ИИ;
Изменение 336
Предложение за регламент
Член 16 – параграф 1 – буква в
в)  изготвят техническата документация на високорисковата система с ИИ;
 в)  изготвят и съхраняват техническата документация на високорисковата система с ИИ, посочена в член 11;
Изменение 337
Предложение за регламент
Член 16 – параграф 1 – буква г
г)  когато са под техен контрол, съхраняват записите, автоматично направени от техните високорискови системи с ИИ;
 г)  когато са под техен контрол, съхраняват записите, автоматично направени от техните високорискови системи с ИИ, необходими за осигуряване и доказване на съответствие с настоящия регламент съгласно член 20;
Изменение 338
Предложение за регламент
Член 16 – параграф 1 – буква д
д)  гарантират, че високорисковата система с ИИ преминава през съответната процедура за оценяване на съответствието, преди да бъде пусната на пазара или въведена в експлоатация;
 д)  гарантират, че високорисковата система с ИИ преминава през съответната процедура за оценяване на съответствието, преди да бъде пусната на пазара или въведена в експлоатация, в съответствие с член 43;
Изменение 339
Предложение за регламент
Член 16 – параграф 1 – буква да (нова)
да)  изготвят декларация за съответствие с изискванията на ЕС в съответствие с член 48;
Изменение 340
Предложение за регламент
Член 16 – параграф 1 – буква дб (нова)
дб)  поставят маркировката „CE“ на високорисковите системи с ИИ, за да укажат съответствието с настоящия регламент съгласно член 49;
Изменение 341
Предложение за регламент
Член 16 – параграф 1 – буква ж
ж)  предприемат необходимите корективни действия, ако високорисковата система с ИИ не е в съответствие с изискванията, определени в глава 2 от настоящия дял;
 ж)  предприемат необходимите корективни действия, както е посочено в член 21, и предоставят информация в това отношение;
Изменение 342
Предложение за регламент
Член 16 – параграф 1 – буква з
з)  уведомяват националните компетентни органи на държавите членки, в които са предоставили системата с ИИ на пазара или са я въвели в експлоатация и, където е приложимо, нотифицирания орган за несъответствието и за евентуалните предприети корективни действия;
 заличава се
Изменение 343
Предложение за регламент
Член 16 – параграф 1 – буква и
i)  поставят маркировката „CE“ на своите високорискови системи с ИИ, за да укажат съответствието с настоящия регламент съгласно член 49;
 заличава се
Изменение 344
Предложение за регламент
Член 16 – параграф 1 – буква й
й)  по искане на национален компетентен орган доказват съответствието на високорисковата система с ИИ с изискванията, определени в глава 2 от настоящия дял.
 й)  при мотивирано искане на национален надзорен орган доказват съответствието на високорисковата система с ИИ с изискванията, определени в глава 2 от настоящия дял.
Изменение 345
Предложение за регламент
Член 16 – параграф 1 – буква йа (нова)
йa)  гарантират, че високорисковата система с ИИ е в съответствие с изискванията за достъпност.
Изменение 346
Предложение за регламент
Член 17 – параграф 1 – уводна част
1.  Доставчиците на високорискови системи с ИИ въвеждат система за управление на качеството, която гарантира съответствие с настоящия регламент. Системата се документира системно и последователно чрез политики, процедури и инструкции в писмен вид и включва най-малко следните аспекти:
 1.  Доставчиците на високорискови системи с ИИ разполагат със система за управление на качеството, която гарантира съответствие с настоящия регламент. Тя се документира системно и последователно чрез политики, процедури или инструкции в писмен вид и може да бъде включена в съществуваща система за управление на качеството съгласно секторните законодателни актове на Съюза. Тя включва най-малко следните елементи:
Изменение 347
Предложение за регламент
Член 17 – параграф 1 – точка а
a)  стратегия за регулаторно съответствие, включително съответствие с процедурите за оценяване на съответствието и процедурите за управление на модификациите на високорисковата система с ИИ;
 заличава се
Изменение 348
Предложение за регламент
Член 17 – параграф 1 – буква д
д)  технически спецификации, включително стандарти, които да се прилагат и, когато съответните хармонизирани стандарти не са приложени изцяло, средствата, които трябва да се използват, за да се гарантира, че високорисковата система с ИИ съответства на изискванията, определени в глава 2 от настоящия дял;
 д)  технически спецификации, включително стандарти, които да се прилагат и, когато съответните хармонизирани стандарти не са приложени изцяло, или не отговарят на всички съответни изисквания, средствата, които трябва да се използват, за да се гарантира, че високорисковата система с ИИ съответства на изискванията, определени в глава 2 от настоящия дял;
Изменение 349
Предложение за регламент
Член 17 – параграф 1 – буква e
е)  системи и процедури за управление на данни, включително събиране, анализ, етикетиране, съхранение, филтриране, извличане, агрегиране, запазване на данни, както и за всякакви други операции по отношение на данните, които се извършват преди и за целите на пускането на пазара или въвеждането в експлоатация на високорискови системи с ИИ;
 е)  системи и процедури за управление на данни, включително придобиване, събиране, анализ, етикетиране, съхранение, филтриране, извличане, агрегиране, запазване на данни, както и за всякакви други операции по отношение на данните, които се извършват преди и за целите на пускането на пазара или въвеждането в експлоатация на високорискови системи с ИИ;
Изменение 350
Предложение за регламент
Член 17 – параграф 1 – буква й
й)  придвижването на комуникацията с националните компетентни органи, компетентните органи, включително секторните, осигуряващи или съдействащи за достъпа до данни, нотифицираните органи, другите оператори, потребителите или други заинтересовани страни;
 й)  придвижването на комуникацията със съответните компетентни органи, включително секторните;
Изменение 351
Предложение за регламент
Член 17 – параграф 2
2.  Реализацията на аспектите, посочени в параграф 1, е пропорционална на размера на организацията на доставчика.
 2.  Реализацията на аспектите, посочени в параграф 1, е пропорционална на размера на организацията на доставчика. При всички случаи доставчиците спазват степента на строгост и нивото на защита, които се изискват, за да се гарантира съответствието на техните системи с ИИ с настоящия регламент.
Изменение 352
Предложение за регламент
Член 18 – заглавие
Задължение за изготвяне на техническа документация
 заличава се
Изменение 353
Предложение за регламент
Член 18 – параграф 1
1.  Доставчиците на високорискови системи с ИИ изготвят техническата документация, посочена в член 11, в съответствие с приложение IV.
 заличава се
Изменение 354
Предложение за регламент
Член 18 – параграф 2
2.  Доставчиците, които са кредитни институции, по отношение на които се прилага Директива 2013/36/ЕС, поддържат техническата документация като част от документацията относно вътрешното управление, процесите и механизмите съгласно член 74 от посочената директива.
 заличава се
Изменение 355
Предложение за регламент
Член 19
Член 19
 заличава се
Оценяване на съответствието
1.  Доставчиците на високорискови системи с ИИ гарантират, че техните системи преминават през съответната процедура за оценяване на съответствието съгласно член 43, преди да бъдат пуснати на пазара или въведени в експлоатация. Когато съответствието на системите с ИИ с изискванията, определени в глава 2 от настоящия дял, бъде доказано след оценяването на съответствието, доставчиците изготвят декларация за съответствие с изискванията на ЕС съгласно член 48 и поставят маркировка за съответствие „СЕ“ съгласно член 49.
2.  За високорисковите системи с ИИ, посочени в точка 5, буква б) от приложение III, пуснати на пазара или въведени в експлоатация от доставчици, които са кредитни институции, за които се прилага Директива 2013/36/ЕС, оценяването на съответствието се извършва като част от процедурата, посочена в членове 97—101 от същата директива.
Изменение 356
Предложение за регламент
Член 20 – параграф 1
1.  Доставчиците на високорискови системи с ИИ съхраняват записите, автоматично генерирани от техните високорискови системи с ИИ, доколкото тези записи са под техен контрол по силата на договорни взаимоотношения с ползвателя или по закон. Записите се съхраняват за срок, който е подходящ с оглед на предназначението на високорисковата система с ИИ и приложимите правни задължения съгласно правото на Съюза или националното право.
 1.  Ползвателите на високорискови системи с ИИ съхраняват записите, автоматично генерирани от техните високорискови системи с ИИ, доколкото тези записи са под техен контрол. Без да се засяга приложимото право на Съюза или националното право, записите се съхраняват за срок от най-малко 6 месеца. Периодът на съхранение е в съответствие с промишлените стандарти и е подходящ за предназначението на високорисковата система с ИИ.
Изменение 357
Предложение за регламент
Член 21 – параграф 1
Доставчиците на високорискови системи с ИИ, които считат или имат основание да считат, че дадена високорискова система с ИИ, която са пуснали на пазара или въвели в експлоатация, не съответства на настоящия регламент, незабавно предприемат необходимите корективни действия, за да приведат системата в съответствие, да я изтеглят или да я изземат, както е необходимо. Те информират съответно дистрибуторите на въпросната високорискова система с ИИ и, ако е приложимо, упълномощения представител и вносителите.
 Доставчиците на високорискови системи с ИИ, които считат или имат основание да считат, че дадена високорискова система с ИИ, която са пуснали на пазара или въвели в експлоатация, не съответства на настоящия регламент, незабавно предприемат необходимите корективни действия, за да приведат системата в съответствие, да я изтеглят, да я изключат или да я изземат, както е необходимо.
При изброените в първия параграф случаи доставчиците незабавно информират:
а)  дистрибуторите;
б)  вносителите;
в)  националните компетентни органи на държавите членки, в които е достъпна или въведена в експлоатация системата с ИИ; както и
г)  когато е възможно, внедрителя.
Изменение 358
Предложение за регламент
Член 21 – параграф 1а (нов)
Доставчиците информират също така упълномощения представител, ако такъв е бил назначен в съответствие с член 25, и нотифицирания орган, ако високорисковата система с ИИ е трябвало да бъде подложена на оценяване на съответствието от трети страни в съответствие с член 43. Когато е приложимо, те също така разследват причините в сътрудничество с внедрителя.
Изменение 359
Предложение за регламент
Член 22 – параграф 1
Когато високорисковата система с ИИ представлява риск по смисъла на член 65, параграф 1 и този риск е известен на доставчика на системата, доставчикът незабавно уведомява националните компетентни органи на държавите членки, в които е предоставил системата и, където е приложимо, нотифицирания орган, издал сертификат за високорисковата система с ИИ, по-специално за несъответствието и за евентуалните предприети корективни действия.
 Когато високорисковата система с ИИ представлява риск по смисъла на член 65, параграф 1 и този риск стане известен на доставчика на системата, доставчикът незабавно уведомява националните надзорни органи на държавите членки, в които е предоставил системата и, където е приложимо, нотифицирания орган, издал сертификат за високорисковата система с ИИ, по-специално за естеството на несъответствието и за евентуалните подходящи предприети корективни действия.
Изменение 360
Предложение за регламент
Член 22 – параграф 1а (нов)
При изброените в първия параграф случаи доставчиците на високорисковата система с ИИ незабавно информират:
а)  дистрибуторите;
б)  вносителите;
в)  националните компетентни органи на държавите членки, в които е достъпна или въведена в експлоатация системата с ИИ; както и
г)  когато е възможно, внедрителите.
Изменение 361
Предложение за регламент
Член 22 - параграф 1б (нов)
Доставчиците информират и упълномощения представител, ако има определен такъв в съответствие с член 25.
Изменение 362
Предложение за регламент
Член 23 – заглавие
Сътрудничество с компетентните органи
 Сътрудничество с компетентните органи, Службата и Комисията
Изменение 363
Предложение за регламент
Член 23 – параграф 1
При поискване от национален компетентен орган доставчиците на високорискови системи с ИИ предоставят на този орган цялата информация и документация, необходима за доказване на съответствието на високорисковата система с ИИ с изискванията, определени в глава 2 от настоящия дял, на официален език на Съюза, определен от съответната държава членка. При мотивирано искане от национален компетентен орган доставчиците също така дават на този орган достъп до записите, автоматично генерирани от високорисковата система с ИИ, доколкото тези записи са под техен контрол по силата на договорни взаимоотношения с ползвателя или по закон.
 При поискване от национален компетентен орган или, когато е приложимо, от Службата по ИИ или Комисията, доставчиците, или, когато е приложимо, внедрителите на високорискови системи с ИИ, им предоставят цялата информация и документация, необходима за доказване на съответствието на високорисковата система с ИИ с изискванията, определени в глава 2 от настоящия дял, на официален език на Съюза, определен от съответната държава членка.
Изменение 364
Предложение за регламент
Член 23 – параграф 1а (нов)
При обосновано искане от национален компетентен орган или, когато е приложимо, от Комисията, доставчиците, а когато е приложимо, внедрителите също така предоставят на отправилия искането национален компетентен орган или на Комисията, според случая, достъп до записите, автоматично генерирани от високорисковата система с ИИ, доколкото тези записи са под техен контрол.
Изменение 365
Предложение за регламент
Член 23 - параграф 1б (нов)
Всяка информация и документация, получени от нотифицираните органи или от Комисията съгласно разпоредбите на настоящия член, се считат за търговска тайна и се третират в съответствие със задълженията за поверителност, посочени в член 70.
Изменение 366
Предложение за регламент
Член 25 – параграф 1
1.  Когато даден вносител не може да бъде идентифициран, преди да предоставят неговите системи на пазара на Съюза, доставчиците, установени извън Съюза, чрез писмено пълномощно определят упълномощен представител, който е установен в Съюза.
 1.  Преди да предоставят неговите системи на пазара на Съюза, доставчиците, установени извън Съюза, чрез писмено пълномощно определят упълномощен представител, който е установен в Съюза.
Изменение 367
Предложение за регламент
Член 25 – параграф 1а (нов)
1a.  Упълномощеният представител пребивава или е установен в една от държавите членки, в която се извършват дейностите по член 2, параграфи 1вб.
Изменение 368
Предложение за регламент
Член 25 - параграф 1б (нов)
1б.  Доставчикът предоставя на законния си представител необходимите правомощия и ресурси, за да изпълнява задачите си по настоящия регламент.
Изменение 369
Предложение за регламент
Член 25 – параграф 2 – уводна част
2.  Упълномощеният представител изпълнява задачите, определени в пълномощното, получено от доставчика. Пълномощното дава право на упълномощения представител да извършва следните задачи:
 2.  Упълномощеният представител изпълнява задачите, определени в пълномощното, получено от доставчика. Той предоставя на органите за надзор на пазара копие от пълномощното при поискване на един от официалните езици на институцията на Съюза, определен от националния компетентен орган. За целите на настоящия регламент пълномощното дава право на упълномощения представител да извършва само следните задачи:
Изменение 370
Предложение за регламент
Член 25 – параграф 2 – буква а
a)  да съхранява копие от декларацията за съответствие с изискванията на ЕС и от техническата документация, което да е на разположение на националните компетентни органи и националните органи, посочени в член 63, параграф 7;
 a)  да се увери, че декларацията за съответствие с изискванията на ЕС и техническата документация са изготвени и че доставчикът е провел съответната процедура за оценяване на съответствието;
Изменение 371
Предложение за регламент
Член 25 – параграф 2 – буква aа (нова)
аа)  да съхранява на разположение на националните компетентни органи и националните органи, посочени в член 63, параграф 7, копие на декларацията за съответствие с изискванията на ЕС, на техническата документация и, ако е приложимо, на сертификата, издаден от нотифицирания орган;
Изменение 372
Предложение за регламент
Член 25 – параграф 2 – буква б)
б)  при мотивирано искане да предоставя на националния компетентен орган всичката информация и документация, необходима за доказване на съответствието на дадена високорискова система с ИИ с изискванията, определени в глава 2 от настоящия дял, включително достъп до записите, генерирани автоматично от високорисковата система с ИИ, доколкото тези записи са под контрола на доставчика по силата на договорни взаимоотношение с ползвателя или по закон;
 б)  при мотивирано искане да предоставя на националния компетентен орган всичката информация и документация, необходима за доказване на съответствието на дадена високорискова система с ИИ с изискванията, определени в глава 2 от настоящия дял, генерирани автоматично от високорисковата система с ИИ, доколкото тези записи са под контрола на доставчика;
Изменение 373
Предложение за регламент
Член 25 – параграф 2 – буква в
в)  при мотивирано искане да си сътрудничи с компетентните национални органи в евентуалните действия, които те предприемат във връзка с високорисковата система с ИИ.
 в)  при мотивирано искане да си сътрудничи с националните надзорни органи за всяко действие, което органът предприема за намаляване и ограничаване на рисковете, породени от високорисковата система с ИИ;
Изменение 374
Предложение за регламент
Член 25 – параграф 2 – буква вa (нова)
вa)  когато е приложимо, да изпълни задълженията за регистрация, посочени в член 51, или, ако регистрацията се извършва от самия доставчик, да се увери, че информацията, посочена в точка 3 от приложение VIII, е вярна.
Изменение 375
Предложение за регламент
Член 25 – параграф 2а (нов)
2a.  Упълномощеният представител трябва да бъде упълномощен към него да се обръщат, в допълнение към или вместо доставчика, по-специално националният надзорен орган или националните компетентни органи и засегнатите лица по всички въпроси, свързани с осигуряването на съответствие с настоящия регламент.
Изменение 376
Предложение за регламент
Член 25 – параграф 2б (нов)
2б.  Оправомощеният представител прекратява пълномощието, ако счита или има основание да счита, че доставчикът действа в противоречие със задълженията си съгласно настоящия регламент. В такъв случай той също така незабавно информира националния надзорен орган на държавата членка, в която е установен, както и, когато е приложимо, съответния нотифициран орган, за прекратяването на пълномощието и причините за това.
Изменение 377
Предложение за регламент
Член 26 – параграф 1 – уводна част
1.  Преди да пуснат на пазара високорискова система с ИИ вносителите на тази система гарантират, че:
 1.  Преди да пуснат на пазара високорискова система с ИИ вносителите на тази система гарантират, че системата е в съответствие с настоящия регламент, като удостоверяват дали:
Изменение 378
Предложение за регламент
Член 26 – параграф 1 – точка а
a)  съответната процедура за оценяване на съответствието е била проведена от доставчика на тази система с ИИ;
 a)  съответната процедура за оценяване на съответствието, посочена в член 43, е била проведена от доставчика на тази система с ИИ
Изменение 379
Предложение за регламент
Член 26 – параграф 1 – буква б
б)  доставчикът е изготвил техническата документация в съответствие с приложение IV;
 б)  доставчикът е изготвил техническата документация в съответствие с член 11 и приложение IV;
Изменение 380
Предложение за регламент
Член 26 – параграф 1 – буква ва (нова)
вa)  когато е приложимо, доставчикът е определил упълномощен представител в съответствие с член 25, параграф 1.
Изменение 381
Предложение за регламент
Член 26 – параграф 2
2.  Когато вносител счита или има основание да счита, че дадена високорискова система с ИИ не е в съответствие с настоящия регламент, той не пуска тази система на пазара преди тя да бъде приведена в съответствие. Когато високорисковата система с ИИ представлява риск по смисъла на член 65, параграф 1, вносителят уведомява за това доставчика на системата с ИИ и органите за надзор на пазара.
 2.  Когато вносител счита или има основание да счита, че дадена високорискова система с ИИ не е в съответствие с настоящия регламент или че е подправена или е придружена от подправена документация, той не пуска тази система на пазара преди тя да бъде приведена в съответствие. Когато високорисковата система с ИИ представлява риск по смисъла на член 65, параграф 1, вносителят уведомява за това доставчика на системата с ИИ и органите за надзор на пазара.
Изменение 382
Предложение за регламент
Член 26 – параграф 3
3.  Вносителите посочват своето име, регистрирано търговско наименование или регистрирана търговска марка и адреса, на който с тях може да бъде установен контакт, върху високорисковата система с ИИ, или, когато това не е възможно — върху нейната опаковка или придружаваща документация, както е приложимо.
 3.  Вносителите посочват своето име, регистрирано търговско наименование или регистрирана търговска марка и адреса, на който с тях може да бъде установен контакт, върху високорисковата система с ИИ и върху нейната опаковка или придружаваща документация, когато е приложимо.
Изменение 383
Предложение за регламент
Член 26 – параграф 5
5.  При мотивирано искане вносителите предоставят на националните компетентни органи всичката информация и документация, необходима за доказване на съответствието на дадена високорискова система с ИИ с изискванията, определени в глава 2 от настоящия дял, на език, който е лесно разбираем за съответния национален компетентен орган, включително достъп до записите, генерирани автоматично от високорисковата система с ИИ, доколкото тези записи са под контрола на доставчика по силата на договорни взаимоотношение с ползвателя или по закон. Те също така си сътрудничат и с посочените органи в евентуалните действия, които националният компетентен орган предприема във връзка с тази система.
 5.  При мотивирано искане вносителите предоставят на националните компетентни органи всичката информация и документация, необходима за доказване на съответствието на дадена високорискова система с ИИ с изискванията, определени в глава 2 от настоящия дял, на език, който е лесно разбираем за тях, включително достъп до записите, генерирани автоматично от високорисковата система с ИИ, доколкото тези записи са под контрола на доставчика в съответствие с член 20.
Изменение 384
Предложение за регламент
Член 26 – параграф 5а (нов)
5a.  Вносителите си сътрудничат с националните компетентни органи при всяко действие, което тези органи предприемат за намаляване и ограничаване на рисковете, породени от високорисковата система с ИИ.
Изменение 385
Предложение за регламент
Член 27 – параграф 1
1.  Преди да предоставят високорискова система с ИИ на пазара, дистрибуторите се уверяват, че тя има нанесена изискваната маркировка за съответствие „СЕ“, че е придружена от необходимата документация и инструкции за употреба и че доставчикът и вносителят на системата, както е приложимо, са изпълнили задълженията, определени в настоящия регламент.
 1.  Преди да предоставят високорискова система с ИИ на пазара, дистрибуторите се уверяват, че тя има нанесена изискваната маркировка за съответствие „СЕ“, че е придружена от необходимата документация и инструкции за употреба и че доставчикът и вносителят на системата, както е приложимо, са изпълнили своите задължения, определени съответно в член 16 и член 26 от настоящия регламент.
Изменение 386
Предложение за регламент
Член 27 – параграф 2
2.  Когато дистрибутор счита или има основание да счита, че дадена високорискова система с ИИ не е в съответствие с изискванията, определени в глава 2 от настоящия дял, той не предоставя тази система на пазара преди тя да бъде приведена в съответствие с тези изисквания. Освен това, когато системата представлява риск по смисъла на член 65, параграф 1, дистрибуторът уведомява за това, както е приложимо, доставчика или вносителя на системата.
 2.  Когато дистрибутор счита или има основание да счита, въз основа на информацията, с която разполага, че дадена високорискова система с ИИ не е в съответствие с изискванията, определени в глава 2 от настоящия дял, той не предоставя тази система на пазара преди тя да бъде приведена в съответствие с тези изисквания. Освен това, когато системата представлява риск по смисъла на член 65, параграф 1, дистрибуторът уведомява за това, както е приложимо, доставчика или вносителя на системата, както и съответния национален компетентен орган.
Изменение 387
Предложение за регламент
Член 27 – параграф 4
4.  Дистрибутор, който счита или има основание да счита, че дадена високорискова система с ИИ, която е предоставил на пазара, не е в съответствие с изискванията, определени в глава 2 от настоящия дял, предприема необходимите корективни действия за привеждането ѝ в съответствие с посочените изисквания, за изтеглянето или изземването ѝ или гарантира, че съответно доставчикът, вносителят или всеки имащ отношение оператор предприема посочените корективни действия. Когато високорисковата система с ИИ представлява риск по смисъла на член 65, параграф 1, дистрибуторът незабавно уведомява националните компетентни органи на държавите членки, в които е предоставил продукта, като предоставя подробни данни, по-специално за несъответствието и за евентуалните предприети корективни действия.
 4.  Дистрибутор, който счита или има основание да счита, въз основа на информацията, с която разполага, че дадена високорискова система с ИИ, която е предоставил на пазара, не е в съответствие с изискванията, определени в глава 2 от настоящия дял, предприема необходимите корективни действия за привеждането ѝ в съответствие с посочените изисквания, за изтеглянето или изземването ѝ или гарантира, че съответно доставчикът, вносителят или всеки имащ отношение оператор предприема посочените корективни действия. Когато високорисковата система с ИИ представлява риск по смисъла на член 65, параграф 1, дистрибуторът незабавно уведомява доставчика или вносителя на системата и националните компетентни органи на държавите членки, в които е предоставил продукта, като предоставя подробни данни, по-специално за несъответствието и за евентуалните предприети корективни действия.
Изменение 388
Предложение за регламент
Член 27 – параграф 5
5.  При мотивирано искане от национален компетентен орган дистрибуторите на високорискови системи с ИИ предоставят на този орган всичката информация и документация, необходима за доказване на съответствието на високорисковата система с изискванията, определени в глава 2 от настоящия дял. Дистрибуторите си сътрудничат също така с този национален компетентен орган в евентуалните действия, предприети от него.
 5.  При мотивирано искане от национален компетентен орган дистрибуторите на високорисковите системи с ИИ предоставят на този орган всичката информация и документация, с която разполагат или до която имат достъп, в съответствие със задълженията на дистрибуторите, посочени в параграф 1, която е необходима за доказване на съответствието на високорисковата система с изискванията, определени в глава 2 от настоящия дял.
Изменение 389
Предложение за регламент
Член 27 – параграф 5а (нов)
5a.  Дистрибуторите си сътрудничат с националните компетентни органи за всяко действие, предприето от тези органи за намаляване и ограничаване на рисковете, породени от високорисковата система с ИИ.
Изменение 390
Предложение за регламент
Член 28 – заглавие
Задължения на дистрибуторите, вносителите, ползвателите и всички други трети страни
 Отговорности на доставчиците, дистрибуторите, вносителите, внедрителите или други трети страни по веригата за създаване на стойност на ИИ
Изменение 391
Предложение за регламент
Член 28 – параграф 1 – уводна част
1.  Всеки дистрибутор, вносител, ползвател или друга трета страна се счита за доставчик за целите на настоящия регламент и за обект на задълженията на доставчика съгласно член 16, в следните случаи:
 1.  Всеки дистрибутор, вносител, внедрител или друга трета страна се счита за доставчик на високорискова система с ИИ за целите на настоящия регламент и за обект на задълженията на доставчика съгласно член 16, в следните случаи:
Изменение 392
Предложение за регламент
Член 28 – параграф 1 – точка а
a)  той пуска на пазара или въвежда в експлоатация високорискова система с ИИ със своето име или търговска марка;
 a)  той поставя своето име или търговска марка върху високорискова система с ИИ, която вече е пусната на пазара или въведена в експлоатация;
Изменение 393
Предложение за регламент
Член 28 – параграф 1 – буква б
б)  той изменя предназначението на високорискова система с ИИ, която вече е пусната на пазара или въведена в експлоатация;
 б)  той въвежда съществено изменение на високорискова система за ИИ, която вече е пусната на пазара или вече е въведена в експлоатация, по начин, по който тя остава високорискова система с ИИ в съответствие с член 6;
Изменение 394
Предложение за регламент
Член 28 – параграф 1 – буква бa (нова)
ба)  той въвежда съществено изменение на система с ИИ, включително система с ИИ с общо предназначение, която не е класифицирана като високорискова и вече е била пусната на пазара или въведена в експлоатация, по такъв начин, че системата с ИИ да се превърне във високорискова система с ИИ съгласно член 6;
Изменение 395
Предложение за регламент
Член 28 – параграф 2
2.  При настъпване на обстоятелствата, посочени в параграф 1, буква б) или в),доставчикът, който първоначално е пуснал на пазара високорисковата система с ИИ или я е въвел в експлоатация, повече не се счита за доставчик за целите на настоящия регламент.
 2.  При настъпване на обстоятелствата, посочени в параграф 1, букви а) – ба),доставчикът, който първоначално е пуснал на пазара системата с ИИ или я е въвел в експлоатация, повече не се счита за доставчик на тази конкретна система с ИИ за целите на настоящия регламент. Този предишен доставчик предоставя на новия доставчик техническата документация и всички други съответни и разумно очаквани, свързани с информацията възможности на системата с ИИ, технически достъп или друга помощ според общоприетото съвременно техническо равнище, които са необходими за изпълнението на задълженията, определени в настоящия регламент.
Настоящият параграф се прилага и за доставчиците на базови модели, както са определени в член 3, когато базовият модел е пряко интегриран във високорискова система с ИИ.
Изменение 396
Предложение за регламент
Член 28 – параграф 2а (нов)
2a.  Доставчикът на високорискова система с ИИ и третата страна, която доставя инструменти, услуги, елементи или процеси, които се използват или са интегрирани във високорисковата система с ИИ, уточняват чрез писмено споразумение информацията, възможностите, техническия достъп и/ или другата помощ според общоприетото съвременно техническо равнище, която третата страна трябва да предостави, за да може доставчикът на високорисковата система с ИИ да изпълни изцяло задълженията по настоящия регламент.
Комисията разработва и препоръчва необвързващи примерни договорни условия между доставчиците на високорискови системи за ИИ и трети страни, които предоставят инструменти, услуги, елементи или процеси, използвани или интегрирани във високорискови системи за ИИ, с цел да се подпомогнат двете страни при изготвянето и договарянето на договори с балансирани договорни права и задължения, съответстващи на равнището на контрол на всяка от страните. При разработването на необвързващи примерни договорни условия Комисията взема предвид възможните договорни изисквания, приложими в конкретни сектори или бизнес случаи. Необвързващите договорни условия се публикуват и са на разположение безплатно в лесно използваем електронен формат на уебсайта на Службата по ИИ.
Изменение 397
Предложение за регламент
Член 28 – параграф 2б (нов)
2б.  За целите на настоящия член, търговски тайни се пазят и се разкриват само при условие че са взети всички предварително конкретни необходими мерки съгласно Директива (ЕС) 2016/943 за запазване на поверителността им, по-специално по отношение на трети страни. При необходимост могат да бъдат постигнати подходящи технически и организационни договорености за защита на права на интелектуална собственост или търговски тайни.
Изменение 398
Предложение за регламент
Член 28а (нов)
Член 28a
Неравноправни договорни условия, наложени едностранно на МСП или стартиращо предприятие
1.  Договорно условие, отнасящо се до доставката на инструменти, услуги, елементи или процеси, които се използват или са интегрирани във високорискова система с ИИ, или до средствата за защита при нарушение или прекратяване на свързаните с тях задължения, което е било едностранно наложено от предприятие на МСП или стартиращо предприятие, не е обвързващо за последното предприятие, ако е несправедливо.
2.  Ако дадена договорна клауза произтича от приложимото право на Съюза, тя не се счита за неравноправна.
3.  Дадено договорно условие е неравноправно, ако е от такова естество, че обективно възпрепятства възможността на страната, на която едностранно е наложено условието, да защити законния си търговски интерес по отношение на въпросната информация или използването му се отклонява драстично от добрата търговска практика при доставката на инструменти, услуги, елементи или процеси, които се използват или интегрират във високорискова система с ИИ в противоречие с добросъвестността и честната търговска практика, или създава значителен дисбаланс между правата и задълженията на страните по договора. Дадено договорно условие е неравноправно и ако води до прехвърляне на санкциите, посочени в член 71, или на свързаните с тях съдебни разходи между страните по договора, както е посочено в член 71, параграф 8.
4.  Дадено договорно условие е неравноправно по смисъла на настоящия член, ако има за цел или резултат:
a)  да изключи или ограничи отговорността на страната, която едностранно е наложила условието, при умишлени действия или груба небрежност;
б)  да изключи средствата за правна защита, с които разполага страната, на която е наложено едностранно условието, в случай на неизпълнение на договорни задължения, или отговорността на страната, която едностранно е наложила условието, в случай на нарушение на тези задължения;
в)  да предостави на страната, която едностранно е наложила условието, изключителното право да определя дали предоставената техническа документация, информация са в съответствие с договора или да тълкува някое от условията на договора.
5.  Дадено договорно условие се счита за едностранно наложено по смисъла на настоящия член, ако е било предоставено от една от страните по договора, а другата договаряща страна не е била в състояние да повлияе на съдържанието му въпреки опита да преговаря по него. Договарящата страна, която е предоставила договорно условие, носи тежестта да докаже, че това условие не е било едностранно наложено.
6.  Когато неравноправното договорно условие може да бъде отделено от останалите условия на договора, останалите условия остават обвързващи. Страната, която е предоставила спорното условие, не може да твърди, че то е неравноправно.
7.  Настоящият член се прилага за всички нови договори, влезли в сила след ... [дата на влизане в сила на настоящия регламент]. Предприятията преразглеждат съществуващите договорни задължения, които са предмет на настоящия регламент, до ... [три години след датата на влизане в сила на настоящия регламент].
8.  Предвид бързината, с която настъпват нововъведенията на пазарите, списъкът на неравноправните договорни условия в член 13 се преразглежда редовно от Комисията и при необходимост се актуализира в съответствие с новите бизнес практики.
Изменение 399
Предложение за регламент
Член 28б (нов)
Член 28б
Задължения на доставчика на базов модел
1.  Доставчикът на базов модел, преди да го предостави на пазара или да го пусне в експлоатация, гарантира, че той отговаря на изискванията, посочени в настоящия член, независимо от това дали се предоставя като самостоятелен модел или вграден в система или продукт с ИИ, или се предоставя под свободни лицензи и лицензи с отворен код, като услуга, както и по други канали за разпространение.
2.  За целите на параграф 1 доставчикът на базов модел:
a)  доказва чрез подходящо проектиране, изпитване и анализ идентифицирането, намаляването и ограничаването на разумно предвидимите рискове за здравето, безопасността, основните права, околната среда и демокрацията и принципите на правовата държава преди и по време на разработването с подходящи методи, като участието на независими експерти, както и документирането на оставащите непреодолими рискове след разработването;
б)  обработва и включва само набори от данни, които са предмет на подходящи мерки за управление на данните за базови модели, по-специално мерки за проверка на пригодността на източниците на данни, както и възможните предубедености и подходящото ограничаване;
в)  проектира и разработва базовия модел, за да постигне през целия му срок на експлоатация подходящи нива на ефективност, предсказуемост, възможност за тълкуване, коректност, безопасност и киберсигурност, оценени чрез подходящи методи, като например оценка на модела с участието на независими експерти, документиран анализ и обширно изпитване по време на концептуализацията, проектирането и разработването;
г)  проектира и разработва базовия модел, като използва приложимите стандарти за намаляване на потреблението на енергия, на ресурсите и на отпадъците, както и за повишаване на енергийната ефективност и на цялостната ефективност на системата, без да се засяга съответното съществуващо право на Съюза и национално право. Това задължение не се прилага преди публикуването на стандартите, посочени в член 40. Базовите модели се проектират с възможности за измерване и регистриране на потреблението на енергия и ресурси, а когато това е технически осъществимо – за измерване и регистриране и на други въздействия върху околната среда, които внедряването и използването на системите може да окажат през целия им жизнен цикъл;
д)  изготвя подробна техническа документация и разбираеми инструкции за употреба, за да даде възможност на доставчиците надолу по веригата да изпълняват задълженията си съгласно член 16 и член 28, параграф 1;
е)  създава система за управление на качеството, за да гарантира и документира съответствието с настоящия член с възможност за експериментиране при изпълнението на това изискване;
ж)  регистрира базовия модел в базата данни на ЕС, посочена в член 60, в съответствие с инструкциите, посочени в приложение VIII, буква В.
При изпълнението на тези изисквания се взема предвид общоприетото съвременно техническо равнище, включително отразеното в съответните хармонизирани стандарти или общи спецификации, както и най-новите методи за оценка и измерване, отразени по-специално в указанията за сравнителен анализ и възможностите, посочени в член 58а;
3.  В продължение на 10 години след като пуснат на пазара или в експлоатация базовите си модели доставчиците на базови модели съхраняват техническата документация, посочена в параграф 2, буква д), на разположение на националните компетентни органи.
4.  Доставчиците на базови модели, използвани в системи с ИИ, специално предназначени за генериране, с различна степен на автономност, на съдържание като сложен текст, изображения, аудио или видео („ИИ с общо предназначение“), а също и доставчиците, които специализират даден базов модел в система с ИИ с общо предназначение:
а)  спазват задълженията за прозрачност, посочени в член 52, параграф 1,
б)  обучават и, когато е приложимо, проектират и разработват базовия модел по такъв начин, че да се осигурят адекватни гаранции срещу генерирането на съдържание в нарушение на правото на Съюза в съответствие с общоприетото ниво на развитие и без да се засягат основните права, включително свободата на изразяване,
в)  без да се засяга законодателството на Съюза или националното законодателство в областта на авторското право, документират и правят публично достояние достатъчно подробно обобщение на използването на данните от обучението, защитени от закона за авторското право.
Изменение 400
Предложение за регламент
Член 29 – параграф 1
1.  Ползвателите на високорискови системи с ИИ използват тези системи в съответствие с инструкциите за употреба, които ги придружават съгласно параграфи 2 и 5.
 1.  Внедрителите на високорискови системи с ИИ предприемат подходящи технически и организационни мерки, за да гарантират, че използват тези системи в съответствие с инструкциите за употреба, които ги придружават съгласно параграфи 2 и 5 от настоящия член.
Изменение 401
Предложение за регламент
Член 29 – параграф 1а (нов)
1a.  До степента, в която внедрителите упражняват контрол върху високорисковата система с ИИ, те:
i)  осъществяват човешки надзор в съответствие с изискванията, изложени в настоящия регламент;
ii)  гарантират, че физическите лица, на които е възложено да гарантират човешкия надзор върху високорисковите системи с ИИ, са компетентни, притежават подходяща квалификация и са обучени по подходящ начин и разполагат с необходимите ресурси, за да се гарантира ефективният надзор на системата с ИИ в съответствие с член 14;
iii)  гарантират, че съответните и подходящи мерки за надеждност и киберсигурност редовно се наблюдават за ефективност и редовно се коригират или актуализират.
Изменение 402
Предложение за регламент
Член 29 – параграф 2
2.  Задълженията съгласно параграф 1 не засягат други задължения на ползвателите съгласно правото на Съюза или националното право и свободата на преценка на ползвателя как да организира собствените си ресурси и дейности с цел изпълнение на мерките за човешки надзор, посочени от доставчика.
 2.  Задълженията съгласно параграфи 1 и 1a не засягат други задължения на внедрителите съгласно правото на Съюза или националното право и свободата на преценка на внедрителя как да организира собствените си ресурси и дейности с цел изпълнение на мерките за човешки надзор, посочени от доставчика.
Изменение 403
Предложение за регламент
Член 29 – параграф 3
3.  Без да се засяга параграф 1 и доколкото ползвателят упражнява контрол върху входящите данни, той гарантира, че тези входящи данни са подходящи с оглед на предназначението на високорисковата система с ИИ.
 3.  Без да се засяга параграф 1 и 1а, доколкото внедрителят упражнява контрол върху входящите данни, той гарантира, че тези входящи данни са подходящи и достатъчно представителни с оглед на предназначението на високорисковата система с ИИ.
Изменение 404
Предложение за регламент
Член 29 – параграф 4 – уводна част
4.  Ползвателите следят функционирането на високорисковата система с ИИ въз основа на инструкциите за употреба. Когато имат основания да считат, че използването в съответствие с инструкциите за употреба може да доведе до това системата с ИИ да представлява риск по смисъла на член 65, параграф 1, те уведомяват доставчика или дистрибутора и спират използването на системата. Те уведомяват доставчика или дистрибутора също при констатиране на сериозен инцидент или неизправност по смисъла на член 62 и прекъсват използването на системата с ИИ. В случай че ползвателят не може да се свърже с доставчика, член 62 се прилага mutatis mutandis.
 4.  Внедрителите следят функционирането на високорисковата система с ИИ въз основа на инструкциите за употреба и, когато е необходимо, уведомяват доставчиците в съответствие с член 61. Когато имат основания да считат, че използването в съответствие с инструкциите за употреба може да доведе до това системата с ИИ да представлява риск по смисъла на член 65, параграф 1, те уведомяват без излишно забавяне доставчика или дистрибутора и съответните национални надзорни органи и спират използването на системата. Те уведомяват незабавно първо доставчика, след това вносителя или дистрибутора и съответните национални надзорни органи също при констатиране на сериозен инцидент или неизправност по смисъла на член 62 и прекъсват използването на системата с ИИ. В случай че внедрителят не може да се свърже с доставчика, член 62 се прилага mutatis mutandis.
Изменение 405
Предложение за регламент
Член 29 – параграф 4 – алинея 1
За ползватели, които са кредитни институции, по отношение на които се прилага Директива 2013/36/ЕС, задължението за мониторинг, предвидено в първа алинея, се счита за изпълнено чрез съответствието с правилата за вътрешното управление, процесите и механизмите съгласно член 74 от посочената директива.
 За внедрители, които са кредитни институции, по отношение на които се прилага Директива 2013/36/ЕС, задължението за мониторинг, предвидено в първа алинея, се счита за изпълнено чрез съответствието с правилата за вътрешното управление, процесите и механизмите съгласно член 74 от посочената директива.
Изменение 406
Предложение за регламент
Член 29 – параграф 5 – уводна част
5.  Ползвателите на високорискови системи с ИИ съхраняват записите, автоматично генерирани от техните високорискови системи с ИИ, доколкото тези записи са под техен контрол. Записите се съхраняват за срок, AI подходящ с оглед на предназначението на високорисковата система с ИИ и приложимите правни задължения съгласно правото на Съюза или националното право.
 5.  Внедрителите на високорискови системи с ИИ съхраняват записите, автоматично генерирани от техните високорискови системи с ИИ, степента, в която тези записи са под техен контрол и са необходими за гарантиране и доказване на съответствие с настоящия регламент, за последващи одити на всякакви разумно предвидими неизправности, инциденти или злоупотреби със системата или за гарантиране и наблюдение на правилното функциониране на системата през целия ѝ срок на експлоатация. Без да се засяга приложимото право на Съюза или национално право, записите се съхраняват за срок от най-малко шест месеца. Периодът на съхранение е в съответствие с промишлените стандарти и е подходящ за предназначението на високорисковата система с ИИ.
Изменение 407
Предложение за регламент
Член 29 – параграф 5 – алинея 1
Ползвателите, които са кредитни институции, по отношение на които се прилага Директива 2013/36/ЕС, поддържат записите като част от документацията относно вътрешното управление, процесите и механизмите съгласно член 74 от посочената директива.
 Внедрителите, които са кредитни институции, по отношение на които се прилага Директива 2013/36/ЕС, поддържат записите като част от документацията относно вътрешното управление, процесите и механизмите съгласно член 74 от посочената директива.
Изменение 408
Предложение за регламент
Член 29 – параграф 5а (нов)
5a.  Преди да пуснат в експлоатация високорискова система с ИИ на работното място, внедрителите се консултират с представители на работниците с оглед на постигане на споразумение в съответствие с Директива 2002/14/ЕО и информират засегнатите служители, че ще бъдат обект на системата.
Изменение 409
Предложение за регламент
Член 29 – параграф 5б (нов)
5б.  Внедрителите на високорискови системи с ИИ, които са публични органи или институции, органи, служби и агенции на Съюза, или предприятия, посочени в член 51, параграф 1а, буква б), спазват задълженията за регистрация, посочени в член 51.
Изменение 410
Предложение за регламент
Член 29 – параграф 6
6.  Ползвателите на високорискови системи с ИИ използват информацията, предоставена съгласно член 13, за да изпълняват задължението си за извършване на оценка на въздействието по отношение на защитата на данните съгласно член 35 от Регламент (ЕС) 2016/679 или член 27 от Директива (ЕС) 2016/680, където е приложимо.
 6.  Когато е приложимо, внедрителите на високорискови системи с ИИ използват информацията, предоставена съгласно член 13, за да изпълняват задължението си за извършване на оценка на въздействието по отношение на защитата на данните съгласно член 35 от Регламент (ЕС) 2016/679 или член 27 от Директива (ЕС) 2016/680, чието кратко описание се публикува, като се вземат предвид конкретната употреба и конкретните условия, в които е предвидено да функционира системата с ИИ. Внедрителите могат да се позовават частично на тези оценки на въздействието върху защитата на данните за изпълнение на някои от задълженията, посочени в настоящия член, доколкото оценките на въздействието върху защитата на данните изпълняват тези задължения.
Изменение 411
Предложение за регламент
Член 29 – параграф 6а (нов)
6a.  Без да се засяга член 52, внедрителите на високорискови системи с ИИ, посочени в приложение III, които вземат решения или подпомагат вземането на решения, свързани с физически лица, информират физическите лица, че спрямо тях се използва високорискова система с ИИ. Тази информация включва предназначението и видовете решения, които се вземат. Внедрителят уведомява също така физическите лица за правото им на обяснение, посочено в член 68в.
Изменение 412
Предложение за регламент
Член 29 – параграф 6б (нов)
6б.  Внедрителите си сътрудничат със съответните национални компетентни органи за всяко действие, предприето от тези органи във връзка с високорисковата система, за да приложат настоящия регламент.
Изменение 413
Предложение за регламент
Член 29а (нов)
Член 29a
Оценка на въздействието върху основните права за високорискови системи с ИИ
Преди да пуснат в употреба високорискова система с ИИ, както е определено в член 6, параграф 2, с изключение на системи с ИИ, предназначени да се използват в област 2 от приложение III, внедрителите извършват оценка на въздействието на системата в контекста на конкретната употреба. Оценката трябва да включва най-малко следните елементи:
a)  ясно описание на предназначението, за което ще се използва системата;
б)  ясно описание на предвидения географски и времеви обхват на използването на системата;
в)  категории физически лица и групи, които е вероятно да бъдат засегнати от използването на системата;
г)  проверка дали използването на системата е в съответствие с приложимото право на Съюза и националното право, както и с правото за основните права;
д)  разумно предвидимото въздействие върху основните права от пускането в употреба на високорисковата система с ИИ;
е)  специфичните рискове от вреда, която може да засегне маргинализирани лица или уязвими групи;
ж)  разумно предвидимото неблагоприятно въздействие на използването на системата върху околната среда;
з)  подробен план за това как ще бъдат смекчени установените вреди и отрицателното въздействие върху основните права.
й)  системата за управление, която внедрителят ще въведе, включително човешки надзор, разглеждане на жалби и правна защита.
2.  Ако не може да бъде установен подробен план за смекчаване на рисковете, посочени в хода на оценката, описана в параграф 1, внедрителят се въздържа от пускане в употреба на високорисковата система с ИИ и информира доставчика и националния надзорен орган без ненужно забавяне. Националните надзорни органи, съгласно членове 65 и 67, вземат предвид тази информация, когато разследват системи, представляващи риск на национално равнище.
3.  Задължението, описано в параграф 1, се прилага за първата употреба на високорисковата система с ИИ. В подобни случаи внедрителят може да се позове на предварително извършена оценка на въздействието върху основните права или на съществуваща оценка, извършена от доставчиците. Ако по време на използването на високорисковата система с ИИ внедрителят прецени, че критериите, изброени в параграф 1, вече не са изпълнени, той извършва нова оценка на въздействието върху основните права.
4.  В хода на оценката на въздействието внедрителят, с изключение на МСП, уведомява съответния национален надзорен орган и съответните заинтересовани страни и включва доколкото е възможно представители на лицата или групите от лица, които се очаква да бъдат засегнати от високорисковата система с ИИ, както е посочено в параграф 1, включително, но не само: органи по въпросите на равенството, агенции за защита на потребителите, социални партньори и агенции за защита на данните, с оглед получаване на принос в оценката на въздействието. Внедрителят трябва да осигури на органите срок от шест седмици, за да могат да реагират. МСП могат да приложат доброволно разпоредбите на настоящия параграф.
В случая, описан в член 47, параграф 1, публичните органи могат да бъдат освободени от тези задължения.
5.  Внедрителят, който е публичен орган или предприятие, посочено в член 51, параграф 1а, буква б), публикува кратко описание на резултатите от оценката на въздействието като част от регистрацията на употребата съгласно задължението си по член 51, параграф 2.
6.  Когато от внедрителя вече се изисква да извърши оценка на въздействието върху защитата на данните по член 35 от Регламент (ЕС) 2016/679 или член 27 от Директива (ЕС) 2016/680, оценката на въздействието върху основните права, посочена в параграф 1, се извършва заедно с оценката на въздействието върху защитата на данните. Оценката на въздействието върху защитата на данните се публикува като допълнение.
Изменение 414
Предложение за регламент
Член 30 – параграф 1
1.  Всяка държава членка определя или създава нотифициращ орган, който отговаря за въвеждането и извършването на необходимите процедури за оценяването, определянето и нотифицирането на органи за оценяване на съответствието и за провеждането на мониторинг по отношение на тях.
 1.  Всяка държава членка определя или създава нотифициращ орган, който отговаря за въвеждането и извършването на необходимите процедури за оценяването, определянето и нотифицирането на органи за оценяване на съответствието и за провеждането на мониторинг по отношение на тях. Тези процедури се разработват в сътрудничество между нотифициращите органи на всички държави членки.
Изменение 415
Предложение за регламент
Член 30 – параграф 7
7.  Нотифициращите органи разполагат с достатъчен брой компетентен персонал, необходим за правилното изпълнение на техните задачи.
 7.  Нотифициращите органи разполагат с достатъчен брой компетентен персонал, необходим за правилното изпълнение на техните задачи. Когато е приложимо, компетентният персонал притежава необходимите експертни познания, като например диплома за завършено висше образование в подходяща правна област, в областта на надзора на основните права, залегнали в Хартата на основните права на Европейския съюз.
Изменение 416
Предложение за регламент
Член 30 – параграф 8
8.  Нотифициращите органи гарантират, че оценяването на съответствието се извършва по пропорционален начин, като се избягва ненужната тежест за доставчиците и че нотифицираните органи извършват дейностите си, като надлежно отчитат размера на даденото предприятие, сектора на дейност, структурата му и степента на сложност на въпросната система с ИИ.
 8.  Нотифициращите органи гарантират, че оценяването на съответствието се извършва своевременно по пропорционален начин, като се избягва ненужната тежест за доставчиците и че нотифицираните органи извършват дейностите си, като надлежно отчитат размера на даденото предприятие, сектора на дейност, структурата му и степента на сложност на въпросната система с ИИ. Особено внимание се обръща на свеждането до минимум на административната тежест и на разходите за привеждане в съответствие за микро- и малките предприятия, както е определено в допълнението на Препоръка 2003/361/ЕО на Комисията.
Изменение 417
Предложение за регламент
Член 32 – параграф 1
1.  Нотифициращите органи могат да нотифицират само органи за оценяване на съответствието, които отговарят на изискванията, определени в член 33.
 1.  Нотифициращите органи нотифицират само органи за оценяване на съответствието, които отговарят на изискванията, определени в член 33.
Изменение 418
Предложение за регламент
Член 32 – параграф 2
2.  Нотифициращите органи нотифицират Комисията и другите държави членки, като използват инструмента за електронно нотифициране, създаден и поддържан от Комисията.
 2.  Нотифициращите органи нотифицират Комисията и другите държави членки, като използват инструмента за електронно нотифициране, създаден и поддържан от Комисията, за всеки орган за оценяване на съответствието, посочен в параграф 1.
Изменение 419
Предложение за регламент
Член 32 – параграф 3
3.  Нотифицирането включва всички подробности за дейностите по оценяване на съответствието, модула или модулите за оценяване на съответствието и съответните технологии в сферата на изкуствения интелект.
 3.  Нотифицирането, посочено в параграф 2, включва всички подробности за дейностите по оценяване на съответствието, модула или модулите за оценяване на съответствието и съответните технологии в сферата на изкуствения интелект, както и съответната атестация на компетентността.
Изменение 420
Предложение за регламент
Член 32 – параграф 4
4.  Съответният орган за оценяване на съответствието може да изпълнява дейностите на нотифициран орган само ако в срок от един месец след нотифицирането не са направени възражения от Комисията или от другите държави членки.
 4.  Съответният орган за оценяване на съответствието може да извършва дейностите на нотифициран орган само ако в срок от две седмици след валидацията на нотифицирането, когато тя включва сертификата за акредитация, посочен в член 31, параграф 2, или в срок от два месеца след нотификацията, когато тя включва документите, посочени в член 31, параграф 3, не са направени възражения от Комисията или от другите държави членки.
Изменение 421
Предложение за регламент
Член 32 – параграф 4а (нов)
4a.  Когато бъдат повдигнати възражения, Комисията незабавно започва консултации със съответните държави членки и органа за оценка на съответствието. След като разгледа въпросното мнение Комисията решава дали разрешението е обосновано или не. Комисията адресира решението си до съответната държава членка и съответния орган за оценка на съответствието.
Изменение 422
Предложение за регламент
Член 32 – параграф 4б (нов)
4б.  Държавите членки нотифицират Комисията и останалите държави членки за органите за оценяване на съответствието.
Изменение 423
Предложение за регламент
Член 33 – параграф 2
2.  Нотифицираните органи отговарят на организационните изисквания, изискванията за управление на качеството, изискванията за ресурсите и процесите, необходими за изпълнението на техните задачи.
 2.  Нотифицираните органи отговарят на организационните изисквания, изискванията за управление на качеството, изискванията за ресурсите и процесите, необходими за изпълнението на техните задачи, както и на минималните изисквания за киберсигурност, предвидени за субекти на публичната администрация, определени като оператори на основни услуги съгласно Директива (ЕС) 2022/2555.
Изменение 424
Предложение за регламент
Член 33 – параграф 4
4.  Нотифицираните органи са независими от доставчика на дадена високорискова система с ИИ, по отношение на която извършват дейности по оценяване на съответствието. Нотифицираните органи са независими също така от всеки друг оператор, който има икономически интерес от високорисковата система с ИИ, която се оценява, както и от евентуални конкуренти на доставчика.
 4.  Нотифицираните органи са независими от доставчика на дадена високорискова система с ИИ, по отношение на която извършват дейности по оценяване на съответствието. Нотифицираните органи са независими също така от всеки друг оператор, който има икономически интерес от високорисковата система с ИИ, която се оценява, както и от евентуални конкуренти на доставчика. Това не изключва употребата на оценени системи с ИИ, които са необходими за дейностите на органа за оценяване на съответствието, или употребата на такива системи за собствени цели.
Изменение 425
Предложение за регламент
Член 33 – параграф 4а (нов)
4a.  Оценката на съответствието съгласно параграф 1 се извършва от служители на нотифицираните органи, които не са предоставяли никакви други услуги, свързани с оценявания въпрос, освен оценката на съответствието, на доставчика на високорискова система с ИИ, нито на юридическо лице, свързано с този доставчик, през 12-месечния период преди оценката, и са поели ангажимент да не им предоставят такива услуги през 12-месечния период след приключване на оценката.
Изменение 426
Предложение за регламент
Член 33 – параграф 6
6.  Нотифицираните органи имат документирани процедури, които гарантират, че техният персонал, комитети, поделения, подизпълнители или друг свързан орган или персонал на външни органи спазват поверителността на информацията, получена при изпълнението на дейностите по оценяване на съответствието, освен когато нейното разгласяване се изисква по закон. Персоналът на нотифицираните органи е длъжен да пази служебна тайна по отношение на информацията, получена при изпълнение на задачите по настоящия регламент, освен по отношение на нотифициращите органи на държавата членка, в която осъществява дейността си.
 6.  Нотифицираните органи имат документирани процедури, които гарантират, че техният персонал, комитети, поделения, подизпълнители или друг свързан орган или персонал на външни органи спазват поверителността на информацията, получена при изпълнението на дейностите по оценяване на съответствието, освен когато нейното разгласяване се изисква по закон. Персоналът на нотифицираните органи е длъжен да пази служебна тайна по отношение на информацията, получена при изпълнение на задачите по настоящия регламент, освен по отношение на нотифициращите органи на държавата членка, в която осъществява дейността си. Всяка информация и документация, получени от нотифицираните органи съгласно разпоредбите на настоящия член, се третират в съответствие със задълженията за поверителност, посочени в член 70.
Изменение 427
Предложение за регламент
Член 34 – параграф 3
3.  Дейностите могат да бъдат възлагани на подизпълнители или изпълнявани от поделения само със съгласието на доставчика.
 3.  Дейностите могат да бъдат възлагани на подизпълнители или изпълнявани от поделения само със съгласието на доставчика. Нотифицираните органи оповестяват публично списък на своите поделения.
Изменение 428
Предложение за регламент
Член 34 – параграф 4
4.  Нотифицираните органи съхраняват на разположение на нотифициращия орган съответните документи относно оценката на квалификацията на подизпълнителя или на поделението и работата, извършена от тях съгласно настоящия регламент.
 4.  Нотифицираните органи съхраняват на разположение на нотифициращия орган съответните документи относно проверката на квалификацията на подизпълнителя или на поделението и работата, извършена от тях съгласно настоящия регламент.
Изменение 429
Предложение за регламент
Член 35 – заглавие
Идентификационни номера и списъци на нотифицираните органи, определени съгласно настоящия регламент
 Идентификационни номера и списъци на нотифицираните органи
Изменение 430
Предложение за регламент
Член 36 – параграф 1
1.  Когато нотифициращ орган подозира или е бил информиран, че нотифициран орган вече не отговаря на изискванията, определени в член 33, или че не изпълнява задълженията си, нотифициращият орган незабавно проучва въпроса възможно най-задълбочено. В тази връзка той уведомява съответния нотифициран орган за повдигнатите възражения и му дава възможност да изрази становището си. Ако нотифициращият орган стигне до заключението, че нотифицираният орган, обект на проучването, вече не отговаря на изискванията, определени в член 33, или че не изпълнява задълженията си, нотифициращият орган ограничава обхвата, спира действието или отменя нотификацията според случая, в зависимост от това колко съществени са пропуските. Той също така незабавно информира за това Комисията и другите държави членки.
 1.  Когато нотифициращ орган подозира или е бил информиран, че нотифициран орган вече не отговаря на изискванията, определени в член 33, или че не изпълнява задълженията си, нотифициращият орган незабавно проучва въпроса възможно най-задълбочено. В тази връзка той уведомява съответния нотифициран орган за повдигнатите възражения и му дава възможност да изрази становището си. Ако нотифициращият орган стигне до заключението, че нотифицираният орган вече не отговаря на изискванията, определени в член 33, или че не изпълнява задълженията си, нотифициращият орган ограничава обхвата, спира действието или отменя нотификацията според случая, в зависимост от това колко съществени са пропуските. Той също така незабавно информира за това Комисията и другите държави членки.
Изменение 431
Предложение за регламент
Член 36 – параграф 2
2.  В случай на ограничаване на обхвата, спиране на действието или оттегляне на нотификацията или в случай, че нотифицираният орган преустанови дейността си, нотифициращият орган предприема подходящи стъпки, за да гарантира, че досиетата на този нотифициран орган се поемат от друг нотифициран орган или се съхраняват на разположение на отговорните нотифициращи органи при искане от тяхна страна.
 2.  В случай на ограничаване на обхвата, спиране на действието или оттегляне на нотификацията или в случай, че нотифицираният орган преустанови дейността си, нотифициращият орган предприема подходящи стъпки, за да гарантира, че досиетата на този нотифициран орган се поемат от друг нотифициран орган или се съхраняват на разположение на отговорните нотифициращи органи и орган за надзор на пазара при искане от тяхна страна.
Изменение 432
Предложение за регламент
Член 37 – параграф 1
1.  Когато това е необходимо, Комисията проучва всички случаи, при които има основания да се подозира съответствието на даден нотифициран орган с изискванията, определени в член 33.
 1.  Когато това е необходимо, Комисията проучва всички случаи, при които има основания да се подозира компетентността на даден нотифициран орган или в непрекъснатото изпълнение от страна на нотифицирания орган с приложимите изисквания и отговорности.
Изменение 433
Предложение за регламент
Член 37 – параграф 2
2.  Нотифициращият орган предоставя на Комисията, при искане от нейна страна, всичката информация, имаща отношение към нотификацията на съответния нотифициран орган.
 2.  Нотифициращият орган предоставя на Комисията, при искане от нейна страна, всичката информация, имаща отношение към нотификацията или поддържането на компетентността на съответния нотифициран орган.
Изменение 434
Предложение за регламент
Член 37 – параграф 3
3.  Комисията гарантира, че всичката поверителна информация, получена в хода на проучването съгласно настоящия член, се третира като такава.
 3.  Комисията гарантира, че всичката чувствителна информация, получена в хода на проучването съгласно настоящия член, се третира като такава.
Изменение 435
Предложение за регламент
Член 37 – параграф 4
4.  Когато Комисията констатира, че нотифициран орган не отговаря или вече не отговаря на изискванията, определени в член 33, тя приема мотивирано решение, с което от нотифициращата държава членка се изисква да предприеме необходимите корективни мерки, включително, ако е необходимо, оттегляне на нотификацията. Този акт за изпълнение се приема в съответствие с процедурата по разглеждане, посочена в член 74, параграф 2.
 4.  Когато Комисията констатира, че нотифициран орган не отговаря или вече не отговаря на изискванията за нотифицирането му, тя информира нотифициращата държава членка и изисква от нея да предприеме необходимите корективни мерки, включително, ако е необходимо, спиране на действието или оттегляне на нотификацията. Когато държавата членка не предприеме необходимите коригиращи мерки, чрез акт за изпълнение Комисията може да спре действието на акта за определяне, да го ограничи или да го отмени. Този акт за изпълнение се приема в съответствие с процедурата по разглеждане, посочена в член 74, параграф 2.
Изменение 436
Предложение за регламент
Член 38 – параграф 2а (нов)
2a.  Комисията осигурява обмена на знания и най-добри практики между националните органи на държавите членки, които отговарят за политиката в областта на нотифицирането.
Изменение 437
Предложение за регламент
Член 40 – параграф 1
Счита се, че високорисковите системи с ИИ, които съответстват на хармонизирани стандарти, данните за които са били публикувани в Официален вестник на Европейския съюз, или на части от тях, съответстват на посочените в глава 2 от настоящия дял изисквания, доколкото те са обхванати от тези стандарти.
 Счита се, че високорисковите системи с ИИ и базовите модели , които съответстват на хармонизирани стандарти, данните за които са били публикувани в Официален вестник на Европейския съюз в съответствие с Регламент (ЕС) 1025/2012, или на части от тях, съответстват на посочените в глава 2 от настоящия дял или член 28б изисквания, доколкото те са обхванати от тези стандарти.
Изменение 438
Предложение за регламент
Член 40 – параграф 1а (нов)
Комисията издава искания за стандартизация, обхващащи всички изисквания на настоящия регламент в съответствие с член 10 от Регламент (ЕС) № 1025/2012, до ... [два месеца след датата на влизане в сила на настоящия регламент]. При изготвянето на искане за стандартизация Комисията се консултира със Службата по ИИ и Консултативния форум.
Изменение 439
Предложение за регламент
Член 40 - параграф 1б (нов)
Когато отправя искане за стандартизация до европейските организации по стандартизация, Комисията уточнява, че стандартите трябва да бъдат съгласувани и със секторното право, посочено в приложени II и да имат за цел да се гарантира, че системите с ИИ или базовите модели, пуснати на пазара или в експлоатация в Съюза, отговарят на съответните изисквания, определени в настоящия регламент.
Изменение 440
Предложение за регламент
Член 40 - параграф 1в (нов)
Участниците в процеса на стандартизация вземат предвид общите принципи за надежден ИИ, посочени в член 4, буква а), стремят се да насърчават инвестициите и иновациите в областта на ИИ, както и конкурентоспособността и растежа на пазара на Съюза, допринасят за укрепване на глобалното сътрудничество в областта на стандартизацията и вземат предвид съществуващите международни стандарти в областта на ИИ, които са в съответствие с ценностите, основните права и интереси на Съюза, и осигуряват балансирано представяне на интересите и ефективно участие на всички заинтересовани страни в съответствие с членове 5, 6 и 7 от Регламент (ЕС) № 1025/2012.
Изменение 441
Предложение за регламент
Член 41 – параграф 1
1.  Когато не съществуват хармонизирани стандарти, като посочените в член 40, или когато Комисията прецени, че съответните хармонизирани стандарти са недостатъчни или че е необходимо да бъдат разгледани конкретни въпроси, които пораждат опасения във връзка с безопасността или основните права, чрез актове за изпълнение Комисията може да приема общи спецификации по отношение на изискванията, установени в глава 2 от настоящия дял. Тези актове за изпълнение се приемат в съответствие с процедурата по разглеждане, посочена в член 74, параграф 2.
 заличава се
Изменение 442
Предложение за регламент
Член 41 – параграф 1а (нов)
1a.  Чрез акт за изпълнение, приет в съответствие с процедурата по разглеждане, посочена в член 74, параграф 2, и след консултация със Службата по ИИ и Консултативния форум за ИИ, Комисията може да приеме общи спецификации по отношение на изискванията, посочени в глава 2 от настоящия дял или в член 28б, когато са изпълнени всички изброени по-долу условия:
a)  няма позоваване на хармонизирани стандарти, които вече са публикувани в Официален вестник на Европейския съюз и са свързани със същественото(ите) изискване(я), освен ако въпросният хармонизиран стандарт не е съществуващ стандарт, който трябва да бъде преразгледан;
б)  Комисията е поискала една или повече европейски организации по стандартизация да изготвят хармонизиран стандарт за съществените изисквания, посочени в глава 2;
в)  посоченото в буква б) искане не е прието от нито една от европейските организации за стандартизация или има излишно забавяне при установяването на подходящ хармонизиран стандарт, или предоставеният стандарт не отговаря на изискванията на съответното право на Съюза, или не е в съответствие с искането на Комисията.
Изменение 443
Предложение за регламент
Член 41 - параграф 1б (нов)
1б.  Когато Комисията счита, че е необходимо да се обърне внимание на специфични опасения, свързани с основните права, общите спецификации, приети от Комисията в съответствие с параграф 1а, се отнасят и до тези специфични опасения, свързани с основните права.
Изменение 444
Предложение за регламент
Член 41 - параграф 1в (нов)
1в.  Комисията разработва общи спецификации за методологията за изпълнение на изискването за докладване и документиране на потреблението на енергия и ресурси по време на разработването, обучението и внедряването на високорисковата система с ИИ.
Изменение 445
Предложение за регламент
Член 41 – параграф 2
2.  При изготвянето на общите спецификации, посочени в параграф 1, Комисията събира становищата на съответните органи или експертни групи, създадени съгласно приложимото секторно право на Съюза.
 2.  По време на целия процес на изготвяне на общите спецификации, посочени в параграфи 1а и 1б, Комисията редовно се консултира със Службата по ИИ и с Консултативния форум, с европейските организации по стандартизация и с органите или експертните групи, създадени съгласно приложимото секторно право на Съюза, както и с други заинтересовани страни. Комисията изпълнява целите, посочени в член 40, параграф 1в, и надлежно обосновава защо е решила да прибегне до общи спецификации.
Когато Комисията възнамерява да приеме общи спецификации в съответствие с параграф 1а от настоящия член, тя също така ясно определя конкретното опасение, свързано с основните права, което трябва да бъде разгледано.
Когато приема общи спецификации съгласно параграфи 1а и 1б от настоящия член, Комисията взема предвид становището, издадено от Службата по ИИ, посочена в член 56д, буква б) от настоящия регламент. Когато Комисията реши да не се съобрази със становището на Службата по ИИ, тя предоставя мотивирано обяснение на Службата по ИИ.
Изменение 446
Предложение за регламент
Член 41 – параграф 3
3.  Високорисковите системи с ИИ, които отговарят на общите спецификации, посочени в параграф 1, се считат за съответстващи на изискванията, определени в глава 2 от настоящия дял, доколкото тези общи спецификации обхващат посочените изисквания.
 3.  Високорисковите системи с ИИ, които отговарят на общите спецификации, посочени в параграфи 1а и 1б, се считат за съответстващи на изискванията, определени в глава 2 от настоящия дял, доколкото тези общи спецификации обхващат посочените изисквания.
Изменение 447
Предложение за регламент
Член 41 – параграф 3а (нов)
3а.  Когато хармонизиран стандарт е приет от европейска организация за стандартизация и на Комисията е предложено да публикува данните за него в Официален вестник на Европейския съюз, Комисията оценява хармонизирания стандарт в съответствие с Регламент (ЕС) № 1025/2012. Когато в Официален вестник на Европейския съюз се публикуват данните за хармонизиран стандарт, Комисията отменя актовете, посочени в параграфи 1 и 1б, или части от тях, които обхващат същите изисквания, посочени в глава 2 от настоящия дял.
Изменение 448
Предложение за регламент
Член 41 – параграф 4
4.  Когато доставчиците не спазват общите спецификации, посочени в параграф 1, те надлежно доказват, че са приели технически решения, които са най-малко еквивалентни на тях.
 4.  Когато доставчиците на високорискови системи с ИИ не спазват общите спецификации, посочени в параграф 1, те надлежно доказват, че са приели технически решения, които отговарят на изискванията, посочени в глава 2, до ниво, което е най-малко еквивалентно на тях.
Изменение 449
Предложение за регламент
Член 42 – параграф 1
1.  Като се има предвид тяхното предназначение, се приема, че високорисковите системи с ИИ отговарят на изискването по член 10, параграф 4, когато са били обучени и изпитани въз основа на данни, свързани със специфичните географски, поведенчески или функционални условия, в които е предвидено те да бъдат и