Acta literal de los debates

Miércoles 5 de octubre de 2022 - Estrasburgo

14. Escándalo en las prestaciones por cuidado de hijos en los Países Bajos, racismo institucional y algoritmos (debate)

  Predsedajúci. – Ďalším bodom programu je otázka na ústne zodpovedanie Komisii Holandský škandál s príspevkom na starostlivosť o dieťa, inštitucionálny rasizmus a algoritmy (O-000028/2022 - B9-0025/22).

  Samira Rafaela, Auteur. – Voorzitter, “Kijk!” zegt mijn vriendin, en ze laat mij dit certificaat zien. Er staat: “U bent geen fraudeur” en er worden excuses aangeboden. Haar dromen heeft ze moeten bijstellen, omdat ze in gevecht raakte met een systeem dat haar menselijke waardigheid ontnam. En nu een certificaat, maar het herstelproces loopt vast. Ik ben opgelucht dat we nu eindelijk de impact van de toeslagenaffaire bespreken hier.

Commissaris, ik weet dat u zich ongemakkelijk gaat voelen bij de vragen die ik nu ga presenteren, maar ik vraag u vanuit uw Europese zorgplicht een waardig antwoord te geven. Wat heeft de Commissie gedaan aan deze duidelijke schending van de grondrechten van EU-burgers die het inleiden van de inbreukprocedure rechtvaardigen? Hoe heeft de Commissie deze kwestie aangepakt, gezien het EU-actieplan voor racismebestrijding en aangezien zij structureel racisme erkent? Hoe zal de Commissie toezicht houden op het proces van schadevergoeding en juridische bijstand voor de slachtoffers? Nu weet ik dat de Commissie wellicht zal stellen dat dit de competentie van de lidstaat is, maar deze wijze van het schenden van fundamentele rechten raakt ook het internationale recht, vooral gezien het feit dat de Nederlandse Belastingdienst zich niet aan wetten hield. Hoe past dit in een rechtsstaat en hoe kan dat zonder consequenties blijven, commissaris?

De Belastingdienst van Nederland maakte gebruik van algoritmes als onderdeel van risicoprofilering om fraude te detecteren. Maar dit systeem sloeg door. Tienduizenden ouders verloren hun werk, eigendommen en toekomstperspectief en belandden in de schulden. En die ouders werd de mogelijkheid ontnomen om volwaardige en toegewijde zorg te geven aan hun kinderen. Duizenden kinderen. Hier moeten we Europa bewust van maken. Als systemen het overnemen, is de menselijke maat verloren. Het algoritme koos vooral ouders met een niet-westerse achtergrond. Dit is institutioneel racisme en is voor een deel ook volmondig door de Nederlandse regering erkend. Daarom roep ik op tot een moratorium op het gebruik van deze wijze van profileren.

Commissaris, zorg ervoor dat deze praktijk per direct stopt, want anders kan ik u garanderen dat de Nederlandse toeslagenaffaire niet op zichzelf staat in Europa. Neem dus uw verantwoordelijkheid hierin, voor een nieuwe generatie in Europa.

  Helena Dalli, Member of the Commission. – Mr President, honourable Members, discrimination on the grounds of racial or ethnic origin is prohibited in the European Union. Yet the European Agency for Fundamental Rights’ second EU minorities and discrimination survey indicates that one in four respondents felt discriminated against because of their minority racial or ethnic background. To address this, in September 2020, the Commission adopted a new anti-racism action plan. This action plan includes concrete measures to prevent and tackle racial discrimination, enforce EU equality legislation and improve data collection.

Importantly, the anti-racism action plan acknowledges the structural dimension of racial discrimination. Racism is indeed not only perpetrated by individuals, but can also be perpetrated by society’s institutions. Structural racism can be embedded in social, financial and political structures and processes, affecting the levers of power and policymaking. We must therefore prevent racism through legislative means, as well as policy measures, addressing social attitudes, stereotypes and economic concerns.

Following the EU anti-racism action plan, Member States are invited to develop national action plans against racism and racial discrimination by the end of this year. A group of anti-racism experts nominated by Member States has already drafted the guiding principles for national action plans against racism and racial discrimination with the support of the EU Agency for Fundamental Rights. This development is important, as the guidelines elaborate ways in which anti-racism measures can be implemented successfully in different areas of life.

The next task of the subgroup includes drafting a monitoring checklist for the implementation of the Common Guiding Principles, as well as the creation of a compendium of good practices by the end of this year.

A workshop on structural racism with the participation of national anti-racism experts is planned for this coming November. It will deliver a conclusions paper on structural racism, including recommendations for national authorities. Moreover, the report on the application of the Racial Equality Directive of March 2021 concluded that Member States must provide greater attention to the implementation of the directive in relation to protection against victimisation and the application of effective, proportionate and dissuasive sanctions. National equality bodies across Europe are essential for ensuring that individuals and groups facing discrimination can enjoy their rights in full.

We are currently preparing new legislation to strengthen equality bodies, to be presented before the end of this year. The new standards will cover, amongst others, the equality bodies’ mandate, their powers, independence and their resources.

The events that happened in the Netherlands, and any institutional racism or discrimination by the Dutch authorities in this context should be pursued in national courts and before the national authorities which are competent to assess all facts and circumstances, considering domestic law, including national legislation transposing EU law. The scandal revealed the risk of ethnic profiling following the gathering, storing and use of data on personal characteristics and background.

Therefore, it is critical that such data is protected against misuse and is used exclusively for equality outcomes with fundamental rights and data protection legislation informing the process of its gathering and storing.

The Commission services understand from the exchanges and from the information received that the racial profiling in question has ceased and that national reflection is currently ongoing. We understand that the investigations are also ongoing and compensation is being granted. However, the Commission will continue to monitor the development of the Dutch childcare benefit scandal closely.

The issue has been raised in the rule of law report of both 2021 and 2022. And in the 2022 edition the Commission recommended to continue efforts to ensure a comprehensive follow—up to the childcare allowances affair to address the potential structural issues involving all relevant state authorities.

Following the adoption of the EU anti-racism action plan, the Netherlands appointed a national coordinator on anti-racism and non-discrimination in October 2021. I hope that this appointment, as well as the preparation of the Dutch action plan against racism and racial discrimination, will step up efforts in the fight against any institutional racism in the Netherlands, not least with regard to the gathering, storing and use of personal data.

  Peter Pollák, za skupinu PPE. – Vážený pán predsedajúci, v časoch pandémie, ktorá najviac postihla práve zraniteľné skupiny, akými sú deti najmä zo sociálne slabších rodín, holandské daňové úrady neprávom obvinili rodičov s takzvaným rizikovým profilom z neoprávneného poberania prídavkov na deti. Nešlo o malý počet ľudí, ale o 20 tisíc nespravodlivo obvinených rodičov, ktorí sa vinou bezohľadného a nezodpovedného prístupu zo strany štátu dostali na pokraj bankrotu. Vážení priatelia, bol to inštitucionálny rasizmus. Áno, vážení kolegovia. Škandál v Holandsku je porušením právneho štátu a inštitucionálnym rasizmom. Čo však mňa osobne zaráža, inštitucionálny rasizmus v dnešnej dobe nemusí mať žiadne spoločenské ani politické dôsledky. Príkladom toho je práve tento prípad. Napríklad v mojej krajine na Slovensku sa napriek mnohým upozorneniam a medializácii stretávam s prípadmi, kde sú rómske deti neoprávnene zaraďované do tzv. špeciálnych škôl, resp. škôl pre mentálne postihnutých, a to napriek tomu, že sú zdravé. Áno, rovnako ide o inštutucionálny rasizmus. Nestačí, vážení priatelia, len konštatovať, ale treba naozaj v týchto prípadoch konať. Preto vyzývam v podstate Európsku komisiu, ale aj členské štáty, aby sme urýchlene našli dostatok prostriedkov, aby sa obdobné prípady nikdy nemohli opakovať. Obeťami sú nevinní ľudia, ktorí len vďaka farbe pleti a príslušnosti k nejakej etnickej menšine trpia kvôli tomu, že niekomu sa nepáči, že sú inej farby pleti alebo iní ako majoritní obyvatelia.

  Agnes Jongerius, namens de S&D-Fractie. – Voorzitter, verscheurde gezinnen en uit huis geplaatste kinderen. Er zijn meer dan 25 000 slachtoffers en de teller loopt nog steeds op. “Zo hadden we het niet bedoeld” heet een boek over het toeslagenschandaal, maar eigenlijk blijkt uit alles dat dit precies was wat bedoeld was. Terwijl we weten dat de rechtsstaat er is om de zwakkeren te beschermen, niet om wantrouwen te voeden. Terwijl we vinden dat er voor racisme geen enkele ruimte mag zijn. We moeten daar altijd tegen opstaan – ik zal daar altijd tegen opstaan. Maar de oorzaak van dit schandaal is duidelijk: het gaat over discriminatie op basis van nationaliteit. We mogen deze ongemakkelijke waarheid niet onder het tapijt schuiven. Daarom, mevrouw de commissaris, denk ik dat u ook op Europees niveau meer kan doen dan dat er nu gebeurt.

Mijn eerste vraag is: bent u het met mij eens dat we het gebruik door overheden van algoritmes die de dubbele nationaliteit verwerken, moeten verbieden? Dat kan bijvoorbeeld via de Europese AI-verordening waar op dit moment aan gewerkt wordt. Het lijkt mij iets waar de commissaris een uitspraak over zou kunnen doen.

Ten tweede: de compensatie laat nog veel te lang op zich wachten voor heel veel slachtoffers. Wat deze ouders en kinderen is overkomen, is ook in strijd met punt 11 van de Europese pijler van sociale rechten. Het is mooi dat het toeslagenschandaal genoemd wordt in het rechtsstaatverslag, maar ik zou willen dat u zich ook uitspreekt voor snellere compensatie voor ouders en kinderen, nu.

  Salima Yenbou, au nom du groupe Renew. – Monsieur le Président, deux points. Premièrement, le racisme, ce fléau laissé à l'exploitation des extrêmes droites. En septembre 2021, la Commission a dévoilé un plan d'action pour lutter contre le racisme. On a vu le plan, pas les actions. Madame Dalli, c'est pour quand les vraies actions? Deuxièmement, le racisme institutionnel et systématique causé ou renforcé par des algorithmes et le profilage ethnique. J'ai alerté avec des collègues, en vain, sur ces risques. La dignité humaine est-telle ce que nous sacrifions sur l'autel du progrès technologique?

Aux Pays-Bas, nos craintes et votre inaction se sont concrétisées. Un profilage ethnique basé sur les noms d'origine étrangère a provoqué de fausses accusations de fraude aux allocations familiales contre des milliers de familles qui se sont endettées, sont tombées dans la pauvreté ou ont perdu leur emploi, leur maison, sans compter les 1 000 enfants retirés à leur famille.

Que va faire la Commission pour que les Pays-Bas réparent vite ce qui peut l'être encore et compensent l'irréparable et que ça ne se reproduise plus? Je demande ici simplement le respect de l'état de droit en Europe pour tous, indépendamment de l'origine de leur nom, la couleur de leur peau ou leur croyance affichée ou supposée.

  Kim Van Sparrentak, namens de Verts/ALE-Fractie. – Voorzitter, algoritmen doen precies wat ze moeten doen, en dat is gevaarlijk. Stel je voor: een belastingdienst krijgt van de regering de opdracht om fraude keihard aan te pakken en dit moet zo efficiënt mogelijk door middel van automatisering. Volgens de belastingdienst is het het meest efficiënt om mensen met een laag inkomen of migratieachtergrond aan te pakken. Op basis daarvan besluit de dienst zo’n algoritme te bouwen. En dit algoritme doet precies wat het moet doen. Het vindt zogenaamde fraudeurs, met name met een migratieachtergrond of een laag inkomen.

Zo verwoestte de Nederlandse regering de levens van 70 000 kinderen en hun ouders. Niemand kon hun ouders uitleggen wat er aan de hand was of waarom er bepaalde beslissingen gemaakt werden. Ambtenaren volgden blind de computers, want algoritmen zullen wel gelijk hebben.

Een belangrijke les uit het toeslagenschandaal is dat digitalisering zonder normen en regels levensverwoestende gevolgen kan hebben. Gelukkig zien wij dit in Europa in. Met de eerste AI-wet ter wereld wil ik ervoor zorgen dat er nooit meer een nieuwe toeslagenaffaire kan gebeuren, maar dan moeten we wel door durven pakken.

Als onderhandelaar voor de AI-verordening zet ik me in voor het versterken van mensenrechten bij het gebruik van algoritmen. We moeten het gebruik van algoritmen om mensen aan te merken als crimineel of fraudeur op basis van hun persoonsgegevens verbieden. We moeten ervoor zorgen dat systemen niet discrimineren. We moeten een mensenrechtentoets invoeren, zodat er verplicht gekeken moet worden naar hoe we algoritmen inzetten. Mensen verdienen transparantie en de systemen moeten zo ontworpen worden dat we kunnen zien wat er misgaat. En mensen mogen nooit, nooit meer met lege handen staan tegenover een computer, met een sterk recht op uitleg en verplicht menselijk toezicht. Laten we uit dit vreselijke schandaal lessen trekken en nu met ambitieuze regels ingrijpen.

  Patricia Chagnon, au nom du groupe ID. – Monsieur le Président, Madame la Commissaire, chers collègues, une fois encore le gouvernement d’un État membre de l’Union européenne est au cœur d’un scandale. La prise illégale d’intérêts semble devenue pratique courante chez une vaste caste des dirigeants politiques qui se croient au-dessus des lois et investis par une idéologie quasi religieuse.

Le mépris des peuples s’accentue, en parallèle. Les hommes sont réduits à être des variables interchangeables de production et de consommation. Alors que l’Union est si prompte à critiquer, voire à condamner les récalcitrants à son idéologie «immigrationniste» ou de son impérialisme «woke». Bizarrement, quand cela concerne l’un des siens, un silence assourdissant règne dans les couloirs et les salles de presse de ces pompeuses institutions.

Quand les droits fondamentaux sont interprétés selon la qualité des personnes, quand la fonction des institutions élues et des représentants légitimes des peuples se limite à commenter les décisions prises dans des bureaux feutrés aux portes insonorisées, la démocratie est menacée.

Les peuples ne sont pas dupes de cette démocratie de façade. La Hongrie, la Suède, l’Italie: autant d’exemples récents, autour de nous, de peuples qui ont entamé le sursaut démocratique contre la caste impérialiste bruxelloise et leurs représentants complices dans les parlements nationaux.

L’Europe de demain sera l’Europe des peuples libres et des nations souveraines. Nous sommes en train de vivre le changement de cette époque, si enthousiasmant qu’aucune tentation totalitaire ne saurait l’arrêter.

  Michiel Hoogeveen, namens de ECR-Fractie. – Voorzitter, in het Europees Parlement gaat het regelmatig over rule of law, het functioneren van de rechtsstaat. Volgens zelfverklaard EU-bekeerling en VVD-premier Mark Rutte is de EU niet alleen een markt, maar ook een waardengemeenschap. De premier staat met zijn kritiek op Polen en Hongarije dan ook vaak vooraan. Maar vandaag gaat het over zijn rechtsstaat, over Nederland, over de toeslagenaffaire. Wij van JA21 feliciteren D66 als regeringspartij en de Partij van de Arbeid als verantwoordelijk oud-regeringspartij dat zij het in het Europees Parlement aandurven om hun eigen bewindvoerders en partijgenoten op hun verantwoordelijkheid aan te spreken.

De toeslagenaffaire is een schandvlek in de geschiedenis van de Nederlandse rechtsstaat. Op een kafkaëske wijze zijn Nederlandse gezinnen door de eigen Belastingdienst financieel kapotgemaakt. En het erge is: al in 2017 werd dit binnen de Belastingdienst opgemerkt. En na lang ontkennen werd duidelijk dat topambtenaren op het ministerie al lang van deze misstanden wisten. In plaats van te kiezen voor openheid, koos de Nederlandse overheid ervoor om deze zaak te doen verdwijnen in de doofpot.

Premier Rutte neemt graag andere EU-lidstaten de maat over het functioneren van hun rechtsstaat. In plaats van de splinter in het oog van andere landen te zien, kan hij beter kijken naar de balk in het oog van hemzelf.

  Anja Hazekamp, namens de The Left-Fractie. – Voorzitter, een kerntaak van de overheid is het beschermen van het individu tegen de macht van de meerderheid. De Nederlandse overheid heeft daarin gefaald. Dat is hartverscheurend voor al die duizenden ouders en kinderen die geconfronteerd werden met zware financiële en emotionele schade. Het resulteert er ook in dat burgers de overheid niet meer vertrouwen.

Dit vertrouwen kan alleen terugkeren wanneer de overheid haar eigen fouten erkent en de gevolgen van deze fouten ruimhartig en snel herstelt. Maar dat gaat over meer dan schadeherstel. De overheid moet ook de principes van restorative justice toepassen. Dat betekent: het daderschap erkennen en voelen wat je hebt aangericht. Pas dan kan gezamenlijk en in gelijkwaardigheid met de slachtoffers aan herstel worden gewerkt.

Dit hele schandaal is het gevolg van een verzakelijkte neoliberale overheid die zichzelf kapot heeft bezuinigd. Het resultaat was een ambtelijk apparaat dat moest bezuinigen en tegelijkertijd zwaar moest focussen op de aanpak van fraude. Het is ook het gevolg van de “metaversering” van deze overheid. Het overal toepassen van algoritmes en kunstmatige intelligentie brengt grote risico’s met zich mee. Computers passen geen mensenrechten toe. Zij nemen het institutioneel racisme, dat helaas nog sterk aanwezig is in Europa, gewoon over in hun algoritmes.

Ik wil graag weten: wat gaat de Commissie met deze belangrijke lessen doen? Hoe voorkomt zij een toeslagenaffaire in haar eigen huis? Want ik zie daar geen enkele waarborg voor.

  Stanislav Polčák (PPE). – Pane předsedající, nizozemská vláda poprvé v květnu letošního roku veřejně přiznala, že hlavní příčinou skandálu s přídavky na děti byl právě institucionální rasismus. A v důsledku skandálu podala nizozemská vláda demisi. Nizozemská daňová a celní správa sestavovala rizikové profily osob žádajících o přídavky na děti pomocí algoritmů na cize znějící jména a dvojí občanství. A tato praxe vedla k tomu, že byly tisíce rodin s nízkými a středními příjmy podrobeny kontrole, neprávem obviněny z podvodu a vyzvány, aby vrátily zcela zákonně získané přídavky. Já chápu boj proti podvodům, proti neoprávněnému čerpání a zneužívání sociálního systému, ale aby se v 21. století používaly algoritmy, které vedou k rasovému profilování, to je zcela nepřijatelná praxe.

Jsem rád za vystoupení paní komisařky v této věci. Jednoznačné volání po odškodnění obětí je nepochybné. Myslím si, že by bylo dobré, aby paní komisařka ještě přesně řekla, jak hodlá monitorovat Komise proces odškodnění a zjednání nápravy v případě občanů, kteří na skandálu s přídavky utrpěli konkrétní újmu. A je důležité sdělit rovněž, že za posledních šest let bylo sociálními pracovníky odebráno z domova 1 675 dětí. To představuje nárůst o 520 dětí a doposud se 555 dětí na konci loňského roku ještě nevrátilo, jsou nadále v náhradní ústavní péči. Takový skandál je ve 21. století skutečně nepřijatelný.

  Evin Incir (S&D). – Mr President, this was racism embodied – racist when it goes from words to actions not by one person or a group, but structural and institutionalised. The Dutch childcare benefit scandal is a frightening example that reveals deep—rooted prejudice in our Union. The enormous consequence that the Dutch tax authority’s illegal, artificial intelligence—driven racial profiling had on them and how it impacted their lives is terrifying. Families ended up in poverty. Some lost their homes and some lost their jobs because of prejudice.

This is not George Orwell’s Animal Farm, even though one may think so since some seem to be more equal than others in our Union. But some of the affected are not any more with us to witness today, as this scandal has led to suicides. Racism deprives people of their possibility to live a decent life, and society of the possibility to take good advantage of every and each citizen’s competence. In its worst form, racism kills.

I am standing here today as the rapporteur for the report on racial justice, non—discrimination and anti—racism in the EU, which will be voted on in the LIBE Committee on Monday. In the report, we call on the EU to urgently move from words to actions in the fight against racism. We also highlight the importance of ensuring that necessary safeguards for fundamental rights and freedoms of data are in place for the use of AI tools.

Every corner in our Union must be a safe space for all our people. The colour of our skin, our birthplace, our name, our hair colour – none of it should ever shape our possibility to fulfil our dreams and should never, ever deprive us of becoming full and respected citizens in our Member States and of our Union.

  Saskia Bricmont (Verts/ALE). – Monsieur le Président, un algorithme – oui, un algorithme! – a décidé que des aides sociales destinées à des enfants défavorisés devaient être retirées à des foyers précaires puis remboursées. Cette décision touche des personnes racisées, suspectées de fraude sur la base de leur couleur de peau – non blanche. Il ne s’agit pas là du régime des scores sociaux chinois, il s’agit de l’œuvre du gouvernement néerlandais, qui a essayé d’étouffer l’affaire durant des mois.

Combien de fois faudra-t-il répéter que les algorithmes et les décisions automatisées présentent des risques pour les droits fondamentaux, particulièrement pour les personnes racisées et pour les personnes précaires? Mes collègues ont parlé de ces risques et du racisme institutionnel, mais nous devons aussi parler du contrôle et de la régulation des autorités publiques nationales et européennes, qui violent délibérément la protection des données dans une forme d’apathie générale. Des aides retirées à des personnes de couleur aux Pays-Bas, des données sur l’orientation sexuelle ou la religion des personnes qui se présentent à nos frontières collectées par Frontex, la collecte massive et indiscriminée de données de police par Europol: mais où cela s’arrêtera-t-il?

Les autorités publiques ont un rôle d’exemplarité à assurer, et la Commission doit réagir en cas de violation des droits fondamentaux et du droit européen. Chers collègues, les négociations en cours sur l’intelligence artificielle nous donnent la possibilité de mettre les nécessaires lignes rouges en place dès maintenant.

  Eugenia Rodríguez Palop (The Left). – Señor presidente, en las últimas décadas se ha pasado de la promesa de futuro que suponía la emancipación digital a una especie de nueva civilización basada en la organización algorítmica de la sociedad. Empresas y administraciones de todo el mundo se esconden tras una mente tecnológica para que sus decisiones sean más objetivas y eficientes. Pero en esa mente anidan los prejuicios y las aberraciones que pretenden ocultar.

Las máquinas que nosotros mismos creamos no son mejores que nosotros, porque la mayoría de los datos de los que disponen están sesgados y reproducen patrones discriminatorios de los que nadie suele hacerse responsable. La policía predictiva, la asignación de ayudas sociales o la recogida de datos biométricos, por ejemplo, están racializadas y la discriminación estructural que generan obstaculiza el acceso de ciertas personas a derechos, bienes y servicios. La inteligencia artificial refuerza el lugar privilegiado de los blancos y margina a negros y gitanos, por ejemplo, de manera que desempeña un papel clave en las relaciones de poder. Tras una apariencia de neutralidad desde el punto de vista de las máquinas, hay personas a las que se persigue por lo que son y no por lo que hacen, aunque buena parte de ellas ni lo sabe ni sabría señalar a un culpable.

Es evidente que de todo esto podría hacerse un buen uso, pero en Europa no tenemos los instrumentos para exigirlo. Desde el Parlamento hemos pedido muchas medidas: incorporar el enfoque interseccional en los algoritmos, recopilar datos desglosados por origen racial y étnico, prohibir los perfiles raciales, realizar estudios de impacto de derechos humanos, implementar controles de conformidad y supervisión humana o rendir cuentas.

Con todo, seguimos corriendo todavía detrás de nuestra propia sombra.

  Alexandra Geese (Verts/ALE). – Mr President, Commissioner, colleagues, the Dutch childcare benefit scandal epitomises what the former UN Special Rapporteur on extreme poverty and human rights, Philip Alston, calls a digital welfare dystopia. It specifically targets poorer citizens rather than rich people evading taxes, where in case of fraud, the sums to recover would be much higher. The system is racist. There is no simple redress and the system targets people who can’t afford to – or are unlikely to – go to court. The principle of innocent until proven guilty is overturned. Innocent people are treated like criminals. Fundamental principles of the rule of law are overturned.

Artificial intelligence systems targeting people need very, very strong safeguards and these safeguards are currently not provided by the AI Act. And here we need to change, we need to improve the AI Act. And furthermore, public administrations should support low-income citizens rather than harassing them and giving millions to big-tech companies to build what Virginia Eubanks calls The Digital Poorhouse.

  Romeo Franz (Verts/ALE). – Herr Präsident, liebe Kolleginnen und Kollegen! Tausende Familien wurden in den Niederlanden zwischen 2013 und 2019 zu Unrecht des Betrugs bezichtigt. Viele Familien verschuldeten sich, und Kinder wurden ihren Eltern weggenommen.

Der Grund dafür sind ein tief sitzender Rassismus und Vorurteile, mit denen man ganz bewusst die Algorithmen gefüttert hat. Ich kann mit den Betroffenen sehr gut mitfühlen, da Menschen mit Romanes-Hintergrund zu den am meisten marginalisierten Gruppen in Europa gehören und der Antiziganismus wieder auf dem Vormarsch ist.

Es ist wichtig, dass wir im Nachgang zu solchen Stigmatisierungen auch Antworten haben, die in die Zeit passen. Daher habe ich mich im Rassismusbericht, den wir im Ausschuss für bürgerliche Freiheiten, Justiz und Inneres bearbeiten, auch dafür stark gemacht, dass die Gefahren von künstlicher Intelligenz und Algorithmen zwingend berücksichtigt werden müssen.

Rassismus lässt sich nicht mit Empfehlungen bekämpfen. Wir brauchen dazu die Kraft des Gesetzes, um Menschen vor Rassismus zu schützen.

  Pierrette Herzberger-Fofana (Verts/ALE). – Monsieur le Président, Madame la Commissaire Dalli, l’affaire des allocations familiales est, par son ampleur, un scandale raciste sans précédent. Des milliers de familles ont été accusées de fraude par l’administration fiscale. Les familles migrantes, africaines ou noires, ont été poursuivies par les autorités, qui ont exigé le remboursement immédiat des allocations que ces familles avaient perçues en toute légalité. De nombreuses familles n’ont pas pu supporter d’être taxées de fraudeuses par l’État et se sont suicidées de désespoir au vu de l’ampleur de leur dette, d’autres familles ont éclaté, et plus de 1000 enfants ont été placés sous la garde de l’État.

Le gouvernement néerlandais a accepté d’utiliser des algorithmes racistes, qui indiquaient des noms à consonance étrangère ou une double nationalité comme indicateur de fraude. Il a dû admettre que ce qui était déclaré comme une politique stricte de lutte contre la fraude n’était rien d’autre que du racisme institutionnel, de la discrimination au profilage racial.

Cela est inacceptable. Les valeurs fondamentales de l’Union européenne, des droits de l’homme, des droits de nos concitoyens ont été violées, et la cause en est: le racisme. Que va faire l’Union européenne? Va-t-elle en tirer les conséquences et tenir sa promesse, celle de lutter contre le racisme institutionnel sur l’ensemble de son territoire? Qu’en est-il du plan d’action que nous avons voté? Qu’a fait le gouvernement néerlandais et que va faire la Commission afin que l’état de droit s’applique à tous, indépendamment de la couleur de peau?

Vystúpenia podľa postupu prihlásenia o slovo zdvihnutím ruky

  Malik Azmani (Renew). – Voorzitter, laat me helder en duidelijk zijn: dit is een grote zaak die in Nederland heeft plaatsgevonden, iets wat betreurenswaardig is, wat dieptriest is, en waar de regering ook zijn verantwoordelijkheid voor heeft genomen door op te stappen. De Nederlandse regering probeerde lessen te trekken, en inderdaad, de compensatie moet zo snel mogelijk gedaan worden voor hen die hierdoor zijn geslachtofferd.

Maar de vraag die is gesteld aan de commissaris: we kunnen wachten op een AI-wet en het een en ander daarin regelen, maar wat doet deze commissaris op dit moment om te voorkomen – iets waar Nederland al de lessen uit heeft getrokken – dat in de andere lidstaten op dit moment ook gebruik wordt gemaakt van systemen waarin risicoprofilering plaatsvindt op basis van etniciteit, op basis van afkomst? Wat doet de Commissie op dit moment om dat te voorkomen?

  Bert-Jan Ruissen (ECR). – Voorzitter, het is goed dat we ook hier in het Europees Parlement aandacht besteden aan de toeslagenaffaire, want wat er gebeurd is, is natuurlijk schandalig. De overheid moet een schild der zwakken zijn, maar de overheid – de Nederlandse overheid – deed precies het tegenovergestelde. Burgers werden in grote financiële problemen gebracht, gediscrimineerd. Kinderen werden uit huis geplaatst. En de ellende duurt nog steeds voort.

De functie van dit debat is wat mij betreft vooral om aan andere landen te laten zien hoe het niet moet, en vooral ook om bij te dragen aan een stuk bewustwording. Bewustwording over hoe het ook bij overheidsorganen heel gemakkelijk, heel fout, fundamenteel fout kan gaan. De overheid moet betrouwbaar zijn, en dat vraagt een blijvende investering van ons allen.

(Ukončenie vystúpení podľa postupu prihlásenia o slovo zdvihnutím ruky)

  Helena Dalli, Member of the Commission. – Mr President, honourable Members, as mentioned in the chapter on the Netherlands of the 2021 rule of law report, the parliamentary investigation report into the childcare allowance affair called on all state powers to reflect on how to prevent such situations for the future.

Meanwhile, the Venice Commission has issued its opinion on the request of the Dutch Parliament, making a number of recommendations and finding that it appears that, eventually, the rule of law mechanisms in the Netherlands did work. We note, furthermore, that a full parliamentary inquiry will further investigate the affair, with hearings planned in early 2023. The Commission will continue to closely monitor the developments, including in the context of its annual rule of law report, and the next edition of the report is scheduled for adoption.

With regard to compensation, we note that efforts by government to provide financial compensation to the victims of the affair are ongoing and that a comprehensive mapping is being conducted of areas in which legislation may cause undue results for citizens.

Furthermore, the judicial branch is also contributing to the follow-up to the childcare allowances affair. For instance, through the self-reflection process of the Council of State and the active role taken by the Council for the Judiciary, calling for a permanent dialogue between the different state powers.

We note, furthermore, that a full parliamentary inquiry will further investigate the affair, and of course, the Commission will continue to monitor all these developments, including, of course, the context of its annual rule of law report.

I reiterate that the European Commission and myself, as Commissioner for Equality, will continue to follow these developments in the Netherlands and will continue supporting the efforts of all Member States to deliver an anti-racist European Union. Any form of structural discrimination and racism, be it through algorithms or not, is plain wrong and not acceptable for us.

  Predsedajúci. – Rozprava sa týmto skončila.