Telecomraad (formeel) d.d. 3 december 2021

[0:00:00] De Commissie voor digitale zaken aan de orde. Vandaag is een commissiedebat over de telecomraad formele, telecomraad van drie december twintig, eenentwintig. Ik heet welkom. De minister van BZK, de heer blok en de leden mevrouw Kroes, die namens de VVD mevrouw van Ginneken namens D zesenzestig en mijn naam is erna van Weerdenburg en ik ben woordvoerder namens PVV en vandaag fungerend voorzitter.

[0:00:30] Wij hebben twee uurtjes voor dit debat spreektijd hebben vastgesteld op drie minuten. Ik wil van tevoren niet gelijk al interrupties beperken, maar we gaan even kijken hoe dat loopt, kan het anders. Later nog doen. De heer dassen van voelt loopt nog binnen. Welkom ook

[0:00:50] en even kijken naar de rivier of ik iets ben vergeten. Laten we eventjes afspreken dat zodra de openingsbel voor de plenaire vergadering begint dat de spreker die op dat moment aan boord is eventjes pauzeert. Want die is een minuut lang.

[0:01:03] Oké nou dan geef ik de eerste spreker het woord en dat is mijn vrouw van geen ik een namens D zesenzestig.

[0:01:10] Dank u, voorzitter en Dank aan de minister om wederom bij ons te zijn. Ik focus mijn inbreng op de ivoor ordening. Het reguleren van kunstmatige intelligentie is cruciaal. Die systemen die hebben een enorme impact op onze levens, zowel qua mogelijkheden, maar ook qua schaduwzijde zelf lerende algoritmes bij de Belastingdienst die zagen vooral lagere inkomens als fraude verdachte

[0:01:34] zelfrijdende auto's die bleken mensen van kleur niet zo goed te herkennen. Twee potentieel zeer ingrijpende fouten, maar ook op maatschappelijk niveau is risico diep FX bijvoorbeeld die het vertrouwen in elkaar en de overheid, bedrijven

[0:01:47] en D zesenzestig wil menselijke en transparante, waarbij de fundamentele rechten van burgers beschermd zijn. Voorzitter, allereerst wil ik het hebben over gezichtsherkenning D zesenzestig maakt zich zorgen over het gebruik van gezichtsherkenning zonder strenge wettelijke waarborgen, want mensen hebben het recht om bespied te zijn en desondanks maakt ons politie en gebruik van. Ook zonder wettelijke basis.

[0:02:10] D zesenzestig is blij dat gezichtsherkenning nu ook verboden wordt. Als het in een kort tijdsbestek gebeurt, is niet alleen real time.

[0:02:16] Dat ligt wat ons betreft een belangrijke mate in de veroordeling, maar het huidige voorstel staat gezichtsherkenning toe in gevallen van ernstige criminaliteit en die definitie is veel te ruim. Dus dat leidt tot een paar vragen wat bestaat verstaat de minister om ernstige criminaliteit. En hoe voorkomen functie en griep gaat de minister zich inzetten voor een smallere en specifiekere afbakening en zal er een verbod op gezichtsherkenning blijven zolang er geen goede waarborgen zijn.

[0:02:45] Voorzitter, ten tweede vraag ik aandacht voor kwetsbare groepen D zesenzestig is tevreden dat de definitie van kwetsbare groepen in artikel vijf van de vordering wordt uitgebreid met groepen die economisch en sociaal kwetsbaar zijn, maar ook hier is de definitie vaag.

[0:03:00] Welke groepen vallen hieronder en horen vrouwen eerst en mensen met een migratieachtergrond daar ook bij. Want deze groepen zijn disproportioneel vaak slachtoffer van schade door Arie systemen.

[0:03:13] Tot slot, voorzitter, wil ik het hebben over transparantie, want pas als we zeker weten dat algoritmes de mensenrechten respecteren, dan zouden we hoge risico's systemen, zoals de verordeningen genoemd ook mogen toestaan. Wat mij betreft rechtvaardigt dat een verplichte mensenrechten toets voordat zo'n systeem in gebruik wordt genomen. En toch lees ik dat niet in de voorschriften terug

[0:03:35] zou zo'n toets is mijn vraag aan de minister niet onderdeel van de verordeningen moeten uitmaken

[0:03:40] en zou onze eigen overheid dergelijke toetsen niet nu al moeten gaan uitvoeren. Het goede voorbeeld is wel op zijn plaats, gezien de recente missers met discriminerende bij fraudebestrijding.

[0:03:51] Het is belangrijk om te weten dat de ingrijpende algoritmes die de overheid gebruikt in orde zijn. D zesenzestig heeft samen met het CDA gepleit voor een algoritme waakhond

[0:04:01] en verschillende gemeentes zoals Amsterdam, Utrecht, den Haag werken aan algoritme registers om burgers en expert

[0:04:08] dit inzicht te geven

[0:04:10] en dat is heel goed. Maar mijn zorg is dat hier vele wielen opnieuw worden uitgevonden,

[0:04:16] ziet de minister noodzaak om deze registers te harmoniseren. En wanneer komt er een register voor de rijksoverheid, want de motie Klaver is al in januari aangenomen en tot slot. Ik zie daar de voorzitter al neigen om in te grijpen. Tot slot kan de minister al zeggen wie de toezichthouder wordt voor deze ordening. Ik kijk uit naar uw beantwoord.

[0:04:37] Dank u wel, mevrouw van Ginneken. Dan geef ik nu het woord aan mevrouw Kroes die namens de VVD.

[0:04:42] Dagvoorzitter. We maken ons zorgen dat de computer heel slim wordt en op gegeven moment de wereld over zal nemen. Maar de werkelijkheid is de computer is eigenlijk ontzettend dom, maar heeft de wereld al overgenomen.

[0:04:55] Voorzitter, deze woorden zijn van een hoogleraar Domingo s uit van de University of Washington en hij heeft gelijk hij heeft op vele manieren al Nederland overgenomen. Algoritmen spelen een steeds grotere rol in onze samenleving. Ze kunnen helpen bij het constateren van ziektes, fraude, het oppakken van criminelen of het voorkomen van grote ongelukken.

[0:05:14] Ze kunnen juist hele simpele of hele complexe taken van ons overnemen.

[0:05:18] Dit biedt tal van mogelijkheden,

[0:05:21] maar algoritme kunnen al dan niet onbedoeld leiden tot willekeur of onrechtvaardigheid, bijvoorbeeld wanneer je meer moet betalen voor hetzelfde product aan je buren. De prijs van een medicijn ineens stijgt omdat voorspelt dat jij het wellicht nodig hebt

[0:05:33] of als je onterecht als fraudeur wordt aangewezen

[0:05:36] en ook in de digitale wereld moeten grondrechten geborgd zijn en moet de overheid haar dienstverlening op orde hebben.

[0:05:42] Kunstmatige intelligentie is de wereld aan het vormen. Een Vladimir Poetin zei al in tweeduizendzeventien dat degene die leider zou worden op de leider van de wereld wordt

[0:05:52] over het Europese voorstel over kunstmatige intelligentie wil ik het volgende zeggen.

[0:05:56] VVD fractie is het ermee eens dat er voor de hoge risico's systemen striktere verplichtingen gelden om zo de veiligheid, gezondheid en fundamentele rechten te beschermen.

[0:06:05] Twee de diep fake technologie is een hoge risico's systeem. Wat ons betreft en moeten de verordeningen ook op deze manier geclassificeerd worden. We wachten het onderzoek van universiteit van Tilburg dan ook met spanning af

[0:06:16] en de VVD heeft eerder haar zorgen geuit over de extra administratieve lasten voor het MKB. Het kabinet antwoordde dat er een mkb-toets komt, kan het kabinet toezeggen dat deze ook met de kamer gedeeld gaat worden.

[0:06:27] Voorzitter, daarnaast wil ik het ook nog met u hebben over de uitgang van vijf G vijf Grace op dit moment van een stukje in gebruik mensen zien waar het icoontje op een telefoon. Maar om echt als Nederland te kunnen profiteren van de mogelijkheden die vijf G biedt, moeten nog een groot deel van het netwerk in gebruik genomen worden en dus ook geveild worden onder telecomaanbieders. Elke vertraging van dit proces is een potentiële aderlating voor onze Nederlandse economie. Daarom zou ik de minister willen vragen om haast te maken langs de volgende drie lijnen

[0:06:55] een stijl die adviescommissie zo snel mogelijk in het liefst nog voor het kerstreces wacht geen dag te lang.

[0:07:01] Twee. Laat de adviescommissie uiterlijk één april tweeduizend, tweeëntwintig een advies uitbrengen en drie zorg. Het het besluit over het wijzigen van het NSB uiterlijk één augustus tweeduizend, tweeëntwintig gereed is. Ik weet dat het krap is. Voorzitter, maar als we aan deze voorwaarden voldoen. Dan kan de veiling begin tweeduizend, drieëntwintig van start gaan en dan kunnen we nog voor de zomer van tweeduizend, drieëntwintig als Nederland eindelijk een volwaardig vijf geen netwerk hebben Dankuwel.

[0:07:27] Dankuwel. Mevrouw regels keer. Dan geef ik nu het woord aan heer das een.

[0:07:31] Volgt Dankuwel. Voorzitter, in het visie over de weg naar het digitale decennium noemt de minister twee sporen inzetten op concurrentie, innovatie en verdiend vermogen en het ordenen van fundamenten voor digitalisering, en daarbij moet bovendien rekening gehouden worden met publieke waarden en mensenrechten, en ik vraag aan de minister. Hoe verhouden deze verschillende doelstellingen zich tot elkaar? En hoe complimenteren ze elkaar? En welke prioriteiten stelt de minister daarin?

[0:07:57] Voorzitter dan iets anders. En ik blijf het herhalen omdat het nu ook weer relevant is.

[0:08:06] Heel even wachten.

[0:09:04] Voorzitter en ja. Dus hetgeen wat nog steeds relevant is en wat ik ook weer terug zag komen, zijn de er gelden en ik vraag me af of de concrete plannen die op het gebied van digitalisering ontwikkeld worden. Hoe die eruitzien en of die ook in consultatie met de decentrale overheden tot stand zijn gekomen en hoe het daar nu mee staat, zoals eerder in de motie werd eerder een motie werd opgeroepen en die ook aangenomen is en voorzitter, ik las ook over een kleine strubbelingen tussen Financiën en economische zaken over de. Er gelden en ik vroeg me af hoe de minister meer duiding daarover kan geven en mij kan garanderen dat we niet met oude bonnetjes de er gelden gaan opmaken

[0:09:43] dan voorzitter kunstmatige intelligentie en ik sluit mij omwille van de tijd ook aan bij de vragen van mijn collega's en maar ik vraag me af van of het kabinet dat niet ingaat op een algeheel verbod op ICT systemen die individuen clusteren naargelang hun etniciteit gender, politieke of seksuele oriëntatie of andere discriminatiegronden en kan de minister dan uitleggen wanneer het gebruik van dergelijke systemen wel mogelijk zouden moeten zijn, want in welke concrete gevallen zijn dat. Want ik voel me dat nog lastig voor te stellen

[0:10:13] en en kan uitleggen in welke concrete gevallen bij het gebruik van hiervoor geautomatiseerde herkenning van menselijke kenmerken in de publieke ruimte zinvol acht

[0:10:22] dan voorzitter, als laatste over het informele lunch debat waar de minister langs de lijnen van de Nederlandse position paper zal spreken over de data act. Hoe moet de data ECT ervoor zorgen dat start-ups en MKB eerlijke toegang krijgen tot gegevens en dat zij eerlijk gebruik kunnen maken van die gegevens en hoe kunnen eindgebruikers van bepaalde producten en diensten toegang moeten krijgen tot de gegevens die worden geproduceerd. En hoe ziet dat er concreet. Volgens de minister uit

[0:10:47] en hoe moet de data act vendor lock in tegengaan door data portabiliteit te versterken. En wat voor concrete regels of maatregelen ziet de minister voor zich.

[0:10:57] En dan als laatste

[0:10:59] voorzitter begrijp ik dat er toch een kleine draai is geweest van Nederland in de trilogie fase en ik vroeg me af of de minister daar nog op wilde reflecteren.

[0:11:15] De heer, welke draagt.

[0:11:17] Je bedoelt u precies?

[0:11:18] Van de detail van een act in een debat waar we het de vorige keer over hadden.

[0:11:28] We hebben in de vorige keer bij het debat over de begroting van economische zaken hebben we een kort debat met elkaar gevoerd over de data governance acts en over het belang van het gelijk speelveld voor mkb-bedrijven en voor dik dijk. Toen gaf u aan dat we in de trio fase zaten en dat er niet meer verandering van standpunt kon komen.

[0:11:52] Nou begrijp ik dat het door een verandering van standpunt is geweest. Dus ik vroeg me af van of uw dagen wellicht nog op kon reflecteren.

[0:12:01] De minister gaat het uitzoeken. Dankuwel.

[0:12:04] Dank u wel meneer dassen. Nou dan wil ik even mevrouw van Ginneken vragen om tijdelijk het voorzitterschap over te nemen, zodat ik de inbreng namens PVV fractie kan doen.

[0:12:14] Dat doe ik graag. Dan geef ik bij deze het woord en mevrouw van Weerdenburg namens de PVV.

[0:12:22] Dankuwel. Voorzitter, een aantal vragen zijn gesteld. Die zal mij dan ook kortheidshalve daarbij aansluiten. Mevrouw van Ginneken had vragen over haar over de definitie van ernstige criminaliteit die deel ik en ook hoe je van griep kan voorkomen over de algoritme waakhond of een register. Daar hoor ik ook graag de minister over. En inderdaad had de PVV ook de vraag wie is beoogd toezichthouder voor deze verordening, en ik wil me ook aansluiten bij de zorgen van mevrouw rajkovski over de over het MKB. Het is een heel mooi streven om het lastig te maken die verordeningen voor het MKB. Maar de ervaring leert dat dat redelijk onhaalbaar is omdat er met zevenentwintig landen natuurlijk heel vaak helaas een redelijk onleesbare tekst uitkomt. Dus ik hoor graag van de minister. Wat hij allemaal nog kan doen om om inderdaad die lasten luiheid te bereiken en wat de PVV ook zorgelijk vind is dat de volledige impact op het MKB nog heel lastig te beoordelen is. Dus daar zou ik nog wel wat verduidelijking in willen. En als algemene opmerking wil ik graag kwijt dat ik het wel problematisch vind om mijn controlerende taak te doen als volksvertegenwoordiger, als op het moment dat wij een debat voeren. Nog geen duidelijkheid is over bepaalde cruciale aspecten over ontwerpvoorstellen, zoals bijvoorbeeld de beoogde reikwijdte of zelfs basis definities waar voorstellen uberhaupt overgaan, zoals bij de act al in een vroeg stadium onduidelijkheid was van wat is nou welke systemen gaat deze verordening naar over en ik begrijp de lastigheid wel hoor. Om met zevenentwintig landen tot een compromis te komen. Maar dat is natuurlijk de handicap van alle een u voorstellen

[0:14:20] en ik zou graag meegeven aan het kabinet dat ze dan wat vaker of aan de minister dat die wat vaker met vuist op tafel mag slaan in Brussel in een vroeg stadium en zeggen van doen. Het.

[0:14:29] De goed.

[0:14:30] Of we doen het niet

[0:14:33] want op deze manier zitten we constant vragen te stellen over verduidelijking van begrippen en definities en de minister gaat dan ook in Brussel elke keer braaf vragen om opheldering. Maar de tijd tikt ondertussen door en van meer grip op de totstandkoming van deze voorstellen is ondertussen geen sprake en dat is jammer en het zou mooi zijn als we hier vandaag een manier zouden kunnen overeenkomen waarop me een betere controle kunnen uitoefenen. Wat mij betreft in ieder geval niet voor herhaling vatbaar is dat dat we hier nu een oordeel moeten geven over de minister moeten bevragen over concept teksten van artikelen die nog niet eens bekend zijn gemaakt. Kortom, de vraag is hoe kunnen wij dit verbeteren. Ik kijk eventjes naar de tijd want ik moet me ook aanhouden.

[0:15:16] Een paar korte puntjes nog over act uitsluiting van nationale veiligheid. Dat is volgens mij sowieso een exclusieve competentie van lidstaten. Dus. Hoezo is was dat nodig omdat hierin uit te sluiten, vraag ik de minister en even kijken. Ja. Over de ronde tafel sessies die op de planning stonden om zo breed gedragen en zo volledig mogelijk geïnformeerd standpunt over de vorming in te kunnen nemen. Het zou dit jaar nog plaatsvinden. Mijn vraag aan de minister of daar al meer duidelijkheid over is of dat die sessies al zijn geweest. Dankuwel.

[0:15:56] Mevrouw van Weerdenburg. Ik heb u iets meer seconden gegeven omdat u zo mooi. Mijn mijn fractievoorzitter citeerde dus Dank daarvoor. Dan geef ik nu het voorzitterschap terug.

[0:16:06] Dankuwel. Ik kijk even naar de minister. Hoelang hij nodig heeft. Kwartier een kwartier dan schorsing voor een kwartier.

[0:34:48] Ik heb ik heb eigenlijk een een groot blok Arie en een de en daarna de rest want dat was eigenlijk ook wel een beetje de de verhouding in in de vragen van van de kamer.

[0:34:59] Oké prima. Dan mag u beginnen en dan zal ik ook leden in de gaten houden op het moment dat een van u een vraag wil stellen dan geef ze maar zijn

[0:35:09] de minister.

[0:35:12] Dank u wel. Voorzitter, ik denk dat het goed is dat ik even beginnen met de procedure en de de onvrede die het proeft erbij.

[0:35:19] Mevrouw van Weerdenburg en de draaien waar ik echt even moest zoeken

[0:35:25] vast gedraaid in mijn leven mijn politieke leven. Maar ik begrijp gewoon even niet waar de vraag over ging.

[0:35:31] Maar nu denk ik hem te begrijpen.

[0:35:33] Ik begin even eigenlijk net als het vorige overleg wat wij in deze samenstelling hadden toen over de van Market Page services act

[0:35:41] en met constatering dat ik dit bij uitstek onderwerpen vind om Europees te regelen.

[0:35:47] Dit moet je niet van land tot land regelen is zinloos is verwarrend of het nou voor mkbers is het publiek wat ermee om moet gaan

[0:35:55] voor grote bedrijven

[0:35:59] dus juist omdat Europese doen en dan vervolgens meteen ook het nadeel van dingen Europees regelen waar mevrouw van Weerdenburg

[0:36:07] scherp op wees. Je moet het met zevenentwintig landen eens worden in bovendien een getrapte procedure

[0:36:15] voorstel van van de Commissie open voor commentaar. Dat is ook goed. Dan onderhandelen landen daarover gecontroleerd door

[0:36:23] het Parlement en ook ook in vorige rollen heb ik het Nederlandse Parlement er vaak mee gecomplimenteerd dat die rol hier serieus wordt genomen.

[0:36:31] Er zijn ook een heleboel landen als Nederland zelf

[0:36:34] meest extreme voorbeeld was denk ik. De Brexit grote beslissing was een land waar het Parlement terugkwam in het kerstreces om over de Brexit verdrag te spreken dat als Nederland maar even als illustratie

[0:36:47] de als Parlement zeer betrokken tegen die achtergrond begrijp ik ook wel de de de ergernis van mevrouw van Weerdenburg. Ja, wij geven input mee aan onze minister een van zevenentwintig. Die brengt dat daar dan in

[0:37:01] en en wat gebeurt er mee waarbij voor de deze van die verordeningen ook ook nog geldt dat gekwalificeerde meerderheid is

[0:37:10] en dat het werk van Nederlandse bewindslieden in Europa natuurlijk altijd is coalitievorming dat ze hebben over het algemeen ook echt wel succesvol in. Maar als je coalitie niet groot genoeg is dan sneeuwt je mening al maar dat dat is een laatste werkelijkheid een gekwalificeerde meerderheid betekent dat je

[0:37:33] het ook niet kunt tegenhouden. Nog even los van de vraag hoe verstandig het is om in je eentje dingen tegen te willen houden. Een enkele keer

[0:37:41] kan dat noodzakelijk zijn. Maar maar hier geldt die optie uberhaupt niet want het is gekwalificeerde meerderheid

[0:37:48] en aan de andere kant moeten ook niet al te somber maken

[0:37:54] omdat wij met onze mensen in Brussel met onze mensen in den Haag

[0:38:01] heel vroeg inzetten. In deze processen

[0:38:04] kunnen wij gelukkig ook vaak rapporteren dat ze wel degelijk binnen dingen binnenhalen. Maar ik geef u onmiddellijk ook toe

[0:38:12] niet anders. En daar zijn ook onder de bijvoorbeeld ook aandacht voor privacy, wat heel cruciaal is bij al deze onderwerpen waar Nederland vaak met Duitsland. Maar toch in in een hele kleine coalitie striktere wens heeft dan anderhalf

[0:38:30] ook gewoon maar even evenals feit constateren. Er zijn nationale verschillen en en die geldt

[0:38:37] juist op dat onderdeel.

[0:38:42] Nou even even tegen tegen deze brede achtergrond om onvermijdelijk gezien de vraag van van mevrouw van Weerdenburg. En dan pak ik meteen maar even mee. De de draai of het misverstand waar

[0:38:58] als je het over had want heeft zijn te maken met die procedure.

[0:39:01] Ik heb toen bij de begroting en nu nog steeds aangegeven dat omdat dat voorstel in de trilogie fase is Nederland als land niet meer aan zet is

[0:39:11] dat zijn de hoogstens als de het voorzitterschap bij ons terugkomt om een nieuw mandaat te vragen over de dat mandaat is dan ook weer niet een mandaat aan Nederland. Maar aan alle.

[0:39:22] De.

[0:39:24] Er is een reële kans dat die vraag terug komt. Maar de vraag is er nu niets. Dus misschien komt er wel een draai of niet. Dat weet ik niet maar op dit moment is het de trio fase. Dus blijft mijn stelling. Net als bij de gewone. Ik zit

[0:39:35] niet zelf aan tafel. Ik kom pas weer aan tafel

[0:39:40] als een van de zevenentwintig.

[0:39:42] Als er een vragen om wijziging van plan

[0:39:46] dat allemaal heel procedureel, maar wel van belang

[0:39:49] en dan ga ik in op

[0:39:55] voor ordening

[0:40:01] en ook daar toch een

[0:40:04] algemeen.

[0:40:07] Nou, zoals willen zeggen. Filosofische beschouwing.

[0:40:11] Iedereen constateert vandaag terecht hoe groot de impact van

[0:40:17] het kan zijn en op sommige terreinen al is een en over ook terreinen waar hoge verwachtingen waren iemand noemde het voorbeeld van zelfstandig rijdende auto's.

[0:40:25] Het lijkt mij geweldig.

[0:40:27] Maar ze komen maar niet om omdat die techniek zich onvoldoende ontwikkeld over zijn ook een onderwerp wat wat recent aandacht had van de weer uitgebreid rapport over gecommuniceerd. Wat ik ook in ontvangst genomen waar het kabinet ook

[0:40:44] nou bijna kabinetsbrede op gaat reageren omdat het heel veel

[0:40:49] beleids terrein en raakt

[0:40:52] en

[0:40:54] waar je bent tegen

[0:40:56] aan loopt is dat

[0:41:00] op een op een bewegend doel schieten.

[0:41:02] We weten ongeveer waar we het aan hebben over hebben. Maar en precieze afbakening is best ingewikkeld en de ook in het debat kwam aan de orde. De term algoritme

[0:41:15] algoritmes bestaan al heel lang en zijn niet niet allemaal.

[0:41:22] Er bestaan al heel lang systemen die

[0:41:25] maar platform. Volg mij kan iedereen op internet vinden in en modellen waarmee die kan berekenen hoeveel die kan lenen voor een huis.

[0:41:33] Dat is een algoritme daar stop je je inkomen in en dan komt er een zonnetje uit en verder geen garantie. Maar zo veel zou je ongeveer kunnen

[0:41:41] kunnen alleen heel veel bedrijven hebben dus ook de overheid trouwens ook intern dat soort van systemen

[0:41:48] bij wordt over het algemeen. Maar dan geef ik ook maar even een oneerbiedige

[0:41:54] definitie daaraan toegevoegd dat het autonoom en zelflerend moet zijn,

[0:42:02] maar het is een beetje diffuus en komt zo meteen op vragen van algoritme Regis alle algoritmes. Dat wordt denk ik onwerkbaar.

[0:42:10] Volgens mij zitten

[0:42:14] de behoefte aan inkadering en en de en de zorgen heel erg bij autonoom flash zelflerend.

[0:42:22] Nou ook weer een wat bredere beschouwing maar allemaal nodig voor de precieze

[0:42:27] band worden

[0:42:29] want dan kom ik bij de eerste vraag van mevrouw van van grinniken,

[0:42:33] namelijk een algemene mensen rechten

[0:42:37] toets in de Arie verordering. Natuurlijk mag je binnen de Europese Unie en en Nederland niets doen

[0:42:47] of nalaten wat mensenrechten schendt

[0:42:52] en omdat deze hele breedte notie behapbaar te maken is in de verordeningen die

[0:42:59] onderverdeling gemaakt in in hoger risico met met de zwaarste toetsen op dit gebied

[0:43:07] lager risico en en zelfs niet eens toetsen

[0:43:10] categorie.

[0:43:12] Dat lijkt mij ook de enige werkbare manier

[0:43:16] waarbij blijft staan dat niemand

[0:43:18] iets mag doen of ontwikkelen dat in strijd handelt met mensenrechten specifiek voor Nederlandse situatie. Want dat was vervolgvraag van mevrouw van Ginneken.

[0:43:27] Ik denk dat de niet voor de hand ligt om nationaal daar andere toetsen aan toe te gaan volgen. Ik begon met ik vind heel verstandig om dit Europees te regelen.

[0:43:36] Dan denk ik dat ze ook consistent in in moeten redeneren punt een om het behapbaar te houden voor Nederlandse consumenten en bedrijven en en de andere de voor wat een mooiere discussie over het hypothese land chocola keien. Ook hier haal ik chocola 't barre weer even uit de kast. Als wij additionele toetsen mogen

[0:44:00] loslaten. Dan mag chocola krijgen dat ook moet je ook even de vraag stellen. Weet je zeker dat je het wil.

[0:44:05] Een interruptie van mevrouw van Ginneken,

[0:44:09] Voorzitter, de vorige keer dat de chocola keien ter sprake bracht, reisde ik met u mee. Dat ben ik deze keer niet van plan omdat ik toch even wil stilstaan bij de mensenrechten toets.

[0:44:22] Want u zegt terecht dat als dit soort systemen mensenrechten met voeten treden dat dat niet is toegestaan. Maar mijn punt was nou juist dat we dat nu in de praktijk vaak te laat merken achteraf merken als systeem al enige tijd in gebruik zijn er slachtoffers gevallen zijn. Ik verwijs nog maar naar de toeslagenaffaire. Mijn pleidooi was juist om vooraf gaand aan de ingebruikname van zo'n systeem zo'n toets uit te voeren en dat kan wat mij betreft best Pardon selectief bijvoorbeeld alleen de ook risico's systemen dus niet categorisch of je daar nog even op. We reflecteren en ik snap dat u zegt ja als we dit in Nederland verplicht gaan stellen. Dan gaan we afwijken en dan worden we een soort chocola keien. Maar je kunt als voor als overheid daarin ook zelf het goede voorbeeld geven zonder het verplicht te stellen, maar het wel te doen.

[0:45:10] Dus kan de minister daar nog even op reflecteren. Voorzitter,

[0:45:14] Dank u wel, mevrouw Koster heeft ook interesse. Maar ik heb toch een aanvullende vraag. Oké.

[0:45:21] Dank u. Voorzitter, want als ik mijn collega van ik goed begrijp, gaat inderdaad om een toets vooraf. Ik zou dat nog willen aanvullen met de pleidooi dat niet alleen een toets vooraf komt, maar ook in het maken van het algoritme dat ook daarom nagedacht wordt over bepaalde mate van diversiteit bij mensen die dit creëren.

[0:45:38] Dankuwel. De minister.

[0:45:47] Ik denk dat, zoals mevrouw van geen ik het nu formuleert dat je de de de mensenrechten toets

[0:45:55] intensiever doet bij hoog risico, want we hem ook eentje mag nooit iets wat in strijd is met met met mensenrechten.

[0:46:03] Maar dat je de toets vooral intensiever doet bij

[0:46:07] hoog risico. Dan dan de toepassingen lager in in de treden dat de dan

[0:46:14] niet alleen uitvoerbaar is, maar ook wel in de verordeningen zit.

[0:46:17] Ik wil voor de zorgvuldigheid er ook even schriftelijk op terugkomen

[0:46:22] omdat ik hier ook echt even goed met mijn juristen over wil

[0:46:28] overleggen of mijn interpretatie ook de juridisch juiste is.

[0:46:34] Ja mevrouw.

[0:46:36] Dank aan de minister voor het aanbod om daar schriftelijk op terug te komen. Ik zou het op prijs stellen als dat dan binnen enkele dagen is, zodat we niveau voordat de Raad voor de telecom plaatsvindt, daar eventueel nog met elkaar van gedachten kunnen wisselen. En ik wil de minister meegeven dat ik op de hoogte ben van het feit dat in de verordeningen gesproken wordt over een conformiteitsbeoordeling die ook vooraf moet plaatsvinden. Daarin wordt iets gezegd over welke data gebruikt wordt. Et cetera. Maar daar wordt heel erg opengelaten. Hoe die toets tegen welk kader die toets uitgevoerd moet worden. En daar zou ik dus daar zie ik wel echt een omissie voor het expliciet toetsen van mensenrechtenschendingen.

[0:47:15] Dus als de minister dat in de band.

[0:47:16] Ik kan meenemen.

[0:47:18] De de waar u in uw schip. Precies waarom ik er even schriftelijk op terug wil komen omdat ik heel precies de tekst zoals we die nu hebben wil leggen naast

[0:47:28] redenering zoals ik die net geeft dat er volgens mij in zit.

[0:47:32] Dus kom ik even schriftelijk terug

[0:47:35] voor het nationale deel.

[0:47:39] Er komt binnenkort een brief over het algoritme Regis was dacht ik ook een vraag van van meerdere van uw maar ook van van mevrouw van Ginneken zal overigens het voortouw ligt bij de college van BZK.

[0:47:53] Ik vind het logisch om in die brief ook in te gaan op de vraag hoe Nederland de Nederlandse overheid. Want dat was uw vraag hoe de Nederlandse overheid daarin de mensenrechten

[0:48:06] toets overweging

[0:48:09] hanteert

[0:48:14] een en de de vraag van Frankrijk of zie als ik haar goed begrijp. En als dat niet gaat. Mijn corrigeren, zegt zij. Bedrijven die

[0:48:24] die toepassingen maken, moet een intern voldoende diverse.

[0:48:29] Asfalt, de vraag.

[0:48:30] Mevrouw en koffie,

[0:48:33] Ja, waarbij als het gaat over regulering ik eerst naar de rijksoverheid zelf zou willen kijken dus echt als het gaat om die zelf lerende autonome algoritme die ook in besluitvormingsprocessen gebruikt gaan worden. Dat is niet alleen vooraf getoetst wordt als een algoritme af is of die wel voldoet. Want dat zijn best complexe gehele. Dat weet volgens mij deze minister nog beter dan dat ik het weet. Gezien zijn jarenlange ervaring,

[0:49:00] maar uiteindelijk gaat ze mij ook omdat de mensen die het algoritme maken dat die daar dat die ook met verschillende blikken daarnaar kijken.

[0:49:07] Helder en is.

[0:49:13] Ik

[0:49:14] ik denk dat

[0:49:17] iedereen het ermee eens is dat het goed is

[0:49:22] voor welk team dan ook dat de divers is dus ook bij de samenstelling van algoritmes. Ik moet wel eerlijk zijn daar en daarom testen ik eventjes aan beginnen of ik de vraag goed begrepen heb dat ik niet voor zie hoe je zoiets met regels af kan dwingen.

[0:49:42] Ik herinner mij een eerdere discussie over diversiteit op de werk vloer waar ik zeer voor ben als is voor de Rijksdienst ook binnen het rijk enorm voor heb ingezet,

[0:49:54] maar waarbij sommige bedrijven mij gewoon kwamen melden voor mijn type beroep is heel weinig aanbod, bijvoorbeeld van vrouwen. Omdat je in studiekeuzes nog steeds groeit meer naar elkaar toe.

[0:50:11] Geen totaal neutrale verdediging ziet mens maakt eigen keuzes

[0:50:20] en

[0:50:22] dat betekent dus ook op dit gebied dat ik

[0:50:25] geen werkbare regelgeving voor kan stellen of voor de overheid zelf is of voor bedrijven die die zegt

[0:50:32] teams die ontwikkelen moet representatief zijn samengesteld. Ik denk dat dat niet lukt.

[0:50:41] Ik kan ieder geval voor de overheid zelf wel spreken dat onze volle inzet is om de overheid zelf en de onderdeel daarvan zo divers mogelijk te maken.

[0:50:53] Ja mevrouw Merkel ski.

[0:50:55] Dagvoorzitter en dat dat begrijp ik ook zou het ook zonder vinden dat als de zodanig regels worden opgesteld. Dat zou betekenen dat als er een tekort is aan nou ja misschien bepaald type diversiteit dat dan de rijksoverheid ook niet verder kan met haar werk.

[0:51:13] Dus kan ik dan toch de minister vinden dan ga niet over de regels, maar over richtlijnen of inspanningsverplichting dat op moment dat algoritme die besluitvormend zijn hoog risico dat er dan zorgvuldig naar gestreefd wordt om ook aan de voorkant bij het maken van algoritme dat daarom met verschillende ogen naar gekeken is.

[0:51:34] De minister.

[0:51:37] Als inspanningsverplichting. Zeker. Maar nogmaals

[0:51:41] toch even oneerbiedig. Een blik in de college banken van de faculteit informatica laat al zien dat de diverse races van tien jaar geleden. Maar het is echt niets een doorsnede van de Nederlandse bevolking.

[0:51:52] Dus bij de ontwikkeling van zo'n toepassing. Dat is overigens niet anders, vrees ik bij de faculteit weg en waterbouw gelukkig ook aanzienlijk meer vrouwen dan in het verleden zitten, maar het is nog steeds geen fifty-fifty.

[0:52:08] U vervolgt met.

[0:52:10] Kom ik op het onderwerp gezichts herkenning mevrouw van geen ik ging daar op in. Maar eigenlijk alle andere

[0:52:18] ook.

[0:52:23] Er is sowieso al een streng wettelijk kader voor gezichts herkenning.

[0:52:34] Maar het is niet zo dat het expliciet is verboden

[0:52:39] en dat lijkt me ook om verstandig om dat mits je het wettelijk in kamer

[0:52:48] er wel degelijk toepassingen zijn te bedenken waarbij gezichtsherkenning

[0:52:57] op een veilige, maar ook zinvolle manier plaats kan vinden, bijvoorbeeld bij paspoort controle

[0:53:05] en daarnaast in heel specifieke toepassingen in het kader van politie en justitie.

[0:53:11] Dus een totaalverbod zou ik tegen zijn. Maar ik ben er zeer voor omdat alleen onder heel strenge wettelijke ingekaderd deur condities te doen en en dat soort ook precies de manier waarop tarieven ordening

[0:53:25] die mogelijkheid nu biedt en dat valt mij ook het antwoord op de vraag van vrouw van geen een hoe voorkom je misschien griep door het alleen wettelijk streng ingekaderd te.

[0:53:36] Gaan beginnen.

[0:53:38] Dank voor de goede orde. Ik ben niet op tegen dat mijn iphone aan mij vraagt om even in de camera te kijken om de iphone te openen, zoals ook andere telefoons doen. Ik ben er niet op tegen dat we een camera op Schiphol is die mijn gezicht bekijkt en checkt of dat overeenkomt met de informatie op mijn paspoort. Het gaat mij dus niet om dat soort

[0:53:59] gezichtsherkenning. Het gaat er mij om dat gezichtsherkenning functies, zoals in de verordeningen beschreven die gezichten van onverdachte onschuldige burgers massaal in beeld brengen en controleren in de hoop een enkele crimineel op te sporen. Het gaat mij om dat soort gezichtsherkennings toepassingen en ik hoorde minister spreken over streng kader en dat dat in de een vordering al goed geborgd is. Dat ben ik toch niet helemaal met de minister eens. Voorzitter, omdat de verordeningen het niet specifieker maakt dan de aanleiding ernstige criminaliteit en daarbij nog de opmerking maakt die strafbaar is met een vrijheidsstraf. Daar valt heel veel onder waarvan ik denk dat zijn vergrijpen waar ik de proportionaliteit zoek vind als het gaat om het breed inzetten van gezichtsherkenning in de publieke ruimte.

[0:54:53] De minister.

[0:54:54] Ik had in daar liggen het antwoord op de vraag wat er samenwerken onder serieuze criminaliteit.

[0:55:03] Daarbij wordt dezelfde definitie gehanteerd als al in tweeduizend twee door de Europese Raad is vastgelegd worden om geen veranderingen op.

[0:55:12] Maar daarmee is het dus wel in ingekaderd.

[0:55:17] Mevrouw van genen vroeg ook of het verbod

[0:55:24] wat in de conceptverordening staat om je systeem

[0:55:31] hij zich laat richten op kwetsbare groepen of dat uitgebreid kan worden om de ondermeer vrouwen en de Ierse migranten. De inzet van het kabinet is inderdaad om dat verbod uit te breiden voor geldt wel mijn betoog aan een begin.

[0:55:53] Ik kan de uitkomst niet garanderen, maar ik wil wel de analyse van mevrouw van gillen dat breed of zo.

[0:56:02] De heer schreef zijn internet.

[0:56:04] Dagvoorzitter. Ja want ik wil nog even terug naar de vraag die mevrouw van Ginneken net stelde in zijn dat aangaf van de paspoort controles iphone toepassingen tot daaraan toe, maar niet in de publieke ruimte waar Hamas gezichtsherkenning is en daar gaf de minister geen antwoord op een ons ook een vraag die ik ook gesteld heb.

[0:56:23] De minister.

[0:56:27] Ja daar wil ik heel precies zijn omdat ik in het kader van

[0:56:34] politie en justitie

[0:56:36] niet helemaal uit kan sluiten dat je daar systemen voor nodig hebt

[0:56:43] en ik wil dat dus ook niet preciezer in kamer zonder ruggespraak met de collega's van politie en justitie,

[0:56:50] veiligheid en justitie.

[0:56:53] Meneer dassen,

[0:56:55] Dan is mijn vraag van hoe of de minister daar dan met een volledig antwoord op terug kan komen na ruggespraak. Met andere minister zal ik doen.

[0:57:03] Schriftelijk.

[0:57:09] Dan de vraag van mevrouw van

[0:57:13] vind ik kan mevrouw Weerdenburg. Wie wordt de toezicht houder? En wanneer hakken we die knoop door

[0:57:20] omdat het toepassingsbereik van enorm is,

[0:57:24] is de keuze uit toezichthouders ook enorm.

[0:57:30] En

[0:57:31] omdat we nu nog spreken over een conceptverordening kunnen we wel in grote trekken in kaart brengen wie er in aanmerking zouden kunnen komen

[0:57:42] van de bestaande toezichthouders. Variërend van de autoriteit persoonsgegevens is agentschap, telecom voedsel en Warenautoriteit. Maar is het niet logisch om de keuze nu te maken en ik kan ook nog geen precies tijdstip geven want ik wil echt de definitieve verordeningen hebben om de keuze te kunnen maken.

[0:57:58] Sorry, dat ik er

[0:58:00] niet meer helderheid om bij kan geven, maar valt mij is verstandig om het nu

[0:58:05] nog even de opties in de in de lucht houden.

[0:58:08] Je kunt natuurlijk wel beoordelen dat dat we echter inschatten dat er uitbreiding van capaciteit dus ook ook arbeidsplaatsen bij mij nodig is. Maar waar precies.

[0:58:19] Zullen we natuurlijk over informeren. Maar is nu echt te vroeg.

[0:58:24] Mevrouw van Ginneken,

[0:58:26] Dank. Ik heb er begrip voor dat de minister niet alle antwoorden heeft. Hoewel ik het wel jammer vind dat veel antwoorden later beantwoord gaan worden op veel vragen te laten beantwoord gaan worden. Bij deze heb ik er begrip voor dat de minister dat nog niet kan zeggen, maar kan de minister wel aangeven op welke termijn dit wel helder zijn.

[0:58:46] De minister.

[0:58:48] Deze. Ik moet echt de eerste verordeningen hebben voordat ik antwoord op geven

[0:58:54] in de verkeerde volgorde.

[0:58:56] Die wordt verwacht.

[0:58:58] Dat.

[0:58:59] Dat is niet helemaal klopt.

[0:59:03] Meneer circus helemaal niet in mijn hand. Want dat is die procedure waar ik ook mee begon.

[0:59:10] Meneer dassen toevoegen,

[0:59:12] Ik snap het antwoord van de minister gedeeltelijk en tegelijkertijd kan ik me voorstellen dat het gesprek het actieve gesprek met de verschillende toezichthouders zowel gestart kan worden om te kijken van wat de meest logische plek zou zijn waar dat toezicht komt te liggen en maar vooral ook want dat is volgens mij een probleem want bij meer toezichthouders hebben is de capaciteit. Inderdaad en de minister noemt dat terecht. Maar dan is ook de vraag van wat we nu al op ons af zien komen van wat dat een capaciteit nodig en en ik denk dat het wel goed is als de minister dat gesprek nu al start.

[0:59:44] En daar rekening mee houdt.

[0:59:46] De gesprek is gestart. Vandaar dat ik ook aan kan geven dat er een pallet aan toezichthouders is dat potentieel voor in aanmerking kan komen. Uit gesprekken blijkt ook dat er vergroting van de capaciteit nodig is.

[1:00:01] Minister vervolgt met zijn beantwoording.

[1:00:03] Dan kom ik bij een de vraag van mevrouw rajkovski over de gevolgen voor het MKB.

[1:00:15] Ik ben het met haar eens. Mevrouw van Weerdenburg ging daar ook op in

[1:00:22] en dat de de verwarming. Zo moet worden. Een dat die tegelijkertijd werkt

[1:00:30] maar MKB startups

[1:00:35] niet onmogelijk maakt om hun werk te doen.

[1:00:40] Dat is dus ook onzin

[1:00:43] inbreng in de Europese discussie. De de Commissie heeft daarvoor

[1:00:51] ook de toezegging gedaan om voorrang te verlenen aan MKB en startup bij test omgevingen. We zullen inderdaad ook een mkb-toets uitvoeren en die natuurlijk ook delen met de kamer, maar ook daarvoor geldt naarmate het voorstel specifieker is, kunnen we die toets ook specifieker uitvoeren.

[1:01:18] Mevrouw koffie vroeg ook naar

[1:01:24] de omgang met diep FX in de

[1:01:28] voor ordening. In de conceptverordening wordt in ieder geval transparantie vereist over het gebruik daarvan.

[1:01:41] Mevrouw de koffie verwees ook naar het lopend onderzoek van de universiteit Tilburg en dat heb ik eerlijk gezegd ook nodig

[1:01:49] voor antwoord op de de vraag die mevrouw koffie vliegvelden is diep steekt altijd hoog risico.

[1:01:57] Ik

[1:01:59] ik sluit het niet helemaal uit. Maar ik vind het wel verstandig om dat onderzoek wat openbaar zou worden. Wat we zullen delen op tafel te hebben voor de precieze beantwoording van die vraag en een nu dus ook nog niet te beantwoorden.

[1:02:16] De heer dassen vroeg

[1:02:20] motor in verordeningen geen algeheel verbod komen op het clusteren

[1:02:26] op grond van etniciteit, seksuele oriëntatie.

[1:02:37] Ook dat vraagt weer grote precisie.

[1:02:41] Het is

[1:02:45] in zijn algemeenheid niet toegestaan om op deze basis te clusteren,

[1:02:52] maar het kan nodig zijn om juist bij het beoordelen of een systeem discriminerend is

[1:03:00] toch te gaan clusteren omdat je anders de touch niet kan uitvoeren.

[1:03:05] Dus ook hier geldt mensenrechten mogen nooit geschonden worden,

[1:03:09] maar door een specifiek onderdeel heel specifiek gaan verbieden.

[1:03:15] Maak je in dit geval behoort ook de controle onmogelijk.

[1:03:20] Wanneer dat.

[1:03:21] Graag,

[1:03:22] Want ik probeer het dan iets beter te begrijpen, want

[1:03:26] juist hetgeen wat je niet wilt

[1:03:29] daarvan zegt de minister. Dat moet je kunnen controleren en daardoor is het toegestaan

[1:03:35] en daar ben ik een beetje zoekende naam een dus misschien begrijp ik het verkeer.

[1:03:40] Daarom is het niet verboden.

[1:03:43] Stel. Er waren de afgelopen dagen u een aantal van uw verwees ook naar berichten over de manier waarop de Belastingdienst geclusterd heeft

[1:03:51] die berichtgeving geeft dus een clustering aan.

[1:03:56] Ik weet niet precies hoe de betreffende onderzoekers die gegevens naar buiten hebben gekregen. Maar om ze naar buiten te krijgen moet je clusteren?

[1:04:06] We zijn met elkaar eens dat je niet

[1:04:09] moet clusteren op grond van ras geslacht of

[1:04:14] om mensen op grond daarvan verschillende behandeling te geven.

[1:04:19] Mag ook niet maar om deze helemaal te verbieden. Om het ooit te doen. Maakt ook een onderzoek mogelijk

[1:04:25] en haar harder verboden hebben natuurlijk de charme van de eenvoud.

[1:04:30] Maar je maakt ook echt alles mee omhoog.

[1:04:35] Dat lokt nog meer vragen uit mevrouw regels en daarna mevrouw van Ginneken.

[1:04:39] Dagvoorzitter. Maar ik zou hier de minister eigenlijk wel willen willen bij vallen. Want ik kan

[1:04:44] wel voorbeelden bedenken waarbij ik het heel fijn zou vinden. Dat wordt meegenomen. Of je bijvoorbeeld een man of vrouw bent, bijvoorbeeld als gat in de in de medische wereld dat je de lichamen werken gewoon anders kan andere medicijnen betekenen andere symptomen. Gelukkig komt er steeds meer informatie hierover beschikbaar dat juist veel van dit soort onderzoeken vaak naar mannen lichamen zijn gekeken niet naar vrouwen lichamen. Dus ik ben heel blij als voorbeeld algoritme in dit soort toepassingen gebruikt worden dat dit dan ook meegenomen.

[1:05:14] Mevrouw van Ginneken,

[1:05:16] Dank de opmerking van collega Jacobs die triggert mij. Vanzelfsprekend is het om medische redenen belangrijk om onderscheid te kunnen maken in zeg ik dan even met een knipoog typen lichamen. Maar het laat meteen zien waar de kwetsbaarheid zit. Want als je op mannen en vrouwen gaat sorteren. Doe je dan medisch gezien wel het juiste verwijzing naar mijzelf met vrouwelijke hormonen en mannelijk DNA. Dus dat laat precies zien waarom dat dit soort indelingen super kwetsbaar zijn en mensen dus fundamenteel kunnen benadelen. Dus ik sluit me graag aan bij de opmerkingen van de heer tassen. De minister, die in de beantwoording laat wel zien dat hij inhoudelijk goed weet waar het over gaat. Natuurlijk zou je als je dit soort algoritmes controleert kunnen clusteren naar dit soort kenmerken etniciteit, seksuele voorkeur, et cetera omdat je anders niet kunt vast te stellen of ze gediscrimineerd discriminerend werken. Maar dat neemt niet weg dat je in een algeheel verbod dat als uitzondering zou kunnen opnemen. Dus dat de algoritmes daar geen gebruik van mogen maken. Alleen maar bij het beoordelen van of algoritmes discriminerend zijn of niet. Kan de minister daar nog op reflecteren.

[1:06:31] De minister.

[1:06:36] Ja.

[1:06:38] Ook. Dan maak je zo specifiek dat je sommige toepassingen en Frankrijk of schiet komt met

[1:06:44] denk ik terecht een voorbeeld van medische verschillen gekoppeld aan geslacht. Dat zou dan verboden zijn. Waarom zou je dat willen verbieden?

[1:06:55] Ik vind echter de de aanvliegroute andersom veel logischer

[1:06:59] om te zeggen niemand mag mensenrechten schenden dus niet discrimineren

[1:07:06] zware controle voor de hoog risico systemen.

[1:07:13] Voor iedereen blijft dit verbod gelden,

[1:07:16] maar een keihard verbod op clusteren schiet door.

[1:07:23] Mevrouw, van geen.

[1:07:25] Dank u. Voorzitter, als ik de minister zo probeert te volgen in zijn betoog. Dan

[1:07:32] kan ik me zo voorstellen dat de minister ook impliciet een pleidooi gedaan heeft voor de mensenrechten toets vooraf uitvoeren. Zo hoor ik het antwoord van de minister

[1:07:43] misschien even checken of ik ook zo bedoel.

[1:07:45] Ik gaf wel aan dat het, zoals ik de richtlijn begrijpt, maar ik wil daar nog even. Ik ben maar een eenvoudige dokter anders met.

[1:07:51] Inleiding, recht,

[1:07:53] Ik wil er even een mensen die jarenlang recht gestudeerd hebben even precies laten kijken want het de precisie luistert. Hierna. Dus ik interpreteer het zo dat die

[1:08:05] dit niet. Ik weet zeker. Je mag niks doen in strijd met mensenrechten kan niet of te overtuigen. Maar dat die zware toetsen op de op de hoog risico je toepassingen dat ook al in zich.

[1:08:21] Maar ik zou niet.

[1:08:24] Dit is de maker van wat wat ik daar straks even als voorbeeld gaf het module iets wat je leencapaciteit op de woningmarkt berekend willen verplichten mensenrechten poetsen doen

[1:08:33] want dan krijg ik een van deel van u over mij heen of ik op wil houden. Het MKB het leven zo moeilijk te maken en daar heb ik ook nog wel begrip voor.

[1:08:42] Maar nogmaals, ik denk dus dat we heel dicht bij elkaar zitten

[1:08:48] en mevrouw van Weerdenburg vroeg of het niet dubbelop is om nationale veiligheid uit de zonder jou eigenlijk wel

[1:08:57] maar het kan ook geen kwaad. Nationale veiligheid is een nationale bevoegdheid.

[1:09:02] Ik hoop hiermee de vragen over haar conceptverordening beantwoord te hebben en dan wil ik overgaan naar de

[1:09:08] andere vragen.

[1:09:10] Dan trek ik eventjes aan de linkerkant. Een mevrouw begin chemicus schudt in ieder geval alvast. Neen, mevrouw.

[1:09:18] Dank u. Voorzitter. Ja. Het waren veel vragen en ook veel antwoorden van de minister. Dank daarvoor. Dus misschien heb ik het gemist. Maar ik heb de vragen over algoritme registers. Volgens mij nog niet beantwoord gekregen.

[1:09:32] Ja dat.

[1:09:33] Een beetje tussen neus en lippen door de de collega's van BZK komt met een brief daarover.

[1:09:40] Voldoende.

[1:09:42] Ja dan mag de minister het volgende blokje.

[1:09:46] Dan vroeg de heer das mij hoe we bij de data

[1:09:53] detail, want ik was er om

[1:09:56] ervoor kunnen zorgen dat startups mkbers toegang kunnen krijgen tot gegevens.

[1:10:06] Dat is eigenlijk juist de kerndoelstelling van deze wet omdat het omgaan met data nu in private contracten is geregeld en vaak nogal impliciet is die toegang er juist niet

[1:10:18] en blijft die data dus in handen van vaak ook heel grote

[1:10:23] platforms en bemiddelaars

[1:10:28] de data actueel het juiste openbreken.

[1:10:33] Meneer das heeft een interruptie.

[1:10:36] Ja.

[1:10:36] Dat dat begrijp ik. Ik snap het hele idee daarvan natuurlijk, maar minder

[1:10:42] alleen openbreken en daar ben ik zoek erna is nog niet direct een level playingfield. Juist omdat die grote bedrijven

[1:10:50] toch makkelijker die data hebben die toegang daartoe hebben en ik vroeg me af of in die data ook meegenomen wordt. Hoe MKB bedrijven daarin dus ook wellicht bevoordeeld worden om tot die data te kunnen komen en hoe ze daarin geholpen worden.

[1:11:05] De minister.

[1:11:09] Dit is zeker mijn inzet Nederlandse inzet om de data echt zo vorm te geven dat startups en mkbers daar voordeel van hebben. Het woord bevoordelen

[1:11:21] weet ik niet of of ik zo ver zou willen gaan

[1:11:27] raakt ook al weer heel snel aan ook fundamentele rechtsprincipes. Als je geen misbruik maakt van je marktpositie.

[1:11:37] Dan kan de overheid je ook niet niet zomaar het gebruik van die marktpositie ontzeggen.

[1:11:44] Maar de eerste vraag moet dit ertoe leiden dat dat MKB startups toegang krijgen tot de data die ze nu niet hebben. Match

[1:11:56] dan voegt hij er dat ze ook naar het stuk over het digitaal decennium en

[1:12:03] hoe de schetst die ik in de

[1:12:08] geannoteerde agenda geef over

[1:12:13] aan de ene kant natuurlijk het waarborgen van van grondrechten,

[1:12:20] mensenrechten

[1:12:22] en aan de andere kant de de meer zakelijke kant van verdienen. Een vermogen

[1:12:30] hoe ik die wil.

[1:12:32] Barbara.

[1:12:37] De de de de de spanning de zoals zeer dassen die die schetst is

[1:12:44] niet uniek natuurlijk voor digitale vraagstukken die voor ons liggen.

[1:12:50] Ook als je een bedrijf in een totaal andere sector hebt moet je altijd bewegen binnen de ruimte die die wet en regelgeving

[1:12:58] mensenrechten je bieden en ik ben altijd een groot liefhebber van de

[1:13:03] alle oude formulering wat offline geld, geld online ook

[1:13:09] de opgave is omdat onze regelgeving van een deel nog steeds niet eens toe geschreven naar de online wereld om de formuleringen daar daar zo in te kiezen dat ook echt effect hebben

[1:13:25] in die online wereld

[1:13:28] om en bij dat effect en en echt de debat met uw vanochtend gaat daar ook over buiten kijf dat mensenrechten rechtsregels niet geschonden kunnen worden. Maar dat ook ondernemers of dat nou de startup is of of een bedrijf dat ooit een startup was. Maar inmiddels groot is geworden. Uiteindelijk wel een beroep moeten moeten kunnen verdienen.

[1:13:50] En daarnaast dat een overheid zo'n specifieke taken heeft of dat nou. Nationale veiligheid is of criminaliteitsbestrijding die geen enkele vrijbrief moeten vormen tot het gebruik van van van data of of Harry.

[1:14:07] Maar soms de overheid in een positie brengen dat ze dingen moet mogen die anderen niet mogen. Dat moet je wettelijke kader

[1:14:15] dus

[1:14:17] binnen die kantlijn beschermen

[1:14:22] burgers en bedrijven tegen.

[1:14:27] Oh al te bemoeizuchtige overheid, maar ook tegen elkaar.

[1:14:32] Maar maak innovatie bedrijfsactiviteiten niet onmogelijk.

[1:14:38] Binnen die kantlijn beweeg ik mij

[1:14:42] ik en mijn collega's, want dit dit speelt natuurlijk evenzeer voor de collega's van justitie die op een aantal terreinen bij u zal komen of al is gekomen.

[1:14:54] Hij in dit geval zegt ik heb wat meer bevoegdheden nodig.

[1:14:58] De collega's verantwoordelijk voor de Rijksdienst die met wind discussie is over de over de een digitalisering strategie

[1:15:07] en ikzelf die die deze discussies in Brussel voert. Maar maar ook moet zorgen dat in Nederland bedrijven van groot tot klein

[1:15:15] mee kunnen bewegen in in deze hele slag fatsoenlijk beschermd zijn tegen cybercriminaliteit ook een belangrijk onderwerp.

[1:15:24] Volgende week op de agenda.

[1:15:27] Dus je kan hier alleen maar met een met een lang betoog antwoord op geven.

[1:15:31] Maar maar dat is ook omdat je je tussen een aantal kantlijn beweegt.

[1:15:37] Dan.

[1:15:39] Was er ook van de heer das. De vraag

[1:15:44] die hij heel consistent stelt, namelijk hoe met het geld uit het recovery fund omgegaan zal worden.

[1:15:59] Daarbij blijft het antwoord van

[1:16:02] dit kabinet dat weliswaar

[1:16:06] opties op de plank hebben liggen. Maar als demissionair kabinet het niet juist vinden om die keuze te maken en daarom ook niet juist vinden

[1:16:14] om nu

[1:16:17] daarover uitgebreide gesprekken met medeoverheden of sociale partners

[1:16:22] te voeren.

[1:16:26] Dat geldt dus ook voor de voor de precieze gebruik van dat er F e u w shop

[1:16:31] hoofdstuk over een discussie die daar

[1:16:35] tussen Financiën en BZK over is geweest. Ik vind dit valt mij geen groot geheim dat er altijd discussies zijn tussen ministeries.

[1:16:43] Dat dat ook een groot goed is want dat is natuurlijk onderdeel van de

[1:16:47] belangen afweging. Dus er wordt veel geholpen. Ik kan u garanderen. Maar als uw stukken over een ministerie onderling die van altijd al verschillende meningen hebben,

[1:16:56] Meneer. Das.

[1:16:58] Die had ik de spanning er nu een beetje af en uiteindelijk spreekt het kabinet met een mond.

[1:17:02] Meneer tassen,

[1:17:04] Dagvoorzitter begrijp ik. Nou goed uit de beantwoording van de minister dat de motie die eerder door de kamer aan is genomen om per direct de consultatie start met de gemeentes en provincies dat die niet wordt uitgevoerd.

[1:17:16] De minister.

[1:17:19] O. Jee. Die motie aangenomen bij Financiën denk ik.

[1:17:22] Daar moet ik even induiken want dat weet ik gewoon niet.

[1:17:26] Nevel. De motie is aangenomen bij de begroting BZK ook en daarin werd het kabinet opgeroepen om per direct te starten met de consultaties van de gemeenten en provincies juist om te zorgen dat straks ook in de uitvoering zij ook betrokken zijn, heeft een kamer brede steun gelovig gekregen en.

[1:17:47] Dus.

[1:17:49] Ik hoor ik krijg daar graag een reactie van de minister.

[1:17:52] U merkt dat mijn reactie had ik het gewoon niet weet. Sorry.

[1:18:00] Dus daar wil ik even op terugkomen. U heeft kennelijk ook geen schriftelijke reactie gehad op de motie.

[1:18:07] Dus dan moet ik daar schriftelijk op terugkomen.

[1:18:10] Ja. Akkoord. U volgt beantwoord?

[1:18:19] Dan had mevrouw rajkovski

[1:18:23] een vraag over

[1:18:27] de de verdere procedure en belang van tempo voor het in gebruik nemen van vijf.

[1:18:33] G.

[1:18:37] En en ze wees erop dat er een Commissie

[1:18:41] gevraagd is om een advies uit te brengen

[1:18:45] in het dispuut dat ze gereden racen is of het gebruik van de bandbreedte.

[1:18:53] Die Commissie komt uiterlijk in mei met haar advies

[1:19:00] en omdat ik de inhoud van het advies niet ken,

[1:19:04] kan ik niet garanderen dat voor één augustus. Want dat was de de vervolgvraag van mijn vader of Schie

[1:19:12] gereed kunnen zijn met de met een wijziging.

[1:19:15] Dus we moeten echt even stap voor stap opereren. Natuurlijk wordt het advies van de Raad is ook gedeeld,

[1:19:23] maar

[1:19:24] ik zou ook de Commissie te kort doen

[1:19:27] door van tevoren al te gaan voorspellen hoe snel we het kunnen implementeren.

[1:19:33] Mijn vader,

[1:19:35] Dagvoorzitter en ik begrijp het antwoord ook en ik weet dit is natuurlijk al een langlopend dossier dus in tweeduizend zeven al al gestart. Als je meer chronologisch terug wil kijken. Dus ik begrijp wel dat er zoveel complexiteit is gedurende de afgelopen jaren. Toen ik alleen mijn spreekteksten dit debat aan het maken was en ik zat na te denken hoe kan het nou nog sneller. Dan heb ik met een maandje en een weekje verschuiven kwam ik op nou dan halen we misschien de zomer van tweeduizend, drieëntwintig wel en dat vind ik eigenlijk al zo laat. Dus daarom zat ik te zoeken naar als ze na elke keer al is het een maand eerder dit een maand eerder dat dat zal zoveel helpen want we lopen al zo achter kan de minister daar nog iets over.

[1:20:17] De minister.

[1:20:19] En dat het zeker mijn ambitie is om een in tweeduizend, drieëntwintig te worden in tweeduizend, tweeëntwintig

[1:20:28] met die wijziging van het en F P

[1:20:33] bij u te komen. Alleen die daad van een augustus die ik van u hoorde die kan ik niet garanderen omdat had

[1:20:41] gewoon heel erg samen hangt met de inhoud van dat advies waarvan we weer weten dat we voor een mee krijgen.

[1:20:49] Maar de de echt de ambitie van wat natuurlijk de urgentie zie ik volkomen om het vervolgens wel dit jaar af te ronden.

[1:20:58] Dat is heel fijn.

[1:21:14] Dank u, voorzitter, dat is heel fijn om te horen, zeg ik via de de voorzitter aan de minister kijk uiteindelijk op momenten dat advies over de NSB is is gevallen. Dan wordt de ook nog een veiling voorbereid worden en de de telecom providers hebben aangegeven dat ze daar weer een halfjaar voor nodig hebben. Dan heb je nog de veilingen en die naam nog de de technische voorbereidingen op op vijf G. Dus daar komt nog een vertraging slag achteraan zou de minister dan misschien kunnen toezeggen om in gesprek te gaan met de telecom providers om te kijken of is voor zo'n veiling van echt zes maanden nodig of kan dat ook na vier maanden dat we echt naar alle punten in het proces kijken of het niet wat korter komen. Daar is iedereen bij gebaat.

[1:21:54] Helder de minister.

[1:21:58] Iedereen is gebaat bij die verkorting. Dus dus alles wat daarbij kan helpen, wil ik doen.

[1:22:07] Gesprek met telecomproviders denk nooit tegen hoor. Maar dat kan ook al snel gaan over de vormgeving van de veiling en dan zeg ik maar eens scherp. Daar liggen heel harde commerciële belangen

[1:22:18] met me dat overigens mag in een vrij land, maar moet wel even goed begrijpen waar de discussie over gaat.

[1:22:28] Ja, mevrouw de Koster even Afrondend want met een oog op de klok. De voor ruimte nodig voor een tweede mee.

[1:22:34] Is getoonde. Dan zal ik kort dan nog doen. Misschien is, zal een tweede termijn ook niet nodig van van mijn kant. Want als we dus al deze. Ik probeer een beetje creatief mee te denken om ervoor te zorgen dat we eigenlijk vijf geen gewoon echt gewoon goed kunnen gaan gaan gaan gebruiken in Nederland ook voor onze economie. Volgens mij heel erg belangrijk

[1:22:51] en met al deze kortingen en misschien soms misschien iets verouderde box denken kom ik al op zomer tweeduizend, drieëntwintig. Dus als al deze voorstellen als dat dan niet mogelijk is. Dat betekent dat dus pas najaar tweeduizend, drieëntwintig of misschien wel met kerst iets van vijf geen kunnen hebben en dat vind ik echt laat dus dat we toch nog even meegeven.

[1:23:10] Dan is er ook.

[1:23:11] Moeten elkaar ook niet de put in praten. Daar waar dat niet nodig is. Ik ben me heel heel bewust heel goed bewust van gaf aan de urgentie

[1:23:21] en natuurlijk de de ongemakkelijk manier waarop dit proces is verlopen.

[1:23:28] Ik wil ook graag beloven dat we zodra we dat advies hebben nogmaals hartelijk een mij de kamer zullen aangeven hoe het verdere proces verloopt en dan de verdere data met u delen. Maar nogmaals, ik moet wel het advies serieus nemen.

[1:23:45] Ik had ook nog de heer tassen gezien op dit niet. Dan gaat de minister door met antwoorden.

[1:23:53] Ik hoop hiermee de vraag in eerste mijn beantwoord hebben.

[1:23:56] Dan kijk even naar links of dat het geval is, zijn er nog vragen. Dan Dank ik de minister voor de antwoorden in eerste termijn. En dan kunnen we over naar tweede termijn. Als er behoefte aan is, zie ik bij mevrouw van geen ik in ieder geval dan geef ik haar nu het worden.

[1:24:13] Dank u. Voorzitter, ik kan mijn tweede termijn kort houden. Dank aan de minister voor de uitgebreide beantwoording van onze uiteenlopende vragen. Ik realiseer me dat dat ook voor de minister een klus is begrippen ervoor dat de op sommige vragen schriftelijk een antwoord komt. Maar ik wil wel want ik heb de minister hoort toezeggen dat die schriftelijk gaat reageren op de mensenrechten toets hoe die wel al dan niet geborgd is in de verordeningen en of de Nederlandse overheid die zelf losknippen ordening niet zou kunnen uitvoeren. Ik wil er nog meegeven. De minister gebruikt steeds het voorbeeld een hypotheek berekening doen op websites is ook een algoritme. Het gaat bij die mensenrechten toets natuurlijk omhoog risico toepassingen, want anders zijn we bezig aan het houden.

[1:24:59] De andere toezegging die de minister deed was onder meer informatie te geven over een eventuele smallere afbakening van de term ernstige criminaliteit. Wat dat nou precies omvat. Ik zou voor die beide toezeggingen. Daar was ik zojuist niet zo expliciet over graag willen afspreken als dat haalbaar is om vrijdag daarvoor de antwoorden over te hebben, zodat wij eventueel volgende week nog een tweeminutendebat zouden kunnen voeren voor de Raad van telecom dat we anders met de antwoorden weer niet zo heel veel kunnen in de derde toezegging die ik van de minister heb gehoord, is een antwoord van zijn collega van BZK over de oog berichtjes was in januari. Dat is prima.

[1:25:38] Dank

[1:25:39] aan de minister.

[1:25:41] Mevrouw van geen, ik zal mijn werk gedichten voorlezen van toezeggingen, maar ik ga straks nog even dubbel checken. Mevrouw rajkovski had geen behoefte aan het eten. Mijnheer dassen,

[1:25:52] Voorzitter, heel kort toch even over het RAF vragen aan de minister of hij kan zorgen dat er deze week dan meer informatie komt over die consultaties die motie is eerder aangenomen en het verbaast mij wel echt dat ondanks meerdere keren door nu oproepen zijn gedaan dat het antwoord alleen maar blijft daar gaan we informatie mee aan de slag. Terwijl volgens mij de consultaties met de gemeente. Dat is echt niet veel wat we vragen prima gestart kunnen worden.

[1:26:20] Ja die had ik ook al die hebben ook al geregistreerd als toezegging dan dat was mijn dan vraag ik mevrouw van geen ik er weer heel eventjes onder het voorzitterschap over te nemen.

[1:26:32] En dat doe ik met alle plezier en geef ik nu het woord aan mevrouw van Weerdenburg van de.

[1:26:37] Dankuwel. Voorzitter, een paar afsluitende opmerkingen. Mijnerzijds. Ik Dank de minister voor alle antwoorden en ik ben heel blij om te horen dat hij niet toegeeft in de discussie over verplichte diversiteit

[1:26:56] doet me wel een beetje verdriet dat WD daar nu zo op hamert. Het is natuurlijk zo dat in het digitale domein is er een schreeuwend tekort aan capabele mensen. De minister had daar ook al over. Dus het lijkt mij ook heel onverstandig om aan boord al te gaan eisen dat er

[1:27:16] vrouwen dan wel minderheden. Laten we iedereen gebruiken die op dit moment daarvoor is opgeleid. En natuurlijk moeten we proberen om in de toekomst. Ik kan me herinneren uit mijn jeugd dat er een publiekscampagne was een slimme meid is op haar toekomst voorbereid. Nou ja goed. He. Daar ligt ook voor onze Commissie denk ik een taak om dat te stimuleren, maar laten we het bedrijven en overheden niet nog moeilijker maken dan het nu al is om capabel personeel binnen te halen. Laatste vraag aan de minister. Ik snap dat hij nu niet kan zeggen wanneer die concept artikelen er eenmaal liggen van de en dat het allemaal nog onzeker is, zou hij kunnen toezeggen om ons een tijdspad te sturen zodra er meer duidelijkheid is over wanneer wanneer de concept artikelen gepubliceerd zijn en data over de besluitvorming, zodat we iets meer grip

[1:28:18] Dankuwel.

[1:28:21] Dank en kan de minister nu op de gestelde vraag direct antwoord geven.

[1:28:27] Dan geef ik het woord aan de minister.

[1:28:31] Mevrouw van geen ik. Volgens mij zijn we het eens over de zwaarste mensenrechten toets voor de de zwaarste categorie en

[1:28:43] voorbeelden zijn altijd kwetsbaar.

[1:28:46] Maar ik gebruikte om

[1:28:47] aan te geven dat een algoritme heel breed gebruikt wordt en specifieker is, maar juist door ons concentreren. Op de hoog risico categorie vinden we elkaar

[1:28:58] voor de afbakening van ernstige criminaliteit

[1:29:04] wilde ik bij wil ik nog steeds blijven bij de definitie die in tweeduizend twee is gegeven

[1:29:10] omdat ik ook wel zuiver vind omdat als we met elkaar in Europees verband definitie hebben afgesproken dat we die niet gaan veranderen

[1:29:18] bij verschillende

[1:29:20] toepassing. Dus daar was ik niet voornemens om een andere brief te komen.

[1:29:27] En inderdaad, collega's van binnenlandse zaken zal nog ingaan op het in een brief op het register

[1:29:35] hier nogmaals mijn verontschuldigingen dat ik niet helder voor ogen had dat bij mijn begroting deze motie is aangenomen.

[1:29:44] De beantwoording moet in elk geval samen met de minister van Financiën. Ik denk zelfs dat hij de eerste ondertekenaar is.

[1:29:51] Dus ik ga mijn pensioen. Wat voor deze week te doen. Maar omdat ik weet dat hij ook veel in Hilversum verblijft

[1:29:59] de inspanningsverplichting.

[1:30:01] Maar u krijgt een reactie op hoop op de motie. Heeft u zeker recht op een vrouw van Weerdenburg

[1:30:09] die de kamer krijgt natuurlijk ook bij de volgende en geannoteerde agenda onze inschatting van verder. Het tijdspad

[1:30:19] helemaal mee eens voor ons allemaal van belang,

[1:30:23] De Dank en vergeef me mijn overmoed, mevrouw van Weerdenburg, geef hierbij het voorzitterschap aan u terug.

[1:30:29] Wel. Ik heb geduldig gewacht. Geen probleem. Dank aan de minister voor de beantwoording tweede termijn kijk eventjes naar de leden of er nog dingen zijn blijven liggen. Naber. Anders dan ga ik nu de.

[1:30:43] Toezeggingen voorlezen.

[1:30:45] Even kijken. Wij hebben gehoord dat de minister toegezegd heeft om de kamer voorafgaand aan een telecomraad van drie december schriftelijk te informeren over de mensenrechten toets bij hoger risico systemen van Harry en hoeverre dit al geborgd is in de verordeningen

[1:31:03] tweede toezegging. De minister zal in overleg met de minister van ING de kamer schriftelijke informeren over de inzet van gezichtsherkenning in de openbare ruimte door politie en justitie

[1:31:16] derde toezegging. De MKB toets voor de archiefverordening zal met de kamer gedeeld worden.

[1:31:23] De minister informeert de kamer ook zo mogelijk deze week nog maar hij zegt net dat hij dat gaat proberen schriftelijk over de uitvoering van de motie waardeer dat het over had die het kabinet vraagt confrontatie te starten met de gemeentelijke en provinciale overheden in het kader van er gelden en tot slot heb ik hier geregistreerd. De kamer zal in januari per brief geïnformeerd worden over de stand van zaken over het algoritme register die brief wordt door de minister van BZK of staatssecretaris naar de kamer gestuurd. Ja dat klopt. Zijn er nog hiaten. Mevrouw Ginneken.

[1:31:57] Ja volgens mij hoorde ik u, voorzitter niet bij die allereerste twee toezeggingen noemen dat de minister die ook voor of uiterlijk vrijdag deze week naar ons toe gaat sturen, zodat we er nog iets mee zouden kunnen in een eventueel twee minuten.

[1:32:14] Dankuwel. Dan voeg ik dat toe. Ik had gezegd voor de telecom datum op drie december. Maar vrijdag. Ik kijk even naar de minister die kijkt bezorgd. Check even of dat haalbaar is

[1:32:35] de minister.

[1:32:39] Het punt is het ik beantwoord netjes al uw vragen, maar deze staat niet nu op de telecom.

[1:32:47] Nou zijn meer. We gaan gewoon ons best doen want want de de vragen zijn eigenlijk inhoudelijke vragen die vroeger of later wel aan de orde komen.

[1:32:56] Dus ik ga gewoon mijn best doen voor vrijdag even overleggen.

[1:33:00] Oké Dankuwel.

[1:33:02] Ja dan sluit ik hierbij de vergadering niet nadat ik iedereen hartelijk Bedankt heb voor de antwoorden en voor de gestelde vragen en natuurlijk toeschouwers voor het volgen van dit pad

[1:33:16] en dan sluit ik deze vergadering.