Ga naar hoofdinhoud
Audact
Bekijk het aanbod

Sector · Publieke sector

Publieke sector: welk burgercontact hoog risico is, en welk niet.

Aanvragen · aanbestedingstraject 12-24 maanden

Niet elke AI-inzet in de publieke sector is hoog risico, en ze allemaal zo behandelen helpt net zo weinig als er geen enkele zo behandelen. Bijlage III van de AI-verordening noemt de gevallen, waaronder AI die beoordeelt of iemand recht heeft op essentiële overheidsvoorzieningen. Een informatielijn over openingstijden is dat niet. Valt een inzet er wél onder, dan draagt een overheidsorgaan als gebruiksverantwoordelijke een plicht die private partijen niet hebben: de effectbeoordeling voor de grondrechten uit artikel 27.

Wat de wet vereist

Wie met een AI-systeem communiceert, moet dat te horen krijgen, tenzij het uit de omstandigheden duidelijk is.
Verordening (EU) 2024/1689, art. 50(1)
AI-systemen die door of namens overheidsinstanties worden gebruikt om te beoordelen of iemand recht heeft op essentiële overheidsvoorzieningen, zijn hoog risico.
Verordening (EU) 2024/1689, bijlage III, punt 5(a)
Gebruiksverantwoordelijken van hoogrisicosystemen moeten ze volgens de gebruiksaanwijzing inzetten, het menselijk toezicht aan bekwame personen toewijzen en de logs bewaren die het systeem voortbrengt.
Verordening (EU) 2024/1689, art. 26
Een gebruiksverantwoordelijke die een publiekrechtelijke instelling is, moet vóór ingebruikname van een hoogrisicosysteem uit bijlage III een effectbeoordeling voor de grondrechten uitvoeren.
Verordening (EU) 2024/1689, art. 27(1)
Elke lidstaat moest uiterlijk 2 augustus 2026 ten minste één nationale AI-testomgeving operationeel hebben.
Verordening (EU) 2024/1689, art. 57(1)

Wat Audact daaraan doet

De mededeling uit artikel 50 in de taal van de beller. Duitsland: nationale beleidslaag actief. Nederland: in ontwikkeling. België en Oostenrijk: gepland.
In gecontroleerde tests
Bij bestuurde gesprekken is in het product een bon zichtbaar: invoerhash, uitvoerhash, de schakel naar de vorige bon en de Merkle-inclusie. Drie daarvan kan iedereen zonder sleutel narekenen; de vierde, de insluiting in de Merkle-wortel, wordt met het insluitingsbewijs uit het artikel 50-rapport van het gesprek tegen de gepubliceerde wortel gecontroleerd.
Zichtbaar in het product · Werkt vandaag
Primaire toepassingshosting: Frankfurt. De lijst subverwerkers en de doorgiftegrondslag staan in het Trust Center.
Werkt vandaag
De nationale beleidslaag bovenop artikel 50.
Duitsland: actief · Nederland in aanbouw
Aanmelding Early Customer Program.
Nederland en Vlaanderen (BE): aanmelding open. Duitsland en Oostenrijk: aanmelding is een gesprek en geen startdatum.
Gestructureerde invoer voor een effectbeoordeling grondrechten en voor een aanmelding bij een testomgeving.
In ontwikkeling
Aansluiting op de EUDI Wallet voor het attesteren van burgeridentiteit.
In onderzoek

Eerst de indeling

De eerste vraag is niet welke maatregelen u nodig hebt. Het is op welke lijst u staat.

Een telefoonlijn die een burger de openingstijden vertelt, een afspraak inplant en de rest doorverbindt naar een mens, is een gewoon AI-systeem met een transparantieplicht uit artikel 50. Een systeem dat meebepaalt of iemand recht heeft op een voorziening, staat in bijlage III punt 5(a) en brengt het hele hoogrisicoregime mee. De afstand tussen die twee is enorm, en ze wordt bepaald door het gebruiksdoel en niet door de bouwwijze.

Dat is het waard om vast te stellen vóór er een aanbestedingsstuk wordt geschreven, want het antwoord bepaalt wat erin moet. Ernaast zitten in de voorzichtige richting is duur; ernaast zitten in de andere richting is erger.

Twee plichten die alleen overheden dragen

De effectbeoordeling, en de testomgeving die voor u openstaat.

Artikel 27(1) legt de effectbeoordeling voor de grondrechten bij gebruiksverantwoordelijken die publiekrechtelijke instellingen zijn, vóór een hoogrisicosysteem uit bijlage III in gebruik gaat. Het is een ander instrument dan de conformiteitsbeoordeling van de aanbieder en dan een gegevensbeschermingseffectbeoordeling, en het vraagt naar de betrokken mensen: wie ze zijn, wat er voor hen mis kan gaan, en welk toezicht er dan is.

De andere route is artikel 57. Elke lidstaat moest uiterlijk 2 augustus 2026 ten minste één nationale AI-testomgeving operationeel hebben, een begeleide omgeving om te beproeven met de bevoegde autoriteit erbij. Voor een overheidsorgaan is dat vaak de goedkoopste manier om te achterhalen wat de eigen toezichthouder verwacht, en het eindverslag reist daarna met de inzet mee.

Vragen

Is een burgerinformatielijn hoog risico onder de AI-verordening?
Op zichzelf niet. Bijlage III somt de hoogrisicogevallen op, waaronder AI die beoordeelt of iemand recht heeft op essentiële overheidsvoorzieningen. Vragen beantwoorden, afspraken inplannen en doorverbinden naar een mens is dat niet, al vereist artikel 50 nog steeds dat de burger te horen krijgt dat hij met een AI-systeem spreekt. Deze pagina bevat algemene informatie, geen juridisch advies.
Wie moet de effectbeoordeling voor de grondrechten uitvoeren?
De gebruiksverantwoordelijke, voor zover die een publiekrechtelijke instelling is en het systeem hoog risico is onder bijlage III: vóór ingebruikname, op grond van artikel 27(1). Ze staat los van de conformiteitsbeoordeling van de aanbieder en van een gegevensbeschermingseffectbeoordeling. Deze pagina bevat algemene informatie, geen juridisch advies.
Waar worden de gegevens verwerkt?
De primaire toepassingshosting is Frankfurt. De volledige lijst subverwerkers, de verwerkingslocaties en de doorgiftegrondslag staan in het Trust Center. Dat is het document voor een aanbestedingsdossier, niet een zin op een marketingpagina.

Een vastlegging die het aanbestedingsdossier overleeft

Waarvoor een overheidsorgaan later moet kunnen instaan, is wat er in één bepaalde interactie gebeurde. Audact legt dat per gesprek vast en toont de bon in het product; de productie-export werkte bij de hertest op 26 augustus 2026 na de deploy (gemeten op browsergesprekken in plaats van over een telefoonlijn).

Bekijk een bon

Verwante pagina's