Beste ,

Ik denk dat een paar juristen bij de Belastingdienst zenuwachtig zijn. En dat ze hun bazen hebben verteld dat er een groot probleem opdoemt – tenminste, als ze hun werk goed doen.

Laat me uitleggen waarom. 

De juristen hebben vast gelezen dat de rechtbank Den Haag een serie uitspraken heeft gedaan die miljoenen aanslagen, naheffingen en andere beschikkingen mogelijk kwetsbaar maken. Die uitspraken gaan over besluiten van de Immigratie- en Naturalisatiedienst (IND) over het verlenen van verblijfsvergunningen. Een slimme advocaat merkte op dat de IND voor de besluitvorming gebruikmaakt van een algoritme dat CaseMatcher heet. 

Je kunt het systeem vinden in het Algoritmeregister van de overheid. Idee is dat IND-medewerkers daarmee makkelijk asielaanvragen kunnen vinden die sterk op elkaar lijken, en die zo ‘sneller, eerlijker en gelijk’ kunnen afhandelen.

In beroep bij de rechtbank stelde de advocaat in meerdere zaken dat de besluiten waarin een verblijfsvergunning is afgewezen, niet vermelden dat CaseMatcher is gebruikt. En dat zo niet controleerbaar is hoe het besluit tot stand is gekomen. ‘Uit het oogpunt van effectieve rechtsbescherming is het noodzakelijk dat besluitvorming transparant is over het gebruik van algoritmes,’ oordeelde de rechtbank in april.  

‘Onvoldoende inzicht in technische werking’

‘Met de overgelegde documenten en de toelichting heeft de minister onvoldoende inzicht gegeven in de technische werking van CaseMatcher,’ oordeelde de rechter begin mei. ‘De rechtbank is verder van oordeel dat ook onvoldoende is gemotiveerd dat geen sprake is van (confirmation) bias [vooringenomenheid, JS], dan wel dat eventuele risico’s hierop voldoende zijn ondervangen.’ Gevolg is dat het bestreden besluit ondeugdelijk gemotiveerd is en daarom geen stand kon houden. 

In deze zaak krijgt de minister de gelegenheid om het motiveringsgebrek te herstellen door voor 25 juni meer informatie te verschaffen over CaseMatcher. Daaruit moet blijken hoe het systeem documenten beoordeelt en of ‘risico’s op (automation) bias’ in kaart zijn gebracht. Bovendien moet de minister duidelijk maken welke maatregelen zijn genomen in het kader van deze risico’s.   

De Belastingdienst gebruikt niet twee algoritmes, zoals de IND, maar minimaal 68. Heb jij ooit een blauwe brief ontvangen waarin is uitgelegd dat er een algoritme is gebruikt? En hoe die doorwerkt in het besluit? Precies.

De Belastingdienst gebruikt bovendien risicomodellen die veel verder gaan dan vergelijkbare zaken opsnorren, zoals die van de IND doet. Met sommige modellen krijg je geautomatiseerd een score – ook wel risicoprofilering genoemd. Als daar een hoog risico op fouten of fraude uitrolt – op basis van volstrekt obscure risico-indicatoren – leidt dat tot extra onderzoek en handhaving.    

Met de billen bloot

Wat nu als burgers en bedrijven massaal in bezwaar en beroep gaan tegen besluiten waarvan duidelijk is dat de Belastingdienst er een algoritme voor heeft toegepast? Zulke zaken lopen al over BPM-naheffingen (belasting van personenauto’s en motorrijwielen). De kans bestaat dat de dienst op last van de rechter mogelijk met de billen bloot moet, net als de IND. 

En daar heeft de Belastingdienst heel weinig zin in. 

Follow the Money onthulde in 2023 al dat de Belastingdienst intern het advies kreeg om met een aantal (onrechtmatige) risicomodellen te stoppen, maar daar trok de leiding zich niets van aan. Twee jaar later constateerde de Autoriteit Persoonsgegevens dat meer dan 50 modellen van de dienst onrechtmatig en discriminerend zijn. Toch is er nog steeds geen enkele ambitie om transparanter te zijn over die systemen, ondanks grote schandalen. 

De vraag is hoe lang dit houdbaar is.

De Staatscommissie tegen Discriminatie en Racisme kwam begin mei tot stevige conclusies:  algoritmische profilering leidt tot discriminatie of onaanvaardbare risico’s op discriminatie. Er is onvoldoende rechtsbescherming en rechtszekerheid voor mensen. De niet-transparante werkwijze botst fundamenteel met de principes van goed openbaar bestuur en is onvoldoende democratisch gelegitimeerd. Dit leidt tot veel maatschappelijke schade.  

Terug naar aselecte steekproeven

In haar onderzoeksrapport Principes voor profilering roept de commissie de overheid op om te stoppen met profilering en terug te keren naar aselecte steekproeven. Als de overheid toch wil blijven profileren, moet ze vooraf aantonen dat het systeem niet discrimineert en noodzakelijk is. Probleem is dat dit volgens de staatscommissie moeilijk te onderbouwen is. Hard bewijs dat profilering effectief is, ontbreekt namelijk.

Ik zit daarom met smart te wachten op de eerste zaken waarin de rechter transparantie eist van de Belastingdienst. Want van dit kabinet gaat het niet komen.