Ondermijning als verdienmodel

Beeld: Pakhuis de Zwijger, PdZ x NRCZijn telefoon bleef maar overgaan, vertelde dataspecialist Jesse Luk, nadat NRC Handelsblad een lang artikel publiceerde over zijn software om bijstandsfraude op te sporen. Drie Nederlandse gemeenten testen inmiddels of ze met het pakket van Totta Datalab de pakkans van fraudeurs kunnen vergroten.

Totta heeft zelflerende software ontwikkeld, die gevoed is met de gegevens van duizenden geregistreerde bijstandsfraudeurs. Hun datapatronen zijn in kaart gebracht, en daaruit is een algoritme gedestilleerd. Nu kan Totta’s model op basis van het verleden de huidige fraudeurs herkennen. Daarnaast kijkt de data-analyse naar uitschieters, via een zogeheten anomaliedetector: daarmee identificeren ze mensen die flink van het gemiddelde afwijken. Totta’s aanname is dat ook zij fraudeurs zijn.

Nadat Totta’s data-analyse mogelijke fraudeurs heeft aangewezen, zoeken controleurs uit of de verdenking terecht is. Dat moet ook wel: bij zulke beslissingen is de menselijke toets verplicht. Een computer mag niet zelfstandig beslissen dat iemands uitkering moet worden gestopt, noch vaststellen dat iemand een misdrijf heeft begaan.

Hoe accuraat is Totta’s analyse? Luk is opgetogen: van de honderd mogelijke fraudeurs die zijn model aanwijst, stellen controleurs nadien bij de helft metterdaad fraude vast. Maar daarbij zitten ook gevallen die de gemeenten al ontdekt hadden. De toegevoegde waarde schat Luk op 25 tot 30 procent.

Maar dat betekent ook – en dat is vrij ernstig – dat Totta in de helft van de gevallen mensen als mogelijke fraudeurs aanwijst, terwijl er na uitgebreid onderzoek niets van die beschuldiging kan worden hardgemaakt. Daarover haalt Totta de schouders op: bij de helft waarbij nader onderzoek géén fraude aantoonde, konden toch nog best fraudeurs zitten, stelt Luk. Mogelijk was het menselijke onderzoek simpelweg minder effectief dan zijn algoritmes…?

Op een bijeenkomst met Totta afgelopen week in Pakhuis de Zwijger vroeg ik door. Is het niet vreemd dat zelfs nadat menselijk onderzoek – waarbij bovendien veel meer datasets in stelling kunnen worden gebracht dan Totta mag gebruiken – Totta eerder twijfelt aan de capaciteiten en middelen van de controleurs, dan aan zijn eigen algoritmes? Is het niet een schending van burgerrechten dat mensen nu worden aangemerkt als verdachten, op basis van gegevens over andermans gedrag in het verleden? En is het geen ondermijning van rechtsstatelijke principes, wanneer een invasief onderzoek – want invasief is het per definitie, wat die controleurs doen – nu niet langer worden getriggerd door daadwerkelijke, concrete aanwijzingen, maar op grond van een theoretisch vermoeden?

Daar had Luk niet echt antwoord op. Mooi toch dat we fraude zo beter kunnen opsporen? En hun datamodel was zelflerend, dan haal je die systeemfoutjes er toch uiteindelijk vanzelf uit? Maar een fijn verdienmodel is het wel, die ondermijning van de rechtsstaat.


Aantal reacties: 5

  1. vreer ≡ 18 Apr 2018 ≡ 12:16

    Weet je welke gemeenten hier gebruik van maken? dan kunnen we ook mogelijk gemeenteraadsleden inzetten om dit aan de kaak te stellen.

  2. Fire11 ≡ 18 Apr 2018 ≡ 15:45

    De grootste bijstandsfraudeurs zijn gemeenten zelf. Op oneigenlijke manier gemeenschapsgeld binnentrekken voor nep-re-integratietrajecten waar bijstandsgerechtigden als goedkope handjes ingezet worden in het gemeentelijk groen. Of men zegt een bijstandsgerechtigde in een re-integratietraject te hebben opgenomen terwijl dit niet waar is maar wel de subsidies ervoor binnentrekken.. Ondertussen krijgt de bijstandsgerechtigde de schuld van de hoge kosten maar in werkelijkheid is het de werklozenindustrie die 7 miljard per jaar over de balk smijt.

  3. Trinus de Vries ≡ 18 Apr 2018 ≡ 21:50

    Ben benieuwd om wat voor soort fraude het dan precies gaat. Kun je een algoritme ontwerpen dat specifiek bijklussende bijstandsmoeders tegen het licht houdt ? Of gaat het om echte die hard criminelen ? Ondertussen zijn de grootste uitkeringstrekkers als Shell en Unilever etc volkomen veilig want die 1,4 MILJARD ( elk jaar weer) is dankzij Rutte legaal. Maar owee als iemand met een uitkering ergens 100 euro inkomsten verzwijgt…

  4. Spaink ≡ 21 Apr 2018 ≡ 12:08

    Trnus @ 3: Als je het stuk in NRC leest waarna ik link, zie je dat het om kleine gevallen gaat.

  5. Branko Collin ≡ 04 May 2018 ≡ 13:35

    Arnoud Engelfriet heeft op basis van de door jou ontlokte bewering dat het systeem van Totta zelflerend is een stukje geschreven. Zijn conclusie? Zelflerend bestaat niet in juridische systemen.

    https://blog.iusmentis.com/2018/05/04/juridische-beslissystemen-zijn-helemaal-niet-zelflerend

Schrijf een reactie

E-mail adressen worden niet getoond noch aan derden doorgegeven.
Verplichte velden zijn gemarkeerd met een *