Zijn telefoon bleef maar overgaan, vertelde dataspecialist Jesse Luk, nadat NRC Handelsblad een lang artikel publiceerde over zijn software om bijstandsfraude op te sporen. Drie Nederlandse gemeenten testen inmiddels of ze met het pakket van Totta Datalab de pakkans van fraudeurs kunnen vergroten.
Totta heeft zelflerende software ontwikkeld, die gevoed is met de gegevens van duizenden geregistreerde bijstandsfraudeurs. Hun datapatronen zijn in kaart gebracht, en daaruit is een algoritme gedestilleerd. Nu kan Totta’s model op basis van het verleden de huidige fraudeurs herkennen. Daarnaast kijkt de data-analyse naar uitschieters, via een zogeheten anomaliedetector: daarmee identificeren ze mensen die flink van het gemiddelde afwijken. Totta’s aanname is dat ook zij fraudeurs zijn.
Nadat Totta’s data-analyse mogelijke fraudeurs heeft aangewezen, zoeken controleurs uit of de verdenking terecht is. Dat moet ook wel: bij zulke beslissingen is de menselijke toets verplicht. Een computer mag niet zelfstandig beslissen dat iemands uitkering moet worden gestopt, noch vaststellen dat iemand een misdrijf heeft begaan.
Hoe accuraat is Totta’s analyse? Luk is opgetogen: van de honderd mogelijke fraudeurs die zijn model aanwijst, stellen controleurs nadien bij de helft metterdaad fraude vast. Maar daarbij zitten ook gevallen die de gemeenten al ontdekt hadden. De toegevoegde waarde schat Luk op 25 tot 30 procent.
Maar dat betekent ook – en dat is vrij ernstig – dat Totta in de helft van de gevallen mensen als mogelijke fraudeurs aanwijst, terwijl er na uitgebreid onderzoek niets van die beschuldiging kan worden hardgemaakt. Daarover haalt Totta de schouders op: bij de helft waarbij nader onderzoek géén fraude aantoonde, konden toch nog best fraudeurs zitten, stelt Luk. Mogelijk was het menselijke onderzoek simpelweg minder effectief dan zijn algoritmes…?
Op een bijeenkomst met Totta afgelopen week in Pakhuis de Zwijger vroeg ik door. Is het niet vreemd dat zelfs nadat menselijk onderzoek – waarbij bovendien veel meer datasets in stelling kunnen worden gebracht dan Totta mag gebruiken – Totta eerder twijfelt aan de capaciteiten en middelen van de controleurs, dan aan zijn eigen algoritmes? Is het niet een schending van burgerrechten dat mensen nu worden aangemerkt als verdachten, op basis van gegevens over andermans gedrag in het verleden? En is het geen ondermijning van rechtsstatelijke principes, wanneer een invasief onderzoek – want invasief is het per definitie, wat die controleurs doen – nu niet langer worden getriggerd door daadwerkelijke, concrete aanwijzingen, maar op grond van een theoretisch vermoeden?
Daar had Luk niet echt antwoord op. Mooi toch dat we fraude zo beter kunnen opsporen? En hun datamodel was zelflerend, dan haal je die systeemfoutjes er toch uiteindelijk vanzelf uit? Maar een fijn verdienmodel is het wel, die ondermijning van de rechtsstaat.
Niemand hoeft medelijden met Facebook te hebben: het bedrijf wist precies wat er gaande was – erger: het had zijng software erop ingericht – maar deed tegenover de buitenwereld of zijn neus bloedde. In 2015 bleek al dat via apps die derden op Facebook konden laten circuleren, niet alleen gegevens van de gebruikers van die apps konden worden geoogst, maar ook die van al hun contacten.
Na de doodse stilte van GroenLinks de afgelopen week over het voor de zoveelste keer geschonden demonstratierecht of de nauwgezette achtervolging door extreemrechts van Zwarte Piet-protesteerders, krijg ik redelijk mijn bekomst van de partij die zolang de mijne was.
Gisteren kwam het tot een publieke breuk tussen twee groepen die elk het web wensen te redden. Aan de ene kant staat het 
Al een paar jaar hebben we te maken met nepnieuws. Onderdeel daarvan zijn foto’s die creatief worden hergebruikt. Oude beelden van Spaanse tasjesdieven actief in eigen land worden opnieuw gepost als zijnde moslims die recent in een Noord-Europese stad een vrouw beroven, om het verhaal te bewijzen dat ‘we’ sinds de komst van vluchtelingen in de afgelopen twee jaar worden ‘overstroomd’ door buitenlandse criminelen – dat werk. [Zie voor een recent voorbeeld van zulk nepnieuws deze diskwalificatie van 
‘Hadden ze hun systemen maar moeten updaten.’ Die uitspraak heb ik de afgelopen dagen vaak gehoord naar aanleiding van de WannaCry worm – helaas ook uit de mond van computerexperts. Was het maar zo simpel. U en ik kunnen onze computers inderdaad makkelijk updaten, maar in complexe omgevingen is dat een helse klus.
Philips heeft zich toegelegd op persoonlijke verzorging, en wil liefst een heel netwerk van apparaten produceren die samen de medische conditie van consumenten in de gaten houdt. “Wij maken producten die twee, drie keer per dag letterlijk in aanraking komen met mensen. Apparaten voor in je mond, op je huid of apparaten waarmee je je voedsel bereidt of je huis schoonhoudt,” 
De Russische hack van de mails van de Amerikaanse Democratische Partij is deels via Nederlandse servers uitgevoerd. 
Veel kranten brachten de afgelopen week grote artikelen over een nieuw apparaatje dat Philip Morris binnenkort introduceert: een sigaret die niet brandt. Het apparaat is op proef uitgezet in Japan, Zwitserland en Italië; de tabaksgigant maakt zich nu op voor een wereldwijde introductie. ‘Ik denk dat er een tijd komt dat deze alternatieve producten zo zijn ingeburgerd dat we samen met overheden kunnen werken aan een uitfasering van sigaretten,’ zei de topman van Philip Morris vroom tegen de BBC.
De noodbrug stond vol toeschouwers. Nu verzamelen zich er vaak kijkers wanneer er ergens in de publieke ruimte mannen met groot materieel aan de slag zijn, maar dit was ronduit spectaculair: met twee kranen zou een brug worden teruggeplaatst. De Franekereindsbrug, gebouwd in 1914,