Oeps, vergeten: burgerrechten

Het Britse Prospect publiceerde vorige week een artikel over al te slimme steden, naar aanleiding van Googles plannen met een wijk in Toronto. Op circa 50.000 vierkante meter zou een slimme, data driven wijk verrijzen.

Robots voor de vuilnisophaal waren nog het eenvoudigste idee. Winkels en huizen zouden modulair zijn, en konden van dag tot dag van bestemming of functie veranderen; straatplannen werden aanpasbaar, de hele openbare ruimte zou programmeerbaar zijn, met technologie in elk hoekje, gaatje en gootje, en via oneindige datastromen en lerende algoritmes zou alles op rolletjes lopen. Google had al plannen om de wijk ‘downloadable’ te maken en naar andere gebieden te exporteren.

Tot verrassing van het gemeentebestuur en Google kwam de stad in verzet. Niet alleen had niemand ze gevraagd wat zij wilden, de plannen voorzagen sowieso niet in een menselijke stem. Hoe werd beslist wat er met de publieke ruimte gebeurde? Op welke grondslagen en met welke uitgangspunten zouden de algoritmes van de wijk worden geprogrammeerd? In wiens handen zou de onderliggende digitale architectuur zijn? Wie mocht de buurtdata uitponden? Welke zeggenschap zouden bewoners nog over hun omgeving hebben?


‘From Canada to the Philippines, from Belfast to Bangalore, national governments and civic authorities are convinced that big data can unblock their traffic jams, rationalise their energy use and fix their housing problems, not to mention their benefits systems and even their healthcare.’

Martin Moore, ‘Would you let Google run your city?’, The Prospect

In een jaar tijd viel zowat alle steun voor het plan weg. Google had, samen met het stadsbestuur, democratische eisen en burgerrechten even over het hoofd gezien.

Het artikel roept veel vragen op, niet in de laatste plaats omdat dergelijke steden ook elders in de maak zijn. In China, in Hangzhou, wordt op een ‘stadsbrein’ ingezet dat het leven van de 10 miljoen bewoners moet stroomlijnen. In de praktijk betekent het dat iedereen de hele dag door apparaten wordt gadegeslagen, vastgelegd, gecontroleerd, gecorrigeerd en gerapporteerd. Het model wordt thans naar Kuala Lumpur geëxporteerd.

Ook Singapore is een eind op streek. De stadstaat mikt op E3A: ‘connecting everything, everyone, everywhere all of the time,’ wat in de praktijk betekent dat elke burger permanent wordt gemanaged. De broer en zus van de premier zijn de stad om die reden ontvlucht.

Een stadsbestuur kun je wegstemmen, een regering kan vallen. Maar hoe ontdoe je wijken, steden, landen en levens die volledig van technologie doordesemd zijn geraakt, nog van het langzaam indalende anonieme toezicht, compleet met ontoetsbaar geworden sturing, zonder daarbij ieders leven te ontwrichten?


‘…the cost to the citizen is the freedom to go about their lives without being tracked, monitored and managed by the authorities. Dissent, already difficult in Singapore, is becoming virtually impossible. The prime minister’s own brother and sister recently left the island complaining that “we feel Big Brother omnipresent.”

Martin Moore, ‘Would you let Google run your city?’, The Prospect

Een Canadese journalist vergeleek de plannen voor de wijk in Toronto met het leven in de greep van Amazons Alexa. ‘Alexa uit vrije wil in je huis installeren is wellicht handig, maar de zaak verandert wanneer de volledige publieke sfeer en het politiek bestuur in Alexa’s handen zijn.’ De grondwet beschermt ons tegen de overheid. Maar we hebben nooit goed nagedacht hoe we ons private en politieke leven tegen bedrijven kunnen beschermen. Willen we onze burgerrechten overeind houden, dan wordt het daar allicht tijd voor.

Via de achterdeur

Over Mark Zuckerbergs plannen om Facebook, Instagram en Whatsapp volledig te integreren in een groot onderliggend platform, is de afgelopen dagen al veel geschreven. Sommigen zijn enthousiast – de encryptie die Whatsapp gebruikt, zou ook in de andere applicaties welkom zijn – maar de meesten betonen zich bezorgd. Facebook heeft immers een belazerde reputatie op het gebied van privacybescherming, datahandel en datamining.

Ook na het immense schandaal rond Cambridge Analytica – waarbij de gegevens van 87 miljoen gebruikers werden doorverkocht en voor snode politieke doeleinden werden ingezet – houdt het maar niet op. Onlangs werd het bedrijf er alweer op betrapt dat het derden ongegeneerd, via een achterdeur, toegang gaf tot gegevens van haar gebruikers; ditmaal ging het om Netflix en Spotify, die via Facebook nog meer data verwierven dan eerder al werd aangenomen.


Het is voor Facebook echt heel moeilijk om niet creepy te zijn https://t.co/rrvvv1swr2
— Alexander Klöpping (@AlexanderNL) January 30, 2019

Zuckerbergs move lijkt ten doel te hebben Whatsapp eindelijk winstgevend te maken – dat is hem vooralsnog niet gelukt. Maar een gratis dienst winstgevend maken, kun je doorgaans alleen doen door de data van de gebruikers te verkopen. Dat zowel de oprichters van Instagram als die van Whatsapp vorig jaar onder veel rumoer het Facebook-concern verlieten, is een teken dat Zuckerberg iets anders met beide diensten wil dan de makers ervan voor ogen stond. Met name Whatsapp-ceo’s Brian Acton en Jan Koum legden bijtende verklaringen af over Facebooks plannen, en de privacy-implicaties daarvan.

Een andere verklaring: de aanwas van Facebook neemt af, mede vanwege alle schandalen rondom hun immense datahandel. Door de de drie platforms te integreren, kan Zuckerberg de uitloop stoppen en mogelijk zelfs in zijn voordeel ombuigen: ook wie pertinent niet op Facebook wil, wordt via de achterdeur van Whatsapp immers alsnog ingelijfd. Bovendien zijn de geïntegreerde gegevens van alle Whatsapp-, Instagram- en Facebook-gebruikers tezamen ‘rijker’, en dus waardevoller, dan diezelfde gegevens zijn wanneer er nog schotten tussen de applicaties staan.

Juist omdat Facebook op deze manier zowat onontkoombaar wordt, gaan er serieus stemmen op om de grote tech-bedrijven op te breken. Dat is hoog tijd, want niet alleen Facebook ontwikkelt zich tot een moloch. Ook Amazon doet dat, net als Apple, Google en Microsoft.

Een van de risico’s van zo groot en alomtegenwoordig zijn, werd vorig jaar duidelijk. Amazon blijkt bij veiligheidsdiensten en politie te leuren met haar software voor biometrie: identificatie van mensen op basis van uiterlijke kenmerken, zoals gezichtsherkenning. In de VS verwerkt Amazon 300.000 biometrische ‘transacties’ per dag, verkoopt herkenningssoftware aan politie, grenspatrouilles en ICE, en is – net als Microsoft – ‘partner’ in tal van overheidssystemen die ‘illegalen’ moeten detecteren. Het moment waarop je eigen telefoon je bij de overheid aangeeft, lijkt soms angstwekkend nabij.

Weet wie je in huis haalt

Logo DeepMind HealthIn Engeland bood Google in 2014 aan een handige applicatie voor de zorg te bouwen: artsen en verpleegkundigen konden hun patiënten ermee monitoren op acuut nierfalen. Dat doet zich vaak voor na hartoperaties, maar het komt ook ‘spontaan’ voor. Acuut nierfalen is ernstig: wordt het te laat onderschept, dan raken je nieren zwaar beschadigd, wat vervolgens dialyse of transplantatie vereist. En wie eenmaal acuut nierfalen heeft doorstaan, is nadien veel vatbaarder voor andere nierproblemen. De moeite waard om daar een tool voor te bouwen, zou je denken.

Mitsen en maren werden in acht genomen, regels afgesproken, en vooral: er werd vastgelegd wat Google wel en niet met de patiëntgegevens mocht doen. De app beviel, en werd gaandeweg uitgebreid: er kwamen meer functies en andere toepassingen werden verzonnen. De app monde uit in een compleet systeem voor het beheren van patiëntengegevens: Streams, een prachtig elektronisch patiëntendossier. Google beloofde plechtig – en herhaalde dat in 2016 – dat de erin vervatte gegevens ‘nooit gerelateerd zullen worden aan Google accounts of Google diensten’, en de NHS – de Britse gezondheidszorg – geloofde dat. Er werd zelfs een onafhankelijke toezichthouder opgetuigd.

Vorige week kondigde Google ineens eenzijdig af dat het de dienst herstructureerde en bij een nieuwe divisie van Google zou onderbrengen: DeepMind Health. ‘Streams wordt een AI-assistent voor artsen en verpleegkundigen overal ter wereld, en zal de beste algoritmes met intuïtief ontwerp combineren, alles gestut door rigoureus gecontroleerd onderzoek.’ Die app, waarvan de gegevens nooit door Google zelf gebruikt zou worden, is nu een Google product geworden. De NHS zit eraan vast: al hun patiëntendata zitten in de app en zijn bij Google geparkeerd. En oh ja: Google heeft de toezichthouder ontmanteld: ‘Dat was een toezichtstructuur voor DeepMind Health in het Verenigd Koninkrijk. Maar nu willen we wereldwijd actief worden.’

In Nederland is Zorgdomein, dat een applicatie levert waarbinnen zorgverleners patiënten elektronisch naar elkaar kunnen verwijzen (met name: huisartsen naar specialisten) afgelopen maand opgekocht door een Amerikaanse investeerder: Levine Leichtman Capital Partners. Bijna alle ziekenhuizen en huisartsen doen mee. Ziekenhuizen betalen voor elke verwijzing die binnen Zorgdomein plaatsvindt (circa 1,20 euro per verwijzing), plus voor hun abonnement op de dienst. Huisartsen maken er gratis maar min of meer verplicht gebruik van: Zorgdomein is immers monopolist.

Meteen na de overname gooide de nieuwe eigenaar de prijzen flink omhoog, zowel per verwijzing als voor het abonnement. Onderhandelen kon niet: Zorgdomein is immers monopolist. Hup, daar gaat weer een deel van ons zorggeld: afgevoerd naar de zakken van een Amerikaanse durfkapitalist.

Misschien moeten we ons vaker en grondiger afvragen wie we in huis halen, en onder welke voorwaarden.

De rode en de blauwe pil van de tv

Voor het eerst vertelde iemand op de Nederlandse tv zo uitgebreid over de commons: mensen die naar vermogen samenwerken, samen iets beheren, het vruchtgebruik van hun arbeid en kennis met anderen delen, en niet uit zijn op winst of expansie. Denk aan de oude meent, of iets moderner: de coöperatie.

In de digitale wereld stikt het ervan. Wikipedia is het bekendste voorbeeld: mensen die zonder geldelijk gewin hun kennis over zowat alles delen, die onbaatzuchtig elkaars werk verbeteren, verfijnen en updaten, en die kennis gratis beschikbaar stellen. Wikipedia is groter en actueler dan elke andere encyclopedie, en hoewel het systeem niet perfect is, is het een monument van kennis en het mooiste bewijs denkbaar van de menselijke hang naar samenwerking. En allemaal om niet.

De aflevering van Zomergasten waarin Marleen Stikker dit weekend schitterde, zette samenwerking centraal. Samen hacken, samen bouwen, samen onderzoeken, samen delen, samen brainstormen. In fragmenten en verhalen liet ze zien hoeveel mensen kunnen bereiken wanneer ze zich gemeenschappelijk op een klus werpen.

Nee, ze had het niet over de deeleconomie. Uber en Airbnb zijn bedrijven die er met alle informatie en het leeuwendeel van de winst vandoor gaan. Zulke platforms stimuleren vooral de gig economy, de los-vaste, onzekere banen, en bevorderen de economisering van alle hoeken en gaten van ons dagelijks leven. Stikker zette de schijnwerper op mensen die zelf uitzoeken hoe je je spullen kunt repareren en daar vervolgens handleidingen voor op internet zetten. Op mensen die nadenken hoe je alle data die een stad genereert kunt aanwenden voor de bewoners en bezoekers van die stad, zonder haar over te leveren aan bedrijven die met die data aan de haal gaan en uitbaten.

Ze had het over open source, stemcomputers en privacy, over technologielabs en hackers, over vooraannames die ingebed zijn in software, over eigendom en eigen beheer. Maar ze klonk nooit nodeloos ingewikkeld: ze lardeerde haar betoog volop met voorbeelden en filmfragmenten. En ze was prettig gedecideerd: nee, we hoeven onze privacy niet te verliezen, dat is helemaal geen noodzaak. Maar dan moeten we wel zelf aan de slag, en van consumenten weer burgers worden.

Of het haar bedoeling was, weet ik niet; maar Stikker bood al doende precies datgene aan waarom ze Kate Rayworth die avond roemde. Rayworth wist met haar donuttheorie een samenhangend narratief te bieden waarin ze de economie van het genoeg verbond met mensenrechten en duurzaamheid, en daardoor ineens allerlei politieke doelen aaneen smeedde. Ook Stikker deed dat: de commons waren de rode, verbindende draad in haar verhaal.

Dat is wat Zomergasten moet doen: onderbelichte verhalen het volle pond geven. Eerder Rutte, en straks Wiebes de avond gunnen, is ons weer de blauwe pil door de strot duwen.

 
Afbeelding: © Waag.org

Uw volgende bank: Facebook

FaceBankGrote techbedrijven zoals Amazon, Facebook en Google proberen steeds nieuwe markten te verzwelgen. Waar Amazon begon met boeken en films, en daar later wasmachines en schoenen aan toevoegde en tussendoor allerlei techbedrijfjes opkocht (een weg die ook het Nederlandse Bol.com volgt), hebben ze de laatste jaren nogal ‘afwijkende’ bedrijven opgekocht. Denk aan de overname vorig jaar van Whole Foods Market, een Amerikaans-Britse supermarktketen voor biologische producten. De laatste aanwinst, nog geen anderhalve maand geleden: PillPack, een online apotheek die tevens beschikt over grote hoeveelheiden patiëntengegevens.

Google heeft een tijdlang geprobeerd haar eigen versie van patiëntendossiers op te zetten (Google Health), en tracht daarnaast al een tijdje zijn voet tussen de deur te krijgen op het vlak van de kleine betalingen, via Google Wallet. Tot nu toe hebben ze PayPal niet kunnen wegvagen, maar de markt van onderlinge betalingen – van privépersoon naar privépersoon – is een zeer verleidelijke. En het wordt er steeds drukker.

De nieuwste mededinger op dat vlak: Facebook. Vanwege veranderingen op zowel de Europese als de Noord-Amerikaanse regelgeving over data-uitwisseling en open data, mogen derde partijen banken tegenwoordig vragen hun allerlei gegevens over hun klanten ter beschikking te stellen. Zowel Facebook als Amazon zijn daarin zeer geïnteresseerd.

Natuurlijk is toestemming van de klant een vereiste, maar tegelijkertijd is dat een makkelijk te nemen horde. Amazon speelt nu al ongetwijfeld met het idee haar klanten een maand gratis toegang tot Amazon Prime te geven, in ruil voor toegang tot hun bankgegevens – denk aan zaken als saldi, transacties en uitgeefpatronen. Het akelige van die te verlenen toestemming, is voorts dat die eenzijdig is. Indien u Facebook toegang verleent tot uw transacties, krijgen ze automatisch toegang tot de gegevens van mijn transacties met u, zelfs wanneer ik Facebook die toestemming heb ontzegd.

Je zit in de apps die Facebook nu bedenkt nog steeds gewoon bij je ‘eigen’ bank, maar doet allerlei onderlinge betalingen – geld voor een gezamenlijke lunch, samen de rekening delen na een etentje, een verrekening voor een tweedehands aankoop – dan via Facebook Messenger; zo ongeveer wat je nu met Tikkie kunt doen.

Maar Tikkie legt alleen een handig en haast onmerkbaar laagje over ‘ouderwetse’ bankoverschrijvingen, net zoals PayPal al deed. En Tikkie kijkt niet verder dan je betalingen. PayPal wel, en dat heeft dan ook geregeld accounts afgesloten en saldi bevroren omdat iemand volgens obscure regels ‘verdacht’ of een account ‘niet opportuun’ zou zijn.

Facebook wil meer. The Wall Street Journal berichtte gisteren dat Facebook met een aantal grote Amerikaanse banken in gesprek is om te ‘bekijken’ welke diensten zij hun klanten kunnen leveren, in ruil voor de bankgegevens van die klanten.

Een privacyschendend ‘vriendennetwerk’ dat mijn data aan adverteerders verkoopt. Ik kan niet wachten om mijn onderlinge betalingsverkeer ook via hen te laten lopen. What could possibly go wrong?

 
Afbeelding: via https://medium.com/@shortsample/facebook-is-a-bank-b9f4f7d6e64d

Chantage

bitcoinHa ha ha. Vanavond kreeg ik een Engelstalig blackmail-mailtje: iemand die claimt mijn wachtwoorden en al mijn contacten te hebben, en precies weet welke vunzige videosites ik bezoek en die bovendien video’s heeft van de perverse dingen die ik achter mijn computer doe. Nu is mijn webcam afgeplakt, maar dat terzijde. Iemand zin om deze Lupe te helpen traceren? Misschien kunnen we het vod wat trammelant bezorgen. Oh en als er rare video’s van ‘mij’ verschijnen, dan weet u wat er aan de hand is :)

Eerst de mail, dan de headers.

Mail van Lupe:

I will directly come to the point. I know that link_me2 is your pass word. More importantly, I do know about your secret and I’ve evidence of this. You don’t know me personally and no one employed me to investigate you.

It’s just your bad luck that I stumbled across your misdemeanor. In fact, I actually placed a malware on the adult vids (porn) and you visited this site to have fun (you know what I mean). When you were busy watching video clips, your web browser started functioning as a Rdp (Remote control desktop) with a key logger which provided me access to your display screen and webcam. Just after that, my software program gathered every one of your contacts from your messenger, fb, as well as mailbox.

Next, I put in more hours than I probably should have into your life and made a double screen video. 1st part displays the recording you had been viewing and second part displays the view from your web camera (its you doing dirty things).

Honestly, I’m ready to forget all about you and allow you to continue with your daily life. And my goal is to offer you two options that will achieve that. The above choices either to ignore this letter, or perhaps pay me $3600. Let’s explore these 2 options in details.

Option 1 is to ignore this message. You should know what is going to happen if you opt this path. I definitely will send your video to your entire contacts including friends and family, colleagues, and so on. It doesn’t protect you from the humiliation your household will face when friends and family find out your sordid details from me.

Other Option is to pay me $3600. We will call it my “privacy fee”. Now let me tell you what happens if you choose this path. Your secret remains your secret. I’ll destroy the video immediately. You continue on with your daily life as if nothing like this ever happened.

Now you may be thinking, “I should go to the cops”. Let me tell you, I have covered my steps to ensure this message cannot be linked returning to me and it will not steer clear of the evidence from destroying your daily life. I’m not trying to break your bank. I just want to get paid for efforts and time I put into investigating you. Let’s assume you have chosen to make all this go away and pay me the confidentiality fee. You will make the payment through Bitcoins (if you don’t know this, type “how to buy bitcoins” in google)

Required Amount: $3600
Receiving Bitcoin Address: 169rDGiiDxTKknBYgLPDq4sCQJjKgejkni
(It is cASe sensitive, so copy and paste it carefully)

Tell no-one what you should be transferring the bitcoin for or they possibly will not sell it to you. The task to obtain bitcoin usually takes a short time so do not put it off.
I’ve a special pixel in this message, and right now I know that you’ve read this mail. You have 2 days to make the payment. If I don’t receive the BitCoin, I will, no doubt send your video recording to your entire contacts including close relatives, colleagues, and so on. You better come up with an excuse for friends and family before they find out. Nonetheless, if I do get paid, I’ll destroy the video immediately. It is a non-negotiable offer, thus please don’t waste my personal time and yours. Your time has started.

Headers:

Return-Path:
Delivered-To: karin@spaink.net
Received-SPF: Pass (sender SPF authorized) identity=mailfrom; client-ip=40.92.255.32; helo=apc01-hk2-obe.outbound.protection.outlook.com; envelope-from=mamedwardoneilllta@outlook.com; receiver=karin@spaink.net
Received: from APC01-HK2-obe.outbound.protection.outlook.com (mail-oln040092255032.outbound.protection.outlook.com 1)
(using TLSv1.2 with cipher ECDHE-RSA-AES256-SHA384 (256/256 bits))
(No client certificate requested)
by mail.high5.nl (Postfix) with ESMTPS id 6D1E19AA7F9
for ; Sat, 14 Jul 2018 21:26:15 +0200 (CEST)
DKIM-Signature: v=1; a=rsa-sha256; c=relaxed/relaxed; d=outlook.com;
s=selector1;
h=From:Date:Subject:Message-ID:Content-Type:MIME-Version:X-MS-Exchange-SenderADCheck;
bh=qghn3dGNPjiUb7Dla0JPse1sKmoutEJrYqs/3hvjf2E=;
b=ZIkmhLDlNXW73lSHi9debfIyfg7hFw76+L3p5KmxCeOZ78O/DS16pNMqU7jVs4DD5pJWINzCJ0wBs18DrnLYJti2YpAG1No9VrRmKbYjlFHlH+vAvEQKhL7SeByRG0lwh/XT6s/Da8EIFiqoo5F9WyA0ycynf8cWGG1BOCDyqzi1UGMDhIF7AOvfFUIAf8xl7LfqEMrP8226IpWHtUOD5fXztB/qjSai9PtBD89SRcOrEhLCvFgHOhKps8nDrs2iPdR6PM9SATWY8UjJ3Lj/tG2JCrSNIw7v6KOdKVEHa3maBzRjyU3AGYcuCwNjNJ6DvCo1vA5VtR37S5iegDd2TQ==
Received: from HK2APC01FT005.eop-APC01.prod.protection.outlook.com
(10.152.248.60) by HK2APC01HT010.eop-APC01.prod.protection.outlook.com
(10.152.248.133) with Microsoft SMTP Server (version=TLS1_2,
cipher=TLS_ECDHE_RSA_WITH_AES_256_CBC_SHA384_P384) id 15.20.952.17; Sat, 14
Jul 2018 19:26:10 +0000
Received: from SG2PR06MB2409.apcprd06.prod.outlook.com (10.152.248.54) by
HK2APC01FT005.mail.protection.outlook.com (10.152.248.148) with Microsoft
SMTP Server (version=TLS1_2,
cipher=TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA256_P256) id 15.20.952.17 via
Frontend Transport; Sat, 14 Jul 2018 19:26:10 +0000
Received: from SG2PR06MB2409.apcprd06.prod.outlook.com
([fe80::b8a8:f9b2:c629:8b68]) by SG2PR06MB2409.apcprd06.prod.outlook.com
([fe80::b8a8:f9b2:c629:8b68%13]) with mapi id 15.20.0952.021; Sat, 14 Jul
2018 19:26:09 +0000
From: Lupe Samuel
To: “karin@spaink.net”
Subject: Re: karin – link_me2
Thread-Topic: karin – link_me2
Thread-Index: AQHUG6iE8WyrTKUjnU+QbCTBga/2IA==
Date: Sat, 14 Jul 2018 19:26:09 +0000
Message-ID:
Accept-Language: en-US
Content-Language: en-US
X-MS-Has-Attach:
X-MS-TNEF-Correlator:
x-incomingtopheadermarker: OriginalChecksum:2F256537CF006077ED14336DB5A56DD1DB33146BF3F2ADC96CEED5C599274899;UpperCasedChecksum:66B53EDA47EF6793B429CEBD02DE7C9204A6F0338D98E60BF228BE242C601DF3;SizeAsReceived:6788;Count:43
x-tmn: [BP208SReWpvtYUizdFjGIqUO3qnALeMP]
x-ms-publictraffictype: Email
x-microsoft-exchange-diagnostics: 1;HK2APC01HT010;7:gL/TyZHWTdnWkRXhHVACvtc/D+CA3IBWY5pZdYqDMfFziFDAm19Fndc3IJBoGl1UwLaMV5hoUuQ38JD9jgKacm07Wt9NPeetex9iT5EIqNYPCbrTBm+WcTcLBbExe6ILwJTSGvVLk+bNRH1bViN1kg6pQq7SeccuOt/cKMQ68Pk01q02A/l7nfmqC8fGksSKpVfM1KH542hSmwdIOh9i86dg7gIYHF3WGKSddbKjsMX0DosyHvLPcfn2jIUQy34e
x-incomingheadercount: 43
x-eopattributedmessage: 0
x-microsoft-antispam: UriScan:;BCL:0;PCL:0;RULEID:(7020095)(201702061078)(5061506573)(5061507331)(1603103135)(2017031320274)(2017031324274)(2017031323274)(2017031322404)(1603101448)(1601125500)(1701031045);SRVR:HK2APC01HT010;
x-ms-traffictypediagnostic: HK2APC01HT010:
x-exchange-antispam-report-cfa-test: BCL:0;PCL:0;RULEID:(82015058);SRVR:HK2APC01HT010;BCL:0;PCL:0;RULEID:;SRVR:HK2APC01HT010;
x-forefront-prvs: 07334CBCCD
x-forefront-antispam-report: SFV:NSPM;SFS:(7070007)(189003)(199004)(87572001)(86362001)(8676002)(2501003)(5250100002)(7696005)(8936002)(106356001)(20460500001)(6916009)(74316002)(105586002)(1730700003)(5660300001)(81156014)(5640700003)(229853002)(54896002)(14454004)(55016002)(82202002)(6346003)(68736007)(25786009)(99286004)(26005)(426003)(2900100001)(486006)(476003)(2351001)(14444005)(256004)(56003)(6246003)(19627235002)(10156002)(33656002)(97736004)(104016004)(53906005)(102836004)(6436002)(98824002)(42262002);DIR:OUT;SFP:1901;SCL:1;SRVR:HK2APC01HT010;H:SG2PR06MB2409.apcprd06.prod.outlook.com;FPR:;SPF:None;PTR:InfoNoRecords;MX:1;A:1;LANG:;
received-spf: None (protection.outlook.com: outlook.com does not designate
permitted sender hosts)
authentication-results: spf=none (sender IP is )
smtp.mailfrom=mamedwardoneilllta@outlook.com;
x-microsoft-antispam-message-info: UIUU1e46EGQCTrn0M1cBDU3Yahm7igV3tA24Uy2Q0ByZm1MgCVPmwh+iA4JRIB2D1Zctyvjh0aSJJcgkBTvxq/gN1YLFDUnULb5lO5roMdzF9p5jcbLFQyUy7BzQHjjcfuiMkSl0kKBv3buJF6+kbyg88CH5xfCEKkqx6boKHXvicP3FtJn2UpwGQChY5sFtO9NaOgRYf7dpeXPL0cCfZqnpbi/A63zJVY7RiyN+8ko=
Content-Type: multipart/alternative;
boundary=”_000_SG2PR06MB2409E2937AC07AF15AE66C2BC85F0SG2PR06MB2409apcp_”
MIME-Version: 1.0
X-OriginatorOrg: outlook.com
X-MS-Exchange-CrossTenant-RMS-PersistedConsumerOrg: 7181d4b0-87d6-4f4e-ba33-0d3746212cec
X-MS-Exchange-CrossTenant-Network-Message-Id: 70f93cd1-0374-4155-7f21-08d5e9bfa770
X-MS-Exchange-CrossTenant-rms-persistedconsumerorg: 7181d4b0-87d6-4f4e-ba33-0d3746212cec
X-MS-Exchange-CrossTenant-originalarrivaltime: 14 Jul 2018 19:26:09.9517
(UTC)
X-MS-Exchange-CrossTenant-fromentityheader: Internet
X-MS-Exchange-CrossTenant-id: 84df9e7f-e9f6-40af-b435-aaaaaaaaaaaa
X-MS-Exchange-Transport-CrossTenantHeadersStamped: HK2APC01HT010

–_000_SG2PR06MB2409E2937AC07AF15AE66C2BC85F0SG2PR06MB2409apcp_
Content-Type: text/plain; charset=”Windows-1252″
Content-Transfer-Encoding: quoted-printable

Show 1 footnote

  1. 92.255.32

Ondermijning als verdienmodel

Beeld: Pakhuis de Zwijger, PdZ x NRCZijn telefoon bleef maar overgaan, vertelde dataspecialist Jesse Luk, nadat NRC Handelsblad een lang artikel publiceerde over zijn software om bijstandsfraude op te sporen. Drie Nederlandse gemeenten testen inmiddels of ze met het pakket van Totta Datalab de pakkans van fraudeurs kunnen vergroten.

Totta heeft zelflerende software ontwikkeld, die gevoed is met de gegevens van duizenden geregistreerde bijstandsfraudeurs. Hun datapatronen zijn in kaart gebracht, en daaruit is een algoritme gedestilleerd. Nu kan Totta’s model op basis van het verleden de huidige fraudeurs herkennen. Daarnaast kijkt de data-analyse naar uitschieters, via een zogeheten anomaliedetector: daarmee identificeren ze mensen die flink van het gemiddelde afwijken. Totta’s aanname is dat ook zij fraudeurs zijn.

Nadat Totta’s data-analyse mogelijke fraudeurs heeft aangewezen, zoeken controleurs uit of de verdenking terecht is. Dat moet ook wel: bij zulke beslissingen is de menselijke toets verplicht. Een computer mag niet zelfstandig beslissen dat iemands uitkering moet worden gestopt, noch vaststellen dat iemand een misdrijf heeft begaan.

Hoe accuraat is Totta’s analyse? Luk is opgetogen: van de honderd mogelijke fraudeurs die zijn model aanwijst, stellen controleurs nadien bij de helft metterdaad fraude vast. Maar daarbij zitten ook gevallen die de gemeenten al ontdekt hadden. De toegevoegde waarde schat Luk op 25 tot 30 procent.

Maar dat betekent ook – en dat is vrij ernstig – dat Totta in de helft van de gevallen mensen als mogelijke fraudeurs aanwijst, terwijl er na uitgebreid onderzoek niets van die beschuldiging kan worden hardgemaakt. Daarover haalt Totta de schouders op: bij de helft waarbij nader onderzoek géén fraude aantoonde, konden toch nog best fraudeurs zitten, stelt Luk. Mogelijk was het menselijke onderzoek simpelweg minder effectief dan zijn algoritmes…?

Op een bijeenkomst met Totta afgelopen week in Pakhuis de Zwijger vroeg ik door. Is het niet vreemd dat zelfs nadat menselijk onderzoek – waarbij bovendien veel meer datasets in stelling kunnen worden gebracht dan Totta mag gebruiken – Totta eerder twijfelt aan de capaciteiten en middelen van de controleurs, dan aan zijn eigen algoritmes? Is het niet een schending van burgerrechten dat mensen nu worden aangemerkt als verdachten, op basis van gegevens over andermans gedrag in het verleden? En is het geen ondermijning van rechtsstatelijke principes, wanneer een invasief onderzoek – want invasief is het per definitie, wat die controleurs doen – nu niet langer worden getriggerd door daadwerkelijke, concrete aanwijzingen, maar op grond van een theoretisch vermoeden?

Daar had Luk niet echt antwoord op. Mooi toch dat we fraude zo beter kunnen opsporen? En hun datamodel was zelflerend, dan haal je die systeemfoutjes er toch uiteindelijk vanzelf uit? Maar een fijn verdienmodel is het wel, die ondermijning van de rechtsstaat.

Ondermijning

zwemmen of verzuipenNiemand hoeft medelijden met Facebook te hebben: het bedrijf wist precies wat er gaande was – erger: het had zijng software erop ingericht – maar deed tegenover de buitenwereld of zijn neus bloedde. In 2015 bleek al dat via apps die derden op Facebook konden laten circuleren, niet alleen gegevens van de gebruikers van die apps konden worden geoogst, maar ook die van al hun contacten.

Facebook waarschuwde gedupeerden niet, noch stelde het toezichthouders op de hoogte van dit datalek – nee, Facebook ontkende. Het veranderde stilletjes iets aan zijn software, en dat was dat.

Dat maakte Zuckerbergs excuses van afgelopen week uiterst goedkoop: ‘vertrouwen beschaamd… fouten gemaakt … ervan geleerd … nooit meer doen’, zo’n soort riedel.

Inmiddels had Cambridge Analytica al een paar jaar vrijelijk kunnen stunten met de hoogst gevoelige gegevens die ze aan 50 miljoen Amerikanen hadden ontfutseld, en had het die benut voor gerichte online campagnes ten bate van presidentskandidaat Donald Trump.

Vorig jaar moest Facebook ook al bakzeil halen. Het was onbestaanbaar dat hun netwerk was gebruikt voor de massale verspreiding van nepnieuws, betoogde het bedrijf nog in september: het ging hooguit om 3000 valse berichten. In november 2017 gaf het toe dat er inderdaad op grote schaal neppagina’s en nepberichten op Facebook waren rondgepompt, meestal door Russische bronnen. In totaal zijn die berichten door circa 126 miljoen Amerikanen gezien, moest het bedrijf bekennen. En weer waren de excuses goedkoop: ze zouden een tooltje bouwen dat mensen zou waarschuwen – anderhalf jaar na dato – als zij nepnieuws hadden geliked. (Dat tooltje is er overigens nooit gekomen.)

Overheden zijn traag, internationale beteugeling is lastig, toezichthouders secuur en hun werk tijdrovend. Als wetten en sancties uitblijven, is het enige dat nog helpt: stemmen met de voeten.

Nu helpt het niet bijster veel als individuele gebruikers hun account wissen, maar het is een teken aan de wand dat #DeleteFacebook de afgelopen week zo’n opgang maakte. Ook zijn veel gebruikers eindelijk eens gaan opvragen welke gegevens Facebook allemaal van ze heeft opgeslagen, en dus: verkocht (kijk onder ‘Settings’, ga naar ‘General’, kies ‘Download a copy of your Facebook data’, lees en huiver.)

Maar interessanter is dat andere bedrijven er nu de buik van vol krijgen. Unilever dreigde in februari te stoppen met advertenties op Facebook en YouTube als die bedrijven niet snel iets tegen nepnieuws zouden ondernemen. Multimiljardair Elon Musk verwijderde woedend zijn bedrijfspagina’s voor zowel SpaceX als Tesla van Facebook, elk met een paar miljoen fans; en investeerders verkochten zoveel aandelen in het bedrijf dat de koers van Facebook met vijf miljard dollar kelderde.

Boycot, divest and sanctions: wellicht werkt die strategie. Maar inmiddels heeft Facebook het vertrouwen in de democratie een ongekende klap toegebracht.

 
Foto: Flickr, mkhmarketing

Kies met wijsheid

unitedNa de doodse stilte van GroenLinks de afgelopen week over het voor de zoveelste keer geschonden demonstratierecht of de nauwgezette achtervolging door extreemrechts van Zwarte Piet-protesteerders, krijg ik redelijk mijn bekomst van de partij die zolang de mijne was.

Waar Klaver dezer dagen wel druk mee was: hengelen naar het ‘gewone’ volk. ‘Als het alleen maar gaat over identiteit, migratie en andere sociaal-culturele thema’s, wint rechts. Wij willen vanaf nu de nadruk leggen op geld, werk en de macht van het bedrijfsleven,’ zei hij, en kondigde een ‘kantinetoernee langs fabrieken, voetbalclubs en schaftketens’ aan. O hemel, GroenLinks gaat de strijd met de SP aan, compleet met nauw verholen mannelijkheidsideologie. (De werksters in de thuiszorg en de schoonmaak beschikken zelden over kantines.)

Kies je opponenten met wijsheid, Klaver.

Ik vrees dat wanneer GroenLinks het níet over migratie heeft, dat terrein helemaal in handen valt van rechts en extreemrechts: dat zou een doodenge ontwikkeling zijn. Los daarvan: waarom is ‘identiteit’ ineens zo in het verdomhoekje gekomen bij GroenLinks?

Van een term als diversiteit word ik persoonlijk ook niet vrolijk. Die is me te cosmetisch: hup, een vrouw erbij, en iemand met wat meer kleur, en klaar ben je, zelfs al heb je verder nog geen sikkepit in je beleid veranderd. Ook ‘identiteitspolitiek’ vind ik een gemankeerde term. Het zijn immers niet de vrouwen, de migranten, de homoseksuele, de transseksuele of zwarte mensen die zichzelf uit eigen beweging zo benoemden: zij, wij, zijn door anderen in die hokjes geduwd. En we krijgen straf als we daaruit willen breken.

En laten we wel zijn: de mensen die zeuren dat identiteitspolitiek zo hinderlijk is, zijn meestal juist diegenen die zelf grote groepen mensen met gemak als ‘anders’ hebben gelabeld – niet de mensen die graag uit die hokjes willen stappen. Temeer daar zulk hokjesdenken altijd elkaar uitsluitende paren gebruikt: wit/zwart, man/vrouw, hetero/homo; hokjes waarbij de een boven de ander staat, en stilletjes de norm is – en dus nooit om verantwoording of uitleg wordt gevraagd.

Identiteitspolitiek en hokjesdenken gaan om niets anders dan mensenrechten, daar moet je als GroenLinks nooit badinerend over doen. Maar Klaver wil liever op kantinetoernee.

Er zijn andere partijen die me trekken, maar de vrees dat ze de kiesdrempel niet halen, weerhoudt me steeds. Mijn ideale partij zou een fusie zijn tussen Artikel1/Bij1 en de PiratenPartij. De een is geweldig in het nadenken over inclusie, over mensenrechten en identiteit, en weet hoe je coalities bouwt tussen uiteenlopende groepen mensen. De ander excelleert in nadenken over publiek versus privaat, over openbare ruimte, privacy, surveillance en technologie.

Zou zo’n partij deelnemen aan de Amsterdamse gemeenteraadsverkiezingen, dan won die subiet mijn hart – en mijn stem.

Straatverbod

Gabi van Driem, foto: Mark van der ZouwIn 2003 stuitte ik op een man die op internet ijzerenheinig een discussie over polygamie voerde. Gaandeweg bleek zijn opvatting van polygamie nogal afwijkend te zijn: hij vond dat vrouwen – of eigenlijk, één vrouw in het bijzonder, laat ik haar M noemen – hem geen seks mochten weigeren, al hadden ze al jaren een relatie met een ander en taalden ze niet naar hem. Sterker, hij vond dat hij de vrouw in kwestie gerust zwanger mocht maken. Het was oneerlijk dat ze hem negeerde: als brugpieper was hij immers al verliefd op haar geweest, dat gaf hem toch rechten?

Hoe meer hij vertelde, hoe bezorgder ik werd. Hij leek een obsessieve stalker en meldde geregeld dat hij uit pure frustratie over M’s afstandelijkheid de boel bij hem thuis aan gort had geslagen. Toen hij zijn onwillige liefdesobject bij haar volle naam noemde, zocht ik uit wie ze was: gelukkig was haar naam ongewoon, en wist ik inmiddels waar ze woonde. Met enige schroom belde ik M op.

En óf ze die man kende! Hij had haar meermalen en gedurende lange tijd gestalkt, zodat werkgevers, buren, collega’s en vrienden inmiddels instructies hadden om haar af te schermen. Ik vertelde M wat haar stalker publiekelijk over haar schreef; ze schrok zich suf. Hij had vorige week nog aan de deur gestaan. We deden allebei aangifte. De politie nam ons bloedserieus en ontbood de man op het bureau. Veel konden ze niet uitrichten: hij had M immers niets aangedaan. ‘Nog niet,’ dachten M en ik in koor.

Er kwam pas schot in de zaak toen ik aan Gabi van Driem dacht. Afgelopen weekend stond er een interview met haar in PS: Van Driem, de eerste feministische advocaat van ons land, is de bedenker van het straatverbod voor stalkers, een juridische constructie die stalkers verbiedt zich in de nabijheid van hun slachtoffers te begeven.

Van Driem begon namens M een civiele zaak tegen de man. Daarbij ligt de juridische bewijslast lager dan in een strafzaak; zodoende hoefde M niet te wachten tot haar belager haar metterdaad iets zou aandoen. Met mijn uitdraaien van zijn relaas op internet en M’s gedocumenteerde verhaal wist Van Driem bij de rechter in mum van tijd een contact- en gebiedsverbod voor de stalker af te dwingen.

Toen de man die uitspraak meermalen schond, kon het OM vervolgens alsnog ingrijpen: hij werd opgepakt, in voorarrest gezet, moest voorkomen en werd ontoerekeningsvatbaar verklaard. Hij heeft uiteindelijk enige jaren vastgezeten. Psychotisch, obsessief, manisch, totaal op M gefixeerd, en bij vlagen bloedje agressief.

Van Driem had de koninklijke weg gevonden voor het lastige parket waarin M zich bevond: door een civiele procedure tegen de man te beginnen, had ze – toen hij die rechterlijke uitspraak keer op keer schond – het OM voldoende motief gegeven om alsnog een strafzaak tegen hem te instigeren.

Van Driem is haar gewicht in goud waard. Heeft ze eigenlijk al een lintje?