Staat van de wereld 8

De afgelopen week heb ik een gesprek gehad met iemand uit de verzekeringswereld en een directeur van een basisschool gemaild voor een gesprek. Daarnaast heb ik verder gelezen in het boek van Harrari (lessen voor de 21e eeuw). Ik merkte dat ik afgelopen week een beetje verdwaald was in de richting die ik op wilde gaan. Uiteindelijk heb ik in mijn statusupdate de keuze gemaakt om verder te gaan met de hoofdvraag: Hoe ver reikt de invloed van tech giganten, en in hoeverre zijn mensen hier van bewust? Wat ik nog graag in het leerteam zou willen bespreken is de manier waarop jullie desk research doen, ik merk dat ik zelf best wel verdwaal in Google (of een andere browser die minder data verzameld p) als ik artikelen etc. opzoek. Hierdoor doe ik wel kennis op maar zet ik voor mijn gevoel geen concrete stappen.

Onderzoek

Rechtspraak in algoritme

Ik heb het vanochtend contact gehad met rechstpraak.nl over de manier waarop rechtspraak.nl (de site voor jurisprudentie oa op te zoeken) hun links rangschikt namelijk ‘relevantie’ dit vond ik erg vaag. Ze antwoorden wel redelijk duidelijk maar het verbaasde oprecht dat rechtspraak.nl online geen pagina heeft waarop te zien hoe zij bepalen welk artikel boven en onder komt te staan. Terwijl dit best belangrijk is voor de rechtspraak van Nederland.

Met een student rechten heb ik het hier over gehad die zij dat het inderdaad best vreemd is en dat dit al bijna een onderzoek opzich zou kunnen zijn….

Interview

Interview Jay student rechten + werkzaam in verzekering sector

Ik doe op dit moment onderzoek naar bewustwording van technologische ontwikkelingen. In het bijzonder de macht van grote tech bedrijven in verschillende sectoren.

Ik merkte dat er al veel gesproken wordt over algoritme in rechtspraak. Zo gebruikt de Nederlandse overheid al op grote schaal voorspellende algoritmes om fraude en criminaliteit op te sporen.

Op dit moment zit ik nog in de beginfase van het onderzoek, dus het is nog vooral om gedachtes uit te wisselen. Daarnaast weet ik zelf nog erg weinig van rechtenstudies.

Wat voor een vakken volg je op je bij een rechtenstudie?

Dat is eigenlijk heel breed, je gaat er steeds dieper in.

De basis hoe het recht in elkaar zit: je hebt het publiek recht en het privaatrecht. Het publiekrecht is tussen overheid en burgers. Privaatrecht is heel breed dit gaat tussen personen, families, overdracht van een huis etc.

Krijgen jullie bij rechten ook lessen in technologische ontwikkelingen?

Nog vrij weinig eindelijk. De wet loopt eigenlijk altijd achter de huidige situatie. Er moet eerst iets gebeuren voordat er iets wordt veranderend. Er is wel een pilot voor digitaal procederen die is ingezet.

Het is ook de vraag, hoe vaak moet een wet worden aangepast? Is iets in een digitale omgeving anders dan in een fysieke omgeving.

Weet je wat een algoritme is?

Ik gok een bepaalde code die op basis van data een voorspelling kan doen.

Ja perfect! Ik heb een precieze definitie gevonden voor rechten: Een algoritme is een reeks instructies die door een computer kan worden opgelost. Net als een recept. Zo’n instructie kan simpel zijn: als iemand 10 kilometer te hard rijdt dan krijgt hij een boete van een bepaald bedrag. Maar ze kunnen ook ingewikkelder zijn en honderden feiten laten meewegen om zo een voorspelling of schatting te maken.

Hoe denk jij hierover als je dit zo hoort, welke gedachtes krijg je?

Juridisch gezien weet ik dat er bepaalde verboden op zitten. Dit heeft te maken met de avg. Een bedrijf mag bijvoorbeeld geen besluiten nemen die voortkomen uit volledig profilering.

Om wetten of strafzaken op te zoeken gebruik je hiervoor een boek of een computer?

Er zijn een aantal databanken voor jurisprudentie. Je kunt kiezen tussen een aantal verschillende bronnen. Rechtspraak.nl is van de rechtbank zelf. Navigator is een iets geavanceerder systeem dat onder studenten vaak ook de voorkeur heeft.

Hoe wordt rechtspraak.nl gerangschikt?

Dit weet ik niet precies, maar dit is volgens mij wel te vinden.

Ik zag een talk van Ybo Buursma op de Radboud Universiteit die (terecht) stelde dat zo’n zoekmachine een algoritme is en bepaald wat boven komt te staan en wat onder.

Ik denk dat er best vaak wordt door gekeken naar verdere resultaten. Niet zoals op Google dat je op pagina 5 nooit komt. Doordat je de situatie heel specifiek gaat zoeken, ga je erg lang door.

Je gaf aan dat je bij een verzekeringsmaatschappij werkt. Verzekeringsmaatschappij ASR heeft Vitality opgezet, een beloningssysteem om te bewegen. Je koppelt een activity trackers als Apple Watch aan je Vitality app om ze je gegevens bij te houden. Het doel is om meer te bewegen.

Ik snap dat het idee van een verzekeringsmaatschappij die goed wilt zijn voor de wereld en daarnaast ook hun schadelasten beperken.

Maar is het niet ook een beetje eng wanneer mijn verzekeraar alles weet over mijn gezondheid?

Het komt denk ik wel voort uit een maatschappelijke discussie. Hoe moet een verzekeraar het nou precies doen? Zou iemand met overgewicht meer moeten betalen? Zo’n vitality pakket zou daar een uitkomst voor kunnen zijn. Je kunt zelf kiezen of je zo’n fitbit aansluit. Ik vind het wel oneerlijk voor mensen die niet in staat zijn om zoveel te bewegen. Dit zou een goede vraag voor ASR zijn.

Je kiest er wel zelf voor dat je je gegevens afgeeft, het is niet dat je verzekeraar mee kijkt op Facebook.

Ik snap je punt, maar wordt privacy zo niet een luxegoed? De rijke mensen kunnen het veroorloven om geen korting te krijgen.

Dat is een persoonlijke afweging die je maakt wil ik voordeel krijgen door privacy op te offeren? Maar ik snap heel goed de vraag, in hoeverre heb je nog de keus om gegevens voor jezelf te houden. Een ander voorbeeld dat ik kan noemen is dat je een foto app hebt waarmee je foto’s kunt bewerken, wanneer jij die app niet kunt gebruiken zonder je locatie te delen is dit iets dat niet mag van de AVG. Zo moet er een afweging gemaakt worden.

Er wordt al gespeculeerd dat grote technologiebedrijven die enorm veel over ons weten samen werken met (Amerikaanse) verzekeringsmaatschappijen.

Hoe denk jij hierover?

Ik zie daar wel gevaren in ja. Vooral als je kijkt naar Amerikaanse praktijken waar privacy al een stuk lager ligt vraag ik me af hoe ze dat gaan regelen. Google heeft bijvoorbeeld algoritmes die kunnen zien of je rookt. Ik vind dat wel heel ver gaan als dat wordt ingezet bij verzekeringen.

Zou je kunnen bedenken dat dat soort Amerikaanse toestanden ook naar Nederland komen?

Ik denk dat dat een reëel optie is dat ze het overwegen. Maar ik denk wel dat de AVG dit tegen houd dit is echt een privacy waakhond. Er kunnen echt flinke boetes worden uitgegeven door zo’n autoriteit.

In het begin zij je, wetten lopen altijd achter op de huidige situatie. Is het dan niet een gevaar dat zo’n groot bedrijf voorloopt en uiteindelijk toch mazen vindt?

Ik denk het wel maar het punt is dat de AVG redelijk nieuw is. Omdat het zo nieuw is kun je kijken hoe een bepaald artikel moet worden geïnterpreteerd. Bij een tekortkoming in de wetgeving kun je soms ook iets verzinnen om een oplossing te vinden.

Maak je je zorgen om grote Amerikaanse tech bedrijven die hier heen komen?

Ja ik maak me daar wel zorgen om. Ik maak me niet alleen zorgen om de privacy schending van grote Amerikaanse bedrijven hier. Maar ook over de Amerikaanse overheid die er achter zit. Ik heb een scriptie geschreven over persoonsgegevens die ergens anders ter wereld wordt verzameld en de Amerikaanse overheid zegt dat ze erbij mogen. De conclusie hieruit was dat wanneer je als bedrijf persoonsgegevens wilt gebruiken van je klanten, zet ze niet op een Amerikaanse omgeving want dan mag de Amerikaanse overheid bij die gegevens.

Bronnen:
https://www.nrc.nl/nieuws/2019/11/18/stap-voor-stap-geef-je-elk-geheim-van-je-lichaam-weg-a3980745
https://www.emerce.nl/wire/debat-big-data-verzekeringen
https://www.forbes.com/sites/jefffromm/2020/03/24/brands-need-to-be-useful-during-covid-19/#524261427b64