Staat van de Wereld 7

Afgelopen week heb ik gekeken naar de sector rechten in combinatie met technologische ontwikkelingen. Opnieuw merkte ik dat er een omslag punt ligt in een interview. Bij de zorg en onderwijs was het ‘Hoe kan het dat Google (of andere bedrijven) dit gratis doen. Bij rechten verschilde dit maar de vraag ‘Hoeveel invloed heeft een algoritme op mijn zoekgedrag naar oudere rechtszaken’ is denk ik wel relevant. Naast dit heb ik iets nieuws ontdekt. Door mijn fascinatie dat grote tech bedrijven al in zo veel sectoren zitten kwam ik op het begrip ‘patenten’. Grote tech bedrijven vragen enorm veel patenten aan. Sommige van deze patenten zijn angstaanjagend, Facebook patent: ‘patent a method for predicting when your friends will die’, Deze patenten geven inzicht in de lijn die een bedrijf opgaat. De NY Times heet ooit en artikel hierover geschreven maar voor de rest zie ik maar weinig berichtgeving over de patent aanvragen. Dit terwijl ik de mensen die ik vertelde over deze patenten erg geschokt waren. Misschien iets dat ik graag dieper zou willen onderzoeken, om als middel te gebruiken voor die bewustwording.Daarnaast wil ik deze week gaan kijken hoe ik een stap hoger kan komen met mijn onderzoek, door mensen te spreken in die hoger in een sector zitten.

Onderzoek

Technologie in gezondheidszorg

AI kan doctoren helpen om borstkanker te zien op mammoram (afbeelding van de borstklier). Lieten onderzoekers van Google samen met medische centrums uit Amerika en Engeland weten. Het systeem is op dit moment nog voor studie en wordt nog niet gebruikt. Het is alleen een onderneming van Google binnen de medische wereld. Het systeem presteerde beter dan radiologen in het spotten van kanker. Google betaalde het onderzoek en werkte samen met onderzoekers van universiteit Chicago en twee Britse medische centrums. “Unlike humans, computers do not get tired, bored or distracted toward the end of a long day of reading mammograms.”

Technologie in rechten

AI in rechtspraak – raad voor rechtspraak – onderzoek

  • Heel concreet zal de rechtspraak moeten kunnen doorgronden wat er in technologische zin gaande is.
  • Ook spelen talrijke vragen rondom publieke waarde die in de knel komen gegeven specifieke kenmerken van ai.

Wat kunnen algoritme:

  • snel en slim stukken doorzoeken
  • analyse van rechtspraktijk
  • ondersteunen en beslissen

Over welke zaken wordt recht gesproken?

  • Auto die te hard rijdt krijgt een boete, echter staat niet overal een flitspaal dus op sommige stukken kun je te hard rijden zonder boet. We bouwen met opzet geen begrenzer in een auto.

Steeds meer producten produceren data, dit zorgt voor een compleet en intiem profiel van een persoon. Wil je dat al deze factoren mee wegen? Is een persoon meer dan zijn daad? Met algoritme wordt niet vanuit juridische normen geredeneerd maar naar die normen toe. Het systeem zoekt reeksen kenmerken die in zaken voorkomen die eenzelfde uitkomst hebben. In deze eerdere zaken kunnen aannames zitten die dan terugkomen. Het Black Box houdt in dat inzicht ontbreekt, men weet niet hoe de voorspelling tot stand gekomen is. Het constateren dat de norm is geschonden is slechts een eerste stap in het beslechten van een geschil. De robot rechter – RU – Ybo Buurma – video opname van lezing De robot is er nu al:

  • verkeersboetes
  • kinderbijslag
  • WOZ
  • PAS

-De rechter wordt geconfronteerd door uitkomsten van een computer. -Raad van State: “wij moeten AI snappen” -Een rechter moet kijken of iets af moet wijken (verkeersboete vervalt wanneer de bijrijder aan het bevallen is) Een ondersteunende technologie die al gebruikt wordt door rechters is ‘de zoekmachine’. Deze zoekmachine is een algoritme dat al is afgesteld welke zaak boven staat en welke niet. Problemen in de rechtspraak:

  • Welke data wordt geselecteerd voor het ai systeem
  • Computer denkt niet na (als je verleden als input neemt voor de computer, kijkt die niet of dit nog steeds klopt’

Voordelen:

  • Eerlijkheid
  • Efficiency

Nadelen:

  • Vooroordelen ai
  • Wordt de beslissing van een computer aanvaar door AI?

Patent oorlog technologie bedrijven

Facebook has filed thousands of patent applications since it went public in 2012. Another contemplates using your phone’s microphone to determine which TV show you’re watching. Others imagine systems to guess whether you’re getting married soon, The company has even attempted to patent a method for predicting when your friends will die. The number of patents doesn’t necessarily mean that Facebook is the most innovative in any field, but it does illustrate where the company is spending its research dollars and expects to have some return on investment in the future.

Interviews

Interview Sammie rechten student

Ik doe op dit moment onderzoek naar sociale omgang en bewustwording naar technologische ontwikkelingen. Ik merkte dat er al veel gesproken wordt over algoritme in rechtspraak. Zo gebruikt de Nederlandse overheid al op grote schaal voorspellende algoritmes om fraude en criminaliteit op te sporen.Op dit moment zit ik nog in de beginfase van het onderzoek, dus het is nog vooral om gedachtes uit te wisselen. Daarnaast weet ik zelf nog erg weinig van rechtenstudies.Wat voor een vakken volg je op je studie? 

De bachelor is heel breed. Je hebt zoal strafrecht, privaatrecht (tussen burgers onderling), arbeidsrecht, bestuursrecht (tussen overheid en burger), omgevingsrecht, milieurecht, internationaalrecht, europeesrecht. In de master kies je een van de gebieden. Zelf zit ik nu in mijn laatste jaar. En ga ik staats en bestuursrecht doen.   

Wat houdt recht in volgens een rechten student? 

Een bepaalde structuur van regels, en hoe je die vervolgens toepast op specifieke casussen. Je hebt de wet, het is aan de jurist om de regels toe te passen op een bepaalde situatie.  

Nu vroeg ik me af krijgen jullie bij rechten ook lessen in technologische ontwikkelingen?

Je krijgt wel lessen hoe je meer digitaal kunt procederen, dus digitaal stukken invoeren in plaats van naar een zitting gaan. Je kunt ook vakken kiezen om er zelf veel meer mee bezig te zijn, dit is alleen niet verplicht. Het is niet een heel groot onderwerp.  

Weet je wat een algoritme is? 

Ik heb er wel van gehoord maar ben geen expert.

Geen probleem, heb je misschien een gedachte over wat het zou kunnen in houden? 

Wat ik ervan begrijp is dat er een bepaalde dataverwerking is. Dus dat je een advertentie krijgt gebaseerd op wat je hebt gezocht. 

Ja goed! Ik heb een definitie gevonden voor rechten:Een algoritme is een reeks instructies die door een computer kan worden opgelost. Net als een recept. Zo’n instructie kan simpel zijn: als iemand 10 kilometer te hard rijdt dan krijgt hij een boete van een bepaald bedrag. Maar ze kunnen ook ingewikkelder zijn en honderden feiten meewegen om zo een voorspelling of schatting te maken. 

Hoe denk jij hierover als je dit zo hoort, welke gedachtes krijg je? 

Ja ik moet wel denken over strengere regels over de privacy die twee jaar geleden zijn opgesteld de AVG. Ik vraag me af in hoeverre gegevens gebruikt mogen worden volgens de wetgeving. De AIVD heeft volgens mij wel meer bevoegdheden hierin. Ik denk dat dit wel een botsing kan hebben in het recht, in hoeverre maak je inbreuk op iemand privacy.   

Stel je denkt aan de richting die jij op gaat, gemeentelijke wetgeving. Zie je je voor dat zoiets zou worden gebruikt om te bepalen of iemand een vergunning krijgt? Laat zeggen een vergunning voor een dakkapel. 

Ik denk dat het op gemeentelijk niveau wel meevalt, omdat ze vooral kijken naar de regels of je eraan voldoet. Ik denk eerder dat je dit in het strafrecht zou terugzien.

 Terugkomend op het wetboek met regels. Is dit een fysiek boek of is dit digitaal? 

We hebben voor de studie wel fysieke wetboeken, maar hier staat maar een heel klein deel in. Ook als je bijvoorbeeld bepaalde uitspraken wilt dan zoek je dit op, op het internet.  

Die uitspraken die je terugzoekt, zoek je die op google of een speciaal systeem?

Je hebt rechtspraak.nl, hierop kun je alles terugvinden van elke uitspraak van zoveel jaar geleden.

Oke, wanneer je naar rechtstspraak.nl gaat krijg je dan ook net als Google honderden links waar je op kunt klikken? 

Ja je kunt een bepaald trefwoord intypen en dan krijg je alle zaken die hierop van toepassing zijn.   

Ik zag een talk van Ybo Buursma op de Radboud Universiteit die stelde eigenlijk is zo’n zoekmachine is een algoritme en bepaald wat boven komt te staan en wat onder. Hebben jullie daar ooit over na gedacht? 

Dat is wel waar ja, je kijkt eigenlijk altijd naar de eerste hits. Als ik kijk naar mijn scriptie ga ik inderdaad niet naar de 10de pagina. Ik heb hier eigenlijk nooit zo bewust over na gedacht. Als je het zo zegt klopt wel inderdaad.  

Een gevaar van algoritmes is dat je het voedt met de bias information. In deze informatie zitten al vooroordelen zo zijn er meer blanke mannen die CEO van grote bedrijven maar dit zegt niks over de toekomst.  In hoeverre denk je dat een rechter of advocaat aannames heeft? 

Ik denk dat een rechter wel een ander beeld van iemand heeft wanneer er een man met tatoeages er zit of dat er een oud vrouwtje zit. Je mag je hier natuurlijk niet door laten leiden, maar rechters blijven mensen. Ook dan blijft wel dat je je moet houden aan de wet.  

Krijgen jullie op de studieles over aannames? 

Niet echt les maar weleens een artikel over dat je je bewust bent dat je aannames hebt.  

Op dit moment zit ik nog echt in de beginfase van mijn onderzoek. Zou ik gedurende het onderzoek je nog een keer mogen appen met wat vragen?

Interview Anna rechten student

Ik doe op dit moment onderzoek naar sociale omgang en bewustwording naar technologische ontwikkelingen. Ik merkte dat er al veel gesproken wordt over algoritme in rechtspraak. Zo gebruikt de Nederlandse overheid al op grote schaal voorspellende algoritmes om fraude en criminaliteit op te sporen.Op dit moment zit ik nog in de beginfase van het onderzoek, dus het is nog vooral om gedachtes uit te wisselen. Daarnaast weet ik zelf nog erg weinig van rechtenstudies. Wat voor een vakken volg je op je studie? 

Ik doe nu de premaster van rechten. Daar heb je nog heel uiteenlopende vakken zoals, verbintenissen recht, strafrecht, goederenrecht, internationaal recht. Dus van alles een beetje.  

Nu vroeg ik me af krijgen jullie bij rechten ook lessen in technologische ontwikkelingen? 

Nee dat krijg je echt totaal niet, het enige wat ik heb gehad is burgerproces recht. Daarin zit ook de kei wetgeving, een probeersel om online te procederen.

Weet je wat een algoritme is? Ik kan het niet zo uitleggen, maar een soort van code die je in de computer stopt en berekeningen maakt. 

Een algoritme is een reeks instructies die door een computer kan worden opgelost. Net als een recept. Zo’n instructie kan simpel zijn: als iemand 10 kilometer te hard rijdt dan krijgt hij een boete van een bepaald bedrag. Maar ze kunnen ook ingewikkelder zijn en honderden feiten laten meewegen om zo een voorspelling of schatting te maken. Hoe denk jij hierover als je dit zo hoort, welke gedachtes krijg je? 

Het zou misschien kunnen bij kleine zaken als verkeersboetes. Maar ik denk niet dat je het in het algemeen recht kan toepassen. Elke zaak is super casuïstisch dus heel erg afhankelijk van de omstandigheden rondom het geval. Ik denk niet dat je dat in de computer kan gooien en dan een uitkomst kan hebben. Je mist het menselijke om het te beoordelen. Geen elke zaak is het anders je moet altijd anders oordelen.

Om wetten of strafzaken op te zoeken gebruik je hiervoor een boek of een computer? 

Ik heb een boek, maar soms kun je ook heel makkelijk een artikel en een wet Googlen. Juspudentie zoek ik op rechtstpraak.nl   

Hoe wordt rechtspraak.nl gerangschikt? 

Je kunt dat selecteren. Op van oud naar nieuw, nieuw naar oud of relevantie. Relevantie is degene die het vaakst is aangeklikt.  

Maak je je bij meest relevant niet zorgen wie bepaalt wat bovenin komt te staan?

Ja meestal als ik zoek op meest relevant denk ik wel voor wie is dit relevant? Maar meestal zoek je best specifiek en krijg je maar een aantal uitspraken en bekijk ik ze allemaal.  

Een ander gevaar waar veel mensen voor waarschuwen op gebied van algoritmes in de rechtsprak is dat je het algoritme voedt bias data. In deze informatie zitten al vooroordelen. Dit ontstaat omdat mensen in het verleden bijvoorbeeld meer zwarte mensen controleerde dan witte mensen. In hoeverre denk je dat een rechter of advocaat voor oordelen heeft? 

Dat is best wel lastig, je kunt situaties niet een op een vergelijken. Je hebt wel altijd vooroordelen van een mens. Maar ik denk niet dat AI betrouwbaar genoeg is om te gebruiken om zaken compleet mee te beoordelen. Maar je zou AI wel kunnen gebruiken om een inschatting te maken en daarna een rechter nog erna laten kijken of het echt redelijk is.

Dus AI moet altijd samengaan met mensen? 

Ja.   

Een grote zorg die ik heb is de macht van grote tech-bedrijven als Google en Facebook. Deze bedrijven weten zo ontzettend veel van ons. Aan de andere kant zou het misschien ook wel handig zijn als deze bedrijven samen werken met advocatuur/rechten om zo casussen op te lossen. Een Facebook heeft immers erg veel info.Hoe denk jij hierover? 

Ik denk dat dat heel erg in strijd is met rechtsoordelen en de privacywet. Je kunt dat niet zomaar gebruiken. Een rechter moet altijd oordelen op informatie die de partijen aandragen.  

Zou je je kunnen voorstellen dat die informatie wel rechtsgeldig wordt, over 10 jaar? 

Ik denk niet dat dat nodig is, de informatie die partijen nu aandragen is vaak al genoeg.   Online procederen is wel geprobeerd zodat het minder tijdkost. Maja dan gaat wel de charme van het procederen weg. 

Hahaha de charme van het procederen.Eigenlijk is het wel een serieuze vragen, zouden mensen een uitspraak van een computer pikken? 

Ik denk dat dat er heel veel tijd overheen gaat voordat mensen dat vertrouwen. Want computers maken ook veel fouten. Ik zou het zelf ook niet echt chill vinden.   

Op dit moment zit ik nog echt in de beginfase van mijn onderzoek. Zou ik gedurende het onderzoek je nog een keer mogen appen met wat vragen? Ken jij misschien iemand die nog meer bezig is met dit onderwerp.

Interview Neriah medewerker verzorginstehuis

Op dit moment is er een personeelstekort in de zorgsector. De aankomende 10 tot 15 jaar zal dit hetzelfde blijven, maar de vraag naar zorg zal verdubbelen door de vergrijzing. Er zijn verschillende technologische ontwikkelingen gaande om de zorg toegankelijk te houden.Een nieuwe technologie die al wordt ingezet door Amsterdam UMC is een algoritme dat gegevens van patiënten analyseert en gebaseerd hierop de keuze maakt of ze ontslagen kunnen worden op de intensive care.In de ouderen zorg verwacht ik ook dat in de aankomende jaren nieuwe technologieën een rol gaan spelen.Waar werk jij precies? 

Surplus – Breda, verzorgingstehuis voor ouderen mensen, dementerenden en we hebben ook aanleun appartementen.  

Werken jullie bij Surplus al met nieuwe technologieën? 

Of het echt nieuwe technische dingen zijn weet ik niet. Maar we hebben wel van die pasjes om afdelingen te openen. Wegens het coronavirus is onze locatie gesloten voor bezoekers, we hebben wel laptops om te video bellen.  

De gegevens van die patiënten noteren jullie die op papier of op de computer? 

Eerst op papier en daarna op de computer.  

Hoe merk je dat ouderen hierop reageren bijvoorbeeld op Skype? 

Ze vinden het heel apart, voor hun is dat nieuw. Maar ze vinden het wel erg leuk dat ze familie kunnen zien. 

Stel er komt een technologie die voor zowel de ouderen als de verzorgers enorme voordelen biedt, zou je dan geïnteresseerd zijn om deze in te voeren? 

Als het ’t werk makkelijker maakt vind ik het wel goed, sommige ouderen moeten zo lang wachten tot ze gehoord worden. Maar het moet niet het hele werk overnemen. Ik denk dat het persoonlijke contact voor ouderen wel erg belangrijk is.

Zou een computer jouw kunnen vervangen? 

Nee dat denk ik niet. Mensen zijn zo dankbaar als ik met ze praat. Je wordt echt gewaardeerd. Een computer heeft geen emotie.

Stel er komt een ontwikkeling waardoor jij geen werk hoeft te doen maar je kunt wel contact houden met die ouderen, zou dit dan een perfecte situatie zijn? 

Ja op zich, voor mij wel. Ik vind het contact leuker dan het schoonmaken zelf.  

In een artikel van NYTimes las ik dat de een na grootste zorginstelling van Amerika samenwerkt met Google. De patiëntgegevens worden in de Google cloud geüpload waardoor artsen de gegevens die ze nodig hebben super gemakkelijk kunnen vinden.Hoe denk jij hierover? 

Beetje dubbel, het is handig als een arts in Groningen ook weet hoe het met jou is. Maar als ik dan aan die ouderen denk die vinden dat denk ik toch maar niks. Als wij oud zijn is dat denk ik normaler dan nu. Zelf maak ik me er geen zorgen over, ik heb niks te verbergen.  

Google heeft een beurswaarde van 100 miljard. Ik maak mezelf best wel zorgen. Van de ene kant geloof ik de oprechtheid van Google maar een ander deel in mij zegt hoe kan het dat een bedrijf uit liefdadigheid zoveel weg geeft? 

Dat is wel apart ja, de kleine lettertjes moeten er zijn. Ik geloof niet dat mensen echt het beste willen zonder iets voor zichzelf eruit te halen.   

Hoe verwacht jij dat de toekomst in de zorg eruitziet? 

Lastig. Ik denk wel dat er veel meer zorg nodig is vanwege de vergrijzing. Er is een kans dat het wordt overgenomen door robots, maar ik denk niet dat ouderen dan gelukkiger worden. Het kan twee kanten op gaan denk ik. 

Bronnen:
Rechten:
De robotrechter – video lezing 
Algoritmes in de Rechtspraak – Raad voor de Rechtspraak – publicatie
Gezondheid: 
https://www.nytimes.com/2020/01/01/health/breast-cancer-mammogram-artificial-intelligence.html
https://www.ft.com/content/4ade8884-1b40-11ea-97df-cc63de1d73f4
Patenten:
 https://www.volkskrant.nl/economie/philips-doet-volop-mee-in-de-groeiende-patentoorlog~b9b88305/?referer=https%3A%2F%2Fwww.google.com%2F
https://www.nytimes.com/interactive/2018/06/21/opinion/sunday/facebook-patents-privacy.html
https://www.latimes.com/business/technology/story/2020-01-14/facebook-piling-up-patents-augmented-reality-push