Blog Ybo Buruma: Chinese lessen over rechtspraak en AI

De werkdruk van de Chinese rechters was het gevolg van twee gelijktijdige ontwikkelingen. Vanaf 2014 is de Supreme People’s Court rechters strikter gaan toetsen op hun professionaliteit. Dat leidde in drie jaar tijd tot een afname met 47% van alle rechters. Tegelijkertijd was tussen 2000 en 2018 een vervijfvoudiging van het aantal rechtszaken gaande. Deze was het gevolg van een fundamentele verandering. Al sinds Deng Xiaoping wilde China af van politieke geschilbeslechting. Dengs streven naar min of meer rechtsstatelijke mechanismen bracht echter problemen teweeg. Mensen die voortdurend het woord ‘recht’ in de mond nemen zijn minder geneigd tot het sluiten van compromissen en het bewaren van vrede – wij weten er alles van. Om dit effect het hoofd te bieden is onderhandeling in de schaduw van het recht gestimuleerd. Een belangrijke stap is gezet met de komst van robots in alle rechtbanken. Deze geven het publiek de meest waarschijnlijke uitkomst van een (klein civiel) geschil èn wijzen op de (financiële en ook relationele) kosten en de risico’s van doorprocederen. In de praktijk worden deze adviezen van de robots ook gebruikt als uitgangspunt bij buitengerechtelijke geschilbeslechting. 

Die robots waren een eerste uitwerking van het concept van de smart courts. Toen het AI-systeem Alpha Go in maart 2016 op het go-bord de wereldkampioen Lee Sedol had verslagen, was de Chinese president Xi Jinping zo onder de indruk dat hij zei dat China in 2030 op het gebied van AI tot de top van de wereld moet horen. Door het Artificial Intelligence Development Plan van 2017 en de uitwerking daarvan door de Supreme People’s Court werd vervolgens een krachtige impuls gegeven aan de (verdere) digitalisering van de rechtspraak.1 Niet alleen moesten rechtbanken zich omvormen tot smart courts. Ook zijn online rechtbanken geïntroduceerd die zich bezighouden met Internet-gerelateerde zaken en de Mobile miniCourt app is gelanceerd, die in maart 2020 al 1,39 miljoen (!) gebruikers had, voor online mediation en online rechtspraak.  

De AI die voor de smart courts nodig is, wordt ‘getraind’ door de vanaf 2019 gepubliceerde rechtspraak: inmiddels kan de bevolking 130 miljoen uitspraken op ‘China Judgments Online’ vrijelijk raadplegen. Dat verbijsterend grote aantal onttrekt enigszins aan het zicht dat sommige zaken niet worden gepubliceerd. Soms, zoals in het geval van echtscheidingen, gebeurt dat om inhoudelijke redenen, soms als uitspraken leiden tot onrust om politieke redenen. Maar het meest omdat rechters zeker in de verafgelegen provincies nalaten alle zaken te uploaden.

Met behulp van AI wordt rechterlijke besluitvorming gestandaardiseerd en versneld. Onder meer het in Beijing gebruikte systeem wise judge selecteert zaken waarin het vonnis wegens grote gelijkenis met een andere zaak automatisch kan worden uitgeschreven. AI is zelfs in staat om vonnissen die lijken te zijn ingegeven door een menselijke vergissing automatisch te verbeteren. Aanvankelijk is vooral aan civielrechtelijke toepassingen gedacht. Maar in Shanghai wordt in strafzaken gebruik gemaakt van ‘systeem 206’ dat door documentvergelijking nagaat of elk noodzakelijk bewijsstuk wel echt is aangeleverd; het schijnt ook te signaleren of bewijsmateriaal voldoende is onderzocht of onrechtmatig is verkregen. Dat heeft wel geleid tot een verschuiving van werklast van de rechtspraak naar aanklagers en politie.

De rechter moet uiteindelijk zelf beslissen. Geïnterviewde Chinese rechters vinden dat de resultaten van AI niet altijd echt behulpzaam zijn, omdat de aangeleverde voorbeeldzaken te ongelijk blijken. De ervaring leert echter dat zij ook door de tijdsdruk niet graag afwijken van de uitkomst. Ze weten bovendien dat AI hun eigen output en werksnelheid beoordeelt en dat AI ook bedoeld is om aanwij­zingen voor corruptie en menselijke fouten te identificeren. Afwijking zou zomaar als zo’n aanwijzing kunnen worden opgevat. De veranderingen in de rechtspraak hebben trouwens geleid tot afschaffing van de regel dat lokale partijfunctionarissen kunnen ingrijpen bij rechterlijke beslissingen: zij veroorzaakten soms juist ‘menselijke fouten’.

Wat leert dit alles ons nu? Vooropgesteld dit. Het idee van Rule by Law is gestoeld op de gedachte dat de centrale machthebber beslist. Uitgangspunt in het denken van de Chinese autoriteiten is dat technologie daarbij betrouwbaarder is dan mensen en dat gelijke behandeling veel waard is. Onder de Rule of Law hechten we aan de mogelijkheid dat de rechter kan afwijken vanwege de bijzonderheden van het geval. China leert dat dit bij toepassing van AI praktisch niet gemakkelijk is.

Het is verder interessant dat ook China (nog) hecht aan uiteindelijk menselijke beslissingen. Dat er een human in the loop moet zitten is des te opvallender omdat het wise judge systeem juist ook de mogelijkheid biedt om op grond van geleverde processtukken zaken te selecteren die wel of niet voor een automatisch geschreven vonnis in aanmerking komen. Misschien speelt een rol dat ook de Chinese autoriteiten beseffen dat de kwaliteit van de input die juridische AI ‘voedt’ zelfs daar niet kan worden gegarandeerd.

Voor de oplossing van de overbelasting van de rechtspraak hoeven we niet te denken aan zulke grootschalige technologische ontwikkelingen als in China. Maar ik ben toch wel gefascineerd door de mogelijkheden van automatische vergelijking van volledige documenten met elkaar en met eerdere rechtspraak zoals kennelijk gebeurt in Beijing en Shanghai. Misschien heeft het verder doordenken daarvan – mits gebruikt met humans in the loop – ook voor de Nederlandse rechtspraktijk potentie.

 

Dit Vooraf wordt gepubliceerd in NJB 2023/587, afl. 9