Vrijheid inleveren? Alleen als laatste redmiddel!
Mag de overheid individuele vrijheden beperken met het oog op een groter, collectief belang zoals de volksgezondheid? Over die vraag bogen deskundigen zich 11 september jongsleden bij het PrinsjesGesprek, onderdeel van Prinsjesfestival 2020. Gezamenlijk formuleerden ze een voorzichtig ‘ja’ als antwoord: een overheid mag burgers vragen individuele vrijheden in te leveren voor een algemeen belang, maar alleen zorgvuldig en als laatste redmiddel.
Om tafel in het Haagse Humanity House zaten Wim Voermans (hoogleraar staats- en bestuursrecht Universiteit Leiden), José van Dijck (hoogleraar media en digitale samenleving Universiteit Utrecht), Haroon Sheikh (filosoof, publicist en onderzoeker Wetenschappelijke Raad voor het Regeringsbeleid) en Evelyn Austin (directeur Bits of Freedom). Onder leiding van Mark Bovens (hoogleraar bestuurskunde Universiteit Utrecht) bogen zij zich niet alleen over de vraag of de overheid individuele vrijheden mag inperken in tijd van corona, maar ook over bedreigingen en kansen van algoritmen en de toenemende macht van big tech.
Glad ijs
Met de spoedwet waarin de regering een aantal coronamaatregelen wil verankeren, beweegt de overheid zich volgens Voermans op (te) glad ijs. ‘Vrijheden inperken kan met de Wet publieke gezondheid en de overheid kan ook de noodtoestand uitroepen. Maar van dat laatste is nadrukkelijk geen gebruik gemaakt; de regering heeft ervoor gekozen tussen die twee stelsels door te glippen, met steeds verdergaande maatregelen. We zijn in een grijs gebied gaan opereren. Als de overheid vrijheden wil gaan inperken, moet ze volgend het Europees Verdrag voor de Rechten van de Mens eerst kijken: is het noodzakelijk en kan ik dat uitleggen en ga ik niet verder dan nodig? En zich heel goed realiseren dat het inperken van vrijheden een laatste redmiddel is als het echt niet anders kan.’
Haroon Sheikh ziet in de discussies over vrijheidsbeperkende maatregelen een soort schijntegenstelling. ‘Ik heb het gevoel dat te gemakkelijk wordt gezegd dat het of of is, wat verhindert te bekijken in welke mate je collectief en individueel allebei goed kunt wegen. Ik zou willen spreken van een soort ingebedde individualiteit. Ik kan zeggen “dit is mijn eigen ruimte” op basis van het feit dat er een gedeelde ruimte bestaat waar we de risico’s hebben weggenomen. Dat betekent niet dat we zomaar van alles mogen opofferen. Maar het is wel belangrijk dat we ons realiseren dat we een bodem, een infrastructuur hebben die het mogelijk maakt om die vrijheid te genieten. Daar mogen we ook wat voor vragen.’
Wirwar van opinies
Hoogleraar media en digitale samenleving Van Dijck ziet de nadruk op het individu terug in de wirwar van ongefilterde opinies op internet en sociale media: ‘Vooral aan het begin van de coronacrisis zag je dat iedereen dacht alles te kunnen poneren over het virus. Met name op sociale media lijkt iedere mening hetzelfde te wegen. Dat verschijnsel wordt in de hand gewerkt doordat platforms als Facebook en Twitter een soort legitimiteit geven aan iedereen die er op zit. Ze lijken je het recht te geven om alles ongefilterd en vaak anoniem de wereld in te slingeren naar elk publiek. Dat is natuurlijk absurd en ook gevaarlijk. Iedereen heeft recht op zijn eigen mening, maar niet op zijn eigen feiten. We zoeken nu heel hard naar structuren om sociale media en de digitale inrichting van de samenleving te gaan sturen op een manier waarop vrijheid en verantwoordelijkheid met elkaar in evenwicht zijn.’
Op dit moment zijn het techbedrijven die vaak zelf bepalen hoe vrijheid van meningsuiting op hun platforms er uit ziet, signaleert Bits of Freedom-directeur Austin. ‘Een voorwaarde waaronder de vrijheid van meningsuiting kan worden ingeperkt is dat het bij wet geregeld is en dat het voorspelbaar is. Dat is een van de grote problemen die we nu op sociale media zien. We vragen aan private partijen te handhaven en je weet daardoor als burger niet waar de grenzen aan jouw vrijheid van meningsuiting liggen.’
Twijfel aan corona-app
Is het echt nódig? Die vraag geldt niet alleen de corona-spoedwet, de overheid had hem ook iets nadrukkelijker mogen stellen bij het ontwikkelen van een corona-app, vinden de deelnemers aan het PrinsjesGesprek. Technisch is de app inmiddels zo goed als hij gaat zijn, oordeelt Austin. ‘Maar inmiddels zien we elders in de wereld dat dergelijke apps eigenlijk heel weinig opleveren. Er is nog steeds heel weinig onderzoek gedaan naar de potentiële impact van de app op de samenleving, en ik denk dat daar de grootste risico’s voor onze vrijheid liggen. Bijvoorbeeld: in welke mate draagt dit bij aan de normalisering van surveillance? En dan is er het gevaar van function creep: het zou een verrassing zijn als deze app weer uit de Appstore wordt gehaald.’
‘Heel vaak verengen wij vragen op het gebied van technologie tot privacy en veiligheid’, constateert hoogleraar Van Dijck, ‘maar dat is een vernauwing van de vraag wat voor impact technologie heeft op onze samenleving. De invoering van een corona-app kan gewild of ongewild ons gedrag beïnvloeden. Misschien mag je een kantoorgebouw met vijftig verdiepingen alleen nog maar in als je de app op je telefoon hebt aanstaan. Er is nu goed gekeken naar een aantal mogelijke gevolgen, maar er zijn altijd wel gebruikseffecten die je niet van tevoren kunt voorspellen.’
Algoritmen: oog voor kansen én risico’s
De deelnemers aan PrinsjesGesprek stonden uitgebreid stil bij de steeds grotere rol die algoritmen spelen in de relatie tussen overheid en burger. Ze zien de kansen van algoritmen, maar zeker ook de kwetsbaarheden. Van Dijck: ‘Voor mij is transparantie belangrijk: kunnen we controleren hoe algoritmes ingezet worden of is dat een black box? Zo kreeg ik een brief waarin mijn verzekeraar aankondigde dat mijn woonverzekering met 90 procent zou stijgen; bij navraag kreeg ik te horen dat dit geen fout was, maar het gevolg van de invoering van zogenaamde gepersonaliseerde algoritmes. Alleen wilden ze niet uitleggen waarom dat dan in mijn geval tot zo’n opmerkelijke premieverhoging leidden, want dat was bedrijfsgeheim. Zonder transparantie is controle door consumenten of toezicht door overheden heel moeilijk.’
Algoritmen speelden bijvoorbeeld een grote rol in het overheidssysteem SyRI, bedoeld om frauderisico’s met overheidstoeslagen in te schatten. Haroon Sheikh waarschuwt dat zulke missers de overheid niet moeten belemmeren de kansen van algoritmen te benutten: ‘Laten we de voorwaarden ontwikkelen waarmee het vóór ons kan gaan werken. De reflex bij ministeries of partijen als de Belastingdienst is nu misschien te veel: stoppen, nooit meer doen. Dan durven we niks meer en realiseren we de kansen ook niet. Denk aan de opkomst van de auto. Die is zonder gordels, verzekeringen, verkeersborden een levensgevaarlijk object. De hele set voorwaarden komt proefondervindelijk tot stand. Het komt erop aan dat je de juiste voelsprieten hebt. In het geval van SyRI hebben die gewerkt: de politiek heeft het goedgekeurd, groepen zeiden “dit kan niet” en vervolgens heeft de rechter gesproken.’
Bits for Freedom-directeur Austin waarschuwt voor een te automatisch gebruik van historische data in algoritmen. ‘Hoe voorkomen we dat we in de toekomst een replica van het verleden maken? Als we gebruik maken van data uit het verleden, hoe voorkomen we dan dat we onszelf herhalen? Voor mij zit daarin het grootste vrijheidsrisico van algoritmen: dat het steeds moeilijker wordt om de macht ter verantwoording te roepen of te bevragen, om te zeggen “nee, vanaf morgen moet het anders”.’
Big tech: naar een feodale verhouding?
De laatste grote kluif waar de deelnemers zich over bogen was de toenemende invloed van big tech-bedrijven als Google, Apple Microsoft, Amazon en Facebook en de vrijheidsrisico’s die dat met zich meebrengt. Van Dijck: ‘Eigenlijk vormen deze bedrijven een oligopolie op het ontwerpen en bouwen van een online infrastructuur en alles wat zich daarop kan voortbewegen. Vergelijk het met een wegennet: niet alleen hebben ze macht over het aanleggen van de wegen, maar ook op het bouwen van de auto’s, het maken van de verkeersregels en het implementeren van regels, zoals het dragen van autogordels en installeren van stoplichten. De mondiale macht van deze bedrijven over zowel infrastructuren als de online dynamiek van heel verschillende sectoren—van nieuws en informatie tot mobiliteit—maken het heel moeilijk voor nationale toezichthouders om controle uit te oefenen. Ik pleit voor een Autoriteit Digitale Samenleving (in welke vorm dan ook) die zich toelegt op de samenhang tussen al deze digitale diensten.’
Hoogleraar Voermans ziet in die machtsconcentratie een aantasting van een vrijheid die hij essentieel vindt: het recht om fouten te maken. ‘Big tech ondernemingen kunnen de kern van jouw autonomie om zelf keuzes te maken afpakken, of jouw autonomie om keuzes of stomme fouten te maken in elk geval zeer beperken.’
Haroon Sheikh ging nog een stapje verder. ‘Ik zeg het gechargeerd: big tech neigt naar een samenlevingsordening die de rechten die wij als moderne mensen hebben opgeeft en wil vervangen door een feodale structuur. Als modern mens hebben wij het idee ontwikkeld dat wij als individuen een zekere vrijheid hebben en daarin gelijkelijk worden behandeld, op een transparante manier. Als de overheid iets met mij doet, is dat hetzelfde als met ieder ander en ik kan daarnaar vragen. Big tech vervangt die universele afspraak door bilaterale afspraken. Zij zijn de nieuwe feodale heer, de heer die alles bezit, en wij zijn de horigen die alleen mogen huren. En hoe prettig die gepersonaliseerde relatie ook is, het is niet meer die universele relatie waar onze moderne samenleving op is gebaseerd.’