Grip krijgen op de schaduwzijde van internet

Kees Verhoeven hield zich als kamerlid (2010-2021) ruim tien jaar intensief bezig met digitalisering. “In de beginjaren van het wereldwijde web beschouwde de politiek digitalisering als een onderwerp dat vooral aan bedrijfsleven en wetenschap moest worden overgelaten. Maar de ontwikkelingen zijn razendsnel gegaan en overheden verliezen hun grip erop. De democratie heeft het zwaar in het digitale tijdperk. Je ziet de laatste twintig jaar dat digitale systemen en manieren van communiceren steeds meer invloed krijgen en je ziet tegelijkertijd – met de VS als schoolvoorbeeld - hoe democratieën onder druk komen te staan.”

Schaduwzijde aanpakken

Doxing (privéadressen/persoonsgegevens bekend maken), intimidatie en bedreiging, deepfakes, datalekken, sexting, nepaccounts: er moet ingegrepen worden om de schaduwzijden van de online wereld in te perken. Maar hoe? Verhoeven: “Je kunt natuurlijk niet alles ‘dichtgooien’, want dat is censuur. Er is een grijs gebied waarin conflicterende waarden spelen: zo hebben we het recht op vereniging, maar een online oproep om massaal naar een bepaalde plek te komen kan veel schade veroorzaken. Kortom: contentmoderatie vanuit de overheid is van heel groot belang, maar er moet heel goed over nagedacht worden.”

Balans zoeken

Dat is volgens Verhoeven een zoektocht naar balans: “Hoe kun je het positieve van digitalisering aanjagen en het negatieve begrenzen? Daarvoor moeten we vastleggen wat we als samenleving belangrijk vinden, welke uitgangspunten we willen hanteren.” Verhoeven waarschuwt voor snelle ‘oplossingen’ voor specifieke verschijnselen, want dan blijf je pleisters plakken: “De neiging is om snel te zeggen: zó pakken we het aan. Maar het gaat erom je goed te realiseren wat de spanningsvelden zijn, hoe het juridisch zit en dat je op verschillende bestuurlijke niveaus moet samenwerken. Met snelle oplossingen verzwak je uiteindelijk je positie, want voor je het weet haalt de realiteit je in en kom je voor nieuwe vraagstukken te staan. Denk bijvoorbeeld aan het terugfluiten door de rechter van het online gebiedsverbod in Utrecht in 2022. Het gaat dus om het bepalen van uitgangspunten en kaders.”

Als het strafbare content betreft, is het duidelijk. “Die wordt door moderatoren van internetbedrijven weggehaald. Maar wat doe je met content in het ‘grijze gebied’? Bijna iedereen zit dagelijks op internet en haalt daar informatie vandaan. Die informatie zou dus aan voorwaarden moeten voldoen. Maar welke, en hoe verhouden die zich tot waarden die wij van belang vinden in onze samenleving? Dat is de uitdaging.”

Verhoeven is hoopvol over het Project Online Contentmoderatie: “Dat kan schotten tussen verschillende bestuurslagen een beetje doorbreken. In het project werken ministeries, lokale overheden en internetbedrijven aan oplossingen. Ik hoop dat deze samenwerking gaat leiden tot kaders, uitgangspunten en een vaste procedure. Dat er een manier komt om verschillende waarden goed af te wegen en tot evenwichtige, juridisch haalbare keuzes te komen die de democratie en de rechtstaat versterken.”

Begrenzen

Cindy Beisser (JenV) is opdrachtgever van het Project Online Content Moderatie (kortweg PrOCoM). Ze onderschrijft het belang van het zoeken naar balans. “Het is natuurlijk heel precair als de overheid zich gaat mengen in wat er wel of niet online kan worden gezet. Bij strafbare feiten moet je handhaven. Maar bij ‘onrechtmatige of ongewenste content’ is de rol van de overheid minder helder, terwijl dat wel degelijk content kan betreffen met grote impact op slachtoffers of de samenleving. Waar vrijheid van meningsuiting schade toebrengt aan mensen of de maatschappij, heeft de overheid een taak in het begrenzen ervan.”

In PrOCoM werken verschillende overheden samen met de internetsector langs vier lijnen aan online moderatie. Cindy Beisser: “JenV is opdrachtgever voor dit project, dat loopt tot eind 2024.” De aanleiding voor het project is tweeledig. Enerzijds vraagt de samenleving om aanpak van deze vraagstukken en anderzijds moet Nederland uitvoering geven aan de  Digital Service Act: EU-regelgeving die de rechtspositie van zakelijke en particuliere internetgebruikers versterkt, onder meer door internetproviders te verplichten op te treden tegen illegale content. “Het realiseren van een vaste overlegstructuur met de sector is de eerste pijler van PrOCoM, zodat providers en andere techbedrijven in gesprek zijn met de overheid over hun rol in het verwijderen van schadelijke content. Eerder hebben we samen met de sector succesvol ingezet op de aanpak van online seksueel misbruik van kinderen.”

Voorziening

Een tweede pijler is aandacht voor slachtoffers. “Mensen weten vaak niet waar ze schadelijke content kunnen melden, of wat ze ertegen kunnen doen. “Daar willen we een voorziening voor inrichten, waar je informatie krijgt over hoe je de content eraf krijgt en welke wegen je kunt bewandelen. Het gaat om een laagdrempelig meldpunt, waar je met allerlei soorten vragen terecht kunt.” De pilot gaat nu van start; op de website helpwanted.nl staan voorbeelden van situaties variërend van online stalken tot afpersing, gehackt accounts, nepprofielen en ander online grensoverschrijdend gedrag.

Lokaal bestuur

De derde pijler van het project richt zich op het ontwikkelen van handelingskaders en instrumenten voor gemeenten. “Zodat burgemeesters kunnen optreden bij openbare ordeproblemen die online ontstaan, zoals met groepen die elkaar opjutten en oproepen om ergens te verzamelen.” Een vierde pijler betreft het opbouwen en up-to-date houden van kennis en kunde. “Er zullen zich altijd weer nieuwe fenomenen voordoen – kijk bijvoorbeeld hoe razendsnel de techniek van deepfakes zich heeft ontwikkeld. Structurele aandacht blijft nodig, van de overheid en van de internetbedrijven zelf.  Daarbij moeten we ons altijd afvragen: wat is de maatschappelijke behoefte, hoe kunnen we dit in alle openheid samen aanvliegen en wat is het draagvlak.” ♦