Online Ontspoord - immoreel en schadelijk gedrag in kaart gebracht

In 2018 verscheen het boek Evil Online. Kort na de publicatie nodigde Jacqueline de Jong van de Centrale Eenheid Strategie medeauteur Jeroen van den Hoven uit voor een bijeenkomst met de Bestuursraad. Daarna werkten de Centrale Eenheid Strategie, de NCTV en de Politie samen verder aan de adressering van deze nieuwe fenomenen. Hieruit vloeide de opdracht voor het Rathenau Instituut voort, met als resultaat het rapport Online Ontspoord.

Online Ontspoord

Het rapport geeft een taxonomie van immoreel en schadelijk gedrag, zoals pedojagen en wraakporno; een overzicht van online mechanismen die onbedoeld grensoverschrijdend gedrag kunnen uitlokken. Ook beschrijft het de huidige aanpak van de platformen zelf, de overheid en maatschappelijke instellingen. Het rapport sluit af met een strategische agenda voor de overheid, met aanbevelingen voor mogelijke wetgeving, beleid en uitvoering.

Actieve overheid

Mariëtte van Huijstee van het Rathenau Instituut leidde het onderzoek. De belangrijkste conclusie: er is een actieve overheid nodig, die aan de slag gaat met online mechanismen en platformen en haar aanwezigheid online. Handhaven en beleid is tot nu toe aan de platformen overgelaten. WhatsApp bijvoorbeeld verlaagde in een reactie op online heksenjachten in 2019 het aantal keren dat je een bericht kan doorsturen van twintig naar vijf, om zo de snelheid waarmee nepnieuws zich verspreid in te perken. Dat druist ook in tegen het gebruiksgemak: commerciële belangen komen niet altijd overeen met maatschappelijke belangen. Ingrijpen is vaak reactief en zelfregulering niet voldoende.

Anonimiteit

Mariëtte noemt anonimiteit als voorbeeld van een online mechanisme dat gedrag beïnvloedt. “Anonimiteit werkt ontremming in de hand. Je kan makkelijker een ander uitschelden of bedreigen online, zonder daar op aangesproken te worden. Er worden dagelijks mensen online monddood gemaakt, geshamed, gecanceld. Wetenschappers die zich niet durven uit te spreken, journalisten die zwartgemaakt worden, vrouwelijke politici die hatelijke reacties krijgen. De vrijheid van meningsuiting van de een beperkt in sommige scenario’s die van de ander, dat inzicht was voor mij een doorbraak.
Anonimiteit verbieden klinkt goed, maar je maakt ook een hoop stuk. Zonder anonimiteit hadden de Arabische Lente of #Metoo niet plaats kunnen vinden. Er zijn modellen denkbaar waarbij je klokkenluiders beschermt. Het vergt verder onderzoek en een kosten-baten analyse, om te bepalen in hoeverre overheidsingrijpen in anonimiteit wenselijk is.”

Proactief

Behalve mogelijk ingrijpen op de werking van platformen, kan de overheid proactiever aanwezig zijn online. Ook het beleid is te reactief. Er is te veel focus op daders, die - dankzij de anonimiteit - lastig te achterhalen zijn. Slachtoffers kunnen beter worden ondersteund door politie, in samenwerking met het maatschappelijk veld. “Ingrijpen bij de platformen kan het best in Europees verband, maar met het beschermen van mensen online en slachtoffers bijstaan kunnen beleidsmakers in Nederland nu al stappen nemen.”

Uitwassen

Ellen Kiersch is Directeur Wetgeving en Juridische Zaken: “De wijze waarop mensen zich online tot elkaar verhouden komt niet als één grote beleidsvraag tot ons departement. We krijgen als Justitie vooral te maken met de uitwassen en grijpen dan snel naar - met name - de strafwetgeving als reactie. Maar ook het Burgerlijk Wetboek bevat maatschappelijke normen – hoe verhouden we ons tot elkaar? Wat zijn onze wederzijdse rechten en verplichtingen? Het Burgerlijk Wetboek bevat weinig regels specifiek voor de onlinewereld. Alleen voor online contracten en aankopen staan aparte regels in het Burgerlijk wetboek.”

Unieke dynamiek

“We gingen ervan uit dat de digitale wereld geen wereld op zich is, dat normen on- en offline identiek toepasbaar zijn. Maar de digitale wereld kent zijn eigen, unieke dynamiek. Zo is er tegelijk een grenzeloze hoeveelheid informatie en een enorme individuele informatieasymmetrie, omdat zoekmachines bepalen welke informatie jou bereikt. Ook is de digitale wereld bij uitstek internationaal. Dat wordt in het rapport in kaart gebracht.”
Normen voor kinderporno zijn on- en offline eenduidig. Maar hoe zit het met een site waar meisjes met anorexia bij elkaar komen (zogenaamde 'pro-ana' groepen)? Ellen: “Wanneer biedt een site dieetinformatie, wanneer wordt er aangezet tot zelfverhongering? De grens is vloeibaar en verwijten over censuur liggen op de loer. Dat is lastig.”

Quick wins

“Gedraag je redelijk en billijk’ is een kernbegrip in het burgerlijk recht. De vervolgvraag is dan: wat vinden we redelijk? We kunnen als overheid niet meer zeggen dat platformen gedrag op internet prima zelf kunnen reguleren. Het rapport geeft aan dat de tijd van volledige zelfregulering voorbij is. Het is aan de Nederlandse samenleving om de normen nader in te vullen, ook in de wijze waarop we ons tot elkaar willen verhouden.”
Snel aan de slag gaan met zogenaamde ‘quick wins’ heeft als risico dat je je uitsluitend richt op een aantal concrete incidenten. In het rapport worden enkele artikelen uit het strafrecht genoemd, bijvoorbeeld over haatzaaien. Strafrecht is voor onze samenleving het uiterste redmiddel. Het burgerlijk recht en bestuursrecht kunnen ook een rol spelen als juridische uitwerking van onze normen en waarden. Het rapport geeft heldere bruikbare omschrijvingen van verschijningsvormen en achterliggende mechanismen zijn in kaart gebracht. Zijn er aanknopingspunten in het burgerlijk recht? Dat vergt uitwerking. De vertaalslag naar wetgeving moeten we zelf maken.”

Online midden in de samenleving

Henk Geveke is als lid van de Korpsleiding van de Politie verantwoordelijk voor de portefeuille Technologie & Innovatie. "Een indrukwekkend rapport”, stelt hij, en “een indringend appel aan de overheid”. “On- en offline zijn niet meer te scheiden. In de bestrijding van criminaliteit is de politie ongelofelijk actief in het digitale domein. Denk aan het Encrochat-onderzoek. Ook op het niveau van de wijkagent is er een groot innovatieprogramma. Wijkagenten zijn allang niet meer alleen actief op straat. Ook online staan we midden in de samenleving, zien we wat er leeft en speelt en hebben we contacten met wijkbewoners."

Geen moraalpolitie

“Er zijn situaties en dynamieken online die zich in een moreel schemergebied bevinden. De politie is daarin niet als eerste aan zet. Veel winst kunnen we behalen door preventie, regulering van het internet als publieke ruimte en wetgeving. Als er een rol is voor de politie, zal die een link hebben met de politietaak zoals omschreven in artikel 3 Politiewet. We zullen nooit vanuit een morele opvatting optreden. We zijn geen moraalpolitie. Er kan een oordeel zitten in het optreden van een wijkagent, maar altijd vanuit het politievak. Collega’s op straat hebben grote beslisruimte, en treden ook online professioneel op: feitelijk, niet meerazen, geduldig, rustig blijven."

Dialoog

Een van de aanbevelingen is dat de aanwezigheid sterker moet. “Hoe de politie aanwezig is op het internet moet de uitkomst zijn van een dialoog met de samenleving.  Natuurlijk wijst de politie mensen erop, zodra ze een strafrechtelijke grens over dreigen te gaan, bijvoorbeeld in het geval van digitaal vigilantisme (pedojagers). We doen aan preventie. Maar we posten niet in elk café en dat doen we ook niet online. We willen geen surveillancestaat zijn. Opvoeding en bewustwording zijn taken van het maatschappelijk veld, zoals scholen.”