Nieuwe, onzekere risico’s

Is een nieuwe technologie een probleem?

Bij de ontwikkeling van een nieuwe technologie kunnen diverse zaken onzeker zijn. Hoe gaat de technologie ons leven beïnvloeden? In hoeverre gaat ze ons helpen of gaan we er last van hebben? En in hoeverre kunnen we dat al overzien? Naarmate de technieken radicaler vernieuwend zijn, kunnen de onzekerheden groter zijn. Wat gaat het bijvoorbeeld betekenen als de mens zelf kunstmatig ‘leven’ kan gaan maken? Maar ook als een vernieuwing minder fundamenteel is, kunnen de gevolgen toch heel ingrijpend zijn en onzeker voelen. Denk aan zelfrijdende auto’s, vrachtwagens of treinen. Hoe kom je erachter of een nieuwe technologie een nog onbekend risico met zich meebrengt?

Een eerste antwoord

Is een nieuwe techniek een probleem? Allereerst: de ontwikkeling van nieuwe technologieën komt voort uit de kansen die mensen en/of bedrijven zien om het leven beter te maken. Die nieuwe technologie, of de daaruit voortkomende producten en processen, kunnen ook risico’s voor mensen en/of het milieu met zich meebrengen. Eventuele schade hoeft niet direct zichtbaar te zijn en kan ook pas op langere termijn of bij uitgebreidere toepassing optreden. Daarom is het goed om bij een nieuwe technologie alert te zijn op dit type effecten. Daarmee is de nieuwe technologie als zodanig dus nog niet een probleem. Het overheidsbeleid is erop gericht om ruimte te bieden zowel de kansen van nieuwe technologische ontwikkelingen te benutten, als de veiligheid van die ontwikkelingen te waarborgen.

Wanneer brengt de nieuwe technologie een beleidsopgave voor de Rijksoverheid met zich mee? Als er serieuze aanwijzingen zijn, dat de nieuwe technologie uitdagingen met zich meebrengt die raken aan de opgave van de overheid, dan is het een beleidsopgave. Zo zorgt de Rijksoverheid er bijvoorbeeld voor, dat de leefomgeving veilig is voor mens en milieu en deze ook als zodanig ervaren wordt. Er zijn dus verschillende redenen waarom een nieuwe technologie ook een beleidsopgave voor de overheid brengt:

1. Als aan de opkomst van die nieuwe technologie risico’s verbonden zijn voor het optreden van (fysiek) gevaarlijke situaties en schade in de leefomgeving. Veelal komen eerste aanwijzingen vanuit de wetenschap, van specialistische diensten of van andere partijen met voelhoorns in de samenleving (inspectie, media). Om vast te stellen hoe het precies met zo’n risico zit, is het zaak dat je een (wetenschappelijke) risicoanalyse laat uitvoeren. Daarnaast dien je na te (laten) gaan wat de verspreiding van de nieuwe technologie is en in hoeverre mens en milieu er al mee in aanraking komen.

2. Als er (ook) sprake is van maatschappelijke onrust over de technologie en de mogelijke fysieke risico’s ervan in de leefomgeving. Als door de komst van de nieuwe technologie de leefomgeving niet meer als veilig wordt ervaren, ligt daar een opgave voor de overheid.

3. Een derde reden is dat de innovatie zó fundamenteel kan verschillen van bestaande technieken dat de mogelijke risico’s ervan niet meer goed op de gangbare manier te beschrijven en vast te stellen zijn. Het gevolg daarvan kan zijn dat bestaande definities, regelgeving, beleidsuitgangspunten en afspraken niet meer passen bij de aard en mogelijke risico’s van de nieuwe technologie. En dat de veiligheid van de leefomgeving niet meer vastgesteld en/of gegarandeerd kan worden. Kortweg: als gevolg van het fundamentele karakter van een innovatie passen de wettelijke en beleidsmatige definities en categorieën niet meer. Daardoor kan met het bestaande kader van veiligheidswetten, -regels en afspraken de veiligheid van de leefomgeving niet meer vastgesteld en/of gegarandeerd worden.

In de terminologie van ‘Bewust Omgaan met Veiligheid’ gaat het bij de eerste twee genoemde redenen om de ‘hardware’ (= de fysieke kant) en de ‘mindware’ (= de ervaren kant) van risico’s en het risicobeleid. De derde reden waarom de overheid voor een beleidsopgave kan komen te staan, komt voort uit wat de ‘software’ wordt genoemd (= de kant van de regels en normen, verantwoordelijkheden en afspraken). Nieuwe technologieën kunnen buiten de bestaande kaders, definities en voorziene situaties vallen, en daarmee ongrijpbaar zijn voor regelgever, toezichthouder en handhaver. Bestaande verantwoordelijkheidsverdelingen kunnen onhoudbaar blijken te zijn. En geldende afspraken kunnen onwerkbaar blijken. Ook in dit soort gevallen zal de overheid iets moeten.

Is een nieuwe technologie ook een nieuw, onzeker risico?

Als in een specifiek beleidsdossier een nieuwe technologie opkomt en er aanwijzingen zijn dat deze fysieke risico’s met zich meebrengt, is het de vraag of dit nieuwe, ‘onzekere’ risico’s zijn? Een nieuwe technologie brengt vaak allerlei onzekerheden met zich mee. Dit kan variëren van de beoogde werking die nog niet onomstotelijk bewezen is, tot onzekerheid over allerlei mogelijke onbedoelde bijeffecten, mogelijke gevolgen van menselijke fouten en/of van misbruik van de nieuwe technologie. Sommige van die gevolgen en effecten zijn als ‘fysieke risico’s’ te bestempelen. Om een beeld te krijgen van de omvang van die risico’s en hoe ermee om te gaan, is het van belang om een (wetenschappelijke) risico-evaluatie te laten uitvoeren. Soms toont dit aan dat sprake is van een ‘onzeker’ risico. Wat is zo’n ‘onzeker’ risico en hoe moet je daarmee omgaan?

Een eerste antwoord

Er is sprake van een ‘nieuw, onzeker’ risico wanneer er:

• serieuze aanwijzingen zijn dat van een of meer risico’s sprake is, maar
• er nog zoveel wetenschappelijke en methodologische onzekerheden zijn, dat het risico niet eenvoudig via de gebruikelijke methoden voor risicoanalyse bepaald kan worden.

Wanneer in een dossier inderdaad sprake is van een nieuw, onzeker risico, moet het voorzorgsprincipe worden toegepast.

Risico’s

De term ‘nieuw, onzeker risico’ heeft vaak wat extra uitleg nodig. Nieuwe risico’s gaan vaak gepaard met onzekerheden. Nu gaan per definitie alle risico’s gepaard met onzekerheid, omdat het risico gaat om een ‘kans’ dat schade optreedt. Het onzekere van ‘nieuwe, onzekere risico’s’ is echter dat we de rekensom ‘kans x schade’ of ‘kans x effect’ nog niet kunnen maken. Er is nog onvoldoende wetenschappelijke kennis en bestaande onderzoeksmethoden zijn nog ontoereikend. En soms ontbreekt ook marktinformatie, waardoor we niet zeker weten in welke mate bijvoorbeeld producten of processen met de nieuwe technologie daadwerkelijk worden toegepast.

Onbekende risico’s

Een ‘onbekend’ risico is iets anders dan een ‘onzeker risico’. Zo zijn er bijvoorbeeld stoffen waarvan we het risico niet goed kennen, omdat er nog onderzoek naar wordt gedaan. Maar we weten wel precies hoe we uiteindelijk het risico kunnen bepalen. De Europese stoffenverordening schrijft precies voor hoe dat moet en waar bedrijven zich aan moeten houden als ze zo’n stof produceren, verhandelen of gebruiken.

Soorten onzekere risico’s

Als we spreken van onzekere risico’s, heeft dat dus vaak te maken met ontbrekende risicoanalysemethoden. Vaak gaat het dan om tekortschietende natuurwetenschappelijke methoden. Denk aan de risico’s van nanomaterialen: die bevatten deeltjes die zo klein zijn dat hun fysisch-chemische werking heel anders is dan die van de chemische basisstoffen waar ze van afgeleid zijn. Daarnaast kan de onzekerheid het gevolg zijn van onvoldoende – wetenschappelijk - inzicht in de sociaal-maatschappelijke effecten van een nieuwe technologie. Denk aan de effecten van zelfrijdende en zelfsturende voertuigen, of aan de effecten van de opkomst van drones.
Bovendien gaan onzekere risico’s vaak gepaard met zorgen in de samenleving. Die zorgen kunnen betrekking hebben op de mogelijke risico’s van een nieuwe technologie (denk bijvoorbeeld aan zorgen over effecten van straling van mobiele telefoons), en soms op andere zaken rondom de toepassing van een technologie.

Er zijn uiteenlopende manieren om naar onzekere risico’s te kijken. Hoe preciezer wordt gekeken, hoe beter het beleid toegesneden kan worden op de aard van een onzeker risico. In ieder geval sta je bij een onzeker risico voor de taak om het voorzorgsprincipe toe te passen.

Waar maken mensen zich bij nieuwe risico’s zorgen over? En hoe krijg je daar zicht op?

Een nieuwe technologische ontwikkeling met daaraan verbonden een mogelijk ‘nieuw risico’, kan in de maatschappij veel losmaken. De beroering kan over meer en andere zaken gaan, dan alleen over het mogelijke fysieke risico. Waarover gaat dat dan? Wat halen mensen zich – al dan niet terecht – in het hoofd bij nieuwe risico’s? Welke zorgen hebben zij, waar maken zij zich druk over? En hoe kan dit worden gesignaleerd en een plaats krijgen in de verdere beleidsontwikkeling? Wie aan de slag gaat met ‘nieuwe risico’s’ moet dus ook zicht hebben op eventuele zorgen en bezwaren die in de samenleving leven.

Een eerste antwoord

Juist bij nieuwe risico’s die verbonden zijn aan een nieuwe technologische ontwikkeling, is de kans groot dat zij veel losmaken in de samenleving. Bekend is dat risico’s als ernstiger worden beschouwd als ze man-made zijn (ofwel: met een technologie samenhangen). Bovendien zijn mensen nog niet vertrouwd met de nieuwe technologie en haar eventuele gevolgen, en gaan de nieuwe risico’s vaak met veel onzekerheden gepaard.

Globaal zijn vier verschillende typen zorgen te onderscheiden:

1. Zorgen om de directe fysieke risico’s, voor de bevolking in het algemeen en soms ook voor bepaalde kwetsbare groepen in het bijzonder. Denk bijvoorbeeld aan de zorgen over de effecten van de elektromagnetische velden van hoogspanningsleidingen op jonge kinderen. Bij nieuwe technologieën kunnen deze zorgen zowel bekende als nieuwe, onzekere risico’s betreffen. En de onzekerheid kan ertoe leiden dat mensen zich extra zorgen maken.
2. Zorgen over de indirecte sociaaleconomische en maatschappelijke effecten van deze – vermeende – fysieke risico’s. Denk aan ontwaarding van grond en huis, aantasting van de privacy, verminderde bereikbaarheid. Ook bij nog volstrekt onzekere risico’s kunnen deze zorgen geheel reëel zijn. Een voorbeeld: ook al weet niemand of CO₂ opslag onder een woonwijk werkelijk risico’s met zich meebrengt, als daar ophef over ontstaat dalen de huizenprijzen in die wijk.
3. Een derde type zijn de zorgen over aantasting van meer fundamentele waarden, principes en wereldbeelden: sommige technologische ontwikkelingen kunnen – voor sommige mensen – op gespannen voet staan met een natuurlijke of religieuze orde die voor deze mensen letterlijk of figuurlijk ‘heilig’ is. Denk aan de zorgen die er waren of zijn over plastic, kernenergie, de pil en genetische modificatie.
4. Tenslotte kunnen mensen zich zorgen maken over de vraag wie het recht heeft of neemt om te beslissen, lasten en lusten te verdelen, veiligheidsgaranties af te geven en waar te maken. Dit zijn zorgen over legitimiteit, geloofwaardigheid en kwaliteit van besluitvorming en uitvoering.

Hoe op al deze soorten zorgen zicht te krijgen? Een scan van de omgeving kan een goede eerste indruk leveren. Concreet kan dat als volgt:

• Ga na of er al geluiden in de landelijke pers / opiniebladen, op radio en tv en via de sociale media te beluisteren zijn over de ontwikkelingen waarmee het nieuwe risico verband houdt;
• Doe zelf een wat uitgebreidere speurtocht op internet en ga na of er belangengroepen, fora, discussies zijn, positief dan wel negatief ten aanzien van de ontwikkelingen waarmee het nieuwe risico verband houdt;
• Ga na of kennisinstituten als Rathenau, RIVM, SWOV of anderen zich buigen over de nieuwe ontwikkeling en de implicaties ervan; en
• Organiseer op basis van aldus vergaarde informatie een evaluatiebijeenkomst met direct betrokken collega-beleidsmakers en experts die rondom dit thema actief zijn.

Verdieping

Meer diepgaand inzicht ontstaat door het zelf naar buiten gaan en in contact treden met betrokkenen in de samenleving. Daarbij is het zaak niet uitsluitend een gesprek over risico’s te voeren. Zoals hierboven beschreven is, kunnen er ook zorgen zijn over andere aspecten van de nieuwe technologie. Alleen op basis van een volledig beeld is een passende beleidsactie te formuleren.

De bezwaren die in bepaalde maatschappelijke debatten (bijvoorbeeld hoorzittingen) naar voren komen, zijn niet altijd één-op-één hetzelfde als de zaken waar mensen zich druk over maken. Soms gebruiken mensen argumenten, omdat ze weten dat die als meer legitiem of onweerlegbaar worden beschouwd of omdat naar die typen argumenten (beter) wordt geluisterd. Zo lijken veel maatschappelijke discussies (alleen) over gezondheid en veiligheid te gaan, terwijl op de achtergrond andere zaken (bijvoorbeeld ervaren oneerlijkheid, aangetast vertrouwen) evenzeer of zelfs meer een rol spelen. De emoties bij deze bezwaren hebben vaak te maken met onvoldoende erkenning of geen voor bepaalde zorgen. Juist om die reden zijn de meer emotioneel geladen discussies vaak een goede ingang om een volledig beeld te krijgen van de zorgen die mensen zich maken (zie ook: Roeser, 2012).

Een aantal mogelijke routes voor dit gesprek is:

• Treedt in interactie met experts, meer en minder gevestigde belangenbehartigers, betrokken en/of geraakte individuen. Stel open vragen, luister met open oor en stel een oordeel uit. Probeer langzaam een beeld te vormen van de kansen en bezwaren die mensen bij de nieuwe technologie zien;
• Volg de emoties. Waar emoties zijn, zit energie, betrokkenheid, morele geraaktheid. Probeer een beeld te vormen van waar de emoties vandaan komen en betrekking op hebben. Stel een oordeel langere tijd uit;
• Zorg voor de beschikbaarheid van neutrale informatie over feitelijkheden en luister naar de vragen en oordelen die naar aanleiding hiervan naar boven komen (zei ook: Brenninkmeijer, 2012);
• Vraag aan gesprekspartners welke andere organisaties en partijen bij dit thema van belang zijn en vraag om introducties of doorverwijzingen. Breidt het netwerk uit totdat het punt van verzadiging optreedt;
• Probeer op deze manier een beeld te vormen van wat er zoal rond het thema leeft. Organiseer bijeenkomsten waarop vanuit het opgebouwde netwerk dit ‘rijke’ beeld op reële wijze naar voren kan komen. Dus zonder dat bepaalde zienswijzen ondergesneeuwd raken of als niet legitiem worden weggezet. Dat kan vereisen dat meerdere bijeenkomsten van verschillende samenstelling worden georganiseerd. Zorg dat relevante collega-beleidsmakers hier ook bij aanwezig zijn en het beeld ook meekrijgen.

Passen de regels wel op mijn onzekere risico?

Misschien wel de belangrijkste bron van onzekerheid bij echt nieuwe risico’s is de vraag of bestaande wettelijke definities, categorieën en veiligheidsnormen wel toepasselijk zijn. Zo kunnen in wetten en regels soms typen technologieën of producten beschreven zijn, die door nieuwe ontwikkelingen worden achterhaald. Een voorbeeld: de definitie van ‘genetisch gemodificeerd organisme’ past niet op organismen waarvan de DNA structuur is gemodificeerd met nieuwere technieken, die nog niet bestonden ten tijde van het opstellen van de wettelijke regels.
Ook kunnen gangbare veiligheidsnormen opeens onwerkbaar blijken te zijn. Een voorbeeld: bij ‘gewone’ chemische stoffen geldt, hoe hoger hun gewichtsaandeel in een kubieke meter lucht, hoe hoger het risico. Bij nanodeeltjes is daarentegen vooral het reactieve oppervlakte van belang, wat maakt dat hun concentratie beter in oppervlakte/gewichtsverhouding kan worden uitgedrukt. Dat vraagt heel andere meetmethoden en andere soorten grenswaarden.

Hoe vast te stellen of bij een nieuwe technologie een situatie als deze aan de orde is? En hoe hiermee om te gaan?

Een eerste antwoord

Van het antwoord op de vraag of definities, regels en normen werkelijk niet meer passen, kan veel afhangen. Zowel in termen van risico’s en veiligheid, als in termen van andere maatschappelijke kosten en baten. Zo’n antwoord kan dan ook niet lichtvaardig gegeven worden. In ieder geval geldt, dat als er serieuze aanwijzingen zijn dat regels en normen niet meer passen, dient hier door deskundige en gezaghebbende personen en organen naar gekeken en over besloten te worden. In veel gevallen zal dit zelfs op Europese of mondiale schaal moeten gebeuren. Wat te doen zolang – vanwege niet passende definities en regels – niet goed is vast te stellen of de toepassing van een technologie binnen veiligheidsgrenzen kan blijven, en daar ook niet op toegezien kan worden? In dat geval is voorzorg zeer op zijn plaats en is het de taak van de overheid ervoor te zorgen dat het voorzorgsprincipe wordt toegepast.

Verdieping

Als er serieuze aanwijzingen zijn, dat regels en normen niet meer passen, is het zaak scherper in beeld te krijgen op welke onderdelen en in welke opzichten de regels tekort schieten om de veiligheid van de leefomgeving vast te stellen en/of te garanderen. Dat inzicht maakt ook duidelijk op welke punten verder onderzoek en/of aanpassing van de regels nodig is.
Vaak zijn wel al definities en tijdelijke handvatten nodig van zaken die met de nieuwe technologie samenhangen, ook in een nog heel onzekere periode. Dit om überhaupt zaken te kunnen waarnemen, registreren, onderscheiden en er vervolgens met voorzorg mee te kunnen omgaan. Ook dat kan een lastige kwestie zijn, waarbij bovendien nogal uiteenlopende belangen in het spel kunnen zijn. Wat een technische kwestie lijkt, blijkt een politieke lading te hebben. Zo is er bijvoorbeeld lang over gedaan om tot een Europese definitie van een ‘nanodeeltje’ te komen. Daar hing ook veel van af. Bijvoorbeeld: in het kader van de Europese Cosmeticaverordening en de Biocidenverordening geldt een etiketteringplicht voor producten (cosmetica, biociden) met nanomaterialen. Afhankelijk van de definitie van ‘nanomateriaal’ geldt voor minder of juist heel veel producten zo’n etiketteringverplichting.

Een terughoudende omgang met een nieuwe technologie kan ook betekenen dat voorlopige specifieke condities geformuleerd moeten worden, waaronder verantwoorde toepassing wel mogelijk is. Een voorbeeld hiervan zijn de tijdelijke nano-referentiewaarden: strenge blootstellingnormen voor nanodeeltjes, die de grenzen aangeven waaronder met redelijke zekerheid nog van veilig werken sprake is. Deze maken deel uit van een door werkgevers en vakbonden in de Sociaaleconomische Raad (SER) vastgestelde voorzorgstrategie.

Welke soorten onzekere risico’s zijn er?

Onder de term onzeker risico worden heel verschillende dingen verstaan. Waarin de onzekerheid zit, kan uitmaken voor de manier waarop het beste met die onzekerheid kan worden omgegaan. Zo kan er onzekerheid zijn over de vraag of überhaupt sprake is van risico’s. Dit kan te maken hebben met de afwezigheid van geschikte risico-analysemethoden. Het kan ook zijn, dat het wel duidelijk is dat een nieuwe technologie leidt tot effecten, maar dat onduidelijk is in welke mate deze effecten optreden en/of dat onduidelijk is in hoeverre deze effecten schadelijk zijn. Dit kan te maken hebben kennisonzekerheid.

Een eerste antwoord

Als hulpmiddel om te analyseren met welk soort onzekerheid je te maken hebt, kun je gebruik maken van onderstaand onderscheid. Aan de hand daarvan kun je de mogelijke aanpak bepalen. Grofweg zijn de onzekerheden te onderscheiden naar volgende soorten:

1. Kennisonzekerheid: onzekerheid die het gevolg is van het gebrek aan kennis;
2. Diversiteit: onzekerheid als gevolg van de vele factoren die in het spel zijn. Zo is er bijvoorbeeld diversiteit in mensen en hun gedrag, diversiteit in omstandigheden, enzovoort;
3. Onzekerheid die om praktische redenen niet te verkleinen is, bijvoorbeeld omdat onderzoek ethisch niet verantwoord is; en
4. Onwetendheid: onzekerheid doordat er altijd factoren zijn waarvan men niet beseft dat ze ook van belang zijn.

Deze indeling van onzekerheden valt gedeeltelijk samen met de indeling uit het ‘Stappenplan Omgaan met onzekere risico’s’ (Halffman en Ragas, 2015).

Verdieping

Kennisonzekerheid

Dit is de onzekerheid die het gevolg is van een gebrek aan kennis. Hierbij worden nog onbekende en onzekere risico’s onderscheiden. We spreken van een ‘onbekend risico’ als de toe te passen risico-analysemethode bekend is, maar het tijd kost om de kennis te verzamelen. We spreken van een ‘onzeker risico’ als er nog zoveel wetenschappelijke en methodologische onzekerheden zijn, dat het risico niet eenvoudig via de gebruikelijke methoden voor risicoanalyse bepaald kan worden.
Kennisonzekerheid kan zowel betrekking hebben op het maatschappelijk domein (framing, normen en waarden, enz.) als op het fysieke/technische domein (oorzaak-gevolg relaties, mogelijke schadelijke effecten, enz.). Belangrijke vragen om te stellen in verband met kennisonzekerheid zijn:

• Beschikbare kennis: hoe precies is de kennis, is er conflicterend bewijs of bevindingen die niet doorslaggevend zijn? Welk onderzoek kan de kennis verbeteren? 
Mogelijke aanpak: een wetenschappelijk assessment om te bepalen welke wetenschappelijke kennis beschikbaar is en eventueel meer onderzoek. Om te bepalen welk onderzoek nodig is, is overleg nodig met deskundigen.
• Betrouwbaarheid van kennis en gerespecteerde bronnen van kennis: is de oorsprong van de gegevens duidelijk gedocumenteerd en betrouwbaar? Hoe betrouwbaar is de oorsprong van de kennis? Is het een betrouwbare instantie of neutrale partij? 
Mogelijke aanpak: deskundige review van data, selectie van min of meer betrouwbare gegevens, analyse van waar meer betrouwbaar onderzoek nodig is.
• Oorzaken van selectieve kennis: welke processen beperken de beschikbare kennis? Zo is bijvoorbeeld kennis het resultaat van investering in onderzoek en hangt een investering af van geldschieters. 
Mogelijke aanpak: verschuiven van onderzoeksprioriteiten, onderhandelen over beschikbaar maken van kennis, verbeterde communicatiekanalen.

Als, en voor zolang, sprake is van kennisonzekerheid, zal het voorzorgprincipe moeten worden aangehouden.

Diversiteit

Is er rekening gehouden met variatie in bijvoorbeeld ruimte, tijd, tussen mensen, in beleidskaders of in probleemopvattingen. Het meenemen van variatie is essentieel om te bepalen waar, wanneer welk effect optreedt en bij wie. De variatie speelt zoal bij:

• Mensen en hun gedrag (variatie in effecten bij mensen van verschillende leeftijd, sekse, gewicht, gezondheid, etniciteit, gedrag en leefgewoonten).
Mogelijk aanpak: grotere veiligheidsmarges, onderzoek naar specifieke risico-populaties of extremere blootstellingsscenario’s.
• Fysieke omstandigheden (bijvoorbeeld lokale variatie in ondergrond, waterhuishouding en temperatuur, stapelende risico’s). 
Mogelijke aanpak: meten van lokale variabiliteit, rekenen/redeneren met extremere scenario’s.
• Veronderstellingen over het functioneren van de maatschappij, overheid, regelgeving of vertrouwen in deze partijen. Bij de discussie over schaliegas gaven tegenstanders bijvoorbeeld aan geen vertrouwen te hebben in de techniek van schaliegaswinning, in de bedrijven die deze toepassen en in de toezichthouders. 
Mogelijke aanpak: analyse van mogelijke veronderstellingen over maatschappelijk functioneren, aandacht voor robuuste oplossingen.
• Diversiteit in de praktijk: wat wordt er verondersteld over hoe het er in de praktijk aan toe gaat? Zijn er signalen dat aannames uit risicobeoordelingen niet aansluiten bij reële omstandigheden? Bijvoorbeeld: zijn laboratorium condities sterk afwijkend van veldomstandigheden? Of zijn de omstandigheden op de werkvloer anders dan je volgens de regelgeving mag veronderstellen? 
Mogelijke aanpak: overleg met mensen uit de praktijk, het doorredeneren van wat de consequenties zijn van als de regels niet worden of kunnen worden nageleefd, onderzoek naar praktijksituaties.

Onvoorspelbaarheid

Welke processen zijn onvoorspelbaar? Dit gaat over onzekerheid die zelfs met meer kennis niet te reduceren is omdat de complexiteit te groot is, toeval meespeelt of vanwege onvoorspelbare feedback processen (het is niet bekend of processen elkaar op positieve of negatieve manier beïnvloeden). 
Mogelijk aanpak: worst/best case scenario’s opstellen, robuust beleid, risicospreiding. Ook bij onzekerheid vanwege onvoorspelbaarheid zal het voorzorgprincipe moeten worden aangehouden.


Onwetendheid

Wat als er verrassingen komen? Het is mogelijk dat wij worden verrast door onverwachte gebeurtenissen en ontwikkelingen die we niet hebben zien aankomen. Verrassingen kunnen overigens ook positief zijn.