Tekst Maaike Stroeks
Foto Paul Ridderhof
Buitenlandse Zaken co-host van The Hague Conference on Responsible AI
De opkomst van kunstmatige intelligentie (ook wel artificial intelligence: AI) in de nieuwe digitaliseringsgolf brengt belangrijke maatschappelijke en ethische vraagstukken met zich mee. Ook binnen het domein van vrede, recht en veiligheid. Vragen als: Hoe kunnen staten AI-toepassingen in het cyberdomein inzetten om de Nederlandse samenleving te beïnvloeden en ondermijnen? Hoe verdedigt Nederland zich tegen zelflerende malware in cyberaanvallen? Op basis van welke normen en waarden willen we dat zelfdenkende robots opereren in militair terrein? En hoe kunnen algoritmes de politie op een niet-discriminerende en transparante manier ondersteunen?
Leestijd: 4 minuten
Over deze vragen gingen internationale experts uit het bedrijfsleven, maatschappelijk middenveld, wetenschap en overheid in gesprek. Buitenlandse Zaken organiseerde samen met het ministerie van Justitie en Veiligheid en Gemeente Den Haag de The Hague Conference on Responsible AI op 12 en 13 mei in het Vredespaleis. De discussie ging specifiek over het gebruik van AI voor vrede, recht en veiligheid met als doel om bij te dragen aan een verantwoorde en mensgerichte toekomstagenda.
Waarom streven we naar verantwoorde en humane AI?
Artificial Intelligence (AI) heeft een grote impact op de wereld en samenleving zoals we deze kennen. AI wordt ook wel gezien als een ‘systeemtechnologie’ die de samenleving fundamenteel gaat veranderen in wat ook wel de ‘vierde industriële revolutie’ genoemd wordt. Dit betekent dat de impact van AI op de samenleving, politiek en economie vergelijkbaar zal zijn met het ontstaan van de stoommachine, elektriciteit en het internet. Meer hierover lees je in het WRR rapport ‘Opgave AI’.
De High Level Expert Group on Artificial Intelligence (AIHLEG) van de Europese Commissie definieert AI als “systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met een zekere mate van zelfstandigheid – actie te ondernemen om specifieke doelen te behalen”. Hierbij is het belangrijk te realiseren dat AI een technologie is die analyses, en uiteindelijk besluiten maakt op basis van input die bestaat uit zeer grote hoeveelheden data.
Ook voor Nederland is AI een technologie met enorme kansen voor economische groei, welvaart en welzijn. Zo kan AI helpen bij maatschappelijke uitdagingen op het gebied van vergrijzing, onderwijs, klimaatverandering, voedselveiligheid, gezondheid en zorg. Tegelijkertijd zijn er zorgen om uitdagingen, bijvoorbeeld om de bescherming van fundamentele rechten en publieke waarden, waaronder privacy, non-discriminatie (zoals gezien bij de Toeslagenaffaire) en menselijke autonomie.
Tijdens de conferentie zoomde de organisatie van Buitenlandse Zaken bijvoorbeeld in op dreigingen van AI voor cyber en het militaire domein. Denk daarbij aan AI-toepassingen binnen deepfakes, malware of desinformatiecampagnes die er in het cyberdomein steeds realistischer uit zien en die voor wantrouwen en manipulatie kunnen zorgen. Of aan AI-toepassingen in autonome wapens, waarbij wapensystemen in toenemende mate zelfdenkend worden. En menselijke controle een andere rol en vorm krijgt, bijvoorbeeld bij het maken van keuzes in oorlogssituaties. Dit zijn vraagstukken met een niet te onderschatten impact voor de veiligheid in de wereld.
Wat houdt verantwoorde en humane AI in?
Nederland onderstreept en steunt een ‘mensgerichte benadering’ voor AI (op internationaal niveau ook wel human centered AI genoemd). Deze benadering houdt in dat respect voor publieke waarden gestoeld op mensenrechten het uitgangspunt vormt achter het doel, ontwerp en gebruik van AI-toepassingen. AI moet publieke waarden en mensenrechten versterken in plaats van verzwakken. Vele ethische kaders zijn momenteel in ontwikkeling om deze benadering vorm te geven en uit te werken. Bijvoorbeeld in de Toolbox voor Ethisch Verantwoord Innoveren, de Ethische Richtsnoeren voor Betrouwbare AI, maar ook in recente wet- en regelgeving zoals de AI Act. Ook is er recentelijk in de Raad van Europa besloten om een verdrag op te stellen om mensenrechten, democratie en rechtsstaat te beschermen in de toepassing van AI.
De Conferentie
Tijdens de Conferentie ging een groep internationale experts in gesprek over dit thema van verantwoorde, mensgerichte AI. Zij besproken hoe we de kansen van AI maximaal kunnen benutten (want die zijn er zeker), maar tegelijkertijd de risico’s voor de vrede, veiligheid en stabiliteit kunnen beheersen. Verschillende sprekers gaven bijvoorbeeld aan dat het nodig is om waarborgen te ontwikkelen en hun implementatie te testen op AI-systemen, en om op een inclusieve en transparante manier te communiceren over AI, door ondervertegenwoordigde groepen mee te nemen in het besluitvormingsproces.
Op donderdag 12 mei vond de preconferentie plaats. Daar spraken de drie organisatoren van de conferentie: Michel van Leeuwen (Directeur AI Beleid, Ministerie van Justitie en Veiligheid), Nathalie Jaarsma (Ambassadeur Cyber en Veiligheid) en Wim Jansen (Hoofd Internationale Zaken, Gemeente Den Haag). Daarnaast kwamen verschillende experts aan het woord, waaronder Michael Street (NAVO), Cornelia Kutterer (Microsoft) en Irakli Beridze (UNICRI). Deelnemers namen deel aan kleinere rondetafelgesprekken over verschillende deelonderwerpen, zoals hoe software-tools kunnen helpen om aan principes van verantwoord AI-gebruik te voldoen. Of over de noodzaak voor wetshandhaving en justitie om het vertrouwen van burgers en gemeenschappen te winnen wanneer AI gebruikt wordt.
Op de tweede dag werd in verschillende break-outsessies gesproken over verantwoord gebruik van gezichtsherkenningstechnologie door de politie, de impact van AI op cyberveiligheid, ethische en juridische principes voor militair gebruik van AI en hoe verantwoorde innovatie kan plaatsvinden. Plenaire sprekers waren onder meer Jan Kleijssen (Raad van Europa), Kilian Gross (de Europese Commissie), Audrey Plonk (OESO) en Vanja Skoric (het European Center for Not-for-profit Law).
Buitenlandse Zaken kijkt, mede namens de organisatie met Justitie en Veiligheid en Gemeente Den Haag, terug op inspirerende discussies en de samenkomst van een brede groep internationale experts uit de academische wereld, de overheid, multilaterale organisaties en het bedrijfsleven. De Conferentie was een succesvolle stap om Nederland op de kaart te zetten in de discussie over verantwoord gebruik van AI. Het idee is om de Conferentie jaarlijks te organiseren.
Daarnaast is Nederland op 15 en 16 februari 2023 gastheer van een internationale high level conferentie over het verantwoord gebruik van AI in militaire context. Doel van deze conferentie is militair gebruik van AI hoger op de internationale politieke agenda te zetten en met een brede groep ministers een politieke verklaring op te stellen over hoe de komende tijd gewerkt kan worden aan verantwoord gebruik van AI in het militaire domein. Ook deze conferentie kenmerkt zich door het betrekken van alle stakeholders op het terrein van militaire AI. Zo zet Buitenlandse Zaken in op een dialoog op hoog niveau tussen industrie, academici, maatschappelijk middenveld en landen over dit relevante thema.
Meer weten?
- Meer over de impact van AI op de Nederlandse samenleving lees je in het WRR-rapport ‘Opgave AI’.
- Meer informatie over de Nederlandse AI-strategie lees je in het Strategisch Actieplan Artificial Intelligence (SAPAI).
- Meer informatie over de internationale conferentie over verantwoord militair gebruik van AI die op 15 en 16 februari 2023 zal plaatsvinden, mail met DVB-NW-AI@minbuza.nl.
