ELSA Lab AI Multi-Agency Public Safety Issues

AI ontwikkelen voor een veiliger Nederland

Wat is ethische en verantwoorde kunstmatige intelligentie (“AI”)? De Covid-pandemie en onrust rondom gedwongen migratie of boerenprotesten laten het belang van publieke veiligheid zien. Het waarborgen van publieke veiligheid is een constante uitdaging in het nastreven van de balans tussen vrijheid en veiligheid

De rol van AI bij beslissingen en veiligheidsmaatregelen 

AI-algoritmes kunnen instellingen ondersteunen bij het nemen van beslissingen en veiligheidsmaatregelen. Patroonherkenning in video’s kan bijvoorbeeld automatisch afwijkende patronen detecteren bij buurtbijeenkomsten. Semantische patroonherkenning in teksten kan stijgende spanningen in groepen op sociale media opsporen. AI-algoritmes kunnen zo lokale overheden begeleiden bij het opschalen van interventie-activiteiten. 

Tegelijkertijd kan AI onbedoeld nieuwe risico’s introduceren, zoals verlies van vertrouwen of gevoel van controle. AI MAPS richt zich daarom op de ethische, juridische en sociale aspecten van AI (ELSA) ontwikkeling en toepassing – om te voorkomen dat de oplossing erger is dan het probleem. 

Over het ELSA Lab AI Multi-Agency Public Safety 

ELSA Lab AI Multi-Agency Public Safety Issues (MAPS) vertrekt vanuit het perspectief van publieke waarden, met aandacht voor vrijheid en maatschappelijk welzijn. Vanuit die basis richt het lab zich op drie veiligheidsvraagstukken die om gezamenlijke actie vragen:  

1. Sociale onrust en overlast in wijken 

2. De aanpak van zware criminaliteit,  

3. Het veilig organiseren en begeleiden van menigtes en evenementen. 
    

Richting geven aan verantwoorde AI in de publieke veiligheid 

AI MAPS bouwt een ecosysteem van wederzijds leren om het groeiende gebruik van AI-toepassingen op verantwoorde wijze te begeleiden. Binnen dit ecosysteem werken publieke, private en academische partijen samen aan gedeelde veiligheidsvraagstukken. Governance, investeringskeuzes en inhoudelijke visie komen daarbij samen. Dit betekent onder andere:  

• ELSA-richtlijnen die organisaties kunnen gebruiken bij het ontwerpen, uitrollen en evalueren van AI-systemen, met aandacht voor diverse burgerbehoeften en publieke waarden. 

• Een investeringskader dat besluitvormers helpt bepalen in welke AI-toepassingen het zinvol en verantwoord is om te investeren. 

• Fundamenteel onderzoek door vier promovendi die werken aan de ethische, juridische en sociale vraagstukken rondom AI en publieke veiligheid. 

• Kennisdeling via het ELSA Network, waardoor inzichten en best practices breder toegankelijk worden voor andere labs en organisaties. 

Deze veiligheidsvraagstukken worden onderzocht vanuit een AI-ecologieperspectief. De AI-systemen, methoden en toepassingen zijn hierbij onderdeel van hybride intelligentie, waarin mens en AI samenwerken. Het doel is niet om mensen te vervangen, maar om menselijk welzijn te versterken. Daarbij wordt de natuur ook als belanghebbende beschouwd.  

Samenwerkingspartners 

Veiligheidsvraagstukken rondom AI raken meerdere domeinen tegelijk en vragen daarom om verschillende perspectieven. Binnen het lab werken meer dan twintig publieke, private en academische partners samen aan gedeelde opgaven, ieder vanuit hun eigen rol en expertise. Denk hierbij aan: 

• De Nationale Politie
• Woonstad Rotterdam (woningcorporatie)
• Rathenau Instituut
• HSD (The Hague Security Delta)
• Erasmus Universiteit Rotterdam
• TU Delft
• Universiteit Leiden
• TNO
• ICAI
• Google
• Deloitte 

Meer weten of samenwerken? 

Ga voor meer informatie naar de projectwebsite, of neem contact op met prof.dr. G (Gabriele) Jacobs via g.jacobs@essb.eur.nl.