Invoering van geavanceerde technologie in het politieonderzoek
Politie lichaam camera’s uitgerust met kunstmatige intelligentie worden momenteel in Edmonton, Canada, gebruikt om gezichten te detecteren van ongeveer 7.000 personen die op een “hoog risico” waaglijst staan. Deze live test onderzoekt of gezichtsherkenningstechnologie, die eerder als te indringend werd beschouwd, een plaats kan krijgen binnen politietaken in Noord-Amerika.
Hoewel zes jaar geleden Axon Enterprise, Inc., een vooraanstaande fabrikant van lichaam camera’s, zich uitlas over de ethische kwesties rond gezichtsherkenning, wordt deze pilot door velen als een significante stap gezien. Sinds de start van de test blijken er echter zorgen te leven, niet alleen binnen Edmonton, maar ook op bredere continentale schaal.
Controverse en ethische bezorgdheden
Een voormalig lid van de ethiekraad van Axon, die in 2019 de inzet van gezichtsherkenningstechnologie tijdelijk stopzette, uitte zich recentelijk bezorgd dat het bedrijf zonder breed publiek debat of voldoende beoordeling door experts voortgang boekt. Volgens Barry Friedman, een hoogleraar aan de New York University, zijn de potentiële maatschappelijke risico’s en privacyproblemen niet voldoende onderzocht.
Friedman benadrukte dat het gebruik van deze technologie alleen gerechtvaardigd is wanneer er duidelijk bewijs is van de voordelen, gezien de grote kosten en risico’s die eraan verbonden zijn.
Doelstellingen en werking van het pilotproject
Volgens Rick Smith, de oprichter en CEO van Axon, is deze pilot geen marktintroductie, maar een fase van ‘oefenonderzoek’ om te beoordelen hoe de technologie presteert en welke safeguards noodzakelijk zijn voor verantwoord gebruik. Smith verklaarde dat buiten de Verenigde Staten testen waardevolle onafhankelijke inzichten opleveren, die de regelgeving kunnen versterken en toepasbaar zijn bij latere beoordelingen, ook in de VS.
Het project richt zich op het vergroten van de veiligheid van politieagenten in Edmonton door hun camera’s in staat te stellen personen te herkennen die door de autoriteiten als gevaarlijk of problematisch zijn bestempeld. Op de waaglijst staan momenteel 6.341 personen, naast 724 individuen met een ernstig arrestatiebevel.
Implementatie en privacyaspecten
Het gebruik van gezichtsherkenning in Edmonton wordt beperkt tot daglichturen en wordt uitgevoerd door circa 50 politieagenten. Deze agentschappen weten niet of de software daadwerkelijk een treffend gezichtsherkenningsresultaat oplevert; de uitkomsten worden later op het politiebureau geanalyseerd. In de toekomst zou de technologie kunnen helpen om gevaarlijke personen snel op te sporen, maar alleen wanneer politie al een onderzoek gestart is of ter plaatse reageert op een melding.
De privacyautoriteiten van Alberta beoordelen momenteel de privacy-impactverklaring die door de politie is ingediend, en dit onderzoek is een vereiste voor projecten die persoonlijke data van hoge gevoeligheid verzamelen.
Internationale context en maatschappelijke discussie
Hoewel veel Amerikaanse gemeenten lichaam camera’s gebruiken voor verantwoording, blijft de inzet van real-time gezichtsherkenning in openbare ruimtes controversieel. Studies tonen aan dat de technologie vaak fouten bevat en biased resultaten vertoont op basis van ras, geslacht en leeftijd. Diverse staten en steden proberen het gebruik van gezichtsherkenning te beperken, hoewel het nieuwe beleid van de Trump-regering dit bemoeilijkt.
De Europese Unie verbiedt gezichtsherkenning in openbare ruimte voor niet-zuiver criminele doeleinden, terwijl het VK sinds tien jaar de technologie test op straat en het gebruik wil uitbreiden. Hierbij worden al 1.300 arrestaties gedaan in de afgelopen twee jaar.
Specifieke details en kritische bedenkingen
Veel details over de Edmontonstest blijven nog onopenbaar. Axon gebruikt geen eigen AI-model voor gezichtsherkenning, maar werkt met externe leveranciers, van wie de identiteit niet bekend is. De politie in Edmonton geeft aan dat de pilot tot eind december zal duren en uitsluitend tijdens daglicht zal plaatsvinden.
De technologische outputs worden na de politieshift geanalyseerd. Hoewel het nu nog geen modus voor actieve herkenning wordt gebruikt, zou het in de toekomst kunnen bijdragen aan het opsporen van gevaarlijke personen, mits de omstandigheden dat toelaten.
Volgens de politie wordt hierbij zoveel mogelijk de privacy van personen gerespecteerd, en worden de rechten van individuen ondersteund door restricties die bijvoorbeeld de politie beperken tot het starten van een zoektocht bij een lopend onderzoek of bij een melding.
Regelgeving en toezicht
De privacycommissie van Alberta beoordeelt momenteel de privacy-impactverklaring, en het ministerie van gegevensbescherming heeft hierin haar betrokkenheid bevestigd. Daarnaast uitten academici zoals Temitope Oriola kritiek op de experimenten, omdat de relatie tussen politie en de lokale gemeenschappen, vooral de inheemse en zwarte bevolkingsgroepen, soms gespannen is.
Axon heeft in het verleden weerstand ondervonden tegen het inzetten van gezichtsherkenning en andere AI-technologieën, zoals in 2022 bij het vertrek van Friedmans en andere ethiekraadleden. Volgens Smith is de technologie aanzienlijk verbeterd en klaar voor proef in de praktijk, al erkent Axon dat factoren zoals afstand en belichting invloed hebben op de nauwkeurigheid, vooral bij mensen met een donkere huidskleur.
Alle matches worden door mensen beoordeeld, en het bedrijf werkt aan adequate training en toezicht om de risico’s te beperken. Friedman roept op tot transparantie en het publiceren van evaluaties, omdat hij bezorgd is dat de inzet zonder adequate regelgeving en publieke controle plaatsvindt.
