Camerabewaking in Brussel

| Camerabewaking in Brussel.

Opinie

'Live gezichtsherkenning inzetten tegen sluikstorten? Europa laat het straks toe'

© BRUZZ
29/01/2025

De AI Act, die op 4 februari van kracht wordt, laat de deur open voor realtimegezichtsherkenning voor politie en veiligheidsdiensten. Slecht nieuws voor privacyminnende Brusselaars, zeggen experts Michaël Van den Poel en Rosamunde Van Brakel in een opiniebijdrage voor BRUZZ.

Rosamunde Van Brakel

Professor Rosamunde Van Brakel is criminologe en werkt als docent bij de Vrije Universiteit Brussel waar ze het vak Legal, Ethical and Social Issues of Artificial Intelligence doceert in de Masteropleiding Rechten en doet daarnaast onderzoek in het domein van de digitale criminologie bij de Crime & Society onderzoeksgroep van de VUB.

Michaël Van den Poel

Michaël Van den Poel is als doctoraal onderzoeker gegevensbeschermingsrecht verbonden aan de EDHEC Business School en de Law, Science, Technology and Society onderzoeksgroep aan de Vrije Universiteit Brussel.

Na veel legislatief borstgeroffel keurde de EU vorig jaar de AI Act, of Verordening artificiële intelligentie goed. Na een overgangsperiode laat die verordening op 4 februari voor het eerst haar tanden zien met de toepassing van een eerste set regels, die onder andere het realtimegebruik van camera's met gezichtsherkenning in de publieke ruimte streng moet reguleren.

Nu al wordt de Brusselse burger in de publieke ruimte bijna continu gefilmd: honderden camera's met nummerplaatherkenning voor de lage-emissiezone en Good Move, 1.200 camera's in de Brusselse treinstations en een veelvoud daarvan voor toezicht op publieke en private plaatsen. De monitoring van die beelden gaat daarbij steeds meer over van de politie die de beelden bekijkt en opvraagt naar het automatisch analyseren door artificiële intelligentie. Camera's in Kortrijk en de Joodse buurt in Antwerpen detecteren zo bepaald gedrag, en onlangs geplaatste camera's bevatten vandaag al de mogelijkheid om realtimegezichtsherkenning toe te passen, zoals met een proefproject in Brussels Airport.

Dat intussen afgevoerde proef­project was, zoals alle continue gezichtsherkenning verboden in België bij gebrek aan rechtsgrond. De AI Act handhaaft dat verbod, maar opent wel een deur naar de toepassing van dergelijke realtimegezichtsherkenning voor politie en veiligheidsdiensten. Behalve een juridisch wankele uitzondering voor nationale veiligheid, is realtime­gezichtsherkenning toegestaan om bepaalde verdachten en slachtoffers op te sporen, en om ernstige (terroristische) dreigingen te voorkomen. Wel koppelt de AI Act daaraan de noodzaak van een wet die ook voorziet in controle door een rechter en een toetsing om de risico's na te gaan van de toepassing voor fundamentele rechten. Het laat echter de deur open om realtime­gezichtsherkenning in te zetten voor minder zware misdrijven zoals sluikstorten.

Realtimegezichtsherkenning kan bijvoorbeeld demonstranten ontmoedigen, uiterst relevant in een stad met elk jaar meer dan duizend betogingen

Rosamunde Van Braken & Michaël Van den Poel

Reeks risico's

Behalve realtimegezichtsherkenning kunnen politiediensten dezelfde technologie op een retroactieve manier toepassen op opnames. Geput uit een voldoende sluitend cameraweb kan dat gebruikt worden om routes die personen in hun dagelijkse leven volgen te traceren. Zo ontsloeg de Antwerpse politie na analyse van camerabeelden een agent die een fietsvergoeding opstreek, maar met de auto ging werken. Dat soort function creep, waarbij technologie die initieel bedoeld was voor zware misdaden gebruikt wordt om misbruik ter waarde van slechts enkele tientallen euro's vast te stellen, is slechts het begin van een reeks risico's verbonden aan het gebruik van slimme camera's, waarbij het nog maar de vraag is of de nieuwe AI Act in voldoende waarborgen voorziet om die technologie op een rechtvaardige manier in te zetten.

Uit wetenschappelijk onderzoek blijkt dat het gebruik van dit soort technologie een impact heeft op wie wel goede bedoelingen heeft. Zulke chilling effects werken ontmoedigend voor bijvoorbeeld demonstranten, uiterst relevant in een stad met elk jaar meer dan duizend betogingen. Bijkomend toonden onderzoekers veelvuldig aan dat gezichtsherkenning inaccuraat is en kan leiden tot discriminatie. In de VS heeft dat geleid tot de valse identificatie van al acht personen van wie er verschillende onterecht opgesloten werden in de gevangenis en van wie er hierdoor significante schade hebben opgelopen. Bovendien, blijkt uit onderzoek dat niet enkel de technologie problematisch is, maar ook de manier waarop ordediensten ermee omgaan en de interventies die erop volgen.

Privacyminnende Brusselaars kunnen dus niet opgelucht ademhalen nu de AI Act van kracht wordt. Het gebruik van risicovolle technologie blijft alsnog mogelijk. De strijd is evenwel nog niet gestreden, veel zal ook afhangen van hoe de overheden en ordediensten de afweging zullen maken over wanneer het gebruik rechtvaardig is, en welke waarborgen er in de praktijk geïnstalleerd zullen worden. De AI Act geeft lidstaten de mogelijkheid om strenger te zijn en gezichtsherkenning verder aan banden te leggen, en in Brussel kunnen het Gewest en de lokale overheden afzien van het gebruik van zo'n technologie op het openbaar domein. Het is niet omdat het kan, dat het moet.

Reageren of zelf een opiniestuk insturen? Mail naar redactie@bruzz.be

Iets gezien in de stad? Meld het aan onze redactie

Site by wieni