Het is allemaal stil op een doordeweekse ochtend in het CCTV-bewakingscentrum van de Southwark Council in Londen, als ik op bezoek kom.
Tientallen monitoren tonen grotendeels alledaagse activiteiten: mensen die in een park fietsen, op de bus wachten, winkels in- en uitgaan.
De manager hier is Sarah Pope, en er bestaat geen twijfel over dat ze enorm trots is op haar werk. Wat haar een echt gevoel van voldoening geeft, is “het opvangen van de eerste glimp van een verdachte… die het politieonderzoek vervolgens in de goede richting kan sturen”, zegt ze.
Southwark laat zien hoe CCTV-camera's – die volledig voldoen aan de Britse gedragscode – worden gebruikt om criminelen te vangen en mensen te beschermen. Dergelijke surveillancesystemen kennen echter overal ter wereld hun critici: mensen die klagen over een verlies aan privacy en een schending van burgerlijke vrijheden.
De productie van CCTV-camera's en gezichtsherkenningstechnologieën is een bloeiende industrie, die een schijnbaar onverzadigbare honger voedt. Alleen al in Groot-Brittannië is er één CCTV-camera voor elke elf inwoners.
Alle landen met minstens 250.000 inwoners gebruiken een of andere vorm van AI-surveillancesystemen om hun burgers in de gaten te houden, zegt Steven Feldstein van de Amerikaanse denktankCarnegie. En het is China dat deze markt domineert – goed voor 45% van de mondiale omzet van de sector.
Chinese bedrijven als Hikvision, Megvii of Dahua zijn misschien geen bekende namen, maar hun producten kunnen wel eens in een straat bij jou in de buurt worden geïnstalleerd.
“Sommige autocratische regeringen – bijvoorbeeld China, Rusland en Saoedi-Arabië – exploiteren AI-technologie voor massale surveillancedoeleinden,”De heer Feldstein schrijft in een artikel voor Carnegie.
“Andere regeringen met een sombere staat van dienst op het gebied van de mensenrechten exploiteren AI-surveillance op beperktere manieren om de repressie te versterken. Toch lopen alle politieke contexten het risico van het onrechtmatig exploiteren van AI-surveillancetechnologie om bepaalde politieke doelstellingen te bereiken.”
Ecuador heeft bij China een landelijk surveillancesysteem besteld
Eén plek die een interessant inzicht biedt in hoe China snel een surveillance-supermacht is geworden, is Ecuador. Het Zuid-Amerikaanse land kocht een compleet nationaal videobewakingssysteem van China, inclusief 4.300 camera’s.
“Een land als Ecuador zou natuurlijk niet noodzakelijkerwijs het geld hebben om voor een systeem als dit te betalen”, zegt journaliste Melissa Chan, die vanuit Ecuador berichtte en gespecialiseerd is in de internationale invloed van China. Ze rapporteerde voorheen vanuit China, maar werd enkele jaren geleden zonder uitleg het land uitgezet.
“De Chinezen kwamen met een Chinese bank die hen een lening wilde geven. Dat helpt echt de weg te effenen. Ik heb begrepen dat Ecuador olie had beloofd tegen deze leningen als ze deze niet konden terugbetalen.' Ze zegt dat een militaire Attaché van de Chinese ambassade in Quito erbij betrokken was.
Eén manier om naar de kwestie te kijken is niet simpelweg te focussen op de surveillancetechnologie, maar op ‘de export van autoritarisme’, zegt ze, en voegt eraan toe dat ‘sommigen zouden beweren dat de Chinezen veel minder discriminerend zijn in termen van welke regeringen ze willen. om mee te werken”.
Voor de VS zijn het niet zozeer de exporten die zorgen baren, maar de manier waarop deze technologie op Chinese bodem wordt gebruikt. In oktober plaatsten de VS een groep Chinese AI-bedrijven op de zwarte lijst vanwege vermeende mensenrechtenschendingen tegen de Oeigoerse moslims in de regio Xinjiang in het noordwesten van het land.
China's grootste CCTV-fabrikant Hikvision was een van de 28 bedrijven die aan het Amerikaanse handelsdepartement werden toegevoegdEntiteitenlijst, waardoor de mogelijkheid om zaken te doen met Amerikaanse bedrijven wordt beperkt. Welke invloed zal dit hebben op de activiteiten van het bedrijf?
Hikvision zegt dat het eerder dit jaar mensenrechtenexpert en voormalig Amerikaans ambassadeur Pierre-Richard Prosper heeft ingeschakeld om te adviseren over de naleving van de mensenrechten.
De bedrijven voegen eraan toe dat “het bestraffen van Hikvision, ondanks deze afspraken, mondiale bedrijven zal afschrikken van communicatie met de Amerikaanse overheid, de Amerikaanse zakenpartners van Hikvision zal schaden en een negatieve impact zal hebben op de Amerikaanse economie”.
Olivia Zhang, de Amerikaanse correspondent voor het Chinese zakelijke en financiële mediabedrijf Caixin, denkt dat er voor sommigen op de lijst op de korte termijn problemen kunnen ontstaan, omdat de belangrijkste microchip die ze gebruikten afkomstig was van het Amerikaanse IT-bedrijf Nvidia, “die moeilijk te vervangen zou zijn. ”.
Ze zegt dat “tot nu toe niemand van het Congres of de Amerikaanse uitvoerende macht enig hard bewijs heeft geleverd” voor de zwarte lijst. Ze voegt eraan toe dat Chinese fabrikanten geloven dat de rechtvaardiging van de mensenrechten slechts een excuus is, “de echte bedoeling is alleen maar om de leidende technologiebedrijven van China hard aan te pakken”.
Terwijl de surveillanceproducenten in China de kritiek op hun betrokkenheid bij de vervolging van minderheden in eigen land wegwuifden, stegen hun inkomsten vorig jaar met 13%.
De groei die dit met zich meebrengt in het gebruik van technologieën als gezichtsherkenning vormt een grote uitdaging, zelfs voor ontwikkelde democratieën. Ervoor zorgen dat het legaal wordt gebruikt in Groot-Brittannië is de taak van Tony Porter, de commissaris voor bewakingscamera's voor Engeland en Wales.
Op praktisch vlak heeft hij veel zorgen over het gebruik ervan, vooral omdat het zijn belangrijkste doel is om er brede publieke steun voor te genereren.
“Deze technologie werkt tegen een watchlist”, zegt hij, “dus als de gezichtsherkenning iemand van een watchlist identificeert, wordt er een match gemaakt en wordt er ingegrepen.”
Hij vraagt zich af wie er op de watchlist staat en wie deze controleert. “Als het de particuliere sector is die de technologie beheert, wie is dan de eigenaar – is het de politie of de particuliere sector? Er zijn te veel vage lijnen.”
Melissa Chan stelt dat er enige rechtvaardiging is voor deze zorgen, vooral als het gaat om systemen van Chinese makelij. In China zegt ze dat “de regering en ambtenaren juridisch gezien het laatste woord hebben. Als ze echt toegang willen hebben tot informatie, moet die informatie door particuliere bedrijven worden overgedragen.”
Het is duidelijk dat China deze industrie echt tot een van zijn strategische prioriteiten heeft gemaakt en zijn staatsmacht achter de ontwikkeling en promotie ervan heeft geplaatst.
Bij Carnegie gelooft Steven Feldstein dat er een aantal redenen zijn waarom AI en surveillance zo belangrijk zijn voor Beijing. Sommige houden verband met ‘diepgewortelde onzekerheid’ over de levensduur en duurzaamheid van de Chinese Communistische Partij.
“Een manier om te proberen het voortbestaan van de politiek te garanderen, is door naar technologie te kijken om repressief beleid uit te voeren en de bevolking te onderdrukken van het uiten van dingen die de Chinese staat zouden uitdagen”, zegt hij.
Maar in een bredere context geloven Peking en veel andere landen dat AI de sleutel zal zijn tot militaire superioriteit, zegt hij. Voor China is “investeren in AI een manier om zijn dominantie en macht in de toekomst te verzekeren en te behouden”.
Posttijd: 07 mei 2022