Het is allemaal stil op een doordeweekse ochtend halverwege de ochtend in het CCTV-bewakingscentrum van Southwark Council, in Londen, wanneer ik een bezoek breng.
Tientallen monitoren tonen grotendeels alledaagse activiteiten: mensen die in een park fietsen, op bussen wachten, winkels in en uit lopen.
De manager hier is Sarah Pope, en het lijdt geen twijfel dat ze enorm trots is op haar werk.Wat haar een echt gevoel van voldoening geeft, is 'de eerste glimp opvangen van een verdachte... die het politieonderzoek vervolgens in de goede richting kan sturen', zegt ze.
Southwark laat zien hoe CCTV-camera's - die volledig voldoen aan de Britse gedragscode - worden gebruikt om criminelen te vangen en mensen te beschermen.Dergelijke bewakingssystemen hebben echter hun critici over de hele wereld - mensen die klagen over verlies van privacy en schending van burgerlijke vrijheden.
De productie van CCTV-camera's en gezichtsherkenningstechnologieën is een bloeiende industrie die een schijnbaar onverzadigbare honger voedt.Alleen al in het VK is er één CCTV-camera voor elke 11 mensen.
Alle landen met minstens 250.000 inwoners gebruiken een of andere vorm van AI-surveillancesystemen om hun burgers in de gaten te houden, zegt Steven Feldstein van de Amerikaanse denktankCarnegie.En het is China dat deze markt domineert – goed voor 45% van de wereldwijde omzet van de sector.
Chinese firma's als Hikvision, Megvii of Dahua zijn misschien geen bekende namen, maar hun producten kunnen heel goed in een straat bij u in de buurt worden geïnstalleerd.
“Sommige autocratische regeringen – bijvoorbeeld China, Rusland, Saoedi-Arabië – maken gebruik van AI-technologie voor massale surveillancedoeleinden,”Mr Feldstein schrijft in een krant voor Carnegie.
“Andere regeringen met een sombere staat van dienst op het gebied van mensenrechten maken op beperktere manieren gebruik van AI-surveillance om de repressie te versterken.Toch lopen alle politieke contexten het risico om op onwettige wijze AI-surveillancetechnologie te exploiteren om bepaalde politieke doelen te bereiken.”
Ecuador heeft een landelijk surveillancesysteem besteld bij China
Een plaats die een interessant inzicht biedt in hoe China snel een surveillance-supermacht is geworden, is Ecuador.Het Zuid-Amerikaanse land kocht een heel nationaal videobewakingssysteem van China, inclusief 4.300 camera's.
"Natuurlijk heeft een land als Ecuador niet noodzakelijkerwijs het geld om voor een systeem als dit te betalen", zegt journaliste Melissa Chan, die vanuit Ecuador verslag deed en gespecialiseerd is in de internationale invloed van China.Ze rapporteerde vroeger vanuit China, maar werd enkele jaren geleden zonder uitleg het land uitgezet.
“De Chinezen kwamen met een Chinese bank die hen een lening wilde geven.Dat helpt echt om de weg vrij te maken.Ik heb begrepen dat Ecuador olie had beloofd tegen die leningen als ze ze niet konden terugbetalen.”Ze zegt dat een militair attaché in de Chinese ambassade in Quito erbij betrokken was.
Een manier om naar de kwestie te kijken, is niet simpelweg te focussen op de bewakingstechnologie, maar "de export van autoritarisme", zegt ze, eraan toevoegend dat "sommigen zouden beweren dat de Chinezen veel minder discrimineren in termen van met welke regeringen ze bereid zijn om samen te werken".
Voor de VS is het niet zozeer de export die een zorg is, maar hoe deze technologie op Chinese bodem wordt gebruikt.In oktober plaatsten de VS een groep Chinese AI-bedrijven op de zwarte lijst wegens vermeende mensenrechtenschendingen tegen de Oeigoerse moslims in de regio Xinjiang in het noordwesten van het land.
China's grootste CCTV-fabrikant Hikvision was een van de 28 bedrijven die werden toegevoegd aan de Amerikaanse handelsafdelingEntiteiten lijst, waardoor het zijn vermogen om zaken te doen met Amerikaanse bedrijven beperkt.Dus, welke invloed heeft dit op de activiteiten van het bedrijf?
Hikvision zegt dat het eerder dit jaar mensenrechtenexpert en voormalig VS-ambassadeur Pierre-Richard Prosper heeft aangetrokken om advies te geven over de naleving van de mensenrechten.
Het bedrijf voegt eraan toe dat "het bestraffen van Hikvision, ondanks deze toezeggingen, internationale bedrijven ervan zal weerhouden om met de Amerikaanse overheid te communiceren, de Amerikaanse zakenpartners van Hikvision zal schaden en een negatieve invloed zal hebben op de Amerikaanse economie".
Olivia Zhang, de Amerikaanse correspondent voor het Chinese zakelijke en financiële mediabedrijf Caixin, gelooft dat er voor sommigen op de lijst enkele kortetermijnproblemen kunnen zijn, omdat de belangrijkste microchip die ze gebruikten van het Amerikaanse IT-bedrijf Nvidia was, "die moeilijk te vervangen zou zijn".
Ze zegt dat "tot nu toe niemand van het Congres of de Amerikaanse uitvoerende macht enig hard bewijs heeft geleverd" voor de zwarte lijst.Ze voegt eraan toe dat Chinese fabrikanten geloven dat de rechtvaardiging van de mensenrechten slechts een excuus is, "de echte bedoeling is alleen maar om hard op te treden tegen China's leidende technologiebedrijven".
Terwijl de surveillanceproducenten in China kritiek op hun betrokkenheid bij de vervolging van minderheden in eigen land wegwuiven, stegen hun inkomsten vorig jaar met 13%.
De groei die dit vertegenwoordigt in het gebruik van technologieën zoals gezichtsherkenning vormt een grote uitdaging, zelfs voor ontwikkelde democratieën.Het is de taak van Tony Porter, de commissaris voor bewakingscamera's voor Engeland en Wales, om ervoor te zorgen dat het legaal wordt gebruikt in het VK.
Op praktisch vlak maakt hij zich grote zorgen over het gebruik ervan, met name omdat zijn belangrijkste doel is om er een breed publiek draagvlak voor te krijgen.
"Deze technologie werkt tegen een watchlist," zegt hij, "dus als de gezichtsherkenning iemand van een watchlist identificeert, dan is er een match gemaakt, er is een interventie."
Hij vraagt zich af wie er op de watchlist komt en wie er controle over heeft.“Als het de particuliere sector is die de technologie bedient, wie bezit die dan – is het de politie of de particuliere sector?Er zijn te veel vage lijnen.”
Melissa Chan stelt dat er enige rechtvaardiging is voor deze zorgen, vooral met betrekking tot systemen van Chinese makelij.In China zegt ze dat wettelijk “de regering en ambtenaren het laatste woord hebben.Als ze echt toegang willen tot informatie, moet die informatie door particuliere bedrijven worden overhandigd.”
Het is duidelijk dat China deze industrie echt tot een van zijn strategische prioriteiten heeft gemaakt en zijn staatsmacht achter zijn ontwikkeling en promotie heeft gezet.
Bij Carnegie gelooft Steven Feldstein dat er een aantal redenen zijn waarom AI en surveillance zo belangrijk zijn voor Peking.Sommige houden verband met "diepgewortelde onzekerheid" over de levensduur en duurzaamheid van de Chinese Communistische Partij.
"Een manier om te proberen het voortbestaan van de politiek te verzekeren, is door naar technologie te kijken om repressief beleid te voeren en de bevolking te onderdrukken dingen te uiten die de Chinese staat zouden uitdagen", zegt hij.
Maar in een bredere context geloven Beijing en veel andere landen dat AI de sleutel zal zijn tot militaire superioriteit, zegt hij.Voor China is "investeren in AI een manier om zijn dominantie en macht in de toekomst te verzekeren en te behouden".
Posttijd: 07-05-2022