AI-technologie

‘Er komt meer cameratoezicht in alle winkels en er komen meer en slimmere steekproeven bij zelfscankassa’s’, staat in een recent persbericht van Jumbo. In verschillende winkels zijn ze al gestart met een paar maanden durende proef waarbij AI ‘afwijkend gedrag’ van klanten ziet. Daardoor kan er een gerichte steekproef worden uitgevoerd bij deze mensen als ze bij de kassa aankomen.

Hoe de technologie precies werkt wil de supermarkt niet zeggen. Eunice Koekkoek, woordvoerder van Jumbo, laat aan NU.nl weten dat de AI “afwijkingen in winkelgedrag en aankooppatronen kan signaleren” en een medewerker daarna kan besluiten een controle te doen.

Privacy

“Om de afwijkingen vast te stellen, zijn individuele kenmerken van de klanten niet relevant”, zegt Koekkoek ook. “De algoritmes van AI-software kijken daar nadrukkelijk niet naar. Hierop blijven we zorgvuldig toezien. Alles wat we op het punt van AI doen, voldoet vanzelfsprekend aan de geldende wet- en regelgeving, zoals op het gebied van privacybescherming.”

Maar volgens beleidsadviseur Nadia Benaissa van privacyorganisatie Bits of Freedom zitten er toch risico’s aan de proef en de inzet van AI. “Je hoeft maar een verkeerde beweging te maken en je kunt onterecht als verdacht worden aangemerkt. Keer op keer is gebleken dat dit soort profileringstechnologie slecht werkt en vol zit met vooroordelen. Ondertussen wordt met dit soort experimenten de privacy van burgers steeds verder ingeperkt.”

Europarlementariër Kim van Sparrentak onderstreept die zorgen. “Het is natuurlijk absurd als winkels je gedrag gaan monitoren en je volgen door de winkel”, zegt ze tegen NU.nl. Ze vindt dat AI niet mag worden ingezet om geld te besparen. “Het kan tot bizarre uitkomsten leiden. Is iemand die slecht ter been is en langzaam loopt dan straks systematisch een fraudeur? Of word je straks iedere keer als je haast hebt uitgebreid gecontroleerd na de kassa?”

Vrees voor vloedgolf aan phishingmails door ChatGPT: 'Criminelen hebben meer mogelijkheden dan ooit'Lees ook