Een steeds persoonlijkere, maar ondoorzichtige online wereld

In een wereld waar onze digitale omgeving steeds persoonlijker wordt, staan consumentenrechten onder druk. Reclameboodschappen zijn steeds vaker subtiel afgestemde, gepersonaliseerde berichten die inspelen op gedrag, voorkeuren en zelfs emoties. Bedrijven verzamelen enorme hoeveelheden data en zetten kunstmatige intelligentie (AI) in om hun communicatie zo effectief mogelijk te maken.

Volgens Strycharz is dat een probleem, omdat consumenten weinig zicht hebben op wat er gebeurt. Vaak weten mensen niet:

• welke gegevens over hen worden verzameld,
• hoe die gegevens worden verwerkt,
• hoe hun online profielen worden gemaakt,
• en hoe bedrijven die profielen gebruiken om hen gericht te beïnvloeden.

‘Het systeem is zo complex geworden dat consumenten niet alleen te weinig informatie hebben, maar het ook nauwelijks nog kunnen begrijpen. Daardoor komen belangrijke rechten onder druk te staan: het recht om vrij beslissingen te nemen, het recht op privacy en het recht op een eerlijke behandeling’, legt Strycharz uit.

Facebook en selfies: een voorbeeld van digitale kwetsbaarheid

Een duidelijk voorbeeld komt uit een boek van een oud-medewerker van Facebook. Daarin staat hoe Facebook keek naar gebruikers die hun selfies weer van het platform verwijderden.

Als een tienermeisje haar selfie verwijderde, zag Facebook dat als een teken dat zij onzeker was of een laag zelfbeeld had. Beautymerken konden die meisjes vervolgens gericht advertenties sturen voor make-up en andere verzorgingsproducten. De meisjes wisten niet dat hun simpele handeling werd gebruikt om iets te voorspellen over hun gevoelens, en daarna om hen op een kwetsbaar moment reclame te tonen.

Strycharz: ‘Dit voorbeeld laat zien dat digitale kwetsbaarheid niet alleen te maken heeft met kwetsbare groepen zoals kinderen of ouderen. We zijn allemaal kwetsbaar als onze data op de juiste manier wordt gebruikt.'

AI maakt persoonlijke advertenties makkelijker

Door de ontwikkeling van AI komen consumentenrechten verder onder druk te staan. AI-systemen kunnen steeds beter menselijk gedrag voorspellen en hebben ook voortdurend nieuwe data nodig om die voorspellingen te voeden. Strycharz legt uit:

‘Waar het vijf jaar geleden heel duur en bijna onmogelijk was om advertenties echt inhoudelijk aan te passen aan een persoon, kan dat nu bijna automatisch. Een adverteerder kan bijvoorbeeld tegen een AI-systeem zeggen: “Maak deze boodschap passend voor iemand die extravert is,” of juist voor iemand die introvert is. Onderzoek laat zien dat reclameboodschappen beter werken wanneer ze aansluiten bij iemands persoonlijkheid.’

Wat moet er anders?

Strycharz noemt drie belangrijke punten voor bedrijven, consumentenorganisaties en wetgevers om consumenten beter te beschermen:

Minder data verzamelen

Bedrijven hoeven niet alle data te gebruiken die ze technisch kúnnen verzamelen. In de privacywet AVG staat het principe van dataminimalisatie: organisaties mogen niet méér gegevens verzamelen dan noodzakelijk. Een goede stap is dat bedrijven stoppen met data ‘voor de zekerheid’ opslaan, omdat het later misschien handig is voor een AI-systeem.

Verder kijken dan alleen de wet

Veel bedrijven voldoen aan de wet, maar dat is niet altijd genoeg voor goede consumentenbescherming. Bedrijven moeten zichzelf afvragen: kan dit mijn gebruikers schade aandoen?

Het voorbeeld van Facebook laat zien dat personalisatie misschien binnen de wetten valt, maar toch grote invloed kan hebben op iemands emoties.

Fairness by design

Platforms kunnen eerlijker worden ontworpen door instellingen voor privacy en personalisatie toegankelijker te maken. Dat idee heet ‘fairness by design’. Platforms zoals TikTok en Google bieden al mogelijkheden om gepersonaliseerde advertenties uit te zetten, maar deze instellingen zitten verscholen achter compexe menu’s. Onderzoek laat zien dat deze functies nuttig zijn, maar veel mensen weten niet dat ze bestaan of kunnen ze moeilijk vinden. Een eenvoudige verbetering is deze opties duidelijk tonen en goed uitleggen. Dan krijgen gebruikers meer controle over hun data.

Consumer Empowerment Project: samen zoeken naar oplossingen

Fairness by design stond centraal in het Consumer Empowerment Project, een Europees initiatief van consumentenorganisaties. Het doel: consumenten sterker maken in de digitale samenleving. Strycharz organiseerde onlangs het driedaagse evenement bij REC Impact, UvA’s impacthub op de Roeterseilandcampus, samen met consumentenorganisaties en toezichthouders, maar ook bedrijven uit de industrie. Zo is Google een officiële partner van het project.

Er waren lezingen en gesprekken over algoritmes en beïnvloeding. Ook ging het over de mogelijke schade voor consumenten, zoals aantasting van privacy, verlies van vrijheid, en impact op mentaal welzijn.

Die confrontatie met partners uit de praktijk helpt de wetenschap, zegt Strycharz. Het leverde stevige discussies over schade op, zeker met vertegenwoordigers van bedrijven zoals Google die zelf dagelijks gebruikmaken van personalisatie:

‘Zij vroegen zich af: kun je deze schade meten? Is het niet vooral een theoretische discussie? Dat zijn terechte vragen. Ze helpen ons als onderzoekers om beter te zien waar het bewijs nog ontbreekt en welke vormen van schade we beter moeten onderzoeken.’

Zo brengt het Consumer Empowerment Project wetenschap, beleid en praktijk bij elkaar. Het doel is niet elkaar te overtuigen, maar samen te zoeken naar manieren waarop digitale technologie eerlijker en mensvriendelijker kan worden gebruikt.

Meegroeien met digitale innovaties

Zolang de mechanismen achter dataverzameling voor gebruikers grotendeels onzichtbaar blijven, kan iedereen digitaal kwetsbaar zijn. Strycharz concludeert: ‘Als we willen dat technologie ons helpt in plaats van ons uitbuit, moeten consumentenrechten meegroeien met digitale ontwikkelingen. Dat begint bij eerlijkheid in het ontwerp.’