Asset 14

Kom uit je filterbubbelbad

Essay: Kom uit je filterbubbelbad

We hebben steeds meer technologische, medische en digitale middelen tot onze beschikking om onszelf en de wereld om ons heen te verbeteren. Maar welke gevolgen heeft deze zoektocht naar perfectie? Waar trekken we de grens? En wanneer vinden we iets niet meer ‘natuurlijk’? Siri Beerends verkent de grenzen van ons maakbare ik in een serie essays. Dit is deel IV.

Onze huidige levens maken deel uit van de grootste commerciële ontginning in de geschiedenis. Nog nooit werden onze persoonlijke voorkeuren en verlangens op zo’n grote schaal gekwantificeerd en vermarkt als nu. Je voert wat zoekopdrachten in op Google, liket wat foto’s op Facebook en er hangen al tientallen trackers aan je digitale kont die vastleggen wat jij doet. Zodra je online gaat zijn big data-bedrijven en krachtige computeralgoritmes in charge: zij gaan tussen elk stukje communicatie zitten, verhandelen jouw data en wijzen je de weg om hun winst te maximaliseren.

Door ons over te leveren aan de toenemende algoritmisering en kwantificering van onze levens gaan we ons steeds meer gedragen als voorspelbare en stuurbare machines. Waarom geven we daaraan toe? Kunnen we ontkomen aan de massasurveillance en intensieve sturing die deze steeds sterker wordende algoritmes creëren?

Data is het nieuwe goud

Tegenwoordig weet bijna iedereen dat social media en apps niet gratis zijn: we betalen met onze persoonlijke data die in een nanoseconde worden verhandeld om de best passende content te laten verschijnen. Dat gaat als volgt: eerst worden onze data verzameld en geanonimiseerd conform privacy wetgeving. Vervolgens worden deze door big data bedrijven gecombineerd en verrijkt om vanuit een zo nauwkeurig mogelijke profielschets reclames, nieuwsberichten, producten, liedjes en video’s aan te bieden die bij onze digitale voetsporen en voorspelde gedragingen passen.

Omdat onze data net zo waardevol zijn als olie of goud is er een commerciële run op onze tijd en aandacht ontstaan waarbij maar één vraag centraal staat: what makes you click? Hoe meer je klikt, hoe meer data je achter laat waarmee bedrijven een profiel maken. Er is zelfs een wetenschappelijke tak genaamd captology die zich richt op het ontwikkelen van meldingsgeluiden, buttons en swipes die bij ons een pavlovreactie opwekken. Het bedrijf dat onze geest het best weet te manipuleren om ons zo lang mogelijk te laten klikken en swipen, heeft de grootste kans om een beursgenoteerde multinational te worden. Snapchat is koploper met een beursgang van 25 miljard. De algoritmes die deze kolossale commerciële successen veroorzaken zijn geen onschuldige hulpmiddelen waarmee we slechts onze muziek, video’s en series uitkiezen.

Big nudging

Door ons massale internet en smartphonegebruik krijgen overheden en bedrijven enorme hoeveelheden gegevens tot hun beschikking waarmee zij burgers kunnen monitoren en bijsturen. Het stimuleren van gewenst gedrag met behulp van big data zonder dat mensen dat weten wordt ook wel ‘big nudging’ genoemd. Een voorbeeld hiervan is de zogenaamde smart city waar surveillancedata en algoritmes worden gebruikt om het gedrag van burgers in steden te voorspellen en bij te sturen om de stad ‘veiliger’ en economisch rendabeler te maken.

In Amerika berekenen algoritmes bijvoorbeeld op basis van risicoscores hoe groot de kans is dat iemand terugvalt in crimineel gedrag. Met deze scores bepalen rechters de lengte van de gevangenisstraf. In gebieden waar dit algoritme gebruikt wordt kun je maar beter wit zijn want het algoritme bleek voor zwarte mensen stelselmatig een te hoog recidiverisico te berekenen. Niet omdat dat echt zo is, maar omdat zwarte mensen vaker staande worden gehouden door de politie wat door het algoritme als recidive indicator wordt meegenomen.

Een ander voorbeeld van big nudging is de handel in data uit gezondheids-apps en wearables. Medische gegevens over het aantal stappen dat je zet, je nachtritme, bloeddruk en hartslag zijn slecht beschermd. Door gegevens uit verschillende databases te combineren en daar met algoritmes correlaties uit te halen, ontstaat er een digitaal profiel. Dat profiel kan interessant zijn voor bijvoorbeeld werkgevers en verzekeraars die ongezonde mensen willen weren.

In een almaar groeiende kapitalistische samenleving die in toenemende mate draait om (zorg)kostenbesparing, doelmatigheid en efficiency raken persoonlijke vrijheden ondergeschikt. Een voorbeeld is Singapore waar totalitaire staatscontrole wordt uitgeoefend door middel van data die wordt onttrokken aan social media, sensoren op straat, camera’s met gezichtsherkenning en smartphones. Zo ver zal het bij ons toch niet komen denk je nu? Juist in Westerse landen waar de privacywetgeving strenger wordt, blijken overheden hulp te zoeken bij bedrijven als Google en Microsoft om alsnog bij onze persoonlijke gegevens te kunnen.

Meten is niet altijd weten

Algoritmes wekken de suggestie dat zij het meest nauwkeurige advies kunnen geven terwijl veel aspecten die wij belangrijk vinden niet in cijfers zijn uit te drukken. Door alleen het meetbare prioriteit te geven, verliezen we menselijke waarden en onderlinge verschillen uit het oog. We gaan er steeds meer vanuit dat algoritmes betere beslissingen kunnen maken en vertrouwen steeds minder op onszelf.

Maar algoritmes blijken niet minder fouten te maken. Ze weerspiegelen en versterken bijvoorbeeld stereotypen en vooroordelen. Dat komt doordat algoritmes betrekking hebben op wat eerder is gebeurd en op gemiddelden van groepen vergelijkbare mensen. Dat laat Harvard-wiskundige Cathy O’Neil zien in haar boek Weapons of Math Destruction. De aanname dat een algoritme gebaseerd is op een correcte berekening met objectieve feiten is volgens haar gevaarlijk. Zo geeft ze het voorbeeld van een algoritme dat wordt gebruikt door het bedrijfsleven om de beste CEO te kiezen. Omdat vrouwen ondervertegenwoordigd zijn als CEO maakt vrouw zijn je volgens het algoritme minder geschikt als CEO.

Betere dienstverlening in ruil voor privacy

Mensen die hun privacy opofferen in ruil voor relevante aanbevelingen en betere dienstverlening zeggen vaak: ‘Ik heb toch niets te verbergen want ik doe niks verkeerd’. Wat verkeerd is en dus de moeite van het verbergen waard, is contextafhankelijk. Een dronken Facebookfoto is niet verkeerd, totdat je werkgever deze te zien krijgt. De vraag of je iets te verbergen hebt is dan ook onjuist geformuleerd. Het gaat om de vraag waarom een bedrijf of overheid jouw data wil hebben en voor welke doeleinden deze worden gebruikt.

Je kunt je schouders ophalen bij een gerichte advertentie, maar wat als een algoritme wordt ingezet om jou een zo hoog mogelijke prijs voor een product te laten betalen? Zo zijn er bijvoorbeeld winkels die locatiegegevens in combinatie met KVK-gegevens gebruiken waardoor ze kunnen zien of er in jouw buurt veel concurrerende winkels zitten. Als dat niet het geval is, vragen ze hogere prijzen voor hun producten omdat de kans groot is dat je deze prijs acceptabel vindt. Fijne dienstverlening.

Door mensen hun meest waarschijnlijke voorkeur aan te bevelen: ‘vond je deze serie goed dan vindt je deze ook goed’ (Netflix), ‘zocht je eerst dit, dan zoek je nu iets soortgelijks’ (Google), ‘bij deze politieke voorkeur past dit nieuwsbericht’ (Facebook), worden mensen steeds minder uitgedaagd om alternatieve routes te verkennen. Daardoor belanden mensen in digitale bubbels die hen laten rondcirkelen in een logica die is gebaseerd op zelfbevestiging en economische doelmatigheid. Je moet van steeds autonomere huize komen en complexere inspanningen verrichten om los te komen van de door algoritmes gebaande paden.

Omdat onze huidige samenleving veeleisend is –iedereen moet zo nodig een gezin, carrière, gezonde levensstijl, topconditie, mooi uiterlijk en interessante hobby, hebben mensen geen mentale ruimte voor ongealgoritmiseerde informatiestromen die hun wereldbeeld bevragen in plaats van bevestigen. Als we ergens narcistisch van worden dan is het wel van deze ‘betere’ dienstverlening.

Stop met Facebook

Door mee te gaan in de toenemende algoritmisering van onze levens, lijken we steeds meer op voorspelbare en stuurbare databanken. Met adblockers en digitale detoxkampen kunnen we ons daar niet tegen wapenen. Wie niet zelf kan programmeren kan zich de digitale wereld niet toe-eigenen. De meeste mensen zijn afhankelijk van apps en algoritmes die door anderen zijn gemaakt en ons onopgemerkt verleiden om data te genereren en voorspelbare paden te bewandelen.

Deze intensieve sturing vindt de digitale generatie volstrekt vanzelfsprekend. Zo verklaart Alexander Klöpping dat Spotify en Youtube hem helpen om zijn muziek en video’s uit te zoeken terwijl televisie een ‘random bak met shit’ is waar programmamakers van bovenaf bepalen wat je krijgt voorgeschoteld. Traditionele media worden vanuit dit idee enthousiast dood verklaard. Want stel je voor dat niet een machine maar een mens ons een artikel of programma zou voorschotelen vanuit een intellectueel verheffend idee, of dat we per ongeluk iets verontrustends te zien krijgen dat niet aansluit op onze klikgeschiedenis en het klikgedrag van groepen mensen die op ons lijken. Ons wereldbeeld zou wel eens oncomfortabel verbreed kunnen worden.

Als Facebook- en smartphone-onthouder word ik wel eens raar aangekeken. Maar wie is hier nou daadwerkelijk raar? Zijn dat de mensen die onwetend badderen in filterbubbels en zich in hun privacy-aars laten naaien door bedrijven als Facebook of zijn dat de mensen die hier kritisch mee omgaan? Het is prima dat we onze levens steeds meer verplaatsen naar de online wereld, zolang we dat maar niet op de kritiekloze manier blijven doen zoals nu het geval is.

Wij maken de tech-bedrijven die onze levens algoritmiseren steeds machtiger, terwijl we er ook voor kunnen kiezen om die macht in te perken. Hordes mensen beweren volledig afhankelijk te zijn van Facebook voor hun sociale leven en carrière. Het is hoog tijd om deze gevaarlijke vormen van afhankelijkheid en monopolisering te doorbreken. Wijk uit naar alternatieve zoekmachines die je klikgedrag niet volgen zoals Duck Duck Go en stop met Facebook. De enigen die kunnen voorkomen dat we in een digitaal panopticum komen te leven waarin we als een gealgoritmiseerde kudde worden aangestuurd, zijn wij zelf.

Mail

Siri Beerends is cultuursocioloog . Sinds ze The Truman Show gezien heeft, is ze gefascineerd door de culturele obsessie met ‘echt’ versus ‘nep’. Ze bezit een bescheiden argwaan tegenover massaal aangehangen standpunten en voelt zich prettig in de rol van advocaat van de duivel.

Kalle Wolters (1993) is een illustrator uit Groningen. Geïnspireerd door de Klare Lijn en affiches van de Russische Avant-garde ontwerpt hij posters, verpakkingen en maakt hij illustraties bij artikelen. Daarnaast maakt hij deel uit van het illustratiecollectief Knetterijs.

Hard//hoofd is gratis en
heeft geen advertenties

Steun Hard//hoofd

Ontvang persoonlijke brieven
van redacteuren

Inschrijven

Steun de makers van de toekomst

Hard//hoofd is een vrije ruimte voor nieuwe makers. Een niet-commercieel platform waar talent online en offline de ruimte krijgt om te experimenteren en zich te ontwikkelen. We zijn bewust gratis toegankelijk en advertentievrij. Wij geloven dat nieuwe makers vooral een scherpe en eigenzinnige stem kunnen ontwikkelen als zij niet worden verleid tot clickbait en sensatie: die vrijheid vormt de basis voor originele verbeelding en nieuwe verhalen.

Steun ons

  • Foto van Marte Hoogenboom
    Marte HoogenboomHoofdredacteur
  • Foto van Mark de Boorder
    Mark de BoorderUitgever
  • Foto van Kris van der Voorn
    Kris van der VoornAdjunct-hoofdredacteur
  • Foto van Sander Veldhuizen
    Sander VeldhuizenUitgeefassistent

Warning: Undefined variable $articleCount in /home/hardhoof/hardhoofd.com/releases/20220413071826/public/content/themes/hardhoofd6/components/ctas/latest-posts.php on line 24
het laatste
Nieuws in beeld: Bomen zijn klaar met de hitte en zetten de herfst in

Bomen zijn klaar met de hitte en zetten de herfst in

Sommige loofbomen begonnen vorige maand al hun bladeren af te stoten - veel vroeger dan normaal. Lees meer

Nieuws in beeld: Iedereen voor? Hallo?

Iedereen voor? Hallo?

De weinige Tunesiërs die kwamen opdagen voor het referendum, stemden massaal voor meer macht voor de zittende president. Lees meer

Nieuws in beeld: We moeten kopen, reizen, vliegen, drinken, eten, feesten, zo niet doorgaan

We moeten kopen, reizen, vliegen, drinken, eten, feesten, zo niet doorgaan

Hoelang kunnen we nog boven de zelfgegraven afgrond blijven bungelen? Lees meer

Hard//hoofd zoekt een nieuwe Chef Eindredactie!

Hard//hoofd zoekt een nieuwe Chef Essay & Opinie!

Als Chef Essay & Opinie onderhoud je contact met getalenteerde essayisten en opiniemakers, en draag je de verantwoordelijkheid over jouw tak op Hard//hoofd. Lees meer

Nee, Anna Sorokin is geen Robin Hood en dit is waarom

Nee, Anna Sorokin is geen Robin Hood en dit is waarom

Netflix zet in Inventing Anna een oplichtster op een voetstuk. Emma Stomp zet daar vraagtekens bij. Lees meer

Nieuws in beeld: We zitten krap bij gas (dus kolencentrales mogen weer)

We zitten krap bij gas (dus kolencentrales mogen weer)

Om de gasvoorraden te ontzien, mogen de (uiterst vervuilende) kolencentrales jarenlang op volle toeren draaien. Lees meer

Nieuws in beeld: Blokkeert de boer zijn eigen protest?

Blokkeert de boer zijn eigen protest?

Driekwart van de Nederlanders vindt de acties tijdens boerenprotesten te ver gaan. Lees meer

Automatische concepten 75

Filmmaker liet angst achter zich

Dit jaar werden de Olympische Winterspelen ‘gewoon ’in China gehouden. In het licht van deze – voor mensenrechtenactivisten – verbijsterende keuze door het Internationaal Olympisch Comité maakte de Tibetaanse documentairemaker Dhondrub Wangchen een tournee door Europa. Op het moment dat hij tot zes jaar gevangenisstraf werd veroordeeld was de eerste keer dat de wereld hoorde... Lees meer

Nieuws in beeld: Een wereld zonder plastic, kunnen we ons die nog wel voorstellen?

Een wereld zonder plastic, kunnen we ons die nog wel voorstellen?

Illustrator Finn Rogers liet zich inspireren door een gedachte-experiment: wat als we - met één zwaai van een toverstaf - al het plastic lieten verdwijnen? Lees meer

Evi Aarens is een troll 1

Evi Aarens is een troll

Je als gearriveerde schrijver verschuilen achter een pseudoniem om kritiek op anderen te spuiwen geeft geen pas, aldus Marthe van Bronkhorst. Lees meer

Een groot avontuur begint met een klein rugzakje

Een groot avontuur begint met een klein rugzakje

Op een waddenvakantie dringt de vervreemding zich aan Nina op bij zoveel ingekaderd vertier. “Er klopt iets niet aan dit uitstapje.” Als de weidsheid van het Wad niet meer voldoende blijkt om uit de aangeharkte realiteit van onze maatschappij te ontsnappen, vindt ze elders een ervaring van oneindigheid. Lees meer

Nieuws in beeld: 'Hyperkapitalistische middelvinger' gaat voortaan wat bescheidener door het leven

'Hyperkapitalistische middelvinger' gaat voortaan wat bescheidener door het leven

Voor de lezers van het 'lijfblad voor 's werelds allerrijksten' komt de echte wereld toch iets te dichtbij. Lees meer

Nieuws in beeld: Als genezen niet meer gaat, rest een zachte overtocht

Als genezen niet meer gaat, rest een zachte overtocht

Artsen en verpleegkundigen krijgen 'les in vreedzaam sterven'. Lees meer

Aanrommelen

Aanrommelen

De afvalcontainer in mijn straat staat ter adoptie aangeboden. Als adoptant gooi je het afval dat je buurtgenoten naast de container hebben geplaatst er alsnog in, of je maakt een melding bij de gemeente als het ruimtelijk niet past. Zo’n dergelijke adoptie is nodig, want er staat regelmatig nijpend veel afval náást de container. De... Lees meer

Dit is geen NFT, maar een simpele jpeg - weliswaar zonder uitstoot

Ook feministische NFT’s zijn een aanslag op het milieu

Feministisch platform The TittyMag wil het NFT-aanbod diverser maken. Kan het platform die markt niet beter links laten liggen? Lees meer

 1

Vat het nou alsjeblieft niet persoonlijk op

Corona lijkt alweer bijna iets uit het verleden maar de financiële effecten ervan zijn nog steeds voelbaar in de culturele sector. Vivian Mac Gillavry blikt terug op een periode waarin bestuurders kunstenaars zonder schuld of schaamte voor de bijl gooiden. Lees meer

 1

Pim Fortuyn, aartsvader van conservatieve camp

Twintig jaar na de moord op Pim Fortuyn is camp een belangrijk onderdeel van extreem-rechtse politiek geworden. Hoe komt de bal weer bij 'ons' te liggen? Lees meer

Nieuws in beeld: Voor de klas? Mij niet gezien!

Voor de klas? Mij niet gezien!

Tien jaar geleden waren er zo'n 3000 à 4000 docenten nodig. Vorig jaar 18.000. Lees meer

Nieuws in beeld: Steek je hand op als ook jij...

Steek je hand op als ook jij...

De politie registreerde bijna 40 procent meer gevallen van seksueel grensoverschrijdend gedrag. Lees meer

Vrouwen van kleur! Stop met uitblinken en sluit je aan bij de dutjesrevolutie! 1

Vrouwen van kleur! Stop met uitblinken en sluit je aan bij de dutjesrevolutie!

Bij uitstek vrouwen van kleur gaan onderdoor aan de hoge eisen die hun werkomgevingen aan hen stellen, omdat ze constant moeten bewijzen even harde werkers te zijn als hun witte mannelijke collega's door veel meer dan hen te doen. Tijd dus om eens languit dwars te zitten: tijd voor de dutjesrevolutie! Lees meer

Steun de makers van de toekomst. Sluit je aan bij Hard//hoofd! 

Hard//hoofd is een vrije ruimte voor nieuwe kunstenaars en schrijvers. Een niet-commercieel platform waar talent online en offline de ruimte krijgt om te experimenteren en zich te ontwikkelen. Wij zijn al meer dan twaalf jaar bewust gratis toegankelijk en advertentievrij. Onze kunstverzamelaars maken dit mogelijk. Als je je nu aansluit, dan ontvang je jaarlijks gesigneerde kunstwerken van veelbelovende kunstenaars én je eigen Hard//hoofd-tasje. Veel verzamelplezier!

Steun en verzamel