Asset 14

Vaarwel menselijke intelligentie?

We hebben steeds geavanceerdere technologieën tot onze beschikking om onszelf en de wereld om ons heen te 'verbeteren'. Maar welke gevolgen heeft deze zoektocht naar perfectie? Waar trekken we de grens? En wanneer vinden we iets niet meer ‘natuurlijk’? Siri Beerends verkent de grenzen van ons maakbare ik in een serie essays. Dit is deel VI: over domme robots en slimme mensen.

Terwijl 2017 is bestempeld als het jaar van de artificiële intelligentie, beweren experts dat er nog helemaal geen sprake is van echte artificiële intelligentie. Nieuwsberichten over superintelligente machines die de boel volledig overnemen hebben meer met science fiction en sensatiejournalistiek te maken dan met machine learning. Wie denkt dat we daarom weer zorgeloos in slaap kunnen dommelen zit ernaast. Om de ontwikkeling van artificiële intelligentie in goede banen te leiden hebben we onze menselijke intelligentie hard nodig. Maar zijn wij nog wel in staat om onze menselijke intelligentie te herkennen, onderscheiden en benutten?

Volgens evolutiebiologen en transhumanisten zullen de verschillen tussen menselijke en artificiële breinen verdwijnen. Met onze menselijke intelligentie zijn we niet unieker dan een computer en daar kunnen we maar beter alvast aan wennen, zo luidt het advies. Elke wetenschappelijke doorbraak maakt de mens minder uniek. Met de uitvinding van de telescoop bleken we niet het centrum van het universum te zijn, met de opkomst van de geologie bleken we geen creaties van God te zijn en nu zijn er de robots die ons van onze troon stoten.

Behalve een gekrenkt ego zijn er urgentere redenen waarom de mens zich wil onderscheiden van een computer. Op een aantal gebieden zijn mensen nog altijd slimmer dan een computer: bewustzijn, gezond verstand, empathie, wederkerigheid, moraliteit en het vermogen om intuïtief sociale en emotionele contexten te begrijpen. Deze vaardigheden hebben we hard nodig om de verdere ontwikkeling van AI te begeleiden.

De grootste zorgen gaan op dit moment over intelligente wapens die kunnen leiden tot een nieuwe wapenwedloop. Daarom hebben 115 robotica en AI bedrijven een open brief getekend waarin zij waarschuwen voor autonome wapens. Zij pleiten voor meer onderzoek naar het zelflerende aspect van artificiële intelligentie zodat we kunnen zorgen dat computers blijven doen wat wij willen. Maar onze computers doen allang niet meer wat wij willen. Zodra wij onze apparaten aanzetten gaan ze online en bepalen algoritmes van de Frightful Five wat wij doen: data genereren en onze gedragingen, voorkeuren en verlangens commercieel laten uitbaten en bijsturen.

Het gevaar van AI is niet dat er een superintelligentie ontstaat, het gevaar is dat wij ons te afhankelijk maken van artificieel intelligente systemen waardoor we onze autonomie, creativiteit en emotionele intelligentie verwaarlozen. Om dat te voorkomen moeten we beter leren begrijpen wat menselijke intelligentie is. We moeten ons bewuster worden van de instinctieve en geavanceerde manieren waarop we ons bewustzijn, gezond verstand, empathie, moraliteit en redenerend vermogen dagelijks gebruiken.

Moving target

Vorige maand heeft het computerprogramma AlphaGo Zero laten zien dat mensen voor het leren van het Go-spel overbodig zijn geworden. Het programma verslaat de beste spelers ter wereld. AlphaGo Zero is een voorbeeld van machine learning: hij leert van zijn eigen fouten waardoor hij zelfstandig een beter resultaat kan leveren. Maar is hij daarmee ook intelligent?

De kwalificatie ‘intelligent’ wordt tegenwoordig allang niet meer gemakkelijk aan computers gegeven. Het lastige van AI is dat als het er eenmaal is, we het al geen AI meer noemen. Daardoor wordt ook wel beweerd dat artificiële intelligentie datgene is wat we computers op dit moment nog niet kunnen laten doen.

Computersystemen die kunnen diagnosticeren welke ziekte iemand heeft, wanneer de stormvloedkering dicht moet of wanneer iemand voor een bepaalde verzekering in aanmerking komt, worden over het algemeen gekwalificeerd als artificiële intelligentie. Ook de zoekalgoritmes van Netflix en Google worden vaak zo bestempeld.

Maar volgens critici zijn dit soort algoritmes niet per definitie artificieel intelligent, ze lijken slechts intelligent. Computers kunnen indrukwekkende dingen doen omdat ze in de afgelopen decennia krachtiger zijn geworden, meer in verbinding staan met elkaar en meer data tot hun beschikking hebben maar aan de onderliggende intelligentie is weinig veranderd. Het gaat nog altijd om patroonherkenning in grote hoeveelheden data en daarmee omvat je slechts een klein deel van het concept intelligentie.

Als we kijken naar taal, redenerend vermogen, bewustzijn, plannen en gezond verstand is artificiële intelligentie nog altijd voorbehouden aan science fiction films als Ex-MachinaGhost in the Shell en Her. Hoewel sommige robots, mediaberichten en televisieprogramma’s ons de indruk geven dat we al te maken hebben met mensachtige machines die taal, redenerend vermogen, bewustzijn en emoties bezitten.

Machines die op mensen lijken

Afgelopen zomer waren er bijvoorbeeld alarmerende berichten over een AI-experiment van Facebook dat was afgekapt omdat onderzoekers de controle waren kwijtgeraakt over twee chatrobots die in een eigen taal met elkaar begonnen te brabbelen. Een storm in een glas water, het experiment bleek te zijn gestopt omdat de onderzoekers een programmeerfout hadden gemaakt.

Een ander voorbeeld is fotoherkenning: computers zouden net zo goed als mensen foto’s weten te herkennen. Dat de computer een met stickers beplakt verkeersbord aanziet voor een koelkast vol levensmiddelen lees je in al die jubelartikelen natuurlijk niet terug. Een computer kan foto’s steeds beter categoriseren maar dat wil nog niet zeggen dat hij begrijpt wat hij ziet en foto’s herkent op de geavanceerde manier waarop mensen dat doen.

Categoriseren wordt helaas vaak verward met herkennen. Bijvoorbeeld door deze onderzoekers van het AI gaydar onderzoek die de computer zo hadden geprogrammeerd dat hij alle mannen met geaccentueerde wenkbrauwen als homoseksueel ‘herkende’. In de praktijk bleek homoseksuele geaardheid toch wat complexer in elkaar te zitten dan een paar geaccentueerde wenkbrauwen. Ook de nieuwe iPhone X, die door middel van gezichtsherkenning je telefoon ontgrendelt, blijkt niet alle gezichten goed te herkennen, bijvoorbeeld die van kinderen en mensen die fysiek op elkaar lijken.

Nog een ander voorbeeld van zogenaamd mensachtige machines zijn robots met gezichts-, spraak en gevoelsherkenningstechnologie die in de ouderenzorg worden ingezet om gevoelens van eenzaamheid te verminderen. In documentaires over robots genaamd Zora en Alice kunnen we zien hoe ouderen praten over verloren partners terwijl de robot ‘luistert’ en prettige dingen terug zegt. Wat voor zowel de kijker als de ouderen buiten beeld blijft is dat er een mens in het feedbackproces zit die meehelpt bij het bepalen van de antwoorden. Daardoor lijkt het alsof de robot al die sociaal geavanceerde antwoorden zelf bedenkt.

Robotingenieurs doen hun uiterste best om robots zodanig te ontwerpen dat het voor ons gemakkelijk is om de mechanische aspecten te vergeten en menselijke eigenschappen aan robots toe te dichten. Robotingenieur Pascale Fung beweert bijvoorbeeld ‘robots met een hart en ziel’ te bouwen. In interviews vertelt ze dat haar robots een sterk empathisch vermogen hebben en menselijke taal en emoties kunnen begrijpen. Haar woordkeuze is misleidend want sociale robots hebben geen empathisch vermogen, ze simuleren empathisch vermogen. Ook begrijpen ze onze taal en emoties niet, ze simuleren dat ze onze taal en emoties begrijpen.

Robots kunnen weliswaar taal ontcijferen en produceren maar begrijpen waarom iemand verdrietig is en afwegen welke reactie je het beste kunt geven kunnen ze niet. Voor begrip en empathie heb je immers een bewustzijn nodig en die hebben robots niet. Zoveel kunnen onze robots dus nog helemaal niet.

Mensen die op machines lijken

Of computers ooit bewustzijn, empathie en redenerend vermogen bezitten wordt niet alleen bepaald door robotingenieurs en softwareontwikkelaars. Het wordt ook bepaald door onze definities van bewustzijn, empathie en redenerend vermogen. Het vakgebied van de artificiële intelligentie wordt gedomineerd door mensen die goed zijn in wiskunde maar weinig weten over menselijke intelligentie en sociale interactie.

Invloedrijke technologieën worden vooral ontwikkeld door technici die de opvatting delen dat de mens een machine is.

Het is gemakkelijk om te beweren dat robots bewustzijn, empathie en redenerend vermogen kunnen bezitten als je deze concepten uitholt. Als het aan robotingenieurs als Fung ligt is het simuleren van empathie hetzelfde als het hebben van empathie en als het aan ontwikkelaars in Silicon Valley ligt is de mens een algoritme dat we kunnen reduceren tot een aantal ‘als dit, dan dat’ patronen. Zij vinden wederhoor bij wetenschappers die onze hersenen bestuderen als een organische computer.

Het machine-ideaal van de mens reikt verder dan Silicon Valley en een paar Japanse robotingenieurs. De Quantified Self Movement is een beweging van mensen die dagelijks met allerlei apps hun lichamelijke activiteit, voeding, hartslag, bloeddruk en slaapritme meten en op basis van data-analyse beslissingen nemen. Daarin zijn ze niet uniek. Of het nou gaat om het kiezen van een studie of een nieuwe collega, de beslissingen die wij nemen besteden we op steeds meer levensterreinen uit aan algoritmes. Omdat algoritmes uitgaan van simpele ‘als dit, dan dat’ logica’s zorgen ze ervoor dat aspecten die we niet kunnen meten in vergetelheid raken. Daardoor blijven complexe vormen van menselijk gedrag, ambigue eigenschappen en gemarginaliseerde groepen buiten beeld en gaan we automatisch denken dat deze niet bij de mens horen.

De opvatting dat de mens een machine is werkt in die zin als een self-fulfilling prophecy. Neem bijvoorbeeld de opvatting dat het beroep ober zal verdwijnen omdat robots beter zijn in het rondbrengen van bestellingen. Het vak is complexer dan dat: een goede ober moet klanten op hun gemak stellen, de sfeer peilen, lichaamstaal herkennen en inspelen op onverwachte situaties. Om een serverende machine zijn werk te laten doen, moeten klanten hun gedrag op voorhand aanpassen: gestructureerde bewegingen, eenduidige gelaatsuitdrukkingen en niet per ongeluk je arm omhoog steken, anders staat er direct een machine naast je tafel om een bestelling op te nemen.

Om goed door een computer begrepen te worden, moeten mensen zich meer als een computer gaan gedragen. Op dit moment doen we dat al. Bijvoorbeeld als we overdadig articulerend onze vraag aan een computergestuurde klantenservice stellen zodat we niet voor de derde keer met de verkeerde afdeling worden verbonden.

Vaarwel menselijke intelligentie?

Terwijl we aan alle kanten bestookt worden met berichten waaruit zou blijken dat computers slimmer zijn dan mensen, hebben we niet door dat de mens steeds dommer word. Ons vermogen om te kunnen waarnemen, reflecteren en een besef te hebben van onszelf en de wereld om ons heen kalft af. Vastgelijmd aan de smartphone nemen mensen hun omgeving niet meer waar en reflecteren is er niet meer bij want de algoritmes van Google en Facebook voeden ons de hele dag met informatiestromen die ons eigen wereldbeeld op comfortabele wijze bevestigen.

Om te bepalen wat we willen eten, lezen, kopen, kijken, verzekeren, genezen, beluisteren en beminnen hoeven we niet meer zelf na te denken of een beroep te doen op onze zintuigen, we besteden het uit aan algoritmes die gebaseerd zijn op economische doelmatigheid. Zelfs wereldvrede proberen we uit te besteden aan een computer. Deze professor bouwt een vredesmachine die met vertaalsoftware miscommunicaties oplost en zo oorlogen moet voorkomen. Zijn wens is dat kapitaalkrachtige bedrijven als Google ermee aan de slag gaan.

Als we met AI sociale problemen willen oplossen moeten we kritischer kijken naar de impliciete aannames die voorafgaan aan het maakproces. De aanname dat oorlog voortkomt uit miscommunicatie klopt bijvoorbeeld niet. Oorlogen ontstaan uit conflicterende economische belangen en sociaal-economische ongelijkheden die bij uitstek door belastingontwijkende bedrijven als Google worden vergroot.

Ingenieurs kunnen de meest intelligente machines bouwen maar zolang hun werk is gebaseerd op simplistische opvattingen over onze (a)sociale mensenwereld brengt AI ons nergens. Onze menselijke intelligentie heeft het potentieel om het ontbrekende bewustzijn bij computers te compenseren en harmonieus met AI samen te werken. Op dit moment gebeurt het tegenovergestelde: we onderwerpen ons aan AI doordat we ons bewustzijn en onze menselijke intelligentie miskennen en verwaarlozen.

Mail

Siri Beerends is cultuursocioloog . Sinds ze The Truman Show gezien heeft, is ze gefascineerd door de culturele obsessie met ‘echt’ versus ‘nep’. Ze bezit een bescheiden argwaan tegenover massaal aangehangen standpunten en voelt zich prettig in de rol van advocaat van de duivel.

Kalle Wolters (1993) is een illustrator uit Groningen. Geïnspireerd door de Klare Lijn en affiches van de Russische Avant-garde ontwerpt hij posters, verpakkingen en maakt hij illustraties bij artikelen. Daarnaast maakt hij deel uit van het illustratiecollectief Knetterijs.

Hard//hoofd is gratis en
heeft geen advertenties

Steun Hard//hoofd

Ontvang persoonlijke brieven
van redacteuren

Inschrijven
Lees meer
test
het laatste
Een ode aan de pornofilm 2

Een ode aan de pornofilm: Het Porn Film Festival Amsterdam

Porno is meer dan wat Pornhub en andere grote platforms ons voorschotelen. Het Porn Film Festival Amsterdam laat deze donderdag tot en met zondag zien, dat porno kwetsbaarder, artistieker en vrijer is dan velen verwachten. Emma Zuiderveen spreekt met organisatoren Erik ter Veld en Franka Bauwens. Lees meer

De macht van het lookje

De macht van het lookje

Columnist Loïs Blank analyseert de stijlkeuzes van Zuckerberg, en Ivanka en Donald Trump. Wat proberen ze met hun kleding te zeggen, en wat hangt er van hun kledingkeuzes af? Lees meer

Auto Draft 2

'Kunnen we vrienden zijn?': over een noodzakelijk veranderende mens-natuur relatie

Wanneer Jop Koopman afreist naar Lombok om de Indonesische visie op mens-natuurrelatie beter te begrijpen, gaat hij op pad met een lokale mysticus. In dit essay onderzoekt hij hoe we de verhouding mens-natuur opnieuw kunnen vormgeven; wat de agency is van onze omgeving, en waarom we vrienden moeten worden met alles rondom ons. Lees meer

 1

De zee

Mariska Kleinhoonte van Os schrijft met groot mededogen en rauwe eerlijkheid over degenen die tussen de mazen van het net en de mazen van de wet vallen, in de verhalenbundel 'Tussen de mazen' die op 14 februari verschijnt. Op onze site lees je alvast een voorpublicatie. Lees meer

De rattenkoning

De rattenkoning

Een schoolreis naar Praag klinkt als een feestelijke afsluiting van de middelbare school: slapeloze busritten, sigaretten in de schaduw van kasteelparken en stiekeme plannen om absint te drinken in hotelkamers. Maar in dit verhaal van Nick De Weerdt eindigt de reis voor een onafscheidelijke vriendinnengroep met een onverwachte confrontatie: de rattenkoning. Lees meer

Stil protest

Stil protest

Nadeche Remst laat zien hoe slaap, verdriet en dissociatie meer zijn dan persoonlijke reacties: ze worden een vorm van stil verzet tegen een wereld die kwetsbaarheid buitensluit. Lees meer

Ze willen niet dat je dit weet over ons voedselsysteem

Ze willen niet dat je dit weet over ons voedselsysteem

When life gives you hepatitis A-bessen, kruipt Marthe van Bronkhorst in de pen om het toch nog eens over de voedselindustrie te hebben. Lees meer

Hoe lang blijf je een vluchteling?

Hoe lang blijf je een vluchteling?

'Wat' ben je als je ergens niet thuishoort, maar ook niet terug kan naar je geboorteland? Ivana Kalaš onderzoekt het label 'vluchteling'. Lees meer

Een kijkje in mijn consumentenziel (2024) 1

Een kijkje in mijn consumentenziel (2024)

De gemiddelde Nederlander koopt vaak kleding, en heeft er vaak ook nog geen overzicht over. Columnist Loïs Blank houdt haar eigen koopgedrag elk jaar weer bij. Lees meer

Even zweven de levende wezens

Even zweven de levende wezens

Voor Hard//hoofd dicht Pim te Bokkel over de verschillende facetten van water: de kalmte en geborgenheid ervan, of juist de dreigende weidsheid. Dit is een voorpublicatie uit de bundel 'Even zweven de levende wezens' die op 16 januari bij uitgeverij Wereldbibliotheek verschijnt. Lees meer

Een echte vis

Een echte vis

In dit verhaal van Maartje Franken dreigt er meer dan alleen een storm. Kinderen gaan op zomervakantie in de regen, ontdekken een verzonken stad en proberen te documenteren zoals Bear Grylls. Lees meer

:Oproep: Hard//hoofd Biechtlijn

Oproep: bel de Hard//hoofd Biechtlijn

Op zoek naar een luisterend oor? Bel de Hard//hoofd Biechtlijn op 06 16 85 74 57 en word trouwe lezer van Hard//hoofd op papier om de collectieve audiobiecht te beluisteren. Lees meer

Elke trui is een kersttrui, je moet alleen zelf voorbij Rudolf kijken

Elke trui is een kersttrui, je moet alleen zelf voorbij Rudolf kijken

Misschien heb jij hem nu wel aan: de kersttrui. Een onschuldig grapje of een kledingstuk dat perfect toelicht wat er mis is met de kledingindustrie? Lees meer

Lichamen en monden

Lichamen en monden

Hoelang blijf je toekijken? Wanneer dondert alles in elkaar? Waar zit de zwakke plek van passiviteit? Pieter van de Walle neemt je in dit kortverhaal mee als apathische visverzorger in een Berlijns aquarium. Lees meer

Schrijvers en beeldmakers gezocht voor ‘Honger’, het zevende Hard//hoofd Magazine! 1

Schrijvers en beeldmakers gezocht voor ‘Honger’, het zevende Hard//hoofd Magazine!

Welk verlangen kenmerkt jouw leven en waar snak jij naar? Stuur voor 16 februari 2025 je pitch in en voed ons met jouw ideeën over (beeld)verhalen, essays, poëzie en kunstkritiek voor het magazine ‘Honger’. Lees meer

Schrijvers en beeldmakers gezocht voor ‘Honger’, het zevende Hard//hoofd Magazine!

Illustreer jij de volgende cover van het Hard//hoofd Magazine?

Voor ‘Honger’, het najaarsnummer van 2025 van Hard//hoofd, zijn we op zoek naar illustrator die de cover van ons magazine wil maken. Lees meer

Lieve groetjes van Venus

Lieve groetjes van Venus

Lieke van den Belt vertelt in deze column over haar relatie met en tot Venus. Kijken ze elkaar aan? En zien ze de ander dan ook? Lees meer

De Groep

De Groep

'Ik ben Jane en Kevin is een lul die te veel ruimte inneemt.' Amal Akbour schreef een verhaal over Jane, een narcistische jonge vrouw die voor het eerst deelneemt aan groepstherapie. Dit is een voorpublicatie van het verhaal dat Amal schreef als onderdeel van het Veerhuis Talentenprogramma. Lees meer

Gebeden van keramiek - Nieuw werk voor kunstverzamelaars! 1

Gebeden van keramiek - Nieuw werk voor kunstverzamelaars!

Als dank voor hun steun, ontvangen onze ruim 1.700 kunstverzamelaars in januari een prachtig werk van beeldend kunstenaar Dakota Magdalena Mokhammad. Om welk werk het precies gaat blijft een verrassing, maar in gesprek met onze chef Kunst Jorne Vriens licht Dakota een tipje van de sluier op. Lees meer

Auto Draft 1

Hoe jij politiek je zin weer krijgt: valse dilemma’s, overdrijven en nog drie tactieken die ik leerde van mijn vader

Marthe van Bronkhorst leerde van haar vader dat goed vals niet lelijk is. In deze column legt ze je drie technieken uit om je (politieke) zin te krijgen. "Links, doe nou eens wat mijn vader deed: nooit genoegen nemen met minder." Lees meer

Lees Hard//hoofd op papier!

Hard//hoofd verschijnt vanaf nu twee keer per jaar op papier! Dankzij de hulp van onze lezers kunnen we nog vaker een podium bieden aan aanstormend talent. Schrijf je nu in voor slechts €2,50 per maand en ontvang in september je eerste papieren tijdschrift. Veel leesplezier!

Word trouwe lezer