Dinsdag 22 september, de Algemene Vergadering van de Verenigde Naties. Donald Trump kondigt tussen de handelsoorlogen door een naamsverandering aan. “The use of the word artificial makes intelligence fake. It makes it sound fake.” Voortaan heet het super intelligence, in alle Amerikaanse overheidsdocumenten “and hopefully the world’s”. Deze week maakte hij het officieel met een executive order: federale instanties gebruiken alleen nog de term SI; super intelligence.
Trump snapt het. Woorden en verhalen over iets zijn een heel krachtige manier om mensen in beweging te krijgen. Dit legt Yuval Noah Harari uit in zijn boeken Homo Sapiens, Homo Deus en Nexus. Mensen kunnen als enige soort met miljoenen tegelijk samenwerken, omdat we in dezelfde verhalen geloven, zoals ‘geld’, ‘naties’, ‘religie’ en ‘bedrijven’. Een verhaal hoeft niet waar te zijn om macht te hebben; het moet alleen door genoeg mensen gedeeld en geloofd worden.
Als wij met z’n allen, via de woorden die we dagelijks gebruiken, gaan geloven dat AI menselijk is en menselijke dingen kan, gaan we ons daarnaar gedragen. Daar zit het risico. Kijk naar het vocabulaire van vandaag. Modellen “denken” (met een pauze en “Thinking...” in beeld), ze “redeneren”, en als ze onzin produceren, “hallucineren” ze. Elk van deze woorden suggereert een bewustzijn. Wat er werkelijk gebeurt: de software berekent woord voor woord het statistisch meest waarschijnlijke vervolg. Een hallucinatie veronderstelt iemand die waarneemt. Maar: een taalmodel neemt niets waar.
En hier waarschuwt Julia Janssen voor: wij leveren onszelf langzamerhand over aan mensachtige bots, en leven steeds meer binnen de marges van het algoritme.
Julia Janssen
Julia Janssen is kunstenaar en onderzoeker in Amsterdam. Ze maakt onzichtbare digitale processen tastbaar en is ambassadeur van Stichting Data Bescherming Nederland. In januari stond haar installatie Chadding in Davos, tijdens het World Economic Forum. Julia vroeg ChatGPT of er gesponsorde antwoorden zouden komen, en kreeg binnen een week tegenstrijdige antwoorden: van “ja, OpenAI experimenteert ermee” tot “nee, dat zou het vertrouwen ondermijnen”. Een paar dagen later legde ze bij Buitenhof uit waarom dat gevaarlijk is:
“Een taalmodel heeft geen begrip van de wereld. Het heeft geen lichaam, het heeft geen zintuigen. Het voorspelt het meest logische volgende woord. En die plausibiliteit neemt de plek in van de waarheid.”
Vorige week vrijdag spraken wij met haar. Wat begon als een gesprek over taal, eindigde bij een vraag die volgens ons belangrijker is dan “hoe blijf je kritisch”: “hoe blijf je zelfredzaam?”
Dat het AI heet, daar zitten heel veel keuzes achter
Saskia: “In jouw werk zien we je kritische kant, maar je bent er ook niet fel tegen. Wat is jouw verhouding tot de technologie?”
Julia: “AI wordt nu gepresenteerd als een soort natuurkracht. Dit is gewoon wat het is, dus doe maar mee, anders word je overbodig. Terwijl ik denk dat we dat moeten ontleden. AI is niet alleen AI. Het is ook de hele industrie erachter. Het wordt ontworpen, gebouwd en onderhouden door kapitalistische bedrijven met een heel duidelijk doel. En dat is niet een fijne therapeut zijn voor mensen, of goed advies geven. Dat is geld verdienen, aandacht vasthouden, je langer laten praten.
Ik ben niet per se tegen een computersysteem of een algoritme dat een rol speelt in ons leven. Maar de manier waarop AI nu is gemaakt en hoe we het gebruiken, is gebouwd op kapitalistische waarden. Dat begint al bij de naam. Artificiële intelligentie: daar zit heel veel marketing achter. Als je het statistiek zou noemen, of automatisering, heb je er een heel andere relatie mee. Zie je al een talkshow openen met: ‘Goh, we gaan het vandaag hebben over automatisering’? Dat werkt niet.
Hetzelfde met de infinite scroll, of dat YouTube of Netflix de volgende video meteen start. Of dat een AI-chatbot na een antwoord een wedervraag stelt. Dat zijn slimme bedrijfskeuzes. Dat is niet hoe het zou moeten werken.”
Saskia: “Als we in onze workshops aan vrouwen die niet per se technisch zijn uitleggen hoe AI werkt, gebruiken we de vergelijking met een brein. Misschien is die vergelijking helemaal niet handig. Maar we hebben haar wel nodig voor dat eerste begrip.”
Julia: “Daar heb ik inderdaad wel vraagtekens bij. Ik snap het: we leggen dingen vaak uit met anekdotes, en mensen begrijpen een verhaal eerder dan feiten. Maar wat het ook doet, is menselijke eigenschappen toekennen die gewoon niet kloppen.
Kijk naar waarom iedereen nu bang is voor het einde van de mensheid. Er zit een reële dreiging achter AI, begrijp me niet verkeerd. Maar Anthropic en OpenAI gaan binnenkort naar de beurs, en zij hebben er letterlijk baat bij dat mensen het erover hebben. Of ze nou bang zijn of het fantastisch vinden. Dat verhaal dat modellen te slim worden en uitbreken, spreekt tot de verbeelding omdat het al in onze taal zit. Als het niet al genormaliseerd was dat we zeggen ‘het denkt’, zouden we dat heel raar vinden.”
We zijn liever lui dan moe
Alinda: “Je zegt dat mensen boos worden als je kritisch bent over AI. Waar heeft dat mee te maken? Dat ze nog meer geloven in wat het kan brengen?”
Julia: “Ja, dat denk ik. AI tapt in op wat ons primitieve brein prettig vindt. Onze hersenen zijn vanuit de oertijd gemaakt om energie te besparen. Erik Scherder zegt het mooi: we zijn liever lui dan moe. Dus als er een tooltje is dat dingen uit handen neemt waar je geen zin in hebt, zeker in een veeleisende wereld... AI komt op in een geopolitiek instabiele wereld, maar ook in een wereld waarin mensen best wel burned-out zijn.”
Alinda: “Het belooft hulp op jouw persoonlijke microniveau. Het gaat je tijd besparen, eindelijk heb je meer controle over je agenda. Zelf merk ik dat het tegenovergestelde waar is.”
Julia: “Ja, want je moet meer dingen gaan doen, omdat je meer dingen kán doen. En het haalt vaak de leuke taken weg en laat de controlerende taken over.
Elke keer als we een probleem hebben, zetten we AI in. Zijn we eenzaam? Praat met een chatbot. In plaats van te denken: vervreemd je juist dan niet verder van mensen? Werkdruk? Laten we niet kijken hoe we onze werkcultuur anders inrichten, maar voeg technologie toe zodat het wordt opgevangen. Waarom sturen we eigenlijk zo bizar veel e-mails? We verleggen steeds het probleem, en het probleem wordt steeds groter.
Intelligentie betekent nu efficiënter, optimaler, sneller. Dat is de waarde vanuit Silicon Valley. Terwijl intelligentie natuurlijk ook vertragen is. En mijmeren, twijfelen, ontwikkelen.”
Een van de belangrijkste dingen voor een kind om te leren, is dat je iets zelf kan
Julia: “Ik vind niet dat er altijd iets mis mee is dat Netflix je een titel aanbeveelt. Maar het is een glijdende schaal, hoe gemakkelijk we dingen uitbesteden. Ik leg het uit met: onze hersenen zijn spieren. Om ze actief te houden, om te blijven groeien en zelf te kunnen blijven nadenken, moet je ook kleinere keuzes en kleinere vervelende dingen zelf doen. Heb je alle simpele taken uitbesteed, het kiezen van een Netflix-film, je e-mail laten schrijven, dan voelt het alsof je tijd wint. Maar moeilijkere taken worden moeilijker, omdat je die training niet meer hebt.
En je leert jezelf: AI weet het beter, AI kan het beter. Een van de belangrijkste dingen voor een kind om te leren, is dat je iets zelf kan. En dat is voor volwassenen net zo. Elke keer dat je iets uitbesteedt aan een systeem, conditioneer je jezelf verder in: oh, ik kan dit niet zelf. Die grens van hoeveel we uitbesteden, wordt met elk onschuldig stapje verder opgerekt. Tot je op een gegeven moment nergens meer verantwoordelijkheid voor wilt of kunt nemen. Dat vind ik persoonlijk een van de grootste bedreigingen.”
Alinda: “En dat het dan te zwaar voelt. Dat je je er zelf niet meer toe in staat voelt.”
45 min met ChatGPT bij een ingeslagen autoruit
Julia: “Ik heb daar een anekdote over. Vorig jaar zomer ging ik met mijn ex-vriend naar het strand. (en, hij is niet alléén mijn ex vanwege dit voorval :-).) We liepen naar zijn auto: ruit ingeslagen. Ik denk gelijk: foto’s maken, politie bellen, bij het café in de buurt vragen of ze iets hebben gezien, is er camerabeeld. Hij stond drie kwartier met ChatGPT te praten. Wat doe je als je autoruit is ingeslagen?
Later zei hij: dit is een nieuwe situatie, ik wil advies zodat ik het weet voor de volgende keer. En ik zei: nee, dat is niet wat er gebeurt. De volgende keer herinner jij je dat je goed advies kreeg van ChatGPT, en dan ga je daar weer naartoe terug. Je leert niet zelf problemen oplossen. Je leert: dit systeem biedt een oplossing. Zelfstandig kunnen blijven handelen, en je in staat voelen om zelfstandig te handelen, is echt essentieel.”
Alinda: “Ik las laatst over wandelaars die hun bergtocht met ChatGPT hadden voorbereid en in de problemen kwamen. In een noodsituatie volgden ze het advies van de chatbot in plaats van hun eigen instinct om zichzelf in leven te houden.”
Als je niet zelfredzaam bent, heb je echt een probleem
Julia: “Dit raakt me. Ik heb vorig jaar zelf in een situatie gezeten waarin ik alleen was, zonder telefoon, en echt zelf moest handelen. Daar heb ik daarna veel over nagedacht. Stel dat ik op dat moment afhankelijk was geweest, zoals mijn ex bij die autoruit. Dat je denkt: ChatGPT, wat moet ik doen? Als je niet zelfredzaam bent, heb je echt een heel groot probleem. Ik was heel dankbaar dat ik fysiek, maar ook mentaal sterk genoeg was om te handelen, en op mezelf kon vertrouwen.”
Julia: “Het zit ook in kleine dingen. Het is super makkelijk dat we altijd Google Maps kunnen volgen. Maar een relatie tot je omgeving, in ieder geval zo dat je jezelf kunt redden: het klinkt overdreven, maar dat is super belangrijk. En ook veel leuker, in je dagelijks leven.”
Je gaat mij echt niet klein maken
Julia: “Het was heftig, maar het heeft me ook iets moois gebracht. Ik weet nu dat ik kan handelen als het erop aankomt. Kort daarna stond ik in Davos, tussen al die miljardairs, en ik dacht echt: jullie krijgen mij niet klein. Het heeft me strijdbaarder gemaakt.”
Saskia: “Wij hebben het in onze gesprekken heel vaak over hoe je kritisch blijft. Maar eigenlijk vind ik dit een veel belangrijkere vraag: hoe blijven we zelfredzaam?”
Julia: “Welke dingen moet je echt zelf kunnen blijven doen? Dat gaat over kinderen die opgroeien, leren en zich ontwikkelen. En over ons allemaal. Niet afhankelijk zijn van een systeem dat altijd voor je klaarstaat, maar heel veel dingen echt zelf kunnen en willen blijven doen. Want zingevingsloosheid begint als je niet eens meer zelf een probleem kunt oplossen.”
Wat wij uit ons gesprek met Julia meenemen
1. AI is niet menselijk: taaltips van Julia voor je onderbewustzijn
Lees die lijst nog een keer, en denk aan de laatste keer dat je een relatievraag, een twijfel of een rotgevoel in een chatbot stopte. Wat je terugkrijgt, is geen begrip maar het meest plausibele antwoord. Hoe vaker je dat doet, hoe minder je oefent met vertrouwen op wat je zelf voelt en ervaart.
2. Je brein is een spier blijf hem trainen
Beslissingen nemen is een vaardigheid, en die slijt als je haar niet gebruikt. Dus check bij jezelf in: hoeveel besteed je uit, en hoeveel beslissingen neem je nog echt zelf? Tel het morgen eens, één dag lang. De mail die je liet schrijven, de route die je volgde, de serie die je aangeraden kreeg, de vraag die je aan een chatbot stelde voordat je er zelf over had nagedacht.
Voor kinderen en jongeren is dit nog belangrijker. Tussen de 10 en 25 jaar is de prefrontale cortex nog in ontwikkeling: jongeren zijn gevoeliger voor verslaving en minder kritisch, en ze groeien op met AI terwijl er op scholen nauwelijks begeleiding is. Daarom geven wij op vrijdag 13 november van 11.30 tot 13.30 uur het webinar AI voor scholieren en studenten: hoe AI werkt, hoe het je denkvermogen kan ondermijnen, welke tools goed zijn om mee te studeren en hoe je kritisch blijft. Ouders, dit is een must voor je kinderen. Schrijf je hier in.
Of zoals Julia het zegt: een van de belangrijkste dingen voor een kind om te leren, is dat je iets zelf kan. Dat geldt voor ons net zo goed.
Meer Julia Janssen?
Wij vinden dat Julia haar ideeën op een fantastische manier concreet maakt, zo ook met haar nieuwe project Ask Anything. Julia hoopt dat de pet aanzet tot verandering: leg je telefoon vaker weg en stel je vraag aan iemand naast je in plaats van aan een chatbot. Ze vertrekt vanuit hetzelfde idee als in ons gesprek, namelijk dat je brein een spier is die je moet blijven gebruiken. Want de waarde van het leven zit niet in de perfectie die AI belooft, maar in leren, falen en groeien, samen met andere mensen. De petjes zijn er in blauw en beige en kosten €30. Je vindt ze in haar shop.
Meer her/ai?
Wil je zelf aan de slag? Dit staat er de komende tijd op de planning:
Live workshops in Amsterdam. Op woensdag 14 oktober, 18 november en 9 december, van 9.30 tot 14.30 uur en inclusief lunch. Je werkt een dag hands-on met Claude (en we laten je tools als Granola, Wispr Flow en Lovable zien) en je gaat naar huis met iets dat werkt. De early bird tickets kosten €349 en weet dat deze kosten vaak door je werkgever worden vergoed. Er is maar een beperkt aantal plekken.
Webinar ‘Leer AI écht voor je te laten werken’. Op vrijdag 16 oktober en 11 december, van 11.30 tot 13.30 uur en online. In twee uur leer je hoe je Claude opzet zodat het in jouw toon schrijft, wat agents zijn en hoe je je processen automatiseert met skills.
Webinar ‘AI voor scholieren en studenten’. Op vrijdag 13 november, van 11.30 tot 13.30 uur. We leggen uit hoe AI werkt, hoe je er kritisch bij blijft en welke tools goed zijn om mee te studeren. Ouders, dit is een must voor je kinderen.
👉 Alle data en aanmelden: workshop.herai.work