Onze rol in het verhitte digitale tijdperk

De film Fahrenheit 451 (François Truffaut, 1966) is een uitnodiging om na te denken over onze relatie tot nieuwe technologie zoals Artificial Intelligence (AI). Reageren we vanuit angst of vanuit verantwoord technologisch optimisme? We dragen hoe dan ook de verantwoordelijkheid om ons kritisch denkvermogen levend te houden in tijden van grote maatschappelijke transformaties, aldus Merijn Bruijnes. Onderstaande tekst is een licht bewerkte versie van de inleiding die hij hield op de eerste avond van de USBO filmreeks Science & Fiction: Terug naar de toekomst.

Beste filmliefhebbers, nieuwsgierige geesten,

Ik ben gevraagd om vanuit mijn onderzoek en wetenschappelijke interesse iets te vertellen ter inleiding van de film Fahrenheit 451 van François Truffaut, waarmee deze editie van de filmreeks Science & Fiction: Terug naar de Toekomst van start gaat.

Ik ben universitair docent aan de Universiteit Utrecht, heb een achtergrond in psychologie en in informatica en ontwerp, en werk nu als bestuurs- en organisatiekundige. Mijn onderzoek richt zich op hoe we technologie, specifiek kunstmatige intelligentie (AI), kunnen benutten als kracht voor het goede in onze maatschappij. Mijn recente werk verkent een techno-optimistisch perspectief op openbaar bestuur en het creëren van maatschappelijk welzijn door AI.

Verantwoord technologisch optimisme

Veel van het huidige werk in de wetenschap, en ook in de media, focust terecht op risico’s van AI: het is gevaarlijk, eng, discriminerend, etc. Belangrijk werk dat we vooral moeten blijven doen. Echter, ik pleit ervoor dat er ook een alternatief moet worden gegeven. Anders zal er niets veranderen aan het pad waar wij met zijn allen op zitten: het pad van de ‘Amerikaanse tech-bro’ die voor ons beslist wat gemakkelijk, efficiënt, en comfortabel is. Dat alternatief ligt in verantwoord technologisch optimisme. Dat betekent dat ik onderzoek hoe AI gebruikt kan worden voor het positieve. Hierbij ben ik niet bang de randjes op te zoeken, uiteraard in een veilige laboratoriumomgeving.

Neem bijvoorbeeld project PLAYSAFE. Hierin onderzoek ik samen met collega’s of we een interactief AI-trainingssysteem kunnen ontwikkelen dat realistische scenario’s genereert om te trainen in gespreksvaardigheden. Specifiek in dit project gaat het om de sportcontext. Hier moeten vrijwilligers, soms iemands vader of moeder die de hand heeft opgestoken, soms spreken met leden van hun sportclub die iets verschrikkelijks hebben meegemaakt. Dat kan gaan van pesten, tot buitensluiten, tot heftiger zaken als mishandeling of verkrachting. Dat is nogal wat voor een vrijwilliger…

Lokale verwerking en streng testen in een veilige omgeving

Ons systeem kan een veilige trainingsomgeving bieden, waar zij kunnen leren omgaan met deze lastige gesprekken. Specifiek proberen we hen te leren om zogenoemde traumasensitieve communicatievaardigheden te ontwikkelen, door hen eerst te laten proberen te spreken met een AI systeem dat zich gedraagt als een getraumatiseerd persoon (lees: ervaringsleren) en daarna door te reflecteren op het gedrag van de gebruiker (lees: reflectieleren).

Door lokale verwerking van gevoelige data zijn er geen privacyrisico’s of ‘tech-bros’ die meekijken. Daarnaast is de ontwikkeling van het AI gedrag gebaseerd op psychologische kennis en – wat wij onder andere doen – streng getest in een veilige omgeving. Ook zijn we transparant in de documentatie van AI-systeemgedrag en de evaluatie.  Op deze manier laat PLAYSAFE zien hoe AI-innovatie  toch kan floreren binnen de robuuste ethische grenzen van de publieke sector.

Mijn hoop is dat dit soort werk ons als samenleving helpt om positieve toekomsten te verbeelden en te ontwerpen. Mijn stelling is dat de weg voorwaarts niet gaat om kiezen tussen innovatie óf veiligheid, of tussen automatisering óf menselijke connectie, maar over het vormen van AI op een manier die onze menselijke capaciteit voor empathie, begrip, en positieve sociale veranderingen versterkt.

De brandmannen van onze tijd

In de film Fahrenheit 451 zien we Guy Montag, een ‘brandman’ wiens taak niet is om branden te blussen, maar om boeken te verbranden. Boeken die vragen oproepen, die onrust zaaien, die verschillen belichten.

Maar wie zijn de brandmannen van onze tijd? Misschien zijn wij het zelf wel, wanneer we uit angst voor het onbekende ons verzetten tegen technologische vooruitgang. Zoals AI, dat we vaak benaderen vanuit angst en wantrouwen. We zien de risico’s, de mogelijke gevaren – en soms zijn we geneigd om als reactie daarop de hele ontwikkeling af te wijzen. De baby met het badwater weggooien, zoals brandmannen die niet selectief zijn in welke kennis behouden moet blijven.

Tegelijkertijd zien we een andere vorm van brandmannen in de technologiesector zelf – misschien ben ik het wel. Misschien ben ik wel een ‘tech bro’ die, gedreven door efficiëntie, winstmaximalisatie en gebruiksgemak, nauwelijks stilstaat bij de maatschappelijke waarden die we in Europa koesteren. Privacy, autonomie, solidariteit – deze waarden worden soms net zo makkelijk verbrand als de boeken in Montags wereld, onder het mom van vooruitgang.

De Boekenmensen van de 21e Eeuw

Maar er is ook hoop. In de film zien we de ‘Boekenmensen’ – individuen die elk een boek uit hun hoofd leren om het culturele erfgoed te bewaren. Zij verzetten zich niet tegen de technologie van hun tijd, maar gebruiken hun eigen menselijkheid om waarden te beschermen.

Wie zijn de Boekenmensen van onze tijd? Dat zijn degenen die kritisch blijven, die vragen stellen, die technologie niet verwerpen maar haar juist willen vormen volgens onze menselijke waarden. Die AI en automatisering niet zien als bedreiging of als wondermiddel, maar als gereedschap dat we met wijsheid moeten hanteren. Met een hamer kun je iemand de kop inslaan, maar je kunt er ook een boomhut mee bouwen.

Brandman of Boekenmens?

Ik wil u uitnodigen om tijdens het kijken naar deze film uzelf de vraag te stellen: ben ik een brandman? Verbrand ik kennis of innovatie uit angst voor hun impact? Verwerp ik technologie omdat het onzeker maakt wat ik altijd als zeker beschouwde?

Of ben ik misschien onbewust een brandman van een andere soort? Een die in naam van vooruitgang en efficiëntie bereid is om fundamentele waarden op te offeren?

Of: streef ik ernaar een Boekmens te zijn – iemand die tradities en waarden koestert zonder vooruitgang te vrezen?

Fahrenheit 451 gaat over censuur en controle, ja. Maar nog meer gaat het over de verantwoordelijkheid die we allemaal dragen om ons kritisch denkvermogen levend te houden in tijden van grote maatschappelijke transformatie – zoals de huidige AI revolutie.

De 451 graden Fahrenheit in de titel is de temperatuur waarop papier verbrandt. Maar wat is de temperatuur waarop onze nieuwsgierigheid, ons kritisch denken, en onze collectieve wijsheid beginnen te bezwijken?

Merijn Bruijnes is als universitair docent verbonden aan het departement Bestuurs- en Organisatiewetenschap (USBO). Hij combineert ervaring en kennis op het gebied van psychologie, computerwetenschap en bestuurskunde om actuele maatschappelijke technische uitdagingen te bestuderen. Zijn huidige onderzoeksfocus ligt op verantwoorde ontwikkeling en gebruik van kunstmatige intelligentie door overheidsorganisaties zoals de politie.