HI… let’s talk about… AI

Kunstmatige Intelligentie lijkt niet meer weg te denken uit de samenleving. Sommigen zien in AI een krachtige belofte die de hele wereld zal veranderen. Is dat dan ook een betere wereld? Anderen wijzen op de gevaren van AI vanwege ongewenste beïnvloeding en hallucinaties.

Ook in de zorgsector doet AI zijn intrede; van screening van beeldmateriaal en maken van gespreksverslagen tot adviezen om behandeling te ondersteunen. De vraag is niet langer óf we met AI te maken hebben, omdat deze transitie en ontwikkeling zich moeilijk laat terugdraaien. De vraag is wél hoe we deze technologie op een verantwoorde manier kunnen inzetten, met oog voor kwaliteit, betrouwbaarheid en HI (Human Intelligence). Een paar beschouwingen mijnerzijds.

Schermmutselingen

Het Waarborgfonds voor de Zorgsector (WfZ) verkent ook de mogelijkheden van de inzet van AI. Om het gebruik van AI goed in te kaderen en rekening te houden met onder andere de ethische en privacygevoelige aspecten, is eerst een kader geformuleerd met eisen waaraan AI-toepassingen moeten voldoen. Met name de controle en traceerbaarheid bij gebruik zijn belangrijke aspecten. AI kan helpen bij dataverwerking, zoals het overnemen van gegevens uit jaarrekeningen, het maken van gespreksverslagen, het screenen en samenvatten van documenten (recentelijk wilde een collega weten welke bewaartermijnen in de zeer omvangrijke Archiefwet opgenomen zijn) en het analyseren van gegevens.

Zelf had ik ook de behoefte om een paar kleine experimenten te doen. Zo vroeg ik Copilot een column van 3.500 woorden over AI te schrijven voor Fizier, vakblad voor financials in de zorg. Het stuk dat ik kreeg was keurig, maar tegelijkertijd ook zouteloos en bevatte weinig nieuws. Saillant detail: Copilot weet kennelijk dat een column maximaal 1.500 woorden mag bevatten, want van de gevraagde 3.500 woorden gebruikte hij er slechts 1.360! De conclusie van Copilot vond ik wel aardig, maar toen ik Copilot vroeg hoe de problemen in de zorgsector (zonder te benoemen welke dat dan zijn) het beste opgelost konden worden, kreeg ik een heel algemeen, en kort, verhaal waarin een drietal recente adviesrapporten werden samengevat. Ook deze exercitie deed mijn hart niet sneller kloppen. En toen ik ten slotte Copilot een moreel-ethisch dilemma voorlegde, volgde een erg ‘politiek correct’ antwoord dat hij daar ook op kon geven. Echter wel gevolgd door de mededeling dat hij dat dilemma met mij zou kunnen verkennen.

Historische parallellen

Zelfstandig nadenken (HI; Human Intelligence) over AI doemden in mijn gedachten parallellen op met de introductie van automatisering en internet. In beide gevallen waren de beloftes torenhoog, net als de initiële investeringen. Maar gaandeweg bleken zowel de toepassing van ICT als het gebruik van internet naast allerlei zegeningen toch ook ernstige gebreken te vertonen. De inzet van ICT bijvoorbeeld om laagdrempelig met een dokter te communiceren leidde niet alleen tot een efficiëntere communicatie, maar ook tot veel meer en soms onzinnige vragen aan de dokter. En de vele mogelijkheden die internet biedt, blijken ook allerlei risico’s op misbruik en desinformatie op te leveren die grote impact hebben op onze democratische samenleving. Uiteindelijk leveren zowel ICT als internet een belangrijke bijdrage aan de maatschappij en hebben ze zeker voordelen maar de toepassingen en voordelen moeten, net als de nadelen, wel op de juiste waarde geschat worden.

Schaarse hulpbronnen

Het is ook nuttig om AI eens tegen de criteria van ESG (Environmental Social Governance) af te zetten. Ondanks de afgenomen aandacht voor ESG-regelgeving, is streven naar een duurzame en duurzaam houdbare samenleving en daarmee ook zorgsector nog steeds een belangrijke opgave waar veel partijen zich achter scharen.

Een evident effect van AI is het hoge gebruik van energie en koelwater, maar daarnaast legt de technologie die nodig is om AI te laten draaien, ook een groot beslag op schaarse hulpbronnen zoals bijvoorbeeld zeldzame metalen. Met het beslag op zeldzame metalen moeten we ook oog hebben voor de (arbeids)omstandigheden waaronder die metalen gewonnen worden en de effecten die de winning heeft op het milieu. Het is toch wel erg bijzonder dat we klakkeloos schaarse hulpbronnen opofferen aan AI terwijl iedereen klaagt over onder meer woningnood; wél ruimte voor datacenters maar niet voor wonen.

Frans Schaepkens:
“Het is erg bijzonder dat we klakkeloos schaarse hulpbronnen opofferen aan AI”

Om AI goed te laten werken, is het noodzakelijk systemen te trainen en dat trainen neemt vormen aan die soms terug doen denken aan de tijden van de slavernij. Daarbij lijkt AI op grote schaal inbreuk te maken op intellectueel eigendom zonder zich te bekommeren om de rechten van de oorspronkelijke eigenaren. Daarnaast blijkt uit onderzoek dat AI ook tot problematische uitspraken kan komen, die bij mensen medische schade kunnen aanrichten.

Daarnaast lijkt AI ook een bijdrage te leveren aan de mate van verslaving onder meer social media. Tot slot lijken eigenaren van AI-tools zich weinig te bekommeren om menselijke waarden en waardigheid. Kortom, als we AI leggen langs de meetlat van ESG, dan kan het best een bijdrage leveren aan het oplossen van vraagstukken in het domein van ESG. Tegelijkertijd creëert zij helaas ook nieuwe en wat mij betreft ingrijpende, soms ook problematische, vraagstukken.

Vreugde versus gemak

Recentelijk las ik dat kinderen in Estland al in het onderwijs gestimuleerd worden om AI te gebruiken. Aan de ene kant kan ik me voorstellen dat het best makkelijk is om iets op te zoeken of om iets samen te laten vatten. Aan de andere kant gaat dat wel voorbij aan een aantal fundamentele waarden en genoegens. Wat mij betreft is het noodzakelijk om, voordat je de resultaten van AI goed kunt gebruiken en interpreteren, zelf eerst kritisch na te denken. Dat leer je nooit als je eenmaal vervalt en opstaan. Zelfstandig nadenken is noodzakelijk om te kunnen beoordelen of AI de waarheid spreekt, confabuleert of hallucineert. Bovendien heeft zelfstandig nadenken, Human Intelligence of HI, drie grote voordelen.

Ten eerste brengt het een mens nieuwe inzichten waarvan de vraag is of AI die ook had kunnen bedenken. Had AI bijvoorbeeld de relativiteitstheorie kunnen bedenken (Albert Einstein), antibiotica kunnen uitvinden (een ‘slordigheid’ of ‘stom toeval’ van Sir Alexander Fleming) of Picasso’s Guernica of Rembrandts Nachtwacht kunnen scheppen? Van die uitvindingen hebben we nog steeds plezier en, afhankelijk van iemands smaak, kijkt de één met genoegen, verbazing en ontzag naar de Nachtwacht en de ander naar Guernica, een schildering die voortkomt uit menselijke gevoelens.

Ten tweede schept zelfstandig nadenken ook vreugde. Als ik bezig ben een column voor Fizier vorm te geven, dan ben ik eerst een hele tijd bezig om erover na te denken en een verhaallijn op te bedenken. Dat gebeurt bij mij meestal niet achter een bureau, maar bijvoorbeeld tijdens het tanden poetsen, een wandeling of een intermenselijk gesprek. Pas dan kan ik een verhaal opschrijven. En, eerlijk is eerlijk, áls ik dan een tekst heb gefabriceerd, dan geeft dat ook een gevoel van bevrediging en trots dat ik waarschijnlijk niet zou ervaren als ik voortvarend aan het ‘prompten’ was geslaagd. Mijn poging in enkele minuten een Fizier-column in elkaar te draaien voelde erg onbevredigend.

Als laatste geeft zelfstandig nadenken, zoeken, je neus stoten en weer opnieuw beginnen ook vorm aan je eigen identiteit. Nu het niveau van lezen en schrijven in Nederland voortdurend afneemt, lijkt het mij juist nu nuttig om jonge mensen ertoe aan te zetten zichzelf te kunnen uitdrukken in woorden, de vreugde van lezen te ervaren en een eigen identiteit aan te nemen door de eigen gedachten en gevoelens zorgvuldig tot uitdrukking te brengen. Cogito, ergo sum (ik denk dus ik ben).

Geniet met mate

Met mijn evidente gebrek aan inhoudelijke kennis heb ik geen poging gedaan om uit te leggen waar AI allemaal goed voor zou kunnen zijn. Zeker is dat AI, net als vroeger ICT en internet, een bijdrage kan leveren aan efficiëntere bedrijfsprocessen, aan het sneller en beter herkennen van bijvoorbeeld kanker, aan het ontwerpen van op maat gemaakte medicijnen en op die manieren zeker nuttig kan zijn. Maar AI heeft, net als ICT en internet, problematische kanten waarover we met elkaar goed moeten nadenken of we dat wel willen. Wat dat betreft lijkt AI wel op alcohol: geniet, maar AI met mate én: geen 18? Geen AI! Eerst leren zelf kritisch nadenken (Human Intelligence) en jezelf tot expressie te brengen en dán pas AI inzetten. HI vóór AI!

Tekst: Frans Schaepkens, directeur WfZ