Digital Technology

Algorithm and Blues

Van een topontmoeting bij POLITICO tot talkshows, van middelbare scholen tot universiteiten, van populairwetenschappelijke boeken tot peer-reviewed­ wetenschappelijke tijdschriften: Katleen Gabriels van de UM probeert het gesprek over morele kwesties rond algoritmes aan te wakkeren. En – en dat is essentieel - niet alleen onder wetenschappers.

Waarom zouden we ons druk moeten maken over hoe algoritmen werken en hoe ze beslissingen nemen? “Als Google en Facebook het venster zijn waardoor jij naar de wereld kijkt, dan zou je op zijn minst enig idee moeten hebben van hoe ze werken, hoe ze informatie cureren. De informatie die jij ontvangt is anders dan de informatie van iemand met wie jij het mogelijk niet eens bent. Het is van het grootste belang dat iedereen dit begrijpt wanneer ze social media gebruiken – en wanneer ze gesprekken proberen te voeren.”

In marketing wordt het begrip ‘ethisch’ over het algemeen gebruikt als een vage, allesomvattende eigenschap, die jou een goed gevoel geeft over een merk of product: wat je consumeert is op een of andere manier goed, dus ben jij dat ook. In de filosofie heeft het woord een specifieke betekenis: “We nemen elke dag morele beslissingen: wat is goed en wat niet. Het systematisch bestuderen van morele kwesties heet ethiek.”

Morele roddel en kromgebogen hout

Roddel is een goede illustratie van hoe morele oordelen onze gedachten bepalen. “Hij gedroeg zich verschrikkelijk. Zag je wat hij aan had? Op deze manier laten we zien dat er regels zijn, dat we deze kennen, en dat het breken ervan reden tot zorg is.” Maar, benadrukt Gabriels, met moraal moet je oppassen. Zelfs klassiekers als ‘Gij zult niet doden’ zijn contextafhankelijk – denk aan zelfverdediging of het dragen van een uniform. Onze oordelen kunnen uiteenlopen – moreel en wettelijk.

“Aus so krummem Holze, als woraus der Mensch gemacht ist, kann nichts ganz Gerades gezimmert werden.” In haar Studium Generale-lezing over machines en moraal citeert Gabriels de filosoof Immanuel Kant. Met andere woorden: hoe kunnen wij, als inconsequente, feilbare wezens, een machine leren om betere morele beslissingen te nemen dan we zelf zouden kunnen? “Ik geef onderwijs aan datawetenschappers en ontwerpers die geloven dat we ethiek kunnen formaliseren in de vorm van een beslisboom – maar dat is onwaarschijnlijk moeilijk.”

Voor wie?

Hoewel Gabriels voorstander is van een kritische houding, is ze absoluut geen technofoob – integendeel. “Algoritmen kunnen enorme hoeveelheden data verwerken. In enkele Belgische ziekenhuizen helpen algoritmen inmiddels al artsen bij het diagnosticeren van borstkanker. Er komt een moment dat deze technologie zo nauwkeurig is dat het immoreel zou zijn om haar niet te gebruiken. Ik zeg het nog maar eens: studenten geneeskunde zouden nu al moeten leren om over deze technologieën na te denken.”

AI speelt ook een rol in de gezondheid van een democratie; daarmee doemt een ander moreel mijnenveld op. “Het verdienmodel van social media is dat we betalen met persoonlijke gegevens, bijvoorbeeld door ons bloot te stellen aan gerichte advertenties. Dat betekent het vangen van onze aandacht met clickbait – het kan niet opruiend en buitensporig genoeg zijn. Natuurlijk zijn we daar altijd al voor gevallen, maar nu is het veel makkelijker om het te finetunen en gericht in te zetten.”

Nepnieuws is goed voor de portemonnee

Nepnieuws verspreidt zich snel – feiten checken kost tijd. De democratie en het publieke debat lijken bijkomende schade te zijn geworden, en wij stonden erbij en keken ernaar. “Het is eigenlijk heel makkelijk om uit je filterbubbel te stappen: ga gewoon offline, praat met mensen, lees een kwaliteitskrant met meningen die niet geheel overeenkomen met de jouwe – helaas zijn we daar vaak te lui voor. In 2016 gebruikte bijna de helft van alle Amerikanen Facebook als voornaamste nieuwsbron – dat heeft gevolgen voor de echte wereld.”

Er bestaat helaas geen snelle oplossing. “De EU probeert techreuzen meer verantwoording te laten afleggen; in de VS kan Facebook nu wettelijk aansprakelijk worden gesteld, dus is er voor hen een financiële prikkel om nepnieuws te weren – maar, met inachtneming van hun aandeelhouders, tegen zo laag mogelijke kosten.” Facebook heeft onlangs de rechtse samenzweringsuitventers QAnon verbannen, maar nam in die actie per ongeluk ook een Belgisch satirisch tijdschrift mee.

Kritische houding is het beste filter

“Het tijdschrift beklaagde zich erover en Facebook bood verontschuldigingen aan. Het laat zien hoezeer algoritmes moeite hebben met context… Een technologische oplossing daarvoor is onwaarschijnlijk.” Hetgeen ons weer op het onderwijs brengt. “Wetenschappers moeten meer deelnemen aan het publieke debat. Ze hebben ons sinds de jaren ’70 en ’80 gewaarschuwd voor privacykwesties en cybercriminaliteit. Maar dit drong pas enkele jaren geleden tot het grote publiek door, met Edward Snowden en het Cambridge Analytica-schandaal.”

Op deze manier probeert Gabriels bruggen te slaan tussen wetenschappelijke conferenties, het schrijven van boeken en opiniestukken, en optredens op podia en tv. “Er zitten maar 24 uur in en dag en momenteel gaat het grootste deel van mijn vrije tijd op aan dit soort voorlichtingsactiviteiten… de wetenschap zou zichzelf moeten hervormen om de waarde van deze activiteiten in te zien.” Gabriels heeft zitting in een werkgroep voor de Erkennen & Waarderen-visie van de UM. Deze gaat ervanuit dat niet alleen wetenschappelijke publicaties waardering verdienen, maar ook experts die hun kennis over grote maatschappelijke problemen delen.

robot ethics

Katleen Gabriels is assistant professor of Philosophy at the Faculty of Arts and Social Sciences. She has written two books, Onlife. How digitalization shapes your life and Rules for Robots. Ethics and Artificial Intelligence. On 26 November, she will give a talk on AI and big data at the Dutch Science Gala.

Technocraten zonder techkennis

Gabriels nam tijdens een onlangs gehouden AI Summit deel aan het strategische rondetafelgesprek met de titel ‘Europa’s digitale erfenis en concurrentievermogen: erop of eronder’. De topontmoeting werd georganiseerd door POLITICO, de internationale journalistieke organisatie die zich bezighoudt met politiek en beleid. “Onderzoekers zijn een beetje verwend, want in de wetenschap hebben we de luxe dat we dingen diepgaand kunnen bestuderen – maar onze conferenties worden niet bezocht door journalisten en politici.”

“Sommige politici, zoals de Belgische voormalige minister voor de Digitale Agenda Philippe de Backer, weten echt waar ze het over hebben.” Helaas betekende een typisch Belgische regeringswissel dat De Backer aan het eind van zijn POLITICO-praatje gedegradeerd was tot digitale enthousiasteling. “Maar over het algemeen hebben maar heel weinigen onder hen een achtergrond in de wetenschap en technologie. Ze hebben adviseurs, wat op zich heel goed is. Maar het kan ze kwetsbaar maken voor mensen die de AI-hype gebruiken om hun producten te slijten, en het zorgt er misschien ook voor dat ze de noodzaak van regulering onderschatten.”

Eerst de moraal, dan het ontwerp

Gabriels noemt de Nederlandse CoronaMelder-app als positief voorbeeld: “Burgers en ethici waren er vanaf het begin bij betrokken. Het maakte duidelijk welke moeilijke afwegingen er gemaakt moeten worden over individuele en collectieve waarden, zoals privacy versus volksgezondheid. Deze overwegingen kunnen onmogelijk waardeneutraal zijn. En voor een goed debat moet je je bewust zijn van hoe technologie werkt en hoe ethiek werkt.”

“In het budget voor het hoger onderwijs heeft Nederland meer geld gereserveerd voor de technische universiteiten, maar de geesteswetenschappen zijn ook cruciaal voor AI. We moeten gaan nadenken over morele kwesties vóórdat we deze technologieën ontwerpen en gebruiken. Tijdens de ontwerpfase van technologie, maar ook bij het maken van beleid, hebben we interdisciplinariteit en diversiteit nodig.”

politico

Gabriels at the POLITICO AI Summit

Lees ook

  • Bewegende oranje stippen op een gele achtergrond zijn het eerste teken dat er iets bijzonders gebeurt in de wereldwijd beroemde kalksteengroeve in de Maastrichtse Sint-Pietersberg. Dichterbij zie je dat het om mensen gaat gekleed in oranje hesjes. Het zijn studenten van het Maastricht Science...

  • Universiteit Maastricht heeft een nieuwe onderzoekskas gebouwd op Brightlands Campus Greenport Venlo. In deze high-tech kas wordt vanaf 1 september onderzoek gedaan naar de land- en tuinbouw van de toekomst: van nieuwe teelttechnieken en de ontwikkeling van planten tot aan de optimalisatie van...

  • Het terrein aan de Sorbonnelaan in de Maastrichtse wijk Randwyck oogde zo’n twee jaar geleden nog ietwat kaal en afgelegen. Dat had vooral te maken met de modulaire en tijdelijke uitstraling van de studentenwoningen die er in korte tijd zijn gerealiseerd. Inmiddels krijgt de plek steeds meer het...