24 november 2020
Digital Technology

Algorithm and Blues

Van een topontmoeting bij POLITICO tot talkshows, van middelbare scholen tot universiteiten, van populairwetenschappelijke boeken tot peer-reviewed­ wetenschappelijke tijdschriften: Katleen Gabriels van de UM probeert het gesprek over morele kwesties rond algoritmes aan te wakkeren. En – en dat is essentieel - niet alleen onder wetenschappers.

Voor wie?

Hoewel Gabriels voorstander is van een kritische houding, is ze absoluut geen technofoob – integendeel. “Algoritmen kunnen enorme hoeveelheden data verwerken. In enkele Belgische ziekenhuizen helpen algoritmen inmiddels al artsen bij het diagnosticeren van borstkanker. Er komt een moment dat deze technologie zo nauwkeurig is dat het immoreel zou zijn om haar niet te gebruiken. Ik zeg het nog maar eens: studenten geneeskunde zouden nu al moeten leren om over deze technologieën na te denken.”

AI speelt ook een rol in de gezondheid van een democratie; daarmee doemt een ander moreel mijnenveld op. “Het verdienmodel van social media is dat we betalen met persoonlijke gegevens, bijvoorbeeld door ons bloot te stellen aan gerichte advertenties. Dat betekent het vangen van onze aandacht met clickbait – het kan niet opruiend en buitensporig genoeg zijn. Natuurlijk zijn we daar altijd al voor gevallen, maar nu is het veel makkelijker om het te finetunen en gericht in te zetten.”

Nepnieuws is goed voor de portemonnee

Nepnieuws verspreidt zich snel – feiten checken kost tijd. De democratie en het publieke debat lijken bijkomende schade te zijn geworden, en wij stonden erbij en keken ernaar. “Het is eigenlijk heel makkelijk om uit je filterbubbel te stappen: ga gewoon offline, praat met mensen, lees een kwaliteitskrant met meningen die niet geheel overeenkomen met de jouwe – helaas zijn we daar vaak te lui voor. In 2016 gebruikte bijna de helft van alle Amerikanen Facebook als voornaamste nieuwsbron – dat heeft gevolgen voor de echte wereld.”

Er bestaat helaas geen snelle oplossing. “De EU probeert techreuzen meer verantwoording te laten afleggen; in de VS kan Facebook nu wettelijk aansprakelijk worden gesteld, dus is er voor hen een financiële prikkel om nepnieuws te weren – maar, met inachtneming van hun aandeelhouders, tegen zo laag mogelijke kosten.” Facebook heeft onlangs de rechtse samenzweringsuitventers QAnon verbannen, maar nam in die actie per ongeluk ook een Belgisch satirisch tijdschrift mee.

Kritische houding is het beste filter

“Het tijdschrift beklaagde zich erover en Facebook bood verontschuldigingen aan. Het laat zien hoezeer algoritmes moeite hebben met context… Een technologische oplossing daarvoor is onwaarschijnlijk.” Hetgeen ons weer op het onderwijs brengt. “Wetenschappers moeten meer deelnemen aan het publieke debat. Ze hebben ons sinds de jaren ’70 en ’80 gewaarschuwd voor privacykwesties en cybercriminaliteit. Maar dit drong pas enkele jaren geleden tot het grote publiek door, met Edward Snowden en het Cambridge Analytica-schandaal.”

Op deze manier probeert Gabriels bruggen te slaan tussen wetenschappelijke conferenties, het schrijven van boeken en opiniestukken, en optredens op podia en tv. “Er zitten maar 24 uur in en dag en momenteel gaat het grootste deel van mijn vrije tijd op aan dit soort voorlichtingsactiviteiten… de wetenschap zou zichzelf moeten hervormen om de waarde van deze activiteiten in te zien.” Gabriels heeft zitting in een werkgroep voor de Erkennen & Waarderen-visie van de UM. Deze gaat ervanuit dat niet alleen wetenschappelijke publicaties waardering verdienen, maar ook experts die hun kennis over grote maatschappelijke problemen delen.

Katleen Gabriels is assistant professor of Philosophy at the Faculty of Arts and Social Sciences. She has written two books, Onlife. How digitalization shapes your life and Rules for Robots. Ethics and Artificial Intelligence. On 26 November, she will give a talk on AI and big data at the Dutch Science Gala.

Technocraten zonder techkennis

Gabriels nam tijdens een onlangs gehouden AI Summit deel aan het strategische rondetafelgesprek met de titel ‘Europa’s digitale erfenis en concurrentievermogen: erop of eronder’. De topontmoeting werd georganiseerd door POLITICO, de internationale journalistieke organisatie die zich bezighoudt met politiek en beleid. “Onderzoekers zijn een beetje verwend, want in de wetenschap hebben we de luxe dat we dingen diepgaand kunnen bestuderen – maar onze conferenties worden niet bezocht door journalisten en politici.”

“Sommige politici, zoals de Belgische voormalige minister voor de Digitale Agenda Philippe de Backer, weten echt waar ze het over hebben.” Helaas betekende een typisch Belgische regeringswissel dat De Backer aan het eind van zijn POLITICO-praatje gedegradeerd was tot digitale enthousiasteling. “Maar over het algemeen hebben maar heel weinigen onder hen een achtergrond in de wetenschap en technologie. Ze hebben adviseurs, wat op zich heel goed is. Maar het kan ze kwetsbaar maken voor mensen die de AI-hype gebruiken om hun producten te slijten, en het zorgt er misschien ook voor dat ze de noodzaak van regulering onderschatten.”

Eerst de moraal, dan het ontwerp

Gabriels noemt de Nederlandse CoronaMelder-app als positief voorbeeld: “Burgers en ethici waren er vanaf het begin bij betrokken. Het maakte duidelijk welke moeilijke afwegingen er gemaakt moeten worden over individuele en collectieve waarden, zoals privacy versus volksgezondheid. Deze overwegingen kunnen onmogelijk waardeneutraal zijn. En voor een goed debat moet je je bewust zijn van hoe technologie werkt en hoe ethiek werkt.”

“In het budget voor het hoger onderwijs heeft Nederland meer geld gereserveerd voor de technische universiteiten, maar de geesteswetenschappen zijn ook cruciaal voor AI. We moeten gaan nadenken over morele kwesties vóórdat we deze technologieën ontwerpen en gebruiken. Tijdens de ontwerpfase van technologie, maar ook bij het maken van beleid, hebben we interdisciplinariteit en diversiteit nodig.”

Gabriels at the POLITICO AI Summit

Door: Florian Raith