Wie bepaalt wat online zichtbaar blijft? Valentina Golunova over vrijheid van meningsuiting en algoritmen

Heeft ze altijd al in de academische wereld willen werken? Toen ze jonger was, had Valentina andere carrièremogelijkheden in gedachten: “Als kind wilde ik dierenarts of professioneel muzikant worden, omdat ik van dieren houd en viool speel”, legt ze uit. “Maar ik leerde ook graag vreemde talen en was geïnteresseerd in de politiek en het werk van de Verenigde Naties, dus begon ik aan een bacheloropleiding international relations in Sint-Petersburg.” Valentina besefte al snel dat ze op een andere manier wilde bijdragen aan de bescherming van mensenrechten en internationale vrede dan door te onderhandelen. Ze wilde werken aan het juridische kader, het beter structureren en zorgen voor rechtvaardigheid en toezicht om de vrede op de lange termijn te behouden.

Valentina besloot over te stappen naar de rechtenopleiding. Daar werd Valentina's academische ambitie duidelijk tijdens haar deelname aan de Philip C. Jessup International Law Moot Court Competition. Hoewel ze nog eerstejaars was, ging ze de uitdaging van het schrijven van memorie en het houden van pleidooien enthousiast aan. “Omdat ik nog eerstejaars was toen ik me aanmeldde voor Jessup, kreeg ik te horen dat ik in de zomer een boek van 600 pagina's moest lezen om in het team te komen”, herinnert ze zich. “Op de een of andere manier schrok ik daar niet echt van. Ik had er juist zin in om dat boek in de zomer te lezen.” Dat enthousiasme markeerde een keerpunt. “Toen dacht ik voor het eerst: oh, misschien is het toch geen slecht idee om een ​​carrière in de academische wereld na te streven.” Daarna verhuisde ze naar Nederland om haar master Internationaal en Europees recht te behalen aan de Universiteit van Tilburg. Hier ontwikkelde ze een sterke interesse in recht en technologie.

Getriggerd, gemarkeerd, onterecht verwijderd

‘Ik was benieuwd naar de gevolgen van deze verschuiving. Algoritmes zijn immers niet te vergelijken met mensen. Ze missen het contextuele bewustzijn en de empathie die mensen hebben om de juiste beslissingen te nemen over welke informatie en reacties wel of niet mogen worden verwijderd”, zegt Valentina. “Een van de gevolgen is dat de vrijheid van meningsuiting online wordt aangetast wanneer content ten onrechte door algoritmen wordt verwijderd.” Ze geeft een paar illustratieve voorbeelden. “Er was eens een geval waarin iemand een foto van uien op Facebook plaatste, en het platform die verwijderde omdat het algoritme dacht dat het om naaktfoto’s ging – het interpreteerde de uien blijkbaar als blote billen. Of een YouTubekanaal over schaken dat offline werd gehaald omdat het algoritme dacht dat verwijzingen naar zwart en witte stukken over raciale conflicten gingen.” Dit klinkt misschien grappig, maar de gevolgen zijn niet altijd even gunstig.

In conflictgebieden of politiek gevoelige contexten liggen de gevolgen van contentmoderatie nog veel zwaarder, benadrukt Valentina. Ze wijst op een voorbeeld uit de Syrische burgeroorlog, waar mensenrechtenactivisten visueel bewijsmateriaal van oorlogsmisdaden op sociale media plaatsten in de hoop het veilig te stellen voor toekomstige internationale strafzaken. “Die beelden toonden vaak geweld, waardoor ze automatisch door de algoritmes van platforms werden verwijderd. Maar het doel was niet om geweld te verheerlijken. Het ging erom misdaden vast te leggen en daders ter verantwoording te roepen. Door die verwijderingen is mogelijk cruciaal bewijsmateriaal verloren gegaan.’

Maar algoritmes worden niet alleen getriggerd door visuele content. Het gebruik van bepaalde taalvormen kan ook tot verwijdering leiden. “Dat is bijvoorbeeld het probleem met Afro-Amerikaanse dialecten”, legt Valentina uit. “Het bevat woorden die in een normale context als scheldwoorden zouden worden beschouwd en niet acceptabel zijn, maar die in bepaalde gemeenschappen juist veelvuldig worden gebruikt, zelfs online.” Ook worden politieke uitingen vaak op een opruiende of provocerende manier geformuleerd, wat algoritmes verkeerd kunnen interpreteren als aanzetten tot geweld of belediging. “Maar deze terminologie en dit taalgebruik kan ook gebruikt worden om bepaalde autoritaire praktijken te veroordelen en burgerlijke vrijheden en democratie te bevorderen”, zegt ze. “Algoritmen kunnen echter niet echt onderscheid maken tussen die doelen.” Valentina benadrukt ook hoe vrouwen en LGBTQ+-personen worden beïnvloed. Valentina wijst ook op de impact voor vrouwen en LGBTQ+-personen. “Vrouwen reageren vaak met tegenspraak wanneer ze online worden geconfronteerd met misbruik of intimidatie. Soms gebruiken ze daarbij scherpe of controversiële taal, uit frustratie en met de bedoeling om duidelijk grenzen te stellen en het gedrag te stoppen. Maar juist daardoor wordt hun content vervolgens verwijderd.” Iets soortgelijks gebeurt met LGBTQ+-content, vooral bij afbeeldingen en video’s. Er is veel empirisch onderzoek gedaan op Instagram waaruit blijkt dat posts van LGBTQ+-personen worden verwijderd omdat algoritmes bevooroordeeld zijn ten opzichte van seksualiteit en van alle vormen van niet-conventionele lichaamsuitdrukking.’

DSA: tussen hoop en hapering

De risico’s van onterechte verwijderingen laten zien waarom wetgeving zoals de Digital Services Act (DSA) van groot belang is. “De DSA is een algoritme-neutrale verordening”, legt Valentina uit. “Het moedigt het gebruik van algoritmes niet expliciet aan, zoals sommige sectorspecifieke wetgeving dat wel doet – denk aan regels rond auteursrecht of terrorismebestrijding.” Tegelijkertijd introduceert de DSA belangrijke mechanismen om fundamentele rechten te beschermen, waaronder de vrijheid van meningsuiting. Voor het eerst zijn alle platforms, groot én klein, verplicht om hun gebruiksvoorwaarden te handhaven met respect voor deze rechten. In theorie betekent dat ook dat algoritmes die worden ingezet voor contentmoderatie die fundamentele rechten moeten respecteren. Maar in de praktijk stuit de DSA op flinke uitdagingen. “Veel bepalingen laten nog veel ruimte voor interpretatie door de platforms zelf”, zegt Valentina. “De eerste risicobeoordelingen die in het kader van de DSA zijn gepubliceerd, waren vaag en oppervlakkig. Ze geven nauwelijks inzicht in hoe platforms de spanning tussen algoritmische moderatie en vrijheid van meningsuiting denken op te lossen.” 

Ook de handhaving baart zorgen. De Europese Commissie houdt toezicht op de grootste platforms, maar voor de rest zijn nationale toezichthouders verantwoordelijk. In Polen is er bijvoorbeeld nog steeds geen Digital Services Coördinator aangesteld. “Dat laat zien hoe lastig het is om Europese regelgeving in de praktijk echt te laten werken”, aldus Valentina.

Het verhaal is nog niet af

Als je kijkt waar we nu staan, is duidelijk dat het landschap sterk is veranderd sinds Valentina haar onderzoek begon. “Vijf jaar geleden beloofden platforms ons een nieuw tijdperk van algoritmische contentmoderatie”, herinnert ze zich. “Maar inmiddels worden veel van die initiatieven weer teruggedraaid. De systemen die destijds zijn opgebouwd, worden nu deels ontmanteld, mede onder druk van politieke verschuivingen en de roep om absolute vrijheid van meningsuiting.” Zo zou Facebook in de VS zijn algoritmes voor het opsporen van desinformatie hebben uitgeschakeld. En dat is geen uitzondering: het wijst op een bredere terugtrekking uit actieve moderatie. Maar die terugtrekking lost het probleem niet op – integendeel. “Alleen het verwijderen van algoritmes beschermt de vrijheid van meningsuiting niet”, benadrukt Valentina. “Zonder doordachte alternatieven dreigen we juist in een situatie terecht te komen met mínder bescherming, niet meer.” Wat nodig is, is een fundamentele herbezinning op de relatie tussen algoritmes en menselijke controle. Maar dat gesprek wordt nog nauwelijks gevoerd. “Als deze terugtrekking uit moderatie zich doorzet verdwijnen de vangrails volledig met als gevolg dat vooral gemarginaliseerde stemmen het zwijgen wordt opgelegd.’ Het is een verhaal dat nog volop in ontwikkeling is. Of, zoals Valentina het zegt: ‘Er is nog een hoop werk te doen.’