Fronteers — vakvereniging voor front-end developers

We leerden een steen hoe hij moest denken, maar nu heeft hij een paar bevooroordeelde meningen…

Tegenwoordig kom je ze op steeds meer websites en in (web)applicaties tegen: Algoritmes. Complexe berekeningen op basis van een tal van datasets die samen het perfecte antwoord weten op jouw vraag, probleem of behoefte! Je komt ze tegen als je een film wilt kijken op Netflix, wanneer je een antwoord zoekt op Google en zelfs wanneer je je belastingaangifte doet! Deze kleine helpertjes zitten overal verstopt en zijn natuurlijk een geweldige oplossing voor automatisering, want een computer kan geen mening hebben, toch?

Wat is een algoritme?

Simpel gezegd is een algoritme een aantal vooraf ingestelde regels die helpen bij het komen tot een resultaat. We gebruiken dan ook al decennialang een vorm van algoritmes, we zijn ze alleen sinds kort gaan associëren met technologie. En hoewel algoritmes in de breedste zin interessant zijn, gaan we het hier vooral hebben over algoritmes in de context van onze steeds sneller groeiende tech wereld.

Algoritmes vergemakkelijken ons leven steeds meer, we krijgen content te zien op onze sociale media kanalen die ons interesseert, we komen sneller bij een nieuwe film op Netflix uit die op basis van onze kijkgeschiedenis goed bij ons past en zelfs in de medische wereld wordt geëxperimenteerd met het gebruik van algoritmes om zo sneller tot een voorlopige diagnose van een patiënt te komen! Echter is het niet altijd rozengeur en maneschijn in de wereld van algoritmes en zijn er zelfs redenen om de ontwikkelingen in de techniek slecht te noemen.

Maar… Waarom zijn algoritmes dan slecht?

Niet alle algoritmes zijn slecht, ze zijn in ieder geval veelal niet ontwikkeld met kwade bedoelingen, maar toch is dat vaak wel een onbedoelde uitkomst. Algoritmes worden gevoerd met data die verzameld wordt vanuit allerlei verschillende bronnen, dit kan data zijn op basis van het gebruik van platformen zoals bijvoorbeeld Youtube of Twitter, maar het kan ook op basis van de resultaten van een onderzoek zijn. Deze data kan om allerlei redenen onbewuste vooroordelen bevatten van degene die deze data verzamelt heeft, of op een andere manier beïnvloed worden door een geschiedenis van vooroordelen.

Een waargebeurd voorbeeld is als volgt:

Een bedrijf gebruikt een algoritme om zijn sollicitatieprocedure te verbeteren. Het algoritme krijgt hierbij een aantal succesvolle sollicitaties en een aantal niet succesvolle sollicitaties voorgeschoteld op basis van sollicitatieprocedures in de voorgaande jaren om hiervan te leren welke kandidaten bij het bedrijf passen. In theorie klinkt het als een mooie oplossing waardoor geen enkele kandidaat wordt afgewezen vanwege een oneerlijke mening van de recruiter, maar niets is minder waar. In het bedrijf werken namelijk grotendeels witte cis hetero mannen, een (onbewuste) keuze van de recruiters die in het verleden dit werk uitvoerde. Het algoritme wordt dus vanaf stap 1 gevoerd met data die in zijn kern al vol vooroordelen zit. Een systeem dat gevoerd word met data waarin een bepaald soort mens positiever uit de verf komt, zal datzelfde soort mens dan ook voorrang geven in de selectieprocedure.

Wat kan ik er aan doen?

Er zijn verschillende manieren om het gebruik van algoritmes te verbeteren, hieronder verdeel ik ze tussen wat je er als developer aan kunt doen en ook wat je er als gebruiker aan kunt doen. Een tip die in ieder geval voor beide groepen geldt is: Lees je in over het onderwerp!

Wat kan ik als developer die met algoritmes werkt doen?

  • Zorg ervoor dat de data die je gebruikt om jouw algoritme te trainen uit een divers aanbod bestaat. Gebruik data uit meerdere bronnen waarvan ook vast te stellen is dat er diverse kandidaten deel waren van het onderzoek en/of de data die passief verzamelt is.
  • Betrekt zoveel mogelijke diverse kandidaten, maar ook mede developers in het process! Je hoeft natuurlijk niet als een soort pokemons van elke soort 1 te vangen, maar hoe meer ogen van verschillende achtergronden je kunt betrekken bij de ontwikkeling, hoe sneller ongewilde vooroordelen in de kiem gesmoord kunnen worden.
  • Let goed op of de data die je gebruikt stereotyperend kan zijn! Denk hierbij aan het voorbeeld van een algoritme wat getraind is op historische data van vooral witte cis hetero mannen, zorg ervoor dat je dit soort data sets vermijd of op zijn minst voorziet van een bepaalde context.

Wat kan ik als gebruiker van platformen met algoritmes doen?

  • Wees alert op de content waar je actief een reactie op geeft. Wees je daarbij bewust van het feit dat reageren op berichten die negatieve informatie delen het algoritme verteld dat jij (en potentieel anderen) deze content reactie waardig vinden en dus meer aandacht/een hogere positie verdient.
  • Ga bewust met je data om. Je hoeft geen digitale hermit te worden, maar denk goed na wanneer je informatie over jezelf online met een platform deelt, jouw informatie kan onbedoeld gevoed worden aan een algoritme.
  • Maak anderen bewust van de algoritmes die bestaan en deel ook tips over het vermijden van schadelijke algoritmes, hoe meer bewustwording er gecreëerd wordt hoe moeilijker het zal zijn voor bedrijven om algoritmes op een negatieve manier in te zetten.

Moeten we algoritmes dan helemaal afzweren?

Algoritmes helemaal afzweren, dat hoeft zeker niet. Zolang we bewust en ethisch omgaan met de data die we gebruiken en de data die we over onszelf delen kunnen we samen hele mooie dingen maken. Wat zou het mooi zijn als we op een inclusieve en verantwoorde manier mensen sneller kunnen helpen bij bijvoorbeeld het vinden van een baan of werknemer, hulp bij medische problemen, maar ook zoiets simpels als het ontdekken van die nieuwe artiest wiens muziek je helemaal blij maakt! Al met al maken algoritmes ons leven makkelijker en hebben ze de potentie om veels goeds te doen voor technologische en sociale ontwikkelingen, maar dan moeten we wel allemaal ons steentje bij dragen.

Plaats een reactie