Er zijn mensen die geloven in een toekomst waarbij de wereld volledig gedomineerd wordt door robots. Het tegendeel is waar, want de menselijke component blijft van cruciaal belang. Geredeneerd vanuit het domein machine learning (ML) moet een algoritme nog steeds gecontroleerd worden door menselijke intelligentie om ongewenste situaties te voorkomen. Want wat kan er gebeuren als je dit niet doet?<\/p>\n
ML-algoritmen leren van historische gegevens en als die gegevens vooroordelen bevatten, kan het algoritme deze overnemen en versterken. Dit kan leiden tot onrechtvaardige resultaten met grote gevolgen. Het meest spraakmakende voorbeeld kwam van de Belastingdienst. De menselijke fouten\/vooroordelen die bij het aanvragen van kinderopvangtoeslag werden gemaakt, zorgden ervoor dat een algoritme discriminerende beslissingen nam. Je kunt het vergelijken met het volgende: als we een ML-model maar genoeg informatie geven waarin staat dat de wereld plat is, dan zal dat uiteindelijk ook de uitkomst zijn.<\/p>\n
Hoewel het waar is dat ML-algoritmen leren van historische gegevens, biedt Machine Learning ook een kans om deze uitdaging aan te pakken. Door bewust te zijn van dit fenomeen en met zorg samengestelde en evenwichtige datasets te gebruiken, kunnen we deze vooroordelen verminderen en werken aan eerlijkere en inclusievere modellen.<\/p>\n
ML-modellen (algoritmen) zijn getraind op specifieke datasets en kunnen lang niet altijd omgaan met onverwachte situaties of gegevens die buiten hun trainingsbereik vallen. Als het algoritme niet wordt gecontroleerd, kan het foutieve voorspellingen doen of onjuiste conclusies trekken wanneer het wordt geconfronteerd met nieuwe of onbekende gegevens. Een voorbeeld:<\/p>\n
Voor een bekende supermarktketen wilden we weten wat het winkelgedrag binnen de verschillende vestigingen was tijdens Koningsdag. Allemaal bedoeld om winkels beter te bevoorraden en mogelijke overschotten bij de een op tijd te verplaatsen naar de ander. Alleen was het algoritme een ding vergeten: de gevolgen van de coronapandemie. Kortom, een mens heeft de intelligentie om te bepalen wanneer je een algoritme beter tijdelijk kunt uitzetten of een zeer bepalend component moet toevoegen.<\/p>\n
Menselijke experts kunnen \u00a0een waardevolle rol spelen bij het omgaan met onverwachte situaties. Door menselijke intelligentie te integreren in het proces kunnen we snel aanpassingen maken en het model verbeteren om nieuwe gegevens en veranderende omstandigheden het hoofd te bieden.<\/p>\n
Discriminatie is bij wet verboden: iedereen moet gelijk beoordeeld worden en dezelfde kansen krijgen. Maar als je een algoritme vertelt dat er historisch gezien meer mannen zijn aangenomen van twintig tot dertig jaar, dan bestaat er een grote kans dat een algoritme een indrukwekkende CV van een vrouw van vijfenveertig onterecht afkeurt. In dit geval ontbreekt het aan een representatieve hoeveelheid data in de trainingsdataset. Een algoritme kun je daar niet op aanspreken. Een mens wel.<\/p>\n
Het is waar dat algoritmen bepaalde patronen kunnen oppikken die tot ongewenste resultaten kunnen leiden. Maar door nauwlettend toezicht en continue monitoring kunnen we ervoor zorgen dat ML-modellen ethisch en wettelijk worden gebruikt. Zo kunnen we een omgeving cre\u00ebren waarin gelijke kansen worden bevorderd en discriminatie wordt tegengegaan.<\/p>\n
Een ML-model moet je dus telkens bijstellen en controleren. Het is belangrijk je te beseffen, dat door de modellen ook de interpretatie verandert die niet per se de waarheid hoeven te bevatten. Bovendien kun je niet exact hetzelfde blijven doen als er in de wereld om je heen grote veranderingen plaatsvinden.<\/p>\n
Om ervoor te zorgen dat organisaties optimaal gaan profiteren van de kansen die machine learning biedt, is er een gestructureerde en geoptimaliseerde workflow nodig voor het implementeren, beheren en schalen van machine learning modellen. Daarom gaat onze volgende blog over MLOps.<\/p>\n