Zitten we met de technologie van de toekomst vast in het verleden? 

Waarom is de kwaliteit van machine learning opeens zoveel beter?

De reden dat AI zo snel groeit, is dat de drie componenten die nodig zijn voor machine learning in overvloed aanwezig zijn.

Het eerste component is data. Er is nog nooit zoveel data in de wereld geweest, en we produceren en verzamelen ook meer dan ooit. Waar honderden jaren geleden de postduif het snelste communicatiemiddel was, is het nu mogelijk om in real-time ultrascherpe video zonder zichtbare vertraging naar de andere kant van de planeet te sturen. Daar komt nog bij dat we nog nooit zoveel sensoren bij ons hebben gedragen de hele dag. Smartphones hebben een camera, je kunt er teksten mee schrijven, je kunt er geluid mee opnemen, ze meten hoe je beweegt en je locatie mee bepalen. En ook slaan we al die informatie op het internet op, voornamelijk bij de grote techbedrijven.

Het tweede component is algoritmes. Door jaren aan onderzoek van universiteiten en techbedrijven is het juiste recept om data te verwerken gevonden. De manier waarop informatie wordt verwerkt, is door de academische wereld naar een ongekend niveau getild, met duizenden papers die elke week worden gepubliceerd die net weer wat effectiever werken. Voor de gekste taken wordt onderzoek gedaan om te zien hoe ze zo goed mogelijk kunnen worden uitgevoerd. Zelf ben ik een paper aan het publiceren waarin afbeeldingen en teksten van producten bij Picnic gebruikt kunnen worden om beter te voorspellen hoeveel mensen ervan gaan kopen. Oftewel: een foto van een aardappel gebruiken om te voorspellen hoeveel aardappelen mensen volgende week dinsdag gaan eten. Je kunt het zo gek nog niet bedenken of er zijn ergens wetenschappers bezig met het vinden van de ultieme formule.

Ten derde is er meer rekenkracht dan ooit, gigantische datacenters worden gebruikt om data-algoritmen af te stellen. Ook is de energie die hiervoor nodig is beschikbaar, want ja: deze rekenkracht consumeert erg veel energie. Wel is de rekenkracht momenteel een van de belemmerende factoren voor hoe goed bijvoorbeeld grootschalige taalmodellen als ChatGPT gemaakt kunnen worden. Vermoedelijk een van de redenen waarom Sam Altman, CEO van OpenAI, op zoek is naar een investering van 7 triljoen dollar om meer rekenkracht te verwezenlijken.

Dat de kwaliteit van AI beter is geworden, kan niemand ontkennen. Het deze week aangekondigde SORA van OpenAI laat revolutionaire kwaliteit van tekst naar video-generatie zien, iets wat een jaar geleden nog als onmogelijk werd gezien. De ontwikkeling is hard gegaan de afgelopen jaren, in de onderstaande afbeelding zie je hoe een menselijk gezicht kan worden gegenereerd door de jaren heen. De kwaliteit is een stuk beter.

Ontwikkeling van de kwaliteit van gegenereerde gezichten, bron: “Generative Deep Learning Teaching Machines to Paint, Write, Compose, and Play” van David Foster

Bron: DALL-E december 2023 prompt: maak een variant van de bovenstaande foto

Bij generatieve modellen is het vaak duidelijk dat er gebruik is gemaakt van heteronormatieve trainingsdata om de modellen te maken. Dat is ook niet vreemd: de trainingsdata komen voornamelijk uit een periode waar heterorelaties nog als enige breed geaccepteerd werden. Het roept vragen op over de wendbaarheid die nog bestaat in culturele normen in een wereld waar machine learning het verleden blijft echoën. Welke bewegingsruimte is er nog voor de ontwikkeling van omgangsnormen in een wereld waar generatieve AI bepaalt wat we zien?

Dit zal niet alleen invloed hebben op hoe we relaties met elkaar aangaan. Ook andere zaken zullen blijven weerklinken uit het verleden. Denk aan nationale identiteit: een Italiaan staat in de keuken en eet pasta, een Nederlander draagt klompen in een veld met tulpen, en Amerikanen eten fastfood, dragen vlaggen en wapens.

Het is fascinerend hoe de kwaliteit van generatieve modellen steeds beter is geworden, maar dat de echokamer van stereotypen een probleem is in de kern van de technologie: patronen uit het verleden herhalen. Er is een methode om dit tegen te gaan, zowel bij generatieve AI als bij andere algoritmes. Hiervoor is het wel essentieel te erkennen dat de technologie op deze manier werkt. Wanneer algoritmes die keuzes over mensen maken of invloed op mensen hebben niet goed worden gemonitord, dan is het mogelijk dat het initieel minder opvalt dat stereotypes en zelfs discriminatie niet opvallen. Vaak wordt de kop in het zand gestoken, want het algoritme is nou eenmaal op data getraind en maakt daarmee de best mogelijke voorspelling? Of toch niet? Data is nooit een correcte representatie van de werkelijkheid en wordt altijd verzameld met een bepaalde bias; het is immers nog niet mogelijk om de volledige werkelijkheid aan machine learning modellen te geven

Hetzelfde geldt voor een algoritme dat ik ooit maakte voor het routeren van meldingen bij gemeenten. Ze hadden nog nooit van de eikenprocessierups gehoord: logisch, aangezien het ook een invasieve soort is. De meldingen werden herkend als gaande over bomen: in de oude voorbeelden was het woord ‘boom’ altijd een melding over een boom. Door goed te monitoren en van gebruikers feedback te krijgen op incorrecte meldingen, is dat een kwestie van de categorie toevoegen en de algoritmes opnieuw afstellen.

Het voorbeeld van de eikenprocessierups is natuurlijk niet kwalijk. Maar je kunt je voorstellen dat hetzelfde kan gebeuren bij algoritmes van de belastingdienst of fraude detectie bij banken. Hierbij is het nog essentiëler dat zogeheten ‘data drift’ altijd in de gaten wordt gehouden. Wanneer er keuzes worden gemaakt die impactvol zijn voor mensen, is het essentieel dat algoritmes nauwkeurig worden gemonitord en dat er gekwalificeerde professionals hierbij betrokken zijn.

Hoewel algoritmes beter en beter worden, blijven ze vaak dezelfde fouten maken. Bij het ontwikkelen en het gebruik van algoritmes is het noodzakelijk je bewust te zijn van de oneerlijke effecten die kunnen optreden door fouten die algoritmen vaak maken: door ze te corrigeren, is het mogelijk een eerlijkere wereld te maken, door ze blind te vertrouwen ontstaat een oneerlijkere wereld.