Clearview AI kreeg recent een boete van 30,5 miljoen euro voor het overtreden van de privacywetgeving door een database aan te leggen met gegevens van 30 miljard mensen (waarschijnlijk gezichten, aangezien er anders meer mensen in staan dan er op aarde leven).
Veel AI technieken zoals generatieve AI en voorspellende modellen kunnen erg nuttig zijn voor de samenleving. Maar er zijn ook technieken die veel risicovoller zijn. Gezichtsherkenningstechnologie is naar mijn mening een van de meest risicovolle AI-technologieën, vooral wanneer het zonder toestemming wordt gebruikt, zoals bij Clearview AI het geval was.
Machine learning-technieken zijn gevoelig voor fouten en vooringenomenheid, vooral als ze gebaseerd zijn op slechte kwaliteit data, zoals scrapes van social media. Dit kan leiden tot structurele discriminatie en andere ellende.
Het is goed dat bedrijven die de regels overtreden, worden beboet door de Autoriteit Persoonsgegevens (Dutch DPA). De volgende stap zou moeten zijn dat ook overheden die gebruikmaken van deze bedrijven ter verantwoording worden geroepen, misschien is dat nog wel belangrijker. Diverse Europese politiediensten maakten gebruik van de database van Clearview AI aldus Bits of Freedom (zie dit artikel).
Gezichtsherkenning en vergelijkbare technologieën kunnen niet zomaar zonder consequenties worden ingezet. Het is essentieel dat niet alleen bedrijven, maar ook overheden verantwoording afleggen voor het gebruik van dergelijke technieken. Alleen dan kunnen we zorgen voor een toekomst waarin technologie de samenleving dient, zonder de privacy en rechten van burgers te schenden.
Wat betekent dit voor de toekomst van gezichtsherkenningstechnologie? Hoe kunnen we ervoor zorgen dat technologieën op een ethische manier worden gebruikt, terwijl we tegelijkertijd innoveren en vooruitgang boeken? En welke stappen moeten overheden nemen om transparanter te zijn over hun gebruik van gevoelige data en AI-technologieën?
Lees er meer over in mijn boek De AI Revolutie!
Dit artikel is onderdeel van een serie rondom mijn boek “De AI-Revolutie: Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is)”, het boek is te koop in de betere boekhandel en online te bestellen. In dit boek duik ik dieper in de invloed van AI op onze toekomst en hoe we als samenleving de juiste koers kunnen bepalen in deze nieuwe, spannende tijd.