Clearview AI krijgt megaboete, maar wanneer wordt de overheid gecontroleerd?
Clearview AI kreeg recent een boete van 30,5 miljoen euro voor het overtreden van de privacywetgeving door een database aan te leggen met gegevens van 30 miljard mensen (waarschijnlijk gezichten, aangezien er anders meer mensen in staan dan er op aarde leven).
Veel AI technieken zoals generatieve AI en voorspellende modellen kunnen erg nuttig zijn voor de samenleving. Maar er zijn ook technieken die veel risicovoller zijn. Gezichtsherkenningstechnologie is naar mijn mening een van de meest risicovolle AI-technologieën, vooral wanneer het zonder toestemming wordt gebruikt, zoals bij Clearview AI het geval was.
Machine learning-technieken zijn gevoelig voor fouten en vooringenomenheid, vooral als ze gebaseerd zijn op slechte kwaliteit data, zoals scrapes van social media. Dit kan leiden tot structurele discriminatie en andere ellende.
Het is goed dat bedrijven die de regels overtreden, worden beboet door de Autoriteit Persoonsgegevens (Dutch DPA). De volgende stap zou moeten zijn dat ook overheden die gebruikmaken van deze bedrijven ter verantwoording worden geroepen, misschien is dat nog wel belangrijker. Diverse Europese politiediensten maakten gebruik van de database van Clearview AI aldus Bits of Freedom (zie dit artikel).
Gezichtsherkenning en vergelijkbare technologieën kunnen niet zomaar zonder consequenties worden ingezet. Het is essentieel dat niet alleen bedrijven, maar ook overheden verantwoording afleggen voor het gebruik van dergelijke technieken. Alleen dan kunnen we zorgen voor een toekomst waarin technologie de samenleving dient, zonder de privacy en rechten van burgers te schenden.
Wat betekent dit voor de toekomst van gezichtsherkenningstechnologie? Hoe kunnen we ervoor zorgen dat technologieën op een ethische manier worden gebruikt, terwijl we tegelijkertijd innoveren en vooruitgang boeken? En welke stappen moeten overheden nemen om transparanter te zijn over hun gebruik van gevoelige data en AI-technologieën?
Lees er meer over in mijn boek De AI Revolutie!
Meer lezen? Mijn boek ‘De AI Revolutie’ vertelt je alles wat je wilt weten.
Dit artikel is onderdeel van een serie rondom Maarten Sukel’s boek “De AI-Revolutie: Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is)”. Het boek duikt dieper in de invloed van AI op onze toekomst en hoe we als samenleving de juiste koers kunnen bepalen in deze nieuwe, spannende tijd. Het boek ligt op de planken in verschillende boekhandels of is online te bestellen.
Lees meer
Maarten Sukel over AI voor ouderen bij Meldpunt
Maarten Sukel, universitair onderzoeker en auteur van De AI Revolutie, vergelijkt de opkomst van kunstmatige intelligentie met de introductie van de stoomtrein tijdens de industriële revolutie. In de uitzending van MAX Meldpunt legt hij uit hoe AI het dagelijks leven van ouderen kan verrijken. Denk aan toepassingen zoals gezondheidszorg, waar AI vroegtijdig ziektes kan signaleren, of eenvoudige tools zoals een navigatie-app. Tegelijk erkent Sukel de zorgen en vragen rondom AI, en moedigt hij ouderen aan om op een laagdrempelige manier kennis te maken met deze technologie. “De stoomtrein is weer vertrokken, en AI biedt kansen voor iedereen.”
Gebruikt de Tweede Kamer ondanks een ‘verbod’ toch generatieve modellen om te schrijven (of reflecteren ze vaker)?
Gebruikt de Tweede Kamer ondanks een ‘verbod’ toch generatieve modellen om te schrijven (of reflecteren ze vaker)? Generatieve AI is als de uitvinding van het toetsenbord of van de pen: weigeren ermee te leren werken is een goede manier om boventallig te worden. Voor...
Muziek, kunst en (kunst)matige intelligentie
Muziek, kunst en (kunst)matige intelligentie Recentelijk heeft kunstmatige intelligentie (AI) voor opschudding gezorgd in de creatieve wereld, vooral binnen de muziekindustrie. Nieuwe platforms zoals Suno.ai en Udio stellen gebruikers in staat om binnen enkele...