Nieuwe Europese AI-Act betekent mogelijke ondergang van dit bedrijf

In het kort:

• De Europese AI-Act beperkt het gebruik van AI-technologie die gezichten en emoties leest in werk- en leeromgevingen.

• VicarVision, een Amsterdams bedrijf gespecialiseerd in deze technologie, vreest dat de strenge regels innovatie zullen remmen.

• Hoewel sommige toepassingen nog toegestaan zijn, worden veel projecten stopgezet vanwege de nieuwe wetgeving.

Het Amsterdamse bedrijf VicarVision, een pionier op het gebied van AI-technologie die gezichten en emoties kan lezen, wordt hard getroffen door de Europese AI-Act die binnenkort van kracht wordt. De wet beperkt het gebruik van dergelijke technologieën op de werkvloer en in onderwijsomgevingen, waardoor veel van VicarVision's toepassingen de prullenbak in moeten.

VicarVision werd opgericht door Marten den Uyl, een cognitief psycholoog gefascineerd door computers met een bewustzijn. Zijn zoon, Tim den Uyl, leidt nu het bedrijf dat wereldwijd software verkoopt, voornamelijk aan universiteiten en onderzoeksinstituten. Een van de toepassingen is het analyseren van gezichtsuitdrukkingen om te bepalen of proefpersonen insecten eten echt vies vinden of dat het vooral de associatie is die hen afschrikt.

De nieuwe AI-Act legt echter strenge beperkingen op aan technologieën zoals die van VicarVision. De wet, die halverwege deze maand in werking treedt, verdeelt AI-systemen in vier risicocategorieën: onaanvaardbaar, hoog, beperkt en minimaal. Toepassingen met onaanvaardbare risico's, zoals social scoring en bepaalde vormen van gezichtsherkenning, worden verboden binnen de EU. Voor toepassingen met een hoog risico, zoals gezichtsherkenning door de politie, gelden strikte transparantie-eisen.

Tim den Uyl begrijpt de intentie achter de regelgeving, namelijk het adresseren van scheve machtsverhoudingen en het voorkomen van misbruik van technologie. Hij erkent dat gezichtsherkenningstechnologie, wanneer misbruikt, dystopische associaties oproept, zoals blijkt uit voorbeelden van misbruik in China en door Clearview AI. Desondanks vreest hij dat de wet te strikt is en innovatie zal smoren. Projecten waaraan VicarVision al jaren werkte, zoals software die gezichtsuitdrukkingen analyseert om te bepalen of leerlingen de lesstof begrijpen of robots die emoties lezen om empathisch te reageren in de zorg, worden nu onmogelijk.

Ondanks de uitdagingen blijft Den Uyl genuanceerd over de regelgeving. Hij ziet het als een kans om te reflecteren op de ethische implicaties van hun technologie. VicarVision heeft besloten te stoppen met bepaalde producten, zoals software om gedrag van mensen in winkels te volgen en gezichtsherkenning in de publieke ruimte. Het bedrijf focust nu op wetenschappelijk onderzoek, gezondheidszorg en robotica.

De Europese AI-Act, de eerste AI-wet ter wereld, markeert een belangrijke stap in de regulering van AI-technologie. Hoewel VicarVision de impact van de wet voelt, ziet Tim den Uyl ook de noodzaak van strikte regels om misbruik te voorkomen. Hij hoopt dat de technologie uiteindelijk zal bijdragen aan empathischere en mensvriendelijkere AI-systemen.