Grote A.I. bijeenkomst, strengere regulering op komst?

Samenvatting

Op woensdag 13 september 2023 kwamen enkele van de meest invloedrijke personen in de tech-industrie samen met wetgevers in Washington voor de A.I. Insight Forum, georganiseerd door Senator Chuck Schumer.
Het evenement is bedoeld om wetgevers te voorzien van lessen over A.I. en biedt tech-leiders de kans om de richting van A.I. te beïnvloeden en zichzelf te positioneren als leiders op het gebied van de technologie.
Wetgevers willen regelgeving opstellen om de sector te reguleren en ervoor te zorgen dat de democratie, nationale veiligheid en het begrip van consumenten over AI niet in gevaar komen.

Op woensdag 13 september 2023 kwamen enkele van de meest invloedrijke personen in de tech-industrie samen met wetgevers in Washington voor het A.I. Insight Forum, georganiseerd door Senator Chuck Schumer. Het evenement is bedoeld om wetgevers te voorzien van lessen over A.I. en biedt tech-leiders de kans om de richting van A.I. te beïnvloeden en zichzelf te positioneren als leiders op het gebied van de technologie. Onder de aanwezigen waren Elon Musk van Tesla, X en SpaceX, Mark Zuckerberg van Meta, Sundar Pichai van Google, Satya Nadella van Microsoft en Jensen Huang van Nvidia.

De groeiende bewustwording van wetgevers over de potentieel disruptieve en risicovolle effecten van A.I. heeft geleid tot de behoefte aan regelgeving. Wetgevers willen regelgeving opstellen om de sector te reguleren en ervoor te zorgen dat de democratie, nationale veiligheid en het begrip van consumenten over de technologie niet in gevaar komen. Senator Chuck Schumer heeft al verschillende informatieve sessies georganiseerd om wetgevers op de hoogte te brengen van AI en de toekomstige regelgeving.

Lees ook: Dit software bedrijf gaat profiteren van AI

Het is echter nog onduidelijk of wetgevers het eens kunnen worden over de regelgeving van A.I., aangezien sommige bedrijven, waaronder Google, IBM, Microsoft en OpenAI, al hun eigen voorstellen hebben gedaan voor regelgeving.

AI regulering in de EU

De EU heeft daarentegen wel haar eigen regelgeving opgesteld. Het Europese parlement heeft ingestemd met de EU AI Act, een pakket regelgeving dat consumenten moet beschermen tegen de risico's van A.I.

Technologiebedrijven zoals Google en Meta moeten bijvoorbeeld gaan vermelden of een foto, video, audiofragment of tekst met kunstmatige intelligentie (AI) is gemaakt.

Een van de meest opvallende kenmerken van de nieuwe regelgeving is de classificatie van AI-systemen op basis van het risico dat ze vormen voor gebruikers. Hierbij worden AI-systemen in verschillende risico categorieën ingedeeld.

Ongewenst risico: Deze categorie omvat AI-systemen die als een bedreiging voor mensen worden beschouwd en zullen worden verboden. Voorbeelden hiervan zijn AI-systemen die zich bezighouden met cognitieve gedragsmanipulatie van mensen of specifieke kwetsbare groepen, zoals stem gestuurd speelgoed dat gevaarlijk gedrag bij kinderen aanmoedigt, of sociale scoringssystemen die mensen classificeren op basis van gedrag, sociaaleconomische status of persoonlijke kenmerken. Ook real-time en op afstand werkende biometrische identificatiesystemen, zoals gezichtsherkenning, vallen onder deze categorie.

Er kunnen echter enkele uitzonderingen zijn, zoals op afstand werkende biometrische identificatiesystemen die pas na aanzienlijke vertraging worden gebruikt en alleen na goedkeuring door de rechtbank om ernstige misdrijven te vervolgen.

Hoog risico: AI-systemen die een negatieve invloed hebben op veiligheid of fundamentele rechten worden beschouwd als hoog risico en zullen in twee categorieën worden onderverdeeld:

AI-systemen die worden gebruikt in producten die onder de productveiligheidswetgeving van de EU vallen. Dit omvat onder andere speelgoed, luchtvaart, auto's, medische apparaten en liften.
AI-systemen die vallen onder acht specifieke gebieden die in een EU-database moeten worden geregistreerd. Deze gebieden omvatten onder andere biometrische identificatie en categorisatie van natuurlijke personen, beheer en exploitatie van kritieke infrastructuur, onderwijs en beroepsopleiding, arbeidsmarkt en toegang tot zelfstandig ondernemerschap, toegang tot essentiële private diensten en openbare diensten en voordelen, rechtshandhaving, migratie, asiel en grensbeheer, en hulp bij juridische interpretatie en toepassing van de wet.

Alle AI-systemen met een hoog risico zullen worden beoordeeld voordat ze op de markt worden gebracht en gedurende hun levenscyclus.

Beperkt risico: AI-systemen met een beperkt risico moeten voldoen aan minimale transparantie-eisen, bedoelt om gebruikers geïnformeerde beslissingen te laten nemen. Na interactie met de toepassingen kan de gebruiker dan beslissen of ze willen doorgaan met het gebruik ervan. Gebruikers moeten op de hoogte worden gebracht wanneer ze met AI interageren. Dit geldt ook voor AI-systemen die afbeeldingen, audio- of videomateriaal genereren of manipuleren, zoals deepfakes.

Het voorstel moet de rechtszekerheid waarborgen met een risicogebaseerde aanpak en een rechtskader voor AI.

Het voorstel wordt naar verwachting tegen het einde van het jaar volledig goedgekeurd, met een overgangsperiode van ongeveer twee jaar voor bedrijven om zich aan te passen.

Lees ook: Wat is er aan de hand in de VS?

Regulering van A.I. is een wereldwijd probleem. De VS en het VK hebben bijvoorbeeld hun eigen benaderingen voor de regelgeving van A.I. De VS heeft tot nu toe de industrie zichzelf laten reguleren, met Microsoft, OpenAI, Google, Amazon en Meta die in juli een set vrijwillige toezeggingen hebben ondertekend

Het VK heeft daarentegen een "pro-innovatie" kader voor A.I.-regulering uiteengezet in een langverwacht wetgevingsvoorstel dat in maart is gepubliceerd. Het heeft nu belanghebbenden uitgenodigd om hun mening te geven over de voorstellen, die de overheid zouden reguleren hoe A.I.-systemen worden gebruikt, in plaats van de technologie zelf te reguleren.

Conclusie

De groeiende bewustwording van wetgevers over de potentieel nadelige effecten van A.I. heeft geleid tot de behoefte aan regelgeving. We zien echter dat alle landen er verschillend mee omgaan. Dat AI wetgeving een nieuw en nog erg onbekend thema blijft is duidelijk, de toekomst zal uitwijzen wat de effecten van deze verschillende wetgevingen gaan zijn.