Europese Commissie presenteert nieuwe regels en acties op het gebied van kunstmatige intelligentie

De voorstellen moeten in Europa het vertrouwen in de mogelijkheden van kunstmatige intelligentie vergroten, de veiligheid en grondrechten van mensen en bedrijven op dat vlak waarborgen evenals het draagvlak ervoor, en investeringen en innovatie in de hele Europese Unie versterken.

Achtergrond

De Europese Commissie is al een aantal jaar bezig met het bevorderen en versterken van de samenwerking op het gebied van kunstmatige intelligentie (Artificial Intelligence (hierna: AI) in de Europese Unie. Hiermee wil de Commissie het concurrentievermogen verbeteren en het vertrouwen in AI waarborgen. In de afgelopen jaren presenteerde de Europese Commissie al een EU-strategie inzake AI (2018), richtsnoeren voor betrouwbare AI (2019) en een beoordelingslijst voor betrouwbare AI (2020). In december 2018 werd het eerste gecoördineerde plan inzake AI vastgesteld. Dit plan vormt een gezamenlijke verbintenis van de EU en de lidstaten.

In 2020 werd het  Witboek van de Commissie over AI gepubliceerd. Op de consultatie van het witboek werd wereldwijd gereageerd. Het witboek schetste een duidelijke visie op AI in Europa. Die visie is: het bereiken van een ecosysteem van excellentie en vertrouwen. Het witboek ging vergezeld van een verslag over de gevolgen voor de veiligheid en aansprakelijkheid van kunstmatige intelligentie, het internet der dingen en robotica. Daarin werd geconcludeerd dat de huidige wetgeving inzake productveiligheid een aantal lacunes bevat die moeten worden aangepakt in de EU-Machineregelgeving.

Het witboek effende het pad voor de nu verschenen voorstellen. De Europese Commissie wil van Europa de mondiale hub voor betrouwbare AI maken. Daarom presenteert de Commissie deze voorstellen voor nieuwe regels en acties op het gebied van kunstmatige intelligentie. Het gaat om de volgende voorstellen:

• Een mededeling: kunstmatige intelligentie voor Europa (EN);
• Een voorstel voor een verordening inzake de Europese aanpak op het gebied van kunstmatige intelligentie (EN);
• Een nieuw gecoördineerd plan van de Europese Unie en de lidstaten inzake kunstmatige intelligentie (EN);
• En een voorstel voor een nieuwe machineverordening (EN) ter vervanging van  de huidige machinerichtlijn .

Het voorstel voor een nieuwe AI-Verordening
De nieuwe AI-verordening beoogt met evenredige en flexibele regels een antwoord te bieden op de specifieke risico's van AI-systemen, waarbij wordt geopteerd voor de strengste regels ter wereld. De nieuwe regels zullen in alle lidstaten rechtstreeks op dezelfde wijze worden toegepast op basis van een toekomstbestendige definitie van AI. Bij het volgen van een risico gebaseerde aanpak wordt een onderscheid gemaakt tussen een onaanvaardbaar, hoog, beperkt en minimaal risico.

• Onaanvaardbaar risico  
  AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden. Het gaat om AI-systemen of -toepassingen die menselijk gedrag manipuleren om de vrije wil van gebruikers te omzeilen (denk aan speelgoed met spraak dat kinderen aanspoort tot gevaarlijk gedrag) en systemen die “sociale scoring” door overheden mogelijk maken.

• Hoog risico  
  Er zijn AI-systemen die als risicovol worden aangemerkt. Zij kunnen worden gebruikt in een veelheid van systemen en sectoren. Bijvoorbeeld in het vervoer (kritieke infrastructuurnetwerken die het leven en gezondheid van burgers in gevaar kunnen brengen), het onderwijs of beroepsopleiding (waar een AI-systeem bepalend kan zijn voor de toegang tot onderwijs en een professionele carrière, denk aan het verbeteren van examens) of wetgeving (wetshandhaving die gevolgen kan hebben voor grondrechten, denk aan de beoordeling van de betrouwbaarheid van bewijsstukken).

AI-systemen met een hoog risico zullen aan strenge verplichtingen worden onderworpen voordat zij in de handel mogen worden gebracht. Denk daarbij bijvoorbeeld aan verplichtingen als het invoeren van adequate systemen voor risicobeoordeling en beperking, een hoge kwaliteit van de datasets die het systeem zo vullen dat risico's en discriminerende resultaten zoveel mogelijk worden uitgesloten, het opstellen van duidelijke en adequate informatie voor gebruikers en het zorgen voor sterke robuustheid, beveiliging en nauwkeurigheid.

Met name alle systemen voor biometrische identificatie op afstand worden als risicovol beschouwd en moeten aan strikte eisen voldoen. Op openbare plaatsen wordt het rechtstreekse gebruik van die systemen voor rechtshandhavingsdoeleinden in beginsel verboden, op stringente uitzonderingen na. Denk aan bijvoorbeeld het zoeken van een vermist kind of het afwenden van een terroristische dreiging. Er moet vooraf toestemming worden gegeven door een rechterlijke of andere onafhankelijke instantie, die slechts geldt voor een beperkte termijn en omgeving en voor specifieke databanken.

• Beperkt risico
  Hierbij gaat het om AI-systemen waarvoor specifieke transparantie-verplichtingen gelden. Bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat zij interactie hebben met een machine, zodat zij welbewust kunnen besluiten of ze die willen voortzetten.

• Minimaal risico
  Het wetgevingsvoorstel staat het vrije gebruik toe van op AI gebaseerde videospellen of spamfilters. De overgrote meerderheid van AI-systemen valt in deze categorie. De ontwerpverordening laat die systemen ongemoeid aangezien het risico voor de rechten of de veiligheid van burgers minimaal of niet-bestaand is.

Governance

De Commissie stelt op het gebied van governance voor dat de bevoegde nationale markttoezichtautoriteiten toezien op de nieuwe regels. De oprichting van een Europees comité voor kunstmatige intelligentie zal de uitvoering van die regels faciliteren en de ontwikkeling van normen voor AI stimuleren. Daarnaast pleit de Commissie voor vrijwillige gedragscodes voor AI zonder grote risico's en voor testomgevingen voor regelgeving om verantwoorde innovatie te bevorderen.

Het Europese gecoördineerde plan voor AI

Het gepresenteerde gecoördineerde plan schetst de noodzakelijke beleidswijzigingen en investeringen die nodig zijn in de lidstaten om de leidende positie van Europa in de ontwikkeling van mensgerichte, duurzame, veilige, inclusieve en betrouwbare AI te versterken. Om wereldwijd concurrerend te blijven, verbindt de Commissie zich ertoe om innovatie in de ontwikkeling en het gebruik van AI-technologie in alle bedrijfstakken en in alle lidstaten te bevorderen.

Het gecoördineerd plan inzake AI werd al eerder in 2018 gepubliceerd om acties en financieringsinstrumenten voor de ontwikkeling en invoering van AI te definiëren. Dit plan gaf al een aanzet voor nationale strategieën en EU-financiering voor publiek-private partnerschappen en onderzoeks- en innovatienetwerken op het gebied van kunstmatige intelligentie. In de in april 2021 gepresenteerde actualisering van het gecoördineerde plan worden concrete gezamenlijke acties voor samenwerking voorgesteld om alle inspanningen af te stemmen op de Europese strategie inzake AI en de Europese Green Deal. Hierbij wordt ook rekening gehouden met de nieuwe uitdagingen van de coronapandemie. Het plan bevat een visie voor het versnellen van investeringen in AI en om de uitvoering van nationale AI-strategieën aan te moedigen, versnippering tegen te gaan en mondiale uitdagingen aan te pakken.

In het geactualiseerde gecoördineerde plan zal een beroep worden gedaan op financiering via de programma's Digitaal Europa en Horizon Europa, de faciliteit voor herstel en veerkracht, en de programma's in het kader van het cohesiebeleid.

De Europese aanpak van nieuwe machineproducten

Bij machineproducten gaat het om een breed scala aan producten voor consumenten en professionals. Het gaat bijvoorbeeld om robots, grasmaaiers, 3D-printers, bouwmachines en industriële productielijnen. In  de huidige machinerichtlijn - die wordt vervangen door het nu verschenen voorstel voor een  nieuwe machineverordening -  zijn gezondheids- en veiligheidseisen voor machines vastgesteld. De nieuwe machineverordening beoogt enerzijds dat de nieuwe generatie machines de veiligheid van gebruikers en consumenten waarborgt en anderzijds innovatie stimuleert. De nieuwe AI-verordening pakt de veiligheidsrisico's van AI-systemen aan en waarborgt de veilige integratie van het AI-systeem in de machine als geheel. Bedrijven hoeven slechts één conformiteitsbeoordeling te verrichten. 

Daarnaast komt de nieuwe regelgeving tegemoet aan de marktbehoeften door de huidige bepalingen in de EU-Machinerichtlijn juridisch te verduidelijken en de administratieve lasten en kosten te vereenvoudigen. Documentatie mag in een digitaal formaat worden ingediend en conformiteits-beoordelingskosten voor kleine en middelgrote ondernemingen (kmo's) worden beperkt. Ook waarborgt de nieuwe EU-Machineverordening de samenhang met het wetgevingskader van de EU voor producten.

Hoe nu verder?
Het Europees Parlement en de lidstaten zullen de voorstellen van de Commissie voor een Europese aanpak van kunstmatige intelligentie en voor machineproducten behandelen via de gewone wetgevingsprocedure. Zodra de verordeningen zijn vastgesteld, worden zij rechtstreeks toepasselijk in de hele EU. Tegelijkertijd blijft de Commissie samenwerken met de lidstaten bij de uitvoering van de in het gecoördineerde plan aangekondigde acties.

Meer informatie

• Persbericht van de Europese Commissie
• Vragen en antwoorden Nieuwe regels inzake kunstmatige intelligentie
• Website van de Europese Commissie – Informatie over kunstmatige intelligentie
• ECER-bericht - Europese Commissie presenteert het digitale kompas naar 2030 (12 maart 2021)