C-245/25 DZI – Obshto Zastrahovane
Dit fiche is slechts een samenvatting. De verwijzingsbeschikking is bepalend
Zie bijlage voor de verwijzingsuitspraak, en klik hier voor het dossier van het Hof van Justitie (voor zover beschikbaar).
Termijnen: Motivering departement: 1 december 2025 Schriftelijke opmerkingen: 17 januari 2026
Trefwoorden: kunstmatige intelligentie, beginsel van menselijke toetsing, onafhankelijkheid en onpartijdigheid rechter, recht op een eerlijk proces
Onderwerp: Verordening 2024/1689 (AI-verordening): overwegingen 7 en 8, artikelen 86 en 95 en bijlage III; VEU: artikel 19; VWEU: artikelen 28, 29 en 101.
De rechter heeft in deze zaak over schadevergoeding na een verkeersongeval een forensische deskundige aangewezen. De deskundige gebruikt een computersimulatie waarmee berekeningen met betrekking tot het ongeval automatisch worden uitgevoerd. Verzoeker stelt dat het softwareprogramma gebruikmaakt van kunstmatige intelligentie, waardoor de resultaten niet door de rechter gebruikt mogen worden voor een definitieve gerechtelijke beslissing. Verzoeker twijfelt daarnaast over de resultaten, omdat de software voor de Amerikaanse markt is ontwikkeld, en het programma geen volledig inzicht geeft in de gemaakte berekeningen. De verwijzende rechter stelt het Hof vragen over de toepasselijkheid van de AI-verordening, artikel 101 VWEU (vrije markt voor niet-EU software die handmatig is aangepast) en artikel 19 VEU (recht op een eerlijk proces).
Prejudiciële vragen: 1. Moet het begrip „AI-systeem met een hoog risico” in de zin van punt 8 van bijlage III bij verordening 2024/1[68]9 aldus worden uitgelegd dat daaronder een softwareprogramma wordt begrepen dat automatische resultaten genereert of gebruikmaakt van elementen van AI en dat de deskundige ondersteunt bij het opstellen van een deskundigenbericht waarop de rechter zijn eindbeslissing zal baseren?
2. Moet artikel 101 VWEU aldus worden uitgelegd dat de rechter zich kan baseren op een deskundigenbericht dat is opgesteld met behulp van een niet voor de communautaire markt bestemd, maar door de deskundige aan de eisen en standaarden van de Europese Gemeenschap aangepast softwareproduct?
3. Moeten artikel 86, lid 1, van verordening (E[U]) 2024/1[68]9 en het beginsel van menselijke beoordeling (human oversight, verification) aldus worden uitgelegd dat zij een nationale rechter alleen toestaan om een deskundigenbericht dat door een deskundige is opgesteld, maar door AI of een algoritme voor het automatische genereren van een resultaat wordt ondersteund, voor de vaststelling van de rechterlijke eindbeslissing te gebruiken indien de deskundige het door AI of het algoritme gegenereerde resultaat op basis van zijn kennis op het gebied van wetenschap en techniek en zijn professionele ervaring handmatig heeft getoetst aan de feiten en de waarschijnlijkheid ervan in de objectieve werkelijkheid?
4. Moeten het recht op een eerlijk proces en een onafhankelijke rechter krachtens artikel 19 VEU en het beginsel van transparantie (transparancy) bij geautomatiseerde beslissingen overeenkomstig artikel 86, lid 1, van verordening 2024/1[68]9 aldus worden uitgelegd dat zij een nationale rechter toestaan zich te baseren op een door AI of een automatisch gegenereerd resultaat ondersteund deskundigenbericht, indien dit door de deskundige op grond van zijn professionele kennis en ervaring is getoetst?
5. Moeten het recht op een eerlijk proces en een onafhankelijke rechter overeenkomstig artikel 19 VEU en het beginsel van traceerbaarheid (traceability) bij geautomatiseerde beslissingen overeenkomstig artikel 86, lid 1, van verordening (E[U]) 2024/1[68]9 aldus worden uitgelegd dat een deskundigenbericht kan worden ondersteund door AI of een automatisch gegenereerd resultaat waarbij niet wordt uitgegaan van Europese standaarden, maar de deskundige bij de opstelling van het deskundigenbericht rekening heeft gehouden met de vastgestelde feiten en verzamelde bewijzen en deze aan Europese standaarden en normen heeft aangepast?
6. Moeten het recht op menselijke toezicht (human oversight) op belangrijke beslissingen, het beginsel van traceerbaarheid (traceability) en het beginsel van verklaarbaarheid (explainability) overeenkomstig artikel 86, lid 1, van verordening 2024/1[68]9 aldus worden uitgelegd dat daaraan is voldaan wanneer de deskundige de automatisch gegenereerde beslissing heeft getoetst en de standaardinstellingen (fabrieksinstellingen) van de software heeft gewijzigd door deze aan de vastgestelde feiten en aan zijn professionele kennis en ervaring aan te passen?
7. Moeten het beginsel van verklaarbaarheid (explainability) en het beginsel van traceerbaarheid (traceability) overeenkomstig artikel 86, lid 1, van verordening 2024/1[68]9 met het optreden van het black-box effect aldus worden uitgelegd dat zij de deskundige bij het opstellen van een deskundigenrapport dat door AI of een automatisch gegenereerd resultaat wordt ondersteund, ertoe verplichten om een volledige beschrijving te geven van het algoritme van alle toegepaste calculaties en aannamen, met inbegrip van de elementaire calculaties die ter vervanging van formules worden gebruikt en generlei concrete informatie over het voorwerp van het geschil bevatten?
8. Moet artikel 86, lid 1, van verordening 2024/1[689] aldus worden uitgelegd dat aan het recht op toelichting is voldaan wanneer de deskundige het door AI of een algoritme voor het automatisch genereren van het resultaat gegenereerde resultaat op basis van zijn professionele vaardigheden en ervaring op dit gebied heeft getoetst?
Aangehaalde (recente) jurisprudentie: C-293/17 Coöperatie Mobilisation for the Environment and Vereniging Leefmilieu; C-817/19 Ligue des droits humains; C-634/21 SCHUFA Holding (Scoring).
Specifiek beleidsterrein: JenV; BZK
