BAKGRUNN (fra Kommisjonens pressemelding 21.4.2021)

Europa klar til den digitale tidsalder: Kommissionen foreslår nye regler og tiltag for ekspertise i og tillid til kunstig intelligens

Kommissionen foreslår i dag nye regler og tiltag, der skal gøre Europa til det globale knudepunkt for pålidelig kunstig intelligens. Verdens første retlige ramme om kunstig intelligens og en ny koordineret plan med medlemsstaterne skal sammen garantere menneskers og virksomheders sikkerhed og grundlæggende rettigheder og samtidig styrke investeringer, innovation og udbredelsen af kunstig intelligens i hele EU. Som supplement til denne tilgang skal nye og tilpassede sikkerhedsregler om maskiner øge brugernes tillid til denne nye, alsidige generation af produkter.

Margrethe Vestager, ledende næstformand med ansvar for et Europa klar til den digitale tidsalder, udtaler: "Med hensyn til kunstig intelligens er tillid ikke blot noget, der vil være rart at have — det skal være påkrævet. Med disse skelsættende regler går EU i spidsen for udviklingen af nye globale normer for at sikre, at alle kan have tillid til kunstig intelligens. Ved at fastsætte standarder kan vi bane vejen for etisk teknologi på verdensplan og samtidig sikre, at EU forbliver konkurrencedygtig. Vores regler skal være fremtidssikrede og innovationsvenlige, og de skal kun gribe ind, hvor det er strengt nødvendigt: Dvs. når der er tale om EU-borgernes sikkerhed og grundlæggende rettigheder."

Kommissær for det indre marked, Thierry Breton, udtaler: "Kunstig intelligens er et middel, ikke et mål. Det har eksisteret i årtier, men har nået nye højder som følge af moderne computerkraft. Der er et enormt potentiale på så forskellige områder som sundhed, transport, energi, landbrug, turisme og cybersikkerhed. Det indebærer også en række risici. Forslaget af dags dato har til formål at styrke Europas position som et globalt ekspertisecenter inden for kunstig intelligens fra laboratoriet til markedet, sikre, at kunstig intelligens i Europa overholder vores værdier og regler, og udnytte potentialet ved kunstig intelligens inden for erhvervslivet." 

Den nye forordning om kunstig intelligens skal sikre, at europæerne kan have tillid til de muligheder, som kunstig intelligens kan byde på. Forholdsmæssige og fleksible regler skal tage højde for de specifikke risici, der er forbundet med systemer med kunstig intelligens, og fastsætte de højeste standarder på verdensplan. Den koordinerede plan beskriver de nødvendige politiske ændringer og investeringer på medlemsstatsniveau, der skal til for at styrke Europas førende position i udviklingen af menneskecentreret, bæredygtig, sikker, inklusiv og pålidelig kunstig intelligens.

Den europæiske tilgang til pålidelig kunstig intelligens

De nye regler vil blive anvendt direkte på samme måde i alle medlemsstater på grundlag af en fremtidssikret definition af kunstig intelligens. Reglerne følger en risikobaseret tilgang:

Uacceptabel risiko: Systemer med kunstig intelligens, der anses for at udgøre en klar trussel mod menneskers sikkerhed, eksistensgrundlag og rettigheder, forbydes. Dette omfatter systemer eller applikationer med kunstig intelligens, der manipulerer menneskers adfærd for at omgå brugernes frie vilje (f.eks. legetøj med indbygget taleassistent, der tilskynder mindreårige til farlig adfærd), og systemer, der gør det muligt for regeringer at indføre sociale pointsystemer ("social scoring").

Høj risiko: Systemer med kunstig intelligens tilskrives høj risiko, hvis de anvendes inden for:

• kritisk infrastruktur (f.eks. transport), der kan bringe borgernes liv og helbred i fare


• uddannelse eller erhvervsuddannelse, der kan være afgørende for menneskers adgang til uddannelse og karrieremuligheder (f.eks. bedømmelse af eksamener)


• produktsikkerhedskomponenter (f.eks. anvendelse af kunstig intelligens i robotassisteret kirurgi)


• beskæftigelse, forvaltning af arbejdskraft og adgang til selvstændig erhvervsvirksomhed (f.eks. software til sortering af CV'er ved ansættelsesprocedurer)


• vigtige private og offentlige tjenester (f.eks. kreditvurderinger, der kan forhindre borgere i at få et lån)


• retshåndhævelse, der kan gribe ind i folks grundlæggende rettigheder (f.eks. vurdering af bevismaterialers pålidelighed)


• migration, asyl og grænsekontrol (f.eks. vurdering af rejsedokumenters ægthed)


• retspleje og demokratiske processer (f.eks. vurdering af, hvordan loven anvendes på konkrete fakta).

Systemer med kunstig intelligens i højrisikokategorien underlægges strenge forpligtelser forud for markedsføring:

• passende risikovurderings- og risikobegrænsningssystemer


• høj kvalitet af de datasæt, der tilføres systemet, for at minimere risici og diskriminerende resultater


• aktivitetsregistrering for at sikre resultaternes sporbarhed


• detaljeret dokumentation med alle de oplysninger, som myndighederne skal bruge for at kunne vurdere, om systemet opfylder kravene


• klare og fyldestgørende oplysninger til brugeren


• passende menneskelige tilsynsforanstaltninger for at minimere risici


• høj grad af robusthed, sikkerhed og nøjagtighed.

Navnlig anses alle systemer til biometrisk fjernidentifikation for at være i højrisikokategorien, og de underlægges strenge krav. Det er i princippet forbudt at anvende dem direkte på offentligt steder til retshåndhævelsesformål. Der er dog snævre undtagelser, som er nøje definerede og regulerede (f.eks. når det er strengt nødvendigt for at søge efter et forsvundet barn, for at forebygge en specifik og overhængende terrortrussel eller for at opdage, lokalisere, identificere eller retsforfølge en gerningsmand eller mistænkt for en alvorlig strafbar handling). Denne slags anvendelse kræver tilladelse fra et retligt eller andet uafhængigt organ og er underlagt passende tidsfrister samt begrænsninger af geografisk rækkevidde og de databaser, der søges i.

Begrænset risiko, dvs. specifikke gennemsigtighedsforpligtelser for systemer med kunstig intelligens: Når der anvendes systemer med kunstig intelligens som f.eks. chatbots, skal brugerne vide, at de interagerer med en maskine, så de kan træffe en informeret beslutning om at fortsætte eller afslutte interaktionen.

Minimal risiko: Lovforslaget giver mulighed for fri anvendelse af applikationer som f.eks. videospil eller spamfiltre med kunstig intelligens. Langt de fleste systemer med kunstig intelligens falder ind under denne kategori. Forslaget til forordning indeholder ingen bestemmelser herom, da disse systemer kun udgør en minimal eller slet ingen risiko for borgernes rettigheder og sikkerhed.

Med hensyn til forvaltning foreslår Kommissionen, at de nationale kompetente markedsovervågningsmyndigheder fører tilsyn med de nye regler, mens oprettelsen af et europæisk udvalg for kunstig intelligens vil lette gennemførelsen heraf samt fremme udviklingen af standarder for kunstig intelligens. Desuden fremsættes der forslag om frivillige adfærdskodekser for systemer med kunstig intelligens, der ikke befinder i sig højrisikokategorien, samt reguleringsmæssige sandkasser, der skal fremme ansvarlig innovation.

Den europæiske tilgang til ekspertise i kunstig intelligens

Koordinering vil styrke Europas førende position inden for menneskecentreret, bæredygtig, sikker, inklusiv og pålidelig kunstig intelligens. For at forblive konkurrencedygtig på verdensplan er Kommissionen fast besluttet på at fremme innovation inden for udvikling og anvendelse af kunstig intelligens i samtlige industrier i alle medlemsstater.

Den koordinerede plan for kunstig intelligens, der først blev offentliggjort i 2018, har til formål at definere aktioner og finansieringsinstrumenter til udvikling og udbredelse af kunstig intelligens og har bidraget til at skabe et dynamisk landskab af nationale strategier og EU-finansiering til offentlig-private partnerskaber og forsknings- og innovationsnetværk. I den omfattende ajourføring af den koordinerede plan foreslås der konkrete samarbejdstiltag for at sikre, at alle bestræbelser er i overensstemmelse med den europæiske strategi for kunstig intelligens og den europæiske grønne pagt, samtidig med at der tages hensyn til nye udfordringer som følge af coronaviruspandemien. Den indeholder en vision om at fremskynde investeringer i kunstig intelligens, som kan gavne genopretningen. Den har også til formål at anspore til gennemførelsen af nationale strategier for kunstig intelligens, afhjælpe fragmentering og tackle globale udfordringer.

I den ajourførte koordinerede plan vil der blive anvendt midler, der tildeles gennem programmet for et digitalt Europa, Horisont Europa, programmer henhørende under samhørighedspolitikken og genopretnings- og resiliensfaciliteten, hvori der fastsat et mål på 20 % for digitale udgifter, til at:

• skabe gunstige betingelser for udvikling og udbredelse af kunstig intelligens gennem udveksling af politisk indsigt, datadeling og investering i kritisk databehandlingskapacitet


• fremme ekspertise inden for kunstig intelligens "fra laboratoriet til markedet" ved at etablere et offentlig-privat partnerskab, opbygge og mobilisere forsknings-, udviklings- og innovationskapaciteter og stille test- og forsøgsfaciliteter samt digitale innovationsknudepunkter til rådighed for SMV'er og offentlige forvaltninger


• sikre, at kunstig intelligens tjener alle og fremmer det gode i samfundet, ved at gå forrest i udviklingen og udbredelsen af pålidelig kunstig intelligens, fremme talenter og færdigheder ved at støtte praktikophold, ph.d.-netværk og postdoktorale stipendier på digitale områder, integrere tillid som begreb i politikker om kunstig intelligens og fremme den europæiske vision for bæredygtig og pålidelig kunstig intelligens på globalt plan


• opbygge strategisk lederskab inden for vigtige sektorer og teknologier, herunder miljø, ved at fokusere på, hvordan kunstig intelligens kan bidrage til bæredygtig produktion, sundhed (via større udveksling af oplysninger på tværs af grænserne), den offentlige sektor, mobilitet, indre anliggender, landbrug og robotteknologi.

Den europæiske tilgang til nye maskinprodukter

Maskinprodukter omfatter en lang række forbruger- og erhvervsprodukter fra robotter, plæneklippere og 3D-printere til entreprenørmaskiner og industrielle produktionslinjer. Maskindirektivet, som viger pladsen for den nye maskinforordning, fastsatte sundheds- og sikkerhedskrav for maskiner. Den nye maskinforordning vil sikre, at den nye generation af maskiner garanterer brugernes og forbrugernes sikkerhed, og tilskynder til innovation. Hvor forordningen om kunstig intelligens omhandler de sikkerhedsmæssige risici ved systemer med kunstig intelligens, omhandler maskinforordningen sikker integration af kunstig intelligens i maskiner. Virksomhederne vil kun skulle foretage en enkelt overensstemmelsesvurdering. 

Desuden vil den nye maskinforordning imødekomme markedets behov ved at skabe større juridisk klarhed over de nuværende bestemmelser, ved at forenkle den administrative byrde og lette omkostningerne for virksomhederne ved at tillade dokumentation i digitalt format og ved at tilpasse gebyrerne for overensstemmelsesvurdering for SMV'er, samtidig med at der sikres sammenhæng med EU's lovgivningsmæssige rammer for produkter.

De næste skridt

Europa-Parlamentet og medlemsstaterne skal vedtage Kommissionens forslag om en europæisk tilgang til kunstig intelligens og maskinprodukter via den almindelige lovgivningsprocedure. Når forordningerne er vedtaget, vil de finde direkte anvendelse i hele EU. Sideløbende hermed vil Kommissionen fortsat samarbejde med medlemsstaterne om at gennemføre foranstaltningerne i den koordinerede plan.

Baggrund

Kommissionen har i en række år fremmet og styrket samarbejdet om kunstig intelligens i hele EU for at styrke dets konkurrenceevne og sikre tillid baseret på EU's værdier. 

Efter offentliggørelsen af den europæiske strategi for kunstig intelligens i 2018 og efter en omfattende høring af interessenter udarbejdede Ekspertgruppen på Højt Niveau vedrørende Kunstig Intelligens sine retningslinjer for pålidelig kunstig intelligens i 2019 og en evalueringsliste for pålidelig kunstig intelligens i 2020. Parallelt hermed blev den første koordinerede plan for kunstig intelligens offentliggjort i december 2018 som et fælles tilsagn med medlemsstaterne.

Kommissionens hvidbog om kunstig intelligens, der blev offentliggjort i 2020, indeholder en klar vision for kunstig intelligens i Europa: et økosystem af ekspertise og tillid, der danner grundlag for det i dag fremsatte forslag. I løbet af den offentlige høring om hvidbogen om kunstig intelligens blev der indsamlet bidrag fra hele verden. Hvidbogen blev ledsaget af en "Rapport om de konsekvenser, som kunstig intelligens, tingenes internet og robotteknologi vil have for sikkerhed og erstatningsansvar", hvori det konkluderes, at den nuværende lovgivning om produktsikkerhed indeholder en række huller, som skal afhjælpes navnlig i maskindirektivet.