kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

Europaudvalget 2022-23 (1. samling)
KOM (2022) 0414 Bilag 2
Offentligt

Dato:

Kontor:

Sagsbeh:

Sagsnr.:

Dok.:

25. oktober 2022

Databeskyttelseskontoret

Astrid Sønderby Nathan

2022-793-0149

2612816

Samlenotat vedrørende sag på Justitsministeriets område, der forven-

tes vedtaget på rådsmøde i november 2022

Side:

2-7

Punkt 1

Kommissionens henstilling med henblik på

Rådets afgørelse om bemyndigelse til at føre

forhandlinger på vegne af Den Europæiske

Union om en Europarådskonvention om kun-

stig intelligens, menneskerettigheder, demo-

krati og retsstatsprincippet

Slotsholmsgade 10

1216 København K.

T +45 7226 8400

F +45 3393 3510

www.justitsministeriet.dk

[email protected]

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

Dagsordenpunkt 1: Kommissions henstilling med henblik på Rådets af-

gørelse om bemyndigelse til at føre forhandlinger på vegne af Den Eu-

ropæiske Union om en Europarådskonvention om kunstig intelligens,

menneskerettigheder, demokrati og retsstatsprincippet

Nyt notat

Sagen er ikke omfattet af retsforbeholdet

Sagen oversendes også til Folketingets Retsudvalg til orientering

KOM (2022) 414

1. Resumé

Kommissionen har fremlagt et udkast til rådsafgørelse med forslag til for-

handlingsmandat, der bemyndiger Kommissionen til på vegne af EU at føre

forhandlinger om en Europarådskonvention om kunstig intelligens, menne-

skerettigheder, demokrati og retsstatsprincippet. Rådsafgørelsen forventes

vedtaget i løbet af november 2022. Rådsafgørelsen vurderes ikke at være

omfattet af retsforbeholdet. Rådsafgørelsen vurderes ikke i sig selv at med-

føre lovgivningsmæssige eller statsfinansielle konsekvenser for Danmark.

Fra dansk side er man umiddelbart positivt indstillet over for forslaget til

rådsafgørelse.

2. Baggrund

Den 11. september 2019 besluttede Europarådets Ministerkomité at ned-

sætte et ad hoc-udvalg for kunstig intelligens (CAHAI), som havde til for-

mål at undersøge muligheden for og udarbejde et udkast til en retlig ramme

for udvikling, design og anvendelse af kunstig intelligens, som er baseret på

standarder fra Europarådet om menneskerettigheder, demokrati og retsstats-

princippet samt eksisterende relevante internationale juridiske instrumenter.

Den 3. december 2021 afsluttede CAHAI sit arbejde og fremlagde et slut-

dokument, der identificerede de mulige elementer i en sådan retlig ramme.

Europarådets Ministerkomité har efterfølgende nedsat udvalget for kunstig

intelligens (CAI). CAI har fået til opgave hurtigst muligt at udarbejde en

juridisk bindende retsakt af tværgående karakter ("konvention"/ "ramme-

konvention") om kunstig intelligens baseret på Europarådets standarder for

menneskerettigheder, demokrati og retsstatsprincippet med fokus på gene-

relle fælles principper, der fremmer innovation, og som er åbne for tredje-

landes deltagelse, idet der tages hensyn til andre eksisterende relevante in-

ternationale retlige rammer eller rammer under udvikling.

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

CAI har den 30. juni 2022 fremlagt et første udkast til Europarådets kom-

mende konvention om kunstig intelligens. Udkastet til konvention lægger

op til at fastlægge grundlæggende principper og regler, der skal sikre, at

kunstig intelligens-systemer designes, udvikles og anvendes i overensstem-

melse med respekten for menneskerettighederne, et velfungerende demo-

krati og overholdelsen af retsstatsprincippet. Der lægges endvidere op til, at

konventionens anvendelsesområde omfatter både offentlige og private ud-

bydere og brugere af kunstig intelligens-systemer, men omfatter ikke kun-

stig intelligens-systemer i forbindelse med nationalt forsvar. Forhandlin-

gerne i Europarådet om den kommende konvention om kunstig intelligens

befinder sig endnu på et meget tidligt stadie.

Næste møde i Europarådet vedrørende den kommende konvention om kun-

stig intelligens er den 11.-13. januar 2023. Konventionen forventes at blive

vedtaget i slutningen af 2024. Der vil efterfølgende være en proces, hvor

bl.a. medlemsstaterne skal tage stilling til, om de vil undertegne og ratificere

en evt. fremtidig konvention.

Der forhandles i øjeblikket

–

og parallelt med ovenstående forhandlinger i

Europarådet

–

et forslag til en forordning om kunstig intelligens i EU. Her

ventes forhandlingerne afsluttet i Rådet ved udgangen af det tjekkiske for-

mandskab i andet halvår af 2022. Forordningsforslaget blev forelagt Euro-

paudvalget til forhandlingsoplæg den 3. juni 2022.

Det første udkast til Europarådets konvention om kunstig intelligens over-

lapper i betydelig grad med det foreslåede udkast til forordning om kunstig

intelligens med hensyn til anvendelsesområde, karakter og indhold. Udka-

stet til Europarådets konvention om kunstig intelligens har dog et bredere

udenrigspolitisk sigte ift. at bidrage til de globale rammer for design, udvik-

ling og anvendelse af kunstig intelligens ud over EU’s grænser. Hvor for-

slaget om en forordning om kunstig intelligens er industri- og indre mar-

kedsorienteret, er udkastet til Europarådets konvention om kunstig intelli-

gens i højere grad fokuseret på at beskytte demokrati og menneskerettighe-

der. De to forslag supplerer således hinanden.

Kommissionen har på den baggrund den 18. august 2022 fremsat henstilling

om en rådsafgørelse, som bemyndiger Kommissionen til at føre forhandlin-

ger om Europarådets kommende konvention om kunstig intelligens på

vegne af Den Europæiske Union.

Forslaget til rådsafgørelsen har hjemmel i TEUF artikel 218, stk. 3 og 4.

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

Det forventes, at forslaget til Rådets afgørelse om forhandlingsmandat til

Kommissionen vil blive vedtaget i løbet af november 2022.

3. Formål og indhold

Henstillingen om rådsafgørelse om forhandlingsmandat til Kommissionen

har til formål at fastlægge de overordnede rammer for EU’s forhandlinger

af Europarådets kommende konvention om kunstig intelligens, menneske-

rettigheder, demokrati og retsstatsprincippet og udpege Kommissionen som

Unionens forhandler.

Som et bilag til forslaget til rådsafgørelse er der vedlagt såkaldte ’forhand-

lingsdirektiver’, som nærmere fastlægger de overordnede rammer for Kom-

missions forhandlingsmandat. Forhandlingsdirektiverne er inddelt efter, om

de er rettet mod 1) forhandlingsprocessen, 2) de generelle mål for forhand-

lingerne, 3) forhandlingernes substans og 4) konventionens funktionsmåde.

Det følger bl.a. af forhandlingsdirektiverne, at Kommissionen på vegne af

Unionen i forhandlingerne i Europarådet bør arbejde mod at opnå:

- At forhandlingsprocessen er åben, inkluderende og gennemsigtig.

- At konventionen er forenelig med EU-retten, herunder bestemmelser i

den foreslåede forordning om kunstig intelligens, idet der tages hensyn

til den fremtidige udvikling i lovgivningsprocessen.

- At konventionen tjener som en effektiv og fremtidssikret lovgivnings-

mæssig ramme for kunstig intelligens med henblik på at sikre et højt

niveau for beskyttelse af menneskerettighederne og bevare de europæi-

ske værdier, samtidig med at innovationen fremmes, og retssikkerheden

og tilliden øges.

- At konventionen fastsætter regler for design, udvikling og anvendelse af

kunstig intelligens-systemer, der undgår overlap og udgør en klar mer-

værdi i forhold til andre relevante internationale eller regionale konven-

tioner, navnlig på databeskyttelsesområdet.

- At konvention indeholder en frakoblingsklausul, der gør det muligt for

de EU-medlemsstater, der bliver parter i konventionen, at regulere deres

indbyrdes forbindelser på grundlag af EU-retten.

- At Den Europæiske Union har mulighed for at tiltræde konventionen

som part.

Kommissionens henstilling om rådsafgørelse har været genstand for for-

handlinger på arbejdsgruppeniveau. Der har under forhandlingerne været

særligt fokus på, at forhandlingsmandatet skal respektere

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

kompetencefordelingen mellem Unionen og medlemsstaterne, således at

Kommissionen kun kan forhandle på vegne af medlemsstaterne vedrørende

emner, der falder ind under Unionens eksklusive kompetence. Der har i den

forbindelse været fokus på at få præciseret, at spørgsmål om national sik-

kerhed alene hører under medlemsstaternes kompetence. Det har endvidere

været drøftet, at der bør tilføjes en materiel hjemmel til forhandlingsmanda-

tet i form af TEUF artikel 114 (om harmonisering af medlemsstaternes lov-

givning vedrørende det indre markeds funktion).

4. Europa-Parlamentets udtalelser

Europa-Parlamentet skal ikke udtale sig om henstillingen om rådsafgørelse

om forhandlingsmandat til Kommissionen, men Europa-Parlamentet vil

blive informeret fuldt ud på alle trin af forhandlingerne i overensstemmelse

med TEUF artikel 218, stk. 10.

5. Nærhedsprincippet

Kommissionen vurderer, at forslaget til rådsafgørelse om forhandlingsman-

dat er inden for rammerne af EU’s kompetence. Kommissionen fremhæver,

at en ensrettet tilgang er nødvendig for at sikre en konsekvent og ensartet

fortolkning af EU’s regler for kunstig intelligens, og for at sikre at Europa-

rådets kommende konvention om kunstig intelligens er fuldt ud i overens-

stemmelse med eksisterende og fremtidig EU-ret på området.

Kommissionen henviser i den forbindelse til, at det følger af TEUF artikel

3, stk. 2, at Unionen

–

i spørgsmål vedrørende design, , udvikling og anven-

delse af kunstig intelligens-systemer, der i vidt omfang er omfattet af EU-

retten, eller som forventes at blive omfattet efter EU-rettens udvikling inden

for en overskuelig fremtid, og navnlig det foreslåede udkast til forordning

om kunstig intelligens

–

har kompetence til at føre forhandlingerne om Eu-

roparådets kommende konvention om kunstig intelligens.

Regeringen er enig i vurderingen af, at nærhedsprincippet er overholdt.

6. Gældende dansk ret

Forslaget til rådsafgørelse om forhandlingsmandat giver ikke i sig selv an-

ledning til at redegøre for gældende dansk ret.

Det bemærkes generelt i forhold til den kommende Europarådskonvention

om kunstig intelligens, at der på nuværende tidspunkt ikke er en specifik

juridisk ramme for kunstig intelligens hverken på europæisk eller nationalt

plan. Der pågår dog som nævnt forhandlinger om et forslag til en forordning

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

om kunstig intelligens i EU. Udviklingen og anvendelsen af kunstig intelli-

gens er derudover underlagt eksisterende lovgivning, der ikke nødvendigvis

indeholder specifikke krav til kunstig intelligens, men alligevel fastsætter

regler om eksempelvis beskyttelse af grundlæggende rettigheder, herunder

blandt andet ligestilling, forbrugerbeskyttelse og databeskyttelse.

7. Konsekvenser

Lovgivningsmæssige konsekvenser

Forslaget til rådsafgørelse om forhandlingsmandat medfører ikke i sig selv

lovgivningsmæssige konsekvenser. Det bemærkes, at eventuelle lovgiv-

ningsmæssige konsekvenser, hvis Danmark efterfølgende vælger at ratifi-

cere Europarådskonventionen, ikke er afklaret på nuværende tidspunkt.

Økonomiske konsekvenser

Forslaget til rådsafgørelse om forhandlingsmandat medfører ikke i sig selv

økonomiske konsekvenser. Det bemærkes, at eventuelle statsfinansielle

konsekvenser, hvis Danmark efterfølgende vælger at ratificere Europaråds-

konventionen, ikke er afklaret på nuværende tidspunkt.

Andre konsekvenser og beskyttelsesniveauet

Forslaget til rådsafgørelse om forhandlingsmandat giver ikke anledning til

at fremhæve andre konsekvenser. Det bemærkes, at eventuelle andre konse-

kvenser, hvis Danmark efterfølgende vælger at ratificere Europarådskon-

ventionen, ikke er afklaret på nuværende tidspunkt.

8. Høring

Forslaget til rådsafgørelse om forhandlingsmandat har været sendt i høring

i EU-specialudvalget for Politimæssigt og Retligt Samarbejde og i EU-spe-

cialudvalget for Konkurrenceevne, vækst og forbrugerspørgsmål. Der er

indkommet høringssvar fra Dansk Erhverv.

Dansk Erhverv (DE)

kan tilslutte sig, at Kommissionen bemyndiges til på

vegne af Unionen at føre forhandlingerne om Europarådets kommende kon-

vention om kunstig intelligens. DE finder det bl.a. fornuftigt at sikre en kon-

sekvent og ensartet fortolkning af EU’s regler for kunstig intelligens, og at

Europarådets fremtidige konvention er fuldt ud i overensstemmelse med den

eksisterende og fremtidige EU-ret på området. Det er i den forbindelse af-

gørende, at der gælder klare og ens regler på tværs af Unionens lande, og at

der ikke opstår national fragmentering, overlappende regulering, eller anden

regulatorisk usikkerhed eller unødige byrder.

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

lægger vægt på, at forhandlingsmandatet iagttager de store fordele og

muligheder ved kunstig intelligens og tager hensyn til den fremtidige tekno-

logiske, markedsmæssige, samfundsmæssige og miljømæssige udvikling i

forbindelse med kunstig intelligens.

9. Generelle forventninger til andre landes holdninger

Der ses ikke at foreligge offentlige tilkendegivelser om de øvrige medlems-

staters holdninger til sagen. Der forventes umiddelbart at være generel op-

bakning blandt medlemsstaterne til henstillingen om rådsafgørelse om for-

handlingsmandat til Kommissionen.

10. Regeringens generelle holdning

Regeringen stiller sig generelt positivt over for forslaget til rådsafgørelse om

forhandlingsmandat.

Regeringen finder det centralt, at forhandlingsmandatet ligger inden for

rammerne af den eksisterende kompetencefordeling, herunder for så vidt

angår beskyttelse af den nationale sikkerhed, der i henhold til TEU artikel

4, stk. 2, er medlemsstaternes kompetence.

Regeringen finder det desuden centralt, at Kommissionen arbejder for, at

bestemmelserne i Europarådets kommende konvention om kunstig intelli-

gens er forenelige med bestemmelserne i det foreslåede udkast til forordning

om kunstig intelligens, idet der tages hensyn til den fremtidige udvikling i

EU-lovgivningsprocessen. Regeringen finder det i den forbindelse vigtigt

med klare definitioner i konventionen, der så vidt muligt bør være i over-

ensstemmelse med definitionerne i det foreslåede udkast til forordning om

kunstig intelligens.

Regeringen finder det vigtigt, at Kommissionen stiler efter, at konventionen

indeholder den rette balance, hvor alvorlige risici adresseres, samtidig med

at udvikling og anvendelse af teknologien også ud over EU’s grænser er til

gavn for vores samfund og i overensstemmelse med respekt for menneske-

rettigheder, demokrati og retsstatsprincipper. I den henseende finder rege-

ringen det vigtigt, at konventionen tager højde for eksisterende lovgivning,

og at der ikke skabes unødige administrative og økonomiske byrder for virk-

somheder og offentlige myndigheder.

Regeringen finder det derudover vigtigt, at forhandlingsprocessen er åben,

inkluderende og gennemsigtig, herunder ved at Kommissionen sørger for

aktivt at inddrage medlemsstaterne i forhandlingsprocessen.

kom (2022) 0414 - Bilag 2: Samlenotat vedr. Europarådskonventionen om kunstig intelligens, menneskerettigheder, demokrati og retsstatsprincippet

Grundet retsforbeholdet er Danmark ikke omfattet af EU’s regler om med-

lemsstaternes behandling af personoplysninger under udøvelsen af aktivite-

ter, der er omfattet af retsforbeholdet, hvorfor Kommissionen ikke har kom-

petence til at forhandle på vegne af Danmark på dette område. Forhand-

lingsmandatet er derfor kun bindende for Danmark for så vidt angår spørgs-

mål, der er omfattet af EU’s eksklusive kompetence.

11. Tidligere forelæggelser for Folketingets Europaudvalg

Sagen har ikke tidligere været forelagt Folketingets Europaudvalg.