kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Europaudvalget 2019-20
KOM (2020) 0065 Bilag 1
Offentligt

GRUND- OG NÆRHEDSNOTAT TIL

FOLKETINGETS EUROPAUDVALG

17. marts 2020

Europa-Kommissionens hvidbog om kunstig intelligens:

”En

euro-

pæisk tilgang til ekspertise og tillid” (KOM

(2020) 65)

Resumé

Europa-Kommissionen (Kommissionen) præsenterede den 19. februar 2020

en hvidbog vedrørende en europæisk tilgang til ekspertise og tillid for kunstig

intelligens. Hvidbogen lanceres som opfølgning på tidligere tiltag såsom

Kommissionens strategi for kunstig intelligens fra 2018 samt Kommissions-

formand von der Leyens annoncering af behovet for en koordineret europæ-

isk tilgang til de menneskelige og etiske konsekvenser af kunstig intelligens.

Med hvidbogen udlægger Kommissionen en tostrenget europæisk tilgang til

kunstig intelligens. For det første skal en investeringsorienteret indsats mo-

bilisere ressourcer langs hele værdikæden for at opnå et ekspertisemiljø, sær-

ligt gennem udnyttelse af kendte instrumenter som den koordinerede plan for

kunstig intelligens samt udmøntning af programmet for et digitalt Europa.

For det andet skal en europæisk risikobaseret lovgivningsramme skabe tillid

ved at tackle de risici, der kan opstå i forbindelse med anvendelsen af kunstig

intelligens. Kommissionen lægger i den sammenhæng op til, at anvendelse af

kunstig intelligens, der indebærer en høj risiko for eksempelvis et individs

rettigheder, underlægges obligatoriske krav eksempelvis i forhold til data-

kvalitet og menneskeligt tilsyn. For al anden kunstig intelligens foreslås en

frivillig mærkningsordning, der skal signalere, at en given anvendelse af kun-

stig intelligens er pålidelig. Herudover skal eksisterende EU-lovgivning ju-

steres for at sikre, at disse er i stand til at håndtere risici og situationer, der

kan opstå i forbindelse med kunstig intelligens - særligt de udfordringer, tek-

nologien kan udgøre ift. grundlæggende rettigheder, sikkerhed samt ansvar.

Regeringen støtter Kommissionens ambitioner om at fremme udbredelsen af

kunstig intelligens, og at dette sker på en ansvarlig og tillidsskabende måde.

Kunstig intelligens er en af de afgørende teknologier, der kan styrke

EU’s

konkurrenceevne, velstand og grønne omstilling samt den offentlige forvalt-

ning og velfærdsydelser. På samme tid er regeringen enig med Kommissio-

nen i, at kunstig intelligens i visse situationer kan indebære alvorlige risici,

der bør adresseres. Regeringen vil overordnet arbejde for, at en europæisk

lovgivningsramme for kunstig intelligens udformes, således at den fremmer

en etisk, ansvarlig og sikker anvendelse af kunstig intelligens, som går hånd

i hånd med innovation samt konkurrenceevne og tager hensyn til rammerne

for de enkelte sektorer.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Baggrund

Kommissionen har den 19. februar 2020 præsenteret hvidbogen

”Om kunstig

intelligens

–

En europæisk tilgang til ekspertise

og tillid” (KOM (2020) 65).

Hvidbogen, som er modtaget i dansk sprogversion den 19. februar 2020, har

til formål at fremme optagelsen af kunstig intelligens samt at tackle de risici,

der kan være i forbindelse med visse anvendelser af den nye teknologi. Hvid-

bogen kommer som opfølgning på kommissionsformand von der Leyens an-

noncering om, at der i løbet af de første 100 dage af Kommissionens mandat

skulle koordineres en europæisk tilgang til kunstig intelligens, herunder dens

konsekvenser for mennesker og etik.

Hvidbogen bygger videre på Kommissionens strategi for kunstig intelligens,

der blev præsenteret den 25. april 2018.

Denne fokuserede både på socio-

økonomiske aspekter samt en forøgelse af investeringer i forskning, innova-

tion og kapabiliteter inden for kunstig intelligens. Strategien lagde desuden

op til udarbejdelsen af en koordineret plan for kunstig intelligens mellem

Kommissionen og medlemsstaterne, der blandt andet havde til formål at til-

passe strategier og tilskynde til samarbejde på tværs af grænser. Sidenhen

præsenterede Kommissionens meddelelsen

”Koordineret plan for kunstig in-

telligens” (KOM

(2018) 795) den 7. december 2018, der udpegede syv om-

råder, hvor medlemsstaterne burde koordinere deres indsatser med henblik

på at maksimere udbyttet af kunstig intelligens, herunder udviklingen af eti-

ske retningslinjer med et globalt perspektiv, der skulle sikre innovationsven-

lige retlige rammer.

Ligeledes har Kommissionen i 2018 og 2019 lagt stigende vægt på at øge

investeringerne i kunstig intelligens. Den koordinerede plan for kunstig intel-

ligens målrettede og omprioriterede blandt andet indsatser i EU inden for ek-

sisterende initiativer for kunstig intelligens i 2019 og 2020, og derudover blev

linjen lagt for de kommende programmer på området. Finansieringen for den

koordinerede plan henhører, således frem til afslutningen af den flerårige fi-

nansielle ramme, fra allerede eksisterende initiativer. I forlængelse heraf

fremsatte Kommissionen den 6. juni 2018 forslag til forordning om program-

met for et digitalt Europa for perioden 2021-2027 (KOM (2018) 434), hvor

Kommissionen i dets oprindelige forslag foreslog at afsætte 2,2 mia. euro til

kunstig intelligens. Programmet er et af flere underliggende sektorretsakter

til Kommissionens overordnede forslag til EU’s kommende flerårige finan-

sielle ramme for perioden efter 2020.

Herudover etablerede Kommissionen en højniveauekspertgruppe for kunstig

intelligens, der i april 2019 præsenterede sine etiske retningslinjer for pålide-

Kommissionens meddelelse ”Kunstig intelligens for Europa” (KOM

(2018) 237) fra

den 25. april 2018

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

lig kunstig intelligens. Disse omfattede menneskelige aktiviteter og tilsyn ud-

ført af mennesker; teknologisk robusthed og sikkerhed; privatlivets fred og

datastyring; gennemsigtighed, mangfoldighed, ikkediskrimination og retfær-

dighed; social og miljømæssig velfærd; samt ansvarlighed. I tillæg hertil of-

fentliggjorde Kommissionen den 8. april 2019

meddelelsen ”Opbygning af

tillid til menneskecentreret kunstig intelligens” (KOM (2019) 168), der havde

til formål at iværksætte en pilotfase med afprøvning af den praktiske anven-

delse af højniveauekspertgruppens etiske retningslinjer. Som opfølgning på

pilotfasen pågår der et arbejde i højniveauekspertgruppen med at revidere

retningslinjerne på baggrund af modtagen feedback. Dette arbejde forventes

færdiggjort i juni 2020 og forventes at bidrage til udviklingen af den kom-

mende europæiske lovgivningsramme for kunstig intelligens.

Formål og indhold

Formålet med hvidbogen er at fremlægge en tostrenget europæisk tilgang til

kunstig intelligens. Det første spor skitserer en investeringsorienteret indsats,

der gennem etableringen af en politisk ramme skal mobilisere ressourcer

langs hele værdikæden for at opnå et ekspertisemiljø. Det andet spor udstik-

ker en fremtidig lovgivningsramme, der skal sikre overholdelse af eksiste-

rende EU-lovgivning, give borgerne tillid til anvendelsen af kunstig intelli-

gens samt give den fornødne retssikkerhed til at innovere med kunstig intel-

ligens for at opnå et tillidsmiljø. I forbindelse med hvidbogen og dens indhold

lancerer Kommissionen en offentlig høring, der løber indtil den 19. maj.

Et ekspertisemiljø

Investeringsindsatsen har fokus på at skabe en politisk ramme, der skal un-

derstøtte, at indsatser på europæisk, nationalt og regionalt plan flugter med

hinanden og dermed skaber synergier. Ligeledes skal rammen være med til

at mobilisere ressourcer samt at skabe de rette incitamenter for at fremme

optagelsen af kunstig intelligens. Den politiske ramme søger i høj grad at ud-

nytte allerede velkendte instrumenter i programmerne for et digitalt Europa

samt Horisont Europa i relation til kunstig intelligens:

Samarbejde med medlemsstaterne

Under hensyntagen til resultaterne af den offentlige høring af hvidbogen vil

Kommissionen foreslå medlemsstaterne en revision af den koordinerede

plan. Målet er, at den reviderede koordinerede plan vedtages senest ved ud-

gangen af 2020.

Fokus på forsknings- og innovationssamfundets indsats

Kommissionen vil fremme oprettelsen af ekspertisecentre og testfaciliteter,

der kan kombinere europæiske, nationale og private investeringer. I relation

hertil har Kommissionen allerede foreslået finansiering til støtte for europæ-

iske testfaciliteter i verdensklasse under programmet for et digitalt Europa og

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

om nødvendigt suppleret af Horisont Europas midler som del af den flerårige

finansielle ramme for 2021-2027.

Færdigheder

Gennem søjlen for avancerede færdigheder i programmet for et digitalt Eu-

ropa skal der etableres netværk af førende universiteter og højere uddannel-

sesinstitutioner, og disse skal understøttes i at tiltrække de bedste undervisere

og forskere samt i at tilbyde kandidatuddannelser inden for kunstig intelligens

i verdensklasse. Kommissionen lægger op til at have særligt fokus på, at an-

delen af kvinder, der har uddannelse og arbejde inden for kunstig intelligens,

øges, samtidig med at arbejdsstyrkens generelle bevidsthed og viden om kun-

stig intelligens højnes.

Fokus på små og mellemstore virksomheder (SMV’er)

Kommissionen vil i samarbejde med medlemsstaterne etablere mindst én di-

gital innovationshub i hver medlemsstat med specialisering inden for kunstig

intelligens. Med forbehold for den endelig aftale om den flerårige finansielle

ramme for 2021-2027 vil Kommissionen og den Europæiske Investerings-

fond ligeledes lancere en pilotordning på 100 mio. euro i første kvartal af

2020 for at tilvejebringe egenkapitalfinansiering af innovativ udvikling inden

for kunstig intelligens.

Privatsektoren som partner

Under Horisont Europa vil Kommissionen etablere et nyt partnerskab mellem

den offentlige og private sektor inden for kunstig intelligens, data og robot-

teknologi.

Fremme anvendelsen af kunstig intelligens i den offentlige sektor

Kommissionen vil indlede sektordialoger, særligt med fokus på sundhedstje-

nester, forvaltninger i landdistrikter og operatører af offentlige tjenester, med

henblik på

at udarbejde et specifikt ”brug kunstig intelligens”-program,

der

skal understøtte offentlige indkøb af kunstig intelligens-systemer samt bi-

drage til at ændre procedurerne for offentlige udbud.

Sikring af adgang til data og databehandlingsinfrastruktur

Kommissionen fastslår, at forbedringen af adgang til data samt datastyring er

afgørende for udviklingen for kunstig intelligens. Den europæiske datastra-

tegi, der ligeledes blev præsenteret den 19. februar 2020, har blandt andet til

hensigt at forbedre adgangen til data og skal dermed komplementere

hvidbogen for kunstig intelligens.

Ligeledes anses investeringer i centrale

databehandlingsteknologier og -infrastruktur som vigtige, hvortil Kommissi-

onen under programmet for et digitalt Europa har foreslået at afsætte 4 mia.

euro til blandt andet at understøtte højt ydende data- og kvantebehandling.

Kommissionens meddelelse

”En

europæisk strategi for data”

(KOM

(2020) 66) fra den

19. februar 2020

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Internationale aspekter

Arbejdet med

at fremme EU’s tilgang til

etisk anvendelse af kunstig intel-

ligens på den globale scene skal videreføres med henblik på, at EU indtager

en lederrolle i udviklingen af internationale retningslinjer.

Et tillidsmiljø: Lovrammen for kunstig intelligens

Parallelt med indsatserne, der skal

promovere EU’s innovationskapacitet

samt konkurrenceevne i forhold til kunstig intelligens, foreslår Kommissio-

nen en europæisk lovgivningsramme for kunstig intelligens. Denne lovgiv-

ningsramme skal skabe tillid til kunstig intelligens ved at fremme en etisk og

menneskecentreret anvendelse af kunstig intelligens. Samtidig ønsker Kom-

missionen at undgå en fremtidig fragmentering af det indre marked, der

kunne opstå som følge af forskellige nationale reguleringsregimer for kunstig

intelligens.

I betragtning af, at kunstig intelligens er under hastig udvikling, finder Kom-

missionen, at de lovgivningsmæssige rammer bør give plads til at imøde-

komme ny udvikling. Ligeledes skal en ny lovgivningsmæssig ramme være

effektiv i forhold til at opnå det tilsigtede mål uden at være alt for præskriptiv,

hvilket risikerer at skabe uforholdsmæssigt store byrder,

især for SMV’erne.

For at opnå denne balance lægger Kommissionen op til en risikobaseret til-

gang, hvor anvendelsen af kunstig intelligens underlægges obligatoriske krav

afhængig af risikoniveauet. Kommissionen foreslår følgende regulerings-

mæssige initiativer:

Mulige tilpasninger af EU’s eksisterende lovramme

Kommissionen vil undersøge og eventuelt justere eksisterende EU-lovgiv-

ning, så der tages højde for kunstig intelligens. Dette særligt i relation til de

risici, teknologien kan have for grundlæggende rettigheder, forbrugerret-

tigheder samt produktsikkerhed- og ansvar. Eksempelvis fremhæver Kom-

missionen, at et resultat fra pilotfasen for anvendelse af de etiske retningslin-

jer har vist, at mens et antal af kravene allerede afspejles i eksisterende lov-

givning, er krav vedrørende gennemsigtighed, sporbarhed og menneskeligt

tilsyn ikke specifikt omfattet i den nuværende lovgivning inden for en række

sektorer.

Regulering af

”højrisiko”

kunstig intelligens gennem obligatoriske krav

Herudover vil Kommissionen fastsætte en europæisk risikobaseret lovgiv-

ningsramme til at tackle risici i forbindelse med anvendelse af kunstig intel-

ligens. Kommissionen skelner i den forbindelse mellem

”højrisiko”

og ikke-

”højrisiko”

anvendelse af kunstig intelligens. Anvendelsen af kunstig intelli-

gens anses som værende af høj risiko, når både sektoren og den tiltænkte an-

vendelse indebærer betydelige risici, særligt i forhold til beskyttelse af sik-

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

kerhed, forbrugerrettigheder og grundlæggende rettigheder. Derfor vil an-

vendelsen af kunstig intelligens klassificeres som

”højrisiko”,

hvis den op-

fylder to kumulative kriterier:

1. Anvendelsen af kunstig intelligens finder sted i en sektor, hvor der på

grund af de typiske aktiviteters karakteristiska kan forventes betyde-

lige risici. Den nye lovramme skal omfatte en udtømmende liste over

sådanne sektorer, der i Kommissionens optik blandt andet kan om-

fatte sundhedspleje, transport, energi og dele af den offentlige sektor,

herunder asyl, migration, grænsekontrol og retsvæsen, social sikring

og arbejdsformidling. Listen skal desuden være underlagt regelmæs-

sig revision.

2. Anvendelsen af kunstig intelligens finder sted på en måde, hvor der

sandsynligvis vil opstå risici. Vurderingen af risikoniveauet for en gi-

ven anvendelse kan baseres på konsekvenserne for de berørte parter,

eksempelvis en anvendelse, der medfører en risiko for personskade,

død eller væsentlig materiel eller immateriel skade, eller som har

virkninger, der ikke med rimelighed kan undgås.

Derudover kan der være særlige tilfælde, hvor anvendelsen af kunstig intel-

ligens kan anses som indebærende høj risiko, uanset hvilken sektor der er tale

om. Det kan blandt andet omhandle ansættelsesprocedurer; situationer, der

påvirker arbejdstagerens rettigheder; biometrisk fjernidentificering og andre

indgribende overvågningsteknologier.

Såfremt en anvendelse af kunstig intelligens kategoriseres som

”højrisiko”,

lægger Kommissionen op til, at denne anvendelse skal leve op til en række

obligatoriske krav. Disse går ud over den eksisterende EU-lovgivning, der

allerede dækker denne anvendelse. Disse obligatorisk krav skal verificeres

gennem en forudgående overensstemmelsesvurdering, der kendes fra det har-

moniserede vareområde, og som indeholder blandt andet test, inspektion og

certificering.

I udvælgelsen af krav har Kommissionen taget højde for højniveaueksperts-

gruppens retningslinjer og udvalgt følgende centrale elementer, der bør indgå

i kravene. Disse skal yderligere konkretiseres for at give juridisk sikkerhed:

1. Oplæringsdata:

Der skal stilles krav til den data, som kunstig intelli-

gens oplæres efter. Disse data skal blandt andet være tilstrækkeligt

brede og repræsentative samt omfatte alle relevante scenarier for at

undgå farlige situationer og diskrimination. Ligeledes skal det sikres,

at privatlivets fred samt personoplysninger er tilstrækkeligt beskyttet

gennem anvendelsen af kunstig intelligens.

2. Registrering og data:

Der skal stilles krav til opbevaring af optegnel-

ser og dokumentation i en rimelig periode, således at det bliver muligt

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

at verificere regelefterlevelse. Kommissionen foreslår, at opbevarin-

gen bør omfatte en beskrivelse af de væsentlige karakteristika af da-

tasættene samt udvælgelse heraf, og i visse begrundede tilfælde selve

datasættene, dokumentation for programmering og metodologi samt

processer og teknikker anvendt til at opbygge, teste og validere syste-

met.

Oplysninger, der skal udleveres:

Der skal proaktivt gives fyldestgø-

rende oplysninger om brugen af

”højrisiko”

kunstig intelligens-syste-

mer, eksempelvis til aktører, der udbreder systemerne, kompetente

myndigheder samt berørte parter. Kravene hertil omhandler det på-

gældende systems muligheder og begrænsninger. Ligeledes skal bor-

gere særskilt informeres om, hvornår de interagerer med en kunstig

intelligens, såfremt det ikke med det samme er tydeligt for borgeren.

Robusthed og nøjagtighed:

Der skal stilles krav om, at systemer, der

bygger på kunstig intelligens, er robuste og nøjagtige gennem alle fa-

ser af livscyklussen, at resultater er reproducerbare, at systemerne kan

håndtere fejl i løbet af livscyklussen, og at systemerne er modstands-

dygtige over for angreb samt manipulation med data og algoritmer.

Menneskeligt tilsyn:

Der skal stilles krav til en passende menneskelig

involvering. Typen og graden af menneskeligt tilsyn kan variere af-

hængigt af den konkrete “højrisiko”-anvendelse”,

men kan blandt an-

det komme til udtryk gennem menneskelig validering af de genere-

rede resultater, monitorering og deaktivering af kunstig intelligens-

systemer i realtid eller driftsmæssige begrænsninger på kunstig intel-

ligens-systemer.

Specifikke krav til visse særlige anvendelser af kunstig intelligens så-

som biometrisk fjernidentificering:

Endelig lægger Kommissionen

op til en bred drøftelse af, hvilke specifikke omstændigheder, der i

overensstemmelse med EU’s databeskyttelsesregler og grundlæg-

gende rettigheder, kan berettige brug af kunstig intelligens til bio-

metrisk identifikationsformål såsom ansigtsgenkendelse i det of-

fentlige rum.

Frivillig mærkning af anvendelser af kunstig intelligens, der ikke indebærer

høj risiko

For den anvendelse af kunstig intelligens, der ikke ligger inden for kategorien

”højrisiko”

og derved ikke er omfattet af ovenstående obligatoriske krav,

lægger Kommissionen op til at etablere en frivillig mærkningsordning. Kom-

missionen fremlægger flere muligheder for, hvordan mærkningsordningen

kan struktureres. En mulighed er, at mærket knyttes til en frivillig overhol-

delse af de samme krav som gøres obligatoriske for

”højrisiko”-kategorien.

En anden mulighed er, at der formuleres en række krav til pålideligheden af

kunstig intelligens, som ligger ud over de lovgivningsmæssige krav, og som

en økonomisk operatør frivilligt kan underlægge sig for at opnå mærkningen.

Deltagelse i mærkningsordningen vil være frivillig, men når først en operatør

indgår i ordningen, bliver kravene bindende.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Forvaltning

Kommissionen vurderer desuden, at det er nødvendigt med en ny europæisk

forvaltningsstruktur for kunstig intelligens for at facilitere samarbejdet mel-

lem nationale kompetente myndigheder og for at sikre, at EU har den rette

kapacitet, der er nødvendig for at teste og certificere kunstig intelligens.

Denne nye forvaltningsstruktur kan have en række forskellige opgaver og

fungere som et forum for regelmæssig udveksling af oplysninger og bedste

praksis, hvor nye tendenser identificeres, og der gives råd om standardisering

og certificering. Styringsstrukturen og de eventuelle overensstemmelsesvur-

deringer skal ikke påvirke de beføjelser og ansvar, der allerede gælder for

kompetente myndigheder under eksisterende EU-lovgivning såsom forbru-

ger- og databeskyttelse.

Europa-Parlamentets udtalelser

Europa-Parlamentet har endnu ikke udtalt sig om hvidbogen. Dog vedtog Eu-

ropa-Parlamentet en resolution den 12. februar 2020

, hvori Kommissionen

blandt andet opfordres til at kontrollere eksisterende lovgivning samt at un-

dersøge, hvorvidt der er behov for yderligere tiltag til at garantere beskyttelse

af forbrugere i konteksten af kunstig intelligens og automatiserede beslutnin-

ger.

Nærhedsprincippet

Ikke relevant.

Gældende dansk ret

Ikke relevant.

Konsekvenser

Lovgivningsmæssige konsekvenser

Hvidbogen har i sig selv ikke lovgivningsmæssige konsekvenser. Indhol-

det kan dog senere udmøntes i konkrete retsakter, der kan medføre lovgiv-

ningsmæssige konsekvenser.

Økonomiske konsekvenser

Hvidbogen har i sig selv ingen direkte økonomiske konsekvenser. Indhol-

det kan dog senere udmøntes i konkrete retsakter, der kan medføre økono-

miske konsekvenser.

Europa-Parlamentets

resolution fra den 12. februar 2020 om ”Automatiserede beslut-

ningsprocesser: Sikring af forbrugerbeskyttelse og fri bevægelighed af varer og tjene-

ster”

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Andre konsekvenser og beskyttelsesniveauet

Hvidbogen er ikke en retsakt og har derfor i sig selv ingen påvirkning af be-

skyttelsesniveauet eller administrative konsekvenser for dansk erhvervsliv.

Indholdet kan dog senere udmøntes i konkrete retsakter, der kan medføre

væsentlige konsekvenser for erhvervslivet, herunder administrative konse-

kvenser for danske virksomheder, samt den offentlige sektors anvendelse

af kunstig intelligens.

Høring

Hvidbogen er sendt til høring i EU-specialudvalget for konkurrenceevne,

vækst og forbrugerspørgsmål den 20. februar 2020 med frist for bemærknin-

ger den 4. marts 2020. Der er modtaget svar fra Akademikerne, Dansk Er-

hverv, Dansk Industri, Danske Maritime, Dansk Standard, Finans Danmark,

Forbrugerrådet Tænk, Forsikring & Pension, Ingeniørforeningen IDA, IT-

Branchen, Kommunernes Landsforening, Landbrug & Fødevarer og TDC.

Generelle bemærkninger

Akademikerne

bakker op om Kommissionen plan om at styrke EU-ind-

satsen i forhold til kunstig intelligens. Kunstig intelligens vil også frem-

over komme til at spille en stor rolle for blandt andet forebyggelse og hel-

bredelse inden for sundhedsvæsnet og har frigjort arbejdstid til gavn for

patienter og hele sundhedssektoren. Det er imidlertid vigtigt, at der fortsat

satses meget målrettet på at sikre finansiering til brug af kunstig intelli-

gens i alle sektorer samt at gøre forståelse og brug af kunstig intelligens

til en integreret del af såvel grunduddannelser som efteruddannelser.

Dansk Erhverv (DE)

genkender Kommissionens fremstilling af de

mange potentialer i kunstig intelligens og bakker generelt op om Kom-

missionens strategi for at sætte aftryk på fremtidens digitale verden.

ser positivt på Kommissionens arbejde med at skabe regulatorisk sik-

kerhed omkring kunstig intelligens og skabe klare rammer, der hviler på

europæiske værdier og forbrugerbeskyttelse. DE mener, at det er afgø-

rende, at den fremtidige regulering gennemføres på en balanceret måde,

der fremmer klarhed og konkurrencekraft. Det er også vigtigt, at regule-

ringen bliver så lidt byrdefuld som muligt, så også Europas mange

SMV’ere kan få gavn af udviklingen. Kommissionens hvidbog er i sagens

natur af overordnet og foreløbig karakter, og den endelige udformning af

reglerne bliver derfor afgørende for at følge ambitionen til dørs.

støtter Kommissionens arbejde med at udvikle kunstig intelligens og

sikre, at denne udvikling sker ansvarligt, sikkert og trygt for både euro-

pæiske virksomheder og borgere. DE deler Kommissionens synspunkt

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

om, at eksisterende europæiske lovgivning skal optimeres for at sikre, at

der tages højde for de særlige muligheder

–

men også udfordringer

–

som

kunstig intelligens giver anledning til, herunder særligt vedrørende sik-

ring af fundamentale rettigheder som privatliv og frihed for diskrimina-

tion, samt sikkerhed for fri konkurrence, overholdelse af forbrugerret-

tigheder og ansvar for produktansvar.

ser store muligheder i Kommissionens strategi, men opfordrer til, at

de tiltag, der tages med på baggrund af denne strategi, får en levetid ud

over de 5 år. Kommissionen bør derfor sikre sig, at ethvert tiltag som led

i denne strategi også har et langsigtet mål.

Dansk Industri

kan med tilfredshed konstatere, at Kommissionen lægger

op til at etablere en ambitiøs indsats, der skal sikre digital ansvarlighed i

anvendelsen og udviklingen af kunstig intelligens. Et væsentligt aspekt

ved den fremtidige udvikling og anvendelse af kunstig intelligens er,

hvad vi anvender kunstig intelligens til, og hvordan vi anvender kunstig

intelligens, så de beslutninger, resultater eller anbefalinger, der udsprin-

ger fra kunstig intelligens, er troværdige. Det vil blandt andet sige, at det

er beslutninger, resultater og anbefalinger, som man kan stole på, herun-

der at de er korrekte, ikke-diskriminerende og generelt ikke krænker fun-

damentale menneskerettigheder.

fremhæver, at EU-landene skal være de bedste i verden til at bruge

data og kunstig intelligens på en ansvarlig måde, der som en selvfølge re-

spekterer og passer på personlige eller fortrolige oplysninger. Det kan

blive en stor fordel for danske og europæiske virksomheder, hvis det gri-

bes rigtigt an

–

særligt når der skal reguleres på området.

Danske Maritime

deler ambitionen i Kommissionens hvidbog, om at Eu-

ropa skal være førende inden for udvikling og udnyttelse af kunstig intelli-

gens for derved at bevare Europas førerposition inden for en lang række er-

hvervssektorer, herunder den maritime

–

en udvikling, der skal komme alle

borgere og virksomheder i Europa til gavn. Kunstig intelligens skal anvendes

på en sikker og ansvarlig måde, og det skal sikres, at data er pålidelige, før de

tages i brug.

Danske Maritime

fremhæver, at den maritime industri ser store muligheder

for øget brug af kunstig intelligens, herunder ikke mindst i forhold til udvik-

lingen af såkaldte

”smart

ships”.

”Smart

ships” omfatter ikke udelukkende

autonome skibe, der er førerløse, men som styres og opereres fra land. Det

gælder også eksisterende skibe, som opgraderes med nye digitale løsninger.

Det gælder blandt andet inden for driftsoptimering af tekniske systemer om

bord i skibene. Ved hjælp af kunstig intelligens kan skibsmotorerne og frem-

drivningssystemerne eksempelvis diagnosticeres og optimeres løbende. Der-

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

ved optimeres energiforbruget, og spild minimeres. Kunstig intelligens kom-

bineret med ”machine learning” kan derudover styrke overvågningen

og ana-

lyserne i forhold til alle de avancerede tekniske systemer, som findes om bord

på et moderne skib og samtidig sikre en bedre integration af disse systemer,

herunder at hvert system opererer tættest muligt på sit optimum. Det vil sam-

let set sikre, at skibe fremadrettet opnår en bedre og mere bæredygtig drift.

Danske Maritime

gør ligeledes opmærksom på, at den europæiske maritime

industri har stor fokus på at udvikle digitale løsninger, der kan mindske skibs-

fartens miljø- og klimapåvirkning, og samtidig øge den maritime sikkerhed,

så ulykker med skibe undgås. De danske maritime virksomheder er på mange

områder helt i front i forhold til at arbejde med ”smarte” maritime løsninger.

En del af arbejdet herhjemme er forankret i det offentlig-private maritime

partnerskab ShippingLab, men også ude i de enkelte virksomheder arbejdes

der med smarte løsninger.

Finans Danmark

finder det vigtigt med en klar europæisk stillingtagen til

kunstig intelligens og hilser derfor Kommissionens hvidbog velkommen. Fi-

nans Danmark ser store muligheder i brugen af kunstig intelligens. Kunstig

intelligens giver mulighed for, at Europa kan øge velstanden for borgerne og

sætte skub i væksten for virksomhederne. I banksektoren betyder det, at man

blandt andet vil kunne forbedre kundeoplevelsen, øge cybersikkerheden, øge

forbrugerbeskyttelsen og styrke risikostyringen. Det vil understøtte bekæm-

pelsen af økonomisk kriminalitet, herunder hvidvask

Finans Danmark

fremhæver, at det er vigtigt politisk at adressere både mu-

ligheder og udfordringer, som en øget brug af kunstig intelligens kan og vil

medføre. Finans Danmark er derfor enig i behovet for en politisk stillingtagen

til kunstig intelligens-teknologiens muligheder med særligt afsæt i europæi-

ske værdier for samfundsudviklingen.

Finans Danmark

bemærker, at det er vigtigt at opretholde et højt niveau af

kundebeskyttelse, som blandt andet vil sikre, at kunderne har/får tillid til kun-

stig intelligens. Anvendelse af kunstig intelligens ændrer ikke ved det over-

ordnede ansvar - der skal altid være en person eller virksomhed, som er an-

svarlig for, hvordan en kunstig intelligens fungerer. Dem, som udbyder kun-

stig intelligens, skal sørge for, at den kunstige intelligens overvåges, og at det

regelmæssigt vurderes, om den virker efter hensigten (risikobaseret tilgang).

Kunder skal kunne få oplysninger om, hvorvidt de direkte bliver udsat for

kunstig intelligens. Samtidig er det vigtigt at sikre lige vilkår for alle brancher

og geografier. Dette er af afgørende betydning for at sikre øget og hensigts-

mæssig anvendelse af kunstig intelligens i den danske som europæiske bank-

sektor.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Forbrugerrådet Tænk

støtter overordnet EU-Kommissionens hvidbog.

Brug af kunstig intelligens kan utvivlsomt have gavnlige effekter på sam-

fundsniveau, hvor forudsigelser fra data kan bidrage til at begrænse klima-

forandringer, inddæmme smittespredning, forbedre transportforhold og gen-

nemskue it-kriminalitet. I forhold til fordelene for forbrugere og borgere an-

vender millioner af mennesker allerede kunstig intelligens i dag gennem mo-

biltelefoner, apps, spil og digitale platforme. Særligt i Danmark er den offent-

lige sektor også gået i gang med at styrke diagnosticering og behandling ved

brug af kunstig intelligens.

Forbrugerrådet Tænk

fremhæver, at brugen af kunstig intelligens i den

offentlige sektor imidlertid også har givet anledning til en vis kritik, fordi

balancen mellem samfundsinteresser og beskyttelse af individets privatliv

kan tippe, når personer profileres og rankes med risiko for stigmatisering

til følge. Derfor er det positivt, at EU-Kommissionen er meget opmærk-

som på, at kunstig intelligens med genbrug af data, uigennemsigtige algo-

ritmer og profilering åbner for risici, som er væsentlige at tage hånd om.

Dette gælder ikke kun i forhold til diskrimination, bias og stigmatisering,

men også privatlivsbeskyttelse, øget risiko for it-svindel og manglende

forbrugerbeskyttelse ved køb af internet-forbundne produkter.

Forbrugerrådet Tænk

er tilhænger af tankegangen om, at Europa skal

blive en ligeværdig, global spiller indenfor brugen af kunstig intelligens,

men hvor omdrejningspunktet er at understøtte den demokratiske model,

de europæiske værdier og forbrugerrettigheder. Målet må altså være at

fremme konkurrenceevnen i forhold til USA og Kina, men med et mar-

kant andet fokus. Teknologien skal ikke blot være til gavn for virksom-

hedsvækst og effektivisering af europæiske samfund. Den skal konkret

skabe værdi og nytte for individet, gøre rettigheder og privatlivsbeskyt-

telse til et konkurrenceparameter og understøtte en (anden) ”europæiske

vej”. En vej som er kendetegnet

ved en hensigtsmæssig implementering

af nye teknologier.

Forsikring & Pension

støtter Kommissionens ambitiøse plan om at sikre

principbaserede rammer for etisk, troværdig kunstig intelligens, der beskytter

borgernes rettigheder og samtidig sikrer virksomhederne mulighed for at ud-

nytte de mange muligheder, der ligger i teknologien. Forsikring & Pension er

overordnet enig med Kommissionen i behovet for at afdække eksisterende

lovgivning, der regulerer kunstig intelligens, før der skrides til nye lovgiv-

ningstiltag. En fælleseuropæisk og afbalanceret regulering af kunstig intelli-

gens er vigtig for at muliggøre det potentiale, som teknologien rummer for

øget innovation og effektivisering.

Forsikring & Pension

ser, at kunstig intelligens rummer et stort potentiale

for forsikrings- og pensionsbranchen, der i høj grad er en datadrevet branche.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Kunstig intelligens anvendes allerede inden for branchen som støtteværktø-

jer, primært i forbindelse med automatisering og effektivisering af interne

processer, som ingen effekt har på kundernes rettigheder. Det kan eksempel-

vis være en softwarerobot, der - ud fra indholdet af en kundes e-mailadresse

- kan hjælpe med at allokere sagen til den rette sagsbehandler og finde den

rette svarblanket frem på forhånd for at effektivisere sagsbehandlingen og

dermed begrænse svartiden. Derudover anvendes almindelige robot automa-

tiseringsprocesser eksempelvis i forbindelse med straks-udbetaling af erstat-

ninger.

Ingeniørforeningen IDA (IDA)

er overordnet meget positive over for ud-

spillet. Kunstig intelligens er på vej til at blive et vigtig teknologisk skridt op

ad den digitale trappe. Der er store muligheder for at give hele digitaliserin-

gen et kvantespring fremad, men det er overordentlig vigtigt, at vi finder en

måde at bruge kunstig intelligens på, som styrker vores værdier omkring bor-

gerrettigheder, velfærdssamfund og frihedsidealer.

IDA

mener, at den store fordel, som vi kan få med brug af kunstig intelligens,

er, at vi kan opgradere de digitale fordele, som vi har i dag, ved at sammen-

sætte en langt bredere og mere avanceret pallette af informationer fra mange

forskellige typer kilder, og ikke mindst at vi kan gøre det hurtigere og billi-

gere. Men når informationer, persondata, billeder og tekstbeskeder kan sam-

les billigt og hurtigt, så bliver det også langt lettere for både offentlige myn-

digheder og private virksomheder at skabe perfekte personprofiler, forudsige

hvem, der vil gøre hvad, og ikke mindst påvirke borgere eller kunder til at

agere på en bestemt måde, eksempelvis at stemme på et bestemt parti eller gå

en anden vej end planlagt. Ofte vil det være fuldstændig umuligt for den en-

kelte borger at gennemskue, hvem der har hvilke oplysninger, hvad de bliver

brugt til, og med hvilket formål. Det er derfor afgørende vigtigt, at vi sætter

nogle rammer op for, hvordan vi vil bruge kunstig intelligens, så vi får forde-

lene, hvor vi ønsker det, og sætter begrænsninger der, hvor brugen af kunstig

intelligens kan være med til at underminere tilliden til digitalisering. IDA er

derfor meget positive over for Kommissionens

tilgang om at “…it is vital that

European artificial intelligens is grounded in our values and fundamental

rights such as human digity and privacy protection.”

IDA

er med dette udgangspunkt meget positivt indstillet over for målet om,

at Europa skal være en global leder i innovation, i dataøkonomi og i digitale

anvendelsesmuligheder. Kunstig intelligens kan lede til store forbedringer i

henhold til vidensindsamling og praktisk håndtering af miljø- og klimapro-

blemer, samt til transport og sundhedssektorerne og den offentlige sektor.

IDA kan dermed bakke op om den dobbelte tilgang til kunstig intelligens,

som beskrevet med målsætningerne om at skabe et ekspertisemiljø i gensidig

afhængighed med et tillidsmiljø.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Kommunernes Landsforening (KL)

vurderer, at hvidbogen berører en

række relevante elementer, som er væsentlige at forholde sig til, når man ar-

bejder med kunstig intelligens. Men samtidig er det også indtrykket, at hvid-

bogen ikke løser de udfordringer, som den offentlige - og private - sektor

oplever i forhold til kunstig intelligens. Dette gælder blandt andet GDPR

–

og databeskyttelsesloven, hvor der er eksempler fra kommuner, som oplever,

at det er uklart, hvordan data må anvendes i forbindelse med træning og

gentræning af algoritmer som følge af databeskyttelsesloven og GDPR. Med

Kommissionens ønske om at potentialerne med kunstig intelligens skal ud-

nyttes, er det også nødvendigt, at rammerne for at bruge data til formålet ty-

deliggøres. KL ser ligeledes, at hvidbogen ikke tilstrækkeligt fokuserer på

informationssikkerhed og kunstig intelligens, altså hvilke forhold brugerne

særligt skal være opmærksomme på i den sammenhæng.

fremhæver, at der i hvidbogen understreges vigtigheden af, at medlems-

landene har en fælles tilgang til arbejdet med kunstig intelligens. Ikke desto

mindre har Finansministeriet i Danmark for nyligt udgivet en vejledning om-

kring informationssikkerhed og kunstig intelligens, lige såvel som der er lavet

dataetiske principper til brug for arbejdet med blandt andet kunstig intelli-

gens. For den enkelte kommune kan det være svært at navigere og gennem-

skue, hvordan de forskellige vejledninger og anbefalinger skal ses sammen.

mener, at der er gode grunde til at overveje, om EU-landene kan lave

fælles fodslag omkring anvendelsen af kunstig intelligens. Dette afspejles i

den store opmærksomhed på anvendelse af kunstig intelligens, og ikke

mindst de mange bekymringer, der er i forlængelse af forventningen om mar-

kant øget anvendelse af data om hver enkelt borger. Oplægget virker ikke

færdiggjort. Dette kan formentlig henføres til, at der fortsat er behov for såvel

afklaringer af potentialer og muligheder i en offentlig kontekst i både Dan-

mark og andre lande, og at der er behov for politiske afvejninger af, hvordan

vi ønsker at anvende kunstig intelligens.

Landbrug & Fødevarer (L&F)

deler Kommissionens syn på, at der er store

perspektiver og potentialer i kunstig intelligens-teknologien, og at en afgø-

rende faktor for god anvendelse og optag af denne teknologi er, at tilliden til

teknologien og den anvendelse sikres. Kunstig intelligens har potentialet til

at sikre hurtigere og mere ensartede afgørelser, men den nye teknologi må

ikke anvendes på bekostning af borgernes retssikkerheden.

TDC

værdsætter Kommissionens stærke fokus på det digitale område. Det

er TDC’s opfattelse, at digitalisering af Danmark, danske virksomheder og

den offentlige sektor i høj grad skal bidrage til at skabe succeser i den globale

økonomi og sikre, at vi fortsat har et af de bedste velfærdssamfund i verden.

TDC

savner helt overordnet en definition af, hvad kunstig intelligens er i

Kommissionens hvidbog. Det er ikke nyt at benytte statistiske modeller til at

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

træffe beslutninger. Derfor er det afgørende, at man klart får defineret, hvor-

når anvendelsen af statistik og store datamængder anses for at være kunstig

intelligens.

Specifikke bemærkninger

Et ekspertisemiljø

Fokus på forsknings- og innovationssamfundets indsats

Akademikerne

fremhæver, at for at sikre at kunstig intelligens-arbejdet

ikke koncentreres og alene finder sted på få store virksomheder, foreslår

Akademikerne, at EU understøtter udviklingen af et robust økosystem for

iværksættere. Endvidere er der behov for udviklingen af test- og udvik-

lingsfaciliteter inden for kunstig intelligens på områder, hvor EU allerede

har styrkepositioner som blandt andet sundhed, life-science, landbrug og

fintech. I den forbindelse er det værd at understrege, at de eksisterende

EU-programmer og adgang til finansiering via disse administrativt er

tunge og derfor svære for SMV’er at deltage i. EU-reguleringen

vedrø-

rende kunstig intelligens bør derfor sikre, at også SMV’er

kan deltage i

samarbejde med ledende industrier og vidensinstitutioner.

er helt enig med Kommissionen i, at EU ikke skal tage til takke med

at være passive brugere af avancerede digitale teknologier som kunstig

intelligens, men at europæiske virksomheder skal være aktive udviklere

og producenter. Vi har simpelthen ikke råd til at lade være. Danmark kan

blive 35 mia. kr. rigere hvert år, hvis vi satser mere på kunstig intelligens,

visser en analyse fra Innovationsfonden.

mener, at det blandt andet kræver, at vi lægger os i selen på forsk-

ning.

Kommissionen opgør, at “some €3.2 billion were invested in

artifi-

cial intelligence

in Europe in 2016, compared to around €12.1 billion in

North America and €6.5 billion in Asia”.

DE mener, at det skal være

langt mere attraktivt at investere i forskning og udvikling og foreslår at

give fradrag på 130 procent for investeringer i forskning og udvikling.

DE ønsker også at fremme samarbejdet mellem universiteter og virksom-

heder

– herunder med SMV’ere. Ikke mindst

startups vil få gavn af et

styrket samarbejdet med universiteter og andre vidensinstitutioner.

er helt enig i analysen i Kommissionens hvidbog om, at der er behov

for meget signifikante forøgelser af de forsknings- og udviklingsmidler,

der allokeres til forskning inden for kunstig intelligens. DE er endvidere

enig i, at der er behov for at prioritere europæiske områder, hvor Europa

kan agere internationalt fyrtårn såsom inden for sundhed. DE kunne dog

ønske, at handel blev tilføjet listen over mulige styrkepositioner. Det er

ikke nok at udvikle nye produkter og løsninger, de skal også sælges.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

bemærker, at man med interesse følger nye instrumenter, som udby-

des af den Europæiske Investeringsfond (EIF), og at DE gerne ser, at man

fra dansk side samarbejder med EIF om udvikling og udbredelse af rele-

vante instrumenter. Som udgangspunkt lægger DE vægt på, at instrumen-

terne er fleksible og har en passende risikoprofil. Særskilt bakker DE op

om, at Kommissionen og EIF udbyder et pilotprojekt med fokus på egen-

kapitalfinansiering af udviklingsprojekter med fokus på kunstig intelli-

gens. I et gennemtænkt og velafprøvet set-up vurderer DE, at der er stort

potentiale i at rulle et sådant projekt ud i stor skala.

Danske Maritime

ser, at hvidbogen indeholder mange gode initiativer, som

bestemt kan bidrage til udvikling og implementering af kunstig intelligens

inden for det maritime erhverv og udnyttelsen heraf. Det er naturligvis vig-

tigt, at de i hvidbogens

omtalte skabelse af ”excellence and testing centres”

har fokus på det maritime område. Dette gælder også i forhold til initiativet

til styrkelse af de digitale uddannelser og kompetencer på de europæiske

forsknings- og uddannelsesinstitutioner.

Danske Maritime

bemærker, at for den europæiske, herunder den danske,

maritime industri er det afgørende, at der afsættes de nødvendige midler til

forskning, udvikling og innovation inden for industrien, så industrien kan

bevare sin førerposition inden for udvikling og produktion af komplekse og

højteknologiske maritime produkter og løsninger. Det gælder eksempelvis i

forbindelse med arbejdet under Waterborne Technology Platform, som fo-

kuserer på udvikling produkter og løsninger, der kan gøre maritim transport

i Europa miljø- og klimaneutral fra 2030 og derefter, og som derved støtter

op om Kommissionens Green Deal fra december 2019. Arbejdet under plat-

formen har stor fokus på digitalisering og udnyttelse af kunstig intelligens

inden for det maritime.

IDA

mener, at Europa har forskningsmæssigt et godt udgangspunkt for et

ekspertisemiljø. Det er imidlertid vigtigt, at vi yderligere styrker forsknin-

gen i kunstig intelligens for at sikre en fortsat stærk position, da viden og

evnen til at forstå og udvikle kunstig intelligens er afgørende for at kunne

skabe og fastholde kravet til et tillidsmiljø. Europa skal ikke være af-

hængig af produkter og systemer, som ikke fungerer tilfredsstillende i

forhold til denne målsætning, og vi skal ikke være ”afhængige” af kriti-

sable monopolsystemer som eksempelvis Eacebook og Googles’ services.

Et tillidsmiljø kræver en forbedret konkurrencesituation med et stærkt

marked af konkurrencedygtige alternativer, der lever op til de europæiske

idealer.

IT-Branchen

mener, at Europa skal investere endnu mere i at bevare sin

styrkeposition som førende inden for forskning i kunstig intelligens, men

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

også i høj grad investere i at få denne viden kommercialiseret til nye virk-

somheder og vækst i Europa. IT-Branchen vurderer, at dette er et område,

der skal adresseres, og at der med fordel kan skabes nye initiativer, der

bygger bro mellem akademia og erhvervslivet.

L&F

støtter tiltag til investeringer til udvikling af kunstig intelligens-tekno-

logien samt bedre samarbejde på tværs af Europa om videre udvikling. Land-

brugserhvervet er en del af den danske kunstig intelligens-strategi, og L&F

forventer at kunne nyde stor gavn af videre udvikling, og også at landbrugs-

og fødevareområdet bør være central i kommende udvikling i Europa.

TDC

støtter indsatsen for at styrke og forbinde kunstig intelligens-forskning

gennem etableringen af fælles europæiske ekspertisecentre. TDC opfordrer

til, at EU udvælger områder, hvor EU har et særskilt og unikt ’videns-for-

spring’, som man vil satse

på. På samme vis bør EU udvælge områder inden

for kunstig intelligens (eksempelvis

”machine-learning”, ”deep-learning”

mv.), som man bør satses på. Frontløbernationerne fra første bølge af kun-

stig intelligens er allerede foran på den næste bølge, og derfor bør man fra

europæisk side satse på udvalgte kunstig intelligens-teknologier inden for

udvalgte sektorer, eksempelvis søfartsområdet, landbruget, grønne teknolo-

gier og velfærdsområdet, for at skærpe vores muligheder for at konkurrere.

Færdigheder

ser, at der er brug for et bredt, digital kompetenceløft på tværs af uddan-

nelser

–

fra folkeskole, over ungdomsuddannelser og videregående uddan-

nelser til voksen- og efteruddannelse. Det handler om alt fra teknologiforstå-

else i grundskolen til stærke digitale ungdomsuddannelser og uddannelse af

flere it-specialister. Det gælder således digitalisering i almindelighed, og altså

også kunstig intelligens. Fremtiden fortæller os, at 9 ud af 10 job kræver di-

gitale færdigheder. 44% af EU's borgere har dog stadig ikke engang grund-

læggende digitale færdigheder - derfor er det positivt, at Kommissionen læg-

ger vægt på dannelse af færdigheder inden for digitalisering.

IDA

ser frem til fremlæggelsen af ”Skills Agenda”, og en strategi

for hvordan

vi sikrer de europæiske kompetencer i forhold til at håndtere og udnytte mu-

lighederne i kunstig intelligens bedste muligt. IDA er enig i, at et tillidsmiljø

kræver et generelt fokus på opkvalificering af hele den europæiske befolk-

ning - fra en indsats på folkeskoleniveau, til skabelsen af et fælles europæisk

forsknings- og udviklingsmæssigt fyrtårn. Øget digitalisering og brug af kun-

stig intelligens kræver en tilsvarende øget robusthed i befolkningen, eksem-

pelvis i forhold til personificerede reklamer, politiske budskaber og udoku-

menterede digitale nyhedsstrømme på sociale medier. Det bedste middel mod

”fake news” er borgernes sunde fornuft og dømmekraft. Det kalder på en

styrket oplysningsindsats.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

IDA

ser også i forhold til at styrke danske SMV’ers brug af kunstig intelli-

gens, at en kompetencestyrkende indsats er vigtig for at sikre en dansk fører-

position i tillidsmiljø-indsatsen. IDA henviser til arbejdet i SIRI-Kommissi-

onen.

IDA

mener, at for at udnytte Danmarks fulde potentiale inden for forsknings-

kompetencer for kunstig intelligens kan vi med fordel fokusere på den del af

området, som bedst er understøttet af vores værdier og kultur. Danmark skil-

ler sig mest markant ud fra både USA og Kina gennem et langt højere fokus

på værdier som fællesskab, lighed, livskvalitet, sikkerhed, hensyntagen til an-

dre, samarbejde og konsensus. Dette stemmer fint overens med Kommissio-

nens tillidsmiljø. Samtidig er IDA meget enig i Kommissionens målsætning

om at skabe et forskningsmæssigt fyrtårn, der i øget grad kan fastholde de

store talenter i europæiske virksomheder og forskningsmiljøer.

IDA

finder, at en styrkelse af implementeringskompetencerne vil være med

til at undgå, at man spilder afgørende ressourcer på at forsøge at automatisere

opgaver og processer, som teknologien måske endnu ikke er moden til

–

overser andre automatiseringsmuligheder, som måske teknisk ligger langt

mere lige for. For at kunne lave disse vurderinger kræves en generel opkva-

lificering af forståelsen af kunstig intelligens og digitalisering, ikke mindst

vedrørende styrker og svagheder, muligheder og begrænsninger samt etiske

aspekter. At styrke implementeringskompetencer er en opgave, som univer-

siteter og de Godkendte Teknologiske Serviceinstitutter med fordel kan op-

bygge en kapacitet til.

IDA

mener, at operationskompetencer er relevante for medarbejdere som an-

vender eller interagerer med kunstig intelligens-løsninger. Det kan eksempel-

vis være hospitalspersonale, som skal omgås transportrobotter eller anvende

Kunstig intelligens-systemer til diagnosticering eller kirurgi. Også her kræ-

ves en overordnet forståelse af kunstig intelligens og dets styrker og svaghe-

der, således at man forstår, hvilke muligheder og begrænsninger de forskel-

lige systemer har, og er i stand til at vurdere, hvornår der er behov for, at et

menneske overtager styringen, eksempelvis hvis en robot fejlfortolker en si-

tuation, eller et diagnosticeringssystem kommer med en usandsynlig diag-

nose. Eftersom kunstig intelligens-systemer sjældent er 100% fejlfri, kan vi

ikke lade dem løse alle problemer selv. Det kræver som minimum, at medar-

bejderne har en overordnet forståelse af, hvordan den slags systemer virker,

og hvornår der er behov for, at et menneske stopper eller ændrer i systemets

handlinger og beslutninger.

IDA

mener samtidig, at med at en øget brug af kunstig intelligens og auto-

matisering skaber et større behov for medarbejdere med tekniske evner, ska-

ber teknologien også et øget behov for de svært automatiserbare generiske

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

menneskelige kompetencer som sproglig intelligens, social intelligens, kri-

tisk sans og evnen til at samarbejde. Det er relevant særligt i servicefunktio-

ner, hvor den effektive udnyttelse af digitalisering med fordel kan ske hånd i

hånd med en serviceminded menneskelig kontakt.

IDA

fremhæver, at analyser i SIRI-kommissionen klart viste, at kompeten-

ceudfordringerne først og fremmest handler om medarbejdernes motivation

og mindset, i særdeles at reducere utryghed. Det er altså mest af alt afgørende,

at medarbejderne har de rigtige attituder over for introduktionen af teknologi,

og det kræver, at ledelsen er synlig med en langsigtet vision, at implemente-

ringen af teknologi ses som et forandringsprojekt og ikke et IT-projekt, og at

ledelsen ikke kommer rullende med en færdig løsning, men at tilgangen er

lærende og undersøgende med medarbejderne involveret som en afgørende

udviklingsressource fra begyndelsen.

Fokus på små og mellemstore virksomheder (SMV’er)

glæder sig over, at Kommissionen fokuserer på SMV’er og vil skabe gro-

bund for nye virksomheder. Det kan Kommissionen gøre ved at fremsætte

forslag til regulering, som er enkel, ikke er byrdefuld og som udgangspunkt

teknologineutral. Det er en stigende udfordring, at megen EU-regulering er

så kompliceret, at det kræver ansættelse af jurister for at leve op til reglerne,

hvilket gør det særlig

svært for SMV’erne. Ligeledes er det vigtigt at pointere,

at for at fremme SMV’ers brug af

kunstig intelligens skal adgangen til data

også fremmes.

Privatsektoren som partner

fremhæver, at det er positivt, at Kommissionens hvidbog har fokus på

offentligt-privat samarbejde. Det er netop i samarbejdet mellem offentlig og

privat, at forskningen kan omsættes til innovation og jobskabelse.

Fremme anvendelsen af kunstig intelligens i den offentlige sektor

ser store potentialer for også den offentlige sektor i kunstig intelligens og

støtter Kommissionens intention om at udbrede viden og optag af teknologi-

erne.

DE ser gerne en mere præcis definition i forhold til: “Action 6: The

Commission will initiate open and transparent sector dialouges giving prior-

ity to (…) in order to present an action plan to facilitate development, exper-

imentation and adoption”.

DE læser det som et ønske om at give ikke også

startups lettere adgang til offentlige data med henblik på, at udvikle nye løs-

ninger, og den vej gavne den offentlige sektor. Det er fundamentalt, at der

skabes en stærk grobund for SMV’er inden for kunstig intelligens.

Sikring af adgang til data og databehandlingsinfrastruktur

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Forsikring & Pension

støtter generelt Kommissionens fokus på at etablere

digitale ”økosystemer” og etableringen af ”data pools”.

Adgang til data af høj

kvalitet er en forudsætning for at kunne udnytte mulighederne ved anven-

delse af kunstig intelligens. Derfor bør der arbejdes strategisk med samarbej-

det mellem private virksomheder og offentlige myndigheder, der ligger inde

med store mængder relevante datasæt, og rammerne for brug af disse. I for-

bindelse med den kommende revision af GDPR kan det endvidere overvejes,

om centrale principper som

”formålsbestemt dataanvendelse”, ”dataminime-

ring” m.v. kan lempes uden at gå på kompromis med de grundlæggende hen-

syn bag GDPR-lovgivningen.

L&F

støtter også en samling af data i EU, men vi ser dog et behov for, at

denne data oversættes til dansk for at den kan blive brugbar i den nationale

forvaltning og hos virksomhederne.

Internationale aspekter

Danske Maritime

fremhæver, at den maritime industri er et meget internati-

onalt orienteret erhverv, hvilket blandt andet skyldes, at langt hovedparten af

fragtskibene i dag bygges i Asien. Derfor er det vigtigt, at den europæiske

digitaliseringsstrategi åbner muligheder for samarbejde om udvikling af

”smart

ships” og innovative digitale løsninger til den globale skibsfart med

tredjelande.

Et tillidsmiljø: Lovrammen for kunstig intelligens

Akademikere

mener, at når kunstig intelligens, selvlærende algoritmer i

stigende grad bliver grundlaget for automatiserede beslutningssystemer i

eksempelvis rets- og sundhedsvæsen kan det være problematik. Bias i

kunstig intelligens-løsninger har vist sig at være et stort og tilbagevende

problem i forbindelse med kunstig intelligens-løsninger. Det kan med-

føre, at beslutninger træffes på for spinkelt (ikke inddrager minoritetshen-

syn) eller direkte fejlagtigt grundlag. Det er derfor overordentlig vigtigt,

at vi stiller krav om større transparens i måden, som vi konstruerer kun-

stig intelligens på og ved at stille krav om diversitet i udviklingsprocessen

for at undgå bias. Krav om transparens og diversitet bør kombineres med

systematiske kvalitetstjek for at fremme sikkerhed og præcision i kunstig

intelligens-resultater.

Akademikerne

fremhæver, at EU-regulering bør sigte på at gøre det mu-

ligt for almindelige forbrugere at få et svar på, hvad der ligger bag algo-

ritmernes beslutninger. Akademikerne foreslår derfor, at der afsættes

midler til en EU teknologi/kunstig intelligens-ambassadør, en ombuds-

mandsinstitution bestående af eksperter med den nødvendige tekniske,

etiske og juridiske forståelse, som får rollen som vagthund til at sikre fair

brug af kunstig intelligens. EU-institutionen gives beføjelse til at under-

søge systemet, koden, når de får henvendelse om, at en beslutning, som er

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

taget via algoritmer, ikke er i overensstemmelse med loven. Institutionen

pålægges, at de ikke deler forretningshemmeligheder om systemernes op-

bygning med andre.

mener grundlæggende, at EU’s risikobaserede tilgang til regulering af

kunstig intelligens er fornuftig. Kommissionen ønsker ikke at regulere

enhver anvendelse af kunstig intelligens, men afgrænser sig til at stille

krav til særligt

udvalgte ”high risk

artificial intelligens

applications”,

hvor kunstig intelligens anvendes i en kritisk sektor på kritiske funktio-

ner, som ikke allerede er dækket af anden regulering.

mener, at EU - givet klare definitioner i den endelige regulering

–

har

gode muligheder for at give en tiltrængt regulatorisk sikkerhed, som kan

være med til at fremme kunstig intelligens i EU, som Kommissionen øn-

sker. Det er er afgørende at Kommissionen sikrer, at der gælder klare og

ens regler på tværs af EU, og at Kommissionen modvirker, at der opstår

national fragmentering og dermed regulatorisk usikkerhed eller unødige

byrder for en sektor som har et naturligt marked på tværs af EU. Dansk

erhvervsliv har brug for gode digitale rammevilkår, og det skal være EU,

der sætter dem.

Danske Maritime

ser, at på den regulatoriske front bør arbejdet med at

skabe de lovmæssige rammer for kunstig intelligens inden for det mari-

time primært være forankret i FN’s søfartsorganisation den Internationale

Maritime Organisation (IMO). Allerede i dag er der et arbejde i gang i

IMO, der skal sikre ens internationale standarder og krav til ”autonomous

surface ships”. Der bør i lovgivningsarbejdet være fokus på at stimulere

udvikling af nye innovative løsninger, ikke mindst hos såkaldte frontlø-

bervirksomheder. Derved minimeres risikoen for barrierer mod sådanne

løsninger, men naturligvis uden at gå på kompromis med den maritime

sikkerhed.

Dansk Standard

anbefaler, at der arbejdes for, at Kommissionen afstår

fra detailregulering af kunstig intelligens, men i stedet bygger en eventuel

ny lovgivning på internationale og europæiske standarder. Samtidig ser

Dansk Standard, at der bør arbejdes for, at der bliver udarbejdet standar-

der, som kan understøtte en udbredt brug af kunstig intelligens, og at

Danmark hjemtager sekretariatet for en europæisk standardiseringskomite

for kunstig intelligens og således giver danske aktører optimale vilkår for

at påvirke europæiske standarder for kunstig intelligens. Ligeledes bør

der arbejdes for, at der bliver en klar skelnen mellem lav risiko og even-

tuelle frivillige mærkningsordninger og høje risici og eventuelle lovmæs-

sige krav. Dansk Standard fremhæver vigtigheden af at inddrage danske

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

interessenter i standardisering, herunder forbrugere, brancheorganisatio-

ner og Dansk Standard, i en dialog, om hvad en europæisk standardise-

ringsstrategi for kunstig intelligens skal indeholde.

Finans Danmark

fremhæver, at kunstig intelligens er en teknologi under

udvikling. Det er vigtigt at sikre, at de lovgivningsmæssige rammer tilve-

jebringer forbrugerbeskyttelse, men samtidig understøtter og fremmer in-

novation. En kommende lovgivning og regulering af kunstig intelligens

bør tage sit udgangspunkt i en risikobaseret tilgang, herved kan forbru-

gerbeskyttelsen og hensynet til innovation og vækst begge tilgodeses.

Finans Danmark

ser, at der i strategien nævnes, at kunstig intelligens

enten har en høj eller lav risiko. En risikobaseret tilgang med flere risiko-

niveauer anbefales. En risikobaseret tilgang med kun to niveauer vil sand-

synligvis reducere både store og etablerede virksomheder såvel som

SMV'er og nystartede virksomheders anvendelse af kunstig intelligens.

Finans Danmark

mener, at man i det kommende arbejde med at ud-

forme ny regulering af kunstig intelligens, og særligt i forhold til at sikre

en risikobasseret tilgang, med fordel kan søge inspiration i, hvorledes den

finansielle regulering fungerer i forholder til fintech. Her arbejder man

med en regulatorisk perimeter. Sådan en tilgang vil være til gavn for både

forbrugere og virksomheder, da det både sikrer forbrugerbeskyttelsen

samt understøtter innovation og udvikling.

Finans Danmark

ser, at hvidbogen ikke skelner meget mellem kunstig

intelligens, når den anvendes til at støtte menneskelige beslutninger, og

når den kunstige intelligens fungerer autonomt. Igen bør en risikobaseret

tilgang - alt andet lige - afstedkomme lettere regulatoriske krav til kun-

stige intelligenser, der kun bruges til at hjælpe mennesker med at træffe

beslutning, hvorimod autonome kunstige intelligenser skal reguleres mere

indgående.

Forbrugerrådet Tænk

ser behov for en uddybning af, hvornår reglerne

skal finde anvendelse, inden vi kan tage stilling til, om disse situationer er

tilstrækkelige. Forbrugerrådet Tænk ser frem til på et senere tidspunkt at

se forslaget til reglernes nærmere indhold. Det er positivt, at EU-Kom-

missionen understreger, at der er behov for regulering i fremtiden. Dog

savner Forbrugerrådet Tænk mere fokus på den negative udnyttelse af

data, som vi ser i dag, og som nødigt skal få endnu bedre vilkår, når bru-

gen af kunstig intelligens skal fremmes i EU-landene.

Forbrugerrådet Tænk

savner dog, at EU-Kommissionen fremhæver

principperne om privacy by design og default, som er væsentlige nye reg-

ler i GDPR og som betyder, at it-løsninger fra start af skal designes på en

måde der sikrer, at privatlivsbeskyttelse, gennemsigtighed og kontrol med

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

data hele tiden er til stede. Indbygget databeskyttelse skal gerne være det

fundament, som kunstig intelligens løsninger bygger på i fremtiden. For-

brugerrådet Tænk anbefaler derfor, at der er i kommende lovgivning ud-

trykkeligt indsættes krav om, at virksomheder og myndigheder skal ind-

bygge privatlivsbeskyttelse fra start af i deres kunstig intelligens løsnin-

ger.

Forbrugerrådet Tænk

bemærker, at det er positivt, at EU-Kommissio-

nen er opmærksom på nødvendigheden af at etablere et tilsyn med udvik-

lingen af algoritmer, så gennemsigtighed, forklarlighed og klageadgang

overfor forbrugere og borgere sikres. Det er vigtigt, at befolkningen både

på det generelle plan opnår mere viden om teknologien, men også helt

konkret kan få indsigt i umiddelbare komplekse løsninger med brug af

kunstig intelligens.

Forsikring & Pension

fremhæver, at udviklingen og brugen af kunstig

intelligens i høj grad allerede er dækket af eksisterende EU-lovgivning,

der adresserer mange af de potentielle risici og udfordringer. Dette bliver

suppleret af national lovgivning og retningslinjer på området (eksempel-

vis Finanstilsynets vejledning om superviseret ”machine learning”).

juridiske rammer på EU-niveau dækker blandt andet fundamentale ret-

tigheder, privatlivets fred og databeskyttelse, produktsikkerhed og ansvar.

Forsikring & Pension

ønsker derfor, at der udvikles principbaserede og

proportionale rammer for reguleringen af kunstig intelligens, der bygger

på den eksisterende EU-regulering

og adresserer eventuelle ”huller” eller

forhindringer i denne lovgivning. Derudover er det vigtigt, at regulerin-

gen bliver risikobaseret og fokuserer på områder, hvor der er stor risiko

for skade. På den måde sikres det, at det undgås, at almindelige robot au-

tomatiseringsprocesser rammes af unødvendige skrappe krav. Samtidig er

det vigtigt at sikre lige konkurrencevilkår, således at eventuelle nationale

krav ikke går videre end EU-lovgivningen på området, så danske virk-

somheder derved stilles dårligere i konkurrencen på det europæiske mar-

ked.

IDA

er overordnet meget enig i, at strategisk brug af kunstig intelligens

er vigtig, og at man skal tage udgangspunkt i de syv nøglebegreber, udar-

bejdet af Kommissionens højniveauekspertgruppe for kunstig intelligens.

IDA er også enig i tilgangen om, at det er vigtigt med en lovgivnings-

ramme, der tager udgangspunkt i at sikre de syv nøglebegreber.

IDA

er enig i, at fælles europæiske indsatser giver både mere effektive og

langt stærkere værktøjer end nationale tiltag. Men, hvor eksempelvis

standardisering foregår inden for velafprøvede systemer og derfor som

minimum bør ske på europæisk plan, så er det også vigtigt, at der er plads

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

til at afprøve initiativer rundt omkring, lokalt i Europa. Vi står over for så

grundlæggende samfundsforandringer, at vi er nødt til at være åbne over

for forskellige måder at håndtere de mange typer udfordringer, der vil op-

stå. Hvidbogen nævner det danske dataetiske mærke som et eksempel på

en national indsats. Det dataetiske mærke er, ifølge DI, der står bag, ud-

viklet til netop at kunne opskaleres til europæisk skala, når man har ind-

hentet erfaringer med, hvordan mærket fungerer. Det er IDA’s holdning,

at Kommissionen bør se sådanne nationale tiltag som et positivt forsøg på

at afprøve forskellige løsninger, og at man fra Kommissionens side bør

følge de forskellige projekter med interesse for at se, hvilke projekter, der

med fordel kan støttes til at opskalere og udbredes til resten af Europa.

IDA

er derudover meget enig i, at hovedrisici for brug af kunstig intelli-

gens handler om, hvorvidt vi er i stand til at beskytte fundamentale ret-

tigheder, sikkerhed og troværdighed. Derfor handler en strategi for bedre

udnyttelse af kunstig intelligens også om at sikre fundamentale rettighe-

der, undgå diskrimination og at sikre, at brug af kunstig intelligens ikke

bliver en demokratisk trussel. IDA er derfor også involveret direkte i at

sikre at etiske hensyn indgår i de kommende ISO-standarder for kunstig

intelligens. I den forbindelse er IDA også involveret i at udarbejde tekni-

ske rapporter på europæisk plan for, hvordan standarder for kunstig intel-

ligens kan være med til at skærpe sikkerheden for, at grundlæggende

menneskerettigheder overholdes ved at skabe et konkret redskab til at

handle etisk bevidst til virksomheder og udviklere, der arbejder med kun-

stig intelligens.

IDA

er dog også enig med Kommissionen i, at en reguleringsmæssig til-

gang skal være proportional med de muligheder, som

SMV’er har. Et vig-

tigt element her er, at lovgivningen gøres så klar og ukompliceret som

mulig, og at der sideløbende udvikles de rette støtteværktøjer, som det er

sket i forbindelse med GDPR i Danmark.

IT-branchen

mener, at det er positivt, at EU lægger op til at skabe klare

rammer og etiske retningslinjer for kunstig intelligens, herunder opdelin-

gen i høj- og lavrisiko kunstig intelligens. IT-Branchen kan dog have en

bekymring for, at EU indfører unødig og ny regulering i stedet for at af-

klare om den eksisterende lovgivning kan justeres for at imødegå de ud-

fordringer, som kunstig intelligens stiller. Særlig kan der være en bekym-

ring for, at danske og europæiske virksomheders vil komme til at opleve

regulatoriske barrierer, som ikke eksisterer uden for EU’s grænser. Det

vil ikke kun svække danske og europæiske virksomheders konkurrence-

evne, men det vil være en stopklods for innovation og udvikling af nye

forretningsmodeller til det globale marked. Flere danske techstart-ups har

været ude at sige, at mere regulering kan have den konsekvens, at de bli-

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

ver nødt til at flytte virksomheden uden for Europas grænser og/eller op-

give EU som et vækstmarked. Det bliver afgørende, at EU rammer den

rigtige balancegang mellem regulatoriske tiltag og at fastholde europæisk

konkurrenceevne og en førerposition på kunstig intelligens, der har men-

nesket i centrum.

IT-branchen

bakker op om, at EU tager føringen på at indføre ensartet

regulering for kunstig intelligens på tværs af hele EU, så der ikke indføres

forskellige nationale regler, som hindrer virksomhedernes konkurrencesi-

tuation. Det kræver, at EU handler hurtigt og får skabt en fleksibel lov-

givningsramme, der kan følge med den teknologiske udvikling og uden

unødigt bureaukrati. For eksempel kan det have store administrative om-

kostninger for

SMV’er

at skulle dokumentere og teste, at der leves op til

EU’s etiske regler inden for de udpegede højrisiko-områder.

Det bliver

afgørende, at danske og europæiske virksomheder kan forstå og agere ud

fra EU’s kommende

kunstig intelligens-regulering.

L&F

støtter, at der indføres en klar europæisk lovgivningsramme for etisk

anvendelse af kunstig intelligens

–

og omfanget heraf

–

som både tager højde

for beskyttelsen af borgerens retssikkerhed og cybersikkerhed.

TDC

ser generelt positivt på Kommissionens ambitioner om at definere en

europæisk tilgang til udvikling og anvendelse af kunstig intelligens baseret

på europæiske værdier om beskyttelse af fundamentale rettigheder og forbru-

gerrettigheder. TDC er enig i, at dette er muligt uden at hæmme innovations-

kraften og konkurrencedygtigheden i EU. Dette afhænger dog af, hvordan

reguleringen konkret udformes.

Mulige tilpasninger af EU’s eksisterende lovramme

noterer sig med tilfredshed, at Kommissionen er opmærksom på, at væ-

sentlige dele af kunstig intelligens (som det brede begreb det er) allerede er

omfattet af eksisterende regulering - enten i form af generel regulering eller

sektorspecifik regulering. Det er positivt og helt rigtigt, at Kommissionen

lægger op til kun at overveje ny regulering, hvor kunstig intelligens måtte

have særlige karakteristika, som ikke er dækket af eksisterende regulering.

angiver hertil et eksempel på medicinsk udstyr, der allerede i dag regule-

res af EU. Indenfor dette område skal man gennem et kvalitetssikringssystem

levere dokumentation for arbejdsmetoder og datakilder, og der stilles krav til

robusthed og sikkerhed. Der træder en ny forordning i kraft i maj 2020, som

skærper kravene til dokumentation, ydeevne, og sikkerhed. Det er alt sam-

men krav, der minder om, hvad Kommissionen oplister af krav i hvidbogen.

DE opfordrer kraftigt til, at man systematisk iagttager denne og beslægtede

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

reguleringer, genbruger erfaringerne og selvfølgelig undgår at pålægge over-

lappende regulering. Det gælder på eksemplets område og på andre områder.

ser, at Kommissionen i sin hvidbog og tilhørende rapport lægger op til

flere mulige ændringer af den eksisterende produktlovgivning. Eksempelvis

når det vedrører informationsforpligtelser og datakvalitet kan det være svært

at afgøre om begge aspekter tænkes indlejret i både den eksisterende lovgiv-

ning og en ny horisontal lovgivning. Det er DI’s opfattelse, at en fremtidig

lovgivning, der tager højde for de nye teknologier bliver så simpel som mu-

ligt, så den samme virksomhed ikke skal forholde sig til mange forskellige

regelværk for at få overblik over, hvordan et specifikt område af produktet

reguleres. I det omfang, at det samme område reguleres flere steder, er det

nødvendigt at sikre sig, at ordlyden af forpligtelsen er ens og i hvert fald ikke

er modstridende.

ser, at informationsforpligtelser og samarbejde på tværs af værdikæden

diskuteres som mulige løsninger på de udfordringer, som de nye teknologier

medfører. Det er DI’s holdning, at kravet herom nøje bør opvejes mod risi-

koen for at påføre virksomhederne krav om at udlevere forretningshemme-

ligheder. Samme hensyn til forretningshemmeligheder bør gøres gældende i

forbindelse med førnævnte mulige tredjeparts certificering af en kunstig in-

telligens-løsning, der vurderes som en højrisiko løsning.

bemærker, at selvom rapporten, der følger med hvidbogen, fastslår, at den

eksisterende lovgivning tager højde for sikkerhedsrisici relateret til

”Internet

of Things”-produkters

(IoT) forbundethed, lægger den alligevel op til mulige

ændringer i den eksisterende lovgivning. Det er DI’s opfattelse, at eventuel

fremtidig lovgivning omkring cybersikkerhed som udgangspunkt skal være

horisontal. I modsat fald risikerer man en situation, hvor samme produkt un-

derlægges flere forskellige lovgivninger, udsættes for afvigende og i værste

fald modsatrettede krav i forhold til cybersikkerhed. Skal fragmenterede krav

til produkters cybersikkerhed undgås, er EU-lovgivning nødvendig. Samti-

digt vil det kunne bidrage til Europas konkurrencekraft på sigt.

fremhæver, at Kommissionen planlægger en revision af det generelle pro-

duktsikkerhedsdirektiv og muligvis også af

”the New Legislativ

Framework”.

DI finder, at det er afgørende, at produktlovgivningen ensrettes

så meget som muligt med henblik på at styrke regelefterlevelsen i markedet.

Samtidigt er det vigtigt, at princippet om proportionalitet håndhæves, så kun

de krav, der er en forudsætning for produkternes sikkerhed, kræves opfyldt.

hæfter sig ved, at når det gælder produktansvarslovgivningen, finder

Kommissionen den fit-for purpose. Det er også DI og de europæiske indu-

striorganisationers umiddelbare vurdering. DI har derfor behov for mere tid

til at vurdere Kommissionens forslag om en eventuel faseopdelt tilgang til

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

produktansvar og en mulig ændring af bevisbyrden i produktansvarsdirekti-

vet.

Forbrugerrådet Tænk

ser, at EU-Kommissionen peger på, at eksisterende

lovgivning skal gennemgås for blandt andet at sikre, at rettigheder og forbru-

gerbeskyttelse opretholdes, når brugen af kunstig intelligens skal fremmes i

Europa. Som forbrugerorganisation opleves der uklarheder i forhold til man-

gelsbeføjelser i internetforbundne produkter, både i forhold til sikkerheden

generelt, men også i forhold til it-sikkerhed, som eksempelvis klageadgang

ved softwarefejl og myndighedernes rolle. Eksempelvis mangler der regler

for opdatering af software i internetforbundne produkter, hvilket forringer

forbrugernes retstilling, når de køber smarte produkter i forhold til traditio-

nelle. Det er vigtigt, at forbrugernes rettigheder er ens, uanset om de agerer i

den fysiske verden eller online.

Forbrugerrådet Tænk

støtter, at der foruden opdatering af eksisterende reg-

ler udvikles en specifik ny lovgivning inden for kunstig intelligens. Teknolo-

giens anvendelse rummer åbenlyse problemstillinger, som ikke er dækket af

eksisterende regler i EU, så regler er nødvendige, hvis tilliden skal bevares.

Det har ikke kun forbrugerorganisationer efterlyst, men også store virksom-

heder og brancheorganisationer på det europæiske marked.

Forbrugerrådet Tænk

finder ligeledes, at det meget vigtigt at få præcise-

ret i den kommende lovgivning, hvad de grundlæggende principper i

GDPR’s artikel 5 konkret betyder i forhold til brugen af kunstig intelligens

og algoritmer. Det er eksempelvis vigtigt at fremhæve, hvordan reglerne

om genbrug af data skal forstås og anvendes i forhold til princippet om

formålsbestemthed, proportionalitet og dataminimeringsprincippet.

Forsikring & Pension

ser, at det er væsentligt, at producenter og kompo-

nent- og softwareleverandører altid kan identificeres. Det indebærer, at når

en softwareleverandør er leverandør til en europæisk producent/forbruger,

skal det være klart, hvilket selskab der er leverandør. Dette skal også gælde,

hvis softwaren produceres hos flere selskaber i flere lande/kontinenter. Det

skal være klart, hvilket land softwaren stammer fra for at kunne identificere,

om der er tale om ”førsteimportør til EU”. Der er behov for at håndtere uigen-

nemsigtighed i forbindelse med anvendelse af kunstig intelligens-komponen-

ter. Det kan være vanskeligt at etablere, hvilken komponent der fejler, eller

om det er samspillet mellem dem, der forårsager skade. Løsningen på dette

må være regler om objektivt ansvar og eventuelt mellemhandleransvar. På

den måde undgås det, at forbrugeren skal bruge tid på at finde ud af, om den

originale producent er culpa-ansvarlig, eller hvilken komponentleverandørs

software der fejler. Forbrugeren kan så gå direkte til mellemhandleren, der

må hæfte

–

evt. bredere end producentens ansvar (culpa), da sidstnævnte kan

være svært at løfte ved samvirkende skadeårsager, eller det kan være umuligt

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

at etablere om softwaren er defekt. Derudover er der behov for at kunne

tracke opdatering af software, så det kan fastslås, hvilken version af software,

der var installeret på et givent tidspunkt.

Forsikring & Pension

ser også, at der kan være behov for at se på definitio-

nen af begrebet ”defekt”. Det kan være vanskeligt som kunde at løfte bevis-

byrden for, at produktet er defekt. Produkter, der indeholder kunstig intelli-

gens, skal være sikre, og man kan overveje et præsumptionsprincip i vurde-

ringen af defektbegrebet for at sikre større forbrugerbeskyttelse. Forstået på

den måde, at mellemhandleren skal bevise, at produktet ikke var defekt.

Regulering af ”højrisiko” kunstig intelligens gennem obligatoriske krav

støtter, at EU stiller krav til de til (kommende, nærmere definerede) høj-

risikoanvendelser af kunstig intelligens, herunder krav til dokumentation og

kontrol af data. DE stiller sig imidlertid umiddelbart skeptisk over rationalet

i generelt at pålægge virksomheder at lade specifikke algoritmer underkaste

gennemgang. Det centrale må være, at der er evidens og sikkerhed for kunstig

intelligens-teknologien - navnligt når der er tale om kunstig intelligens, der

tjener som eksempelvis beslutningsstøtte, hvor et eller flere mennesker træf-

fer beslutningen. Det må således bero på helt klare definitioner, hvis der er

behov for at give myndigheder adgang til at gennemgå algoritmer og andet,

der kan være forretningsfølsomt. Det står også åbent, hvordan et sådant sy-

stem for kontrol og tilsyn skal fungere

–

også henset til ressourcesiden, hvor

der generel er mangel på it-specialister i samfundet. Det ville kræve ressour-

cer med betydelige og dybdegående forståelse for teknologien, og rationale

og effekt skal derfor nøje overvejes.

bemærker, at der i hvidbogen lægges op til, at der skal ske en horison-

tal regulering af kunstig intelligens, når der er tale om højrisiko-løsnin-

ger, hvilket giver bedre mulighed for gennemsigtig og forudsigelig regu-

lering

–

fremfor vertikal regulering, der kan medføre forskellige og mod-

stridende krav til virksomheder. DI støtter derfor op om en horisontal risi-

kobaseret tilgang til regulering af kunstig intelligens. Der bør kun regule-

res i den udstrækning, at det er proportionalt med det formål, som man

ønsker at fremme.

understreger, at det derfor også får afgørende betydning, hvordan en

kommende lovgivning definerer højrisiko, og at den definition af kunstig

intelligens, som man tager udgangspunkt i, giver mening i praksis, hvilket

vil sige også i forhold til funktionaliteten af den kunstige intelligens. Det

er vigtigt, at definitionen af højrisiko justeres, når der er behov for det.

Samtidig kræver investering i nye teknologier også forudsigelighed i for-

hold til de krav, som produkterne skal leve op til. Netop definitionen af

højrisiko og de konkrete krav, som løsningerne skal leve op til, er derfor

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

vigtige emner, der kræver bred inddragelse af virksomheder og deres or-

ganisationer.

er af den overordnet holdning, at definitionen af højrisiko må foreta-

ges med udgangspunkt i en risk-benefit betragtning, så byrder ikke unø-

digt begrænser europæiske virksomheders mulighed for at innovere. Brug

af tredjeparts certificering kan være nødvendig, men kun for de mest risi-

kofyldte anvendelser. Ellers risikerer man, som det var tilfældet med de

nye cybersikkerhedsregler, at alle gængse produkter reelt set underlægges

tredjeparts certificering. Samtidig vil DI i forlængelse af hvidbogens øn-

ske om at regulere kunstig intelligens minde om, at man aldrig kan regu-

lere sig helt ud af ud af udfordringerne. Der vil altid være eksempler,

hvor reglerne ikke efterleves, og det kun er de ansvarlige virksomheder,

der efterlever reglerne og påtager sig byrderne derved.

mener, at når det gælder brug af overensstemmelsesvurderinger, skal

Kommissionen tage udgangspunkt i de moduler, der på forhånd er define-

ret under

”the New Legislativ framework”-lovgivningen

og i anvendelsen

af harmoniserede standarder. De produkter, som de nye regler vil omfatte,

er i forvejen underlagt anden EU-lovgivning, som tager udgangspunkt i

”the New Legislative Framework”-moduler

og harmoniserede standarder.

Det er i den forbindelse vigtigt at slå fast, at der skal findes en løsning, så

de standarder, der udvikles i europæisk og internationalt regi, reelt kan

harmoniseres.

ser, at Kommissionen fremfører både i hvidbogen og i den medføl-

gende rapport, at kunstig intelligens-systemer har mulighed for at fore-

tage beslutninger, som de ikke er designet til i forbindelse med erfarings-

baseret læring, i forbindelse med softwareopdateringer eller cyberangreb.

DI stiller spørgsmålstegn ved denne præmis og omfanget heraf, og hen-

stiller til, at spørgsmålet udforskes yderligere, før der gribes til handling i

form af regulering baseret på denne præmis.

Forbrugerrådet Tænk

stiller spørgsmålstegn ved, hvorvidt nye regler

kun er nødvendige på områder, hvor brugen af kunstig intelligens udgør

en høj risiko, afhænger i høj grad af, hvordan høj risiko defineres, og

hvilke kriterier der indgår i den risikobaserede vurdering, som der lægges

op til. Forbrugerrådet Tænk støtter umiddelbart den risikobaserede til-

gang, som også anvendes i GDPR og som sikrer, at reglerne anvendes

proportionalt. Men kriterierne er ikke beskrevet udover eksemplet med

brug af sundhedsdata, som er særlige følsomme og som kan misbruges

med diskrimination eller stigmatisering til følge.

Forbrugerrådet Tænk

fremhæver, at problemet ved at sondre mellem

højrisiko og lavrisiko består i, at man på forbrugerområdet kan forestille

sig tjenester, der ved hjælp af kunstig intelligens indsamler oplysninger

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

om adfærdsdata, som forbrugernes interageren på forskellige hjemmesi-

der, i apps eller dialog med andre personer, så tjenesten i sig selv kan be-

tragtes som lavrisiko. Den efterfølgende brug af kunstig intelligens til at

forudsige humør, psykisk tilstand eller kommende behov kan manipulere

forbrugeren til at foretage bestemte uhensigtsmæssige køb eller indgå

”uheldige” aftaler. Den profilering,

der sker på baggrund af umiddelbare

almindelige oplysninger, kan altså på grund af mængden og akkumulerin-

gen af data få negative konsekvenser og udgøre en høj risiko for forbru-

geren.

TDC

finder det passende, at Kommissionen lægger op til en sondring

mellem høj- og lavrisikobetonede kunstig intelligens-systemer, herunder

at man lægger op til at anvende proportionalitetsprincippet i tilgangen til

at pålægge forpligtelser.

TDC

finder det dog uklart, om de nuværende to kriterier er tilstrækkeligt

oplyste til binært at kvalificere kunstig intelligens-systemer. En oplistning

af konkrete sektorer giver regulatorisk sikkerhed, men samtidig udfordrer

den konkrete risikovurdering denne sikkerhed. I forhold til sektorkriteriet

skal det undersøges, hvilke sektorer der reelt udgør en risiko for skade,

død, eller signifikant materiel eller immateriel skade, dermed risikovurde-

ringen. Alternativt skal muligheden for at tillægge risikovurderingen

mere vægt undersøges og som konsekvens eventuelt fjerne sektorkriteriet.

TDC

støtter, at der i forhold til udformningen af konkret regulering af

højrisikobetonede kunstig intelligens-systemer, udformes et regelsæt,

som stiller krav om dokumentation af input (datasæt) og output (resul-

tat/afgørelse). TDC støtter således et regelsæt, som stiller krav til, at data-

sæt skal være uden bias, samt at dette kan dokumenteres. Samtidig bør re-

gelsættet indeholde krav til opbevaring af datasæt/træningsdata (input)

samt data om afgørelser (output). TDC støtter endvidere en model, hvor

output af et kunstig intelligens-system får direkte effekt, men hvor der er

mulighed for, at et menneske kan omgøre afgørelsen. For nogle kunstig

intelligens-systemer, som eksempelvis selvkørende biler, vil mulighed for

intervention i realtid være fordelagtigt.

TDC

vurderer, at kontrol med input og output vil være tilstrækkeligt i

forhold til at skabe tillid til kunstig intelligens-systemer. Således anser

TDC det ikke for nødvendigt med et regelsæt, der giver myndigheder for

adgang til at gennemgå eksempelvis algoritmer. Dette vil desuden være

kompromitterende i forhold til intellektuelle ejendomsrettigheder og for-

retningshemmeligheder og dermed skade såvel konkurrencen som evnen

til at innovere og konkurrere i det private erhvervsliv.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Frivillig mærkning af anvendelser af kunstig intelligens, der ikke indebærer

høj risiko

ser, at Kommissionen lægger op til, at virksomheder, der udvikler eller

anvender kunstig intelligens som falder uden for det dobbelte princip om

”high risk applications”,

ikke reguleres, men kan gøre brug af en frivillig cer-

tificerings- eller mærkningsordning. DE bakker kraftigt op om tilgangen og

glæder sig i den forbindelse over, at Kommissionen har bemærket det initia-

tiv, som DE har taget sammen med DI, SMVdanmark og Forbrugerrådet

Tænk, om at etablere en generel mærkningsordning for it-sikkerhed og digital

ansvarlighed. Mærkningsordningen - som støttes økonomisk af Industriens

Fond og politisk af Erhvervsministeriet - lanceres i løbet af 2020. DE har fra

starten haft ambitioner om bred europæisk udbredelse og håber, at initiativet

kan tjene til inspiration i Kommissionens videre arbejde. DE ser ikke behov

for en specifik mærkningsordning for kunstig intelligens.

bemærker, at i forhold til en ny frivillig mærkningsordning er det vig-

tigt, at der udvikles fælles EU-regler på området, så markedet for mærker

ikke fragmenteres. Samtidigt er det nødvendigt at tage udgangspunkt i ek-

sisterende ordninger som den danske mærkningsordning, der er under

etablering, og brugen af internationale standarder, der styrker den globale

udbredelse af mærket. Grundlæggende skal man være varsom med at in-

troducere for mange og for specifikke mærker

–

særligt på relaterede om-

råder. Forbruger, kunder etc. har vanskeligt ved at differentiere mellem

mærkerne, og samtidig skal virksomhederne prioritere pladsen til at vise

mærket, i forhold til markedsføring og i forhold til at bruge ressourcer på

at leve op til mærket.

fremhæver, at vi i Danmark har valgt at etablere en mærkningsordning

med fokus på dataansvarlighed/digital ansvarlighed. Den dækker både da-

taetik/privatlivsbeskyttelse, it-sikkerhed og ansvarlig anvendelse af nye

teknologier som kunstig intelligens. Baggrunden er, at brugerne blander

disse datadrevne elementer sammen, og for virksomheder er der store sy-

nergieffekter ved at tænke ansvarlighed på tværs af disse tre områder. Det

giver bedre overblik, gennemsigtighed og sammenhæng for forbrugerne

og brugervirksomhederne (B2B) at tænke digital ansvarlighed samlet ind

i et mærke i stedet for tre forskellige mærker. Samtidig er der større sand-

synlighed for, at virksomhederne ønsker at prioritere et mærke fremfor tre

eller flere andre mærker. Danmark har fået udført mindre undersøgelser,

der både støtter det samlede mærke hos forbrugerne og virksomhederne.

opfordrer derfor til, at man på europæisk niveau tænker ansvarlig

data- og teknologianvendelse og it-sikkerhed sammen, når der overvejes

at introducere nye mærker indenfor det digitale område. Det vil sige, at

man ikke vælger at introducere et særskilt kunstig intelligens-mærke, og

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

måske senere et dataetikmærke og et it-sikkerhedsmærke i EU-regi. Det

er ambitionen at indhente danske erfaringer på området, som kan spilles

ind på europæisk niveau. Det er derfor ikke ambitionen, at det danske

mærke nødvendigvis skal eksistere om 10 år, men at det kan have banet

vejen for et europæisk mærke.

Dansk Standard

fremhæver, at der i Kommissionens hvidbog nævnes en

dansk mærkningsordning, som formentlig er mærket for it-sikkerhed og

ansvarlig dataanvendelse. Hvis der skal udarbejdes en tilsvarende frivillig

mærkningsordning på europæisk niveau, er det vigtig, at en sådan baseres

på europæiske og/eller internationale standarder, således at det ikke kom-

mer til at hæmme konkurrencen på markedet. SMV’er

kan bruge

standar-

der til at skabe tillid omkring deres produkter og services. Det kan de, når

de kan dokumentere, at de lever op til velkendte standarder i markedet.

Det kan således både være en fordel for virksomheder at have frivillige

mærkningsordninger og/eller deciderede lovkrav, som kan bruges til at

signalere, at produkter og services har en høj kvalitet eller sikkerhed. Det

skal ved overvejelser om mærkningsordninger eller lovkrav sikres pro-

portionalitet mellem udfordringer/risici og krav, og så vidt muligt skal

kravene formuleres horisontalt, således at produkter og services kan leve

op til krav på tværs af sektorer.

Forbrugerrådet Tænk

støtter udviklingen af europæiske mærkningsord-

ninger, som kan fremme etisk brug af data og dermed trygheden for både

forbrugere og virksomheder. Dog vurderer Forbrugerrådet Tænk, at der

på området for kunstig intelligens først og fremmest er brug for regule-

ring frem for frivillige mærkningsordninger.

TDC

støtter op om en frivillig mærkningsordning for ikke-højrisikobeto-

nede kunstig intelligens- systemer, som et redskab for virksomheder til at

opnå forbrugertillid. Dog opfordrer TDC til, at man forholder sig til,

hvordan forbrugere skal kunne afkode forskellen på kunstig intelligens-

systemer, der er underlagt obligatorisk krav (højrisikobetonede), og kun-

stig intelligens-systemer, der er underlagt frivillige krav (både høj- og

lavrisikobetonede).

Generelle forventninger til andre landes holdninger

På Konkurrenceevnerådsmødet den 18. februar 2019 blev der vedtaget råds-

konklusioner, der bakkede op om en stærkere udvikling, implementering og

anvendelse af kunstig intelligens i alle økonomiske sektorer med det formål

at gøre Europa til en global leder inden for kunstig intelligens. Redskaberne

til at nå denne målsætning gik blandt andet på flere investeringer samt styr-

kelse af forskning, innovation og færdigheder.

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

Ligeledes i rådskonklusioner fra Telekommunikationsrådet vedtaget den 7.

juni 2019 blev vigtigheden af sikringen af europæiske borgeres rettigheder

såvel som styrkelse af tilliden til kunstig intelligens fremhævet, hvorfor Kom-

missionen blandt andet måtte overveje evaluering af eksisterende lovgivning

i forhold til at imødegå udfordringer samt muligheder, der følger af ny tek-

nologisk udvikling, således for at skabe en pålidelig ramme for kunstig intel-

ligens, der beskytter etiske principper og grundlæggende rettigheder.

På den baggrund er det den generelle forventning, at medlemslandene vil

være positivt stemte over for elementerne i Kommissionens hvidbog. Dog

kan der forventes divergerende holdninger til Kommissionens forslag til en

europæiske lovgivningsramme, der går videre end Rådets konklusionstek-

ster.

10.

Regeringens foreløbige generelle holdning

Regeringen mener, at digitaliseringen skal tjene samfundets interesser ved,

at digitalisering bidrager til at adressere samfundets udfordringer, mens

etisk, ansvarlig og sikker digitalisering går hånd i hånd med digital vækst.

Regeringen arbejder for, at den digitale økonomi i Europa generelt kende-

tegnes ved et højt niveau af tillid og tryghed, samt en stærk digital konkur-

renceevne baseret på innovationsfremmende og teknologineutrale ramme-

vilkår, uden unødige byrder og barrierer.

På den baggrund byder regeringen Kommissionens hvidbog om kunstig

intelligens velkommen og støtter ambitionen om en fælles europæisk til-

gang til at fremme udbredelsen af kunstig intelligens, og at dette sker på en

ansvarlig og tillidsskabende måde.

Regeringen anser kunstig intelligens som en af de afgørende teknologier,

som kan være med til at understøtte

EU’s konkurrenceevne,

velstand og

grønne omstilling samt den offentlige forvaltning og velfærdsydelser.

Samtidig erkender regeringen, at udbredelsen af kunstig intelligens i visse

situationer kan indebære en række alvorlige risici, der kan underminere en

etisk, ansvarlig og sikker anvendelse af kunstig intelligens. Derfor er rege-

ringen enig med Kommissionen i, at disse alvorlige risici bør adresseres i

en europæisk lovgivningsramme. Regeringen vil overordnet arbejde for, at

en europæisk lovgivningsramme for kunstig intelligens udformes, således

at den fremmer en etisk, ansvarlig og sikker anvendelse af kunstig intelli-

gens, samtidig med at den går hånd i hånd med innovation samt konkur-

renceevnen og tager hensyn til rammerne for de enkelte sektorer.

Regeringen finder det derfor generelt hensigtsmæssigt, at der kan stilles

krav til den anvendelse af kunstig intelligens, der kan medføre alvorlige

risici for individer og samfundet. Det er imidlertid afgørende, at

”højri-

siko” kunstig intelligens bliver klart afgrænset til anvendelser, der reelt kan

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

medføre alvorlige risici, og at innovation og nye løsninger fortsat kan ud-

vikles på disse områder. Dermed skal eventuelle nye krav være proportio-

nale og fremtidssikrede og skal både kunne adressere risici forbundet ved

anvendelsen af kunstig intelligens-løsninger og alle data, som benyttes i

såvel træning som anvendelse af løsningen.

Regeringen finder det endvidere vigtigt, at de europæiske tiltag tager højde

for, at kunstig intelligens også udvikles og anvendes i den offentlige sektor

til gavn for velfærd og et højt offentligt serviceniveau. Det er dog vigtigt,

at understrege, at kunstig intelligens på visse områder alene kan fungere

som beslutningsstøtteredskab Regeringen er samtidig opmærksom på, at

visse anvendelser af kunstig intelligens i samfundskritiske sektorer kan in-

debære risici af samfundsmæssig betydning. Samtidig er det afgørende, at

uproblematisk anvendelse af teknologien ikke begrænses til skade for in-

novation, udvikling af nye forretningsmodeller og fremtidens arbejdsplad-

ser. I forlængelse heraf er der ligeledes behov for, at reglerne bliver klare

og operationelle, så de kan håndhæves effektivt. I den forbindelse er det

vigtigt at afklare, hvordan gråzoner af risikoklassificering håndteres.

Regeringen støtter forslaget til en frivillig mærkningsordning for ikke-

”højrisiko”

kunstig intelligens. Regeringen vil arbejde for, at en europæisk

mærkningsordning for kunstig intelligens vil hente inspiration fra den dan-

ske mærkningsordning for IT-sikkerhed og ansvarlig dataanvendelse, såle-

des at etisk, ansvarlig og sikker brug af kunstig intelligens bliver et kon-

kurrenceparameter for danske og europæiske virksomheder.

I forlængelse heraf arbejder regeringen for at øge transparensen om, hvor-

dan virksomheder arbejder med kunstig intelligens og data. Dette kan ske

ved at stille krav om, at de største europæiske virksomheder skal redegøre

for deres dataetiske politik i forbindelse med deres årsregnskab.

Regeringen anser kunstig intelligens for en nøgleteknologi, der i visse si-

tuationer kan medføre sikkerhedspolitiske risici. Regeringen arbejder for,

at Kommissionen også overvejer initiativer, der understøtter, at indsatser

rettet mod udvikling og øget optag af kunstig intelligens tager højde for

sårbarheder i samfundskritiske sektorer. Ligeledes åbner kunstig intelli-

gens op for nye former for cyberangreb. Regeringen ønsker, at Kommis-

sionen anlægger en horisontal tilgang til cybersikkerhed og sikrer, at eksi-

sterende lovgivning for cybersikkerhed også adresserer risici i forbindelse

med kunstig intelligens.

Fra dansk side støtter man, at Kommissionen anlægger et horisontalt per-

spektiv på tilgangen til kunstig intelligens og dermed også har fokus på at

justere eksisterende lovgivning for at adressere særlige problemstillinger i

forhold til kunstig intelligens. I den henseende er det ligeledes vigtigt, at

kom (2020) 0065 - Bilag 1: Grund- og nærhedsnotat om hvidbog om kunstig intelligens - En europæisk tilgang til ekspertise og tillid

indsatsen vedrørende kunstig intelligens sammentænkes med Kommissio-

nens datastrategi.

Regeringen vil bidrage aktivt i rammesætningen af,

hvornår brugen af biometriske identifikationssystemer er proportional og

retfærdig.

Regeringen støtter Kommissionens fokus på, at EU satser ambitiøst på

forskning i kunstig intelligens. Regeringen anerkender endvidere vigtighe-

den af internationalt samarbejde blandt forskningscentre med ekspertise

inden for intelligens og ser positivt på Kommissionens fokus på styrkelse

af arbejdsstyrkens kompetenceniveau inden for kunstig intelligens. Rege-

ringen støtter ligeledes initiativerne vedrørende tilgængeliggørelse af data,

investeringer og faciliteter på tværs af EU samt arbejdet med i højere grad

at tilgængeliggøre teknologien for flere virksomheder og offentlige myn-

digheder. Regeringen er desuden enig med Kommissionen, som udtrykker

et behov for, at Unionen sætter ind for at sikre, at der er tilstrækkelig med

kapacitet til at certificere produkter og udstyr baseret på kunstig intelligens.

Regeringen ser frem til det videre arbejde med initiativerne, der varsles i

hvidbogen, og vil tage stilling til de konkrete lovgivningsmæssige initiati-

ver, i takt med at disse fremsættes af Kommissionen. Hertil bemærkes det,

at regeringen finder det vigtigt, at de videre politiske drøftelse ikke foregriber

forhandlingerne om den kommende finansielle ramme, idet regeringens ho-

vedprioritet for MFF-forhandlingerne er at realisere et samlet udgiftsniveau

svarende til 1,00 pct. af EU27's BNI.

11.

Tidligere forelæggelse for Folketingets Europaudvalg

Sagen har ikke tidligere været forelagt Folketingets Europaudvalg.

Kommissionens meddelelse

”En

europæisk strategi for data”

(KOM

(2020) 66) fra den

19. februar 2020