Kunstig intelligens er blevet hverdag hos danske virksomheder og deres it-ingeniører, men snart er det også en sag for den juridiske afdeling. 

En stor lovpakke er nemlig på vej fra EU med en lang række nye regler og krav omkring brugen af kunstig intelligens samt brutale bøder på op mod 6 pct. af en virksomheds årlige omsætning.

Og selvom der er noget tid til, at den endelige lovtekst er klar, er det ikke for tidligt for danske virksomheder at forholde sig til de nye regler. Især hvis man arbejder med kunstig intelligens på områder, der vil falde i kategorien ’højrisiko’. Det er for eksempel sundhed eller uddannelse.

”Er man i højrisiko-kategorien, kan det blive rigtig meget arbejde. Hvis man ikke kommer tidligt fra start, så kan det godt være, at man hurtigt skal leve op til en hel masse krav,” siger Christian von Stamm Jonasson, chefkonsulent hos Dansk Erhverv.

Samme melding kommer fra en advokat, der har specialiseret sig i den nye lovpakke.

”Min vurdering er, at det er en tung opgave at leve op til de krav, der er i lovteksten nu. Så det er vores anbefaling, at man allerede nu begynder at kigge på kravene,” siger Sona Margaryan Jørgensen, der er advokat og leder af afdelingen for it og teknologi hos Lundgrens.

Til gengæld kan det bruges aktivt til at skille sig ud fra mængden.

”Det kan omvendt også blive et vigtigt konkurrenceparameter for danske virksomheder, der i forvejen er langt fremme med ansvarlig udvikling af kunstig intelligens,” siger Christian von Stamm Jonasson.

Hos KMD, der leverer it-systemer til især den offentlige sektor, bliver der allerede nu arbejdet ud fra de foreløbige forslag til de nye regler. For her bliver kunstig intelligens for eksempel brugt som støtte i sagsbehandlingssystemer.

”Vi har valgt at sige, at vi skal opfatte alle løsninger som højrisiko. Så er der en lang række krav, vi skal leve op til og test, vi skal lave,” forklarer Hans Jayatissa, digitaliseringsdirektør hos KMD.

Men selvom den kommende AI Act – som den er døbt på engelsk – blev præsenteret for halvandet år siden af EU-Kommissionen, er der stadig et stykke vej igen, før digitale virksomheder i EU kan få en afklaring. 

Der er nemlig stadig store uenigheder blandt politikerne i EU, og det kan have store konsekvenser, om loven tipper den ene eller anden vej.

For eksempel har Europa-Parlamentet lagt op til, at alle typer af ansigtsgenkendelse skal være forbudt, og at flere områder skal i højrisiko-kategorien. Det er langt mere vidtgående end det oprindelige udspil fra Kommissionen. 

”Der er en frygt hos virksomheder for, at man tager for hårdt fat, og at lovgivningen så bliver meget omfattende. Spørgsmålet er, hvor meget de skal belemres med. Vi vil gerne beskytte de små og mellemstore virksomheder og iværksætterne. Her rammer dokumentationskrav og andre krav ulig meget hårdere,” siger Morten Løkkegaard, medlem af Europa-Parlamentet for Venstre.

En mulighed er derfor at give SMV’erne en undtagelse, så de kan udvikle løs i en ’sandkasse’ uden regler, så længe det stadig er under udvikling.

”Det er meget svært at regulere på forkant. Vi gør det lidt i blinde, fordi udviklingen går stærkt, og vi ikke ved, hvad der bliver udviklet. Så det ville være bedre, hvis man kan udvikle noget og teste det – og først vurdere det, hvis det skal i brug,” siger Morten Løkkegaard.

Hos Teton.ai arbejder man netop med løsninger til sundhedssystemet baseret på kunstig intelligens. 

Hvad EU-lovpakken ender med at betyde for den lille startup, er indtil videre svært at gennemskue. Men generelt frygter selskabets direktør Mikkel Wad Thorsen, at de kommende regler bliver for ’tunge’ og bagudskuende.

”Helt objektivt er det et svært område at regulere på. Teknologien bevæger sig så hurtigt, at lovgivningen hurtigt kan blive forældet. Og så er det sværere at putte noget på markedet, som kan hjælpe folk. Jeg bange for, at vi generelt går glip af mange fede muligheder på grund af det,” siger Mikkel Wad Thorsen.

Et generelt forbud mod ansigtsgenkendelse vil for eksempel kunne spænde ben for andre muligheder for teknologien end den overvågning, som politikerne frygter.

”Det kan du bruge på mange måder til medicinske formål. Du kan detektere søvnstadier, og du kan genkende smerte hos en patient,” siger iværksætteren.

Hvordan fremtiden bliver for de virksomheder, der arbejder med kunstig intelligens, afhænger nu af en armlægning i Europa-Parlamentet, og derefter forhandlinger mellem de tre dele af EU-systemet – Rådet, Parlamentet og Kommissionen.

Men det er blevet ekstra kompliceret af, at der er stor splittelse i Europa-Parlamentet - også internt i de forskellige politiske grupper, der svarer til partierne i dansk politik. 

”Det afhænger meget af, hvor man står personligt, ikke langs de vante politiske skel,” siger Morten Løkkegaard. 

Det bliver ikke nemt, forudser hans socialdemokratiske kollega Christel Schaldemose, som hiver spørgsmålet om ansigtsgenkendelse frem. 

Den teknologi har fået et dårligt ry, efter at især Kina har brugt det til omfattende overvågning af borgernes færden, og nu arbejder Europa-Parlamentet på et generelt forbud.

”Jeg mener, det er dumt at forbyde teknologien. Men det er vigtigt at lave regler for, hvornår man må bruge ansigtsgenkendelse. Vi har jo i Danmark set, at man kan bruge det uden store negative konsekvenser. For eksempel til at finde hooligans til fodboldkampe. Jeg tror, vi skal passe på med at begrænse det for meget,” siger Christel Schaldemose.