Rettslig regulering av kunstig intelligens

18. januar 2024

I forrige blogginnlegg skrev Benjamin og Mohammed om hvordan de bruker generativ AI til å løse utfordringer både i arbeidslivet og ellers i hverdagen. De nevner også at bruk av kunstig intelligente systemer alltid vil innebære en viss risiko for feil og fordommer, og at man må være ekstra varsom dersom kunstig intelligens brukes til å ta avgjørelser som påvirker mennesker liv. Disse utfordringene understreker behovet for ansvarlig bruk og kontinuerlig etisk vurdering av AI-teknologi. I dette blogginnlegget tenkte jeg å skrive litt om reguleringen vi har i vente, men også litt om hvilke krav vi allerede må forholde oss til.

AI-forordningen:

Vi venter i spenning på rettslig regulering av denne teknologien. Europaparlamentet og Det europeiske råd har nå kommet til en provisorisk enighet om innholdet i The EU Artificial Intelligence Act, og det er forventet at denne forordningen vil tre i kraft i løpet av 2026. Målsettingen til forordningen er å øke bruken av menneskesentrisk og pålitelig kunstig intelligens og sikre et høyt nivå av beskyttelse for helse, sikkerhet, fundamentale rettigheter, demokrati, miljøet og rettssikkerheten fra de skadelige effektene av slike systemer. Et slikt rammeverk vil sikre at all utvikling og bruk av kunstig intelligens innenfor EU/EØS ivaretar våre lovfestede rettigheter og er i tråd med våre verdier. Forordningen har en risikobasert tilnærming og stiller krav til selve AI-systemet, men også til leverandør og bruker.

Selv om AI-forordningen tidligst vil tre i kraft i 2026 – er det ikke slik at vi avventer med å ta i bruk kunstig intelligens til forordningen er på plass. Kunstig intelligens har potensialet til å skape store gevinster i samfunnet ved å blant annet effektivisere, gi oss ny kunnskap og støtte beslutningsprosesser, og norske virksomheter er ivrige etter å ta teknologien i bruk allerede nå. Å bruke kunstig intelligens på en lovlig måte kan være utfordrende når det ikke er mye juridisk praksis på området. Heldigvis er tre av fire av årets prosjekter som er plukket ut av Datatilsynet for utforsking i den regulatoriske sandkassa prosjekter som utforsker bruken av generativ kunstig intelligens. Forhåpentligvis vil resultatene av disse prosjektene ha overføringsverdi, og sette en standard for hvordan vi kan bruke generativ kunstig intelligens.

 

Ikke et lovløst område:

Selv om vi per i dag ikke har lovgivning som spesifikt regulerer utvikling og bruk av kunstig intelligens, betyr ikke dette at dette er et lovløst område. Vi har flere lovverk som setter rammer for hvordan vi kan utvikle og bruke kunstig intelligens: Hvis kunstig intelligens skal brukes til å behandle personopplysninger, vil kravene i personvernforordningen gjelde. Personvernforordningen stiller blant annet krav til åpenhet – hvor den registrerte har rett til relevant informasjon om den underliggende logikken samt om betydningen og de forventede konsekvensene av en slik behandling, ved forekomsten av automatiserte avgjørelser. Dette kravet vil være vanskelig å etterleve hvis vi ikke kan forklare hvordan det kunstig intelligente systemet kommer frem til et gitt resultat.

På lik linje vil det være vanskelig å gi begrunnelser for enkeltvedtak som viser til de faktiske forholdene et vedtak bygger på etter forvaltningsloven § 25, hvis vi ikke forstår hvordan modellen fungerer, hvilke faktorer som er vektlagt i beslutningsprosessen og hvordan disse har ført til resultatet. Vi har også et diskrimineringsvern i likestillings- og diskrimineringsloven, som skal fremme likestilling og hindre diskriminering i det norske samfunnet. I og med at kunstig intelligens ofte trenes på store datasett, er det viktig å være obs på skjevheter i datagrunnlaget modellen er trent på. Historiske skjevheter eller feil i datainnsamlingen kan føre til at modellen tar avgjørelser på feil grunnlag, og dermed opptrer diskriminerende. Vi har også regler for vern av immaterielle rettigheter, slik som opphavsretten. Det kan oppstå problemstillinger knyttet til opphavsrett både i forbindelse med trening av kunstig intelligens, men også ved bruk av det materialet den kunstige intelligensen genererer.

Som påpekt ovenfor har vi allerede lovgivning som setter klare rammer for hvordan vi kan utvikle og ta i bruk kunstig intelligens, selv om disse ikke direkte adresserer de unike utfordringene knyttet til kunstig intelligente systemer. Vi er spente på å følge denne utviklingen videre, både når det kommer til gevinstene kunstig intelligens kan gi, men også utviklingen på det rettslige området.