EU vedtar lov om kunstig intelligens – forbyr masseovervåking

KI-regelverket er det første i verden i sitt slag og skal stemmes over i parlamentet onsdag.

Deretter må loven gjennom en formell godkjenning i EUs ministerråd før den kan tre i kraft, noe som ventes å skje i 2025.

Da kommer EU til å ha et overgripende regelverk for all teknologi rundt kunstig intelligens. Selskaper som bryter loven, kan vente seg saftige bøter på opp til 7 prosent av deres globale omsetning.

– EU leverer

Ifølge tjenestemenn i EU vil regelverket på den ene siden beskytte borgerne mot mulige farer som masseovervåking, og samtidig sørge for å bygge opp under innovasjon.

– EU leverer. Ikke noe hvis, men eller senere, sier representanten Dragos Tudorache, som har vært ansvarlig for å få lovteksten gjennom EU-parlamentet, ifølge AFP.

– EU setter nå en global standard når det gjelder troverdig KI, istemmer EUs kommissær for det indre markedet Thierry Breton.

Fire risikokategorier

Grovt sett deler den nye loven dagens KI-systemer inn i fire risikokategorier, med minimal og uakseptabel risiko i ytterkantene. De fleste KI-tjenestene ventes å havne i midten – med enten begrenset eller høy risiko.

Eksempler på sistnevnte er å bruke KI innen transport og ansettelser, mens begrenset risiko handler om krav til innsyn, at man har krav på å vite om et bilde eller video er KI-generert, såkalt deepfake, eller om det er en KI-tjeneste man snakker med.

Høyrisiko KI-leverandører må heretter gjennomgå risikoanalyser før produktene kan sendes ut på markedet.

Uakseptabel risiko, som EU nå setter en stopp for, gjelder blant annet sanntidsovervåking med ansiktsgjenkjenning og KI-systemer for å sette sosiale «poenger», som blant annet finnes i Kina.

Det blir også forbudt å bruke KI i systemer som bruker biometrisk informasjon til å kartlegge rase, religion eller seksuell orientering.

EU-kommisjonen overvåker ChatGPT

De ulike områdene skal overvåkes av landenes myndigheter. Unntaket er generell KI som ChatGPT.

Slike tjenester kommer EU-kommisjonen selv til å overvåke fordi de per definisjon er grenseoverskridende, sier den svenske juristen innen medierett Daniel Westman til nyhetsbyrået TT.

– Markedsledende aktører som Open AI har mulighet til å svelge dette, men mindre programvarebedrifter, som er vant med å eksperimentere, må nå ha et systematisk sikkerhetsarbeid, sier han.

Kappløp med utviklingen

EU har gjennomført en real sprint for å holde tritt med en rasende utvikling på KI-feltet.

Allerede i 2021 foreslo EU-kommisjonen et regelverk. Men etter at tekstgenereringsmodellen ChatGPT inntok markedet, har det vært nødvendig å bruke tid på å samkjøre lovteksten.

I desember i fjor ble det enighet om et sett kjøreregler. Men deretter gikk Frankrike og Tyskland et skritt tilbake i frykt for at lovverket ikke var solid nok.

Lobbyister advarer på sin side om at de nye reglene er uklare og kan bremse utrullingen av nye KI-tjenester i Europa.

– En riktig gjennomføring er derfor avgjørende for å sikre at AI-regelverket ikke legger en for stor byrde på selskapene, sier Boniface de Champris fra en av de største tech-lobbyistene, CCIA Europe, til AFP.