AI-förordningen - Världens första omfattande lagstiftning kring artificiell intelligens

För att artificiell intelligens (AI) ska vara till nytta för samhället och medborgarna finns behov av att reglera användningen och minimera dess risker. ”The AI Act” kommer att presenteras av EU-parlamentet inom kort. Nedan presenterar vi en liten sammanfattning. Redan nu är det möjligt att förbereda sig för att efterleva AI-förordningen.

AI – en teknik som förändrat samhället

Året 2023 utmärker sig inte minst vad gäller utvecklingen av AI och dess växande påverkan på samhället. Det var året då AI, särskilt chattbotar som Chat GPT, fick stor uppmärksamhet och började användas i många olika sammanhang. AI erbjuder många fördelar, såsom automatisering av arbetsuppgifter, förmågan att lösa komplexa problem och stimulera nya innovationer och upptäckter, särskilt inom vetenskapen.

Men samtidigt har riskerna med AI också lyfts fram. Bland dessa risker finns bristen på transparens i hur AI-system fattar sina beslut, möjliga bias eller fördomar i beslutsprocessen och risken för felaktiga beslut som kan få omfattande konsekvenser. Dessa frågor är särskilt bekymmersamma när det gäller användningen av AI i viktiga frågor.

Dessutom har många AI-modeller tränats på stora mängder data, som kan innehålla upphovsrättsligt skyddat material eller omfattas av integritetsskyddslagstiftning, vilket också har väckt viktiga politiska och juridiska frågor.

I en tid då samhället genomgår en snabb digital omställning har lagstiftningen haft svårt att hålla jämna steg med utvecklingen av tekniker som AI. Oavsett beslutfattarnas personliga åsikter om AI, är det tydligt att teknologin är här för att stanna, och många är därför överens om att det är nödvändigt att reglera användningen för att minimera dess risker.

AI-förordningen: en milstolpe för AI-reglering

Efter intensiva förhandlingar nådde EU-parlamentet och rådet en politisk överenskommelse om ett förslag till en AI-förordning, på engelska "the AI Act," den 8 december 2023. Nu pågår det slutliga arbetet med att utarbeta lagstiftningsförslaget, och den 2 februari 2024 har företrädare från samtliga EU-medlemsländer godkänt det senaste kompromissförslaget av AI-förordningen. Detta innebär dock inte att den nya AI-förordningen har blivit lag utan det kvarstår några steg på vägen till att slutföra det formella antagandet. Först ska Europaparlamentet rösta om kompromissförslaget den 13 februari 2024 och därefter följer en omröstning i Europaparlamentet som är planerad till den 10 april eller den 11 april 2024. Efter det formella antagandet är slutfört, träder AI-förordningen i kraft 20 dagar efter offentliggörandet i EU:s officiella tidning. Allt tyder på att lagförslaget väntas antas enligt tidsplanen.

Det har emellertid redan nu läckt ut en sammanfattad version av AI-förordningen, där det 892 sidor långa lagförslaget har kortats ned till 258 sidor. Den sammanfattade versionen var även den som företrädarna från EU-medlemsstaterna godkände den 2 februari 2024. Detta har gett oss möjlighet att redan nu få en överblick över några av de viktigaste punkterna och insikterna i förordningen innan det officiella antagandet är slutfört.

Vad är syftet med AI-förordningen?

AI-förordningen utgör världens första omfattande lagstiftning kring artificiell intelligens. Förordningen utgör en enhetlig rättslig ram för AI och gäller hela livscykeln (utveckling, saluföring och användning). Den ska även säkerställa fri rörlighet över gränserna för AI-baserade varor och tjänster samt förhindra att medlemsstaterna inför egna nationella begränsande lagstiftningar gällande AI. Dess främsta målsättningar inkluderar att garantera säkerheten hos AI-system och att dessa respekterar grundläggande europeiska fri- och rättigheter. Förordningen är särskilt inriktad på att hantera risker som kan uppstå, som att skydda individuella och allmänna intressen samt att adressera risker relaterade till användningen av AI. Samtidigt är ett annat viktigt syfte med förordningen att stimulera innovation och investeringar inom AI-sektorn, för att etablera EU som en ledande global aktör inom detta område. EU-kommissionen har i en vitbok om AI-reglering presenterat att det rättsliga ramverket är avsett att maximera teknologins fördelar för medborgarna, som till exempel genom förbättringar inom sjukvården, säkrare transportmedel och förbättrade offentliga tjänster.

På vilket sätt regleras AI?

AI-förordningen kategoriserar AI baserat på dess risknivå:

• Oacceptabel risk är AI-system som utgör ett hot mot människor och är därför förbjudna. Exempelvis sociala poängsystem, manipulativa AI-system och fjärrbiometriska system i realtid.

• Hög risk är AI-system som kan påverka säkerhet eller grundläggande rättigheter på ett negativt sätt. Högrisksystem måste bedömas före marknadsintroduktion och under hela livscykeln. Dessa är indelade i två underkategorier:

  1. Sådana AI-system som används i produkter som ingår i EU:s produktsäkerhetslagstiftning. Till exempel leksaker, flyg, bilar, medicintekniska produkter och hissar.

  2. AI-system som måste registreras i en EU-databas. Exempelvis:

o   Biometrisk identifiering och kategorisering av fysiska personer

o   Förvaltning och drift av kritisk infrastruktur

o   Utbildning och yrkesutbildning

o   Anställning, arbetsledning och tillgång till egenföretagande

o   Tillgång till väsentliga privata tjänster och förmåner

o   Rättsväsende

o   Migrations-, asyl- och gränskontrollhantering

o   Bistånd vid lagtolkning och rättstillämpning

• AI-system med låg risk, underläggs däremot lättare transparenskrav. Utvecklare och distributörer måste försäkra om att slutanvändare är medvetna om att de interagerar med AI (exempel på sådan AI är chatbotar och deepfakes). Generativa AI-modeller som ChatGPT måste också utformas för att förhindra generering av olagligt innehåll och tillverkaren måste uppge upphovsrättsskyddade data som används.

• Minimal risk är oreglerad. Detta inkluderar majoriteten av AI-applikationer som för närvarande finns tillgängliga på EU:s inre marknad, som AI-drivna videospel och skräppostfilter.

Förbered er organisation för AI-förordningen

Redan nu är det möjligt att förbereda sig för att efterleva AI-förordningen. Några punkter som kan beaktas är följande.

• Bedöm om din organisation kommer att påverkas

• Kartlägg era AI-system. Bestäm riskkategori

• Vilka krav ställs i AI-Act och GDPR

• Åtgärda vad som krävs

• Sök råd externt

AI-förordningen kommer att beröra många företag. Alla verksamheter som kommer i kontakt med systemen får skyldigheter med krav på säkerhet, insyn, datakvalitet och riskhantering.

Att bryta mot förordningen kan ge kännbara påföljder med sanktionsavgifter på många miljoner euro.

På https://europarl.europa.eu kan man följa nyheter om AI-förordningen.