Den 9 december 2023 nådde Rådet och Europaparlamentet en preliminär överenskommelse om en förordning om harmoniserade regler för AI inom EU, den s.k. AI-förordningen eller AI Act.
Överenskommelsen följer nästan tre år efter att Kommissionen först presenterade sitt förslag till AI-förordning. Därefter har Rådet och Europaparlamentet lagt fram varsin ståndpunkt av förordningen, där parlamentet antog sin ståndpunkt i juni 2023. Sen i juni 2023 har förhandlingar mellan Rådet och Europaparlamentet pågått i syfte att träffa en överenskommelse om hur den slutliga versionen av förordningen ska se ut.
AI-förordningen syftar bl.a. till att reglera AI-system som tillhandahålls och används på den inre marknaden och säkerställa människors säkerhet och hälsa samt grundläggande rättigheter. Regleringen är också ett led i att trygga rättssäkerheten i fråga om AI-system samt underlätta investeringar och innovation inom AI.
I korthet kommer AI-förordningen att följa en riskbaserad metod där AI-system delas in i olika riskkategorier baserat på vilken risk de anses utgöra för människors säkerhet, hälsa och rättigheter. Ju högre risk, desto högre krav.
Vissa tillämpningar av AI-system anses utgöra en oacceptabel risk och kommer därför att anses vara helt förbjudna. Exempel på detta inkluderar att använda AI-system för att manipulera mänskligt beteende, skrapa bilder på ansikten från internet för att skapa databaser för ansiktsigenkänning, samt att använda AI-system för att utföra s.k. social poängsättning.
Brottsbekämpande myndigheter kommer genom ett undantag bl.a. ges rätt att under vissa särskilt angivna förutsättningar använda biometriska identifieringssystem som på distans och i realtid kan användas för ansiktsigenkänning på allmänna platser. Den preliminära överenskommelsen förtydligar även att AI-förordningen inte ska påverka medlemsstaternas kompetens inom nationell säkerhet och inte heller tillämpas på AI-system som uteslutande används för militära ändamål eller försvarsändamål.
AI-system som anses utgöra en s.k. hög risk, dvs. AI-system som skulle kunna utgöra en risk för säkerhet, hälsa och för de grundläggande rättigheterna, får fortfarande tillhandahållas på marknaden under förutsättning att de lever upp till vissa särskilda transparens- och tillsynskrav. Tillhandahållare av AI-system som utgör ”hög risk” ska även ha genomfört en konsekvensbedömning av grundläggande rättigheter. För AI-system som anses utgöra en begränsad risk kommer enbart vissa begränsade transparenskrav att gälla.
Förordningen kommer även att införa regler för AI-system/modeller för generella ändamål, s.k. general purpose AI systems (GPAI), inklusive sådana stora generativa AI-modeller som exempelvis ChatGPT utgör ett exempel på.
Tillhandahållare av GPAI kommer bl.a. att behöva uppfylla vissa transparenskrav och ha policys på plats för att t.ex. säkerställa att de respekterar upphovsrättslagstiftningen.
Förordningen kommer även innebära särskilda regler för de riktigt stora GPAI-modellerna som skulle kunna utgöra en systemrisk.
Ur ett tillsynsperspektiv inrättar AI-förordningen dessutom EU-organet AI Office som är underordnat Kommissionen och som bl.a. kommer att ansvara för att tillse att de mest avancerade AI-modellerna efterlever regelverket. AI Office kommer även att ha i uppdrag att ta fram olika standarder och främja en enhetlig tillämpning av reglerna i medlemsländerna.
AI-förordningen kommer även att innehålla regler om sanktioner. Storleken på de sanktionsavgifter som kan utdömas beror på vilket brott mot förordningen som begåtts och kommer att sättas till det högre beloppet av (i) en procentandel (mellan 1,5 % och 7 %) av det felande bolagets globala årsomsättning under det föregående året och (ii) ett förutbestämt belopp (mellan 7,5 miljoner EUR och 35 miljoner EUR).
Själva texten av AI-förordningen ska nu genomgå teknisk och språklig granskning innan förordningen kan läggas fram för slutligt antagande av Rådet och Europaparlamentet.
Efter det slutgiltiga antagandet kommer förordningen att träda i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning, vilket troligtvis sker i början av 2024.
Enligt den preliminära överenskommelsen ska förordningen tillämpas två år efter det att den har trätt i kraft, med vissa undantag för specifika bestämmelser. De i förordningen angivna förbuden kommer dock att vara tillämpliga redan efter sex månader, medan reglerna för GPAI blir tillämpliga efter 12 månader.
Har du frågor om AI-förordningen är du välkommen att höra av dig till oss.
