Nya AI-regler: Checklista för konsulter och konsultföretag

Den 2 februari 2025 började de första delarna av AI-förordningen (EU AI Act) att tillämpas i hela EU. Lagstiftningen fokuserar på att reglera en ansvarsfull och säker hantering av AI-system under hela livscykeln. Kommer den att påverka hur konsulter arbetar, vilka verktyg som används och riskexponeringen i kunduppdragen?

Vad innebär AI-förordningen?

AI-förordningen är i grunden en produktsäkerhetslagstiftning med syftet att skydda EU-medborgares liv, hälsa och grundläggande rättigheter. Precis som vi kräver certifiering för fordon och läkemedel, införs omfattande dokumentationskrav och CE-märkning för AI-system som klassificeras som högrisk. Vissa AI-system är dessutom helt förbjudna sedan 2 februari 2025.

För chatbottar och deepfakes införs så småningom regler om att vara transparent med att man interagerar med AI. Många applikationer kommer dock att landa i den lägsta risknivån och där är det enda kravet att se till att användaren har tillräcklig kunskap för en säker användning. Förordningen är en del av EU:s arbete för att reglera och långsiktigt främja digitalisering.

Hur påverkar AI-förordningen konsultbranschen?

• Nya krav på rådgivning och regelefterlevnad

För konsultföretag som arbetar med rådgivning är det viktigt att ta till sig kunskap om AI-förordningen och säkerställa att regelefterlevnad finns med på kundprojektens agenda. Applikationer och användning som klassificeras som högrisk enligt AI-förordningen kommer att drabbas av mycket omfattande krav på dokumentation och även CE-märkning. Exempel på områden där frågan om högrisk aktualiseras är rekrytering, kreditbedömningar, kritisk infrastruktur och beslut inom offentlig verksamhet.

Som konsult måste du ha tillräcklig kompetens för att kunna identifiera och lyfta fram juridiska frågor som behöver undersökas vidare. Det är också avgörande att hjälpa kunderna att förstå vilka beslut som kan förändra en föreslagen lösning från lågrisk till högrisk, så att de kan fatta välgrundade beslut. Här finns stora möjligheter att verkligen göra skillnad för kunden! 

När det gäller utvecklingen av AI-system som klassas som högrisk innehåller AI-förordningen en lång kravlista på riskhantering, datahantering, transparens och cybersäkerhet m.m. Samtliga åtgärder behöver dokumenteras och viss information ska lämnas vidare till användaren. Dessutom krävs etablerade rutiner för övervakning under hela AI-systemets livstid.

Det kommer dröja innan det finns tydlig best practice i alla dessa delar och EU kommer att komplettera med vissa riktlinjer kommande år. Proaktiva konsulter har möjlighet att dra nytta av sin erfarenhet från många verksamheter med liknande utmaningar och på så sätt hjälpa kunden att undvika onödiga misstag.

• Etablera en AI-policy

Alla organisationer bör ha en AI-policy för att skydda affärshemligheter och bygga en kultur med ansvarsfull och etisk användning av artificiell intelligens. För konsultföretag – som ofta hanterar kunders data – blir detta ännu viktigare. Hur kontrollerar ni att kunders data inte används för att träna systemets algoritmer och därmed potentiellt röjs i strid med era sekretessavtal? Och hur säkerställer ni att resultat som är helt eller delvis AI-genererat inte i praktiken är en kopia av en annan organisations arbete? 

Policyn bör innehålla tydliga riktlinjer till användaren. Då blir det lätt att göra rätt. En sådan tydlighet ger också trygghet åt användaren och kan därmed faktiskt främja användning av AI och accelerera innovation. För att få verksamhetsanpassade riktlinjer och ta höjd för den snabba utvecklingen är vår rekommendation att etablera ett AI-råd eller motsvarande, som godkänner vilka AI-verktyg som används och fortlöpande uppdaterar riktlinjerna. En väl utarbetad AI-policy hjälper er att hantera riskerna i form av skadeståndskrav från kund eller sanktioner enligt AI-förordningen och bidrar samtidigt till att bygga förtroende hos både anställda och kunder. Tänk också på att era kunder kan ha policies kring användning av AI som omfattar ert arbete som konsulter.

• Utbilda dig och din organisation

Utbildning är en central del av arbetet med AI-förordningen. Se till att konsulter och team har tillräcklig förståelse för hur förordningen påverkar både kunduppdrag och interna processer. God AI-kunskap – eller ”AI literacy” – innebär att medarbetarna inte bara förstår teknologin, utan även kan identifiera dess potential, begränsningar och etiska utmaningar.

Tydliga riktlinjer för användarna säkerställer att alla hanterar teknologin på ett ansvarsfullt sätt. Praktiska insatser som regelbundna utbildningar, workshops, hands-on-övningar och interna forum för kunskapsutbyte är viktiga verktyg. Kom ihåg att dokumentera genomförda utbildningsinsatser för att kunna visa på efterlevnad av AI-förordningens regler om AI Literacy, som alltså gäller sedan den 2 februari i år.

• Involvera flera kompetenser

En framgångsfaktor för ett lyckat förändringsarbete är att involvera flera olika kompetenser och funktioner. Detta gäller även i den tuffa utmaningen att kombinera en AI-implementation eller utveckling av en ny produkt med en effektiv hantering av kraven som ställs i AI-förordningen. Rekommendationen är därför att sätta samman tvärfunktionella team där verksamhetsexpertis, teknisk expertis och juridik förenas för att tillsammans skapa bästa förutsättningar för att lyckas.

Verksamhetsexperter bidrar med djup kunskap om affärsprocesser och marknadens behov, vilket säkerställer att de tekniska lösningarna anpassas efter praktiska krav. Teknikexperterna ansvarar för att utveckla och implementera robusta system som ligger i framkant med den senaste teknologin. Juridiska specialister ser till att alla lösningar följer gällande regelverk och etiska riktlinjer och säkerställer att produkten de facto kan användas när den sätts på marknaden. Här fyller konsultföretag en viktig funktion i att utvärdera och dela best practice kring hur ett framgångsrikt samarbete kan fungera och vid vilka tidpunkter olika kompetenser bör involveras.

Om du vill veta mer om hur ditt företag kan förbereda sig för AI-förordningen eller om du söker rådgivning inom AI och regelefterlevnad, kontakta oss på Wisepoint för att boka en konsultation med våra experter! Vi erbjuder även kurser inom AI-juridik.

Anmäl dig gärna till vår halvdagsutbildning om AI-förordningen den 3 april, AI-förordningen – en allmän grundkurs – Wisepoint. Eller haka på vårt webinar om AI-policy den 14 mars, AI-policy – så skapar du effektiva riktlinjer som främjar innovation! – Wisepoint