Etisk og tillidsvækkende AI-governance i en AI lov-reguleret virkelighed Ledelsessystem for informationssikkerhed: EU’s AI-lov (AI Act) introducerer en ny regulatorisk virkelighed for organisationer, der udvikler, anvender eller er afhængige af kunstig intelligens. For første gang er etiske principper som fairness, transparens, ansvarlighed og menneskelig kontrol gjort til bindende krav, der påvirker, hvordan AI må anvendes i praksis.

På samme måde som GDPR ændrede måden, organisationer arbejder med databeskyttelse på, forventes AI lov at sætte en global standard for ansvarlig og troværdig anvendelse af AI. Selvom den offentlige debat ofte fokuserer på generativ AI, retter reguleringen sig i høj grad mod AI-systemer, der er indlejret i kerneforretningsprocesser. Systemer, som påvirker mennesker, beslutninger, prissætning, adgang og risikovurderinger. For den øverste ledelse er arbejdet med EU AI lov et spørgsmål om governance, etik og risikostyring.

Hvorfor etisk AI er afgørende i en AI lov-kontekst : AI lov omsætter forventninger om ansvarlig AI til konkrete og håndhævelige krav. Organisationer skal kunne vise, at deres AI-systemer er designet og anvendt på en måde, der respekterer grundlæggende rettigheder og samfundsværdier. Bl.a. skal de forebygge unfair bias og diskriminerende udfald, sikrer reel transparens og forklarbarhed samt muliggør menneskelig overvågning og indgriben.

Samtidig skal systemerne fungere stabilt, sikkert og forudsigeligt over tid. Disse forventninger gælder på tværs af hele AI-livscyklussen, fra valg af data og modeldesign til implementering, overvågning og løbende forbedringer. Etisk AI i en AI lov-ramme er ikke et teoretisk ideal, men et praktisk ledelsesansvar, der forudsætter dokumenterede beslutninger, klare ansvarsforhold og operationel kontrol.

AI-governance som fundament for tillidsvækkende AI: Mange organisationer anvender allerede AI-drevne løsninger uden nødvendigvis at betegne dem som AI. Beslutningsstøtteværktøjer, scoringsmodeller, optimeringsmotorer og prædiktiv analyse betragtes ofte som tekniske komponenter frem for potentielle etiske og forretningsmæssige risici.

AI lov ændrer denne tilgang. Reguleringen fokuserer ikke på, hvor avanceret teknologien er, men på hvordan AI-systemer påvirker mennesker. Ethvert system, der har væsentlig indflydelse på individuelle udfald, kræver struktureret styring og ansvarlig anvendelse.

Det kræver et setup hvor AI-governance rækker ud over IT- og datateams og forankres i ledelsen, risikostyring og interne kontroller, compliance-, juridiske- og revisionsfunktioner samt hos system-, produkt- og dataansvarlige. Uden governance kan ansvarlig AI ikke dokumenteres og organisationens regulatoriske robusthed svækkes.

AI-systemer, der klassificeres som højrisiko under EU AI lov, er underlagt skærpede krav, som direkte afspejler etiske principper.

Organisationer forventes at arbejde systematisk med risikostyring gennem hele AI-livscyklussen, solid datagovernance med fokus på kvalitet og fairness, teknisk dokumentation, der muliggør transparens og sporbarhed, samt klare mekanismer for menneskelig overvågning og indgriben. Derudover er løbende monitorering og kontrol efter implementering afgørende.

Mange organisationer anvender allerede systemer, der falder ind under denne kategori. Udfordringen er sjældent, om kravene gælder, men om de er omsat til praksis, styret på tværs af organisationen og kan forklares over for myndigheder og interessenter.

Vi hjælper organisationer med at opbygge etisk, ansvarlig og tillidsvækkende AI-governance, der matcher kravene i EU AI lov uden at overkomplicere processer eller hæmme forretningen.

Vores rådgivning fokuserer på at skabe overblik over etiske risici, governance-mangler og regulatorisk eksponering samt på at etablere klare rammer, politikker og processer for ansvarlig AI.

Vi understøtter også datagovernance, bias-håndtering og tilbyder målrettet træning af bestyrelser, direktion og nøglefunktioner.

Første udfordring: At forstå hvorfor og hvor AI giver mening - Rejsen mod troværdig AI begynder længe før, der indkøbes eller udvikles et AI-system. Det første skridt er at skabe klarhed over, hvorfor AI er relevant, og hvilke konkrete opgaver teknologien kan løse på en meningsfuld måde.

Ikke alle udfordringer kræver en AI-løsning. AI kan påvirke borgernes rettigheder, adgang til ydelser og generelle trivsel, og derfor er det afgørende tidligt at identificere potentielle risici. At en teknologi kan anvendes, betyder ikke nødvendigvis, at den bør anvendes. Særligt hvis centrale værdier som fairness, gennemsigtighed eller ansvarlighed kan bringes i spil.

Denne indledende afklaring er også afgørende for beslutningen om, hvorvidt en AI-løsning skal købes hos en leverandør eller udvikles specifikt til kommunens behov. Begge valg medfører forskellige forpligtelser og roller i forhold til EU’s AI Act.

Fra ambition til ansvarlig implementering: Danmark er et af verdens mest digitaliserede samfund. Med en stærk digital økonomi og en højt digitaliseret offentlig sektor er potentialet for at anvende kunstig intelligens (AI) i kommunerne betydeligt. AI kan bidrage til øget effektivitet, bedre beslutningsgrundlag og mere sammenhængende service til borgerne.

Samtidig følger der et stort ansvar med. Kommunerne skal sikre, at implementeringen af AI ikke underminerer den høje tillid, som borgerne har til de offentlige institutioner. Derfor bør fokus ikke blot være på at tage AI i brug, men på at implementere troværdig AI.

Kommunerne arbejder dagligt med personoplysninger og følsomme data. Derfor er det helt centralt, at AI-løsninger overholder gældende lovgivning om databeskyttelse og er designet til at minimere risikoen for bias og diskrimination.

Men lovlighed alene er ikke tilstrækkeligt. AI i den offentlige sektor skal også være etisk forsvarlig og afspejle samfundets værdier. Det indebærer blandt andet gennemsigtighed, respekt for borgernes rettigheder og en klar ansvarsplacering. Samtidig skal teknologien være robust, stabil og sikker – også i uforudsete situationer.

For mange kommuner er det en kompleks opgave at balancere disse juridiske, etiske og tekniske krav uden specialiseret støtte.

Når kommuner implementerer AI, har de et særligt ansvar for at beskytte borgernes værdighed og trivsel. Det betyder blandt andet, at der skal være reel menneskelig kontrol og tilsyn, at AI-systemer er sikre og modstandsdygtige over for angreb, og at resultaterne er pålidelige og kan genskabes.

Data må aldrig anvendes ulovligt eller på måder, der kan føre til diskrimination. Samtidig skal AI-baserede løsninger være tilgængelige for alle borgere, og der skal træffes aktive foranstaltninger for at undgå uretfærdig skævhed.

Implementering af troværdig AI er krævende, men også en mulighed. Med den rette tilgang kan kommuner udnytte AI’s potentiale og samtidig styrke borgernes tillid til den offentlige sektor.

Her gør målrettet AI-rådgivning en reel forskel: ved at hjælpe kommuner med at omsætte ambitioner til ansvarlige, compliant og værdibårne AI-løsninger – hele vejen fra strategi til implementering.