AI Act, også kaldet AI-forordningen eller AI-loven, er EU’s forordning om kunstig intelligens (Læs mere her). Formålet er at sikre, at AI-systemer udvikles, markedsføres og anvendes ansvarligt, sikkert og i overensstemmelse med grundlæggende rettigheder.

AI-forordningen bygger på en risikobaseret tilgang. Det betyder, at kravene afhænger af, hvordan AI-systemet anvendes, og hvilken risiko det kan have for personer, organisationer og samfund. Visse AI-praksisser er forbudte, mens højrisiko-AI er underlagt mere omfattende krav til blandt andet risikostyring, dokumentation, datakvalitet, gennemsigtighed, menneskeligt tilsyn og sikkerhed.

For virksomheder og offentlige organisationer betyder AI Act, at anvendelse af AI skal styres og dokumenteres mere systematisk. Det gælder ikke kun organisationer, der udvikler AI-systemer, men også organisationer, der anvender AI-værktøjer i processer, beslutningsstøtte, kundeservice, HR, sagsbehandling eller andre forretningskritiske områder.

Nesp.ONE hjælper organisationer med at skabe overblik over AI-forordningens krav, vurdere risici og etablere konkrete processer, retningslinjer og dokumentation for sikker, ansvarlig og compliant anvendelse af AI.

AI Act, også kaldet AI-forordningen, trådte i kraft i EU den 1. august 2024 og gælder direkte i Danmark. Reglerne finder dog anvendelse gradvist over flere år.

De vigtigste datoer er:

• 2. februar 2025: Generelle bestemmelser, AI-literacy og forbudte AI-praksisser finder anvendelse

• 2. august 2025: Regler for general-purpose AI-modeller, herunder generative AI-modeller, finder anvendelse

• 2. august 2026: Størstedelen af AI Act finder anvendelse, herunder krav til mange højrisiko-AI-systemer

• 2. august 2027: Krav til højrisiko-AI-systemer, der indgår i visse regulerede produkter, finder anvendelse (Læs mere her)

Danske organisationer bør derfor allerede nu skabe overblik over, hvor AI anvendes, hvilke systemer der kan være omfattet, og hvilke krav der gælder. Nesp.ONE hjælper med at strukturere arbejdet med AI-governance, risikovurdering, dokumentation og ansvarlig anvendelse af AI.

AI-forordningen kan omfatte alle danske virksomheder og organisationer, der udvikler, markedsfører, distribuerer eller anvender AI-systemer som led i deres aktiviteter.

Det gælder blandt andet virksomheder, der:

• Udvikler AI-systemer eller AI-baserede produkter (udbydere/providers)

• Anvender AI-systemer i deres drift eller forretningsprocesser (brugere/deployers)

• Importerer AI-systemer fra lande uden for EU

• Distribuerer AI-systemer på det europæiske marked

• Integrerer AI-funktionalitet i egne produkter eller tjenester

For mange organisationer er det særligt relevant at være opmærksom på, at AI-forordningen ikke kun gælder virksomheder, der udvikler AI. Også virksomheder, der anvender AI-løsninger som eksempelvis Microsoft Copilot, ChatGPT, Gemini eller andre AI-baserede værktøjer, kan have forpligtelser i forhold til governance, risikovurdering, kompetencer, gennemsigtighed og ansvarlig anvendelse.

Det betyder, at AI-forordningen er relevant for både små og store virksomheder på tværs af brancher, herunder private virksomheder, offentlige organisationer og organisationer med regulatoriske krav.

Nesp.ONE hjælper med at afklare, hvordan AI-forordningen påvirker jeres organisation, hvilke krav der er relevante, og hvordan arbejdet kan omsættes til konkrete processer, retningslinjer og dokumentation.

Ja, danske virksomheder kan have forpligtelser under AI-forordningen, når de anvender AI-værktøjer som ChatGPT, Microsoft Copilot eller Gemini i en erhvervsmæssig sammenhæng. Kravene afhænger af, hvordan værktøjerne anvendes, hvilke data der behandles, og om AI-output bruges som grundlag for beslutninger eller processer med betydning for personer, kunder eller forretning.

For de fleste virksomheder vil det især være relevant at etablere klare retningslinjer for brug af AI, vurdere risici, sikre AI-kompetencer blandt medarbejdere og dokumentere anvendelsen, hvor det er nødvendigt. Det er særligt vigtigt, hvis AI bruges til kundeservice, HR, sagsbehandling, dokumenthåndtering, rådgivning eller beslutningsstøtte.

Hvis virksomheden udvikler egne AI-løsninger oven på disse platforme eller integrerer AI i egne produkter og services, kan der opstå yderligere forpligtelser. Nesp.ONE hjælper med at afklare roller, risici og krav, så AI kan anvendes sikkert, ansvarligt og i overensstemmelse med AI-forordningen.

I Danmark håndhæves AI-forordningen gennem en koordineret myndighedsindsats, hvor Digitaliseringsstyrelsen har den centrale rolle. Datatilsynet og Domstolsstyrelsen har også opgaver på udvalgte områder, afhængigt af hvordan AI anvendes, og hvilke regler der er relevante.

Digitaliseringsstyrelsen
Digitaliseringsstyrelsen er nationalt koordinerende tilsynsmyndighed for AI-forordningen i Danmark. Styrelsen har ansvar for koordinering, overordnet tilsyn og fungerer som kontaktpunkt i forhold til andre EU-lande og Europa-Kommissionen. Digitaliseringsstyrelsen er desuden udpeget som notificerende myndighed og central markedsovervågningsmyndighed efter dansk lovgivning.

Datatilsynet
Datatilsynet er udpeget som markedsovervågningsmyndighed for udvalgte dele af AI-forordningen, særligt hvor reglerne overlapper med databeskyttelse, personoplysninger og grundlæggende rettigheder.

Domstolsstyrelsen
Domstolsstyrelsen har en mere afgrænset rolle i forhold til anvendelse af AI inden for domstolenes område.

For virksomheder betyder det, at relevant tilsyn kan afhænge af AI-systemets anvendelse, databehandling, risikoniveau og organisatoriske kontekst.