Loi sur l'IA

Le règlement européen sur l'IA, également appelé « AI Act », est la première législation globale qui réglemente l'utilisation de l'intelligence artificielle. Ce règlement régit le développement, la commercialisation et l'utilisation des systèmes d'IA dans l'UE en fonction de leur niveau de risque. Le règlement sur l'IA est entré en vigueur en 2024 et ses exigences seront progressivement mises en œuvre d'ici 2025-2027. Pour de nombreuses organisations, cela signifie que l'IA n'est plus seulement une question technique, mais une responsabilité commerciale et managériale. 

Nos experts chez Nesp.ONE les aide organisations à mettre en place, opérationnaliser et maintenir la conformité avec le règlement européen sur l'IA, en mettant particulièrement l'accent sur la réduction des risques, la sécurité et la mise en œuvre responsable de l'IA. 

Le règlement sur l'IA entre progressivement en vigueur : 

• 2 février 2025: l'interdiction des pratiques d'IA à haut risque entre en vigueur. 

• 2 août 2025: les règles relatives aux modèles d'IA générative (tels que ChatGPT) entrent en vigueur. 

• 2 août 2026: les exigences complètes relatives aux systèmes d'IA à haut risque entrent en vigueur. 

• 2 août 2027: les exigences relatives à certains systèmes d'IA existants entrent en vigueur. 

Les entreprises devraient commencer dès maintenant à se mettre en conformité afin d'être prêtes pour les dates limites. 

Le règlement sur l'IA s'applique à toutes les entreprises et organisations qui: 

• Développe des systèmes d'IA (fournisseurs/prestataires). 

• Utilise des systèmes d'IA dans un contexte professionnel (utilisateurs/déployeurs). 

• Importe des systèmes d'IA provenant de pays hors UE. 

• Distribue des systèmes d'IA sur le marché. 

Cela s'applique aux grands groupes et petites entreprises. Même si vous utilisez seulement  des solutions tierces comme Microsoft Copilot ou ChatGPT, ont I responsabilité en tant que utilisateur de IA. 

Chez Nesp.ONE, nous proposons des conseils et des solutions pratiques pour aider efficacement les entreprises à se conformer à la réglementation en matière d'IA.​ 

Oui, mais les exigences dépendent de la manière dont les entreprises utilisent ces outils. 

La plupart des entreprises danoises sont utilisatrices et doivent : 

• Évaluer les risques liés à l'utilisation (par exemple, si les employés utilisent l'IA pour le service client ou la gestion des documents). 

• Veiller à ce que les données sensibles ne soient pas divulguées aux systèmes d'IA. 

• Mettre en place une surveillance humaine lorsque cela est pertinent. 

• Documenter l'utilisation, en particulier si les résultats de l'IA sont utilisés pour prendre des décisions concernant des personnes. 

Si vous développez vos propres solutions d'IA sur ces plateformes, vous pourriez avoir des responsabilités en tant que fournisseur.

Chez Nesp.ONE, nous proposons des services de conseil et des solutions pratiques qui aident efficacement les entreprises à répondre à toutes les exigences et à se conformer à la réglementation.​

Au Danemark, le règlement sur l'IA est appliqué grâce à une action coordonnée menée par l'Agence danoise pour la numérisation. L'Autorité danoise de protection des données et l'Administration judiciaire contribuent à la fois à l'application et à la surveillance du marché, le tout dans le cadre du cadre commun et de la structure de gouvernance de l'UE. 

Agence danoise pour la numérisation  
L'Agence danoise pour la numérisation fait office d'autorité nationale de coordination et de surveillance pour le règlement sur l'IA au Danemark.

Elle est chargée de la supervision générale et de la coordination de la mise en œuvre et fait également office d'autorité de notification et d'autorité centrale de surveillance du marché conformément à la législation danoise. En outre, l'Agence danoise pour la numérisation est le principal point de contact du Danemark avec les autres pays de l'UE et la Commission européenne pour les questions relatives au règlement sur l'IA. 

Autorité de contrôle des données  
L'autorité de contrôle des données a été désignée comme l'une des autorités de surveillance du marché au Danemark. Elle se concentre en particulier sur les parties du règlement sur l'IA où les exigences relatives aux systèmes d'IA recoupent la protection des données à caractère personnel, y compris les pratiques interdites et le respect des droits fondamentaux. 

Les infractions au règlement sur l'IA peuvent entraîner des amendes importantes : 

• Jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial (le montant le plus élevé) pour violation des pratiques interdites en matière d'IA 

• Jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial pour violation d'autres obligations prévues par le règlement 

• Jusqu'à 7,5 millions d'euros ou 1,5 % du chiffre d'affaires annuel mondial pour avoir fourni des informations inexactes aux autorités 

Outre les amendes, le non-respect des réglementations peut nuire à votre réputation, entraîner une perte de confiance de vos clients et perturber vos opérations. Que vous ayez déjà des systèmes d'IA en exploitation ou que vous soyez en phase de démarrage, les experts de Nesp.ONE vous accompagnent pour une mise en œuvre à la fois légale et responsable.​

Selon le règlement européen sur l'IA, le concept desystème d'IA est défini de manière large, de sorte qu'il couvre de nombreux types de solutions logicielles et mécaniques intelligentes. Un système d'IA est décrit comme un système mécanique qui : 

• est conçu pour fonctionner avec différents degrés d'autonomie (c'est-à-dire qu'il peut, dans une certaine mesure, effectuer des tâches sans intervention humaine directe). 

• peut s'adapter après sa mise en service, par exemple en modifiant son comportement en fonction de nouvelles données ou interactions. 

• à partir d'un objectif donné, analyser des données d'entrée et générer des données de sortie telles que des prévisions, du contenu, des recommandations ou des décisions. 

• fournit des résultats pouvant avoir une incidence sur les environnements physiques et numériques, par exemple en influençant les utilisateurs ou en automatisant les processus d'un système. 

Exemples de systèmes pouvant être couverts par la définition : 

• chatbots et modèles linguistiques. 

• systèmes de recommandation (par exemple pour le streaming ou les achats en ligne). 

• outils d'analyse prédictive. 

• systèmes de reconnaissance d'images (vision artificielle). 

• robots ou véhicules autonomes. 

• systèmes de contrôle adaptatifs dans l'industrie. 

Nos experts chez Nesp.ONE vous aideront à déterminer si votre solution est pertinente au regard de la définition de la réglementation sur l'IA et vous accompagneront dans vos démarches pour garantir votre conformité.​. 

Le règlement sur l'IA définit les systèmes à haut risque en deux catégories : 

1. Systèmes d'IA dans les produits réglementés par la législation européenne en matière de sécurité(dispositifs médicaux, voitures, jouets, etc.)
2. Systèmes d'IA utilisés dans des domaines spécifiques, notamment :

• • Identification biométrique. 

• • Infrastructures critiques. 

• • Éducation et formation professionnelle. 

• • Embauche et recrutement. 

• • Accès aux services essentiels (crédit, assurance, soins de santé). 

• • Application de la loi. 

• • Migration et contrôle des frontières. 

• • Système judiciaire. 

En cas de doute, Nesp.ONE peut vous aider à évaluer les risques liés à vos systèmes d'IA.​ 

Le règlement sur l'IA interdit totalement certaines formes d'utilisation de l'IA, car elles peuvent soit porter atteinte aux droits fondamentaux, soit être considérées comme un risque inacceptable.

Voici quelques exemples de pratiques interdites en matière d'IA : 

• Les systèmes de notation sociale, dans lesquels les citoyens sont évalués ou classés selon une sorte de « score de confiance ». 

• Une IA manipulatrice qui exploite les groupes vulnérables, tels que les enfants, les personnes âgées ou d'autres personnes vulnérables. 

• Certaines formes de surveillance biométrique, en particulier la surveillance de masse avec reconnaissance faciale en temps réel dans les espaces publics (à quelques exceptions près, très limitées, pour les autorités chargées de l'application de la loi). 

• L'IA qui tente de prédire la criminalité, si l'évaluation repose uniquement sur le profilage. 

La réglementation relative à l'IA repose globalement sur une approche fondée sur les risques, dans laquelle les exigences dépendent de la manière dont l'IA est utilisée et des conséquences que cela peut avoir : 

• L'IA à haut risque couvre les systèmes utilisés dans des domaines d'importance majeure pour les personnes, tels que le recrutement, l'évaluation de crédit, la santé, l'éducation ou la conformité. Des exigences sont imposées, notamment en matière de gestion, de documentation, de qualité des données et de contrôle humain.

• Une IA à risque limité exige avant tout de la transparence, par exemple que les utilisateurs soient clairement informés lorsqu'ils interagissent avec une IA ou une IA générative.

• En principe, l'IA à faible risque peut être utilisée librement, mais il est tout de même conseillé de suivre les meilleures pratiques et de veiller à une utilisation responsable.

Chez Nesp.ONE, nous vous aidons à évaluer les risques liés à vos systèmes d'IA. 

Non, la certification ISO 27001 n'est pas une exigence du règlement sur l'IA, mais : 

• Les entreprises certifiées ISO 27001 disposent déjà d'une grande partie des structures de gouvernance requises pour la conformité en matière d'IA. 

• Les risques spécifiques à l'IA peuvent être intégrés dans les systèmes de gestion de la sécurité de l'information (ISMS) existants. 

• La norme ISO 42001 (nouvelle norme pour la gestion de l'IA) peut compléter le travail de conformité en matière d'IA. 

Nesp.ONE aide les entreprises à étendre leur certification ISO 27001 existante afin d'inclure des contrôles spécifiques à l'IA. 

Un élément central de la loi sur l'IA est la transparence et la responsabilité. Les organisations doivent être en mesure d'expliquer comment fonctionnent leurs solutions d'IA, sur quelles données elles s'appuient et comment les risques sont gérés. Parallèlement, les rôles doivent être clairement définis et un contrôle humain doit être exercé afin que les décisions importantes ne soient pas laissées aveuglément aux systèmes automatisés. 

Human-in-the-loop (HITL) ou supervision humaine signifie qu'un être humain surveille activement et peut intervenir dans la décision du système d'IA. L'objectif est de réduire les risques tels que les biais, les décisions automatiques erronées, les erreurs techniques et les situations dans lesquelles l'IA peut causer des dommages ou porter atteinte aux droits des personnes. 

 Les systèmes d'IA, en particulier les systèmes d'IA à haut risque, doivent être conçus et utilisés de manière à ce que les êtres humains puissent les comprendre, les contrôler et intervenir si nécessaire. 

En pratique, cela signifie que les organisations qui utilisent une IA à haut risque ne doivent pas suivre aveuglément les résultats de l'IA. Lorsque l'IA a une incidence sur la sécurité, les droits ou les possibilités des personnes, ce sont toujours les êtres humains qui doivent assumer la responsabilité de la décision finale.

Le biais dans l'IA signifie que le système favorise ou discrimine systématiquement certains groupes (en fonction du sexe, de l'âge, de l'origine ethnique, etc.). Le biais peut apparaître à travers : 

• Données d'entraînement biaisées (par exemple, uniquement des données provenant d'hommes). 

• Erreur dans la conception de l'algorithme. 

• Connexions cachées dans les données. 

Comment éviter les biais : 

• Assurance qualité des données d'entraînement pour garantir leur représentativité. 

• Testez les résultats discriminatoires avant le déploiement. 

• Surveillance continue des décisions du système en cours de fonctionnement. 

• Diverses équipes dans le domaine du développement de l'IA. 

• Documentation relative à la qualité des données et aux résultats des tests. 

La réglementation sur l'IA exige que les systèmes à haut risque soient testés pour détecter tout biais avant et pendant leur utilisation. Chez Nesp.ONE, nous vous aidons à tester les biais.

La loi sur l'IA traduit les attentes en matière de responsabilité de l'IA en exigences concrètes et applicables. Les organisations doivent être en mesure de démontrer que leurs systèmes d'IA sont conçus et utilisés de manière à respecter les droits fondamentaux et les valeurs sociales, à prévenir les préjugés injustes et les résultats discriminatoires, à garantir une transparence et une explicabilité réelles, et à permettre la surveillance et l'intervention humaines. En même temps, les systèmes doivent fonctionner de manière stable, sûre et prévisible dans le temps. 

Ces attentes s'appliquent à l'ensemble du cycle de vie de l'IA, depuis le choix des données et la conception des modèles jusqu'à la mise en œuvre, la surveillance et les améliorations continues. L'IA éthique dans un cadre juridique dédié à l'IA n'est pas un idéal théorique, mais une responsabilité managériale pratique qui nécessite des décisions documentées, des responsabilités claires et un contrôle opérationnel. 

Pour les organisations qui s'y prennent tôt, il est possible de construire des bases solides pour une IA responsable : 

• Renforcer la confiance des clients, des collaborateurs et des partenaires. 

• Réduire les risques commerciaux et les risques liés à la réputation. 

• Faciliter la mise à l'échelle de l'IA de manière sécurisée et contrôlée.

• Apporter de la clarté à la direction et au conseil d'administration. 

• Soutenir l'innovation sans freiner l'activité. 

Les organisations qui travaillent de manière structurée avec une IA éthique et responsable sont plus solides tant sur le plan réglementaire que commercial. 

Un cadre de gouvernance de l'IA bien défini, fondé sur une prise de décision éthique, des responsabilités claires et des processus opérationnels robustes. 

Le développement et la mise en œuvre de systèmes d'IA équitables, sûrs, non discriminatoires et fiables ne réduisent pas seulement le risque réglementaire. Ils renforcent la confiance au sein de l'organisation, protègent la réputation et permettent une innovation durable à grande échelle. 

Une bonne compréhension des implications éthiques et juridiques de l'IA permet à la direction d'intégrer la conformité dans la stratégie, les décisions d'investissement et la gestion opérationnelle. 

La gouvernance de l'IA doit dépasser le cadre des équipes informatiques et des données. Elle doit être ancrée dans la direction, la gestion des risques et les contrôles internes, les fonctions de conformité, juridiques et d'audit, ainsi que chez les responsables des systèmes, des produits et des données. Sans gouvernance, l'IA responsable ne peut être documentée et la robustesse réglementaire de l'organisation s'en trouve affaiblie. 

Nos experts chez Nesp.ONE aide les organisations à mettre en place, opérationnaliser et maintenir la conformité avec le règlement européen sur l'IA. 

Le règlement européen sur l'IA introduit des exigences contraignantes tout au long du cycle de vie de l'IA. De la conception et du développement à la mise en œuvre et à la surveillance après la mise en service, la conformité exige une maturité opérationnelle dans les domaines suivants, entre autres : 

• Gestion des risques et classification des systèmes d'IA. 

• Gouvernance des données, qualité des données et traçabilité. 

• Transparence, explicabilité et information aux utilisateurs. 

• Surveillance humaine et responsabilité. 

• Surveillance continue et mesures correctives. 

Les organisations dotées d'une base éthique et de gouvernance solide sont mieux armées pour répondre à ces exigences de manière efficace et cohérente. 

Chez Nep.ONE, nous accompagnons les organisations dans la mise en place, l'exploitation et le maintien de leur conformité à la réglementation européenne sur l'IA, en mettant l'accent sur la gestion des risques, la sécurité et la mise en oeuvre responsable de l'IA. Que votre organisation utilise déjà des systèmes d'IA ou planifie de futures initiatives, nous vous aidons à garantir la conformité réglementaire, l'intégrité éthique et la cohérence stratégique, sans freiner l'innovation.

Commencez par  

1. Cartographier votre utilisation de l'IA: Identifiez tous les systèmes d'IA de votre organisation (y compris les outils tiers).
2. Classifier les risques: Évaluez quels systèmes présentent un risque élevé, relèvent de l'IA générative ou présentent un risque limité.
3. Analyser les écarts: Comparez votre configuration actuelle aux exigences réglementaires.
4. Prioriser: Concentrez-vous d'abord sur les systèmes à haut risque et ceux présentant d'importantes lacunes en matière de conformité.
5. Mettre en oeuvre la gouvernance: Établissez les processus, la documentation et les contrôles nécessaires.

Nesp.ONE propose une évaluation initiale gratuite pour vous aider à identifier votre environnement IA et les prochaines étapes.