Anthropic a annoncé que ses modèles Claude allaient intégrer un filigrane invisible directement dans les textes qu'ils produisent. Vous ne le verrez pas, il ne change ni le sens ni la qualité de la réponse, mais il est là, et il suit le texte au copier-coller.
Anthropic, l'éditeur de Claude et concurrent direct d'OpenAI, a signé le code de bonnes pratiques adossé à l'AI Act, le règlement européen sur l'intelligence artificielle, dont les obligations de transparence s'appliquent depuis le 2 août. Le texte impose que les contenus générés par IA soient identifiables par une machine.
Google, Meta, Microsoft, OpenAI ou encore Synthesia ont signé le même document. Anthropic va plus loin que le minimum demandé, puisque son marquage sera déployé partout dans le monde, et pas seulement en Europe.
Dans la pratique, les modèles lancés dans l'Union européenne à partir du 2 août embarquent le marquage dès leur sortie, et les plus anciens y passeront ensuite, sans calendrier précis. Le filigrane s'appliquera sur le site de Claude, dans l'API, dans Claude Code et jusque dans les versions hébergées chez Amazon, Google et Microsoft.
Anthropic ne détaille pas sa recette. Les filigranes de texte qu'on connaît déjà, le SynthID de Google par exemple, biaisent discrètement le choix des mots pendant la génération, et le motif statistique qui en ressort ne se voit pas à l'œil nu mais se retrouve avec le bon détecteur. La marque survit au copier-coller. Pour la faire sauter, il faudrait réécrire le texte en profondeur, et encore, Anthropic admet ne pas savoir où placer le curseur.
Les images et les fichiers y auront droit aussi, via des métadonnées signées au standard C2PA que les fabricants d'appareils photo utilisent déjà pour tracer l'origine d'un cliché.
La marque signale en fait qu'un texte est passé entre les mains de Claude, sans rien dire de qui tenait le stylo au départ. Votre propre prose, confiée au robot pour une simple relecture ou une traduction, ressortira du coup tatouée pareil qu'un texte généré de bout en bout. Anthropic le reconnaît direct.
Sur les réseaux, l'accueil est un peu agacé, pas mal d'utilisateurs digérant mal l'idée d'une signature cachée glissée dans leurs documents de travail.
OpenAI a signé le même code de bonnes pratiques et marque déjà ses images, ses vidéos et son audio depuis fin juillet. Pour les textes de ChatGPT, rien pour le moment, mais ça viendra peut-être.
Amendes à 15 millions €, accès au code source, pouvoir d’enquête sur les modèles les plus secrets du monde : depuis ce 2 août, l’AI Office cesse d’être un simple bureau d’études pour devenir un véritable gendarme des modèles d’IA jugés à « risque systémique ».
Ce gendarme-là n’a pourtant rien d’improvisé. La structure existe depuis le 24 janvier 2024 pour disposer d’un organe capable de coordonner la mise en œuvre de l’AI Act et d’apporter une expertise technique et de gouvernance spécialisée. Deux ans et demi de rodage, en somme, avant de recevoir enfin ses vrais pouvoirs de police.
Car son rôle ne se limite pas à la répression. L’AI Office fait également office de voix institutionnelle de l’UE sur les politiques d’intelligence artificielle, représentant la Commission dans les grandes enceintes internationales (OCDE, G7, G20, Conseil de l’Europe, ISO/IEC) ou encore le réseau international réunissant les instituts nationaux chargés d’évaluer les risques des modèles d’IA les plus avancés.
Ce que l’AI Office peut exiger
Dans le cadre de sa mission, l’AI Office dispose de trois leviers principaux.
Il peut d’abord exiger des développeurs des modèles d’IA les plus puissants au monde la transmission de toute documentation nécessaire à l’évaluation de leur conformité. L’article 91 du règlement lui permet de réclamer l’ensemble des documents qu’un fournisseur a dû produire au titre des articles 53 et 55 du texte ; documentation technique, évaluation des capacités, analyses de risques ou toute information additionnelle jugée nécessaire.
L’AI Office emploie 145 personnes, notamment des spécialistes en technologie, des assistants administratifs, des juristes, des spécialistes des politiques et des économistes. Il comprend six unités et deux conseillers.
L’AI Office peut ensuite commander des évaluations indépendantes de ces modèles, y compris un accès au code source, en s’appuyant si besoin sur des experts extérieurs mandatés pour agir en son nom.
Enfin, il peut imposer des amendes pouvant atteindre 3 % du chiffre d’affaires mondial annuel de l’entreprise, ou 15 millions €, le montant le plus élevé étant retenu, en cas de non-conformité. Refuser de répondre à une demande de documentation ou fournir des informations incorrectes, incomplètes ou trompeuses, constitue en soi un motif de sanction.
Au niveau national, ce sont les autorités de surveillance du marché de chaque État membre qui prennent le relais pour les autres systèmes d’IA.
En France, c’est la CNIL qui a été désignée comme autorité de référence pour l’application de l’AI Act en France. Une compétence acquise après un an et demi d’arbitrage. Une quinzaine d’autorités sectorielles l’épaulent selon le domaine concerné : la DGCCRF pour les pratiques commerciales trompeuses, l’Arcom pour l’audiovisuel et les deepfakes, l’ACPR et l’AMF pour la finance, l’ANSM et la HAS pour la santé.
Une équipe de 145 experts
Pour tenir ce rôle, l’AI Office promet 38 recrues de plus. De quoi porter ses effectifs à 145 personnes ; dont 34 sur la réglementation et la conformité, et 38 rien que pour surveiller la sécurité des modèles les plus avancés. Un chiffre qui reste modeste au regard de l’ampleur de la tâche.
Autour de l’AI Office gravitent également d’autres instances comme l’AI Board, le comité scientifique (Scientific Panel) et le forum consultatif (Advisory Forum), chargés d’orienter et de conseiller la gouvernance globale de l’AI Act.
Au-delà des pouvoirs d’enquête classiques, la Commission a mis en place des instruments pour faire remonter l’information : un outil dédié aux lanceurs d’alerte permettant aux salariés du secteur technologique de signaler des manquements et un outil de conformité destiné aux utilisateurs souhaitant alerter confidentiellement les autorités sur des comportements jugés illégaux.
Depuis le 2 août 2026, l’article 50 de l’AI Act impose de nouvelles règles aux fournisseurs de systèmes d’IA et aux plateformes en ligne. Voici tout ce qu’il faut savoir.
Au 2 août 2026, l’essentiel des dispositions de l’AI Act entreront en application.
C’était l’objectif de l’UE lorsqu’elle avait adopté le règlement, en juin 2024. Depuis, l’omnibus numérique est passé par là. Il a repoussé les principales échéances à 2027 et 2028.
En toile de fond, le retard pris sur deux fronts. D’une part, dans la mise en place des autorités nationales compétentes. De l’autre, dans l’élaboration de normes harmonisées et de spécifications communes. Le CENELEC (Comité européen de normalisation en électronique et électrotechnique) en a la charge. Il était initialement censé rendre sa copie pour août 2025.
Quelques obligations s’appliqueront tout de même à partir du 2 août 2026. Nous les récapitulons ici, ainsi que le reste du calendrier, en combinant la lecture de l’AI Act à celle des lignes directrices, des codes de bonnes pratiques et d’autres instruments que la Commission européenne a publiés.
Quelques concepts structurants de l’AI Act
Modèles d’IA vs systèmes d’IA
Une partie des dispositions de l’AI Act (articles 51 à 55) concernent spécifiquement les modèles d’IA à usage général.
Au-delà de la définition qu’en donne le règlement, les lignes directrices associées détaillent quelques critères indicatifs. Est réputé à usage général un modèle dont l’entraînement a nécessité au moins 1023 flops (seuil de puissance de calcul typique pour former des modèles d’échelle 1B, selon Bruxelles) et qui est capable de générer un langage ou de produire une image ou une vidéo à partir de texte.
Des exceptions sont possibles, typiquement en cas d’incapacité à exécuter un large éventail de tâches distinctes (modèle spécialisé dans l’accroissement de la résolution d’images, par exemple).
La définition que l’AI Act donne du « système d’IA » s’assortit elle aussi de lignes directrices. Elles reprennent in extenso chaque aspect-clé (autonomie, capacité d’adaptation, inférence, etc.). Et formulent quelques exclusions. Parmi elles, les systèmes destinés à accélérer les méthodes d’optimisation traditionnelles (comme la régression linéaire ou logistique), ceux fondés sur l’heuristique classique et ceux traitant des données de base (SGBD filtrant des données sur la base de critères spécifiques, outil de visualisation constituant un tableau de bord par l’emploi de méthodes statistiques…).
Fournisseurs vs déployeurs
Est fournisseur toute personne physique ou morale ou tout organisme qui développe ou fait développer un système ou un modèle et le met sur le marché ou le met en service sous son propre nom ou sa propre marque.
Est déployeur qui utilise un système sous sa propre autorité (les activités personnelles n’entrent pas dans le champ de l’AI Act).
Le règlement définit aussi les rôles d’importateur et de distributeur. Le premier met sur le marché un système qui porte le nom ou la marque d’une personne physique ou morale établie hors UE. Le second fait partie de la chaîne d’approvisionnement qui met un système à disposition dans l’UE.
Par « mise sur le marché », il faut entendre la première mise à disposition d’un système d’IA ou d’un modèle d’IA à usage général dans l’UE.
La mise en service ne concerne que les systèmes d’IA. Il s’agit de la fourniture d’un système en vue d’une première utilisation dans l’UE, directement au déployeur ou pour un usage propre.
Haut risque vs risque systémique
Le règlement définit quels systèmes d’IA sont à haut risque. Parmi eux, ceux qui figurent à l’annexe III. Domaines concernés, dans les grandes lignes :
Biométrie (identification à distance, catégorisation, reconnaissance des émotions)
Composants de sécurité d’infrastructures critiques
Éducation et formation professionnelles (admission, évaluation d’acquis, détection de tricherie…)
Emploi (recrutement, évolution professionnelle…)
Accès à des services privés et publics essentiels (aides sociales, évaluation de solvabilité, hiérarchisation des interventions d’urgence…)
Répression
Migration, asile, gestion des contrôles aux frontières
Administration de la justice et processus démocratiques (interprétation de la loi, influence sur le comportement électoral…)
Il existe, pour ces systèmes, des exceptions en cas d’absence de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux. Ce cas peut se présenter, par exemple, lorsqu’il y a accomplissement d’une tâche procédurale étroite ou amélioration d’une activité humaine préalablement réalisée.
« Composants de sécurité » et « législation d’harmonisation »
Est également à haut risque un système qui remplit les deux conditions suivantes :
Destiné à être utilisé comme composant de sécurité d’un produit couvert par la législation d’harmonisation de l’UE (ou constitue lui-même un tel produit)
Ce composant, ou le système lui-même en tant que produit, est soumis à une évaluation de conformité par un tiers conformément à la législation d’harmonisation
Cette « législation d’harmonisation » regroupe des directives et règlements sectoriels. L’AI Act en liste, dans son annexe I, une vingtaine, qui ciblent les jouets, les ascenseurs, les dispositifs médicaux, les équipements marins, l’aviation civile, etc.
L’omnibus numérique a précisé la notion de « composant de sécurité » pour éviter que des systèmes d’IA soient faussement classés à haut risque. Il a, en particulier, exclu ceux destinés à remplir uniquement des fonctions liées à l’assistance aux utilisateurs, à l’optimisation des performances, à l’efficacité des services ou encore à l’automatisation.
Autre précision : l’intégration d’un système d’IA dans un produit soumis à la législation d’harmonisation ne signifie pas nécessairement qu’il est un composant de sécurité.
Caractériser le risque systémique sur les modèles d’IA
Des dispositions spécifiques s’appliquent aux modèles d’IA à usage général qui présentent un risque dit systémique. On peut l’atteindre en la présence de « capacités à fort impact ». En l’occurrence, au moins égales aux capacités enregistrées dans les modèles les plus avancés. Il y a risque systémique en l’existence d’effets négatifs réels ou raisonnablement prévisibles sur la santé publique, la santé et les droits fondamentaux et qu’ils peuvent se propager sur la chaîne de valeur.
Les lignes directrices sur les modèles d’IA à usage général donnent un critère indicatif : 1025 flops. Si l’entraînement a nécessité plus de puissance de calcul, on peut présumer un risque systémique. La Commission européenne peut aussi décider qu’il en existe un en examinant les critères listés à l’annexe XIII de l’AI Act (nombre de paramètres, qualité ou taille du jeu de données, modalités d’entrée et de sortie, nombre d’utilisateurs finaux…).
Pour estimer la quantité de calcul utilisée, Bruxelles propose deux approches. Elles se fondent respectivement sur l’architecture et le matériel. Elles imposent d’inclure les ressources utilisées pour générer des données synthétiques. Et pour s’entraîner avec si elles ne sont pas accessibles au public.
Les principales règles déjà en application
Former les utilisateurs
L’article 4 de l’AI Act a fait partie du premier paquet de dispositions à entrer en application (février 2025). Il impose aux fournisseurs et aux déployeurs de former leur personnel et les autres personnes chargées de l’exploitation et de l’utilisation de systèmes d’IA en leur nom. Cela inclut, pour exemple, les entreprises qui permettent à leurs employés d’utiliser ChatGPT.
Le 3 août 2026, les autorités nationales compétentes commenceront officiellement leur surveillance du respect de cette obligation. Il est à noter que l’omnibus numérique a supprimé l’exigence de niveau spécifique (ou « suffisant ») par individu.
La Commission européenne tient un répertoire d’exemples de la manière dont les organisations diffusent une maîtrise de l’IA. Une quarantaine de cas y figurent, dont ceux de Booking.com, Criteo, IBM, Kaspersky, Palantir, SAS et Workday. Cette base a permis de produire un rapport avec l’Alliance pour les compétences en IA (projet financé par Erasmus+).
Pour les PME, Bruxelles recommande de se tourner vers le réseau des pôles européens d’innovation numérique (EDIH). Elle évoque aussi l’Académie des compétences en GenAI – un projet lancé en 2025 dans le cadre du programme pour une Europe numérique… et qui n’a pour le moment pas trouvé de concrétisation.
Pratiques interdites
L’autre « gros morceau » applicable depuis février 2025 est l’article 5. Son objet : les pratiques interdites. La Commission européenne y a là aussi assorti des lignes directrices.
Parmi les exceptions, la reconnaissance des émotions et la surveillance sur le lieu de travail et dans les milieux éducatifs, aussi longtemps que c’est pour des raisons médicales ou de sécurité.
Des exceptions existent aussi, entre autres, pour les œuvres artistiques. Notamment au niveau d’une pratique que l’omnibus numérique a ajoutée à la liste : les contenus à caractère sexuel.
Modèles d’IA à usage général
Après l’échéance de février 2025, il y eut celle d’août 2025. À cette occasion sont entrées en vigueur les dispositions relatives aux modèles d’IA à usage général. Elles touchent à :
Documentation technique
Communication d’informations aux fournisseurs de systèmes d’IA en aval
Résumé public du contenu des données d’entraînement
Il existe des exigences spécifiques en cas de risques systémiques (atténuation de ces risques, documentation des incidents graves, protection en matière de cybersécurité…).
Le 2 août 2026 marquera la fin de la « période de grâce » accordée aux fournisseurs pour se mettre en conformité.
En l’attente de normes harmonisées, le principal instrument de déclaration de conformité est le code de bonnes pratiques de l’IA à usage général. Il comporte trois chapitres : transparence ; droit d’auteur ; sûreté et sécurité. Ce dernier ne s’applique qu’aux modèles qui présentent un risque systémique.
Au dernier pointage, il sont une vingtaine à avoir signé ce code de bonnes pratiques. Nommément, Accexible, AI Studio Delta, Aleph Alpha, Almawave, Amazon, Anthropic, Black Forest Labs, Bria AI, Cohere, Domyn, Dweve, Fastweb, Google, IBM, Lawise, LINAGORA, Microsoft, Mistral AI, Open Hippo, OpenAI, Pleias, ServiceNow et WRITER. xAI a signé uniquement le chapitre sûreté/sécurité.
Qui modifie un modèle peut devenir son fournisseur
En complément, la Commission européenne a publié des lignes directrices sur la portée des obligations incombant aux fournisseurs de modèles d’IA à usage général. On y apprend que quiconque modifie un modèle – y compris par fine-tuning – peut en devenir le fournisseur. La condition : une modification importante de la généralité, des capacités ou du risque systémique. Là encore, Bruxelles fournit un critère indicatif basé sur la puissance de calcul : plus d’un tiers de celle utilisée pour entraîner le modèle original.
Si le modificateur n’a pas connaissance de cette valeur, on considère le tiers de la puissance au-delà de laquelle un modèle est dit à usage général (soit 1023/3 flops). S’il présente un risque systémique, c’est 1025/3 flops.
En respect du principe de proportionnalité, les obligations du nouveau fournisseur se limitent aux modifications apportées. Et, pour ce qui est du droit d’auteur et de la divulgation du contenu d’entraînement, aux seules données utilisées pour la modification.
La Commission européenne admet que ce critère est essentiellement prospectif. Elle considère plus globalement qu’il est difficile de définir dans quelle mesure une modification produit un modèle distinct. C’est pourquoi en l’état, elle assimle à un unique modèle chaque version issue de la même formation de grande envergure dispensée par le même fournisseur.
Des modèles « anciens » doivent être mis en conformité
Les lignes directrices apportent quelques précisions sur le cas des modèles dont au moins les poids sont publiés sous licence libre et ouverte. Cela suppose des droits de consultation, de modification et de distribution, avec publication d’informations sur l’architecture.
En l’absence de risque systémique, ces modèles échappent aux exigences de documentation technique pour les autorités et d’information des fournisseurs en aval. Mais pas à la mise en œuvre d’une politique de droit d’auteur.
La publication d’une version d’un modèle ouvert peut constituer une mise sur le marché, précisent les lignes directrices. Même chose, de façon plus large, pour toute utilisation interne si elle est essentielle à la fourniture d’un produit ou d’un service à des tiers dans l’UE ; ou si elle porte atteinte aux droits de personnes physiques dans l’UE.
Pour les modèles d’IA à usage général, l’AI Act est rétroactif : ceux mis sur le marché avant le 2 août 2025 devront avoir été mis en conformité le 2 août 2027 au plus tard.
Il n’y a pas de régime comparable pour les systèmes d’IA qui auront été mis sur le marché ou mis en service avant décembre 2027 (pour ceux concernés) ou août 2028 (pour les autres). Sauf s’ils « subissent d’importantes modifications de leur conception ». Ou encore s’ils sont utilisés par des autorités publiques. Auquel cas ils devront être conformes à l’AI Act pour août 2030 au plus tard.
Il y a aussi une exception pour les systèmes d’IA intégrés dans quelques grands SI européens :
SI Schegen
SI visas
Eurodac (données biométriques)
Enregistrement des données relatives aux entrées et sorties de ressortissants de pays tiers
Information et autorisation concernant les voyages
Casiers judiciaires des ressortissants de pays tiers et des apatrides
Les règles qui s’appliquent au 2 août 2026
Transparence des systèmes d’IA et des contenus
Le 2 août 2026 marque l’entrée en application de l’article 50 de l’AI Act. Il établit diverses obligations de transparence aux fournisseurs et aux déployeurs de systèmes d’IA.
Le premier paragraphe concerne les systèmes d’IA destinés à interagir directement avec des personnes physiques. Il impose à leurs fournisseurs de veiller à la bonne information des utilisateurs.
Le deuxième paragraphe impose aux fournisseurs de systèmes génératifs d’associer aux outputs un marquage lisible par machine. En sont exemptés les systèmes qui remplissent une fonction d’assistance pour la mise en forme standard. Même chose pour ceux qui ne modifient pas substantiellement les inputs ou leur sémantique.
Les déployeurs de systèmes générant des deepfakes audio et vidéo (images fixes comprises) doivent indiquer que les contenus ont été générés ou manipulés par une IA. Idem pour les textes publiés dans le but d’informer le public sur des questions d’intérêt public.
Une période de grâce et des exceptions pour le marquage des contenus
La Commission européenne a publié un code de bonnes pratiques sur la transparence du contenu généré. Y adhérer n’équivaut pas à démontrer sa conformité.
Il y est confirmé, en conséquence de l’omnibus numérique, l’application d’une période de grâce jusqu’au 2 décembre 2026 pour le marquage machine dans les systèmes mis sur le marché avant le 2 août 2026.
Le code précise que certaines sorties sont hors du champ des obligations de transparence :
Courtes séquences de nombres, symboles ou lettres
Code source
Sorties traitées uniquement en machine-to-machine sans exposition à des humains
Sorties utilisées en boucle fermée dans un contexte industriel ou de développement produit (exemple : production d’un film)
Aucune technique ne marquage ne satisfait pour l’instant aux 4 critères qu’énonce l’AI Act (efficacité, interopérabilité, robustesse, fiabilité). Il faut donc en combiner. Le code de bonnes pratiques suggère d’associer métadonnées signées et filigrane invisible. Il ajoute le fingerprinting comme méthode optionnelle.
Le texte libre ne pouvant transporter de métadonnées, une couche unique est considérée comme suffisante. Même chose pour les systèmes génératifs embarqués dans des produits physiques intégrés dans un environnement fermé, techniquement contrôlé et de nature principalement instructive.
Détection des contenus : l’Europe impose la gratuité… avec des limites
Pour compenser la fiabilité potentiellement moindre des filigranes sur le texte libre, les fournisseurs concernés peuvent restreindre à des utilisateurs experts l’accès à la solution de détection correspondante. Dans tous les cas, ils implémenteront préférentiellement l’apposition du filigrane au niveau du processus d’inférence plutôt que par après. Objectif : faciliter la mise en conformité des fournisseurs de systèmes d’IA en aval.
Pour la mise à disposition de la solution de détection, trois possibilités : spécification, logiciel (exécutable ou bibliothèque) ou service par API. Elle se fera gratuitement… avec la possibilité de facturer des « frais raisonnables » pour les systèmes d’IA qui ont au moins 1 million d’utilisateurs actifs par mois, dans le cas où les requêtes d’un utilisateur dépasseraient un « seuil raisonnable ».
Les fournisseurs sont invités – sans y être obligés – à intégrer des informations de provenance (nom du système d’IA, modèle utilisé…). Et à donner aux déployeurs de quoi appliquer eux-mêmes, à la génération, des étiquettes visibles. Autre option mentionnée : un mécanisme de détection forensique des contenus dont on aurait supprimé le marquage.
L’étiquetage des deepfakes en pratique
La deuxième section du code de bonnes pratiques couvre l’étiquetage des deepfakes par les déployeurs.
Si une divulgation visuelle est possible, l’étiquette doit comprendre, comme élément principal, une icône « AI ». Sauf si l’usage de l’anglais est incompatible avec la législation nationale sur l’usage linguistique dans les affaires commerciales ou administratives. Les lettres auront la même dimension verticale. Bruxelles encourage à intégrer, dans l’icône ou à côté, des mentions de type « modifié » ou « généré ».
Pour les contenus audio, on intégrera un avertissement audio au début. Soit en anglais, soit dans la langue du contenu. En prévision des modifications en aval, on répétera cet avertissement régulièrement, au minimum après les interruptions.
Dans tous les cas, l’étiquette devra rester visible assez longtemps pour que l’utilisateur la remarque. On l’intégrera dans le contenu sauf si des mécanismes équivalents – type surcouche UI – sont disponibles. Pour les textes courts, il est possible d’utiliser une notification contextuelle afin d’éviter de dégrader le contenu.
Une boîte à outils pour préparer les échéances 2027-2028
Les exigences pour les systèmes d’IA à haut risque figurant à l’annexe III ne s’appliqueront qu’en décembre 2027. Ce sera en août 2028 pour les autres (composants de sécurité, en lien avec l’annexe I).
En attendant, la Commission européenne propose un outil dit « vérificateur de conformité ». En bêta et en anglais, il permet plus exactement de comprendre, en répondant à une série de questions, quelles règles sont susceptibles de s’appliquer à un modèle ou à un système d’IA donné.
La boîte à outils de Bruxelles comprend aussi l’AI Act Explorer. En fait un tableau de bord avec moteur de recherche, table des matières par chapitre et grilles de considérants et d’annexes.
S’y ajoutent une compilation de FAQ (à moitié traduite en français) et un service d’assistance (formulaire de contact avec le Bureau de l’IA, accessible avec un login UE).
On retrouve l’ensemble sur un guichet centralisé : la « plate-forme unique d’information sur l’AI Act ».
La compilation de FAQ fait référence aux agents IA. Un terme « pas défini juridiquement et utilisé pour plusieurs types d’artefacts ». Il faut toutefois considérer que les règles de l’AI Act s’y appliquent.
Parmi les autres références, les fameuses « small caps » (« petites entreprises à moyenne capitalisation »). Elles ne sont pas des PME au sens du droit européen, mais occupent moins de 750 personnes et affichent moins de 150 M€ de CA annuel et/ou moins de 129 M€ de bilan annuel. L’omnibus numérique les rend bénéficiaires de certains allégements que l’AI Act avait d’abord réservés aux PME. Par exemple, une documentation technique simplifiée.
L’omnibus numérique, de petits en grands allégements
L’omnibus numérique a eu comme autre effet d’exempter l’IA industrielle d’une bonne partie du règlement. Le levier : un basculement de la section A à la section B de l’annexe I. Cela l’exclut notamment de certains scénarios ou le fabricant d’un produit peut être considéré comme fournisseur du système d’IA embarqué.
Autre allègement : la limitation des obligations pesant sur les systèmes d’IA à haut risque dans le cas où la législation d’harmonisation (annexe I, section A) prévoit un niveau de protection de la santé, de la sécurité ou des droits fondamentaux au moins équivalent à celui que prévoit l’AI Act. Il appartient à la Commission européenne d’adopter, d’ici à août 2027, des actes délégués pour préciser les systèmes d’IA concernés.
Données sensibles et tests en conditions réelles : un accès élargi
L’omnibus numérique a aussi élargi l’autorisation exceptionnelle de traitement de données sensibles pour la détection et la correction de biais. Le texte d’origine l’octroyait aux fournisseurs de systèmes d’IA à haut risque. Amendé, il la confère désormais également aux fournisseurs et déployeurs d’autres systèmes et modèles d’IA. Reste la condition que les biais puissent attenter à la santé, à la sécurité ou aux droits fondamentaux.
Les déployeurs de l’essentiel des systèmes d’IA cités dans l’annexe III ont droit à un « coup de pouce » pour leurs analyses d’impact sur les droits fondamentaux. Ils peuvent dorénavant y inclure des renvois vers les analyses d’impact sur les données personnelles.
Dans le même esprit de simplification, les systèmes d’IA à haut risque qui remplissent certaines exigences du règlement cyberrésilience sont réputés conformes aux exigences de cybersécurité de l’AI Act.
L’omnibus numérique étend par ailleurs les possibilités d’essai de systèmes d’IA en conditions réelles hors des bacs à sable réglementaires. Ce qui était jusque-là autorisé aux fournisseurs des systèmes d’IA listés en annexe III le devient pour ceux de l’annexe I. Un test peut durer jusqu’à 12 mois (6 mois prolongeables).
Il y a désormais, à l’agenda du Congrès américain, un « AI Kill Switch Act ».
Le démocrate Ted W. Lieu et le républicain Nathaniel Moran sont dépositaires de cette proposition de loi.
Chiffre d’affaires, ressources de calcul, préjudice… Des seuils essentiellement économiques
Le texte amenderait le Homeland Security Act de 2002. Il ciblerait les systèmes d’IA dont le développement a nécessité, sur la base du prix de marché aux États-Unis, au moins 100 M$ de puissance de calcul.
Seraient concernées les entités qui opèrent ces systèmes, les mettent à disposition de tiers par API, service hébergé ou « mécanisme similaire »… et ont réalisé un CA brut d’au moins 500 M$ sur l’année calendaire écoulée*.
Il appartiendrait à ces entités d’être techniquement capables de :
Stopper l’inférence
Mettre fin à l’accès utilisateur
Suspendre l’accès pour un compte, un utilisateur ou un usage posant le risque que surviennent certains incidents
Éteindre la technologie concernée
Les incidents en question incluraient notamment les usages imprévus causant la mort d’au moins 10 personnes ou un préjudice économique d’au moins 100 M$. Ils engloberaient aussi, entre autres, les cas où un système cacherait aux mécanismes de surveillance ses capacités, ses intentions ou ses actions. Ainsi que les scénarios de « perte de contrôle ». Autrement dit, de poursuite d’un objectif qui n’est pas celui prévu. Par exemple :
Comportement contraire aux instructions dans des contextes « à fort enjeu » impliquant en particulier des infrastructures critiques
Modification des règles opérationnelles ou des restrictions de sûreté sans autorisation
Sabotage d’un mécanisme de surveillance
Octroi de l’accès aux poids sans permission
Une « réponse graduée »… et jusqu’à 20 M$ d’amende par jour
S’il existait un risque crédible que surviennent les incidents en question, le département de la Sécurité intérieure (DHS) devrait enclencher un mécanisme de « réponse graduée ». En l’occurrence, imposer des mesures adaptées à la sévérité et à l’imminence du risque :
Réduction ou modification du débit d’inférence, de l’accès utilisateur ou de l’allocation de puissance de calcul
Désactivation ou restriction d’une capacité
Suspension d’une technologie
Extinction d’une technologie
Basculement d’une opération dépendante de cette technologie vers une version antérieure ou vers un système de secours
Le DHS aurait la charge d’établir des normes pour le kill switch. Les entités concernées y adhéreraient sur la base du volontariat. Si un des incidents visés a effectivement lieu, il leur faudrait conserver poids et télémétrie ; tout en communiquant, dans la mesure du possible, les conséquences potentielles pour les utilisateurs.
Un délai de 48 heures serait accordé pour déposer un recours, toutefois non suspensif. Le DHS aurait 5 jours pour se prononcer. Délai au-delà duquel sa réponse serait réputée négative. Resterait alors la possibilité d’un pourvoi en appel sous 60 jours devant les tribunaux du district de Columbia.
Les sanctions pourraient aller jusqu’à 20 M$ d’amende par jour en cas de violations des dispositions concernant les cas où un incident a effectivement eu lieu.
L’AI Act impose déjà un « bouton d’arrêt » pour les systèmes d’IA à haut risque
En Europe, l’AI Act n’établit pas de tel « coupe-circuit étatique ». Son article 14 impose néanmoins des mesures de contrôle humain sur l’utilisation des systèmes d’IA classés à haut risque.
Les fournisseurs concernés ont deux options. Soit intégrer ces mesures avant la mise sur le marché ou la mise en service, soit permettre aux déployeurs de les mettre en œuvre.
Dans tous les cas, les personnes chargées du contrôle doivent pouvoir intervenir dans le fonctionnement du système d’IA. Ou l’interrompre « au moyen d’un bouton d’arrêt ou d’une procédure similaire ».
Une exigence de contrôle humain accru s’applique pour les systèmes d’identification biométrique à distance. Le déployeur ne doit pas pouvoir prendre de décision sans vérification et confirmation séparée par au moins deux personnes physiques.
* Il existerait une exception pour les technologies destinées uniquement à un usage « personnel, académique ou non commercial ».
La Commission européenne et les autorités nationales compétentes ont désormais un comité scientifique pour les assister dans la mise en application de l’AI Act.
Sur ses 60 membres nommés pour un mandat de deux ans renouvelable, trois représentent la France : Céline Castets-Renard, Raja Chatila et Tom David.
Céline Castets-Renard
Parallèlement à sa nomination au comité scientifique*, Céline Castets-Renard prend un nouveau départ à la faculté de droit, d’économie et de finances de l’Université du Luxembourg. Elle aura auparavant passé 7 ans à l’Université d’Ottawa (Canada) comme professeure titulaire à la section de droit civil de la faculté de droit.
L’intéressée reste titulaire de la Chaire de recherche du Canada sur le droit international et comparé de l’intelligence artificielle. Ainsi que de celle dite « AI Laws and Governance in a Global Economy », en partenariat avec Airbus, au sein d’ANITI (Artificial and Natural Intelligence Toulouse Institute, labellisé institut 3IA dans le cadre de la première phase de la stratégie nationale pour l’intelligence artificielle).
Céline Castets-Renard fut, entre 2020 et 2024, titulaire d’une autre chaire à l’institut ANITI : « AI Law, Accountability and Social Trust in AI ». Elle fut par ailleurs membre experte à la Commission européenne auprès de l’Observatoire sur l’économie des plates-formes en ligne (2021-2024). Puis vice-présidente du groupe de travail sur le droit d’auteur au Bureau de l’IA (2024-2025), en vue de la rédaction du code de pratique encadrant les modèles d’IA à usage général.
Membre honoraire de l’Institut de France, Céline Castets-Renard aura été pendant près de 20 ans (2002-2019) maîtresse de conférences puis professeure à l’université Toulouse-Capitole. Ancienne élève de l’ENS Cachan (1994-1998), elle est titulaire d’un doctorat en droit privé de l’Université Paris-Saclay (faculté de droit Jean Monnet à Sceaux, 2001), d’un DEA de l’université de Montpellier (1998) et d’une maîtrise de droit des affaires de l’université Paris I Panthéon-Sorbonne (1996).
Raja Chatila
Raja Chatila est un vétéran de l’IEEE. Il y fut, entre 2014 et 2015, président de la Robotics and Automation Society. Il y préside aujourd’hui le programme mondial sur l’éthique des systèmes autonomes et intelligents (lancé en 2016).
L’intéressé préside aussi, entre autres, le comité d’éthique sur les données et les usages numériques dans l’éducation (instance du ministère de l’Éducation nationale). Professeur émérite à Sorbonne Université depuis 2011, il y dirigea, entre 2014 et 2018, l’ISIR (Institut des systèmes intelligents et de robotique).
Avant Sorbonne Université, il y eut le CNRS. Notamment comme directeur du LAAS (Laboratoire d’analyse et d’architecture des systèmes de Toulouse, 2007-2010). Puis comme directeur adjoint scientifique à l’INS2I (Institut des sciences de l’information et de leurs interactions) chargé de l’automatique et de la robotique.
Plus récemment (2020-2023), Raja Chatila a coprésidé le groupe de travail sur l’IA responsable au sein du Partenariat mondial sur l’intelligence artificielle.
Tom David
Tom David a cofondé la start-up PRISM Eval, spécialisée dans l’évaluation de sécurité des IA. Il est actuellement P-DG du GPAI AI Policy Lab. Cette organisation de recherche basée au Campus Cyber est spécialisée sur les enjeux de sécurité et de coordination internationale que posent les modèles d’IA à usage général.
Titulaire d’une licence en sociologie de l’université Jean Monnet de Saint-Étienne (2020) et d’un master de sciences sociales de l’ENS Lyon (2022), Tom David fut, pendant environ un an (2023-2024), chargé de mission sur l’IA au think tank Institut Montaigne. Il s’occupa ensuite notamment de la métrologie de l’IA pour HumaneIntelligence (organisation à but non lucratif de droit américain). Et fut, en parallèle, membre du groupe d’experts constitué dans la perspective du code de pratique encadrant les modèles d’IA à usage général. Ainsi que d’un groupe de travail sur la fiabilité de l’IA au sein du Comité européen de normalisation en électronique et en électrotechnique.
* Le comité scientifique abordera, entre autres thèmes, les risques systémiques, la classification des modèles, les méthodologies d’évaluation et la surveillance du marché. Il s’accompagne d’un forum consultatif qui fournira, en particulier, de l’expertise sur la standardisation et l’implémentation.
Chez les DPO, il y a ceux qui perçoivent la conformité à l’AI Act comme un « prolongement naturel » de leurs missions. Et ceux qui estiment qu’elle ne relève pas de leur périmètre.
De ces deux orientations, aucune « n’apparaît s’imposer avec la force de l’évidence », pour reprendre les propos de la CNIL. La dernière vague de l’observatoire du métier des DPO* en témoigne… dans une certaine mesure. Ils sont 2390 à avoir répondu à l’enquête (1896 internes, 234 mutualisés, 260 externes). 55 % ont déjà l’AI Act dans leur périmètre de responsabilité et 71 % souhaitent que leur fonction l’englobe.
Le DPO, pas mentionné dans l’AI Act
En novembre 2025, au lancement de l’enquête, la CNIL avait rappelé l’obligation d’impliquer les DPO sur les traitements de données mis en œuvre par l’IA. Cela ne suppose toutefois pas forcément d’en faire les chefs de file sur la conformité à l’AI Act, avait-elle précisé. D’autant que le règlement ne mentionne pas explicitement les DPO.
La Commission avait ajouté que l’application de l’AI Act nécessiterait la mobilisation de compétences qui « ne sont pas nécessairement celles attendues du DPO ». Elle avait néanmoins appelé à une « mobilisation judicieuse » de leur expertise RGPD, vu les similarités entre les deux règlements (approche par les risques, principe de responsabilité, exigence de documentation et de transparence, etc.).
Principal défi : identifier le niveau de risque
Un élément ne plaide pas en faveur de la prise en charge de l’AI Act par les DPO : la charge de travail que représente déjà le RGPD. Y compris appliqué aux systèmes d’IA. Principaux défis en la matière :
Garantir la minimisation des données (57 % des DPO ont sélectionné cette option)
Gérer le cycle de vie des données (54 %)
Assurer la transparence et l’explicabilité des décisions algorithmiques (53 %)
Sécuriser les données et les modèles d’IA (51 %)
Respecter le principe de la limitation des finalités (47 %)
Gérer les droits des personnes concernées (46 %)
Réaliser les études d’impact sur la protection des données personnelles (AIPD ; 45 %)
L’AI Act engendre d’autres défis :
Identifier le niveau de risque des systèmes d’IA (62 %)
Documenter et obtenir de la documentation auprès des prestataires (53 %)
Assurer l’articulation entre AIPD et AIPF (analyses d’impact sur la protection des droits fondamentaux ; 41 %)
Détecter, prévenir et corriger les biais (40 %)
Assurer la fiabilité des prédictions/décisions et des données produites (39 %)
Assurer l’explicabilité des systèmes d’IA (38 %)
Peu de politiques IA formalisées jusque-là
Selon les DPO, parmi les structures qui utilisent des systèmes d’IA ou qui le prévoient, 6 % sont bien préparées à l’application de l’AI Act. Elles sont 25 % en phase de préparation (analyse des impacts en cours). 28 % sont « conscientes des enjeux » mais n’ont pas lancé d’actions concrètes. 27 % se disent peu ou pas informées. 10 % se déclarent non concernées (pas d’utilisation d’IA à risque).
Environ une sur cinq (19 %) a une stratégie ou une politique formelle pour l’IA. 46 % en ont une en cours de préparation (50 % dans les structures de plus de 1000 salariés ; 36 % dans celles de moins de 50).
Lorsqu’une stratégie existe ou est en préparation, les DPO font partie des principaux responsables de la gouvernance dans 39 % des cas (44 % pour les DSI/CTO). Ils sont plus nombreux (66 %) à participer régulièrement aux comités d’éthique – ou autres organes similaires dédiés à l’IA -… lorsque ces derniers existent (20 % des cas).
Une opportunité d’évolution, mais une nette charge de travail
42 % des DPO se disent impliqués tout au long des projets d’IA. Détail phase par phase :
24 % sur l’idéation/conception initiale
9 % sur le développement/entraînement des modèles
14 % dans les tests/validations
26 % avant le déploiement en production
18 % pendant l’exploitation
Les DPO estiment que l’accompagnement de ces projets rend leur rôle plus stratégique (27 %), mais aussi plus complexe et technique (58 %). Si c’est une opportunité d’évolution (37 %), c’est aussi une nette augmentation de la charge de travail (33 %).
Au moment de répondre à l’enquête (novembre 2025), peu avaient suivi une formation spécifique à l’IA (15 %). Les deux tiers disaient manquer d’outils ou de méthodes adaptés pour évaluer la conformité à l’AI Act. Les priorités de formation vont à l’articulation avec le RGPD et aux méthodologies d’évaluation des risques spécifiques à l’IA.
* Étude de l’Agence nationale pour la formation professionnelle des adultes (Afpa), pour la CNIL, le ministère du Travail et l’Association française des correspondants à la protection des données (AFCDP). Sauf si précisé, les taux annoncés sont rapportés aux structures qui utilisent de l’IA.
Une image d’un sphinx volant au-dessus de la tour Eiffel n’est pas un deepfake.
La Commission européenne a intégré cet exemple – relatif à la créature mythique de l’Antiquité ; pas au papillon – dans des lignes directrices. Soumises à consultation publique, elles devront accompagner la mise en œuvre de l’article 50 de l’AI Act. Celui-ci impose des obligations de transparence au sujet de certains systèmes d’IA et contenus de synthèse. Il s’appliquera au 2 août 2026, avec une période de grâce jusqu’au 2 décembre.
Systèmes interagissant directement avec des personnes
Le premier paragraphe de l’article 50 s’applique aux systèmes d’IA destinés à interagir directement avec des personnes physiques.
Les fournisseurs de ces systèmes doivent les concevoir de sorte que les personnes concernées sont informées de la nature de l’interaction.
L’AI Act introduit deux exceptions. D’une part, s’il est évident pour la personne qu’elle a affaire à une IA. De l’autre, si la loi autorise l’utilisation du système pour prévenir, détecter ou sanctionner des infractions pénales.
Dans ses lignes directrices, la Commission européenne exclut du champ de l’article les cas où une personne est exposée à des outputs sans interaction directe. Elle donne l’exemple de la communication avec un agent de service client qui s’aiderait d’une IA. Et y ajoute, entre autres, les algos de recommandation, les antispams et la traduction/transcription automatique.
Bruxelles aborde aussi le cas des agents IA. Et appelle à une forme de principe de précaution : les fournisseurs n’étant pas toujours en mesure de déterminer de façon fiable si un agent interagira avec une personne physique, ils lui demanderont de se présenter comme tel si cette interaction est « probable » (« likely »).
Information multimodale recommandée
L’AI Act n’impose pas de technique pour communiquer l’information. Il faut néanmoins qu’elle soit claire et distinguable. Et qu’elle apparaisse au plus tard au moment de la première interaction. La Commission européenne conseille de la rendre multimodale, notamment dans une logique d’accessibilité. Elle précise que les techniques suivantes, employées seules, sont insuffisantes :
Divulgation dans des conditions d’utilisation ou dans de la documentation
Filigranes non perceptibles par l’humain
Signaux ambigus telles des références génériques à un « assistant »
Descriptions qui n’évoquent que des technologies sous-jacentes (« Ce système utilise des LLM ») sans parler de la fonction du système ou de ses implications pour l’utilisateur
L’exception pour « évidence » doit s’appuyer sur la notion de « consommateur moyen », explique la Commission européenne. Des éléments y contribuent, comme l’utilisation d’un « ton robotique » ou d’une photo de profil représentant un bot.
Sont hors champ les systèmes d’IA destinés à des publics professionnels. Par exemple, un assistant de code pour les développeurs ou un système ciblant exclusivement des personnels de santé pour le diagnostic médical. Les interactions avec les PNJ (personnages non jouables) dans les jeux vidéo le sont aussi.
Systèmes générant et manipulant des contenus de synthèse
Le deuxième paragraphe de l’article 50 concerne la génération et la manipulation de contenus de synthèse.
Les fournisseurs des modèles impliqués doivent marquer les outputs dans un format lisible par la machine. Et faire en sorte qu’ils soient identifiables comme ayant été générés ou manipulés par une IA.
Au-delà de l’exception pour le pénal, il y en a une pour les IA qui remplissent une « fonction d’assistance pour la mise en forme standard ». Et une autre pour les cas où l’IA ne modifie pas de manière substantielle les données d’entrée ou leur sémantique.
La Commission européenne précise que ces obligations s’appliquent aussi aux contenus non exclusivement générés ou manipulés par des IA. Elles englobent par ailleurs les jumeaux numériques, sauf s’ils relèvent d’applications industrielles.
L’AI Act ne concerne en revanche pas les systèmes qui ne font que reproduire du contenu existant ou qui en permettent l’agencement (playlists musicales, par exemple).
Ces obligations visent à éviter les tromperies et les manipulations, et par là même la défiance envers l’information, rappelle Bruxelles. De là, il faut considérer comme hors champ les contenus non liés à cet objectif et non perceptibles ou pas censés être interprétés. Par exemple le code source. Ou les outputs utilisés en boucle fermée dans des environnements industriels ou de développement produit (on nous mentionne la production de films).
Marquage/détection : deux techniques valent mieux qu’une, mais…
Concernant les techniques de marquage, le considérant 133 de l’AI Act en liste quelques-unes : filigranes, identification de métadonnées, empreintes digitales, méthodes cryptographiques indiquant la provenance…
En l’état, aucune technique de marquage et de détection ne satisfait à un niveau suffisant les 4 critères que sont l’efficacité, la fiabilité, la robustesse et l’interopérabilité, déclare la Commission européenne. Elle appelle donc à les combiner. Non sans reconnaître qu’une technique seule peut de même parfois suffire, lorsqu’il existe un risque limité de tromperie, de manipulation ou de défiance envers l’information. Exemple : un système d’IA embarqué dans un produit physique générant des outputs en environnement « fermé et techniquement contrôlé », sans que ces outputs quittent le produit. Cela peut correspondre à la description d’une IA embarquée dans un GPS.
Les applications industrielles, non concernées si…
Les applications industrielles ou B2B peuvent aussi échapper aussi aux obligations de transparence, selon Bruxelles. À deux conditions. D’un côté, que les outputs soient strictement techniques (designs d’ingénierie, workflows de production, journaux de maintenance prédictive…). De l’autre, qu’ils soient destinés à n’être vus que par un nombre défini et limité de personnes physiques chez le fournisseur/déployeur.
Pour ce qui est de l’assistance à la mise en forme standard, les lignes directrices la définissent comme la préparation d’un contenu pour la publication ou la distribution. Quant à l’absence d’altération substantielle des inputs ou de leur sémantique, la correction grammaticale en relève. La conversion de format aussi, comme la réduction de bruit, la mise à l’échelle, la rotation ou la suppression des yeux rouges. Pas d’exception, en revanche, pour la traduction ou le résumé. Ni pour, entre autres :
Effacement ou obscurcissement d’un arrière-plan
Pixellisation ou floutage d’un visage
Modification d’une silhouette ou d’une couleur de peau
Ajustements « extrêmes » de colorimétrie, luminosité ou contraste (rendre bleu un ciel gris, par exemple)
Colorisation d’images en noir et blanc
Création d’images ou de clips vidéo composites
Systèmes de reconnaissance des émotions ou de catégorisation biométrique
Le troisième paragraphe de l’article 50 concerne les systèmes de reconnaissance des émotions ou de catégorisation biométrique. Il impose à leurs déployeurs d’informer les personnes physiques exposées. Avec, là encore, une exception pour le pénal.
Sur ce point, la Commission européenne apporte peu de précisions. Elles concernent essentiellement la forme que doit prendre l’information des personnes. Elle dépendra notamment du contexte de déploiement (monde de jeu virtuel, magasin physique, gare ferroviaire…). Ainsi que des publics touchés et de l’éventuelle existence d’une relation avec eux (canal de communication, par exemple).
Systèmes générant des deepfakes
Le quatrième paragraphe de l’article 50 englobe la génération et la manipulation de deux types de contenus. D’une part, les deepfakes. De l’autre, les textes publiés dans le but « d’informer le public sur des sujets d’intérêt public ».
Concernant les deepfakes, les déployeurs doivent clairement en indiquer la nature. Hormis l’exception pour le pénal, l’AI Act en fait une pour les contenus qui « font partie d’une œuvre ou d’un programme manifestement artistique, créatif, satirique, fictif ou analogue ». Dans ces cas-là, la divulgation pourra se faire d’une manière qui n’entrave pas l’affichage ou la jouissance de l’œuvre.
Les textes sont soumis à la même obligation de transparence sauf s’ils ont fait l’objet d’un processus d’examen humain ou de contrôle éditorial, et qu’une personne physique ou morale assume la responsabilité éditoriale de la publication.
Considérer le public… et le contexte
Bruxelles estime qu’on ne doit pas considérer comme deepfake tout ce qui n’est pas réaliste : dragon, éléphant qui conduit une voiture… et donc sphinx volant au-dessus de la tour Eiffel, par exemple. En gros, tout ce qui « défie les lois de la nature ou dépeint des formes de vie non communément acceptées en biologie ».
Il faut là aussi prendre en compte le public potentiel… sauf que la notion de « consommateur moyen » ne marche pas. Il faut également apprécier le contexte. L’édition de l’arrière-plan sur une photo dans un journal a probablement un impact plus négatif sur la perception d’authenticité de l’information qu’il n’en a sur la perception d’authenticité d’un produit dans le cadre d’une publicité.
Les lignes directrices donnent quelques exemples de contenus à caractère artistique, créatif, satirique, fictif ou analogue :
Artistique/fictif : dans un film, effets spéciaux consistant à rajeunir des acteurs ou à ressusciter des personnes décédées
Artistique/créatif : musique dans un style ressemblant à celui d’un artiste existant
Satirique/fictif : image d’un homme politique dépeint dans un contexte clairement destiné à critiquer ses décisions
Analogue/fictif : dans un jeu vidéo, simulation de personnes ou de lieux existants
Est « analogue » un contenu qui partagent des traits fondamentaux avec les 4 catégories d’œuvres en question, mais qui ne s’y apparente pas exactement, par exemple parce qu’il a un objectif secondaire informationnel ou commercial.
Une vidéo publicitaire mettant en scène des consommateurs créés par une IA n’entre pas dans le champ des « œuvres ». Même chose pour une image d’une célébrité s’impliquant dans des activités, si elle n’a pas de caractère clairement fictif, satirique ou analogue.
L’intérêt public, du « local » à l’international
Pour les textes, la notion d’intérêt public peut se mesurer dès le niveau « local » (par opposition à « national », « européen » et « international »).
La Commission européenne fournit une liste de sujets considérés comme d’intérêt public :
Administration et services publics
Droits fondamentaux
Santé publique
Protection de l’environnement
Protection du consommateur
Tout développement économique, politique, scientifique ou culturel ayant des implications publiques potentiellement importantes
La notion d’examen humain s’entend avec la compétence et le jugement professionnel sur le sujet concerné.
La publication d’un deepfake par un particulier peut relever d’une activité professionnelle
L’AI Act ne s’applique pas aux personnes physiques qui utilisent des systèmes d’IA dans le cadre d’une activité « strictement personnelle à caractère non professionnel ».
La Commission européenne estime que la publication d’un deepfake ne relève pas d’une activité non professionnelle dès lors qu’elle est susceptible d’avoir un impact sur le discours autour de sujets d’intérêt public. Exemple : un individu qui crée et partage publiquement sur les réseaux sociaux un deepfake du maire de sa ville pour critiquer des décisions qu’il a prises ou soutenues.
L’AI Act ne s’applique pas non plus aux systèmes ou modèles d’IA « spécifiquement développés et mis ens ervice uniquement à des fins de recherche et développement scientifiques ».
Bruxelles donne l’exemple d’un système d’IA interactif que des chercheurs veulent tester en mode vocal auprès de personnes physiques pour voir si elles sont capables de le distinguer d’un humain. Un tel système est hors du champ de l’AI Act tant qu’on ne le met pas en service hors du contexte de recherche.
Le Conseil de l’UE et le Parlement européen ont fini par trouver un accord sur l’omnibus numérique.
Il aura fallu plusieurs trilogues pour aboutir à ce compromis. Le principal point bloquant était le sort de l’IA industrielle. L’Allemagne, en particulier, voulait l’exclure du champ d’application directe de l’AI Act. En tout cas son chancelier Friedrich Merz, qui s’inscrivait à rebours de son partenaire de coalition… et de la position de négociation que le Conseil avait adoptée mi-mars. Au Parlement, le groupe PPE (Parti populaire européen, centre-droite) a prôné cette même ligne, avec l’appui d’une partie du groupe Renew Europe.
Pas d’AI Act, mais des « garanties de sûreté et de sécurité »
Berlin a obtenu partiellement gain de cause : l’IA industrielle se retrouve exclue… avec des garde-fous.
L’AI Act liste, en son annexe I, des législations d’harmonisation (directives et réglements sectoriels).
Cette annexe se divise en deux sections. Les systèmes couverts par les législations figurant dans la section A sont soumis à l’essentiel des dispositions de l’AI Act concernant les systèmes classés à haut risque. Ceux couverts par la section B ne le sont au contraire pas.
L’AI Act a placé la directive de 2006 sur les machines dans la section A. L’omnibus numérique va la faire glisser dans la section B. Et ainsi exempter ce secteur de l’essentiel du règlement, au même titre que l’aviation civile, les équipements marins, les véhicules agricoles et forestiers, etc.
Les garde-fous prendront la forme d’actes délégués au titre de la législation sur les machines. Ils permettront d’intégrer des exigences spécifiques en matière de santé et de sûreté, équivalentes à celles que l’AI Act impose pour les systèmes classés à haut risque.
En parallèle, la Commission européenne devra adopter des actes d’exécution pour les autres secteurs. Ils auront pour effet de limiter l’application de l’AI Act dans les cas où il ferait double emploi avec la législation d’harmonisation.
Le cœur de l’AI Act reporté à fin 2027
Dans sa proposition d’omnibus numérique, la Commission européenne envisageait de reporter de 16 mois maximum l’entrée en application des dispositions concernant les systèmes d’IA classés à haut risque.
Les colégislateurs ont retenu ce délai : pour les systèmes d’IA autonomes, les dispositions en question ne s’appliqueront qu’en décembre 2027. Ce sera même en août 2028 pour ceux embarqués dans des produits en tant que composants de sécurité.
L’omnibus numérique n’ajoute finalement pas d’exception à l’enregistrement des systèmes à haut risque
L’AI Act impose d’enregistrer, dans une base de données européenne, les systèmes d’IA à haut risque listés dans l’annexe III (biométrie, infrastructures critiques, emploi, justice…).
La Commission envisageait une exception pour les systèmes dont les fournisseurs ne considèrent pas qu’ils présentent un risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux.
Le Parlement a estimé que leur enregistrement était nécessaire pour la surveillance du marché.
Bureau de l’IA vs autorités nationales : les compétences clarifiées
La Commission, qui héberge le Bureau de l’IA, souhaitait lui donner une compétence exclusive sur certains sujets. Notamment la supervision de l’essentiel des systèmes d’IA basés sur des modèles d’IA à usage général développés par le même fournisseur.
Le Parlement n’a pas voulu lui accorder cette exclusivité. Les autorités nationales (forces de l’ordre, douanes, institutions financières…) resteront compétentes dans certains cas.
Des précisions sur la notion de « composant de sécurité »
Pour la classification « à haut risque », l’AI Act établit des critères cumulatifs. Parmi eux, le fait qu’un système d’IA est utilisé comme composant de sécurité d’un produit que couvre la législation d’harmonisation.
Le Parlement a tenu à préciser qu’une telle intégration n’implique pas forcément que le système d’IA remplit une fonction de sûreté. Ne seront ainsi pas considérées comme telles les fonctionnalités pensées seulement pour l’assistance utilisateur, l’optimisation de performance, l’automatisation ou encore le contrôle qualité d’aspects non liés à la sûreté. Ce aussi longtemps que leur défaillance ne crée pas directement des risques pour la santé ou la sûreté.
Un an de plus pour mettre en place les bacs à sable réglementaires
La Commission avait proposé de permettre le traitement de données sensibles à des fins de détection et de correction de biais.
Cette proposition demeure à l’issue du trilogue. Mais avec une exigence de stricte nécessité.
Autre report : celui des bacs à sable réglementaires. Chaque État membre devait en avoir au moins un opérationnel pour août 2026. L’omnibus repousse l’échéance à août 2027.
Comme le souhaitait la Commission, la mise en conformité avec l’obligation d’étiquetage du contenu généré par IA fait l’objet d’un délai de grâce. Mais finalement de 3 mois et non de 6.
La perspective d’une entrée en application de l’AI Act en août 2026 s’éloigne.
Le Parlement européen vient d’adopter sa position sur l’omnibus numérique. Il propose que les dispositions concernant les systèmes d’IA classés à haut risque ne s’appliquent qu’en décembre 2027 pour ceux listés dans le règlement. Et en août 2028 pour ceux couverts par la législation d’harmonisation (règlements et directives sectoriels : jouets, dispositifs médicaux, équipements radioélectriques…).
Les autres échéances, passées ou à venir, ne sont globalement pas remises en cause. Ainsi pour les chapitres I et II (dispositions générales et pratiques interdites), qui s’appliquent depuis février 2025. Et pour les éléments qui s’appliquent depuis août 2025 (obligations des fournisseurs de modèles d’IA à usage général, sanctions, gouvernance au niveau de l’UE…).
La Commission européenne n’avait pas fixé de dates dans sa proposition d’omnibus numérique. Elle avait toutefois conditionné l’entrée en application des dispositions en question à la disponibilité de mesures de soutien à la conformité – avec un délai de 6 mois après pour les systèmes d’IA à haut risque listés dans l’AI Act et de 12 mois pour ceux couverts par la législation d’harmonisation.
Le Parlement ne veut pas d’exception à l’enregistrement de certains systèmes d’IA
Les eurodéputés proposent par ailleurs d’interdire explicitement les systèmes d’IA qui génèrent des contenus à caractère sexuel, « sans préjudice à la liberté d’expression et d’information ».
À la proposition de la Commission européenne, ils ajoutent des précisions relatives à l’interaction avec d’autres textes. Parmi eux, le Cyber Resilience Act. Leur amendement : si un système d’IA à haut risque est conforme à cette législation, il doit être réputé conforme à l’article 15 de l’AI Act (« Exactitude, robustesse et cybersécurité »).
Un autre amendement porte sur l’enregistrement, dans une base de données européenne, des systèmes d’IA à haut risque listés dans l’annexe III (biométrie, infrastructures critiques, éducation, emploi, justice…). La Commission envisageait une exception pour les systèmes dont les fournisseurs ne considèrent pas qu’ils présentent un risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux. Le Parlement estime que leur enregistrement est nécessaire pour la surveillance du marché et compte plutôt simplifier la procédure.
Encourager les partenariats public-privé pour la sensibilisation
Le Parlement apporte également une précision sur la classification même des systèmes à haut risque. En la matière, l’AI Act établit des critères cumulatifs. Parmi eux, le fait qu’un système d’IA est utilisé comme composant de sécurité d’un produit que couvre la législation d’harmonisation. Les eurodéputés ont tenu à préciser qu’une telle intégration n’implique pas forcément que le système d’IA remplit une fonction de sûreté. Ne devraient pas être considérées ainsi les fonctionnalités pensées seulement pour l’assistance utilisateur, l’optimisation de performance, l’automatisation ou encore le contrôle qualité d’aspects non liés à la sûreté. Ce aussi longtemps que leur défaillance ne crée pas directement des risques pour la santé ou la sûreté.
En matière de sensibilisation (literacy), le Parlement préfère parler de « compétences » que de « notions ». Il supprime la référence à l’Apply AI Alliance comme canal d’échange avec la communauté. À la place, il encourage les partenariats public-privé, notamment pour accompagner les petites et moyennes entreprises.
Une compétence un peu moins exclusive pour le Bureau de l’IA
La Commission européenne, qui héberge le Bureau de l’IA, souhaite lui donner une compétence exclusive sur certains sujets. En particulier la supervision de l’essentiel des systèmes d’IA basés sur des modèles à usage général développés par le même fournisseur. Le Parlement ne lui accorde pas cette exclusivité. De plus, il donne explicitement aux autorités des États membres le pouvoir de superviser les systèmes d’IA intégrésdans des « très grandes plates-formes en ligne » ou dans des « très grands moteurs de recherche » (terminologie DMA/DSA). Et il remplace « Bureau de l’IA » par « Commission » sur des aspects comme l’encouragement à la diffusion de codes de bonnes pratiques.
Pour ce qui est des tests en conditions réelles, le Parlement a supprimé cette possibilité pour les systèmes d’IA couverts par la législation d’harmonisation. Il ne l’a maintenue que pour ceux listés dans l’annexe III de l’AI Act.
Des sanctions moins dures pour les small caps
Sur le volet sanctions, les eurodéputés proposent d’être moins « dur » avec les small caps. En l’état, l’AI Act instaure, en cas de non-conformité aux obligations faites aux fournisseurs, importateurs, distributeurs et déployeurs, une amende jusqu’à 15 M€ ou 3 % du CA annuel mondial, le montant le plus élevé étant retenu. Les eurodéputés proposent de retenir le montant le moins élevé.
Une date serait avancée. Elle concerne les systèmes d’IA mis sur le marché avant le 2 août 2026. Leur conformité aux obligations de transparence – article 50(2) – devrait être effective pour novembre 2026 et non plus février 2027.
Connexion
