Article 50 de l’IA Act : la fin du Far West pour l’IA générative ?

Cette photo de vacances est-elle trop parfaite pour être vraie ? La personne qui vous répond sur ce chat de service client est-elle humaine ? Ces questions deviennent fréquentes.

L’intelligence artificielle générative a fait des progrès si spectaculaires qu’il devient difficile de distinguer le vrai du faux, l’humain de la machine.

Face aux risques de manipulation, de fraude et de désinformation à grande échelle, l’Union européenne a décidé de siffler la fin de la récréation. Une première étape déterminante vient d’être franchie avec l’entrée en vigueur de l’article 50 de l’IA Act. Son objectif ? Imposer une transparence radicale.

Pour les entreprises comme pour les utilisateurs, cette nouvelle règle change la donne. Découvrons ensemble ce que cette mesure signifie précisément.

Article 50 : Clarté et Contrôle des Intelligences Artificielles

Bien plus qu’un texte juridique complexe, l’article 50 est un ensemble de règles concrètes qui visent à restaurer le contrôle des utilisateurs. Il impose de nouvelles obligations claires, aussi bien à ceux qui créent les intelligences artificielles (les « fournisseurs« ) qu’à ceux qui les utilisent au quotidien dans leurs services (les « déployeurs« ). L’objectif est simple : permettre aux utilisateurs de toujours identifier la nature de leur interlocuteur.

Pour les Développeurs : une Transparence Intégrée dès la Conception

La première grande règle concerne directement les développeurs. Ils doivent désormais concevoir leurs systèmes d’IA de manière à ce que l’utilisateur soit toujours informé lorsqu’il interagit avec une machine.

Concrètement, un chatbot de service client devra indiquer explicitement son identité dès le début de la conversation. Les interfaces ambiguës, sources de doute sur la nature de l’interlocuteur, sont désormais proscrites. Cette information doit être explicite.

Il existe cependant quelques exceptions prévues. Si le contexte rend l’interaction avec une IA évidente pour une personne « raisonnablement bien informée », l’avertissement n’est pas nécessaire. De même, les systèmes utilisés par les forces de l’ordre pour des enquêtes criminelles sont exemptés, à condition que les droits des tiers soient protégés.

Contenus Générés par IA : le Marquage, Nouvelle Norme

Un autre aspect essentiel de l’article 50 concerne les contenus créés de toutes pièces par une IA. Les fournisseurs de systèmes capables de générer des images, des vidéos, des sons ou des textes synthétiques ont maintenant une nouvelle mission : intégrer un « marquage » dans leurs créations.

Ce marquage peut être perçu comme un filigrane numérique, souvent imperceptible à l’œil nu, mais détectable par des outils automatisés. Ce marquage doit indiquer que le contenu a été généré ou manipulé artificiellement. L’IA Act précise que cette solution doit être « efficace et interopérable, dans la mesure où cela est techniquement réalisable », prenant en compte l’état de l’art et les coûts d’implémentation.

• Une retouche photo classique ou l’utilisation d’une fonction d’assistance à la rédaction qui ne modifie pas le fond ne sont pas concernées.
• En revanche, si vous remplacez entièrement un élément d’une image par une création IA, le marquage devient obligatoire.

Les Devoirs des « Déployeurs » d’IA : Ce qui Change pour les Utilisateurs

Les entreprises et organisations qui intègrent ces outils dans leurs services ont également leur part de responsabilité. L’article 50 leur impose des obligations de divulgation explicites, lesquelles varient selon l’application de l’IA.

Deepfakes et Contenus Manipulés : la Transparence Impérative

Ceci représente sans doute la mesure la plus attendue. Toute personne qui diffuse un « deepfake » (une vidéo, une image ou un son profondément manipulé) doit obligatoirement le signaler. L’indication doit être claire et sans ambiguïté.

Une approche plus flexible est prévue pour les œuvres artistiques, satiriques ou de fiction. Dans ces cas, la divulgation peut être plus discrète afin de ne pas « gêner la jouissance de l’œuvre ». L’essentiel demeure la signalisation de l’existence de la manipulation, peu importe la discrétion.

Un conseil ? Adopter le réflexe de toujours rechercher cette mention avant de partager un contenu particulièrement impressionnant.

Reconnaissance d’Émotions : une Obligation de Prévenance

Les systèmes d’IA capables d’analyser et de catégoriser les émotions ou les caractéristiques biométriques d’une personne sont des domaines particulièrement sensibles. Si une entreprise utilise un tel outil, par exemple, pour l’analyse des réactions de clients au sein d’un magasin, il est impératif d’en informer les personnes exposées. Cette information doit être fournie avant ou au tout début de l’exposition.

Il est essentiel de noter que cette obligation de transparence s’ajoute et ne se substitue pas aux lois existantes sur la protection des données comme le RGPD.

Textes d’Intérêt Public : Divulgation des Contenus IA

L’IA représente un outil puissant pour rédiger des articles ou des rapports. Cependant, lors de la publication d’un texte destiné à informer le public sur un sujet d’intérêt général (un article de presse, par exemple), une règle particulière s’applique. Si le texte a été généré ou manipulé par une IA, ceci doit être divulgué.

L’unique exception est la suivante : Si le texte a été relu, vérifié et validé par un être humain qui endosse la responsabilité éditoriale de la publication. Un processus de relecture standard au sein d’une rédaction est suffisant pour lever cette obligation. À l’inverse, publier un article généré par une IA sans supervision humaine impose une transparence absolue.

Comment Assurer la Conformité avec l’Article 50 ?

Bruxelles a prévu plusieurs chemins pour que les entreprises puissent prouver leur bonne foi, avec une voie rapide clairement encouragée.

La Voie Privilégiée : Le Code de Bonne Conduite

Concernant l’obligation de marquer les contenus générés par IA, la Commission européenne encourage les acteurs du secteur à adopter le « Code de pratique sur la transparence des contenus générés par l’IA« . La signature et le respect de ce code constituent la preuve principale de conformité. C’est une démarche simplifiée et validée par les autorités.

L’Alternative : Démontrer sa Conformité de Manière Autonome

Les organisations qui ne souhaitent pas adhérer au code peuvent néanmoins développer leurs propres méthodes de conformité. Elles devront alors prouver, en cas de contrôle, que leurs solutions sont tout aussi « adéquates« . Cette approche est plus incertaine, car l’évaluation finale reviendra aux autorités de surveillance du marché de chaque pays.

Concernant les autres obligations (information sur l’interaction avec une IA, divulgation des deepfakes, etc.), il n’existe pas de code équivalent. Les entreprises doivent élaborer elles-mêmes les mesures appropriées, en s’appuyant sur les lignes directrices publiées par la Commission.

Cette nouvelle ère de transparence représente une première étape essentielle pour établir une relation de confiance entre l’intelligence artificielle et la société. L’article 50 ne vise pas à entraver l’innovation, mais à l’encadrer pour la rendre plus sûre et plus responsable. Il offre aux citoyens et aux consommateurs les outils pour mieux appréhender l’environnement numérique environnant.

Et vous, pensez-vous que cette nouvelle règle va changer votre perception de l’intelligence artificielle au quotidien ?

Simone

Simone, rédactrice principale du blog, est une passionnée de l’intelligence artificielle. Originaire de la Silicon Valley, elle est dévouée à partager sa passion pour l’IA à travers ses articles. Sa conviction en l’innovation et son optimisme sur l’impact positif de l’IA l’animent dans sa mission de sensibilisation.