Pratiques interdites par l'AI Act : les huit usages prohibés en Europe

Le règlement européen sur l'IA ne se contente pas d'encadrer : il interdit. L'article 5 énumère des usages jugés incompatibles avec les valeurs de l'Union, pour lesquels aucune mise en conformité n'est possible. Ces interdictions sont applicables depuis le 2 février 2025.

Elles exposent aux sanctions les plus élevées du règlement, jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel, le montant le plus élevé étant retenu. Pour les PME, c'est le montant le plus faible des deux qui s'applique.

La plupart de ces pratiques sont éloignées du quotidien des entreprises. Deux ou trois, en revanche, correspondent à des outils activement commercialisés.

La manipulation par techniques subliminales

Sont interdits les systèmes recourant à des techniques subliminales, délibérément manipulatrices ou trompeuses, ayant pour effet d'altérer substantiellement le comportement d'une personne en l'amenant à prendre une décision qu'elle n'aurait pas prise autrement, lorsque cela cause ou risque de causer un préjudice important.

Le critère tient à l'altération substantielle du comportement et au préjudice. La publicité ciblée ordinaire, ou les techniques de persuasion commerciale classiques, ne sont pas visées. Un système conçu pour contourner la volonté consciente d'une personne l'est.

L'exploitation des vulnérabilités

Même logique, appliquée aux personnes vulnérables en raison de leur âge, d'un handicap ou d'une situation sociale ou économique particulière. Un système qui exploiterait la détresse financière d'un public pour l'orienter vers des produits préjudiciables entre dans ce champ.

La notation sociale

Est prohibée l'évaluation ou le classement de personnes physiques sur une période donnée en fonction de leur comportement social ou de caractéristiques personnelles, lorsque cette note conduit à un traitement préjudiciable dans des contextes sans rapport avec les données collectées, ou disproportionné par rapport au comportement observé.

Le point clé est le changement de contexte. Utiliser un historique de paiement pour apprécier une demande de crédit reste possible, sous les règles applicables au haut risque. Utiliser des données issues des réseaux sociaux pour refuser un service sans rapport relève de l'interdiction.

La prédiction d'infractions par profilage

Les systèmes évaluant le risque qu'une personne commette une infraction, sur la seule base d'un profilage ou de l'évaluation de traits de personnalité, sont interdits. L'interdiction ne couvre pas les outils qui viennent soutenir une appréciation humaine fondée sur des faits objectifs et vérifiables directement liés à une activité délictueuse.

Le moissonnage non ciblé d'images faciales

La constitution ou l'extension de bases de reconnaissance faciale par extraction non ciblée d'images provenant d'internet ou de la vidéosurveillance est interdite. Cette disposition vise une pratique documentée de certains fournisseurs de reconnaissance faciale.

La reconnaissance des émotions au travail et à l'école

C'est l'interdiction la plus directement pertinente pour les entreprises. Les systèmes d'IA visant à déduire les émotions d'une personne physique sur le lieu de travail et dans les établissements d'enseignement sont interdits, sauf lorsque le système est destiné à des fins médicales ou de sécurité.

Le champ est large. Sont concernés les outils qui prétendent mesurer l'engagement, la satisfaction, le stress ou la sincérité à partir de la voix, du visage ou du comportement. Plusieurs solutions de ce type ont été commercialisées auprès de services RH, notamment pour l'analyse d'entretiens vidéo différés.

Une entreprise qui a souscrit à un tel outil est en infraction depuis février 2025, qu'elle l'ait développé ou simplement acheté. L'exception médicale ou de sécurité s'entend strictement : la détection de somnolence d'un conducteur relève de la sécurité, l'évaluation de la motivation d'un candidat non.

La catégorisation biométrique de données sensibles

Sont interdits les systèmes de catégorisation biométrique qui classent les personnes en fonction de leurs données biométriques pour déduire leur origine raciale ou ethnique, leurs opinions politiques, leur appartenance syndicale, leurs convictions religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle.

L'interdiction ne couvre pas l'étiquetage ou le filtrage licite de jeux de données biométriques légalement acquis.

L'identification biométrique à distance en temps réel à des fins répressives

L'usage de ces systèmes dans les espaces accessibles au public à des fins répressives est interdit, sous réserve d'exceptions limitativement énumérées : recherche de victimes d'enlèvement ou de traite, prévention d'une menace imminente pour la vie, ou localisation d'une personne soupçonnée d'une infraction grave.

Ces exceptions sont subordonnées à une autorisation préalable d'une autorité judiciaire ou administrative indépendante et à une analyse d'impact. Elles concernent les autorités répressives, non les entreprises privées.

Ce qu'il faut en retenir en pratique

Pour la grande majorité des organisations, la vérification tient en une revue documentée de quelques points :

Cette revue est rapide, mais elle doit être écrite et datée. En cas de contrôle, l'absence de traces vaut absence de démarche.

Le point de vigilance : les outils achetés

L'interdiction pèse autant sur celui qui déploie que sur celui qui fournit. Une entreprise ne peut pas se retrancher derrière son prestataire : si elle utilise un outil interdit, elle est en infraction.

En pratique, cela impose d'interroger ses fournisseurs sur les fonctionnalités réellement activées. Certaines suites RH embarquent des modules d'analyse comportementale désactivables, dont l'activation ferait basculer l'usage dans l'interdit.

Vérifier votre situation

Notre diagnostic de maturité IA comporte un point de contrôle spécifique sur les pratiques interdites. Il vous indique si vos usages déclarés appellent une revue approfondie.

Pour une analyse détaillée de vos outils : victor@antartica-ai.com

---

*Sources : règlement (UE) 2024/1689, article 5 et considérants 28 à 45. Article 99 pour le régime des sanctions.*

FAQ

Quelles pratiques l'article 5 interdit-il ?

Entre autres les techniques subliminales ou manipulatrices causant un préjudice significatif, l'exploitation des vulnérabilités liées à l'âge ou au handicap, la notation sociale, et la reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement.

Depuis quand ces interdictions s'appliquent-elles ?

Depuis le 2 février 2025. Contrairement aux obligations sur les systèmes à haut risque, elles ne font l'objet d'aucun report : une pratique interdite l'est aujourd'hui.

La reconnaissance des émotions au travail est-elle vraiment interdite ?

Oui, sur le lieu de travail et dans les établissements d'enseignement, avec des exceptions limitées pour des raisons médicales ou de sécurité. C'est l'une des interdictions les plus susceptibles de concerner une entreprise ordinaire.

Quelles sanctions en cas de pratique interdite ?

Ce sont les plus lourdes du règlement : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu. Pour les PME et les startups, c'est le montant le plus faible des deux qui s'applique.

Pour aller plus loin

Évaluez votre conformité avec le test de maturité IA d'Antartica AI : 23 questions dont un volet dédié au règlement européen sur l'IA. Pour former vos équipes au titre de l'article 4, découvrez notre offre de formation IA certifiée Qualiopi, ou cadrez votre situation avec un audit IA. Pour en discuter, écrivez à victor@antartica-ai.com.

*Cet article présente une lecture du règlement (UE) 2024/1689 à des fins d'information et ne constitue pas un conseil juridique.*