La Commission européenne a récemment mis à jour sa législation sur l’intelligence artificielle (IA), interdisant explicitement des systèmes jugés particulièrement dangereux. Dans cette démarche, l’institution a identifié plusieurs pratiques à proscrire sur le territoire de l’Union européenne, en réponse aux préoccupations croissantes liées à la vie privée et aux droits fondamentaux des citoyens.
Interdictions spécifiques de systèmes d’IA
La régulation vise à établir des garde-fous devant des technologies susceptibles de nuire considérablement aux droits individuels. Voici un aperçu des principales interdictions édictées par la Commission.
Identification en temps réel dans les espaces publics
L’utilisation de systèmes de reconnaissance faciale en temps réel est formellement prohibée dans les lieux publics, tel que sur une avenue commerçante. L’objectif est de prévenir toute interpellation d’un individu sans avoir effectué de validation préalable de son identité à l’aide d’informations solides. Bien que cette règle soit généralement stricte, des exceptions sont envisageables pour des missions spécifiques des forces de l’ordre, par exemple dans le cadre de la lutte contre le terrorisme.
Notation sociale basée sur des données non pertinentes
Les organismes sont désormais empêchés d’employer l’intelligence artificielle pour établir une évaluation des citoyens sur des critères sans rapport avec l’objet de l’analyse. Une pratique telle que le classement des individus selon leur potentiel à commettre une fraude, en utilisant des informations comme l’origine ou le comportement en ligne, est dorénavant illégale. Au lieu de cela, seuls des critères pertinents doivent être pris en compte, par exemple des données financières lors de l’analyse du risque de défaut de paiement.
Profiling criminel basé sur des données personnelles
Les forces de police ne peuvent pas recourir à des systèmes d’IA pour anticiper le comportement criminel d’un individu en se fiant uniquement à ses caractéristiques physiques ou personnelles. Cette méthode serait jugée problématique, car elle néglige l’évaluation de faits tangibles et vérifiables relatifs aux actions des personnes concernées.
Création de bases de données d’images sans consentement
La collecte indiscriminée d’images sur Internet pour établir des bases de données de visages destinées à la reconnaissance faciale est interdite. Cette approche serait assimilée à une forme de surveillance excessive, empreinte de méfiance envers la population.
Reconnaissance des émotions sur les lieux de travail
Les organisations ne sont pas autorisées à se servir de technologies telles que les webcams pour interpréter les émotions de leurs employés. Une telle intrusion dans la vie personnelle des salariés soulève d’importantes questions éthiques et de respect de la vie privée.
Manipulations comportementales via l’IA
Les dispositifs qui instaurent des mécanismes de persuasion déloyale, tels que des éléments subliminaux pour inciter à l’achat, sont proscrits. Cette mesure vise à protéger les consommateurs contre des manœuvres agressives et manipulative.
Exploitation des vulnérabilités liées à l’âge ou au handicap
Les produits, notamment les jouets intégrant de l’intelligence artificielle, doivent respecter des normes de sécurité. Les jouets ne doivent pas être conçus pour capter l’attention des enfants de manière à les entraîner dans des défis insensés pouvant engendrer du danger ou des blessures.
Déduction des opinions à partir de données biométriques
Aucune technologie ne peut être employée pour évaluer les opinions politiques ou l’orientation sexuelle d’un individu sur base d’analyses biométriques, telles que l’examen de traits du visage. Ce type de profilage est inacceptable et va à l’encontre des droits et libertés exprimés par les citoyens.
Cette initiative de régulation s’inscrit dans un cadre plus large de protection des droits fondamentaux des individus. La Commission européenne entend contribuer à un développement éthique et responsable de l’intelligence artificielle, tout en encadrant strictement l’usage de technologies aux implications potentielles sur la vie privée et la vie citoyenne.
