L’UE propose de nouvelles règles sur l’IA et limite la surveillance de sa population

Une proposition a été déposée le 21 avril par la Commission européenne pour réguler l’utilisation de l’intelligence artificielle. Un point fait débat : la surveillance biométrique des foules.

Depuis 2018, l’Europe réfléchit à une stratégie globale pour réguler l’IA et s’imposer comme un exemple mondial en matière d’éthique, pour que l’IA soit centrée sur l’humain, sûre, digne de confiance et renforcer la compétitivité européenne.

Un brouillon de cette proposition législative menée par Margrethe Vestager, commissaire européenne à la société numérique, avait déjà fuité au début du mois et avait fait face à de vives critiques de la part des associations de défense des libertés démocratiques. Ces dernières pointaient du doigt entre autres le laxisme de la législation quant aux usages de systèmes IA dans des domaines tels que la reconnaissance biométrique des masses, la manipulation du comportement humain ou encore l’exploitation des faiblesses des individus. Ces usages étaient prohibés, mais avec une dérogation vague et non définie pour les forces de l’ordre. Un dernier usage de l’IA est totalement prohibé, sans dérogation. Il s’agit des systèmes qui permettent la notation sociale des individus par les États.

En consultant la publication désormais officielle de la proposition de loi, force est de constater que les législateurs se sont rétractés face aux critiques. La plupart des usages cités plus haut sont tout simplement jugés inacceptables et donc strictement prohibés : “Les systèmes d’IA considérés comme une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes seront interdits. Il s’agit notamment des systèmes ou applications d’IA qui manipulent le comportement humain pour priver les utilisateurs de leur libre arbitre (par exemple, des jouets utilisant une assistance vocale incitant des mineurs à avoir un comportement dangereux) et des systèmes qui permettent la notation sociale par les États”, indique le communiqué de presse officiel de la Commission.

Cependant, la surveillance biométrique des masses (dont la reconnaissance faciale fait partie) n’y figure cette fois pas. Face à la controverse que ce point suscite, les législateurs ont décidé de le reléguer aux “usages à hauts risques”, et donc soumis à une série d’obligations bien précises. Il est expliqué que son utilisation en temps réel dans l’espace public pour le maintien de l’ordre est en principe prohibée. Mais la Commission définit certains usages stricts de la technologie : “Par exemple, lorsque cela est strictement nécessaire pour rechercher un enfant disparu, prévenir une menace terroriste spécifique et imminente ou détecter, localiser, identifier ou poursuivre l’auteur ou le suspect d’une infraction pénale grave”, indique-t-elle. Pour contenir les dérives de l’emploi de la surveillance biométrique, il est indiqué qu’il faudra obtenir l’autorisation préalable d’une instance judiciaire ou d’un autre organe indépendant. De plus, la durée de l’utilisation, la portée géographique et les données employées seront restreintes.

Cette nouvelle adaptation ne fait cependant pas que des heureux. En effet, de nombreuses personnes et associations réclament l’interdiction pure et simple de l’emploi de pareilles technologies. L’eurodéputé écologiste David Cormand appréhende par exemple les dérives possibles de tels usages, même restreints : “La proposition autorise le déploiement de la reconnaissance biométrique en temps réel par les autorités publiques. Cela ouvre la porte à une surveillance généralisée de la population sous couvert de sécurité publique”, explique-t-il.

La proposition législative traite également de bien d’autres usages, les classe dans des catégories de dangerosité, cite les critères d’admission et désigne une autorité de contrôle. L’Union européenne compte bien devenir un modèle mondial et attirer les investisseurs sur des projets éthiques et dignes de confiance. “En établissant les normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier, tout en préservant la compétitivité de l’UE. À l’épreuve du temps et propices à l’innovation, nos règles s’appliqueront lorsque c’est strictement nécessaire : quand la sécurité et les droits fondamentaux des citoyens de l’Union sont en jeu”, déclare Margrethe Vestager.

La loi sur l’IA semble essentielle pour l’UE comme argument-choc en matière de libertés démocratiques dans la course à l’innovation technologique face aux États-Unis et à la Chine qui bénéficient d’une certaine longueur d’avance. Cependant, la proposition de loi suscite encore de larges débats et doit encore être approuvée par le parlement et par les pays membres pour faire effet. Tout n’est pas encore définitif, donc.