Normes techniques et éthique de l'IA

Mélanie Gornet (1, 2) , Winston Maxwell (1, 2)

1 NOS - Numérique, Organisation et Société
2 SES - Département Sciences Economiques et Sociales

Technological advancements in AI are generating major breakthroughs, but they also have significant social conse- quences that require regulation. The proposed European re- gulation on AI, also known as the AI Act, will impose a number of obligations on providers of high-risk AI systems, that can be considered as “ethical” obligations, including respect for fairness and fundamental rights. To ensure com- pliance of these systems with ethical requirements, the pro- posed AI Act plans to use harmonized standards, raising the question of compatibility between technical standards and ethical issues. In this paper, we contribute to this debate by recalling the role of standards and certification in Europe, before presenting the actors currently working on “ethical” AI standards. We show through this inventory the diversity of their work and the competition that is emerging between different visions of AI ethics. Finally, we discuss the risks raised by these standards, such as the difficulty of defining objective criteria and the possibility that citizens may be misled.

Les progrès technologiques de l'IA engendrent des avancées majeures, mais ont aussi des conséquences sociales importantes qui nécessitent de réguler les pratiques. Le projet de règlement européen sur l'IA, également connu sous le nom d'AI Act, imposera aux fournisseurs de systèmes d'IA à haut risque un nombre d'obligations pouvant être qualifiées d'« éthiques » 1 , notamment le respect de l'équité et des droits fondamentaux. Pour s'assurer de la conformité de ces systèmes aux exigences éthiques, le projet d'AI Act prévoit le recours aux normes harmonisées, soulevant ainsi la question de la compatibilité entre les normes techniques et les enjeux éthiques. Dans cette étude, nous contribuons à ce débat en rappelant le rôle des normes et de la certification en Europe, avant de présenter les différents acteurs de la normalisation travaillant actuellement sur des normes « éthiques » pour l'IA. Nous montrons à travers cet inventaire la diversité de leurs travaux ainsi que la concurrence émergente entre différentes visions de l'éthique de l'IA. Enfin, nous discutons des risques que soulèvent ces normes, tels que la difficulté à définir des critères objectifs et la possibilité de confusion avec une garantie de l'éthique.

Mots clés: standards; certification; AI ethics; AI law; regulation; AI Act

Mots clés: normes; certification; éthique de l'IA; droit de l'IA; régulation; AI Act; AI ethics

Domaines: Intelligence artificielle [cs.AI]; Sciences de l'Homme et Société; Droit

Mélanie Gornet, Winston Maxwell. Normes techniques et éthique de l'IA. CNIA 2023 - Conférence Nationale en Intelligence Artificielle, Jul 2023, Strasbourg, France. ⟨hal-04121843⟩