Télécharger « Transparence et responsabilité en matière d’algorithmes des services numériques » ici  

Comment le droit européen peut-il garantir la transparence dans l’univers opaque des algorithmes ? Comment réguler ces mécanismes ?

Février 2024 marque l’entrée en vigueur de la législation sur les services numériques (DSA) de l’UE. Ce nouveau rapport se penche sur les changements que cela implique en termes d’obligations de transparence et de responsabilité des systèmes algorithmiques à l’égard des internautes et en termes d’efficacité du cadre règlementaire.

Intitulé « Transparence et responsabilité en matière d’algorithmes des services numériques », ce nouveau rapport de l’Observatoire européen de l’audiovisuel a été rédigé par un comité éditorial de l’Institut du droit européen des médias de Sarrebruck.

Après un premier chapitre d’introduction, le chapitre deux retrace les travaux de normalisation effectués en amont de la DSA par le Conseil de l’Europe aux fins d’instaurer des bonnes pratiques en matière d’algorithmes. Dès 2017, le Conseil a publié une étude sur l’impact des algorithmes sur les droits de l’homme et les implications réglementaires qui en découlent.  Une autre étude du Conseil réalisée en 2019 se penche sur la notion de responsabilité et l’exercice irresponsable du pouvoir conféré par le numérique grâce aux technologies numériques avancées. Par la suite, entre 2020 et 2022, le Conseil de l’Europe a publié une série de recommandations normatives sur des thèmes tels que les impacts des systèmes algorithmiques sur les droits de l’homme et les effets des technologies numériques sur la liberté d’expression. Le Conseil travaille actuellement à l’élaboration de sa « Convention [cadre] sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit », toujours en cours de rédaction. Il s’agit d’une convention ouverte à la ratification non seulement des États membres du Conseil de l’Europe, mais aussi d’autres pays, et qui pourrait donc constituer un premier accord international de base sur les principes fondamentaux relatifs à l’IA.

Le troisième chapitre présente un aperçu du cadre réglementaire de l’Union européenne en matière d’algorithmes. Sachant que les valeurs phare du droit européen sont les droits fondamentaux et la transparence, l’intérêt des législateurs et législatrices pour les algorithmes semble parfaitement logique. Le droit dérivé de l’UE a commencé à les encadrer en 2019 avec le règlement sur les relations entre plateformes et entreprises (règlement P2B) et la directive modifiée sur les droits des consommateurs. Ces règlements visaient à garantir la transparence des systèmes de classement en ligne (fondés sur des algorithmes) des produits proposés. Le droit européen des médias, notamment la Directive SMA, encadre, entre autres, les algorithmes utilisés par les plateformes de partage de vidéos (VSP). La Directive SMA dispose que les VSP doivent mettre en place des mécanismes de notification « transparents et conviviaux », des systèmes permettant d’expliquer comment sont traitées les notifications, des systèmes de vérification de l’âge des utilisateurs et de classification des contenus, ainsi que des systèmes de contrôle parental. Les auteurs et autrices passent ensuite au processus d’élaboration d’une proposition de législation européenne sur l’IA. Cette proposition vise à établir des règles harmonisées pour la mise sur le marché, la mise en service et l’utilisation des systèmes d’IA au sein de l’UE. À ce jour, l’adoption provisoire du projet de texte par le Coreper a eu lieu le 2 février 2024 et le document a été rendu public. Le texte devrait être adopté en avril 2024 par le Parlement européen en séance plénière puis, peu après, par le Conseil, avant d’être publié au Journal officiel. 

Le chapitre quatre de ce rapport passe en revue la nouvelle législation de l’UE sur les services numériques, qui est devenue pleinement applicable en février 2024. L’un des principaux piliers de la DSA est la transparence, qu’il s’agisse de la transparence des algorithmes ou des risques de manipulation des contenus, comme les campagnes de désinformation ou les hypertrucages (deep fakes). La DSA vise à réduire les risques et encadrer le domaine des systèmes de recommandation qui s’appuient sur des suggestions algorithmiques pour hiérarchiser les produits ou les choix proposés à l’internaute. À cet égard, la DSA instaure des obligations de transparence supplémentaires en vertu desquelles les fournisseurs de plateformes en ligne doivent indiquer dans leurs conditions générales les principaux paramètres utilisés dans leurs systèmes de recommandation. 

Le chapitre cinq prend du champ pour examiner les développements intervenant au-delà de l’Europe et dans le droit national.  Les auteurs et autrices mentionnent les travaux effectués par l’OCDE dans ce domaine. Dès mai 2019, les pays de l’OCDE ont adopté au sein du Conseil de l’OCDE la Recommandation sur l’intelligence artificielle, qui constitue la première norme intergouvernementale sur l’IA et a servi de base aux principes du G20 en matière d’IA. L’UNESCO a également publié en 2023 un recueil complet de recommandations sur le thème de la gouvernance des plateformes numériques en préconisant un certain nombre de mesures incombant aussi bien aux États qu’aux plateformes concernant la transparence, la modération des contenus, la collecte de données, la publicité ciblée, ainsi que le partage et le classement, et/ou la suppression de contenus.  Les auteurs et autrices passent ensuite en revue les pays ayant instauré des obligations concernant les plateformes avant même l’adoption de la législation européenne sur l’IA. L’Allemagne, par exemple, dispose d’une législation spécifique à cet égard depuis 2020. Son traité inter-Länder sur les médias dispose que les utilisateurs et utilisatrices de plateformes intermédiaires doivent être en mesure de comprendre pourquoi certains contenus leur sont présentés, pourquoi ils sont présentés dans un ordre donné, et pourquoi d’autres contenus ne sont pas affichés. Ce chapitre expose également la situation au Royaume-Uni et aux États-Unis.

Le chapitre six se penche sur les structures institutionnelles et les instances de contrôle, c’est-à-dire les autorités chargées de veiller au respect de la législation dans ce domaine. En ce qui concerne la DSA, un comité européen des services numériques nouvellement créé réunit des représentants de tous les États membres, la Commission présidant ce groupe consultatif indépendant, pour surveiller la transposition et l’application de ses dispositions. Pour les États membres de l’UE, la situation est claire : parallèlement à la mise en place d’une nouvelle architecture de surveillance et de gouvernance dans le cadre de la législation sur l’IA, ils devront notifier à la Commission au plus tard le 17 février 2024 l’autorité ou l’instance nationale désignée comme coordinateur pour les services numériques selon la DSA.

Les auteurs et autrices terminent en concluant que « cet objectif ne va pas de soi, car la seule transparence ne modifie pas nécessairement les pratiques et les comportements si elle n’est pas étayée par des règles sur la manière dont les systèmes algorithmiques doivent ou ne doivent pas être conçus. [...] En ce sens, les activités des autorités et des organismes chargés de contrôler l’utilisation des systèmes algorithmiques, notamment par les plateformes, seront déterminantes. »

Un glossaire très utile de la terminologie relative aux algorithmes complète ce nouveau rapport.

Un panorama indispensable des enjeux actuels de l’utilisation des algorithmes en Europe et de l’approche législative visant à renforcer la transparence et réguler les nouveaux systèmes d’IA.