„Algorithmische Transparenz und Rechenschaftspflicht bei digitalen Diensten“ hier herunterladen 

Wie kann europäisches Recht im Dickicht der Algorithmen für Transparenz sorgen? Und wie lassen sich diese Mechanismen regulieren?

Seit Februar 2024 ist das neue Gesetz über digitale Dienste (DSA) der EU vollständig in Kraft. Dieser neue Bericht befasst sich mit diesem Wendepunkt in der Art und Weise, wie algorithmische Systeme transparenter und verantwortlicher gegenüber dem Nutzer gemacht und somit erfolgreich reguliert werden können.

Dieser neue Bericht - Algorithmische Transparenz und Rechenschaftspflicht bei digitalen Diensten - der Europäischen Audiovisuellen Informationsstelle wurde von einem Redaktionsteam des Instituts für Europäisches Medienrecht in Saarbrücken verfasst.
 
Nach der Einleitung befasst sich Kapitel zwei mit der normsetzenden Tätigkeit im Bereich guter algorithmischer Praxis des Europarats vor der Einführung des DSA. Bereits 2017 erstellte der Rat eine Studie über die Auswirkungen von Algorithmen auf die Menschenrechte und ihre regulatorischen Implikationen.  Eine weitere Studie des Rats von 2019 befasste sich mit dem Begriff der Verantwortung und der Ausübung digitaler Macht ohne Verantwortung durch digitale Spitzentechnologien. Im Anschluss daran veröffentlichte der Europarat eine Reihe normsetzender Empfehlungen für den Zeitraum 2020 bis 2022. Dazu gehörten Themen wie zum Beispiel die Auswirkungen algorithmischer Systeme auf die Menschenrechte und die Auswirkungen digitaler Technologien auf die Meinungsfreiheit. Der Rat arbeitet gerade an seinem „[Rahmen-]Übereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit“, das sich noch in der Entwurfsphase befindet. Das Übereinkommen soll nicht nur von den Mitgliedstaaten des Europarats sondern auch darüber hinaus ratifiziert werden können, so dass es das Potenzial hat, zu einem ersten internationalen Referenzabkommen über Grundprinzipien im Bereich der künstlichen Intelligenz zu werden.

Kapitel drei gibt einen Überblick über den Rechtsrahmen der Europäischen Union in Bezug auf Algorithmen. Da Grundrechte und Transparenz zu den Kernwerten des EU-Rechts gehören, kann man leicht verstehen, warum Gesetzgeber an Algorithmen interessiert sind. Eine erstmalige Regelung im EU-Sekundärrecht erfolgte 2019 mit der Verordnung über Plattform-zu-Business-Beziehungen (P2B-Verordnung) sowie der geänderten Verbraucherrechtsrichtlinie. Ziel war es, Transparenz bei (algorithmengesteuerten) Online-Ranking-Systemen angebotener Produkte zu schaffen. Medienbezogene EU-Rechtsvorschriften wie die AVMD-Richtlinie konzentrieren sich zudem auf Algorithmen, wie sie beispielsweise von Video-Sharing-Plattformen verwendet werden. Laut AVMD-Richtlinie müssen VSP beispielsweise „transparente und nutzerfreundliche“ Meldesysteme, Systeme zur Erläuterung des Umgangs mit Meldungen, Systeme zur Altersverifikation und -einstufung sowie Systeme zur elterlichen Kontrolle einrichten. Die Autoren machen dann einen Sprung zum Vorschlag eines EU-KI-Gesetzes. Der Vorschlag zielt darauf ab, harmonisierte Regeln für das Inverkehrbringen, die Inbetriebnahme und den Einsatz von KI-Systemen in der EU zu schaffen. Der Textentwurf wurde am 2. Februar 2024 vom AStV vorläufig angenommen und öffentlich zugänglich gemacht. Das Gesetz soll im April 2024 vom Plenum des Europäischen Parlaments und kurz darauf vom Rat verabschiedet werden, bevor es im Amtsblatt veröffentlicht wird. 

Kapitel vier dieses Berichts befasst sich detailliert mit dem neuen Gesetz über digitale Dienste, einer EU-Rechtsvorschrift, die seit Februar 2024 vollständig in Kraft ist. Eine der tragenden Säulen des DSA ist Transparenz, sei es algorithmische Transparenz oder das Risiko von Inhaltsmanipulation wie Desinformationskampagnen oder Deep Fakes. Das DSA soll darüber hinaus die Risiken von Empfehlungssystemen minimieren, die auf algorithmisch gesteuerten Vorschlägen beruhen und dem Nutzer hierarchisch geordnet Produkte oder Auswahlmöglichkeiten vorschlagen, und deren Bereich regulieren. Dazu führt das DSA zusätzliche Transparenzpflichten ein, wonach Anbieter von Online-Plattformen in ihren allgemeinen Geschäftsbedingungen die wichtigsten in ihren Empfehlungssystemen verwendeten Parameter darlegen müssen. 

Kapitel fünf betrachtet dann die Entwicklungen außerhalb Europas sowie die Entwicklungen im nationalen Recht.  Die Autoren führen die Arbeit der OECD auf diesem Gebiet an. Bereits im Mai 2019 verabschiedeten die OECD-Länder im OECD-Rat die Empfehlung zu künstlicher Intelligenz, die den ersten zwischenstaatlichen Standard zu KI darstellte und als Grundlage für die KI-Prinzipien der G20 diente. Die UNESCO veröffentlichte zudem 2023 umfangreiche Leitlinien, die sich mit der Governance digitaler Plattformen befassen und sowohl Staaten als auch den Plattformen selbst Handlungsempfehlungen zu Themen wie Transparenz, Inhaltsmoderation, Datengewinnung, gezielte Werbung und das Teilen, Einstufen und/oder Entfernen von Inhalten geben.  Anschließend untersuchen die Autoren Länder, in denen bereits vor dem übergreifenden EU-KI-Gesetz Verpflichtungen für Plattformen eingeführt wurden. In Deutschland gibt es zum Beispiel seit 2020 entsprechende Rechtsvorschriften. Der Medienstaatsvertrag sieht vor, dass Nutzer von Vermittlungsplattformen verstehen können müssen, warum ihnen bestimmte Inhalte angezeigt werden, warum sie in einer bestimmten Reihenfolge präsentiert werden und warum andere Inhalte nicht gezeigt werden. Auch der aktuelle Stand im Vereinigten Königreich und in den USA wird in diesem Kapitel dargelegt.

Kapitel sechs befasst sich mit den institutionellen Strukturen und der Aufsicht, das heißt mit den Behörden, die für die Überwachung der Einhaltung von Rechtsvorschriften in diesem Bereich zuständig sind. In Bezug auf das DSA versammelt zum Beispiel ein neu geschaffenes Europäisches Gremium für digitale Dienste Vertreter aus allen Mitgliedstaaten, wobei die Kommission den Vorsitz dieser unabhängigen Beratungsgruppe führt. Sie soll die Umsetzung und Einhaltung beaufsichtigen. Für die EU-Mitgliedstaaten ist die Situation klar: Neben der Einrichtung einer neuen Überwachungs- und Governance-Architektur in Bezug auf das KI-Gesetz mussten die Mitgliedstaaten der Kommission bis zum 17. Februar mitteilen, welche nationale Behörde oder Einrichtung die Rolle des Koordinators für digitale Dienste laut DSA übernehmen wird.

Die Autoren schließen mit der Folgerung, dass „Transparenz allein nicht zwangsläufig Praktiken und Verhaltensweisen ändert, wenn sie nicht mit Regeln dazu einhergeht, wie algorithmische Systeme gestaltet sein müssen oder nicht gestaltet werden dürfen. [...] In diesem Sinne wird die Tätigkeit der Behörden und Einrichtungen entscheidend sein, die für die Überwachung des Einsatzes algorithmischer Systeme insbesondere durch Plattformen zuständig sind.“

Ein sehr hilfreiches Glossar zur Terminologie der Algorithmen vervollständigt diesen neuen Bericht.

Ein unverzichtbarer Überblick über die aktuellen Fragen zur Nutzung von Algorithmen in Europa und zum gesetzgeberischen Ansatz für mehr Transparenz, um diese neuen KI-Systeme zu regulieren.