Im April 2021 legte die EU-Kommission den Entwurf für eine europäische KI-Strategie vor mit dem Ziel, die EU zu einem Drehkreuz für KI zu machen und dafür zu sorgen, dass KI menschlich und vertrauenswürdig ist.

Der Entwurf umfasste insbesondere

• die Mitteilung über die Forderung eines europäischen KI-Ansatzes,
• Überprüfung des koordinierten Plans für künstliche Intelligenz und
• den Vorschlag für einen Rechtsrahmen für künstliche Intelligenz und einschlägige Folgenabschätzung.

Rat und Parlament der EU haben im Dezember 2023 eine vorläufige Einigung über die Vorschläge der EU-Kommission erzielt.

Hauptelemente der vorläufigen Einigung

Im Vergleich zum ursprünglichen Kommissionsvorschlag lassen sich die wichtigsten neuen Elemente des nunmehr vereinbarten Verordnungsentwurfes wie folgt zusammenfassen:

• Regeln für hochwirksame KI-Modelle, die in Zukunft systemische Risiken verursachen können, sowie für risikoreiche KI-Systeme.
• Ein überarbeitetes Regierungssystem mit einigen Durchsetzungsbefugnissen auf EU-Ebene.
• Erweiterung der Liste der Verbote, aber mit der Möglichkeit, eine entfernte biometrische Identifizierung durch die Strafverfolgungsbehörden im öffentlichen Raum zu verwenden.
• Besserer Schutz der Rechte der Bürger durch die Verpflichtung für die Betreiber von Hochrisiko-KI-Systemen, eine Fundamentalrechtsfolgenabschätzung durchzuführen, bevor ein KI-System verwendet wird.

Definitionen und Umfang

Um sicherzustellen, dass die Definition eines KI-Systems ausreichend klare Kriterien für die Unterscheidung von KI (bei einfacheren Softwaresystemen) bietet, stimmt die Kompromissvereinbarung der Definition mit dem von der OECD vorgeschlagenen Ansatz überein. Die vorläufige Vereinbarung stellt ferner klar, dass die Verordnung nicht für Bereiche außerhalb des EU-Rechts gilt und auf keinen Fall die Zuständigkeiten der Mitgliedstaaten in der nationalen Sicherheit oder einer mit Aufgaben in diesem Bereich betrauten Einrichtung beeinträchtigen soll. Darüber hinaus soll die geplante EU-Verordnung nicht für Systeme gelten, die ausschließlich für militärische Zwecke verwendet werden. In ähnlicher Weise sieht das Abkommen vor, dass die Verordnung nicht für KI-Systeme gelten würde, die ausschließlich für Forschung und Innovation verwendet werden oder für Menschen, die KI aus nicht-professionellen Gründen verwenden.

Eine neue Governance-Architektur (staatliche Begleitung der Systeme)

Nach den neuen Regeln für GPAI-Modelle und der offensichtlichen Notwendigkeit ihrer Durchsetzung auf EU-Ebene soll ein KI-Büro innerhalb der Kommission eingerichtet werden, um diese fortschrittlichsten KI-Modelle zu überwachen, zur Förderung von Standards und Testpraktiken beizutragen und die gemeinsamen Regeln in allen Mitgliedsstaaten durchzusetzen. Ein wissenschaftliches Gremium unabhängiger Experten wird das KI-Büro über GPAI-Modelle beraten, indem es zur Entwicklung von Methoden zur Bewertung der Fähigkeiten von Basismodellen beiträgt, bei der Gestaltung und dem Aufkommen von schlagstarken Basismodellen berät und mögliche Materialsicherheitsrisiken im Zusammenhang mit Basismodellen überwacht.

Maßnahmen zur Förderung der Innovation

Im Hinblick auf die Schaffung eines innovationsfreundlicheren Rechtsrahmens und zur Förderung evidenzbasierter Regulierungserneuerung wurden die Bestimmungen zu Maßnahmen zur Förderung der Innovation im Vergleich zum Kommissionsvorschlag erheblich geändert.

Insbesondere wurde klargestellt, dass KI-Regulierungssandkästen, die ein kontrolliertes Umfeld für die Entwicklung, Prüfung und Validierung innovativer KI-Systeme schaffen sollen, auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollten. Darüber hinaus wurden neue Bestimmungen hinzugefügt, die die Prüfung von KI-Systemen unter realen Bedingungen unter bestimmten Bedingungen und Schutzmaßnahmen ermöglichen. Um den Verwaltungsaufwand für kleinere Unternehmen zu verringern, enthält die vorläufige Vereinbarung eine Liste von Maßnahmen zur Unterstützung solcher Betreiber und sieht für einige begrenzte und klar festgelegte Ausnahmen vor.

Nächste Schritte und Inkrafttreten

Die vorläufige Vereinbarung sieht vor, dass der Rechtsrahmen zwei Jahre nach seinem Inkrafttreten gelten sollte, mit einigen Ausnahmen für einzelne Bestimmungen. Nach der vorläufigen Einigung werden die Arbeiten auf technischer Ebene in den kommenden Wochen fortgesetzt, um die Details der neuen Verordnung abzuschließen.

Weitere Informationen:

• Kommissionsvorschlag vom 23. April 2021: https://data.consilium.europa.eu