Das Europäische Parlament hat am 13.03.2024 die Verordnung für künstliche Intelligenz („AI Act“) mit großer Mehrheit beschlossen. Sie bildet das global erste umfassende Regelwerk zur künstlichen Intelligenz.

Der beschlossene Regulierungsrahmen legt erstmals klare Leitlinien zum Einsatz von KI vor und soll dazu beitragen, mögliche Risiken zu reduzieren, ohne die vorhandenen immensen Innovationspotenziale zu hemmen. Die Verordnung sieht einen risikobasierten Ansatz vor. Grundsätzlich verboten werden Anwendungen, durch die Grundrechte der Bürgerinnen und Bürger bedroht werden könnten, etwa im Bereich der Biometrie, wenn diese mit religiösen oder politischen Anschauungen verbunden werden. Systeme, die als hochriskant eingestuft werden, müssen spezielle Sicherheitsanforderungen erfüllen. Dies gilt etwa für kritische Infrastrukturen oder Anwendungen im Gesundheitsbereich. Gleichzeitig sollen Anwendungen, die als unkritisch gelten, nur wenig oder gar nicht reguliert werden.

Für Städte und Gemeinden kann der Einsatz von KI-basierten Werkzeugen eine große Chance zur Steigerung der Effizienz in den Verwaltungen und zur besseren Vernetzung bislang getrennter Sektoren in einer Kommune darstellen. Auch die EU-Kommission sieht Potenzial in einer IT-basierten Modernisierung der öffentlichen Verwaltung. Dadurch werde die Verwaltung effizienter. Indem Routinearbeit mit Hilfe von KI standardisiert wird, könne sich intensiver um Sonderfälle und sensible Entscheidungen gekümmert werden. Dies steigere außerdem die Bürgernähe der Verwaltung.

Anmerkung:

Grundsätzlich ist beim Einsatz von KI-Systemen größtmögliche Transparenz gegenüber den Bürgerinnen und Bürgern geboten. So kann sichergestellt werden, dass Vertrauen in den Einsatz der Werkzeuge besteht und die Nachvollziehbarkeit von Verwaltungshandeln gewährleistet bleibt. Im „Zukunftsradar Digitale Kommune 2023“ wurden knapp 1.000 Kommunen zu den Perspektiven von KI in Kommunen befragt. Dabei gaben rund zwei Drittel der befragten Städte und Gemeinden an, den Einsatz von KI und automatisierten Systeme für sinnvoll zu halten. Allerdings sind diese Anwendungen bislang nur wenig verbreitet, lediglich 8 Prozent der Kommunen nutzen sie bereits in ihrer täglichen Arbeit.

Aus kommunaler Sicht stellt die nun durch das Europäische Parlament beschlossene Verordnung eine gute und tragfähige Regelung zum Umgang mit Systemen künstlicher Intelligenz dar. Dabei ist der risikobasierte Ansatz zu begrüßen, da so gewährleistet ist, dass diese Technologie immer dann genutzt werden kann, wenn keine unverhältnismäßigen Risiken damit verbunden sind. KI kann entscheidend dazu beitragen, die Effizienz in den Verwaltungen zu erhöhen und die Lebens- und Standortqualität für Bürgerinnen und Bürger sowie Unternehmen zu verbessern. Es muss deshalb möglich bleiben, die mit Technologie verbundenen Chancen zu nutzen, ohne dabei Grundrechte in Frage zu stellen.

Klar ist allerdings auch, dass die nun beschlossene Verordnung nur ein erster Schritt sein kann. Gerade mit Blick auf die sehr hohe Innovationsfrequenz bei dieser Technologie wird es die Aufgabe von Politik auf allen Ebenen sein, die Regulierung kontinuierlich anzupassen und fortzuschreiben. Bislang sind die Potenziale von KI nur in Ansätzen erkennbar. Die mit dem Einsatz in Kommunen aufgeworfenen Fragen, etwa bei der Erstellung von Bescheiden, müssen in nächster Zeit beantwortet werden. Klar ist, dass in allen Bereichen, die Bürgerinnen und Bürger unmittelbar tangieren, die Entscheidung nicht ausschließlich durch KI getroffen werden darf. Sie kann allerdings eine wertvolle Unterstützung bei der Vorbereitung von Entscheidungen und bei Routineprozessen bilden.

Mit Blick auf die Ausgestaltung der Verordnung auf nationaler Ebene erwarten die Kommunen, dass die Spielräume zum Einsatz von KI nicht übermäßig eingeschränkt werden. Sicherlich wird es auch darauf ankommen, KI-basierte Werkzeuge kontinuierlich auf ihre Wirkung hin zu prüfen und den Rechtsrahmen immer dann, wenn es notwendig erscheint, nachzuschärfen.

Weitere Informationen:

KI-Gesetz auf den Seiten der Europäischen Union 
https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai