KI-Verordnung: Künstliche Intelligenz in der Verwaltung richtig steuern

Die neue KI-Verordnung (EU AI Act oder kurz KI-VO) stellt die Weichen für den sicheren und verantwortungsvollen Einsatz von KI-Systemen – auch im öffentlichen Bereich. Strenge Vorgaben zu Governance, Ethik und Compliance treten bald in Kraft. Verwaltungen müssen jetzt handeln, um Risiken zu minimieren und Strafen zu vermeiden. Wie gelingt eine regelkonforme Umsetzung? Erfahren Sie mehr über den richtigen Umgang mit KI in der Verwaltung! 

Die KI-VO und ihre Bedeutung für die öffentliche Verwaltung 

Die öffentliche Verwaltung steht vor einer doppelten Herausforderung. Einerseits steigt der Druck auf sie, Leistungen und Angebote zu digitalisieren und damit bürgernäher zu gestalten. Andererseits ist manches Handeln von einer Risikoaversion gekennzeichnet, welche auch bei der Beschäftigung mit KI-Anwendungen eine Rolle spielt. Mit der Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz – auch KI-VO oder EU AI-Act – hat die Europäische Union ein wegweisendes Gesetz geschaffen, das den Einsatz sicherer KI-Systeme erstmals umfassend regelt und auch die Herausforderungen der Verwaltung aufgreift. Die weltweit einmalige Rechtsnorm verfolgt dabei mehrere zentrale Ziele: Sie soll Grundrechte von Bürgern schützen und das Vertrauen in KI-Anwendungen fördern – ohne die europäische Innovationskraft auszubremsen.

Klassifikation von KI-Systemen in Risikogruppen 

Eine zentrale Rolle in der VO nimmt die Klassifizierung von KI-Systemen in vier Risikogruppen ein. Diese richten sich nach dem Gefährdungspotenzial des jeweiligen Systems für die Gesellschaft und das Individuum. Ihre Reglementierung reicht von minimaler Kontrolle (Risikogruppen 1 & 2) bis zu einem Komplettverbot (Risikogruppe 4). Bis zur Risikogruppe 2 handelt es sich um KI-Lösungen, die eine Mindesttransparenzpflicht erfüllen müssen. Dieser Gruppe sind viele Anwendungen wie Bürger-Chatbots zuzuordnen, die nur auf öffentlich zugängliche Daten zugreifen können. Solche Anwendungen müssen sich in der Nutzerinteraktion als KI identifizieren.

Ein verlässlicher rechtlicher Rahmen gibt der Verwaltung die nötige Sicherheit bei der Einführung von KI-Systemen

Für die deutsche Verwaltung bietet die KI-VO großes Potential: Ihr Digitalisierungsstand ist insgesamt noch gering [1], KI etwas, das „in der öffentlichen Verwaltung eher ein Nischenthema darstellt“ [2]. Hier schafft die KI-VO Sicherheit für die Verwaltung und bietet ihr eine belastbare rechtliche Grundlage für die Einführung und Nutzung der neuen Technologie. Mithin sollte die KI-VO nicht als Bürokratiemonster missverstanden werden. Stattdessen bietet sie der Verwaltung wichtige Orientierung bei der verantwortungsvollen Beschaffung und Nutzung von KI-Anwendungen und begegnet ihrer Zurückhaltung in Bezug auf diese neue Technologie mit verlässlichen Vorgaben für die Anwendungspraxis. Die Sicherheit, welche die KI-VO schafft, könnte entscheidend dazu beitragen, dass nicht nur das Bedürfnis der Bevölkerung nach bürgerfreundlicheren Prozessen Gehör findet, sondern auch die Verwaltung ihre eigene fortgesetzte Handlungsfähigkeit im Angesicht des fortschreitenden demografischen Wandels sicherstellen kann. Indem KI-Anwendungen in der Verwaltung zeitnah Akzeptanz finden, nimmt ihre Nutzung hier zu. Eine verbreitete KI-Nutzung wiederum ermöglicht es der Verwaltung mit weniger Mitarbeitern effizienter zu arbeiten, da die Arbeitsbelastung pro Mitarbeiter abnimmt und Kapazitäten für weitere Tätigkeiten frei werden. Die KI-VO bietet der Verwaltung demzufolge die Möglichkeit, durch die Nutzung von KI-Anwendungen trotz abnehmenden Personals dienstbereit und bürgernah zu agieren und ihre eigene Digitalisierung entscheidend voranzutreiben. Sie schafft somit nicht nur einen nachhaltigen Mehrwert für den öffentlichen Sektor, sondern sorgt auch für spürbare Verbesserungen für die Bevölkerung.

Umsetzung der KI-VO 

Dringlichkeit erhält die Beschäftigung mit der KI-VO durch die Tatsache, dass in wenigen Monaten das Fristende für das Inkrafttreten weiterer Verordnungsteile ansteht. So treten am 02.08.2025 die Vorgaben zur Regulierung von Allzweck-KI-Modellen wie ChatGPT ebenso in Kraft wie der, auch auf öffentliche Stellen Anwendung findende, Strafkatalog der KI-VO. Dieser sieht zum jetzigen Zeitpunkt für Verstöße primär Geldbußen vor, die sowohl private als auch öffentliche Organisationen betreffen können. Für öffentliche Stellen, einschließlich EU-Institutionen, -Agenturen und -Einrichtungen, könnten bei Verstößen gegen verbotene KI-Praktiken bis zu 7-stellige Geldbußen verhängt werden. Für andere Verstöße gegen die Anforderungen oder Verpflichtungen der KI-VO könnten 6-stellige Strafen erhoben werden.

Um eine solche Sanktionierung zu vermeiden, ist es jetzt auch für die öffentliche Hand entscheidend, dass sie zeitnah in die Umsetzung der Vorgaben des Gesetzes geht und eine solide KI-Governance – sowohl organisatorisch als auch technisch – schafft. Verwaltungen müssen wichtige Standards erreichen sowie Kooperationsmodelle mit zuständigen Kontrollinstanzen schaffen. Gleichzeitig sind risikobasierte Prüfverfahren und transparente Betriebsbedingungen notwendig, um einen KI-VO-konformen Betrieb von KI-Anwendungen zu garantieren.

Deshalb sollten öffentliche Verwaltungen bei der Implementierung von KI-Lösungen über die Schaffung eines Governance-Rahmens nachdenken, um ihre Konformität mit der KI-VO sicherstellen. Dabei empfehlen wir folgende, dreistufige Vorgehensweise:

1. In einem ersten Schritt werden alle (aktuellen und geplanten) KI-Anwendungen inventarisiert. Dieser Prozess schafft einen ganzheitlichen Überblick über alle KI-Anwendungsfälle, die beteiligten Stakeholder und die Sektoren, in denen die Systeme eingesetzt werden.
2. Im zweiten Schritt werden weiterhin alle Anwendungen nach ihren Risiken und spezifischen Anforderungen geclustert. Ebenfalls werden die Rollen und Verantwortlichkeiten aller Stakeholder definiert.
3. Im letzten Schritt werden nun auf der Basis der Inventur und Kategorisierung aller Systeme Prozesse, Rollen und Verantwortlichkeiten für jede KI entwickelt, mit deren Hilfe die Konformität mit der KI-VO garantiert werden kann.

Am Ende dieses Prozesses steht dann ein Framework, das die Risiken für Reputation und Haftung einer Organisation durch die Kontrolle aller KI-Systeme minimiert.

Wissenswertes zur KI-VO zusammengefasst:

1. Die KI-VO betrifft auch die öffentliche Hand! Sie muss sich ebenso wie private Unternehmen eine KI-Governance zulegen, die ihre fortgesetzte Einhaltung der Verordnung garantiert. Der Prozess der Schaffung einer solchen Struktur umfasst aus unserer Sicht ein dreistufiges Verfahren. Dieses ist anhängig von der Art und Menge der KI-Anwendungen für jede Organisation unterschiedlich.
2. Erste KI-Anwendungen sind bereits verboten und die weitere Umsetzung der Vorgaben erfolgt in einem gestaffelten Prozess über die nächsten Jahre, die nächste Deadline ist am 02.08.2025.
3. Bei Nicht-Einhaltung der KI-VO drohen auch der öffentlichen Hand empfindliche Strafen.

Quellen: 

[1] Detecon-Studie Erfolgsfaktoren zur Digitalisierung in der öffentlichen Verwaltung, S.19.

[2] Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung, S.8.