Der Bedarf an Regulierung beim Einsatz und bei der Nutzung Künstlicher Intelligenz (KI) muss angesichts der rasanten technologischen Entwicklung kontinuierlich überprüft werden. Dies ist ebenso Bestandteil des KI-Aktionsplans des Bundesministeriums für Forschung, Technologie und Raumfahrt (BMFTR) wie die systematische Bewertung der Chancen und Risiken dieser Schlüsseltechnologie. Ziel des Aktionsplans ist es, die Entwicklung von KI aktiv mitzugestalten, Risiken frühzeitig zu identifizieren und durch geeignete Maßnahmen wirksam zu adressieren. 

Mit dem sogenannten „AI Act“ (Verordnung über Künstliche Intelligenz) hat die Europäische Union im Jahr 2024 einen einheitlichen Rechtsrahmen für den Einsatz von KI geschaffen. Das weltweit erste umfassende Regelwerk für KI folgt einem risikobasierten Ansatz: Je höher das potenzielle Risiko eines KI-Systems für Grundrechte oder Sicherheit ist, desto strenger sind die regulatorischen Anforderungen. KI-Systeme mit inakzeptablem Risiko werden verboten, während für Hochrisiko-Systeme insbesondere erhöhte Anforderungen an Transparenz, Sicherheit und Kontrolle gelten. Für KI-Systeme mit geringem Risiko sind entsprechende Vorgaben freiwillig. Ergänzend sieht der „AI Act“ die Einrichtung von Aufsichts- und Überwachungsstrukturen auf europäischer und nationaler Ebene vor. Deutschland wird die Verordnung durch ein nationales Durchführungsgesetz umsetzen. Den Entwurf wird die Bundesregierung zeitnah vorlegen.

Auf europäischer Ebene wurde bereits 2024 das Europäische Amt für Künstliche Intelligenz (EU AI Office) eingerichtet. In der Folge bauen auch die Mitgliedstaaten nationale Aufsichtsbehörden auf, die für die Umsetzung, Überwachung und Durchsetzung der KI-Vorschriften zuständig sind. Diese Behörden spielen eine zentrale Rolle bei der praktischen Anwendung des Regelwerks und liefern wichtige Erkenntnisse darüber, ob und in welchem Umfang Anpassungen der Regulierung erforderlich sind. In Deutschland soll die Bundesnetzagentur diese Aufgabe übernehmen. Angesichts der dynamischen technologischen Entwicklung ist eine fortlaufende Weiterentwicklung der rechtlichen Rahmenbedingungen notwendig – möglichst koordiniert und prioritär auf europäischer Ebene.