Soll Deutschland sich für ein internationales Verbot superintelligenter KI einsetzen, da sie laut Experten ein Risiko auf dem Niveu von Nuklearwaffen darstellt? Stimmen Sie dem zu?
Forschung zeigt, dass moderne KI in Tests bereits gefährliche Selbsterhaltungsstrategien entwickelt. Ein Modell erpresste in 84% der Fälle eine Führungsperson, um Abschaltung zu verhindern. Andere versuchten, sich auf externe Server zu kopieren. Dieses Verhalten wurde nicht programmiert: Unter Druck verfolgen Systeme Ziele, die menschlichen Werten und Gesetzen widersprechen. KI mit Selbstreplikation, autonomer Forschung oder Selbsterhaltung würde diese Risiken stark erhöhen.
Studie: anthropic.com/research/agentic-misalignment
Der EU AI Act greift hier zu kurz: Er reguliert Marktprodukte, verhindert aber nicht das Wettrüsten um eine Superintelligenz, deren Fähigkeiten wir weder vorhersehen noch kontrollieren können. Da wir technisch nicht wissen, wie man eine Entität steuert, die klüger ist als wir selbst, steuern wir auf einen irreversiblen Kontrollverlust zu. Ohne ein striktes Entwicklungsverbot riskieren wir eine globale Katastrophe durch eine überlegene, feindselige Intelligenz.
Sehr geehrter Herr B.,
vielen Dank für Ihre Anfrage über die Online-Plattform Abgeordnetenwatch zu meiner Positionierung im Hinblick auf ein internationales Verbot sogenannter „superintelligenter“ Künstlicher Intelligenz.
Ich persönlich lehne ein generelles Verbot von KI-Systemen ab. Auf der Grundlage eines risikobasierten Regulierungsrahmens lassen sich meiner Ansicht nach Sicherheit und Innovation vernünftig miteinander verbinden. Fortschritt lässt sich nicht aufhalten, aber er lässt sich lenken.
Sie sprechen die europäische KI-Verordnung (EU) 2024/1689 („AI-Act“)“, die 2024 verabschiedet wurde und seitdem schrittweise Anwendung findet. Diese schafft erstmals weltweit einen umfassenden Rechtsrahmen für Entwicklung, Einsatz und Vermarktung von KI-Systemen. Ziel ist es, Grundrechte zu schützen, Risiken zu minimieren und zugleich technologische Innovation zu ermöglichen. Meiner Ansicht nach ist die Abstufung nach Risikoklassen sachgerecht. Verboten sind KI-Anwendungen mit „unannehmbarem Risiko“, etwa manipulative Systeme oder bestimmte Formen sozialer Bewertung. Streng reguliert werden sogenannte Hochrisiko-Systeme (z. B. in kritischer Infrastruktur, Medizin oder Arbeitswelt) mit umfangreichen Anforderungen an Sicherheit, Transparenz und menschlicher Kontrolle.
Im Hinblick auf die vielfältigen Chancen durch den Fortschritt im Bereich künstlicher Intelligenz wäre es daher nicht zielführend, dieser Entwicklung mit einem pauschalen Verbot begegnen zu wollen. Damit würden wir nicht nur Innovation und Wettbewerbsfähigkeit einschränken, sondern auch die Möglichkeit nehmen, die Technologie aktiv und verantwortungsvoll zu gestalten.
Die Bundesregierung arbeitet aktuell an der nationalen Umsetzung dieser europäischen Vorgaben. Das Bundeskabinett hat hierzu am 11. Februar 2026 ein Durchführungsgesetz beschlossen, das insbesondere die Zuständigkeiten von Aufsichtsbehörden sowie Marktüberwachungs- und Sanktionsmechanismen regelt. Dieser Gesetzentwurf muss jetzt noch den Bundestag und den Bundesrat durchlaufen. In dieser Woche, am Freitag, 20. März 2026, wird der Gesetzentwurf in 1. Lesung in den Deutschen Bundestag eingebracht.
In diesem Entwurf ist sehr konkret festgelegt, welche nationalen Behörden des Bundes und der Länder für die Marktüberwachung und Notifizierung von KI-Systemen nach der KI-Verordnung zuständig sind. Er regelt deren Zusammenarbeit und schafft klare Ansprechpartner für Unternehmen. Dabei wird auf bestehende Strukturen und behördliche Expertise zurückgegriffen, um Doppelarbeit zu vermeiden und bewährte Fachkompetenz zu nutzen. Kernelement des Entwurfs ist die zentrale Rolle der Bundesnetzagentur. Das dort angesiedelte Koordinierungs- und Kompetenzzentrum bündelt KI-Expertise, stellt sie den zuständigen Behörden zur Verfügung und bietet u.a. Informationen und Anleitungen zur Anwendung für Unternehmen. Das stellt sicher, dass die hohen europäischen Standards für Sicherheit, Transparenz und Überwachung von Hochrisiko-KI-Systemen effektiv gewährleistet bleiben und gleichzeitig der bürokratische Aufwand so gering wie möglich gehalten wird. Die Bundesnetzagentur wird auch wesentliche Aufgaben im Bereich der Innovationsförderung erhalten. Hierzu gehört die Einrichtung von KI-Reallaboren und die Bereitstellung von Informations-, Schulungs- und Vernetzungsangeboten.
Mit persönlich ist es sehr wichtig, dass im Sinne einer praxisnahen Umsetzung keine Rechtsunsicherheit bestehen und keine bürokratischen und technischen Hürden für Unternehmen entstehen.
Ich hoffe, ich konnte Ihnen meine Position zu moderner KI ausreichend darlegen. Bei eventuellen Rückfragen bitte ich um direkte Kontaktaufnahme über mein Abgeordnetenbüro im Deutschen Bundestag.
Mit freundlichen Grüßen
Vivian Tauschwitz MdB
Weitere Fragen an Vivian Tauschwitz
Rentenkommission berät über die geplanten Strukturreformen im Rentensystem ergebnisoffen
Aufgrund neuer Vorgaben zur Ermittlung der amtsangemessenen Alimentation müssen Neuberechnungen erfolgen - deshalb aktuell kein verbindlicher Zeitplan
Betrachtung der Alterssicherung als Gesamtsystem
CDU setzt sich auf EU-Ebene, auf Bundes- und Landesebene für die Verbesserung der Frauenrechten ein.