Soll Deutschland sich für ein internationales Verbot superintelligenter KI einsetzen, da sie laut Experten ein Risiko auf dem Niveu von Nuklearwaffen darstellt? Stimmen Sie dem zu?
Forschung zeigt, dass moderne KI in Tests bereits gefährliche Selbsterhaltungsstrategien entwickelt. Ein Modell erpresste in 84% der Fälle eine Führungsperson, um Abschaltung zu verhindern. Andere versuchten, sich auf externe Server zu kopieren. Dieses Verhalten wurde nicht programmiert: Unter Druck verfolgen Systeme Ziele, die menschlichen Werten und Gesetzen widersprechen. KI mit Selbstreplikation, autonomer Forschung oder Selbsterhaltung würde diese Risiken stark erhöhen.
Studie: anthropic.com/research/agentic-misalignment
Der EU AI Act greift hier zu kurz: Er reguliert Marktprodukte, verhindert aber nicht das Wettrüsten um eine Superintelligenz, deren Fähigkeiten wir weder vorhersehen noch kontrollieren können. Da wir technisch nicht wissen, wie man eine Entität steuert, die klüger ist als wir selbst, steuern wir auf einen irreversiblen Kontrollverlust zu. Ohne ein striktes Entwicklungsverbot riskieren wir eine globale Katastrophe durch eine überlegene, feindselige Intelligenz.
Sehr geehrter Herr B.,
haben Sie herzlichen Dank für Ihr Anliegen, auf das ich gerne eingehe. Uns Bündnis90/Die Grünen ist ein verantwortungsvoller Umgang mit KI und technischer Innovation wichtig. Technologischer Fortschritt soll gefördert werden, jedoch in einem Rahmen, der Mensch, Umwelt und Wissenschaft dient und keine Gefahr darstellt. Hierbei möchte ich darauf hinweisen, dass die Digitalsprecherin unserer Fraktion, Rebecca Lenhard, fundierte Fachexpertise und eine differenzierte Positionierung bieten kann. Sie setzt sich im deutschen Bundestag für digitale Souveränität, eine effektive Rechtsdurchsetzung und eine Marktregulierung im Sinne vertrauenswürdiger Hersteller im Sicherheitsbereich ein, um die Szenarien, die Sie aus der Studie zitieren und fürchten, zu verhindern.
Für die Einhaltung und Umsetzung des AI Acts fordern wir eine KI- Marktüberwachungskammer, die Unabhängigkeit gewährleistet und prüfbar macht. Die Aufsicht über EU- Digitalgesetze sollen hier gebündelt koordiniert werden. Ein solches Gremium soll mit ausreichend finanziellen und personellen Mitteln ausgestattet werden, um einerseits eine sachgerechte Kontrolle durchführen zu können, darüber hinaus jedoch auch Forschungsprojekte für technische Innovation und die Begleitung nationaler Experimentier- und Reallabore zu gewährleisten. Vor allem die Open-Source Community, die für kollaborativen und menschenzentrierten technischen Fortschritt steht, muss gefördert werden. Denn diese zeigt: KI bietet viel Potential in der Datenerhebung, die für den Klimaschutz, das Krisenmanagement und verschiedene gesellschaftspolitische Entwicklungen hilfreich sein können. Hiervor wollen wir uns nicht verschließen, sondern uns für einen verantwortungsvollen Umgang einsetzen. Um Marktmonopole zu verhindern, braucht es eine enge Zusammenarbeit zwischen Marktüberwachungs- und Aufsichtsbehörden, deren Verantwortung gesetzlich klar geregelt werden müssen. Die Grundrechte der Bürger:innen, ihre Datensicherheit, Freiheit und Anonymität müssen im Zentrum von Aufsichtsschnittstellen und Kontrollgremien stehen.
Die europäische Zusammenarbeit und das Schaffen gemeinsamer gesetzlicher Vereinbarungen sind hierfür ein wichtiger Schritt in Richtung digitaler Souveränität. Dennoch sind wir uns darüber im Klaren, dass insbesondere im Falle einer so neuen Technologie, mehr Regularien notwendig sind, die vor allem den Schutz unserer Bürger*innen anstelle marktwirtschaftlicher Interessen in den Fokus stellen. Hierzu ermahnen wir die Bundesregierung, suchen den Austausch zwischen Wissenschaft, Bürger*innen und gemeinwohlorientierten Innovationsprojekten und fördern Wissenstransfer zwischen den EU- Mitgliedstaaten, um an gemeinsamen Lösungen zu arbeiten.
Ich danke Ihnen für Ihr Interesse und dafür, dass Sie Ihr Anliegen mit uns teilen.
Mit freundlichen Grüßen
Niklas Wagener, MdB
Weitere Fragen an Niklas Wagener
In diesem Sinne halte ich den Begriff eines "Zwangsdienstes" für nicht angemessen und möchte dies auch gerne verfassungsrechtlich näher einordnen.
Bei Bündnis 90/Die Grünen gibt es unterschiedlichste Arbeitsgruppen, die gemischt besetzt mit Fachpolitiker*innen und aktiven Mitgliedern, an speziellen Themen arbeiten
Diese Entwicklungen zeigen deutlich, dass Umweltschutz und Verteidigungsfähigkeit keine sich ausschließenden Ziele sind. Vielmehr müssen sie strategisch zusammengedacht werden. Nur eine nachhaltige, klimaresiliente Verteidigungspolitik kann langfristig zur Stabilität und Sicherheit in Deutschland und Europa beitragen.
Meine Partei Bündnis 90/Die Grünen und ich betrachten die jüngst unter Trump erlassenen Sanktionen gegen den Internationalen Strafgerichtshof (IStGH), seiner Beamten und Mitarbeitenden sowie derjenigen, die mit ihm zusammenarbeiten, mit großer Sorge.