Unterstützen Sie eine EU-weite KI-Risikostrategie, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrte Frau Burkhardt,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Für andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie wurden Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
vielen Dank für Ihre Nachricht! Die von Ihnen angesprochenen Herausforderungen beschäftigen mich ebenfalls und verdienen eine ernsthafte und vorausschauende politische Auseinandersetzung.
Ich halte eine europäische KI-Risikostrategie für notwendig. Angesichts der globalen Entwicklung von Künstlicher Intelligenz wäre langfristig sogar ein international abgestimmter Ansatz wünschenswert. Dabei sollte das Vorsorgeprinzip eine zentrale Rolle spielen. Geeignete Schutzmaßnahmen sollten also bereits dann ergriffen werden können, wenn hinreichende Anhaltspunkte für erhebliche Risiken bestehen.
Ergänzend können nationale KI-Risikostrategien dort sinnvoll sein, wo die Zuständigkeiten bei den Mitgliedstaaten liegen, etwa in Bereichen des Arbeitsmarktes, der Bildung oder der inneren Sicherheit.
Wir als europäische Sozialdemokratie setzen uns derzeit intensiv mit den langfristigen Auswirkungen von KI auseinander. Auch das von Ihnen erwähnte Szenario „AI 2027“ wird dabei diskutiert. Erst kürzlich haben wir uns im Austausch mit Wissenschaftler*innen mit den Chancen und Risiken fortgeschrittener KI-Systeme befasst, um daraus Schlussfolgerungen für die programmatische Arbeit der kommenden Jahre zu ziehen.
Beim Schutz demokratischer Prozesse verfügt die Europäische Union bereits über wichtige Instrumente wie den “Digital Services Act”, der insbesondere große Online-Plattformen dazu verpflichtet, Risiken wie Desinformation, koordinierte Manipulationskampagnen und KI-generierte Deepfakes zu analysieren und geeignete Gegenmaßnahmen zu ergreifen. Hinzu kommen Transparenzpflichten für Empfehlungsalgorithmen und Online-Werbung. Solche Regelungen müssen stets weiterentwickelt werden.
Auch beim Thema von gefährlichen KI- Praktiken wurden mit dem Europäischen “AI Act” bereits wichtige Fortschritte erzielt. Die Verordnung bewertet Systeme Künstlicher Intelligenz nach Risikokriterien. Bestimmte Anwendungen wie social scoring, Echtzeit- Gesichtserkennung oder Nudifier sind dabei kategorisch verboten. KI- Systeme, die in die Kategorie “Hochrisiko” fallen, müssen besondere Vorsichtsmaßnahmen treffen und menschliche Kontrolle sicherstellen.
Der “AI Act” regelt jedoch primär die Nutzung, nicht die Entwicklung von KI. Ob und in welchem Umfang der Entwicklung von KI- Modellen (also bspw. einer möglichen KI Superintelligenz) Grenzen gesetzt werden, muss uns in der kommenden Zeit beschäftigen. Ich halte diese Debatte für äußerst notwendig. Am zielführendsten wäre hier eine internationale Regelung.
Abseits davon müssen wir mehr in die Entwicklung von europäischer KI investieren und uns unabhängiger von Anbietern aus Drittstaaten machen.
Vielen Dank für Ihre Hinweise und Ihr Engagement zu diesem wichtigen Thema!
Herzliche Grüße
Delara Burkhardt
Weitere Fragen an Delara Burkhardt
Unbefristete Pestizidzulassungen gefährden Umwelt und Gesundheitsschutz. Wir fordern Überarbeitung und bleiben bei strengen, wissenschaftsbasierten Prüfungen.
Auch mich beschäftigt die Situation der an ME/CFS erkrankten Menschen.
Wo Engagement friedlich, demokratisch und im Rahmen unseres Rechtsstaats erfolgt, ist es Ausdruck einer wachsamen Zivilgesellschaft. Das unterstütze ich ausdrücklich. Die Anwendung von Gewalt oder die Infragestellung unserer demokratischen Grundordnung lehne ich jedoch entschieden ab.
Seien Sie versichert: Das Schicksal der Menschen im Iran liegt mir sehr am Herzen.