Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrter Herr Schwab,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie haben Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
vielen Dank für Ihre Frage zu den Risiken fortgeschrittener KI-Systeme. Sie sprechen mit Kontrollverlust, massiven Umbrüchen am Arbeitsmarkt sowie der Gefährdung demokratischer Prozesse durch Desinformation drei zentrale Herausforderungen an, die auf europäischer Ebene zunehmend diskutiert werden. Ich teile die Auffassung, dass Europa bei sicherheitskritischen Technologien vorausschauend handeln muss und Risiken nicht erst nach eingetretenen Schäden adressieren darf.
Deswegen zu Ihrer konkreten Frage: Ja, ich unterstütze sowohl die Entwicklung einer EU-weiten KI-Risikostrategie als auch ergänzende nationale Strategien. Der europäische Rahmen sollte gemeinsame Standards für Sicherheit, Transparenz und demokratische Kontrolle schaffen, während nationale Strategien insbesondere Bildung, Arbeitsmarktpolitik, Cybersicherheit und den Umgang der Verwaltung mit KI adressieren sollten. Auf europäischer Ebene wurden mit dem EU AI Act bereits wichtige Grundlagen geschaffen. Gleichzeitig ist klar, dass die Regulierung mit der technologischen Entwicklung Schritt halten muss. Deshalb unterstütze ich insbesondere folgende konkrete Maßnahmen in dieser Legislaturperiode:
- Konsequentes Vorgehen gegen missbräuchliche KI-Anwendungen: Im Rahmen des sogenannten „Digital Omnibus“ wurde in den Trilogen letzte Woche zuletzt ein Verbot sogenannter „Nudification-Apps“ entschieden. Diese Anwendungen erzeugen mittels KI nicht-einvernehmliche intime Darstellungen und stellen einen schwerwiegenden Eingriff in Persönlichkeitsrechte und Menschenwürde dar. Hier zeigt sich, dass Europa gezielt gegen konkrete Hochrisikoanwendungen vorgeht.
- Aufbau europäischer technologischer Souveränität: Ich unterstütze den geplanten Cloud and AI Development Act. Ziel ist es, die Rechenzentrums- und Cloudkapazitäten in Europa massiv auszubauen und damit die Grundlage für leistungsfähige europäische KI-Systeme zu schaffen. Der Fokus liegt insbesondere auf schnelleren und vereinfachten Genehmigungsverfahren für nachhaltige Rechenzentren sowie auf dem Ausbau sicherer Computing-Infrastrukturen. Europa muss seine Abhängigkeit von außereuropäischen Cloud-Anbietern reduzieren, um langfristig technologische Handlungsfähigkeit, Datensicherheit und Wettbewerbsfähigkeit zu sichern.
- Schutz demokratischer Prozesse: Plattformen und KI-Anbieter müssen stärker gegen KI-generierte Desinformation, Deepfakes und automatisierte Manipulationskampagnen vorgehen. Mit dem Digital Services Act verfügt die EU bereits über ein wichtiges Instrument gegen systemische Risiken auf großen Online-Plattformen. Der DSA verpflichtet insbesondere sehr große Plattformen dazu, Risiken wie Desinformation, koordinierte Manipulationskampagnen und KI-generierte Deepfakes zu analysieren und Gegenmaßnahmen zu ergreifen. Transparenzpflichten für Empfehlungsalgorithmen und Online-Werbung stärken zusätzlich die Nachvollziehbarkeit digitaler Einflussnahme. Diese Regeln müssen konsequent durchgesetzt und an neue KI-Entwicklungen angepasst werden.
- Vorbereitung auf Veränderungen am Arbeitsmarkt: Die Auswirkungen von Automatisierung auf Beschäftigung und soziale Sicherungssysteme müssen frühzeitig analysiert werden. Dazu gehören Investitionen in Weiterbildung, digitale Kompetenzen und Qualifizierungsprogramme.
Ich halte es für entscheidend, dass Europa Innovation und Risikominimierung gemeinsam denkt: Wir müssen einerseits international wettbewerbsfähig bleiben, andererseits aber klare Leitplanken für Sicherheit, Grundrechte und demokratische Stabilität setzen.
Vielen Dank nochmals für Ihre Anfrage.
Mit freundlichen Grüßen
Ihr
Andreas Schwab
Weitere Fragen an Andreas Schwab
Meine Kolleginnen und Kollegen wollen mit mir darauf hinwirken, dass die Durchsetzung des Gesetzes über digitale Märkte nicht nur weitergeht wie bisher, sondern noch effektiver wird.
Die Europäische Kommission verfolgt mit der Euro-7-Verordnung das Ziel, gesundheitsschädliche Emissionen aus dem Straßenverkehr deutlich zu reduzieren.
Gerade die Möglichkeit, Sanktionsentscheidungen vor den Gerichten der Europäischen Union anzufechten, zeigt, dass rechtsstaatliche Kontrolle besteht und Entscheidungen überprüfbar sind
Würde man das bestehende Limit anheben, ließe sich der Status als „Fahrrad“ rechtlich kaum noch aufrechterhalten. Die Folge wäre eine Einordnung als Kraftfahrzeug der L-Kategorie, was weitreichende Konsequenzen für die Praxis hätte.