Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrte Frau Hahn,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie haben Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
mit dem AI Act, der im ersten Halbjahr 2026 über ein sogenanntes Omnibus-Verfahren nochmals aktualisiert wurde, verfügt Europa über die weitreichendste KI-Regulierung der Welt. Dabei geht es ganz besonders um Risikokontrolle und Sicherheit von KI-Systemen. Darüber hinaus halte ich es in der momentanen Situation nicht für zielführend, dass sich Europa in eine Abwehrhaltung gegenüber Künstlicher Intelligenz begibt, bei der lediglich potenzielle Risiken und Gefahren gesehen und versucht werden abzuwehren. Stattdessen braucht es einen Mindset-Wechsel, hin zu einer Offenheit und Förderung Künstlicher Intelligenz mit möglichst weitreichender Innovationsförderung. Nur so können wir den ohnehin stattfindenden Wandel gewinnbringend für unsere Gesellschaften begleiten anstatt über Abwehrreflexe technologisch den Anschluss zu verlieren.
Dessen ungeachtet müssen EU und MItgliedsstaaten selbstverständlich dauerhaft sich neu ergebende Risiken im Blick behalten und darauf reagieren. Dies gilt aktuell ganz besonders für die durch KI auf völlig neue Weise herausgeforderte Cybersicherheit.
Mit freundlichen Grüßen
Svenja Hahn
Weitere Fragen an Svenja Hahn
Statt neuer Verbote und übermäßiger Regulierungen sollten bereits geltende Gesetze gegen illegale Produkte und Inhalte konsequent durchgesetzt werden.
Ein EU-weites Verbot würde die Europäische Union vom globalen Wettbewerb ausschließen. Wichtig ist dagegen ein international abgestimmtes Risikomanagement.
Der digtiale Omnibus ist eine Chance für Innovation in Europa. Zugleich setze ich mich weiter gegen jede Form der Massenüberwachung von Bürgern durch KI ein.
Die generelle Überwachung privater Chats ist für mich eine rote Linie, der ich niemals zustimmen werde