Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrte Frau Demirel,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie haben Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
vielen Dank für Ihre Nachricht.
Die von Ihnen angesprochenen Risiken – Kontrollverlust, Desinformation und mögliche Verwerfungen auf dem Arbeitsmarkt – verdienen große Aufmerksamkeit. Aus meiner Sicht braucht es eine europäische Strategie, die die gesellschaftlichen Folgen von KI frühzeitig in den Blick nimmt, statt erst auf bereits eingetretene Schäden zu reagieren.
Dabei geht es nicht nur um technische Sicherheit, sondern auch um die Frage, wer die Entwicklung und Nutzung von KI kontrolliert. Derzeit konzentriert sich die technologische Macht in diesem Bereich bei wenigen großen Konzernen. Deshalb braucht es Transparenzpflichten, unabhängige Prüfungen und demokratische Kontrolle über den Einsatz von KI.
Besonders wichtig ist mir die Frage, wie KI am Arbeitsplatz eingesetzt wird. Der Einsatz von KI darf nicht dazu führen, dass Beschäftigte stärker überwacht, Arbeitsbedingungen verschlechtert oder Mitbestimmungsrechte ausgehebelt werden. Deshalb braucht es klare gesetzliche Regeln für KI am Arbeitsplatz sowie starke Informations-, Mitbestimmungs- und Beteiligungsrechte für Betriebsräte und Gewerkschaften. Produktivitätsgewinne durch KI müssen den Beschäftigten zugutekommen und dürfen nicht allein den Unternehmensgewinnen dienen.
Ein weiterer wichtiger Aspekt ist die zunehmende Nutzung von KI für militärische Zwecke. KI darf nicht dazu eingesetzt werden, immer autonomere Waffensysteme zu entwickeln und Entscheidungen über Leben und Tod an Maschinen zu delegieren. Zu diesem Thema habe ich bereits die Broschüre „Eine autonome Aufrüstung?“ veröffentlicht, die Sie hier finden können:
https://oezlem-alev-demirel.de/wp-content/uploads/2020/11/KI-Ruestung-dt-web.pdf
Für diese Ziele werde ich mich auch in dieser Legislaturperiode einsetzen.
Mit freundlichen Grüßen
Özlem Alev Demirel
Mitglied des Europäischen Parlaments
Fraktion The Left
Weitere Fragen an Özlem Demirel
Unabhängig davon, wie man einzelne Betroffene oder ihre journalistische Arbeit bewertet, geht es hierbei um eine aktuelle Entwicklung, die äußerst gefährlich ist: Wenn exekutive Maßnahmen ohne ausreichende rechtliche Kontrolle eingesetzt werden, entsteht ein Klima der Einschüchterung, das auch über die konkret Betroffenen hinaus wirkt und Selbstzensur befördern kann.
Unabhängig davon, wie man einzelne Betroffene bewertet, geht es hier um eine grundsätzliche Entwicklung: Wenn exekutive Maßnahmen ohne ausreichende rechtliche Kontrolle eingesetzt werden, entsteht ein Klima der Einschüchterung, das auch über die konkret Betroffenen hinaus wirkt und Selbstzensur befördern kann.
Progressive Kräfte überall in Europa stellen sich gegen diesen neoliberalen Freihandelsvertrag und auch wir, als Antifaschist:innen und progressive Kraft werden immer soziale Rechte und ökologische Standards verteidigen
Progressive Kräfte überall in Europa stellen sich gegen diesen neoliberalen Freihandelsvertrag und auch wir, als Antifaschist:innen und progressive Kraft werden immer soziale Rechte und ökologische Standards verteidigen